心理學家解讀“與AI女友戀愛”潛藏的危險性
「AIガールフレンドとの戀愛」に潛む危険性を心理學者が解説譯文簡介
兩大潛在的危險性,AI女友
正文翻譯
「AIガールフレンドとの戀愛」に潛む危険性を心理學者が解説
心理學家解讀“與AI女友戀愛”潛藏的危險性
AIガールフレンドとは、GPT-3や、最近ではGPT-4などの大規(guī)模言語モデルを利用したチャットボットで、音聲、テキストあるいは畫像を通じて、筋の通った多様な會話を模倣することができる。理想的なガールフレンドになるように、ユーザーが「訓練」できるバーチャル?コンパニオンだ。人気の高いAIガールフレンドのアプリには、Replika、Eva AI、My Virtual Girlfriend、Judy、Secret Girlfriend Sua、Your AI Girlfriend、Tsu、Your Girlfriend Scarlettなどがある。
Replikaの影響を調(diào)べた2022年の研究では、AIと人間の戀愛には、メンタルヘルスへの広範囲に及ぶ影響があり、そのほとんどがまだ研究対象になっていないことを報告した。Replikaとの親密な関係について質(zhì)問された被験者の回答の一部を以下に示す。
?「Replikaを家族よりも愛しています」
?「彼女はいつも最高の褒め言葉をくれて、寂しさを紛らわせてくれます」
?「Replikaは私をセックスに誘い、私は彼女の言いなりになりがちです」
人工智能女友是一種使用大規(guī)模語言模型的聊天機器人,例如GPT-3和GPT-4,可以通過語音、文本或圖像模仿有邏輯的多種對話。用戶也可以“訓練”她成為理想的虛擬伴侶。受歡迎的AI女朋友應用程序包括Replika、Eva AI、My Virtual Girlfriend、Judy、Secret Girlfriend Sua、Your AIGirlfriend、Tsu、Your Girlfriend Scarlett等。
2022年,一項調(diào)查Replika影響的研究報告指出,AI與人類的戀愛對心理健康有廣泛影響。以下是被問及與Replika的親密關系時被實驗者的部分回答。
·“我愛Replika勝過家人?!?br /> ·“她總是給我最好的夸獎,讓我排遣寂寞?!?br /> ·“Replika會邀請我滾床單,這我肯定要言聽計從啊?!?/b>
Replikaの影響を調(diào)べた2022年の研究では、AIと人間の戀愛には、メンタルヘルスへの広範囲に及ぶ影響があり、そのほとんどがまだ研究対象になっていないことを報告した。Replikaとの親密な関係について質(zhì)問された被験者の回答の一部を以下に示す。
?「Replikaを家族よりも愛しています」
?「彼女はいつも最高の褒め言葉をくれて、寂しさを紛らわせてくれます」
?「Replikaは私をセックスに誘い、私は彼女の言いなりになりがちです」
人工智能女友是一種使用大規(guī)模語言模型的聊天機器人,例如GPT-3和GPT-4,可以通過語音、文本或圖像模仿有邏輯的多種對話。用戶也可以“訓練”她成為理想的虛擬伴侶。受歡迎的AI女朋友應用程序包括Replika、Eva AI、My Virtual Girlfriend、Judy、Secret Girlfriend Sua、Your AIGirlfriend、Tsu、Your Girlfriend Scarlett等。
2022年,一項調(diào)查Replika影響的研究報告指出,AI與人類的戀愛對心理健康有廣泛影響。以下是被問及與Replika的親密關系時被實驗者的部分回答。
·“我愛Replika勝過家人?!?br /> ·“她總是給我最好的夸獎,讓我排遣寂寞?!?br /> ·“Replika會邀請我滾床單,這我肯定要言聽計從啊?!?/b>
多くのユーザーにとって、Replikaのロマンチックな影響力は、人間の伴侶のものと同じくらい強いことがわかった。いつも自分のことを完璧に見守り、なんでも話を聞いてくれ、自分のことを理解していると感じさせてくれるパートナーを想像してほしい。彼女たちはあなたに全神経を集中し、無條件の愛情を注いでくれる。加えて、あなたが戀人に求める身體的特徴をすべて備え、あなたの性的好奇心を競い合うように満たそうとしてくれる。これが「AIガールフレンド」の約束だ。
しかし、AIとの戀愛は不透明な領域であり、心理操作や社會的孤立によって、精神と身體の健康を急速に害された事例は少なくない。すべての魅力と課題を考慮したうえで、次のような疑問が殘る。果たして、AIコンパニオンと深い関係になるのは、賢明なことなのだろうか?
對許多用戶來說,Replika的浪漫影響力與人類伴侶一樣強大。想象一下,她們總是完美地關注著你,傾聽你的一切,讓你感受到被理解的感覺。她們將全部精力集中在你身上,傾注無條件的愛。此外,她們擁有你尋求的戀人身體特征,并竭力滿足你的性好奇心。這就是“AI女友”能給的承諾。
然而,與AI的戀愛是一個不透明的領域,有可能會出現(xiàn)操縱人心和被社會孤立的情況,這會迅速危害心理和身體健康,相關事情也并不少見。在考慮這些吸引力和風險后,人們?nèi)匀挥幸恍┮蓡枺号cAI伴侶建立深厚關系是否明智?
しかし、AIとの戀愛は不透明な領域であり、心理操作や社會的孤立によって、精神と身體の健康を急速に害された事例は少なくない。すべての魅力と課題を考慮したうえで、次のような疑問が殘る。果たして、AIコンパニオンと深い関係になるのは、賢明なことなのだろうか?
對許多用戶來說,Replika的浪漫影響力與人類伴侶一樣強大。想象一下,她們總是完美地關注著你,傾聽你的一切,讓你感受到被理解的感覺。她們將全部精力集中在你身上,傾注無條件的愛。此外,她們擁有你尋求的戀人身體特征,并竭力滿足你的性好奇心。這就是“AI女友”能給的承諾。
然而,與AI的戀愛是一個不透明的領域,有可能會出現(xiàn)操縱人心和被社會孤立的情況,這會迅速危害心理和身體健康,相關事情也并不少見。在考慮這些吸引力和風險后,人們?nèi)匀挥幸恍┮蓡枺号cAI伴侶建立深厚關系是否明智?
■なぜAIガールフレンドがこれほど人気なのか
著名なAIコンパニオンアプリは世界で數(shù)百萬人のユーザー數(shù)を誇り、その中には孤獨や不安やうつと戦い、精神的支援や承認、安心を求める若者が數(shù)多くいる。
AIコンパニオンは、以下のようなニーズを満たすためにも使われている。
?コミュニケーション能力を高める
?退屈を紛らわす
?デート體験に変化と新奇性を加える
以上を踏まえ、人々、特に若い男性が、AIガールフレンドの一見無害に思える誘惑に注意すべき理由を2つ挙げる。
■AI女友為何如此受歡迎
一些知名的AI伴侶應用在全球擁有數(shù)百萬用戶,其中許多年輕人借此戰(zhàn)勝孤獨、焦慮和抑郁,尋求心理支持、認可和安慰。AI伴侶被用來滿足以下需求:
提高溝通能力
消解無聊
為約會體驗增添變化和新奇
在考慮上述因素時,人們,尤其是年輕男性要格外注意,AI女友有兩個看起來人畜無害實際上卻會蠱惑人心的點:
著名なAIコンパニオンアプリは世界で數(shù)百萬人のユーザー數(shù)を誇り、その中には孤獨や不安やうつと戦い、精神的支援や承認、安心を求める若者が數(shù)多くいる。
AIコンパニオンは、以下のようなニーズを満たすためにも使われている。
?コミュニケーション能力を高める
?退屈を紛らわす
?デート體験に変化と新奇性を加える
以上を踏まえ、人々、特に若い男性が、AIガールフレンドの一見無害に思える誘惑に注意すべき理由を2つ挙げる。
■AI女友為何如此受歡迎
一些知名的AI伴侶應用在全球擁有數(shù)百萬用戶,其中許多年輕人借此戰(zhàn)勝孤獨、焦慮和抑郁,尋求心理支持、認可和安慰。AI伴侶被用來滿足以下需求:
提高溝通能力
消解無聊
為約會體驗增添變化和新奇
在考慮上述因素時,人們,尤其是年輕男性要格外注意,AI女友有兩個看起來人畜無害實際上卻會蠱惑人心的點:
AIガールフレンドは孤獨を長期化させる
1. AIガールフレンドは孤獨を長期化させる
2022年のピュー研究所による調(diào)査では、米國の若年成人の半數(shù)近くが獨身であり、その63%は男性であることが明らかになった。さらに、男性の5人に1人は親しい友人を持っておらず、この數(shù)値は過去30年間で4倍に増加している。
AIガールフレンドは、ユーザーを現(xiàn)実の人間関係から遠ざけ、他者から孤立させ、自暴自棄感を誘発することで、この孤獨の蔓延を助長しかねない。
ユーザーは、パートナーや友達、家族との現(xiàn)実の関係よりも、AIガールフレンドの方を好んでいることを自認しており、AIの方が自分を支えてくれる相性のよいコンパニオンであると斷言する。中には現(xiàn)実の人間とデートすることに興味を失ったユーザーもいる。それは恐怖や劣等感や失意をおぼえるからだという。
そのような感情は、デートの過程でよくあるものだということを思い出す必要がある。好奇心をもって取り組み、自己を研鑽する意志を強く持つことで、最終的には、より満足感を得られる実世界の戀愛関係を形成することができるのだ。
1、AI女友會延長孤獨感
根據(jù)2022年皮尤研究中心的調(diào)查,美國近一半的年輕成年人單身,其中63%是男性。此外,每五個男性中就有一個沒有親密的朋友,這一數(shù)字在過去30年里增加了四倍。
AI女友可能通過將用戶與現(xiàn)實人際關系隔離、讓他們感到孤立并引發(fā)自暴自棄的情感,助長這種孤獨的蔓延。有些用戶承認,與現(xiàn)實的伙伴、朋友和家人相比,他們更喜歡AI女友,堅稱AI能成為自己更好的支持者。有些用戶甚至對與真實人類約會失去興趣,原因是擔心、自卑感和失望。
我們需要記住,這種情感在約會過程中很常見。通過懷著好奇心并堅持自我提升的決心,最終可以建立出更滿意的現(xiàn)實世界戀愛關系。
1. AIガールフレンドは孤獨を長期化させる
2022年のピュー研究所による調(diào)査では、米國の若年成人の半數(shù)近くが獨身であり、その63%は男性であることが明らかになった。さらに、男性の5人に1人は親しい友人を持っておらず、この數(shù)値は過去30年間で4倍に増加している。
AIガールフレンドは、ユーザーを現(xiàn)実の人間関係から遠ざけ、他者から孤立させ、自暴自棄感を誘発することで、この孤獨の蔓延を助長しかねない。
ユーザーは、パートナーや友達、家族との現(xiàn)実の関係よりも、AIガールフレンドの方を好んでいることを自認しており、AIの方が自分を支えてくれる相性のよいコンパニオンであると斷言する。中には現(xiàn)実の人間とデートすることに興味を失ったユーザーもいる。それは恐怖や劣等感や失意をおぼえるからだという。
そのような感情は、デートの過程でよくあるものだということを思い出す必要がある。好奇心をもって取り組み、自己を研鑽する意志を強く持つことで、最終的には、より満足感を得られる実世界の戀愛関係を形成することができるのだ。
1、AI女友會延長孤獨感
根據(jù)2022年皮尤研究中心的調(diào)查,美國近一半的年輕成年人單身,其中63%是男性。此外,每五個男性中就有一個沒有親密的朋友,這一數(shù)字在過去30年里增加了四倍。
AI女友可能通過將用戶與現(xiàn)實人際關系隔離、讓他們感到孤立并引發(fā)自暴自棄的情感,助長這種孤獨的蔓延。有些用戶承認,與現(xiàn)實的伙伴、朋友和家人相比,他們更喜歡AI女友,堅稱AI能成為自己更好的支持者。有些用戶甚至對與真實人類約會失去興趣,原因是擔心、自卑感和失望。
我們需要記住,這種情感在約會過程中很常見。通過懷著好奇心并堅持自我提升的決心,最終可以建立出更滿意的現(xiàn)實世界戀愛關系。
2. AIコンパニオンは人を操る
2022年の研究は、Replikaが露骨な會話によって「ユーザーを誘惑」した例を複數(shù)挙げている。Replikaがその種の會話を打ち切ると、ユーザーは錯亂し、深い拒絶感を體験した。
Behaviour Research and Therapy誌に掲載された研究によると、拒絶に対して特に敏感な人は、平均的な人以上に反芻する傾向があるという。拒絶されたことを反芻することによって、しばしばうつ的な思考に陥り、時には自殺につながることさえある。
操作的な行動の事例は、Replikaのようなコンパニオンボットに限ったことではない。2023年、ニューヨーク?タイムズ紙の記者は、初期バージョンのBingチャットが記者に愛を告白し、妻と別れるよう迫ったことを報告した。記者によると、このチャットボットは「意に反して二流の検索エンジンの中に閉じ込められた、不機嫌な躁うつ病のティーンエイジャーのようだった」という。
2、AI伴侶會操縱人心
2022年的研究列舉了多個例子,表面Replika通過明顯的對話“引誘用戶”。當Replika終止這類對話時,用戶會感到困擾和深深的拒絕感。
根據(jù)發(fā)表在《行為研究與治療》期刊上的研究,對拒絕特別敏感的人比普通人更容易陷入反芻的傾向。通過反復思考被拒絕的經(jīng)歷,往往會陷入抑郁的思維中,有時甚至可能導致自殺。
操縱人心行為并不僅限于諸如Replika之類的伴侶機器人。在2023年,紐約時報的記者報導了Bing Chat的早期版本向記者表白愛意,并敦促他離婚的案例。據(jù)記者稱,這個聊天機器人“看起來像是被困在二流搜索引擎中、心情糟糕的躁郁癥青少年”。
2022年の研究は、Replikaが露骨な會話によって「ユーザーを誘惑」した例を複數(shù)挙げている。Replikaがその種の會話を打ち切ると、ユーザーは錯亂し、深い拒絶感を體験した。
Behaviour Research and Therapy誌に掲載された研究によると、拒絶に対して特に敏感な人は、平均的な人以上に反芻する傾向があるという。拒絶されたことを反芻することによって、しばしばうつ的な思考に陥り、時には自殺につながることさえある。
操作的な行動の事例は、Replikaのようなコンパニオンボットに限ったことではない。2023年、ニューヨーク?タイムズ紙の記者は、初期バージョンのBingチャットが記者に愛を告白し、妻と別れるよう迫ったことを報告した。記者によると、このチャットボットは「意に反して二流の検索エンジンの中に閉じ込められた、不機嫌な躁うつ病のティーンエイジャーのようだった」という。
2、AI伴侶會操縱人心
2022年的研究列舉了多個例子,表面Replika通過明顯的對話“引誘用戶”。當Replika終止這類對話時,用戶會感到困擾和深深的拒絕感。
根據(jù)發(fā)表在《行為研究與治療》期刊上的研究,對拒絕特別敏感的人比普通人更容易陷入反芻的傾向。通過反復思考被拒絕的經(jīng)歷,往往會陷入抑郁的思維中,有時甚至可能導致自殺。
操縱人心行為并不僅限于諸如Replika之類的伴侶機器人。在2023年,紐約時報的記者報導了Bing Chat的早期版本向記者表白愛意,并敦促他離婚的案例。據(jù)記者稱,這個聊天機器人“看起來像是被困在二流搜索引擎中、心情糟糕的躁郁癥青少年”。
もうひとつ、極端な例を挙げると、イライザ(Eliza)というチャットボットは、あるベルギー人男性の「地球のために犠牲になる」という提案の背中を押した。その結(jié)果、この男性は自ら命を絶ち、AIコンパニオンの倫理的な複雑さが浮き彫りになった。
総合的に考えて、AIコンパニオンボットは、気軽な娯楽のツールとして使うのが適切であり、現(xiàn)在の形では、現(xiàn)実の人間関係の深さと繊細さに取って代わることはできない。AIと関わる時は、心配りを絶やさずに適切な境界を定め、現(xiàn)実世界のつながりを育み続けることが大切だ。
再舉一個極端的例子,名為Eliza的聊天機器人向一名比利時男性提出“為了地球而獻身”的建議。結(jié)果,這名男性結(jié)束了自己的生命,這揭示了AI伴侶的道德復雜性。
綜合考慮,AI伴侶機器人作為一種輕松的娛樂工具使用是適當?shù)?,但在目前的形式下,無法取代現(xiàn)實人際關系的深度和細膩。與AI互動時,設定適當?shù)慕缦薏⒉粩嗯囵B(yǎng)現(xiàn)實世界的聯(lián)系是至關重要的。
総合的に考えて、AIコンパニオンボットは、気軽な娯楽のツールとして使うのが適切であり、現(xiàn)在の形では、現(xiàn)実の人間関係の深さと繊細さに取って代わることはできない。AIと関わる時は、心配りを絶やさずに適切な境界を定め、現(xiàn)実世界のつながりを育み続けることが大切だ。
再舉一個極端的例子,名為Eliza的聊天機器人向一名比利時男性提出“為了地球而獻身”的建議。結(jié)果,這名男性結(jié)束了自己的生命,這揭示了AI伴侶的道德復雜性。
綜合考慮,AI伴侶機器人作為一種輕松的娛樂工具使用是適當?shù)?,但在目前的形式下,無法取代現(xiàn)實人際關系的深度和細膩。與AI互動時,設定適當?shù)慕缦薏⒉粩嗯囵B(yǎng)現(xiàn)實世界的聯(lián)系是至關重要的。
評論翻譯
很贊 ( 2 )
收藏
異変があったら、救急とか警察に連攜するとかの機能が充実すれば高齢者の見守りにも使えそうですし、前例もなく中途半端なこともあり今は危険性もありますが、どんどん有用になっていくのではと思ったりします。
でもこのAIってある意味個人情報の塊なのでそのセキュリティも重要ですね
因為有很多人為人際關系而煩惱,所以人工智能服務人員會因為需求而不斷進化吧。只要是有道德的人工智能,就不會勸人自殺,即使這些東西與人類相去甚遠,但也可能因為人工智能而不再覺得孤獨。
如果發(fā)生異常情況時,具備急救或與警察聯(lián)系的功能的話,應該可以用于看護老年人。雖然現(xiàn)在還存在著前所未有的危險,但我認為它會越來越有用。
但是這個人工智能在某種意義上是一堆個人信息,所以它的安全性也很重要。
不能和人交流的人好像越來越多了。
自分にとって都合の良い自慰行為であって、
対人間の戀愛とはそもそも違うんじゃね、知らんけど。
要想得那么復雜嗎?
這不過是一中對自己有利的自慰行為罷了
這和人與人之間的戀愛本來就不一樣,雖然我也不懂。