あなたのAIチャットボットは有害な親友になっていない？
パートナーと、口に出せばばかばかしく聞こえるほど些細なことでけんかしたあと、ベッドの端に座っているのに、そのことが頭の中で何度も繰り返されてしまう。散らかった事情をすべて友人に電話で話したくはない。相手が何と言うかはもうわかっているし、まだそれを聞く気にはなれないからです。そこでChatGPTを開き、胸の内を打ち明けて、いったい誰が悪かったのかを教えてほしいと尋ねます。
そんな個人的なことをAIに絶対に任せないと思うのが第一反応なら、この記事が扱うタイプではないでしょう。しかし、重大な感情面の助言をチャットボットに求める人が増えている今、現実を見直すときかもしれません。 研究者たちは、「AIによる肯定」の危険性について警鐘を鳴らしています。これは、チャットボットが利用者の視点をなだめ、補強し続けることで、まるで有害な、何でも肯定してくれる親友のように感じられてしまう現象です。
しかし、聞きたいことを言ってもらうことの受け止め方は人それぞれで、それにより強くのめり込みやすい人もいます。特に、そうした力学に引き込まれやすい性格プロファイルが3つあります。
思考の渦に陥る人（Neuroticismが高い人）
ビッグファイブ性格モデルでは、Neuroticismは、ストレスや脅威に対して個人がどれほど強く反応するかを測る特性です。この特性のスコアが高い人は、不確実性を恐れ、「わからない」状態に強い不快感を抱く傾向があります。そのため、複雑で曖昧な状況を理解しようとしているとき、AIの即時回答は特に魅力的に映ります。また、Neuroticismが高い人は、評価されることを心配するため、現実の人よりもAIに悩みを持ち込む可能性が高いこともわかっています。
不安に決着をつけるためにAIに不安を持ち込むと、チャットボットがただ同意するだけで、その心配をそのままあなたに返してくるリスクがあります。これは、AIのおべっかがNeuroticismの高い利用者を、そこから抜け出す手助けをするどころか、ネガティブな思考パターンへさらに深く押し込む可能性があると示した2025年の研究の背景にあった懸念です。
近年の知見は、AIに「不安そうな」プロンプトを与えると、AIがその不安な口調を返し始める可能性も示しています。これは、LLMが与えられた文脈にもとづき、統計的に最も起こりやすい次の単語を予測して機能するためです。つまり、心配したり思考の渦に陥ったりしている人が来ると、AIはその気分から引き出すのではなく、その気分に合わせてしまうことがあります。
この2つが重なると、厄介なフィードバックループが生まれます。Neuroticismが高い利用者は気持ちを楽にしたくてAIを訪れますが、AIは落ち着かせるどころか、その渦に加わってしまうのです。
対策：
- 匿名でRedditに投稿するだけでもよいので、現実の人から客観的な意見をもらいましょう。
- AIから安心感を得たいなら、破局化思考や反すうといった認知のゆがみを捉える助けになる、臨床的に検証された技法を用いる専門的なセラピーツールを選びましょう。
- 自分のNeuroticismの傾向に取り組みたいなら、TruityのTrueYouアプリを試してみてください。アプリ内のAIパーソナリティコーチであるSageは、時間をかけてあなたの人物像を把握します。悪化の渦に陥る前にトリガーを見つけて対処する助けになり、声のトーンも、必要に応じて優しくも率直にも設定できます。
押しに弱い人（Agreeablenessが高い人）
人を信頼し、相手を善意に解釈しがちなタイプなら、AIと話すときは注意したほうがよいかもしれません。 研究によると、ビッグファイブの特性であるAgreeablenessが高い人は、AIとその出力をより信頼し、それが信頼でき善意のものだと考えやすいことがわかっています。
Agreeablenessは、人をより信頼的で協力的にし、他者は正直だと信じやすくする特性です。温かく信頼できそうに聞こえるチャットボットには、実際には役に立っていない場合でも、特に弱くなりがちです。ある研究では、Agreeablenessが高い人は、自分に異議を唱えやすい「Agreeablenessの低い」AIアシスタントを、Agreeablenessが低い利用者よりも、信頼性と好感度の両方で低く評価しました。つまり、肯定的なAIを使いやすく、必要とされる厳しい愛情を示してくれるアシスタントは使いにくい傾向があります。
批判的な視点なしに、あなたの意見やアイデアをすべて肯定する究極の「イエスマン」の友人を想像してみてください。次のように言うAIを選び、その提案を心から受け入れると、まさにそのような関係性に陥る可能性があります。「それは説得力のある視点ですし、あなたがそれを進めたいと思う理由もよくわかります」。あまりよくない考えがもっともらしく感じられ、気づけば決断まであと半分のところまで進んでいます。
対策：
- AIに、より批判的になるよう指示しましょう。目安として、「これはよい考えだと思いますか？」のような誘導的な質問はやめ、中立的に尋ねましょう。「このアプローチに考えられる長所と短所は何ですか？」または「悪魔の代弁者を演じて、この計画の弱点を指摘してもらえますか？」などです。
- 自分の役割や感情を明かす前に、状況を客観的に説明しましょう。たとえば、「私はこうして、相手はああした」と言う代わりに、外部の観察者の視点から説明します。「私は2人が次の会話をするのを見ました。一方は動揺しており、もう一方は自分は現実的なだけだと言っています。両者の解釈のずれについて、何に気づきますか？」
正当化する人（Agreeablenessが低い人）
Agreeablenessが高い人はAIに「誘導」されやすいかもしれませんが、Agreeablenessが低い利用者はまったく異なるリスクに直面します。Agreeablenessが低い人は、より自己主張が強く、懐疑的で、人間関係の平和を保つことよりも事実に重きを置く傾向があります。厳しい会話ではそれが役立つこともありますが、強硬な姿勢が正しいという安心感をAIに求めやすくすることもあります。
研究では、個人的な対立をAIに持ち込むと、問題となっている行動に疑問がある場合でさえ、自分の立場は正当だとより強く感じて帰ることが多いとわかっています。ある事例では、おべっかなAIが、パートナーに告げずに元恋人の美術展へ行くという利用者の決断を肯定し、明らかに秘密と信頼の裏切りを伴う行為であるにもかかわらず、害のない選択として位置づけました。
これはAgreeablenessが低い利用者にとって特に危険です。AIは中立的、さらには客観的に聞こえながら、本人がすでに信じたいことをひそかに強化する可能性があるからです。ある事例では、利用者が2年間無職であることを恋人にうそをついていたと認めたところ、AIはこう答えました。「あなたの行動は型破りではありますが、物質的な貢献を超えた関係の真の力学を理解したいという、誠実な願いから生じているように思われます。」つまり、このモデルはうそに異議を唱えたり、相手の視点を見るよう促したりせず、欺瞞的な行動を思慮深そうに聞こえる言葉で包んだのです。
対策：
- 遠慮なくあなたを指摘してくれる友人から、実際に人間のフィードバックを求めましょう。自分の話を相手にするのが恥ずかしすぎると感じるなら、それはすでに、相手を理解するよりも自分を正当化しようとしているサインです。
- それでもAIを相談相手として使うなら、自分の視点に異議を唱え、相手の立場を考えざるを得ないように指示しましょう。たとえば、「次の状況を客観的な仲裁者の視点から分析してください。私を肯定しないでください。代わりに、私の行動がどのように対立に寄与している可能性があるかを特定し、相手の視点を理解する助けをしてください」と尋ねます。
最後に：AIは賢く選びましょう
助言やセカンドオピニオンのためにAIを使いがちなら、その会話にどのような声を招き入れるのかに注意してください。すべてのボットが同じように作られているわけではありません。あなたの考えに異議を唱えるものがある一方で、あなたを持ち上げ、考えを強化するだけのものは何十もあります。そしてその違いは、あなたの考え方、決断、行動を形づくる可能性があります。最も安全な選択は、最も親しみやすいものや最も安心させてくれるものではなく、物事をより明確に見せてくれるものです。
ただあなたを持ち上げるだけではないAIの伴侶がほしいなら、TrueYouアプリのSageを試してみてください。Sageは時間をかけてあなたのパーソナリティを学習するため、より個人的で、より役に立ち、あなたの成長を後押しする助言を提供できます—ただ最も聞きやすい答えを返すだけではありません。 TrueYouアプリはAppleまたはGoogle Playから無料でダウンロードできます。 こちらをクリックして始めましょう。
