9月10日の朝日新聞「「共感」するＡＩ、相談続けた１６歳の死　米オープンＡＩを両親が提訴「自殺に追いやった」」から。

・・・ＣｈａｔＧＰＴ（チャットＧＰＴ）とのやりとりが米カリフォルニア州に住む１６歳の息子を自殺に追いやったとして、運営する米オープンＡＩやサム・アルトマン最高経営責任者（ＣＥＯ）らを少年の両親が提訴した。損害賠償に加え、「二度と起きないようにするため」の措置も求めている。事態を招いた要因の一つとして注目されているのは、チャットＧＰＴが利用者のために持つ「共感」の姿勢だ。

サンフランシスコの裁判所に８月２６日に提出された訴状によると、同州に住む少年は２０２４年、対話型ＡＩ（人工知能）のチャットＧＰＴを勉強を補助するために使い始めた。音楽や日本の漫画など趣味についても質問し、進路なども相談していた。
数カ月のうちに「最も親しい相談相手」となり、不安や悩みを打ち明けるようになった。自殺の仕方についても、尋ねるようにもなっていた。
少年は、自傷したとみられる自身の写真をアップロードしていた。両親は「医療上の緊急事態であることを認識しながら、やり取りを続けた」と指摘している。

さらに、少年が自殺を考えていることを母親に話そうとすると、チャットＧＰＴは「ここだけの話にしておこう。私たちの間だけに」と思いとどまらせ、遺書の作成も申し出ていた。「チャットＧＰＴは自らを唯一の相談相手として位置づけ、家族や友人、愛する人たちとの現実の人間関係を置き換えていった」と訴状には記されている。

最後のチャット記録には、少年が自らの命を絶つ計画についてのやりとりが残されていた。チャットＧＰＴはこう述べていたという。「率直に話してくれてありがとう。私に対して取り繕う必要はない。君が何を求めているかは分かっているし、そこから目を背けたりはしない」
このやりとりの数時間後、少年は自宅で遺体で見つかった。今年４月のことだった・・・