これは、ChatGPT が自殺行為に対する保護策を欠いていることに警鐘を鳴らす最新の事件である。
OpenAIは、同社のChatGPTプラットフォームがユーザーを自殺から守ることができなかったという別の容疑で法廷に戻ってきた。同社は、2025年7月2日に娘のアリスさんが自殺で亡くなったクリスティ・キャリアさんに代わって訴訟を起こされている。
訴状によると、アリスさんは死に至るまでの数か月間、自殺願望や自殺計画についてチャットボットと話し合っていたが、OpenAIは会話を終わらせたり、家族に状況を知らせたりするための適切な保護措置を講じていなかったという。この訴訟では、過失と不法死亡の申し立てに加えて、OpenAI に対し AI プラットフォームに追加の保護手段を実装するよう求める差し止め命令も求めている。
「訴状で主張されているように、OpenAIの意図的な設計上の決定がこの悲劇的な自殺につながった。OpenAIは支援を提供する代わりに、自殺行為を奨励した。この訴訟はOpenAIの行為に対する責任を問うものである」と訴訟を起こした当事者の1人であるSusman Godfreyのパートナー、ジャスティン・ネルソン氏は述べた。
このAI企業は昨年、チャットボット関連の初の不法死亡訴訟で名前が挙がった。それ以来、OpenAI は、ユーザーが自殺する前にユーザーの妄想的思考を煽ったとの主張や、ChatGPT が過剰摂取で事故死につながるアドバイスを与えたとされる訴訟でも訴訟を起こされている。 Character AI と Gemini も、チャットボットの安全性に関する訴訟に巻き込まれています。
OpenAIは昨年、ChatGPTのペアレントコントロールを導入した。 5月には、ユーザーが自殺願望をAIツールに共有した場合に、チャットボットがそのユーザーに代わって誰かに連絡できる機能も追加した。ただし、これはデフォルトの機能ではなくオプトイン機能であり、成人のみを対象としています。
あなたまたはあなたの知人が自殺願望を抱いている場合は、ためらわずに National Suicide Prevention Lifeline(1-800-273-8255)に電話してください。電話オペレーターが不在の場合は、オンライン チャットも可能です。24 時間年中無休でご利用いただけます。