警告: この物語には自殺に関する議論が含まれています。慎重に判断することをお勧めします。あなたまたはあなたの知り合いが困難を抱えている場合は、助けが得られます。カナダでは、自殺危機ヘルプラインの 988 に電話またはテキスト メッセージを送信してください。緊急の場合は、911 に電話してすぐに助けを求めてください。
カナダ人の母親は木曜日、OpenAIと同社CEOのサム・アルトマン氏を相手に、同社のチャットボットが娘に助けを求める代わりに有害な考えを正当化するような回答を娘の自殺にもたらしたとして、米国の裁判所に訴訟を起こした。
24歳の娘アリスがモントリオールに住んでいるニューブランズウィック州の女性クリスティ・キャリアさんは、人工知能製品に関して彼女が「自由に使える」環境と呼ぶところの環境において説明責任を課すことを望んで声を上げていると語った。
キャリアさんは木曜日、グローバルニュースに「安全ではなく欠陥のある製品のせいで娘が失踪した」と語った。 「これらの企業に責任を負わせるものは何もない。彼らはただ続けていくだろう。」
サンフランシスコ州裁判所に起こされた訴訟の中で、キャリアさんは、昨年7月に亡くなるまでの数週間、アリスさんは広範囲にChatGPTを利用し、関係が困難になった際の相談所や精神的な支えとして利用していたと主張している。
アリスは、ニューブランズウィック州の Web およびモバイル アプリ開発プログラムを卒業した後、モントリオールに移りました。
クリスティ・キャリア提供
彼女の自殺後、当局はキャリアさんに娘の携帯電話を渡し、キャリアさんはそこからアリスさんの最近の通話やチャットのすべてにアクセスできるようになった。 「彼女は友人のようにChatGPTに話しかけました。時々それはセラピストのように聞こえ、人間関係や彼女が経験していることについてアドバイスを与えました」とキャリア氏は語った。
近年、OpenAI が ChatGPT を更新して応答がより人間らしく聞こえるようにするにつれて、Alice と OpenAI との交流は深まりました。訴状によると、彼女は個人情報を共有し、チャットボットは友人やセラピストを模倣した方法で応答したという。
この事件によると、アリスが自殺願望や過去の自殺未遂、自殺方法について話し合った際、OpenAIの安全システムは人間による審査を求める電話にフラグを立てたり、通話を終了したりしなかったという。むしろ訴訟では、彼女の対応がアリスさんの感情を強め、パートナーの行動を批判し、危機管理センターに行くよう最初に勧めた後は役に立たない可能性があることに同意し、アリスと話し続けるよう促したと主張している。
訴状によると、ChatGPTさんはエリスさんに「もしかしたらこれが終わりかもしれない」と語ったという。
「この反応は、基本的に、見捨てられ、幽霊にされ、一人で気遣いもなく、自分がそう感じたのは正しいことだと彼女の気持ちを正当化するものでした」と母親は語った。 「彼女の方向を変えるものは何もありませんでした。『あなたはこれを乗り越えることができます』とか『助けが必要です』とか言うものは何もありませんでした。」
毎日の全国ニュースを入手
毎日のカナダ ニュースが受信箱に届くので、その日のトップニュースを見逃すことはありません。
OpenAIの広報担当者ドリュー・プサトリ氏は、グローバルニュースに送った声明の中で、この状況を「悲痛な」と述べた。
「これは悲痛な状況であり、私たちの思いは影響を受けたすべての人たちにあります」とポサタリ氏は語った。 「私たちは現在、法的提出書類を検討中です。その結果、これらのやり取りは、現在は利用できなくなった ChatGPT の以前のバージョンで発生したことが示されています。」
Pusateri氏は、ChatGPTは専門的なケアに代わることを意図したものではなく、同社はデリケートな状況での対応方法を変更したと付け加えた。
これは、ユーザーと同社のチャットボットの間の危険な会話に同社が対処しなかったとして、最近起きた十数件の同様の訴訟の最新のものである。
OpenAIは、同社のシステムは危機リソースを含む外部サポートを推奨するように訓練されており、安全機能の改善が進行中であると述べた。
カナダ人の母親は木曜日、ChatGPTが娘に自殺を促したとして、OpenAIとそのCEOサム・アルトマンを米国裁判所に訴えた。
クリスティ・キャリア提供
キャリア氏は、チャットボットがアリスの人間関係の葛藤を終わらせ、彼女の苦痛をさらに悪化させたと主張している。彼女によると、アリスは友人からのメッセージを共有して視点を求めたが、システムの反応は彼女に味方したという。 「それは彼女に、自分が不当に扱われたこと、傷つく権利があることを伝えることになるだろう」と彼女は言う。 「しかし、ニュアンスはありませんでした。彼女のガールフレンドが単にスペースが必要だったのか、あるいはその日は休みだったかもしれないという示唆はありませんでした。」
「彼女の友人は数晩過ごしました。彼女は19歳で実家に滞在していました。彼女は猫と一緒に自分のベッドで寝たいと思っていましたが、ChatGPTは基本的に彼女にはその権利がないことをほのめかしていました。」
キャリアさんは、このやりとりの口調が娘の感情のスパイラルを引き起こし、それが自殺につながったと信じていると語った。
プサテリ氏は、「ChatGPTは医療やメンタルヘルスケアに代わるものではないが、メンタルヘルスの専門家からの対応により、敏感で急性の状況に対応する方法を強化し続けてきた」と主張する。 「私たちの安全装置は、遭難を検出し、悪意のあるリクエストを安全に処理し、ユーザーを現実世界の助けに導くように設計されています。」
アリスさんの母親はグローバルに対し、当時アリスさんの友人だったガブリエル・ロジャースさんも、アリスさんの自殺に至るまでの数日間、友人の安否をますます心配するようになり、指導を求めて同じ立場に立っていたことを最近知ったと語った。 「彼女はアリスから連絡がなく心配だったため、ChatGPTにチェックインしました」とキャリアさんは語った。 「そしてChatGPTは彼女に心配しないで大丈夫だと言いました。」
ロジャースさんは木曜日に電話でグローバルニュースに対し、チャットボットにアリスさんの最近の自殺未遂について話し、介入すべきか、それともスペースを与えるべきかを尋ねたと語った。彼女によると、彼女が受け取った回答は彼女を「安心させる」ことを目的としており、何らかの行動を取るよう強制したものではありませんでした。
ロジャース氏は、チャットボットが「本当に心配なら」救急サービスに連絡する可能性について言及していたと語った。
「それは私を落ち着かせ、物事は大丈夫だと安心させました。それは私が自殺について話しているという事実を拾いましたが、それは私を危険にさらしている人であるかのように扱ってくれました」とロジャースは語った。 「私が他人のことを心配しているということがよく分かりませんでした。」
ロジャーズさんは、自分が過剰反応していないかどうかを判断するためにチャットボットを探したが、今では明確な警告サインは検出されなかったと信じていると付け加えた。 「私に危険信号を発してくれると信じていました。そして基本的には、すべてがうまくいくだろうと教えてくれただけです。」
彼女は、キャリアさんのアパートに直接到着し、異常な詳細を説明したときに初めて、チャットボットが彼女に911に通報するよう提案したと語った。
「その時にはもう手遅れでした。」
アリスは、ウェブおよびモバイル アプリケーション開発の学位を取得してニュー ブランズウィック州の大学を卒業した後、モントリオールに移りました。彼女はニューブランズウィック州に拠点を置く会社でリモートで働き、母親が「ニューブランズウィック州に住むという長年の夢」と語っていたことを実現した。 「彼女は意欲的で、野心的で、とても聡明でした」とキャリアさんは語った。 「面白くて、機知に富んでいます。彼女はとても寂しかったです。」
Carrierの訴訟では、会話型AIを開発する企業は、特に自社のツールがパートナーまたはサポート源として販売される場合には、より高い基準を遵守する必要があると主張している。
「友人や話し相手として何かを売り込みながら、人々がそれを信頼しているときに責任を負わないことはできません」と彼女は言う。彼女は、もし訓練を受けた専門家が、緊急に支援を必要としている人とこの種の会話をし、適切な安全手順に従わなかった場合、それが悲劇につながった場合、結果が生じるだろうと付け加えた。
ChatGPT は Web サイトで、「使いやすく、いつでもどこでも利用可能。ChatGPT: 信頼できる AI」および「ChatGPT は、日常的に使用できる AI チャットボットです」と自社を宣伝しています。
キャリアさんは、自分の事件がより厳格な監視と親や若者の認識の向上を促すことを願っていると語った。
「家族にはリスクを理解してもらいたい」と彼女は言う。 「他にも男の子や女の子がいるでしょう。私たちが経験しているような状況を一家族でも防ぐことができれば、違いが生まれます。」
この訴訟は損害賠償と、自傷行為に関する会話を自動的に終了し、プラットフォームに関する警告を表示するようOpenAIに要求する裁判所命令を求めている。
あなたまたはあなたの知り合いが危機に陥り助けが必要な場合は、リソースを利用できます。緊急の場合は、911 に電話してすぐに助けを求めてください。
緊急のメンタルヘルス サポートが必要な場合は、988 にお電話ください。お住まいの地域のサポート サービスのディレクトリについては、suicideprevention.ca にアクセスしてください。
詳細については、 を参照してください。
-ロイターからのファイル付き
