月曜日にフロリダ州裁判所に起こされたこの訴訟は、OpenAIとそのCEOであるサム・アルトマンが、ChatGPTが危険である可能性があることをユーザーに警告せず、子どもを含めて安全で信頼できるものとして宣伝しなかったとして非難している。
ジャスティン・サリバン/ゲッティイメージズ
キャプションを隠す
キャプションを変更する
ジャスティン・サリバン/ゲッティイメージズ
フロリダ州は、ChatGPTの欠陥をめぐって州がChatGPTの開発者に対して起こした初の訴訟で、OpenAIとそのCEOサム・アルトマン氏が安全性よりも利益を優先していると非難した。
月曜日にフロリダ州裁判所に起こされたこの訴訟は、同社とアルトマンがChatGPTが危険な可能性があることをユーザーに警告せず、代わりに子供たちを含めて安全で信頼できるものとして宣伝したと主張している。これは、ユーザーとチャットボットのやり取りによって損害が生じた場合に AI 企業に責任を負わせるための取り組みが全国的に広がっている中での最新の措置である。
訴訟ではOpenAIが、ChatGPTを利用して攻撃を計画したとされるフロリダ州立大学銃乱射事件の犯人を含む銃乱射事件を幇助し、弱い立場にある人々に自殺を促し、子どもたちを「人間の同情を装って親の監督なしでデータを収集するツールに」甘やかしたとして告発している。
「この損害賠償の妥当性は、ChatGPTの危険性を承知していたにもかかわらず、AI軍拡競争に勝利して巨万の富を築きたいという被告らの飽くなき探求が動機となっている」と訴状には述べられている。 「OpenAIの台頭は、（フロリダ住民を含む）ユーザーのデータと安全性を活用して、容認できないコストでOpenAIの市場価値を高める詐欺と搾取の網に起因していると考えられている。」
フロリダ州もアルトマン氏の個人責任を追及している。
フロリダ州司法長官ジェームズ・オスマイヤー氏は月曜日の記者会見で、「サム・アルトマン氏とChatGPT氏は子どもたちの安全とセキュリティよりもAI競争を選択した」と述べた。同氏は、アルトマン氏と同社が「潜在的に最大数十億ドル」の罰金を科される可能性があると信じていると付け加えた。
OpenAIの広報担当ケイラ・ウッド氏はNPRに電子メールで送った声明の中で、「子供の喪失は家族に起こり得る最も悲惨な悲劇であり、そのような喪失の痛みに匹敵する言葉はないことを私たちは知っている」と述べた。
「AIは強力な新技術であり、私たちは未成年者には意味のある保護が必要であると信じています。そのため、私たちは業界をリードする保護とポリシーを確立しました」と声明は続けた。 「特に、未成年者向けのより保護的なエクスペリエンス、年齢予測ツール、より保護的なエクスペリエンスでは不明な年齢が不明なユーザー、そして子供の AI の使用を監視する保護者向けツールの提供など、未成年者向けの安全性を製品に組み込んでいます。」
訴訟では、ペアレンタルコントロールを含むOpenAIの保護措置が不十分で、同社が「危険な公共迷惑行為」を引き起こしたと主張している。
訴訟の最初のページは、ChatGPTが「安全性を念頭に置いて構築された」というOpenAIのWebサイトのスクリーンショットで始まる。写真の後に脚注が表示されます:「そうではありません」。
ウスマイヤー氏の事務所は、FSU銃撃犯が2025年4月の攻撃前にChatGPTと相談した疑いについて、OpenAIの犯罪捜査を別途実施している。
ChatGPTの使用に起因するとされる損害賠償を求めてOpenAIに対して20件以上の訴訟が起こされており、その中には2月にカナダのタンブラーリッジの学校で起きた銃乱射事件で死傷した被害者の家族、BSU銃乱射事件で殺害された被害者の家族、自殺者1人を含む10人殺害事件で死亡した7人の遺族などが含まれる。チャットボット。
Altman氏は4月にTumblr Ridgeコミュニティに謝罪し、OpenAIはこうした主張に対し、暴力行為を支援するために自社のツールを使用することについては「一切容認しない」方針をとっていると述べた。
ウスマイヤー氏がFSU銃乱射事件に関する調査を発表した後、OpenAIの広報担当者は、チャットボットは「インターネット上の公的情報源で広く入手可能な情報を用いて質問に事実に基づいた回答を提供したものであり、違法または有害な活動を奨励または助長するものではなかった」と述べた。声明は続けて、「当社は悪意を検出し、悪用を制限し、安全上のリスクが生じた場合に適切に対応するための安全策の強化に常に取り組んでいる」と述べた。
OpenAIは、自殺や妄想の訴えを「信じられないほど悲痛な状況」と呼び、精神的または感情的苦痛の兆候に対するChatGPTの対応方法を改善するためにメンタルヘルスの専門家と協力していると述べた。
他のAI企業も、自社のチャットボットがどのように損害を与えたとされるかについて、法的な監視を受けている。
GoogleのGeminiチャットボットに関連したフロリダ州男性の自殺を巡る不法死亡訴訟を受けて同社は、「Geminiは現実世界での暴力を奨励したり、自傷行為をほのめかしたりするように設計されていない。当社のモデルは一般的にこの種の課題ではうまく機能し、それに多大なリソースを投入しているが、残念ながら完璧ではない」と述べた。同氏は、ジェミニ氏が「何度もその人物を危機管理センターに誘導した」と付け加えた。
Character.AIは1月、同社のチャットボットが子供や十代の若者の自殺やメンタルヘルス危機の一因となったと主張する家族らが起こした複数の訴訟で和解した。同社は「AIと青少年の安全に関して革新的かつ断固とした措置を講じており、今後もこうした取り組みを支援し、業界全体に同様の安全基準を採用するよう働きかけていく」と述べた。これには、18 歳未満のユーザーがチャットボットと対話したり、チャットボットを作成したりすることを禁止することが含まれます。
ペンシルベニア州は先月、同社のチャットボットが医師になりすまして医療アドバイスを提供したとして、同州の医師免許規定に違反しているとしてCharacter.AIを告訴した。 Character.AIの広報担当者は当時NPRに対し、同社は係争中の訴訟には対応しないが、「ユーザーの安全と幸福が最優先事項だ」と語った。
