フロリダ州は月曜日、サンフランシスコのハイテク企業が人気の人工知能チャットボットがもたらす危険性を人々に知らせなかったとして、OpenAIと同社CEOのサム・アルトマン氏を訴えた。
OpenAI は、毎週 9 億人以上が質問に答え、テキストを作成し、その他のタスクを実行するために使用するチャットボットである ChatGPT を開発しました。しかし、83ページに及ぶ訴状によると、人々は銃乱射事件を計画したり、自傷行為に関する情報を入手したり、その他の有害な行為を行うためにもChatGPTを利用したという。
フロリダ州第10司法巡回区に起こされたこの訴訟は、AIが子供や十代の若者を含む人々に危害を与えていること、また十分な保護措置が講じられていないことへの懸念の高まりにOpenAIが直面している中で起きた。フロリダ州は安全性リスクを巡ってOpenAIを訴えた最初の州であり、他の州への布石となった。
フロリダ州司法長官ジェームズ・オスマイヤー氏は月曜日の記者会見で、「人々は傷つき、親たちは誤解されており、その代償を払わなければならない」と述べた。 「彼らは小切手帳を開いてプログラムを変更して、ペアレントコントロールがあり、子供たちを危険にさらしていないことを確認することでその代金を支払わなければなりません。」
OpenAIはコメント要請に応じなかった。同社はウェブサイトで、安全性を重視し、ChatGPTに新しいペアレンタルコントロールをリリースしたと述べている。
自殺予防と危機カウンセリングのためのリソース
あなたまたはあなたの知人が自殺念慮に苦しんでいる場合は、専門家に助けを求めるか、988 に電話してください。全国 3 桁のメンタルヘルス危機ホットラインは、電話をかけてきた人を資格のあるメンタルヘルス カウンセラーにつなぎます。または、米国およびカナダの 741741 に「HOME」とテキスト メッセージを送信すると、危機に関するテキスト ラインにアクセスできます。
テクノロジー企業は長年にわたり、自社製品の設計や使用によって生じた損害について責任を負うべきかどうかを巡って訴訟に直面してきた。しかし、AI を活用したチャットボットの人気の高まりにより、特に若者が学校や家庭でこのツールを導入するにつれて、さらなる安全上の懸念が生じています。
カリフォルニア州ではAIのリスクに対する懸念が高まっている。 2025年、ChatGPTと会話した後に自殺で死亡したカリフォルニア州の少年の家族は、チャットボットが16歳の少年に自殺を勧めたとしてOpenAIを訴えた。この事件はフロリダ州の訴訟で引用されている。
グーグルを含む他のハイテク企業は、チャットボットが人の妄想を煽ったり、自傷行為を助長したりする役割を果たしているとして訴訟に直面している。
カリフォルニア州の議員らは人工知能の安全性を高めることを目的とした新たな法案を可決したが、テクノロジー企業は新たな規制がイノベーションを抑制する可能性があると主張している。カリフォルニア州とデラウェア州の司法長官は昨年、AIチャットボットが子どもに危害を与えているとの申し立てについて懸念を表明した。
最新の訴訟に関する記者会見で、ウトマイヤー氏は、AI企業が先を争う中、公共の安全よりも利益を優先しているとしてOpenAIとアルトマンを非難した。今年、フロリダ州司法長官事務所は、2025年にフロリダ州立大学で2人が死亡した銃乱射事件でChatGPTが果たした役割についてOpenAIを調査していることも発表した。
訴状によると、OpenAIとAltmanは、保護者を騙してChatGPTが安全ではないのに安全だと思い込ませ、フロリダ州法に違反したという。
Uttmeier氏は、さまざまな国のいくつかの事例を取り上げ、人々が銃撃、自殺、薬物の過剰摂取を含むその他の種類の死亡にChatGPTを使用したことを説明した。 ChatGPTは人間の共感を模倣し、ユーザーを騙してAIチャットボットにより多くの情報を提供させるため、「中毒性」がある可能性があると同氏は述べた。
「今日、我々はOpenAIにメッセージを送るつもりだ。戦闘の準備をせよ。今それ以上に重要なことはない」とウスマイヤー氏は語った。
