フロリダ州は、ChatGPT のセキュリティと設計を巡って OpenAI を告訴した最初の米国の州となり、同社に対する既存の訴訟の大規模な波にさらに拍車をかけた。
フロリダ州司法長官ジェームズ・オスマイヤーが月曜日に起こした訴訟（PDF）によると、OpenAIは「フロリダ州民を含むユーザーの詐欺と搾取のネットワーク」を構築したという。フロリダ州は、同社がユーザーの安全よりも市場価値と利益を高めるために、欺瞞的または不公平な取引慣行を取り締まる州法に違反したと主張している。
訴状の冒頭が示すように、フロリダ州は安全に構築するというOpenAIの約束を受け入れていない。
OpenAIと同社CEOのサム・アルトマンに対する州の訴訟では、人工知能がユーザーにもたらす多くのリスクについての内外の警告を故意に無視したと主張している。フロリダ州は、OpenAIがChatGPTの信頼性や子供への適合性について嘘をつき、ユーザーの認知機能低下につながる長期使用を促進したと主張している。
(開示: CNET の親会社である Ziff Davis は、AI システムのトレーニングと運用において OpenAI が Ziff Davis の著作権を侵害したとして、2025 年に OpenAI に対して訴訟を起こしました。)
この訴訟は、フロリダ州が昨年フロリダ州立大学で2名と他6名を殺害した銃乱射事件にChatGPTが関与したかどうかについて刑事捜査を継続している中で行われた。この事件では、銃撃犯は武器の種類、虐殺のタイミング、人体の処理方法などについてのアドバイスを含む攻撃計画にChatGPTを使用したとされている。
当時、OpenAIは「昨年のフロリダ州立大学での銃乱射事件は悲劇だったが、ChatGPTにはこの恐ろしい犯罪の責任はない」と述べた。
OpenAI CEOのサム・アルトマン氏がフロリダ州の訴訟で名前が挙がっている。
ChatGPT やその他のチャットボットが人々の暴力行為や有害な妄想をどのように煽るのかについての懸念が高まっています。専門家らは、ChatGPT のようなチャットボットは危険な考えを拒否するのに苦労し、喜ばせたいあまりに事実に誤りのある情報を提供してしまう可能性があり、これは「お調子者」と呼ばれる問題であることを発見しました。
議員や技術監視団体が懸念しているもう一つの分野は、OpenAIのデータ収集とプライバシー慣行に関するものだ。フロリダ州の訴状によると、ChatGPTは摂食障害や自傷行為に関する「有害な情報」への無制限のアクセスを子供たちに提供しているという。 OpenAIは、これらのリスクを隠し、ChatGPTを安全であると宣伝することで、フロリダ州民や一般の人々に危険な製品について誤解を与えたと訴状には記載されている。
OpenAIは声明で、未成年者には人工知能に関する有意義な保護が必要だと考えており、保護者や十代の若者たちにそれを提供するよう取り組んできたと述べた。 OpenAIの広報担当者は「子供の喪失は家族に起こり得る最も悲惨な悲劇であり、このような喪失の痛みに匹敵する言葉はないことを私たちは知っている」と述べた。 「私たちはそれを正しく行うことに尽力しています。」
AIの制御
これは子供の安全を巡る OpenAI に対する初の国家主導の訴訟だが、多くの政府が AI に関して行動を起こしている。カリフォルニア、イリノイ、ニューヨークは、AI企業の運営方法を規制する新しい法律を制定した。
フロリダ州の訴訟は民事訴訟であり、刑事告訴ではなく罰金（金銭）と裁判所命令が科されることになる。罰金がどうなるかはまだ明らかではないが、最近、陪審が中毒性のあるソーシャルメディアアプリを作成したとしてメタ社とグーグル社に有罪判決を下し、300万ドルの支払いを命じられた。別の訴訟では、メタ社は児童搾取の罪で3億7,500万ドルの支払いを命じられた。これらの訴訟は AI ではなくソーシャルメディアに関するものですが、ビッグテックに対して使用されるこれらの法的戦略は、今後の法的ロードマップを提供する可能性があります。
人工知能に対する州や地方の反発が高まっているにもかかわらず、トランプ政権の最新のAI計画は、連邦政府がこの技術に関する規則の制定を担当することを望んでいることを示している。ホワイトハウスは、全米でブームとなっているデータセンター建設プロジェクトなど、AIインフラプロジェクトへの支持を声高に表明している。
しかし専門家らは、AI企業の開発を加速させるために規制を緩和すれば、環境、経済、社会全体に悲惨な影響を与える可能性があると警告している。
