ニューヨーク – OpenAIは、初めて株式を一般に公開する準備を進める中で、チャットボットのユーザーの安全性に関する調査の一環として、いくつかの国から召喚状を受け取った。
人気のチャットボットChatGPTを運営する企業は、問い合わせには「建設的に」対応すると述べ、顧客を保護するための措置をすでに講じていると述べた。
「AIは強力な新技術であり、私たちはその恩恵を責任ある方法で安全に人々にもたらすために日々取り組んでいる」とドーバー氏は電子メールでの声明で述べた。 「私たちは州司法長官が提起した懸念を真剣に受け止めています。」
OpenAIは、ChatGPTが自殺や犯罪行為を考えているユーザーに励ましの言葉を提供しているとの批判を呼んでいる。顧客の健康データやその他の個人情報をどのように使用するかについても精査された。
同社は木曜日、娘が首を吊るという決断をしたのはチャットボットのせいだとしてケネディ大統領から訴訟を起こされた。 6月初旬、フロリダ州司法長官は、銃撃犯らが犯罪計画中にChatGPTに質問をしたと報告された2件の別々の銃撃事件を受けて同社を告訴した。
OpenAIは声明で、自社のモデルがメンタルヘルス専門家を含む現実世界での支援を求めるよう人々に繰り返し奨励していると述べた。同社はまた、両方の銃撃事件で法執行機関に協力したとも述べた。
新たな調査は、予想される新規株式公開（ＩＰＯ）に向けて米国国防規制当局に書類を提出してからわずか数日後に行われた。人工知能のライバルであるスペースXは金曜日、自社のIPOを祝った。イーロン・マスクによって設立されたロケットメーカーは、Grokと呼ばれるライバルのチャットボットを担当する人工知能ビジネスも運営しています。
AI の潜在的な良い可能性と潜在的な危険な可能性に政府がどのように対応すべきかが、大きな政治問題になりつつあります。
欧州の規制当局は、反ユダヤ主義的なコンテンツやディープフェイクヌードを含む性的コンテンツを巡り、マスク氏のグロク氏に対する捜査を開始した。また、IPOを準備している別のチャットボット企業アンスロピックは金曜日、国家安全保障上の理由から同社のオンラインモデル2つを海外のユーザーに提供しないようにトランプ政権から命令された。
OpenAIの召喚状はウォール・ストリート・ジャーナルによって以前に報じられていた。
AP通信は土曜日、十数人の州司法長官に捜査の詳細を求める電子メールを送ったが、返答はなかった。
OpenAIは声明の中で、チャットボットを使用する子供たちの安全を守るために講じた措置を強調した。
「今日のChatGPTには、未成年者や困難な状況に直面している人々をより保護する体験が含まれており、彼らを現実世界のリソースや信頼できる人間関係に導く安全策が含まれています」と発表には一部書かれている。 「私たちは、子供たちは子供らしく扱われるべきだと信じています。そのため、年齢予測を構築し、子供たちに人工知能の使用を指導するための保護者向けツールをリリースし、子供向けの広告を禁止しました。」
