先月末、バラク・オバマ前大統領のソーシャルメディアアカウントが突然、インスタグラムページに奇妙な内容を投稿し始めた。
このアカウントはオバマ氏が退任した2017年以来、休眠状態となっている。新たな投稿には、トランプ大統領を嘲笑したり、イスラム教の一派に言及してホワイトハウスが「シーア派の支配下にある」と発言したりするメッセージが含まれており、オバマ氏のソーシャルメディア活動としては不適切だった。
投稿はオバマ氏の事務所がまったく行ったものではないことが判明した。 5月、ハッカーのグループがメタ顧客サービスツールのバグを発見し、誰でもAI搭載のチャットボットを使用してInstagramアカウントのパスワードをリセットできるようになった。ハッカーがしなければならなかったのは、チャットボットに誰かのパスワードを変更するよう依頼することだけで、それは完了しました。
ニューヨーク・タイムズ紙が入手した内部メタ文書によると、ホームセキュリティ監視会社シンプリセーフやトランプ氏の宇宙軍部門高官のアカウントを含む、インスタグラムの約3万4000アカウントが影響を受けた。宇宙軍当局者の場合、ハッカーたちはイラン戦争を1960年代の米国のベトナム関与と比較する親イラン的なメッセージを公開し始めた。
34,000 のアカウントのうち 20,000 のアカウントが侵害され、ハッカーは関連する電子メール アドレス、電話番号、生年月日、その他の個人データにアクセスできるようになりました。内部文書によると、このハッキングにより、3,500以上のアカウントのユーザー名が乗っ取られ、変更されたという。メタ社は、どのような情報が攻撃者によって閲覧または盗まれたのかは特定できないと述べた。
Metaは声明の中で、404 Mediaが今月報告した欠陥を修正し、影響を受けるアカウントを保護したと述べた。
メタ社の広報担当アンディ・ストーン氏は「今回の件では社内の身元調査の一部が失敗したが、AIエージェント自体が原因ではなく、根本的な原因に対処した」と述べ、規制当局やアカウントが影響を受けた人々に通知していると付け加えた。同社は、エージェントと呼ばれる新しい自動顧客サービスプログラムのおかげで、米国とカナダでハッキングされたアカウントの回復に成功したユーザーの数が昨年30％増加したと述べた。
オバマ氏の報道官はコメントを控えた。
このインシデントは、テクノロジーを使用して自身を再構築しようとするメタにとって、AI 関連のもう 1 つの問題でした。 FacebookやWhatsAppも所有する同社は、自社のアプリに人工知能を組み込むだけでなく、AnthropicやOpenAIなどのライバルと歩調を合わせるために数十億ドルを投じて高度な人工知能を開発している。 Meta の CEO、Mark Zuckerberg 氏は、自社の将来は AI ファーストの組織への迅速な移行にかかっていると述べました。
しかし、この移行はスムーズではありませんでした。メタ社は先月、人工知能のトレーニングのために従業員のコンピュータ活動を監視するプログラムを明らかにし、従業員の間で反乱が起きた。また、従業員にAIツールを押し付ける一方、AI支出を相殺するために数千人を解雇し、士気をさらに傷つけた。
さらに広く言えば、高度な人工知能が阻止するよりも多くのセキュリティ上の脅威を生み出しているという懸念も高まっています。 Anthropic は 4 月に、同社の最も先進的な AI モデルである Mythos を発表しましたが、広範なセキュリティ悪用に使用される可能性を懸念して、この技術の公開を拒否しました。火曜日、Anthropic は Mythos の縮小版である Claude Fable 5 をリリースし、同社は広範囲に使用しても安全であると述べています。
（タイムズ紙は2023年、人工知能システムに関連するニュースコンテンツの著作権侵害を主張してOpenAIとMicrosoftを告訴した。両社はこれらの主張を否定した。）
何百万ものフォロワーを持つ知名度の高いソーシャルメディアアカウントを盗むことは、長い間利益をもたらしてきました。ハッカーは、重複メッセージや偽のパスワードリセットを通じてユーザーを騙してハンドルを手放す方法を見つけ出し、ハンドルを仮想通貨プロモーターや政治活動家などの入札者に転売することがよくあります。その後、購入者は、個人的または政治的利益のために、または場合によっては単に大混乱を引き起こすために、そのアカウントを使用してメッセージを広めます。
メタ社はここ数週間、より多くの企業顧客を獲得することを目標に、企業にAI製品を提供する計画を強化している。先週水曜日のイベントで、同社は「ビジネスエージェント」製品を発表した。これにより、組織は予約の予約や取引の完了などの顧客サービスの問題に自動チャットボットを使用できるようになる。 Meta のビジネス エージェントは、Instagram、WhatsApp、Facebook Messenger でお客様にご利用いただけます。
This Week in Securityが入手した先週、メイン州の司法長官に宛てた書簡の中で、メタ氏は追加のセキュリティ問題を特定して対処するために「包括的な検討」を行っていると述べた。
それでも内部文書によると、メタ社はインスタグラムのハッキング後、自社のAIプログラムに大きな変更を加えないことを決定したという。文書には「すべての製品をアクティブなままにし、進行中の実験1つ（IGパスワード忘れチャット）を一時停止することに同意した」と書かれている。 「他のすべてのエントリ ポイントは引き続き利用可能です。」
メタの従業員は将来の事件に備えて身構えているようだ。
タイムズ紙が確認したところ、ある従業員は同僚に宛てた社内メモに「ライバルの攻撃ベクトルは常に適応している」と書いている。 「セキュリティテストは進行中のプロセスです。」
