いったい何が起こったのでしょうか？ データ侵害事件により社内での従業員情報の扱い方に懸念が生じたため、メタ社は社内の人工知能トレーニングの取り組みを中止した。この事件は、Meta のデータ管理慣行が AI への野心と一致しているかどうかについて疑問を引き起こしました。
この問題は、従業員から職場の活動に関する詳細なデータを収集することで人工知能システムを改善するためにメタが4月に立ち上げたプログラムであるモデル・ケイパビリティ・イニシアチブに焦点を当てている。このシステムはキーストロークやマウスの動きなどの入力を追跡し、現実世界の使用パターンに基づいてモデルをトレーニングしました。ほとんどの従業員の参加が必須であり、この決定はすでに社内で懸念を引き起こしていました。
この懸念は、プログラムに関連する機密データが全社的にアクセス可能になったことでさらに悪化しました。 Business Insider が確認したスクリーンショットによると、公開された内容にはプライベートな会話、パフォーマンス関連の情報、トランスクリプトが含まれていたことがわかります。内部的には、この事象は SEV 0 が最も深刻なレベルを表すスケールで SEV 2 として分類されました。
メタは事件を認め、何が起こったのか調査する間番組を保留したと述べた。 「当社はプライバシー保護措置を講じてこのプログラムを慎重に設計しており、現時点ではメタ社の従業員がデータに不正にアクセスした兆候はないが、調査中はプログラムを一時停止している」と広報担当者は述べた。
このプログラムは、静的データセットの代わりに現実世界の行動データを使用して人工知能システムを改善しようとする大手テクノロジー企業間の広範な推進を反映しています。 Meta のアプローチは、事前に洗練されたデータセットのみに依存するのではなく、従業員がリアルタイムで社内ツールをどのように操作するかに直接依存しています。これにより、より有用なトレーニング データが生成される一方で、厳密なアクセス制御とデータのセグメント化の重要性も高まります。
この場合、労働者は、そもそもなぜこれらの保護が見られなかったのかと疑問を抱いています。 Business Insider がレビューしたスクリーンショットで共有された内部メッセージには、データの処理方法に対する不満が示されています。従業員の一人は「怒っている」と書いた。 「悪意のあるアクセスの証拠は見当たりませんが、このデータが当初の約束どおりにロックダウンされなかったという事実は非常に腹立たしいです。」
この事件により、メタ社における AI 関連のセキュリティ問題のリストがさらに増えました。先月、同社のチャットボットの欠陥により、攻撃者が複数のInstagramアカウントを乗っ取ることができた。 The Information の報道によると、今年初め、不正な AI エージェントが大規模な内部アラートをトリガーしました。
これらのインシデントは、企業が大規模な AI システムを構築する際に直面する課題、つまりアクセス制御を維持しながらより豊富なトレーニング データを収集する方法を浮き彫りにします。これらの管理が社内でさえ失敗すると、その影響は技術的なリスクを超えて従業員の信頼にまで及ぶ可能性があります。
今のところメタ氏は、暴露がどのようにして起こったのか、そして再発を防ぐためにシステムを調整できるかどうかを理解することに重点を置いている。より広く言えば、このエピソードは、企業がセキュリティとプライバシーの制約に遭遇することなく、AI をトレーニングするために内部行動データをどこまで活用できるかという疑問を引き起こします。
