過去5年間にわたり、メタ監督委員会はドナルド・トランプ氏のFacebook停止からディープAIフェイクまで、あらゆるものを検討してきた。現在、理事会は別のやっかいな問題、つまりユーザーアカウントの無効化に関するメタのルールに取り組んでいる。
同理事会は今年初め、もどかしいほど不透明なことが多いプロセスに関する透明性の向上を検討すると発表した。監視団体は、ジャーナリストを標的とした脅迫的な投稿を公開したためにアカウントが禁止された7万人のフォロワーを持つインスタグラムアカウントに関するメタ社からの紹介を受けて、この問題を徹底的に調査した。
監査役会は決定の中で、メタ社がアカウントを禁止したのは正しかったと述べたが、この訴訟はメタ社のこうした行為への対応について「重大な疑問」が生じ、アカウントを無効にする方法について「適正手続き上の懸念」が生じたという。これはテストケースであるため、理事会はメタに対する正式な推奨事項を示していませんが、多くの潜在的な改善点を明らかにしています。彼女の分析は、メタのプラットフォームの禁止につながる規則と罰則の混乱を招くパッチワークと、それがユーザーに引き起こす多大なフラストレーションも浮き彫りにしている。
たとえば、理事会は、Meta のプロセスが Facebook と Instagram で著しく異なると指摘しています。どちらのプラットフォームでもアカウントに「ストライク」のペナルティを課しますが、ストライクを繰り返すと異なる結果が生じる可能性があります。 Facebook では、違反を繰り返した場合、完全な禁止の前にアカウントが一時的に停止される場合があります。しかし、インスタグラムにはそのような罰則はない、と委員会は述べている。代わりに、Meta は Instagram のライブ ストリーミング機能からアカウントを禁止するか、推奨からアカウントを削除します (Instagram ユーザーによって「シャドウバン」と呼ばれることがよくあります)。
監視委員会は、ライブストリーミングの制限がすべてのアカウントで利用できるわけでもないのに（最低1,000人のフォロワーが必要）、インスタグラムの主な「暫定」ペナルティの一つであることがいかに奇妙であるかを正しく指摘している。 「恒久的な投稿における違反の場合、ユーザーの投稿能力を停止する（たとえば、アカウントを一定期間読み取り専用モードにするなど）という、違反行為に直接対応するペナルティを課した方が、行為に影響を与える可能性が高くなる」と評議会は指摘している。
理事会はまた、アカウントが無効になっているFacebookとInstagramのユーザーの間で長年くすぶっている不満についても触れている。同団体は、個々の理事会メンバーがアカウントを無効にされた人々から定期的に受け取る「無数の」苦情に加え、このファイルに関して750件以上のパブリックコメントを受け取ったと述べた。
「多くのコメント投稿者がシステムが機能していないことについて書き、アカウントを無効にするメタ社の決定に異議を申し立てることができなかった、アカウントが無効になった理由について何の説明も受けられなかった、コンテンツをダウンロードできなかったなどと述べた」と委員会は書いている。 「また、これらのユーザーの多くは、長年にわたるアカウントの無効化や広範な追跡に対する異議申し立てにおいても、人間の監視なしに自動的に決定が行われているように見えると指摘しました。」
理事会はメタ社への指示の中で、同社がユーザーに対して書面による説明を可能にするより良い異議申し立てプロセスを提供し、アカウントにペナルティを課すために人工知能が使用された場合にはユーザーに通知することを提案している。理事会は、可視性を高めるためにアカウント禁止情報をメタの透明性レポートに追加できることを提案しています。同団体はまた、「暴力の危険性の高いターゲットとその代表者」が彼らに対する重大な脅威を報告できる専用チャンネルを提供するようメタ社に助言している。
この事件が「試験的」と表現されていることを考えると、取締役会の検討に応じて本社が実質的な方針変更を計画しているかどうかは不明である。しかし、本部に改善を求める人々にはまだ希望がある。同理事会は、今後さらに多くのアカウント停止に関わる訴訟を引き受ける予定であり、それによって一部の改革に影響を与えるチャンスが得られることを期待していると述べている。
