Facebookは最近、コンテンツ管理の問題により多くの疑問を抱かれており、世界中で数千のグループが大規模にブロックされています。影響を受けているのは、多くの中国語のアニメ、ゲーム、コスプレ関連のコミュニティです。ブロックされたグループの大半は、節約や育児支援、ペット飼育などの正当な内容に属しているにもかかわらず、テロやポルノに関連する違反通知を受け取っています。Facebook側はこの問題が存在することを公に認めており、解決に向けて動き出しています。
影響を受けるグループは広範囲にわたり、資産管理のアドバイス、子育てコミュニティ、ゲーム愛好者、メカニカルキーボードのファンクラブなどが含まれています。特に台湾地域の多くのコスプレ団体や音楽ゲームの交流プラットフォームも影響を受けており、『アークナイツ』や『崩壊：星穹の鉄道』のフォーラムも無事ではありません。
多くのグループの管理者が、受け取った違反通知が不明瞭であり、テロリズムやアダルトコンテンツに関連していると主張している一方で、これらの管理者は自分たちのプラットフォームでそのような内容を公開したことはないと主張しています。さらに、約100万人のユーザーを持つ鳥類写真グループも申し訳ありませんが、リクエストされた内容は対応できません。が疑われているためにマークされました。同様の状況は、約20万人のメンバーを抱えるポケモングループでも発生し、危険な組織に関する違反報告を受けました。
影響を受けたグループは、その規模が非常に大きく、一部は数十万から数百万人のアクティブユーザーを擁しています。Reddit上のFacebookコミュニティでは、多くの管理者やユーザーが彼らの怒りを表明し、管理しているグループが同時に撤回される事例が頻繁に報告されています。数百万人のユーザーを抱えるインテリアデザインのグループでも、同様の違反通知が届いています。
メタのスポークスマン、アンディ・ストーン氏は、これは技術的なエラーであり、現在修復に全力を尽くしていると述べました。しかし、公式からは詳細な状況が提供されておらず、多くの人々が問題の根源は欠陥のあるAI審査システムに関連しているのではないかと疑っています。
SNSの観察者による分析では、一部の悪意あるユーザーが機械的にグループを通報することで、FacebookのAIが誤ってこれらのグループをマークし禁止する原因となっていることが指摘されています。また、AIの審査システムは、敏感なプロフィール画像やキーワードに過剰に反応する可能性があり、正常なメンバーが投稿した内容であっても影響を受けることがあります。報告によると、敏感な政治や社会問題について議論するグループは、規制の対象となる可能性が高いとされています。
過去の経験から申請やグループ設定の変更、コンテンツの再投稿を行うと、状況がさらに悪化する恐れがあります。専門家が推奨する安全対策には、グループの急な対応を避けること、新しいコンテンツの投稿を控えること、承認を保留すること、設定や役割の変更を行わないこと、そして重複申請を避けることが含まれます。これにより、さらなるグループのマークが避けられます。専門家は、ユーザーに少なくとも24時間から72時間待つことを推奨しています。FacebookがAIによる審査ミスと確認した場合、グループの通常の運営が自動的に復旧する可能性があります。一部の有料のMeta Verifiedグループの管理者は優先的なカスタマーサポートを受けていますが、他の多くの管理者はグループが一時停止されたり、完全に削除されたと報告しています。
また、ネットユーザーからは、Metaに対して誤って禁止されたアカウントに責任を持つよう求める署名運動が展開されています。請願書には、数百の大型Facebook個人プロフィール、ページ、グループが非人間的な検出システムによって恣意的に削除され、これは言論の自由を直接侵害する行為であると記されています。影響を受けたビジネスユーザーも、法的措置を検討しています。
これらの問題は、最近メタのユーザーアカウントに影響を与えた大規模なアカウント停止の波と関連している可能性がありますが、明らかにソーシャルネットワーク全体が直面している問題です。PinterestやTumblrも最近、類似の大規模な苦情に直面し、ユーザーはAIによる自動審査システムの運用について疑問を抱いています。Pinterestは誤りを認め、内部システムによるアカウント停止が原因であると説明しましたが、AI審査との関連性は否定しています。
