Facebook fait face à de nombreuses critiques récemment en raison de problèmes de gestion de contenu, avec des milliers de groupes bloqués à l'échelle mondiale. Parmi eux, on trouve de nombreux clubs liés aux anime, aux jeux vidéo et au cosplay en chinois. La plupart des groupes touchés concernent des contenus légitimes comme la gestion budgétaire, le soutien à la parentalité et l'élevage d'animaux de compagnie. Pourtant, ils ont reçu des notifications de violation liées au terrorisme ou à des contenus pornographiques. Facebook a reconnu publiquement qu'il y avait Problèmes techniques et a commencé à y remedier.
Les groupes concernés sont très variés, allant des conseils financiers, des communautés de parents aux passionnés de jeux et aux clubs de fans de claviers mécaniques. En particulier, plusieurs associations de cosplay de la région de Taïwan ainsi que des plateformes d'échange pour les jeux musicaux, comme les forums de "明日方舟" et "崩壞星穹鐵道", n'ont pas échappé à la situation.
De nombreux administrateurs de groupes ont signalé que les notifications de violation qu'ils reçoivent sont floues et affirment être liées à terrorisme ou à du contenu pornographique, mais ces administrateurs insistent sur le fait que leur plateforme n'a jamais publié de tels contenus. Même un groupe de photographie d'oiseaux, comptant presque un million d'utilisateurs, a été signalé pour Contenu sexuel. Une situation similaire s'est produite dans un groupe Pokémon ayant près de 200 000 membres, qui a également reçu un rapport de violation concernant Organisation dangereuse.
Ces groupes affectés ne sont pas seulement vastes, certains comptent même des dizaines à des centaines de milliers d'utilisateurs actifs. Sur la communauté Facebook de Reddit, de nombreux administrateurs et utilisateurs ont exprimé leur colère, signalant que tous les groupes qu'ils gèrent avaient été soudainement supprimés. Des notifications de violation similaires ont également été reçues dans des groupes de design d'intérieur qui servent des millions d'utilisateurs.
Le porte-parole de Meta, Andy Stone, a souligné qu'il s'agissait d'une erreur technique qui était en cours de réparation. Cependant, l'entreprise n'a pas fourni de détails précis, ce qui a conduit de nombreuses personnes à se demander si la source du problème pourrait être liée à un système d'évaluation par IA défectueux.
L'analyse des observateurs de la communauté révèle que certaines raisons pourraient être liées à des utilisateurs malveillants abusant des robots pour signaler des groupes, conduisant l'IA de Facebook à marquer et à interdire ces groupes à tort. Parallèlement, le système de modération de l'IA pourrait également réagir de manière excessive aux avatars ou mots-clés sensibles, même lorsque des membres normaux publient du contenu. Le rapport indique également que les groupes discutant de questions politiques ou sociales sensibles sont plus susceptibles d'être ciblés par la régulation.
D'après l'expérience passée, une fois qu'on prévoit de faire appel, de modifier les paramètres d'un groupe ou de republier du contenu, cela pourrait aggraver la situation. Les mesures de sécurité recommandées par les experts comprennent de ne pas se précipiter dans la gestion du groupe, d'éviter de publier du nouveau contenu, de ne pas approuver le contenu pour le moment, de ne pas modifier les paramètres ou les rôles, et d'éviter de soumettre des appels répétés afin de ne pas entraîner un nouveau signalement du groupe. Les experts conseillent aux utilisateurs d'attendre au moins 24 à 72 heures. Si Facebook reconnaît effectivement une erreur dans la validation par l'IA, il pourrait restaurer automatiquement le bon fonctionnement du groupe. De plus, certains administrateurs de groupes payants Meta Verified ont bénéficié d'un soutien client prioritaire, mais de nombreux autres administrateurs rapportent que leur groupe a été suspendu ou complètement supprimé.
De plus, des internautes ont lancé une pétition demandant à Meta de prendre ses responsabilités pour la suspension injustifiée de comptes. La pétition souligne que des centaines de profils personnels, de pages et de groupes Facebook ont été supprimés arbitrairement par un système de vérification automatisé, ce qui constitue une violation directe du droit à la liberté d'expression. Les utilisateurs commerciaux affectés envisagent également de prendre des mesures légales.
Tous ces problèmes pourraient être liés à la récente vague de bannissements massifs touchant les comptes personnels des utilisateurs de Meta, mais il est clair qu'il s'agit d'un problème général auquel les réseaux sociaux sont confrontés. Pinterest et Tumblr ont récemment également souffert de plaintes massives, laissant les utilisateurs s'interroger sur le fonctionnement des systèmes de modération automatisés par IA. Bien que Pinterest ait reconnu des erreurs et déclaré que les bannissements étaient dus à des problèmes internes, il a nié tout lien avec la modération par IA.
