Recentemente, o Facebook tem enfrentado muitas críticas devido a problemas de gestão de conteúdo, com milhares de grupos sendo banidos em todo o mundo. Entre os afetados estão muitos grupos relacionados a anime em chinês, jogos e Cosplay. A maioria desses grupos banidos trata de assuntos legítimos como economia, apoio à criação de filhos e cuidados com animais de estimação, mas mesmo assim receberam notificações de violação relacionadas a terrorismo ou conteúdo pornográfico. O Facebook admitiu publicamente que existe problemas técnicos e já começou a trabalhar para resolver a situação.
Os grupos afetados abrangem uma ampla gama, desde conselhos financeiros, comunidades de pais, até entusiastas de jogos e fãs de teclados mecânicos. Especialmente em Taiwan, vários grupos de Cosplay e plataformas de troca de música, como os fóruns de "明日方舟" e "崩壞星穹鐵道", também não escaparam das consequências.
Muitos administradores de grupos relataram que as notificações de violação que receberam eram vagas, alegando estar relacionadas a Terrorismo ou conteúdo pornográfico, mas esses administradores afirmam com firmeza que suas plataformas nunca publicaram tal conteúdo. Até mesmo um grupo de fotografia de aves com quase um milhão de usuários foi marcado por suspeita de Conteúdo sexual. Situações semelhantes ocorreram em um grupo de Pokémon com cerca de 200 mil membros, que também recebeu um relatório de violação referente a Organização Perigosa.
Esses grupos afetados não apenas são imensos, mas alguns possuem dezenas de milhares a milhões de usuários ativos. Nos grupos do Facebook no Reddit, muitos administradores e usuários expressaram sua indignação, relatando que todos os grupos que gerenciavam foram retirados ao mesmo tempo, uma situação que se tornou bastante comum. Em alguns grupos de design de interiores que atendem milhões de usuários, também foram recebidos esses avisos de violação.
Um porta-voz da Meta, Andy Stone, destacou que se trata de um erro técnico e que estão se esforçando ao máximo para corrigir. No entanto, a empresa não forneceu detalhes, levando muitos a suspeitar que a raiz do problema pode estar relacionada a falhas no sistema de revisão de inteligência artificial.
A análise dos observadores da comunidade aponta que parte da razão pode ser atribuída a alguns usuários mal-intencionados que abusam de robôs para denunciar grupos, resultando na marcação e proibição indevidas desses grupos pelo AI do Facebook. Ao mesmo tempo, o sistema de revisão de AI pode reagir de maneira excessiva a avatares sensíveis ou palavras-chave, mesmo quando conteúdos normais são postados por membros. O relatório também indica que grupos que discutem questões políticas ou sociais sensíveis tendem a ser alvos mais frequentes de regulamentação.
Baseando-se na experiência passada, assim que se faz uma reclamação, se altera as configurações do grupo ou se republica conteúdo, a situação pode piorar. As medidas de segurança recomendadas pelos especialistas incluem não agir com pressa em relação ao grupo, evitar publicar novo conteúdo, não aprovar conteúdos e não modificar configurações ou papéis, além de evitar enviar reclamações repetidas para não agravar a marcação do grupo. Os especialistas sugerem que os usuários esperem ao menos 24 a 72 horas; se o Facebook realmente determinar que foi um erro de revisão da IA, pode restaurar automaticamente o funcionamento normal do grupo. Além disso, alguns administradores de grupos pagos do Meta Verified já receberam suporte prioritário ao cliente, enquanto muitos outros administradores relataram que seus grupos foram suspensos ou totalmente excluídos.
Além disso, diversos internautas iniciaram uma petição exigindo que a Meta assuma responsabilidade pela suspensão incorreta de contas. O abaixo-assinado aponta que centenas de perfis pessoais, páginas e grupos grandes no Facebook foram removidos de forma aleatória devido a sistemas de verificação automatizados, o que infringe diretamente o direito à liberdade de expressão. Os usuários comerciais afetados também estão considerando tomar medidas legais.
Todos esses problemas podem estar relacionados à recente onda de banimentos em massa que afetou as contas pessoais dos usuários da Meta, mas é evidente que é um problema comum enfrentado por redes sociais. O Pinterest e o Tumblr também enfrentaram reclamações em grande escala recentemente, levando os usuários a questionar o funcionamento do sistema de moderação automática por IA. Embora o Pinterest tenha reconhecido os erros e afirmado que os banimentos foram causados por falhas internas, negou qualquer relação com a moderação por IA.
