Facebook ha estado bajo una intensa scrutiny debido a problemas de gestión de contenido, con miles de grupos siendo bloqueados a nivel global, incluyendo muchos relacionados con anime, juegos y cosplay en chino. La mayoría de estos grupos están dedicados a contenidos legítimos como ahorro financiero, apoyo para padres y cuidado de mascotas, y aún así han recibido notificaciones de violaciones relacionadas con terrorismo o contenido pornográfico. Facebook ha reconocido públicamente la existencia de Problemas técnicos y ha comenzado a tomar medidas para solucionarlo.
Los grupos afectados abarcan un amplio espectro, desde consejos financieros y comunidades de crianza hasta aficionados a los juegos y clubes de fans de teclados mecánicos. Esto incluye, especialmente, varios grupos de Cosplay en Taiwán así como plataformas de intercambio de juegos musicales. Foros de discusión de títulos como 明日方舟 (Arknights) y 崩壞星穹鐵道 (Honkai: Star Rail) también se han visto implicados.
Muchos administradores de grupos han señalado que las notificaciones de infracción que reciben son vagas y afirman estar relacionadas con terrorismo o contenido para adultos, pero estos administradores insisten en que sus plataformas no han publicado dicho contenido. Incluso, un grupo de fotografía de aves con cerca de un millón de usuarios fue marcado por presunta contenido erótico. Una situación similar ocurrió en un grupo de Pokémon con cerca de 200,000 miembros, que también recibió un reporte de infracción de Organización Peligrosa.
Estos grupos afectados no solo son de gran tamaño, ¡sino que algunos cuentan con cientos de miles hasta millones de usuarios activos! En las comunidades de Facebook de Reddit, muchos administradores y usuarios han expresado su indignación, y no es raro escuchar que todos los grupos que administran han sido cancelados simultáneamente. En algunos grupos de diseño interior que sirven a millones de usuarios, también recibieron estos avisos de violación.
El portavoz de Meta, Andy Stone, señaló que se trata de un error técnico que están trabajando para solucionar. Sin embargo, la compañía no ha proporcionado detalles concretos, lo que ha llevado a muchos a sospechar que la raíz del problema podría estar relacionada con un sistema de revisión de inteligencia artificial defectuoso.
Los observadores de la comunidad han analizado que una parte del problema podría radicar en que ciertos usuarios malintencionados abusan de robots para reportar grupos, lo que resulta en que la inteligencia artificial de Facebook marque y prohíba erróneamente esos grupos. Al mismo tiempo, el sistema de revisión de IA también podría reaccionar de manera exagerada ante avatares o palabras clave sensibles, incluso si se trata de contenido publicado por miembros normales. El informe también indica que los grupos que abordan temas políticos o sociales delicados son más propensos a convertirse en blanco de regulación.
Basado en experiencias pasadas, una vez que se presenta una queja, se modifican configuraciones del grupo o se vuelve a publicar contenido, es probable que la situación empeore. Las medidas de seguridad recomendadas por los expertos incluyen no actuar con prisa en la gestión del grupo, evitar la publicación de nuevo contenido, no aprobar contenido provisionalmente, así como no modificar configuraciones o roles, y evitar enviar quejas duplicadas para no marcar aún más el grupo. Se sugiere que los usuarios esperen al menos entre 24 y 72 horas; si Facebook determina que ha habido un error de revisión de IA, podría restaurar automáticamente el funcionamiento normal del grupo. Además, algunos administradores de grupos con Meta Verified de pago han recibido soporte prioritario, pero muchos otros administradores han reportado que sus grupos han sido suspendidos o completamente eliminados.
Además, un grupo de internautas ha iniciado una petición exigiendo que Meta asuma la responsabilidad por la suspensión indebida de cuentas. En la carta de solicitud se señala que cientos de perfiles, páginas y grupos importantes de Facebook han sido eliminados arbitrariamente por un sistema de verificación automatizado, lo que infringe directamente el derecho a la libertad de expresión. Además, los usuarios comerciales afectados están considerando emprender acciones legales.
Todos estos problemas pueden estar relacionados con la reciente ola masiva de bloqueos que ha afectado las cuentas de los usuarios de Meta, pero evidentemente es un problema general que enfrentan las redes sociales. Pinterest y Tumblr también han sufrido quejas masivas recientemente, lo que ha llevado a los usuarios a cuestionar el funcionamiento de los sistemas de revisión automática de IA. Pinterest ha admitido sus errores y ha indicado que los bloqueos se debieron a fallos en su sistema interno, aunque niega cualquier relación con la revisión por IA.
