Facebook baru-baru ini menghadapi banyak kritik terkait masalah manajemen konten. Di seluruh dunia, ribuan grup telah diblokir secara besar-besaran, termasuk banyak komunitas terkait anime, game, dan Cosplay berbahasa Mandarin. Grup-grup yang diblokir ini sebagian besar berisi konten yang sah, seperti manajemen keuangan, dukungan parenting, dan pemeliharaan hewan peliharaan. Meskipun begitu, mereka tetap menerima pemberitahuan pelanggaran yang terkait dengan terorisme atau konten pornografi. Pihak Facebook secara terbuka mengakui adanya Masalah teknis dan telah mulai mengambil langkah untuk memperbaikinya.
Kelompok yang terdampak mencakup berbagai macam, mulai dari saran keuangan, komunitas pengasuhan anak, hingga penggemar permainan dan klub penggemar keyboard mekanik. Terutama di Taiwan, beberapa kelompok Cosplay dan platform pertukaran permainan musik, seperti zona diskusi untuk Arknights dan Honkai: Star Rail, juga tidak terkecuali.
Banyak pengelola grup melaporkan bahwa pemberitahuan pelanggaran yang mereka terima tidak jelas, dengan klaim terkait terorisme atau konten pornografi, padahal para pengelola ini menegaskan bahwa platform mereka tidak pernah mempublikasikan konten serupa. Bahkan sebuah grup fotografi burung yang mendekati satu juta pengguna juga ditandai karena dicurigai Konten pornografi. Situasi serupa terjadi pada grup Pokémon yang memiliki hampir 200 ribu anggota, yang juga menerima laporan pelanggaran terkait Organisasi Berbahaya.
Kelompok-kelompok yang terpengaruh ini tidak hanya besar, bahkan ada yang memiliki puluhan hingga ratusan ribu pengguna aktif. Di komunitas Facebook di Reddit, banyak administrator dan pengguna mengungkapkan kemarahan mereka, melaporkan bahwa semua grup yang mereka kelola seringkali dicabut secara bersamaan. Bahkan dalam grup desain interior yang melayani jutaan pengguna, pemberitahuan pelanggaran seperti ini juga diterima.
Juru bicara Meta, Andy Stone, mengungkapkan bahwa ini adalah kesalahan teknis yang sedang diperbaiki dengan cepat. Namun, pihak resmi tidak memberikan rincian lebih lanjut, yang membuat banyak orang mempertanyakan apakah akar masalahnya mungkin terkait dengan sistem moderasi AI yang memiliki cacat.
Pengamat komunitas mengungkapkan bahwa salah satu penyebabnya bisa jadi adalah karena beberapa pengguna jahat menyalahgunakan robot untuk melakukan pelaporan grup, yang menyebabkan AI Facebook salah mengidentifikasi dan melarang grup-grup tersebut. Selain itu, sistem audit AI juga mungkin bereaksi berlebihan terhadap gambar atau kata kunci yang sensitif, meskipun konten yang diposting oleh anggota normal. Laporan tersebut juga menyatakan bahwa grup yang membahas isu politik atau sosial yang sensitif lebih rentan menjadi objek pengawasan.
Berdasarkan pengalaman sebelumnya, sekali kita mengajukan banding, mengubah pengaturan grup, atau menerbitkan kembali konten, situasi bisa jadi semakin buruk. Para ahli merekomendasikan langkah-langkah keamanan seperti tidak terburu-buru dalam mengelola grup, menghindari penerbitan konten baru, tidak menyetujui konten, serta tidak mengubah pengaturan atau peran, dan menghindari pengajuan banding yang berulang agar grup tidak terindikasi lebih lanjut. Pengguna disarankan untuk menunggu setidaknya 24 hingga 72 jam; jika Facebook benar-benar mengonfirmasi bahwa ini adalah kesalahan peninjauan AI, mereka mungkin akan secara otomatis mengembalikan operasi normal grup. Beberapa pengelola grup Meta Verified yang berbayar telah mendapatkan dukungan pelanggan prioritaskan, namun banyak pengelola lainnya melaporkan bahwa grup mereka ditangguhkan atau dihapus sepenuhnya.
Selain itu, pengguna internet lainnya telah mel发起 petisi, meminta Meta untuk bertanggung jawab atas kesalahan dalam memblokir akun. Dalam petisi tersebut, diungkapkan bahwa ratusan profil, halaman, dan grup Facebook besar dihapus secara sembarangan oleh sistem deteksi yang tidak dikendalikan manusia, yang secara langsung melanggar hak kebebasan berbicara. Pengguna bisnis yang terdampak juga sedang mempertimbangkan tindakan hukum.
Semua masalah ini mungkin terkait dengan gelombang pemblokiran massal baru-baru ini yang mempengaruhi akun pribadi pengguna Meta, namun jelas ini adalah masalah yang dihadapi secara umum oleh jejaring sosial. Pinterest dan Tumblr baru-baru ini juga mengalami keluhan massal yang serupa, membuat pengguna mempertanyakan cara kerja sistem peninjauan otomatis AI. Meskipun Pinterest mengakui kesalahan dan menyatakan bahwa pemblokiran tersebut disebabkan oleh sistem internal, mereka membantah bahwa itu terkait dengan peninjauan AI.
