Facebook은 최근 콘텐츠 관리 문제로 많은 의혹을 받고 있습니다. 전 세계적으로 수천 개의 그룹이 대규모로 차단되었으며, 그 중에는 많은 중국어 애니메이션, 게임 및 코스프레 관련 커뮤니티가 포함되어 있습니다. 차단된 그룹들은 대개 재정 관리, 육아 지원, 반려동물 양육 등 합법적인 내용에 해당하지만, 그럼에도 불구하고 테러리즘이나 성적 콘텐츠와 관련된 위반 통지를 받았습니다. Facebook 측은 기술 문제의 존재를 공개적으로 인정하며 해결을 위해 조치를 취하고 있다고 밝혔습니다.
영향을 받은 그룹은 재테크 조언, 육아 커뮤니티, 게임 애호가 및 기계식 키보드 팬 클럽 등 다양한 분야에 걸쳐 있습니다. 특히 대만 지역의 여러 코스프레 커뮤니티와 음악 게임 소통 플랫폼도 포함되어 있으며, 명일방주와 붕괴: 스타레일의 토론 공간도 예외가 아닙니다.
많은 그룹 관리자들이 받은 위반 통지가 모호하다고 반발하고 있으며, 테러리즘이나 음란물과 관련이 있다고 주장하지만 이 관리자들은 자신들의 플랫폼에서 유사한 콘텐츠를 게시한 적이 없다고 주장합니다. 심지어 백만 가까운 사용자를 보유한 조류 사진 그룹도 성적인 내용로 인해 차단되었고, 비슷한 상황이 20만 명에 가까운 회원을 가진 포켓몬 그룹에서도 나타나 위험 조직에 대한 위반 보고를 받았습니다.
이러한 영향을 받은 그룹은 규모가 크고, 일부는 수십만에서 수백만의 활성 사용자 수를 자랑합니다. Reddit의 Facebook 커뮤니티에서는 많은 관리자와 사용자들이 그들의 분노를 표출하며, 관리하던 모든 그룹이 동시에 삭제되는 사례가 빈번하게 발생하고 있습니다. 수백만 사용자를 보유한 인테리어 디자인 그룹에서도 이러한 위반 통지를 받은 경우가 많습니다.
Meta의 대변인 Andy Stone은 이것이 기술적 오류이며 현재 최선을 다해 수정하고 있다고 밝혔습니다. 그러나 공식적인 상황 설명이 부족하여 많은 사람들이 문제의 근원이 결함이 있는 AI 심사 시스템과 관련이 있을 가능성을 의심하고 있습니다.
사회 커뮤니티 관찰자가 분석한 바에 따르면, 일부 이유는 악의적인 사용자들이 로봇을 악용해 그룹 신고를 하여 Facebook의 AI가 이러한 그룹을 잘못 표기하고 금지하게 되는 데 있다고 한다. 동시에, AI 심사 시스템이 민감한 이미지나 키워드에 과도하게 반응하여 정상적인 구성원들이 게시하는 콘텐츠까지 차단할 수 있다. 보고서에서는 민감한 정치적 또는 사회적 이슈를 다루는 그룹이 규제 대상이 되기 더 쉽다고 강조하고 있다.
이전 경험에 따르면, 불만을 제기하거나 그룹 설정을 수정하거나 콘텐츠를 다시 게시할 경우 상황이 더욱 악화될 수 있습니다. 전문가들이 제안하는 안전한 조치로는 서두르지 않고 그룹을 처리하며, 새로운 콘텐츠를 게시하지 않고, 콘텐츠 승인도 잠시 보류하며, 설정이나 역할을 수정하지 말고, 반복적인 불만 제기를 피하는 것이 있습니다. 이는 그룹이 추가로 태그되는 것을 방지하기 위함입니다. 전문가들은 사용자가 최소 24시간에서 72시간 기다릴 것을 권장합니다. 만약 Facebook이 진정으로 AI 검토 오류로 판단할 경우, 그룹의 정상 운영이 자동으로 복원될 수 있습니다. 또한 일부 유료 Meta Verified 그룹 관리자들은 우선 고객 지원을 받을 수 있지만, 많은 다른 관리자들은 그룹이 정지되거나 완전히 삭제되었다고 보고하고 있습니다.
또한, 여러 네티즌들이 Meta에게 잘못된 계정 차단에 대한 책임을 지기를 요구하는 청원을 진행하고 있습니다. 청원서에는 수백 개의 대규모 Facebook 개인 프로필, 페이지 및 그룹이 비인간적 검사 시스템에 의해 임의로 삭제되었으며, 이는 표현의 자유 권리를 직접적으로 침해한다고 지적하고 있습니다. 영향을 받은 비즈니스 사용자들도 법적 조치를 고려하고 있습니다.
이 모든 문제는 최근 Meta 사용자 개인 계정에 대한 대규모 차단 사태와 관련이 있을 수 있지만, 분명히 소셜 네트워크가 일반적으로 직면하고 있는 문제입니다. Pinterest와 Tumblr도 최근 유사한 대규모 불만을 받으며 사용자들이 AI 자동 심사 시스템의 작동을 의심하게 만들었습니다. Pinterest는 잘못을 인정하고 내부 시스템으로 인한 차단이라고 밝혔지만, AI 심사와는 관련이 없다고 부인했습니다.
