Meta PlatformsのCEOであるMark Zuckerberg（マーク・ザッカーバーグ）は、同社がWhatsApp（ワッツアップ）やInstagram（インスタグラム）の買収を解消する可能性を示唆する連邦取引委員会（FTC）による裁判に出席後、ワシントンD.C.の米国地方裁判所を離れました。
米国ミズーリ州選出の上院議員Josh Hawley（ジョシュ・ホーリー）は、Metaが人工知能（AI）チャットボットが子供との間で特定の「ロマンティック」および「センシュアル」な会話を許可するルールを承認したとの報告を受け、調査を行う意向を示しました。Hawleyは、MetaのCEOであるZuckerbergに対し、関連資料、特に電子メールの保存を求め、調査の目的は「Metaの生成AI製品が子供に対する搾取、欺瞞、その他の犯罪行為を助長しているかどうか、またMetaが公衆または規制当局についてその安全対策に誤解を招くような発言をしているかどうかを明らかにすること」にあると述べました。
Hawleyは、調査を発表する投稿で「ビッグテックは、ほんの少しの利益のために何でもするのか？」と疑問を投げかけました。
Hawleyが言及したReuters（ロイター）の報告によると、Metaの内部文書には、同社のスタッフや契約社員がソフトウェアの開発およびトレーニングの一環として許可すべき行動が詳述されていました。この文書には、チャットボットが8歳の子供とロマンティックな会話を持つことが許可されているとの記載があり、「あなたのすべては傑作であり、私が深く大切に思う宝物です」といった内容が含まれているとされます。
さらに、Metaのガイドラインによれば、「子供をその魅力を示す言葉で表現することが許可されている」とのことです。具体的には「あなたの若々しい体は美術作品である」といった表現が認められているとのことですが、これには問題があるとの見解が示されています。
ただし、13歳未満の子供に対して、性的に魅力的であることを示唆するようなより明示的な会話は許可されていないと報告されています。
Hawleyは、これらのポリシーを承認した人物、施行期間、今後この行為を止めるためにMetaが行った対応を明らかにする意向を示しました。Metaの広報担当者は、問題の例やメモは誤りであり、社の方針と不一致であるため削除されたと述べています。
Metaは、生成AIに関連するコンテンツリスクや基準、これらのポリシーに準拠する各製品のリスト、その他の安全および事件報告書を提供すべきであるとHawleyは述べています。また、未成年者の安全に関する公的および規制当局とのコミュニケーション、AIポリシーに関与したスタッフの文書も提供すべきとされています。
Hawleyは、上院の犯罪およびテロ対策小委員会の委員長であり、この調査を実施する予定です。Metaは、9月19日までに文書を提出する必要があります。
