最近、Spotify、Reddit及Xは、子供たちが不適切なコンテンツにさらされないようにするため、年齢確認システムを導入しました。
グローバルなオンライン安全運動は、子供たちがインターネット上で潜在的に有害なものから遠ざけるための多くのAI搭載製品を生み出す道を開きました。イギリスでは、Online Safety Actという新しい法律が成立し、テクノロジー企業に対して、子供たちを年齢に不適切な材料、ヘイトスピーチ、いじめ、詐欺、児童性的虐待材料（CSAM）から守る義務が課されています。この法律に違反した場合、企業は全世界の年間売上の最大10%の罰金を科される可能性があります。
アメリカ合衆国でも、子供たちをオンラインでより安全に保つための重要な規制が急速に進行中です。Kids Online Safety Actと呼ばれる法案は、ソーシャルメディアプラットフォームが自身の製品によって子供たちが害を受けないようにする責任を負うことを定めています。このような規制の推進は、いくつかの大手テクノロジー企業に再考を促す要因となっています。Pornhubをはじめとするオンラインポルノ企業は、年齢確認システムを通過しない限り、すべてのユーザーにサイトへのアクセスを制限しています。
Spotify、Reddit、Xも、子供たちが性的に露骨または不適切なコンテンツに触れないよう、年齢確認システムを導入しています。しかし、これらの規制措置は技術業界から批判を受けていることも事実であり、プライバシーの侵害につながる懸念が高まっています。
これらの年齢確認措置の中心には、Yotiという企業があります。Yotiは、自撮りを利用してAIを通じて顔の特徴に基づき年齢を確認する技術を提供しています。同社のAIアルゴリズムは数百万の顔で訓練されており、13歳から24歳の人々の年齢を2歳以内で正確に推定できると主張しています。また、Yotiはイギリスの郵便局と提携した経験があり、政府発行のデジタルIDカードの推進によって広がるビジネスチャンスを狙っています。
最近、HMD Globalというフィンランドのスマートフォンメーカーが、未成年者がヌードのコンテンツを撮影したり共有したりするのを防ぐAI技術を使用したFusion X1という新しいスマートフォンを発表しました。このデバイスは、子供の安全を重視した英国のサイバーセキュリティ企業SafeToNetによって開発された技術を採用しています。
NSPCCのオンライン子供安全政策マネージャーであるRani Govender氏は、この技術がユーザーのプライバシーを損なうことなく認証ができると述べ、テクノロジー企業には子供たちを守るために倫理的な選択をする責任があると強調しました。今後、GoogleやMetaなどのデジタル大手が子供たちの安全を最優先にしなければならない時代が来ると予測されています。彼女は、テクノロジー企業が数年間、危険なコンテンツを放置し、若者を脆弱な立場に置いてきたことを指摘し、今後の変革が求められています。
