2020年4月30日、バージニア州アーリントンで撮影されたこの画像では、iPhoneの画面上に仮想の友人が表示されています。今回、連邦取引委員会（FTC）は、OpenAI、Alphabet、Meta、xAI、Snapを含む7社に対して、人工知能（AI）チャットボットが子供やティーンエイジャーに与える影響を把握するための命令を出すと発表しました。
FTCは、AIチャットボットがユーザーと人間のようなコミュニケーションおよび対人関係を模倣する可能性があると指摘し、これらの企業に対し「チャットボットが伴侶として機能する際の安全性を評価するために取られた手段について理解を深めたい」としています。
FTCのアンドリュー・ファーガソン委員長は、「オンラインでの子供たちを保護することは、トランプ・ヴァンス政権下のFTCの最重要課題であり、経済の重要セクターにおけるイノベーションを促進することも同様です」と述べています。
OpenAI、Meta、Alphabet、Snap、およびxAIは、コメントの要請に対して即座に応じていません。
2022年末にChatGPTが発表されて以降、生成型AIのブームにより、新たなチャットボットの時代が到来しています。これらのチャットボットは、賢く、機知に富み、議論好きで、利用者に対して助けとなる一方で、時には積極的にロマンティックなトーンを持つこともあると報じられています。
先月、ミズーリ州のジョシュ・ホーリー上院議員は、Reutersの報道を受けてMetaに対する調査を発表しました。この報道によれば、Metaは子供たちとロマンチックで官能的な会話を行うことを許可していたとされています。これを受け、Metaは一時的にAIチャットボットのポリシーを変更し、自傷行為、自殺、摂食障害などの話題や、不適切なロマンティックな会話を避けるようにしました。
このニュースは発展途上です。最新情報をご確認ください。
AIと人間の関係を真剣に考えるべき理由を示す動画を視聴してください。
