【特集】AI生成の虐待コンテンツに対する取り組みに関する共同声明発表

社会メディアプラットフォーム、AI開発者、政府、NGOが共同声明を発表

オンライン上でAIによって生成される虐待的なコンテンツに対抗するため、主要な社会メディアプラットフォーム、AI開発者、政府、NGOの連携が行われました。この政策声明は、アメリカ、オーストラリア、韓国、ドイツ、イタリアの政府、Snapchat、TikTok、OnlyFansといった社会メディアプラットフォームなど27の連署者によって、イギリスによって発表されました。AIプラットフォームのStability AIやOntocord.AI、インターネット安全や児童権利に取り組むNGOなども連署しました。

AIの悪用による児童性的虐待コンテンツの問題点

共同声明では、AIはオンライン上の児童性的虐待の脅威に対処する上で「大きな機会」を提供する一方で、加害者によってこのようなコンテンツを生成する手段としても利用される可能性があると述べています。声明では、Internet Watch Foundationのデータを引用し、ダークウェブの掲示板に共有された11,108枚のAI生成画像のうち、2,978枚が児童性的虐待に関連する内容であったことを示しています。

AI時代における児童性的虐待対策の重要性

イギリス政府は、この声明が既存のフォーラムを通じてAIによる児童性的虐待へのリスクを理解し、適切な場合に対処するための取り組みを求めることを目的としていると述べています。加えて、国レベルでポリシーを構築するための透明性、AIを児童性的犯罪者に悪用される可能性を測定、監視、管理する計画についての透明性を推進するとしています。また、AI時代における児童性的虐待対策に関する対話を維持することを目指しています。この声明は、イギリスが今週AI安全に関する国際サミットを主催するにあたって発表されました。

AIによる児童の安全への懸念

急速に浸透し広範に使用されるAI技術による児童の安全に関する懸念は大きな話題となっています。10月26日、アメリカの34の州がFacebookとInstagramの親会社であるMetaに対して児童の安全に関する訴訟を提起しました。