【特集】OpenAIがディープフェイク画像の検出ツールを発表

OpenAI、ディープフェイク画像の検出に挑む

オープンAIは、社会的な混乱を引き起こす誤解情報の拡散が増加している中で、ディープフェイク画像を検出する新しいツールを発表しました。このツールは人工知能（AI）によって生成された画像を99%の信頼性で判別することができるとされており、興味を引きました。ディープフェイク画像によって引き起こされる潜在的な問題を解決するために、AIの進化による新たな挑戦が始まりました。

ディープフェイクの検出の難しさ

AIによって生成された画像の検出は容易ではなく、現在の手法は主に人の直感に頼っています。特に手や歯、そしてパターンの描写など、生成AIの困難な部分に焦点を当てています。AIでAIを検出しようとする場合、AI生成画像とAI編集画像の違いはあいまいです。OpenAIは有害なAI画像の検出だけでなく、自社モデルの検閲を行うためのガードレールの設定にも取り組んでいます。

他の企業の取り組みと課題

ディープメディアやMicrosoft、Adobeなどもディープフェイクの検出に取り組んでいます。C2PAが推進する「AIウォーターマーキング」システムでは、AI生成コンテンツを示す「cr」シンボルが導入されています。このシンボルは透明性を示すものであり、コンテンツの出所を明確にする役割を果たします。ただし、このシンボルのメタデータは剥ぎ取られる可能性があります。それに対抗するため、Adobeはメタデータを回復することができるクラウドサービスを提供しています。しかしこのシステムも迂回されることは容易です。

認識の共有と技術の進化が求められる

ディープフェイクを違法行為とする動きが出ている中で、これらのイノベーションは単なる技術的な成果ではなく、社会的な必要性を示しています。OpenAIやMicrosoft、Adobeなどの動きは、デジタル時代における真正性の確保への共同努力を象徴しています。ただし、これらのツールの効果的な活用には、テクノロジー大手だけでなく、コンテンツクリエーターやSNSプラットフォーム、エンドユーザーなども含めた広範な普及が必要です。AIの進化により、テキスト、画像、音声の真正性を区別する機能は依然として苦闘しています。現時点では、人間の判断と警戒心がAIの誤用に対する最良の防御策となっています。長期的な解決策には、テクノロジーリーダーや立法者、一般の人々が協力してこの新たな領域を進む必要があります。