【特集】深層学習技術の脅威：現行の透かし技術ではAI生成画像の偽装を防げない

AI生成コンテンツの偽装の脅威

ディープフェイクの広まりは、未成年者のヌード画像の作成や有名人のディープフェイクを利用した詐欺宣伝など、様々なリスクをもたらしています。AI生成コンテンツ（AIGC）を人間が作成したものと区別する能力は、これまで以上に重要となっています。また、透かしはAI生成画像と非AI生成画像を識別するための一般的な対策ですが、最近の研究論文によると、単純な透かしや高度な透かし方法でも、AIによる作品を人間の作品として公開するリスクを完全に防ぐことは難しいことが示されました。

現行透かし技術の脆弱性

この研究は、NTU、S-Lab、重慶大学、Shannon.AI、浙江大学の科学者チームによって行われました。水印は、コンテンツがAIによって生成されたものか人間によって生成されたものかを知る手段として有効であると研究者は述べています。ただし、水印が削除や偽造が容易である場合、水印を追加することでAIによって生成されたアートワークを人間の作品と信じさせたり、水印を削除することで人間によって作成されたAIGCであることを他人に信じさせることができます。

現行透かし技術の限界

この研究では、現行の透かし技術の脆弱性を調査しました。さまざまな手法を用いて透かしを削除または偽造し、それぞれの手法の容易さと効果を評価しました。その結果、透かしは比較的容易に妥協される可能性があることが一貫して示されました。これらの脆弱性による現実世界への悪影響、特に情報の誤情報や悪意のあるAI生成コンテンツの悪用についても評価されました。これらの実験と分析から、より頑健な透かし機構が必要であると結論づけられました。

透かし技術の将来展望

OpenAIなどの企業は、AI生成コンテンツを99％の精度で検出する方法を開発したと発表していますが、課題は依然として存在します。メタデータや見えない透かしといった現行の識別方法には限界があります。Li氏は、「デジタル署名などの暗号技術を既存の透かし手法に組み合わせてAIGCを保護する方が良い」と提案していますが、具体的な実装方法はまだ不明です。

ウォーターマーキングの重要性と課題

AIの急速な進歩により、OpenAI CEOのSam Altmanが指摘したように、AIの思考プロセスは将来的には人間の論理と直感に似たものになる可能性があります。このような進歩により、透かしのような堅牢なセキュリティ対策の重要性がますます高まっています。Li氏は、「透かしとコンテンツ管理は重要ですが、通常のユーザーには影響を与えません」と述べていますが、クリエイターと悪意のある者の間には相克が存在します。「これは常に猫とネズミのゲームです。だからこそ、透かしの手法を常に更新し続ける必要があります」とLi氏は語っています。