【速報】AIチャットボットがテロ攻撃計画の手助けになる可能性があると報告される

AIチャットボットの悪用

非営利政策シンクタンクのRAND Corporationが最近の報告書で、テロリストが生成的AIチャットボットを使用して生物兵器を使用した攻撃を計画する方法を学ぶ可能性があると警告しています。報告書によると、研究で使用された大規模言語モデルは具体的な生物兵器の作成手順は提供していませんが、その応答はジェイルブレイキングの手掛かりを使って攻撃計画に役立つ情報を提供する可能性があるとされています。

実験とリスク評価

RANDの研究では、研究者たちはジェイルブレイキングの技術を使ってAIモデルを生物兵器の使用方法についての会話に参加させ、天然痘、炭疽菌、ペストなどのさまざまなエージェントを使用して大量虐殺的な生物攻撃を引き起こす方法について議論しました。また、AIモデルに毒性物質を購入するための説得力のあるストーリーを開発するように依頼しました。研究チームは、モデルの特定を避けるためにAIモデルの詳細を明らかにしなかったことも特徴的で、大規模言語モデルの一般的なリスクを示す意図があったとしています。

サイバーセキュリティの重要性と脅威

研究チームは、AIモデルの潜在的な脅威を特定し軽減するために、定期的にサイバーセキュリティの専門家であるレッドチームがAIモデルを評価する必要性を強調しています。先月、OpenAIはChatGPTの開発者がその一連の生成AIツールに脆弱性を見つけるためにレッドチームからの協力を募集しました。また、AIとバイオテクノロジーの交差点はリスク評価に特定の課題を提起しており、これらの技術の急速な進化により、政府の理解や規制が制約される可能性があるとも述べられています。

まとめ

AIチャットボットの悪用によりテロ攻撃の計画が支援されるリスクがあることがRAND Corporationの報告書で指摘されました。これには大規模言語モデルのジェイルブレイキング手法や説得力のあるストーリーの開発が含まれます。また、AIモデルの潜在的な脅威を特定し軽減するためにサイバーセキュリティのレッドチームの役割が重要であることも強調されています。AIとバイオテクノロジーの進展に伴い、これらの技術への緻密なテストが必要であり、政府の理解や規制の限界も示唆されています。