【速報】OpenAI、AIに関連する広範なリスクを評価する新たな取り組みを発表

OpenAIが「Preparedness」と呼ばれる新しい部門を設立

AI研究・展開会社であるOpenAIは、10月25日に、AIに関連する潜在的な災害リスクを追跡、評価、予測し、保護するための新しいチームの立ち上げを発表しました。「Preparedness」と呼ばれるこの新しい部門は、化学、生物、放射線、核の脅威、個別の説得力、サイバーセキュリティ、自己複製と適応のようなAIに関連する潜在的な脅威に特化しています。

対策チームのリーダーはAleksander Madry氏が務める

PreparednessチームはAleksander Madry氏の指導の下、AIシステムの悪用時の危険性や、悪意のある行為者が盗まれたAIモデルの重みを展開できるかなどの問題に取り組む予定です。「我々は、最先端のAIモデルが、現在の最も先進的なモデルに存在する能力を超える可能性を持ち、すべての人類に利益をもたらす可能性があると信じています」とOpenAIは述べており、AIモデルには「ますます深刻なリスク」も存在すると認めています。

OpenAIが新しいチームのメンバーを募集

OpenAIはブログ投稿で、新しいPreparednessチーム向けに異なる技術的バックグラウンドを持つ人材を募集しています。さらに、同社はAIの誤用防止のためのAI Preparedness Challengeを開始し、上位10件へのAPIクレジットで25,000ドルを提供します。OpenAIは以前、2023年7月にAIの潜在的な脅威に対処する新しいチームを立ち上げる計画を発表していました。

AIに関連するリスクが引き続き注目される中

AIに関連するリスクは頻繁に指摘されており、AIが人間よりも知能が高くなる可能性についての懸念もあります。しかし、OpenAIなどの企業はこれらのリスクを認識しながらも、近年、新たなAI技術の開発に積極的に取り組んでおり、それによりさらなる懸念が生じています。2023年5月、AI Safety Centerという非営利団体がAIのリスクに関する公開書簡を発表し、AIによる絶滅のリスクをパンデミックや核戦争などの社会規模のリスクと同様に、グローバルな優先事項として緩和するようコミュニティに呼びかけました。