【速報】Anthropicと共同でAIの憲法を作成するための調査を行った「Collective Intelligence Project」

クロードAIの憲法に人々の意見を取り入れる

非営利団体Collective Intelligence Projectは、Anthropicの共同開発者であるClaude AIの憲法作成のため、1,000人のアメリカ人を調査しました。Anthropicは、AI開発者がAIチャットボットのルールを選ぶためにアメリカの一般市民に1,000人から回答を求めたと述べています。参加者は、既存のルールから選択するか、独自のルールを設定することができました。

市民の声を反映したAI憲法

調査には、アメリカの成人の年齢、性別、所得、場所などを代表するような1,000人の参加者が含まれていました。参加者は、人種や性的嗜好に基づいてAIが差別をするかどうかなど、さまざまな質問に対して3万8000票以上を投じました。Anthropicによれば、ほとんどのステートメントについては一致した意見がありましたが、一部意見が分かれる質問も存在しました。

次の課題は多様な意見を取り入れること

調査は多様な参加者を集めることを試みましたが、富裕層やテクノロジーに詳しいアメリカ人に限定されているとDivya Siddarth氏は認めています。今後の実験では、それ以上の多様な意見を取り入れる必要があると述べています。また、Collective Intelligence ProjectはOpenAIなど他のAI開発者とも協力し、民主的なAIプロジェクトを進めているとのことです。

AIの民主的な発展に向けた取り組み

Anthropicは2021年に設立され、より高速かつ高度な人工知能を市場に導こうとする開発者の一つです。Microsoft、Google、Meta、Amazonなどは、生成型AI開発者に数十億ドルを投資しています。2023年はAI開発者にとって収益を上げる年となっており、Googleは2月にAnthropicに4億ドルの投資を発表し、9月にはAmazonが40億ドルの投資を行いました。AnthropicはさらにOpenAI、Google、Microsoftと協力し、AIの責任ある開発に取り組むことを約束しました。

民主的なAIの未来に期待

憲法AI実験の制約にもかかわらず、Siddarth氏はCollective Intelligence Project、AIにおける民主主義、新興技術の開発における公共の意見の取り入れについて楽観的な姿勢を示しています。今後も民主的なプロセスを続け、既に行ってきたことから学び、市民社会の団体や政策立案者、他の企業と協力していくと述べています。