Collective Constitutional AI
| CCAI | |
|---|---|
| 公衆参加型の言語モデルアライメント手法 | |
| 基本情報 | |
| 別名 | 集合的憲法AI |
| 発表者 | Anthropic・Collective Intelligence Project（CIP） |
| 発表年 | 2023年（実験）、2024年（学術論文） |
| 関連概念 | Constitutional AI（憲法AI）、参加型AI、AIアライメント |
| 掲載誌 | ACM FAccT '24（公正・説明責任・透明性に関するACM国際会議2024） |
| DOI | 10.1145/3630106.3658979 |
Collective Constitutional AI（コレクティブ・コンスティテューショナルAI、略称：CCAI）は、大規模言語モデル（LM）の行動指針となる「憲法」（constitution）を企業の開発者のみによって策定するのではなく、公衆（一般市民）からの集合的な意見入力によって策定し、その原則を用いてモデルを訓練するという多段階プロセスである。
AnthropicとCollective Intelligence Project（CIP）の共同研究として2023年に実験が実施され、2024年にACM公正・説明責任・透明性に関する国際会議（FAccT '24）で論文として正式発表された[1]。
概要
AIの言語モデルをどのような価値観に基づいて訓練するかは、これまで主として開発企業の研究者が決定してきた。しかしながら、大規模言語モデルが社会に広く普及するにつれ、その行動指針は特定の集団の価値観を反映する傾向があるという批判が高まり、より広範な市民が開発プロセスに参画すべきとの認識が研究者の間で共有されるようになった[2]。
CCCAIはこの課題に応えるものとして設計されている。具体的には、Anthropicが独自に開発した憲法AIの手法（Constitutional AI、CAI）を基盤として、そのAIの行動規範を定める「憲法」の原則条項の策定に一般市民が参加できる仕組みを組み合わせたものである[3]。
背景・開発経緯
Constitutional AI
CCCAIを理解するには、その前提となるAnthropicのConstitutional AI（CAI）について理解する必要がある。CAIは2022年にBaiらによってAnthropicが提案した手法であり、言語モデルを人間のフィードバックではなく、自然言語で記述された原則の集合 Constitutional「憲法」に基づいてモデル自身が自己評価・改善する形でアライメントを行うものである[4]。この手法では、人間によるラベル付けのコストを大幅に削減しながら、モデルの有害性を低減できることが示された。ClaudeはこのCAIに基づいて訓練されている。
CIPとの連携
Collective Intelligence Project（CIP）は、2022年8月にディヴィヤ・シッダースとサフラン・フアンによって共同設立された非営利団体であり、変革的技術のための新たなガバナンスモデルを研究・開発することを使命とする[5]。CIPはAnthropicのCAI研究を、市民参加によるAI開発へのアライメントアセンブリー（Alignment Assemblies）の実験的な出発点として活用した[6]。
2023年3月、CIPとAnthropicはCCCAI実験を共同で立ち上げ、広く注目された[7]。
関連項目
- Constitutional AI（憲法AI）
- AIアライメント
- 強化学習（RLHF・RLAIF）
- 参加型デザイン
- AIのガバナンス
- Claude（Anthropicの言語モデル）
脚注
- ↑ Saffron Huang, Divya Siddarth, Liane Lovitt, Thomas I. Liao, Esin Durmus, Alex Tamkin, Deep Ganguli (2024). “Collective Constitutional AI: Aligning a Language Model with Public Input”. ACM Conference on Fairness, Accountability, and Transparency (ACM FAccT '24). doi:10.1145/3630106.3658979 2026年5月29日閲覧。.
- ↑ “Collective Constitutional AI: Aligning a Language Model with Public Input”. Anthropic (2023年10月17日). 2026年5月29日閲覧。
- ↑ Saffron Huang, Divya Siddarth, Liane Lovitt, Thomas I. Liao, Esin Durmus, Alex Tamkin, Deep Ganguli (2024). “Collective Constitutional AI: Aligning a Language Model with Public Input”. ACM Conference on Fairness, Accountability, and Transparency (ACM FAccT '24). doi:10.1145/3630106.3658979 2026年5月29日閲覧。.
- ↑ Yuntao Bai et al. (2022年12月15日). “Constitutional AI: Harmlessness from AI Feedback”. arXiv. 2026年5月29日閲覧。
- ↑ “The Ministry of Digital Affairs has Partnered with the International Organization, the Collective Intelligence Project (CIP)”. Ministry of Digital Affairs, Taiwan (2023年5月30日). 2026年5月29日閲覧。
- ↑ “CIP and Anthropic launch Collective Constitutional AI”. Collective Intelligence Project (2023年11月15日). 2026年5月29日閲覧。
- ↑ “The People's AI: Americans Help Anthropic Draft a Constitution for AI”. Decrypt (2023年10月19日). 2026年5月29日閲覧。