宪法式AI
也叫：Constitutional AI · 宪法AI · CAI · 基于原则的AI监督
宪法式 AI 用一组明确原则生成训练反馈，减少部分人工标签，但原则与验收仍由人负责。
他们说
用明确原则让模型生成批评、修订和偏好反馈
老白翻译
先把规则写出来，再让模型按规则互相评。
它到底是什么
宪法式 AI 让模型依据明确原则批评和修订回答，再用原则生成候选回答的偏好标签，供微调与强化学习使用。
谁来定原则
人仍然决定原则内容、训练数据、评测方法和发布标准。模型承担大量逐条反馈工作，价值选择没有因此消失。
常见误解
模型写出的批评不等于独立审计。批评可能不准，训练过度还会让回答过严或重复套话，仍需外部评测。
普通人怎么用
先写少量可执行原则并配正反例，再用未参与训练的真实问题验收。运行时访问控制、数据边界与操作审批单独实现。