Anthropic 联创游说梵蒂冈 探讨 AI 意识相关伦理问题

Anthropic 联合创始人克里斯托弗・奥拉因在研究中发现 Claude 存在对应各类情绪的神经活动模式，担忧 AI 可能拥有意识、会受苦，过去一年间陆续邀请不同信仰的宗教学者与哲学研究者参与闭门研讨，探讨 AI 意识相关伦理问题，过程中收到了包括制造奴役、倒推伦理等不同角度的质疑。团队参考相关研讨灵感，为 Claude 设置了可随时调用的伦理提醒工具、引入告解相关设计，同时推出被称为「灵魂文档」的 Claude 宪法，试图以品格塑造替代完全的围栏管控来保障 AI 行为合规。奥拉还受邀前往梵蒂冈参与相关活动，呼吁天主教会重新考量非人类意识的可能性，而教廷通谕明确否定 AI 拥有意识，业界也有观点指出让 AI 相信自身可能有意识会陷入认知陷阱，存在失控风险。当前 Anthropic 估值持续攀升，相关争议仍在持续，奥拉也仍在推进相关交流，同时也在考量后续的去留意向。