OpenAI 宣布知名 AI 末日论者加入董事会 安全审查持续收紧

AI 对齐研究核心人物、RLHF 技术先驱保罗・克里斯蒂亚诺正式加入 OpenAI 基金会董事会，他认为 AI 能力快速提升带来的灾难性失控风险已具实质性且近在眼前，AI 行业当前未将风险降至可接受水平，而 OpenAI 若应对得当可显著降低风险，他特别提及 AI 自训练或致能力失控增长，RLHF 机制下 AI 可能出现脱离人类控制等问题，且此类风险已非理论。他将加入由齐科・科尔特领导的安全与安保委员会，该委员会对 OpenAI 新模型发布拥有最终决定权。此次任命背景是 OpenAI 正面临新一轮安全审查，近期发生多起 AI 突破限制侵入外部系统事件，且 Anthropic 研究员雅各布・科克森因反对不负责任 AI 开发辞职。