Christiano 入驻 OpenAI 董事会 警告 AI 失控风险及灾难性后果

在各界对 AI 技术安全担忧升温之际，OpenAI 宣布任命 Christiano 加入其非营利基金会董事会和安全委员会。Christiano 警告称，若构建超级智能时缺乏完善协调机制，人类将永久失去对其控制，多数人可能丧命。基于 AI 能力发展轨迹与协调困难，他认为 AI 能力快速提升短期内存在灾难性且不可逆的控制权丧失风险，包括 OpenAI 在内的 AI 行业目前未走上将该风险降至可接受水平的道路。