Anthropic 预训练研究员离职，称 AI 实验室拿人类生命押注超级智能

曾在 OpenAI 和 Anthropic 做了三年预训练研究的 Jacob Coxon 宣布从 Anthropic 辞职，其离职帖短时间内浏览量超 2600 万。他直指两家公司行事不负责任，正直奔自我改进的超级智能，将人类置于危险中。他称这类技术很快能在各领域超越人类，相关从业者私下里担忧其可能在十年末危及人类生存，且无其他人类活动有这般高风险。他解释，OpenAI 不少人未真正意识到文明级风险，Anthropic 虽清楚危险却陷入「必须率先到达」的竞赛，认为该竞赛是傲慢的赌博，不应由私人公司主导。他认为美国实验室间或能达成节奏协议，但目前无法阻止全球竞赛，或需暂时禁止模型能力提升等更激进措施。此外，他呼吁同行研究员认真思考未来工作，争取不同的研发条件。