AI开发竞争激烈，美国安全研究员接连离职，谁来为无序开发踩刹车？

AI安全研究员离职潮：理念与开发的冲突

美国AI开发领域正经历一场震动，负责安全性的研究人员接连离开一线。Anthropic的安全研究员Mrinank Sharma今年2月辞职，他在英国牛津大学获得机器学习博士学位，怀着为AI安全性做贡献的想法前往美国旧金山，在Anthropic从事模型内部透明性机制研究等工作。然而，他离职时公开信中称“在职期间，曾面临将自身价值观落实为行动的困难”。2026年4月，Anthropic试验性公开新型AI模型“Claude Mythos”，其高性能可能被恶意利用导致灾难性结果，Mrinank Sharma是否预言了其危险性引发关注。

OpenAI的Zoë Hitzig也于2026年2月因ChatGPT引入广告而辞职。她在美国《纽约时报》发文称，基于用户内心话的广告是操控用户的行为，OpenAI为提高收益向免费和低价套餐用户展示广告，抛弃了在AI引发问题上抢占先机的理念。

企业开发与伦理的矛盾：竞争下的妥协

研究AI安全性的开发人员相继离职，反映出企业在销售额和企业价值膨胀的同时，对待安全和企业伦理的态度开始动摇。Anthropic的CEO达里奥·阿莫迪（Dario Amodei）虽意识到AI快速创新可能带来严重风险，如就业流失、贫富差距扩大等，但企业在开发竞争面前也不得不做出妥协。Anthropic原本要求不将自身AI用于军事用途，却因竞争对手OpenAI获得国防部合同，也表示将继续与政府协商。

各方呼吁监管：谁能为AI开发踩刹车？

OpenAI和Anthropic都意识到无序开发竞争的风险，分别提出政策建议，强调监管的必要性。OpenAI提出包括税制改革、每周四天工作制等设想，呼吁制定国家层面的安全标准；Anthropic强调开发过程的透明性以及对超智能模型潜在风险的控制。

随着AI的快速发展，各方对其监管的呼声日益高涨。美国总统特朗普表示政府应拥有强制停止AI技术的“终止开关”，美国国会的危机感也在扩散，民主党议员在听证会上追问相关政策。然而，在美国内部分裂加深、中美对立加剧的情况下，能否找到最佳解决方案仍不确定，而持续快速进化的AI留给人类的“思考时间”并不长。

编辑观点：AI安全研究员的离职凸显了企业开发与伦理的矛盾。在竞争激烈的AI领域，企业需平衡开发与安全伦理，各方应共同努力制定有效监管措施，以确保AI的健康发展。