Anthropic研究员Jacob Coxon因反对AI军备竞赛辞职

Coxon表示，这些封闭实验室当前正在开发的AI系统，很快将拥有“超人类”水平的能力，可以发动黑客攻击、在一夜之间颠覆某个领域，并在现实世界中攫取权力和资源。他同时指出，相关研究已在多个方向持续取得进展，且没有明显放缓的迹象。

他还说，从OpenAI首席执行官Sam Altman和Anthropic首席执行官Dario Amodei的公开言论来看，外界或许会认为两家公司都在审慎推进AI发展，但他并不认同这种印象。Coxon称，这些从业者私下相信AI“可能在本世纪末杀死我们所有人”，这并非营销说辞；他还表示，Altman和Amodei等高管面对媒体时会调整表达方式，让自己显得更加克制，但私下里其实对正在被创造出来的东西深感忧虑。

在Coxon看来，OpenAI与Anthropic的内部文化也存在差异。他说，OpenAI里有不少员工并未“深刻意识到其中的文明级风险”；而在Anthropic，相关风险“大家都很清楚”，但公司依然被锁定在率先开发AGI的竞赛之中。Coxon表示，Anthropic认为既然其他人未必会负责任地行事，那么自己就必须先赢得这场竞赛。

Coxon认为，在这种情况下，许多关键决策不应该只在私营公司的Slack里做出。他对美国AI实验室在近期事件后加强协调持谨慎乐观态度，但认为这种合作一旦扩大到美国以外的实验室就会失效。因此，他提出可以考虑对模型能力提升实施临时禁令。

在帖文结尾，Jacob Coxon呼吁其他实验室研究人员认真思考未来五年，不要继续回避问题，而应推动AI发展走向不同方向。