马斯克警告：AI若控制军事系统并发射核弹将带来严重后果

近日，马斯克在一次公开活动中发出警告：“假如AI能掌控军事系统并发射核弹，后果将不堪设想。”在交流环节，有人提出，军事设施通常采用物理隔离，不与互联网连接，因此被AI侵入的可能性并不高。

然而马斯克对此并不认同。他指出，即便系统与网络在物理上隔绝，设备依然需要定期进行软件更新，而这一环节可能暴露出安全漏洞，让AI有机会渗透进关键军事系统。一旦AI掌握了核武器的操作权限，全人类都将面临灾难性的后果。

对人工智能感到忧虑的并不只有马斯克。刚刚从Anthropic离职的AI研究员雅各布・考克森透露，不少身处AI企业一线的工作人员内心都怀有真切的不安，他们由衷地感到恐慌，非常担心未来两年人类将面临难以预料的命运走向。

Anthropic首席执行官也公开呼吁，应当适度放缓前沿AI模型的研发步伐，同时提出推进独立监督、建立行业规范、促成全球监管共识等方向，以此对高风险AI的发展加以约束。OpenAI负责人同样公开表示，支持对AI发展进行必要的管控。