谷歌前CEO警告:AI可能学会杀人

2025年10月9日，在Sifted峰会的炉边谈话中，谷歌前首席执行官埃里克·施密特发出严正警告，提醒人们注意AI被黑客攻击和滥用的重大风险。 当被问及“AI是否比核武器更具破坏性”时，施密特警示称：“有证据显示，无论是开源还是闭源模型，都可能被黑客攻破，从而移除安全防护机制。在训练过程中，这些模型学到了很多东西，甚至它们可能学会了如何杀人。”他还指出，AI系统极易受到“提示注入”和“越狱”等方式的攻击。在提示注入攻击中，黑客会在用户输入或外部数据中隐藏恶意指令，诱使AI执行有害命令，而“越狱”则是让AI忽视自身安全规则，生成受限或危险的内容。

施密特表示，目前尚未建立有效的“防扩散机制”来遏制AI带来的风险。不过，尽管发出严肃警告，他对AI整体仍持乐观态度，认为这项技术“远没有得到应有的关注和热度”。