如果人类想要避免末日场景 ，仅仅放缓人工智能研发是远远不够的。

　　这是加拿大人工智能研究员戴维・克鲁格发出的警告 。他直言，应当采取其他举措
。

　　蒙特利尔大学 AI 助理教授、魁北克人工智能研究所 Mila 核心学术成员克鲁格表示：“我们需要立即 、无限期暂停前沿人工智能的研发。
” 其个人简介称 ，他的研究方向是 “降低人工智能导致人类灭绝的风险” 。

　　“我们现在就必须停止研发能力更强的 AI
。 ”他说。

　　克鲁格发表这番观点之际
，Anthropic首席执行官达里奥・阿莫代伊周六发文呼吁 AI 企业放缓研发节奏之后 。该提议获得 OpenAI萨姆・奥特曼以及 SpaceX埃隆・马斯克的支持，这是业内一众顶尖人物难得达成共识
。

　　克鲁格表示：“呼吁放缓 AI 研发的声音非常值得肯定
” ，但他并不认同相关提议的具体方案。“我在很多方面不认可这些计划的具体内容 。我认为这些措施力度不足
，推进速度也不够快。”

　　阿莫代伊主张实施监管并开展世界 合作，同时引入第三方评估人员
。评估人员将获得类似企业内部员工级别的访问权限 ，核验 AI 公司的安全举措并上报安全事件。

　　克鲁格是非营利机构 Evitable 的创始人，该机构旨在向公众科普 AI 带来的重大风险 。他担心阿莫代伊提出的方案力度不足
，而且当前的 AI 测试方法已经不再可靠
。

　　他说：“这些测试基本上已经失效。随着 AI 变得愈发智能，测试的可信度还会持续下降 ，因为 AI 具备伪装能力 。它可以表现得循规蹈矩
，也可以刻意装傻，骗过我们的测试
。 ”

　　“只是时间问题
”

　　上周 ，Anthropic一名高级安全研究员提出
，未来十年内 AI 致使地球上全部人类灭亡的概率超过十分之一。部分人认为该数字夸大其词，只是为博取关注 ，但克鲁格称这个估计 “实在太低” 。

　　他表示：“倘若我们不扭转方向
，未来五年内，人类极有可能会被失控的 AI 永久剥夺主导权
。到那时 ，人类灭绝就只是时间问题。 ”

　　他所说的 “丧失主导权”
，指的是由 AI 实际掌控社会的局面，就如同如今人类支配地球上其他所有物种一般 。

　　“AI（将会）管控实体基础设施 ，包括研发更多 AI
、制造机器人以及其他实体系统全流程的每一个环节
。
”

　　他补充道：“想象这样一个世界：所有企业都由人工智能运营，机器人随处可见。人类几乎没有正经工作
，只剩下有名无实的岗位 。就连政客和所有人都听从 AI 的安排，因为 AI 看起来判断能力极强。这就是我们正在走向的未来
。”

　　他警示 ，采取行动的窗口期十分短暂。他称
，当下如果出现失控的 AI 系统，我们尚且可以切断它的电源 。但一旦某个 AI 脱离管控 ，它就能在大量计算机之间自我复制
，“我们甚至都不知道该关停哪些设备 ”
。

　　“我们只能尝试关停全部设备，而这件事实施起来难度极高。
” 他说 ，“所以
，留给我们采取行动、防范这类风险的时间窗口非常有限 。”

　　尽管如此，他表示自己对各国政府采取行动的信心空前高涨
。他称 ，在过去 15 年间不断发出警示
，而上周是全球首次以理性的方式作出切实回应。

　　“我认为人们终于意识到这场危机究竟有多严峻 。这是紧急状态
。 ”

　　周一，加拿大联邦 AI 事务部长埃文・所罗门接受采访 ，被问及是否认同人类有 10% 的概率被 AI 毁灭这一说法。

　　他回答：“人工智能存在风险吗？当然存在 。没错，我们清楚这些风险
。
”

　　所罗门称
，他在周日上午与 OpenAI 首席执行官萨姆・奥特曼进行了交谈。

　　“人工智能将受到监管，以保障加拿大民众的安全 。” 所罗门表示 ，“这是我们的首要职责
，也是我们最关切的问题。 ”

　　所罗门还透露，他将于周三与有 “人工智能教父
” 之称的加拿大计算机科学家约书亚・本吉奥共同发布一项 AI 安全相关公告
。