parke1_IG_Royal via Getty Images_nuclear IG_Royal via Getty Images

防止人工智能核末日的到来

日内瓦——这不再是科幻小说的内容:将人工智能应用于核武器系统的竞赛正在进行中——该进展或许会导致核战争更有可能。随着世界各国政府采取行动确保人工智能的安全开发和应用,缓解这种危险成为可能。但如果世界领导人想要抓住这次机会,他们必须首先认识到威胁的严重性。

最近数周内,七国集团达成了广岛进程先进人工智能系统开发组织国际行为标准,以在“全球范围内推动安全、可靠和值得信赖的人工智能”,美国总统乔·拜登也发布了一项行政命令,对人工智能“安全和保障”制定了新的标准。英国还主办了首届全球人工智能安全峰会,目的是确保人工智能技术的开发以安全和负责任的方式进行。

但上述举措均未充分化解人工智能运用于核武器所带来的风险,七国集团的行为准则和拜登的行政命令都只是顺便提到了保护民众免受人工智能所产生的化学、生物和核威胁的必要性。英国首相里希·苏纳克根本没有提到与核武器相关的人工智能应用所带来的严重危险,尽管他宣布,一项关于人工智能所涉风险的共识已经在人工智能安全峰会上达成。

https://prosyn.org/2VbequHzh