美媒:美国务院委托撰写的报告警告,AI可能对人类构成“灭绝级”威胁

日期:03-13
CNN美媒美国务院美国政府

【环球网报道】根据美国有线电视新闻网(CNN)当地时间12日报道,美国国务院委托撰写的一份报告于本周发布,报告中警告,AI可能对人类构成“灭绝级”威胁,美国必须进行干预。

美媒:美国务院委托撰写的报告警告,AI可能对人类构成“灭绝级”威胁

据CNN介绍,这份报告由专注于AI领域的公司GladstoneAI撰写,该公司为美国政府高层提供关于AI机遇和风险的咨询和报告。美国国务院一名官员向CNN证实,其所在机构委托撰写了这份报告,但报告不代表美国政府的观点。

报道说,这份报告基于一年多以来对200多人的采访得出,采访对象包括来自领先AI公司的高管、网络安全研究人员、大规模杀伤性武器专家和政府内部的国家安全官员。报告明确提到,最先进的AI系统在最糟糕的情况下可能会“对人类物种构成灭绝级的威胁”。

CNN称,首先,报告提到,最先进的AI系统可能被用作武器,造成潜在的、不可逆转的破坏;其次,报告称AI实验室内也存在担忧,担心对开发的系统“失去控制”,可能对全球安全造成“潜在的毁灭性后果”。“AI和AGI(通用人工智能)的兴起有可能以类似引入核武器的方式破坏全球安全,”报告称,在AI方面存在着“军备竞赛”、冲突和“与大规模杀伤性武器相当的致命事故”的风险。

CNN说,报告为此呼吁采取措施来应对这一威胁,包括成立一个新的AI方向的机构,实施“紧急”监管保障措施,并限制用于训练AI模型的计算机能力。“美国政府显然迫切需要干预。”报告称。

“AI已经是一项经济上具有变革性的技术。它可以帮助我们治愈疾病,实现科学上的发现,并克服我们曾认为不可逾越的挑战。”GladstoneAI联合创始人兼首席执行官(CEO)杰雷米•哈里斯12日告诉CNN,“但它也可能带来严重的风险,包括灾难性的风险,这是我们需要注意的,”“越来越多的证据——包括在世界顶级AI会议上发表的实证研究和分析——表明,超过一定的能力阈值,AI可能会变得无法控制。”

CNN提到,白宫发言人罗宾•帕特森表示,美国总统拜登关于AI的行政命令是“全球任何政府为抓住AI的潜力和管控AI的风险所采取的最重要行动”,美国将继续与国际伙伴合作,并敦促国会通过两党立法来管控风险。

责任编辑:刘光博

哈马斯继续在加沙哈马德镇与以军交火 拜登锁定2024年美国总统选举民主党总统候选人提名
相关阅读: