美媒：美国务院委托撰写的报告警告，AI可能对人类构成“灭绝级”威胁 美媒：美国务院委托撰写的报告警告，AI可能对人类构成“灭绝级”威胁
来源：环球网
【环球网报道】根据美国有线电视新闻网（CNN）当地时间12日报道，美国国务院委托撰写的一份报告于本周发布，报告中警告，AI可能对人类构成“灭绝级”威胁，美国必须进行干预。
据CNN介绍，这份报告由专注于AI领域的公司Gladstone AI撰写，该公司为美国政府高层提供关于AI机遇和风险的咨询和报告。美国国务院一名官员向CNN证实，其所在机构委托撰写了这份报告，但报告不代表美国政府的观点。
报道说，这份报告基于一年多以来对200多人的采访得出，采访对象包括来自领先AI公司的高管、网络安全研究人员、大规模杀伤性武器专家和政府内部的国家安全官员。报告明确提到，最先进的AI系统在最糟糕的情况下可能会“对人类物种构成灭绝级的威胁”。
CNN称，首先，报告提到，最先进的AI系统可能被用作武器，造成潜在的、不可逆转的破坏；其次，报告称AI实验室内也存在担忧，担心对开发的系统“失去控制”，可能对全球安全造成“潜在的毁灭性后果”。“AI和AGI(通用人工智能)的兴起有可能以类似引入核武器的方式破坏全球安全，”报告称，在AI方面存在着“军备竞赛”、冲突和“与大规模杀伤性武器相当的致命事故”的风险。
CNN说，报告为此呼吁采取措施来应对这一威胁，包括成立一个新的AI方向的机构，实施“紧急”监管保障措施，并限制用于训练AI模型的计算机能力。“美国政府显然迫切需要干预。”报告称。
“AI已经是一项经济上具有变革性的技术。它可以帮助我们治愈疾病，实现科学上的发现，并克服我们曾认为不可逾越的挑战。”Gladstone AI联合创始人兼首席执行官（CEO）杰雷米•哈里斯12日告诉CNN，“但它也可能带来严重的风险，包括灾难性的风险，这是我们需要注意的，”“越来越多的证据——包括在世界顶级AI会议上发表的实证研究和分析——表明，超过一定的能力阈值，AI可能会变得无法控制。”
CNN提到，白宫发言人罗宾•帕特森表示，美国总统拜登关于AI的行政命令是“全球任何政府为抓住AI的潜力和管控AI的风险所采取的最重要行动”，美国将继续与国际伙伴合作，并敦促国会通过两党立法来管控风险。