新智元报道

编辑：元宇

【新智元导读】最近，微软AI CEO苏莱曼称AI已经超越人类。苏莱曼在组建微软超级智能团队的同时也提出了「人文主义超级智能」概念，他并不认同业内关于AGI竞赛的做法，他认为所有行业参与者都应当意识到超级智能在发展中伴随着巨大的风险，必须确保让AI站在人类一边。

「AI已经超越人类了」。

近日，微软AI（Microsoft AI）CEO穆斯塔法·苏莱曼（Mustafa Suleyman）在接受Bloomberg采访时说道。

苏莱曼谈到了超级智能发展的安全红线，认为其可能在医学领域率先落地。

他还谈到了自己如何使用AI，比如用Copilot帮自己挑选电影。

微软AI CEO 苏莱曼（Mustafa Suleyman）

2024年3月，苏莱曼被任命为微软AI CEO，负责微软整体AI战略与产品方向。

在此之前，他曾与里德·霍夫曼共同创立了Inflection AI，还曾因共同创立DeepMind声名鹊起。

DeepMind在2014年被谷歌收购，后来开发出了击败围棋世界冠军的AlphaGo。

如今的DeepMind已成为谷歌旗下全球顶尖的AI研究机构，并通过AlphaFold、Gemini等一系列突破性创新，占据了AI领域的领导地位。

AI已经「超越人类了」

今年年初，OpenAI CEO奥特曼曾雄心勃勃地表示：AGI最早将于2025年实现。

这一预测在当时挑战了业内普遍共识，因此备受争议。

最近，谷歌DeepMind CEO哈萨比斯（Demis Hassabis）又多次表态，AGI可能在5到10年内实现。

目前，通观科技大佬的主流观点，认为未来5-10年可能会迎来AGI/ASI，但这个过程中仍需要更多的研究突破。

关于AGI/ASI到来时间表的预测，产业界、学术界各方差异较大，很大原因是由于大家对AGI/ASI的定义不同，也难有定论。

不过从使用者角度来看，目前AI在应用过程中还存在幻觉问题，对常识与现实世界理解不稳定，以及对提示词高度敏感等一系列问题。

而且AI在具体使用过程中，也经常会出现错误。

比如，用它来帮助购物，它就很可能会买错。

苏莱曼认为在这种情况下，可以选择让人类介入，「AI在采取下一步行动之前，会征人类的许可，因此总体来说是相当安全的。」

在苏莱曼看来，在购买物品这样的场景中，AI距离真正成为日常工具，可能还需要一段时间。

但这并没有影响到他对AI的信心和乐观预期。

我知道它会在接下来的六个月、12个月，或者最坏情况下18个月内实现。它已经是超越人类了。

明年这个时候，能不能用一个自主的AI智能体来买圣诞礼物？

对于这个问题，苏莱曼的答案十分肯定：我相当确定可以，可能性非常高。

苏莱曼还分享了他在日常生活中使用AI的例子。

他会在Copilot上更新自己所喜欢电影的表格，AI可以为他推荐他喜欢的电影海报链接。

苏莱曼表示可以让AI去做任何知识型工作的任务，就好像你让一位助理来帮你打理生活一样：

「让AI去做的事情越小众、越有创意、越有挑战性，它的表现反而越好。」

苏莱曼提到目前Copilot Actions正在实验的一个功能，该功能可以通过AI来执行自主任务，比如订票或者买礼物。

他表示虽然AI不总是完全正确，但当它真正运作顺畅时，那种感觉将是你见过的最神奇的事情：

「它会在你的浏览器里输入内容、点击按钮、打开新的标签页；它可以查看你的历史记录，并根据你的情况来个性化购买或回复。」

人文主义超级智能

今年10月以来，ASI（超级人工智能）取代AGI（通用人工智能），成为硅谷热议的话题。

微软也乘势在10月成立了由苏莱曼领军的MAI超级智能团队。

早在今年6月，扎克伯格也将Meta的AI部门重组为「Meta超级智能实验室」。

前不久，OpenAI也传出了正在组建超级智能团队的消息。

奥特曼认为，ASI是AGI的下一个阶段，AGI是能力与人类相当的AI，当OpenAI掌握了构建AGI的方法之后，就应当追求「真正意义上的超级智能」。

关于超级智能，苏莱曼认为它是一种「可以学习任何新的任务，并且在所有任务上都比所有人类加起来更强」的AI系统。

在苏莱曼看来，超级智能是一个极高的门槛，而且在目前阶段，它伴随着巨大的风险。

「我们并不确定该如何约束和对齐一个远比我们更强大的系统。」

基于这一考虑，苏莱曼为超级智能加了一个前置的定义——

「人文主义超级智能」（Towards Humanist Superintelligence）。

这是一种「始终站在人类一边，并与人类利益保持一致的智能。」

苏莱曼表示，在能够证明AI始终安全之前，微软不会继续开发一种有可能失控的系统。他认为行业所有人都应该对此达成共识。

前不久，哈萨比斯还断言，要实现AGI，当下主流大模型必须把「扩规模」这件事推到极致（更多数据、更多算力、更大的模型）。

沿着这种思路下去，就将是一轮又一轮的AI军备竞赛。

但苏莱曼并不热衷于超级智能竞赛这样的论调。

他提出「人文主义超级智能」，正是为了摒弃AGI竞赛的叙事，将AI视为一种实现人类生活改善与未来发展的深度人文探索。

这也意味着微软会采用一种人文主义视角来开发和使用AI。

苏莱曼表示这与微软的历史有关。微软是一家已经存在50年的公司，因为一直非常谨慎，因此它也高度值得信任：

「标普500指数中有90%的公司使用微软的电子邮件、操作系统和日常生产力工具。我们之所以拥有这样的声誉，正是因为公司始终保持谨慎。」

「人文主义超级智能」的提出，同样是基于微软「谨慎」整体战略的延续。

关于「什么样的AI才是正确的」这样的分歧由来已久。

奥特曼与马斯克最初成立OpenAI，就是担心谷歌DeepMind主导AI可能不安全。

后来，马斯克离开OpenAI创办xAI，安全也是一个重要因素。

2021年，包括Dario Amodei、Daniela Amodei在内的7位前OpenAI员工离职创办了Anthropic，也与对安全问题的分歧有关。

如今，苏莱曼提出「人文主义超级智能」，同样还是考虑到安全。

当然，这并不意味着微软就站在了AI发展的道德制高点上。

苏莱曼表示，他无意去评判其他公司的做法，目前没有看到AI带来的任何大规模群体性伤害的证据，也没有看到AI系统可以自我改进或者真正实现自主运行。

但在未来5-10年，他认为这些能力可能会出现，系统可能会自行设定目标，改进自己的代码，并自主行动。

这些能力显然会显著提升风险水平。

因此，他认为必须更加谨慎地对待它们，提高透明度和审计力度，加强与政府的互动，并主动说明我们距离这些能力还有多近。

苏莱曼表示，约束和对齐是必要的前提，是AI发展不可逾越的红，整个行业都必须接受这一点。

这也意味着在确信超级智能可以被控制之前，他们不会发布相关工具。

苏莱曼称微软目前正在推动这样一场讨论：

要求每一个行业参与者审视自己：是否正在构建一种人文主义的超级智能？

苏莱曼表示，微软目前已经移除了为一些客户所提供的AI服务，避免这些服务被滥用的风险。

超级智能

最早可能应用在医疗领域

苏莱曼的母亲是一位护士，因此医疗领域对他来说是一个非常重要的领域，也让他树立了技术服务人类的信念。

「它应该让我们的生活变得更好、更舒适。有一天它会延长人类的寿命，会让我们在愿意的情况下选择少工作一些；它会创造出『丰裕』。」

但前提是我们必须有意识地优先将AI用于这些方向。

早年在DeepMind时，苏莱曼就创立了DeepMind Health，为临床医生和护士开发和部署人工智能技术，以改善一线医疗服务。

领导微软AI后，医疗也是苏莱曼重点布局的一个领域。