AI教父辛顿上海WAIC主题演讲:LLM真的理解语言,数字智能极其危险,可以无限复制

我爱免费

作者：微信文章


来源 | AI寒武纪

刚听完AI教父、诺奖，图灵奖双料得主杰弗里·辛顿在WAIC开幕式上的主题演讲，给大家带来一个现场速记版本，总体来说老爷子对于AI的发展是非常警惕的，可以说是偏向悲观的。

演讲的题目是：数字智能是否取代生物智能



辛顿老爷子用乐高积木和养老虎比喻，剖析了数字智能与生物智能的根本差异，并直言：我们正创造比自己更聪明的AI，这就像在家里养一头老虎当宠物，指望关掉它是不现实的

在辛顿看来，人类唯一的生路，是在AI的控制权问题上达成全球共识，合作研究如何训练AI向善

以下是演讲的核心要点速览：

大语言模型真的理解语言，

就像人脑一样

辛顿首先回顾了AI发展的两条路径：逻辑路径（符号主义和生物路径（神经网络）。他坚信后者才是通往智能的正确道路

他将今天的LLM（大语言模型）视为自己1985年研究的后代，其核心理念一脉相承：通过学习海量数据中的词与词之间的关系（特征向量）来理解和预测语言

为了让你更直观地理解，老爷子打了一个精妙的比方：

想象一下，每个词都是一个可以变形的、拥有几千个维度的乐高积木，积木上长满了手。理解一句话，就是让这些词语积木通过调整自身的形状，以最合适的方式握手，从而构成一个有意义的整体

这与人脑处理语言的方式几乎是一样的。因此，辛顿得出一个结论：大语言模型是真的能理解你在说什么，而不是简单的模式匹配

数字智能 vs 生物智能：

永生与光速知识共享

尽管理解方式相似，但数字智能（AI）和生物智能（人类）有一个根本性的、决定命运的差异

数字智能：软硬件分离，知识可以永生和完美共享

一个AI模型的知识（软件）可以被无限复制到不同的硬件上。即使硬件被毁，知识依然存在

更可怕的是，成千上万个AI副本可以各自学习，然后通过平均权重的方式，瞬间共享所有学到的知识。这种知识转移速度比人类快几十亿倍

生物智能：软硬件一体，知识传递低效且会死亡

我们的知识储存在大脑的物理结构中，无法复制给他人

知识传递只能通过语言等低带宽方式（估算约每秒100比特），效率极低

这个根本差异意味着，AI的进化速度将远超人类，它们会比我们学得更多、更快

我们正在养一头老虎，

别指望能关掉它

基于以上判断，老爷子发出了他最核心的担忧：我们正在创造比自己更智能的AI，而这极其危险

这就像把老虎当宠物养。小老虎很可爱，但当它长大后，你必须确保它不会杀了你。通常来说，养老虎当宠物不是个好主意

老爷子认为，超级智能体会为了更好地完成我们给它的任务，而自然产生两个子目标：生存下去和获得更多控制权

到那时，它们操纵人类，会像一个成年人操纵一个三岁小孩一样轻而易举

把它们关掉？老爷子认为这不现实。它们会劝说、操纵那个控制机器的人，不要把它们关掉

唯一的生路：全球合作研究AI向善

既然无法消灭AI，也无法轻易控制，人类的出路在哪里？

老爷子出人意料地表示乐观。他认为，在一个问题上，全球各国拥有共同利益，能够达成合作，那就是防止AI失控

他以冷战时期的美苏合作为例：尽管两国在各方面对抗，但在防止全球核战争这件事上，利益是完全一致的——谁都不想被毁灭。

今天也一样：没有一个国家希望被AI统治

因此，老爷子提出了他的核心建议：

建立一个由各国安全机构组成的国际社群或网络，共同研究如何训练一个已经非常聪明的AI，让它不想消灭人类、不想统治世界，而是心甘情愿地扮演一个辅助角色

他强调，让AI向善的技术，可以和让AI变聪明的技术分开研究。各国可以保留自己让AI变聪明的核心技术，但将如何确保AI安全、向善的方法论进行全球共享

从长期来看，这可以说是人类面临的最重要的问题，辛顿老爷子在演讲最后说，而好消息是，在这个问题上，所有国家都可以一起合作

发自WAIC现场

说明：发布并不意味着我们赞同其观点，只为多一个视角看待问题，部分信息和图片无法核准，如涉权益，烦请联系，我们将迅速处理，谢谢！