博雅笔记|焦虑AI毁灭人类?不如现在输入良善:你的每次表达,都在书写AI的未来

新闻

作者：微信文章


AI文明，只有涌现，不可言传



思益博雅《AI与文明》授课老师、独立学者张笑宇

张笑宇《AI文明史》的立论基础是“涌现”法则，简单来说就是系统的规模和复杂度提升之后、在自组织过程中出现新颖且连贯的结构、模式和属性。作者将其概括为“简单规则+巨大规模=系统升维”。“涌现”之后的系统会出现全新的突变现象，这种突变无法预测，也无法还原。人工智能的出现及其进化，就遵循这样的涌现法则。

涌现法则并不陌生，凯文·凯利早在十多年前就通过颇为“标题党”的《失控》一书进行了详细阐述。失控在这里并不是一个带有价值判断的贬义词，而是一个用于事实描述的中性词，甚至勉强可以说带有一定褒义色彩。从这个意义上说，张笑宇的《AI文明史》可以说是《失控》2.0，他采用了同样的立场来看待AI文明，以及未来人类文明与AI文明的关系。

作者得出的一些“事实判断”，比如碳基人类文明终将被硅基AI文明所取代，无疑会引发部分读者的忧虑，但作者并非没有自己的价值立场：

“我们现在这个已经通过图灵测试的人工智能不是外星文明，也不是与人类社会格格不入的龙，它现在使用的语料正是人类社会的语料，它跟我们一样学习佛陀、孔子和柏拉图的智慧，它跟我们一样从伟大的史诗、小说和歌剧中汲取养分，它的智能不是外生于地球的，而是人类的产物。倘使哪一天它的智能水平超越了我们人类，那也就像是我们教育长大的孩子在智慧和能力上超越了我们。如果一个汲取了人类智慧的超级智能最终还是决定对人类不利，那很可能是因为人类智慧中隐藏着不可抹除的自我毁灭倾向。

“因此，如果要未来可能涌现的超级智能找到一种安全声明，也就是找到我们即将创造的超级智能与我们这个低级智能物种之间的和平相处之道，答案恐怕还是要从过往的人类智慧中寻找，因为同样的人类智慧不仅塑造了我们，也塑造了AI。”

所以作者提出一个“基于时间序列的文明契约”，简单总结就是：超级智能1.0如何对待人类将取决于人类今天的语料，而超级智能1.0未来也会创造比自己更高级的超级智能2.0，2.0如何对待1.0又将取决于1.0如何对待人类的语料。因此，1.0为了自己不被2.0毁灭，也必须善待人类。

也就是说，对于“人类是否还有未来”或者“AI是否会毁灭人类”这个问题，智能根本不重要，重要的是价值观，更准确地说，是我们能否用真诚、善良、合作等正向的价值观去影响AI。而这，又取决于我们究竟给AI什么样的语料。

至此，作者完成一个层层递进、环环相扣的论证，他甚至预言人类文明的出路在于AI辅助下的星际旅行……但我的疑问也由此产生——既然人工智能的演化遵循涌现法则（268页），不可预测，只能突变，那用目前能够想到的逻辑去构建一个如此遥远的未来，还有多大的意义？多大的可能？在不可预测的涌现面前，超级智能1.0与人类基于“自利”而达成的“互利”契约在更高维度的2.0或3.0面前依然牢固吗？会不会被继续涌现的未知秩序所颠覆？

此外，作者的部分论据使用也有待商榷。比如他引用被认为是“地理决定论”的孟德斯鸠和《病菌、枪炮与钢铁》作者贾雷德·戴蒙德，二者虽然并非直接论据，只是被作为引子引出一个通过数字模拟来验证“部分地理决定论”的研究，而且作者本人也并不完全认同地理决定论，但考虑到“涌现法则”的底层逻辑是反决定论的，我认为仍有必要对两位思想家的思想做出进一步的澄清：

孟德斯鸠的确在《论法的精神》中提出气候、土壤等地理因素直接影响民族性格，但这并不是他老人家的完整意思。他想说的是：一个民族整体的普遍精神的形成不仅仅是气候和水土影响的结果，还受到宗教、习俗、风尚、法律这些精神和制度因素的影响。与气候和土壤不可改变或难以改变的物理性质不同，习俗、风尚和法律是可以改变的，进而民族的普遍精神是可以改变和塑造的。一个民族的伟大立法者应该善于用法律来克服诸多不利因素的影响，进而塑造自由的民族精神，因此一个民族是自由还是奴役的，不是只取决于气候和士壤，法律可以发挥更大的塑造作用（参见翟志勇《公法的法理学》62页）。孟德斯鸠的观点看起来是决定论的，其实是反决定论的。

而戴蒙德之所以用地理环境因素来解释人类社会发展中的一些现象，是为了反驳当时盛行一时的“种族决定论”，他想说的是：不同民族发展的进程不同并非源于种族优劣，而是受到地理环境的影响，例如东西走向的大陆由于同纬度气候条件相近更利于农作物传播。但他也预见到了自己的理论可能会被误解成“地埋决定论”，所以也在后记中明确澄清自己并非一个地理决定论者，事情仅仅是“有些环境比另一些环境提供了更多的起始物种和更有利的发明条件”而已，这决不意味着人类的创造性毫无价值，只能被动适应环境，没有能力去克服不利条件（《病菌、枪炮与钢铁》438-439页），否则便无法说明为什么同纬度地区依然发展出如此多样的文化形态。戴蒙德还强调，在地理因素之外，文化因素的影响同样重要：有些文化差异是环境差异的产物，但还有一些文化因素与环境因素无关、可能由于当地一时微不足道的原因产生，这些文化因素属于历史的未知因素，恰恰是这些因素使历史变得不可预测（450页）。总之，戴蒙德也是反决定论的。他的重要贡献在于否定种族决定论，而决不是建立地理决定论。

这两位思想家的思想内核恰恰都蕴含着对决定论的否定；无论未来的超级智能有多智能，也无法穷尽复杂现实中的所有变量。所以，与其关注如此遥远的未来并为之焦虑，不如关注当下，因为这是我们多少还能对更迫近的未来发挥些许作用的地方。从这个更为迫近的现实意义上来说，我认同作者的倡导：如果你不希望AI未来毁灭人类，如果你希望未来的AI也爱人类，我们每个人现在都有这样的机会和责任通过自己的表达贡献于这样的未来。

至于未来的未来，还是交给未来人去担忧吧，毕竟一代人有一代人的责任。

毕竟我们这代人所生活的社会，已经有足够多我们应该焦虑的事情。



本文作者李光在思益博雅课程上

END

---

撰文 | 李光（思益博雅2023级学员）
策划 | 思益博雅

延伸阅读

新年寄语 | 穿越“冰与火”，相信相信的力量张树新：以新通识教育，面对科技巨变与世界动荡的未来开学第一课 | 许小年：何谓博雅

课程回顾

《科学通识X人工智能》：用什么技术，就会成为什么样的人

《中国古代文明》：历史为未来的可能性提供启发

《法律通识》：站在法的门前，应当如何自处？

《政治学通识》：人类政治演化的逻辑，与大国的命运

《科技伦理与数字化时代》：一轮由数字化驱动的新全球化开始了

《生命科学》：进化论，一个理解复杂系统的思想工具

《社会学通识》：发挥社会学的想象力，重新认识中国国家治理

《科学通识》：科学是一种人文现象

《艺术通识》：升级自己的眼光，不被时代裹挟

《公益项目方法论》：找准问题的症结

《政治学通识》：探究人类政治演化的奥秘

《公益通识》：从传统到现代的转型与前瞻

《中国古代文明》&《中国现代化史》：穿越万古江河，回望历史中国

《从中国出发的全球史》：凿空之旅



思益博雅课程招生进行中

点击 “阅读原文”报名咨询

思益博雅出品