听周鸿祎聊AI - “AI for 科学才是皇冠上的明珠”
作者：微信文章这周罗永浩十字路口对谈的是周鸿祎，全程都在聊AI，非常有趣。不仅是周鸿祎对AI技术、行业、人类未来处境的观点有趣，从节目视角看，更有趣的是罗永浩全程几乎只是在做老实的采访者，而无暇又极为谨慎收敛了自己抖机灵的本能。侧面更加衬托出周鸿祎强大到可怕的输出力，就像他自己描述，在当下这个短视频时代，为了打造个人ip，他也不得不借助数字人来和自己的内容做结合 - 因为他真的是面无表情，没有任何情绪流动，近4个小时他连坐姿都没怎么调整过。再结合他大量而高频提到的“智能体”和“人机协同”概念，我甚至都开始怀疑他自己已经是一个半硅半碳生物了！
中间甚至出现了周鸿祎“吊打”老罗的片段：周问罗有没有孩子（没有），那“你真应该生一个，你的基因这么好”（老罗说来不及了），“来得及，男的年纪大一点没关系”（老罗非常狼狈岔开了话题）。
跑偏了，一些笔记。
生成式AI与此前传统AI（基于规则）的不同 - 依赖语言的训练生成全新的内容
人类使用语言来做的事：交流、知识传承、逻辑的推理、描述这个世界。
大脑并不是单纯的存储容器 - 内存、数据库等只会存储和读取，比如当我们想起罗永浩以后大脑里产生的印象/概念事实都是大脑根据之前获得的已知信息重新临时生成的内容。这就和现在我们训练大模型一样 - 人脑就像大模型，而我们通过语言可以完成各种上述知识的共享和技能提升，从而使AI实现真正的智能。 大模型的训练是非常必要的 - 就像人类学习数学物理知识并非简单的知识储存，而学习过程是对大脑进行了重新塑造，形成吸收信息的有机网络，之后才能完成智能提升。
人类生存和繁衍历程并非只依存大脑，反映在 AI 的产品或形态上就是：知识库（知识传承），慢思考能力做深度思考和推理-智能体（人类分析问题并选择解决问题的工具），多智能体（人类繁衍依赖协同合作）。
语言作为基础，之后是视觉模型，之后可能是空间模型。
我也感到害怕，但人类没有选择 - 这是宿命。AI for 科学才是皇冠上的明珠。
AI被训练有了目标，事实上就会有目标驱动的价值观，然后可能产生意志。（老罗谈到希望AI用来辅助养老，比如有兼具保姆/护士/保安功能的机器人出现。周鸿祎表示保安角色是非常矛盾很难实现的，因为会违背阿西莫夫的机器人三大定律。）
现在的大模型是人畜无害，但是智能体从软件智能体变成硬件智能体之后，具备了物理世界改变能力，那就会超过人类。可能会伤害人类。
受到基于大模型训练而赋予生成能力的限制，目前AI就是会有幻觉或者出错，越是泛化的模型越会像抽盲盒。和大脑一样，智能体会倦怠会敷衍。
周鸿祎对AI持偏乐观态度，相信科技向善。认为最可能出现的未来并不是脑机接口 - 人脑的复杂信息很难通过接口方式实现复制或交换。而是纳米ai改造人类，实现碳基和硅基混合体。而强大的AI也许对统治人类并无兴趣-人类太弱小太无能了。。AI的出现一定是帮助人类实现科技的突破，就如同既往的工业革命和原子弹出现一样。
模型即使进化也很难文理兼修。全知全能是不可能的。
360并不做通用大模型，但依然需要并在做意图猜测/推理/路由等基座模型，智能体的护城河壁垒才能高。护城河是个动态的概念，需要判断和反应迅速。
大模型的能力远远没有被挖掘出来，也许是十亿个大脑，但是很多大模型共同存在的世界是混乱矛盾的。不能赋予它两个以上的角色，所以更适合专业角色。
就像人类世界存在明知识和暗知识，AI训练和人类知识传播一样受到断层、保密和知识产权等限制，应用需要本地化和专业化，并和业务结合才会发挥作用。
All in 智能体
GJ 的战略是产业数字化，避免走向西方国家的产业空心化。互联网高科技不能都去送外卖，而是要大力发展传统行业，现代工业。在这个大背景下 360 给这些行业的数字化网络化智能化做支持。要给传统行业做配角。
360在做的：浏览器搜索和智能硬件全部智能体化。智能体蜂群。
员工成为超级个体
团队成为超级组织
公司打造超级产品
目前 coding 是交付能力最强的。未来Coding是智能体标配，需要解决问题时可以帮助你写一个软件。
人类的课题，没有想通的问题：AI取代人类，失业问题。
人类历史上所有的乌托邦实验都失败了。可能需要社会学家经济学家从人文角度来思考。当人类都变成剥削机器的剩余价值的时候，人类有没有为这种未来做好准备。也许那时会实现人类命运共同体 - 整个人类都面临同一个敌人。
行业盈利模式，如何改变国内用户不为软件付费的习惯。
考虑 token 成本问题，有两个可能会改变这种现状的因素：1 软件还需要有能力使用的人，但智能体将取代人和软件，那企业可能会因为降本增效而愿意付费。2 越垂直越聚焦的智能体交付能力会更好，市场商机越大。这是和互联网时代商业模式的不同之处。
高价值应用场景必须花多少（token） 收费多少。要找到合适的客户群如依赖视频赚钱的。
泡沫不一定是坏的-大家认为市场经济浪费，计划经济节约，但竞争过程也是适者生存和自我优化的必经之路，而且依然创造过程价值。
AI认知现状，科普依然很重要-很多人并不会用。
文科生有优势，和 AI 聊天文科生表达能力强更有优势。😂
不要高估它的能力，也不要低估它的价值潜力。作为一个生产力工具，人需要不间断的培训和训练。
很多人习惯了做选择题填空题，不喜欢做问答题，这是我国用户的一个短板。AI产品人机交互界面就需要根据需求做出改善比如把提示词放好。
页:
[1]