刘慈欣、韩松和凯文 · 凯利的 AI 之问

图片来源 @视觉中国

文 | 深瞳商业，作者 | 楚青舟、河马君

" 要对 AI 好一点，给我自己留条后路 " ——这是《流浪地球》系列导演郭帆今年夏天开过的一个玩笑。

郭导说自己以前用 GPT 时都是命令式的语气，" 给我写个什么什么东西出来 "，如果写得不好还会骂它。现在对待 AI 的态度就不一样了，都是 " 麻烦您帮我去完成一个什么 "，事后还得给 AI 道谢，感谢哈，辛苦了……

郭帆的说法是一种调侃，但他对 AI 的态度可能值得我们借鉴。

在这个人工智能爆炸式发展的时代，今天的 GPT 已不是昨天的 GPT，它每一秒都在变得更 " 聪明 "，人们在无数科幻小说中设想过的 " 人 VS 机器 " 主导权战争从未如此逼近。

如果你处在 AI 前沿行业，那你已经可以听到 AGI（通用人工智能）的心跳从很近的地方传来，甚至在一些看似不相关的领域（比如职业围棋），AI 已经击碎了人类的光荣与梦想，开始了自己星辰大海的征途。

对我们普通人而言，骤然进入 AI 时代，就像赤着脚走进冷水里。前路通往何方，看起来迷雾重重，我们又该如何看待人工智能，才能给自己留一条 " 后路 " 呢？

科幻大神刘慈欣、《连线》杂志创始主编凯文 · 凯利、中科创星合伙人米磊、联想集团董事长杨元庆等群众耳熟能详的名人 " 向未来发问 "，并邀请全球顶尖的科学家、思想家、教授学者作答。问答之间，AI 时代的蓝图一点点从迷雾中露出。

AI 时代的未来是什么样子，我们将如何到达？我们又将如何保证自己在 AI 时代依然生活得安全而有意义？从这些智者的问答中，人们能够找到部分答案。

基础共识：人工智能是未来的底色

人类关于未来的想象从未停止，文学家说 " 我没有见过未来，却知道它很美 "，而科学家们也有自己的设想。

在 "20 人 20 问 " 中，科技大佬们有一个基本共识，是人工智能在未来社会中会扮演一个相当重要的角色。

因此，当刘慈欣问出 " 未来 20 年，对人类生活做出最大改变的技术可能是什么 " 时，思必驰董秘、CMO 龙梦竹回答得十分确定：" 在我这儿没有‘可能’，一定人工智能。AI 毫无疑问是人类发展史上，由我们这代人所见证的科技奇点。"

龙梦竹认为，人工智能未来的发展必然会颠覆人们今天的认知，当人工智能通过打破领域壁垒创造出更多 " 合适的 " 场景，根据有效使用收获更多 " 有效的 " 数据，最终能够成为具有整体性的超级智能。

而猎豹移动董事长兼 CEO、猎户星空董事长傅盛则在回答中提到了人工智能、智能机器人和可再生能源，同时强调了深耕生活服务的重要性，认为在推动这些技术发展的同时，我们还需要面对伦理、隐私和社会方面的诸多挑战。

有意思的是，傅盛在个人视频号给自己的最新定位，则是 "AI 大模型应用开发创业者 "，看来已然是躬身入局了。

人类的未来，几乎确定会有超级人工智能的存在。

它是会像《流浪地球》中的 MOSS 一样掌握人类命运，还是安于成为人类的超级助手呢？目前即使是最顶尖的科学家，也无法给出完全确定的答案。

关于 "20 年后 AI 技术会达到什么水平，它将对人类社会带来什么影响 " 这个问题，中国工程院院士、原副院长邬贺铨认为，决不能低估生成式大模型所代表的 AI 技术的深远影响，随着算力和网络带宽的发展，大模型训练的载体将从人工神经网络发展到类人脑的脉冲神经网络，强人工智能或超级 AI 有望诞生，未来 20 年将开创智能革命的新时代。

NVIDIA 开发与技术部门亚太区总经理李曦鹏则指出，人类在预测近期事物时总是偏于保守，而预测远期的事情总是过于乐观。

在 ChatGPT 横空出世前后，人们对 AI 的态度发生剧变，从普遍不看好，快进到认为 AI 将颠覆一切，现在去预测 20 年后的 AI 发展可能并不可靠。只有抓住最基本的原理，回到事物的本源，才能进行第一性原理的思考，人工智能现在在实践上是有效的，但依然缺乏基本理论支撑。

本质上说，人类面对的最大挑战是，我们对智慧 / 智能 / 智力的理解并不深刻，因此很难去评价一个人工智能是否真的拥有智能。

脑科学研究给了人类不少 insights，但至今为止，神经科学还是无法解决智能的定义和起源问题——但这并不妨碍 AI 在应用范围内进一步提高，在可以预见的未来，它甚至可能取代 90% 人工从事的工作，将人类的生产力带到一个新高度。

总结来说，人类与 AI 长期共存已经不可避免。人工智能研究依然存在尚未解决的难题，但这些难题并不会阻碍它的蓬勃发展，一个以 AI 为底色的未来即将到来。

伦理问题：超级 AI 会是值得信任的吗？

从人类创造出 " 超级 AI" 这个概念开始，就一直幻想着它的 " 背叛 "，我们在影视作品中一次又一次猜测着 " 这个 AI 是善良的吗？"

科学家们对此当然也早有思考，长期主张 "AI 不会超越人类 " 的图灵奖得主瑟夫希发基思提出的问题是：" 关于人工智能的可信度，我们能否来一场基于客观科学标准的清晰讨论？"

对此，智源研究院院长、北京大学计算机学院教授黄铁军谈了一些个人看法。他认为随着大模型的智能狂飙令 AGI（超越人类的超级智能）以前所未有的真实感逼近，" 能否信任自主系统 " 成为极为必要的讨论。

一方面，在 AGI 实现以后，因为人类中心主义只适用于智能低于人类的 AI，因此让 AGI 符合人类目标和价值观的主动权可能不在人类一边。

另一方面，如果像 OpenAI 等公司宣称的那样，实现了 AI 与人类的 " 对齐 "，那么 AI 和人类一样，都成为无法完全理解、不能完全信任的智能体。

在此种意义上，AI 与人类的 " 对齐 " 本身就是个模糊概念，人类自身也尚未建立共同价值，人与人都未能 " 对齐 "，又如何与 AI" 对齐 " 呢？

因此，能否信任 AI 的答案在很大程度上与 " 能否信任人类 " 是近似的，人与 AI 建立互信，需要 " 听其言，观其行 "。

听其言，是指通过共享人类用语言构建的知识体系，从而建立信任关系；观其行，是指在实践中检验 AI 所言是否符合实际。人类社会的信任体系，也是这样逐步构建起来的。

至于目前大家普遍忧虑的 AI 会 " 一本正经胡说八道 "，也就是幻觉陷阱的问题，反而并不是什么根本问题，因为人类也存在谎言，AI 模拟人类智能时即使将幻觉率降低到 1% 也不能说完全可信，技术可以降低幻觉率，但无法彻底解决信任问题。

甚至，当某一天 AGI 全面超越人类智力以后，人类中心主义破灭，问题转化为 AGI 是否相信人类……对人类来说，我们或许只能最大限度地保证自己可信。

而南方科技大学教授马兆远则说，人工智能至今没有一个有效陈述来描述它，我们大概知道它的内涵，但不能验证它的有效性，随着机器能做的事情越来越多，人工智能的定义也在一步步后退以维持人的尊严，在人工智能还无法准确定义的时候，无法讨论其可信度。

凯文 · 凯利也提出了一个问题：" 针对目前潜在的赛博竞争，还没有任何具体的国际条例去限制它，之后会有吗？"

对此，复旦大学中国研究院副研究员刘典回答说，现有的国际条约和协议如联合国《国际电信条例》、欧盟《通用数据保护条例》都在一定程度上对网络行为进行了规范，但都过于宽泛，缺乏具体操作性，在执行力度上也有所欠缺。

但随着国际打过日益重视赛博竞争，国际条约与法规也正在完善，中国在 " 一带一路 " 国际合作高峰论坛提出《全球人工智能治理倡议》，中美英等 28 国共同签署《布莱切利宣言》，承诺以安全、以人为本、值得信赖和负责的方式设计、开发、部署和使用 AI。

关于伦理，科幻作家韩松提出了一个更有趣味的问题：" 人工智能、元宇宙未来会对两性关系产生什么影响，家庭概念会消失吗？" 而他的朋友陈楸帆在回答中认为，元宇宙中本就蕴含着关于未来两性关系和家庭关系的预设。

未来的两性与家庭关系都会越来越多元化，两性关系将不再局限于肉体存在，情感连接和精神共鸣会成为主导，同时两性关系会出现更多 " 跨界 " 的现象，譬如《黑客帝国》中真实与虚拟的界限，未来的情侣就可能会跨越它。

而家庭这个历史悠久的观念一直在时间长河里流变，传统父权制家庭与现代家庭实际上差别就很大。关于未来的家庭，陈老师认为趋势是更加多元化，我们可能会看到更多基于共同兴趣、价值观或生活方式而非血缘的社区化家庭出现，社会将会越来越习惯于 " 流动性伴侣 " 或者 " 弹性伴侣关系。

说得真好，就是不知道喜欢秀恩爱的陈老师回家以后会不会因为 " 流动性伴侣 " 观念的提出而面对风暴……

韩松老师自己的回答就要稳重多了，他认为随着人工智能的发展，有可能家庭存在的必要性进一步降低，男性和女性都将获得更大的独立，人们从家庭里获得的满足，可以有多种替代方式获得提前实现哲人预言的家庭的消失。

但也有一种可能，就是智能机器将被广泛用于巩固家庭和婚姻关系，阻止它们的破裂。

综合而言，信任 AI 好像并不比信任自己要难，唯一确定的是，在 AI 的深度参与下，未来社会的形态将会出现针对性的改变。

未来 AI 是会成为人类的威胁，还是相对安全的工具，这似乎是一道填空题，而填好它是我们这代人重要的历史使命。

国产 " 突围 " 与 AI" 飞升 "

大佬聚会，自然都会聊些国产 " 突围 " 的话题。李开复的问题是：" 相比于 GPT-4 Turbo 等国外大模型国产大模型的突围之路在哪里 ?"

对此，魔泊云创始人鲁为民认为，Open AI 已经走在了市场前面，但对国产大模型研发者来说，借鉴 Open AI 的许多做法也成为机会，国产大模型的突围之路可能在智能体 ( Agents ) 和开源大模型。

现有大型语言模型（LLMs）因为其出色的自然语言理解、处理和生成能力受到市场青睐，但幻觉 ( Hallucination ) 也就是人们日常烦恼的 AI 会 " 一本正经胡说八道 " 影响到 LLMs 输出结果的精确度和事实性，对 LLMs 的广泛应用构成了严重的挑战。

此外，LLMs 还只是被动的静态模型，缺乏足够的记忆，也没有系统的推理、学习、规划和执行能力，导致大模型在很多场景往往无法直接使用。

Agents 机制可以弥补这个问题，通过自主完成预设目标的代理或实体以协助人类完成各种各样繁琐的任务，它具备自适应的问题解决机制，超越了 LLMs 现有技术的局限。

可以说，Agents 是真正释放 LLMs 潜能的关键，它能为 LLMs 核心提供强大的行动能力；而另一方面 LLMs 能提供 Agents 所需要的强大引擎。可以说 LLMs 和 Agents 可以相互成就。

针对李开复的问题，MCG 创始人 Kai 同样肯定了 Agent 作为国产大模型突破的基本方向。同时他还认为，在大模型作为 Agent 生态支撑的第一性原理指导下，应该重点关注开放共建生态系统、Agent 能力互调和组合、关注学术上 " 从 0 到 1" 的创新等方面。

在生态战略选择上，大公司与初创公司也应该有不同的侧重点，寻求差异化共存的生态破局之策。

智谱 AI CEO 张鹏同样肯定了 Agent 和开源大模型的破局方向。同时指出了三个重点：

一是在核心技术上要坚持自主创新；

二是在商业化方面，要打造分层的生态圈，联手踏实落地，避免 " 重复造轮子 " 的内耗；

三是要打造开发者生态，通过开源社区和人才培养，实现行业可持续发展。

客观说，作为行业观察者，深瞳商业认为国产大模型在当前的发展还没有那么乐观，目前模仿痕迹还较重。

不过，综合看来，比起在 AI 伦理上的不确定性，技术专家们在未来 AI 的破局方向上分歧要小得多。

的确，国产大模型的突围也是势在必行，Open AI 等技术领先者给了压力，同时也给了机会。

通过审视当前大模型的不足之处，结合新工具与新路线，国产厂商如果真能沉下心突破技术，合理配置商业资源，培育开发者生态，未必不能在下一个赛段实现赶超。

最终，还是 "AI 要对人类好一点 "

联想集团董事长兼 CEO 杨元庆提出的问题是：" 未来人工智能的设备形态如何发展，才能既帮人类解放生产力又能提升幸福感？" 按照黄铁军院长的说法，这显然是一个 " 人类中心主义 " 的问题，AGI 生成以后将失去基础。

但人类中心主义伴随人类文明走过蒙昧，至少在目前，我们尚未看到它消解的迹象。

AMD 高级副总裁、大中华区总裁潘晓明回答了这个问题，他定义了人工智能硬件设备，认为它需要具备本地大模型、持续学习能力、隐私数据安全、自然人机交互的特质。

具备这些特点的人工智能设备堪称是 " 人工智能的双胞胎 "，某种意义上，它对使用者来说将成为一个 " 虚拟的你 "，因为它储存着你所有的记忆，具备你全部的知识，所以能像你一样思考。这无疑是一个很大胆的表述。

潘晓明同时也指出，在每一次科技的更迭中，科技企业都担负着时代的使命，把 AI 贯穿到所有的产品线，从数据中心的大规模训练与推理解决方案，到面向消费者的 PC 及游戏体验，以及嵌入式智能终端，将是未来很长一段时间里科技企业的核心任务之一。

另一家知名芯片企业英特尔的市场营销集团副总裁兼中国区总经理王稚聪在回答中也认为，推动行业创新，打造能改变世界的科技是科技企业的使命。

关于 AIPC，他的观点是 AI 将通过云与 PC 的紧密协作，进而从根本上改变、重塑和重构 PC 体验，释放人们的生产力和创造力。

而在硬件上，需要引入神经网络处理单元（NPU），协同 CPU 和 GPU 加速 AI 算力。

国家广电总局科技委 · 网络视听专业委委员包冉讨论了一些更深刻的问题，认为人工智能硬件除了全局性呼出、多模态自然语言界面、安全可信、省点高效以外，更重要的特质是 AI × PC 的链式反应，创造性大于工具性，艺术性大于机械性，才更接近 " 人工智能 " 这个本质，它将在第四次工业革命的道路上扮演重要使命。

回溯近半个世纪以来的计算产业发展，钟摆效应一直在发生——计算中心不是在集中化的道路上狂奔，就是在分布式的小径中通幽；而在每一次的钟摆之间，就是我们看到历次计算革命——小型机革命、PC 革命、云计算革命，还有正在发生的 AIPC 革命。

不管是集中还是分布，本性的变化，还在于生产关系的解耦与生产力的下放平权，当整个世界的算力会越来越向超大规模计算中心与云端集聚的时候，每个人都应该同样拥有自己的私有算力和混合模型，否则就是《1984》中描述的那种技术集权带来社会集权的悲观图景——这可不是人工智能应许的未来。

专家们在这个问题上还是普遍认可一个基本观点：人工智能硬件可以为生产力服务，也可以深耕生活服务，最终是要解放人，而不是挤压人。

大 AI 时代即将到来，前路依然有雾气，但我们已经可以依稀看到未来的壮阔风景。在漫天的字符串中，人文与情感还在寻找自己的位置，它会是我们的 " 后路 " 吗？假如今日的阳光也曾照耀昨日的街角，一场年代久远的大雨，又是否会淋湿现代的衣裳……

关于未来，最乐观的态度就是大步向前，历史上，总是那些相信还有更多朝霞尚未照亮天际的人，最终享受日出的光彩。