圆桌讨论三：通用人工智能（AGI）的定义亟需重新思考

潘庆中：接下来进入圆桌讨论环节，我们有很多问题，但是时间是有限的。鸿祎，刚才沈老师讲了中美差距开始不大，后来有点变大了。他提了这么一个问题。我想问问，你同意他说的吗？或者有什么新的想法吗？

周鸿祎：我完全赞成他畅想中国经济光明论的所有想法。

潘庆中：你没回答我的问题，光回应他的问题了。

周鸿祎：其实有不同的观点，大模型之间互相辩论也很正常，思维链讲的就是反思、校正、总结、归纳，我个人觉得中美大模型的差距不是很大。我说这话肯定有很多人要骂我，因为大模型的难度确实不像光刻机，不像芯片，那些有很多原始技术创新的障碍，大模型本身算法是公开的，论文是公开讨论的，很多模型也是开源的，我们要感谢整个开源的文化。而且现在美国，包括像GPT、Open AI推的Sora，到现在没推出来，半年以后我们国内很多公司像快手、抖音也都拿出了似乎不错的东西，我认为这个差距大概是在最多不超过一年左右。因为大模型本身还是一个软件和算法构成的。但是真正的差距在哪里？我原来的观点认为主要在算力，可能也过时了。因为刚才讲了美国现在做大模型，像Face Book做10万卡集群，它训Lama3一万卡集群每天狂犯错误，十万卡集群可能半个小时就有卡坏，调数据，华为的卡，还是非常不错的，但是跟人家还是有点差距。但是最近GPT-o1出现的强化学习改变了这个观点，强化学习不再追求一定训练一个参数无限大的模型。举个例子，我们原来的大模型学了很多八卦，互联网的八卦问题都知道，但是推理能力很差，一个小朋友天天不看八卦，刻苦研究数学推理能力也可以做的很强，但是你又问他最近出了什么事，它并不知道，这个并不影响。

潘庆中：差距不大，而且我们很多方面可能还有优势。

周鸿祎：第二个差距是数据，因为中文互联网的数据还是有些质量和数量的问题，但是按照现在如果把大模型往行业里用，往产业里用，其实它对互联网乱七八糟的数据可以不要求那么多，可以要求专业的数据，很多企业真正knowhow的数据，我们对国家的大模型发展相对还是相对乐观的。

潘庆中：AI有很多挑战，针对中国企业家，你是企业家，中国企业家怎么面对AI的挑战呢？就业、提高效率、结构调整、企业重组。

周鸿祎：我是搞技术的，搞产品的。企业家还是要建立AI的认知，你要相信这玩意儿是真家伙，你相信你要是不干，可能AI不会淘汰你，但是你的同行用AI能力会淘汰你。企业家也不用太焦虑，在自己企业内部流程，或者在对外产品服务体验中找卡点难点，比如特别花人力的，体验特别差的单点突破，用开源大模型做专业的大模型，单点解决问题，真正让大模型不要变成一个聊天机器人这样的玩具，而是真正的能够提升企业在某一个环节上的劳动生产率，这样才能成为新质生产力的工具，集小胜为大胜，企业的大模型多了，解决的问题点多了之后，不一定改变赛道，它本身就实现了我们所说的数转智改。用大模型有一个前提条件，为什么数转智改呢？数字化是大模型的基础，企业里没有数字化，没有数据的沉淀，数据不能转换成信息，不能转换成知识，搞自己的大模型就是无源之木、无本之水、巧妇难为无米之炊。企业家想太多，我也改变不了啥，我能改变的就是企业内部能不能把AI科普下去，让全体员工用AI提升能力，企业里面几个专业的大模型真正提高劳动生产率，我觉得比较务实的做法吧。

潘庆中：说得非常好，非常感谢。鸿祎说到了企业的模型的推广、变革。我接着问问小川博士，你刚才提到的现在模型基本是百模大战、千模大战，从行业角度出发，什么时候能够达到行业到一定层次了？稳定了？或者行业发展到一定阶段了？

王小川：首先现在模型的公司总的来讲300家，现在头部是追求能够跟美国对标模型公司可能没那么多，个位数，10家以内的。像周总讲的一样，各个行业中间不一定用那么大的模型，像造人一样，有中专人，有大专生，有博士、院士，不同的水平在不同的场合服务。我倒没有从一个稳定的角度思考，因为技术还在快速迭代当中。我更多希望看到的地方是各个公司把模型用起来，确实能够改进自己的服务。今天不用着急，才第二年，五年内像芯片一样就已经辐射到各个公司去用。我们造的东西不是原来的计算器，不当成一段代码，你造的是数字员工，你公司需要什么样的员工，知识越密集，知识沟通思考密集的这些员工相对来说就能够去工作，以五年尺度来看中国一定会足够开花，足够产生很多生产力。

潘庆中：数字员工的概念。沈老师，你刚才上来就讲数字经济讲得很好。今后中国怎么保持数字经济的发展？肯定有竞争，您能讲讲这个吗？

沈建光：很重要的一个思考，为什么欧洲在这场全球竞争当中落后了？不管怎么样中国是走在欧洲前面了。我不大懂技术，不是技术跟美国的差距，我那张图是中国的科技企业的市值，你看一个苹果相当于我们多少个科技企业？它在不断地应用，为什么它十年涨了十年？美国的股市，每年盈利利润都是大幅的，都是攀升的，它已经应用AI技术。这里的问题是数字经济怎么进一步发展？我觉得两点很重要，怎么样在全社会培养一种创新的氛围和环境？可以允许试错，可以允许企业家去不断地尝试，去尝试新的发明。

比如说马斯克，他当时做新能源汽车就是突破了传统的汽车行业，颠覆了传统汽车行业，后来又做飞船，这完全是没有次序。中国可能追求一种有次序的创新，或者资本可以进入，但是问题是很多创新的领域像马斯克这个例子，确实需要环境让他去尝试，没有边界。这个才能创新。这是第一点。

第二点，包括大模型大家也看到了，创新需要巨大的资本做支持的。怎么让资本发挥好的作用？为什么过去我们中国2018年差距这么小？我研究欧洲的。

潘庆中：你说的差距是技术还是？

沈建光：市值吧，我不懂技术。从社会应用来看，为什么这些原创都在美国？我们如果是追赶的时候是可以举国体制，但是现在在竞争的时候，你要原创的时候，我们的资本市场非常关键，我们的创投企业、PE、VC怎么发挥它们的作用？2018年全是全球的PE、VC，本土的PE、VC在资本市场发挥了巨大作用。我们的京东创始人当时就是一个电商搞物流绝对是创新，全世界都没有这个模式，资本市场大部分不看好，只有一两家看好的投了，成功了。这种在资本创新这些领域，很多方面事先是没办法预测的。在这种情况下，我们什么样的资本市场去适应它？全社会对创新，企业家，资本宽容的态度和环境。资本市场至关重要，为什么我说这一波股市起来了，信心起来了，可以上市了，IPO上市了，到海外上市也好，到国内上市也好，提供源源不断目前的活水给这些科创企业的发展提供动力。

潘庆中：核心点是资本发挥作用之后，中国的数字经济在技术支持下还可以蓬勃发展。

沈建光：是。包括刚才几位谈了算力多贵，都是几十亿美元，几万亿美元这样算。

潘庆中：经济学家的思考，谢谢。接下来孙院士，您从事人工智能四十多年了，一步一步走到今天，终于看到曙光了，开始研究冷门了，AI已经从八十年代、九十都在谈，但是没有什么应用场景和突破。这个过程中比较，中国的科研和美国的科研，因为科研是长期的事，您觉得有什么体会和未来有什么期许、展望吗？

孙茂松：这个问题不好回答。国内基本上路子简单说就是跟跑。

潘庆中：目前或者之前？

孙茂松：几十年，我们还是比较习惯于跟跑，当然有客观原因，本来人家就在前面，我们必须去追。但是追的话，到最近这些年我们的科研投入已经非常大了，跟美国比也不逊色，但还是处于跟跑阶段，只有很少领域可以做到前面。像人工智能领域基本上一直是跟跑，有时候差的远一点，有时候差的近一点，但是最有想法的东西不会出现在我们这儿来。即使有，也做不起来，我觉得这是最深刻的东西。刚才大家也有讲，像Open AI这些公司，其实不光是这些，当时微软、谷歌、Face Book、Open AI都是它们在前面，美国人比较善于抓住历史的机遇，历史发展到那儿，从历史角度来看，留下了一个时间窗口，机遇窗口，他马上抓住，一旦抓住刚开始看非常小一个苗头，像谷歌创始人就俩学生，但是他所有的要素短时间内很快上去，很快就起来了。甚至给我的感觉，这个公司如果三年起不来可能就起不来了，起来就是巨无霸。

潘庆中：你这是幸存者偏差。

沈建光：它的土壤能让活下来的活得很好。

孙茂松：科研这块总结一下，包括老师、学生，其实都要从学生培养。兴趣驱动，好奇心驱动，某种科学理想驱动，这方面太弱了，所以导致了0到1的创新不行。大家一般更多的是从世俗的角度，从功利角度看待学业，看待做学问，所以很难产生0到1，风险也大，我们在根儿上有这种准备的条件基本不具备，这是中国教育面临的最深刻的问题。我们也比较擅长跟跑，现在人工智能的教育在全世界做的也不错，我们要跟跑还有一批人能跟上，能够跟住，还没追上，这已经非常了不起了，非常不简单了。但是真正的要领跑到无人区，我们现在整体上不行。

潘庆中：谢谢您。长期看还得看教育，跟跑还要领跑。今年计算机系报名据说是最火，确实导向性，有导向，还得长期，您说的能做到从0到1有更多的创新出来。周总，我们距离现在通用人工智能还有多远？上次听您演讲专门讲了这个，达到这个还得走多远的距离？AGI方面有什么想法？因为这也是未来的方向。

周鸿祎：这个问题没有标准答案，因为首先对AGI的定义就不一致，什么叫AGI？比全球所有人类能力加起来都要强大很多的，专业的博士生在专科的线上更强调AGI吗？你要按这个定义的话，这次GPT-o1已经超过了美国博士生在数学和物理、化学上的考试。

潘庆中：GPT-o1还要再发展。

周鸿祎：后来Open AI给了一个AGI的定义，最终已经不是大模型在发展了，而是大模型怎么和智能体框架，和工作流软件，和现在的AI系统怎么组合在一起，因为最后人的能力强大也不是靠单兵力量的强大，比如说我们今天五个人在一起，我们如果各自为战，每个人能力也有限，我们通过团队的协作和合作会创造一个比五个人单个儿做要强大的成果。奥特曼本来说2027年差不多，最近他写了一篇文章说加快了，还有几千天，我算了一下大概还得有十几年。现在不要纠结这件事，好像说非要等到AGI来了再智能，人工智能时代已经来了，有搞医疗的，有搞学古诗的，有搞安全和搜索，通过大家共同的努力，我觉得大家把目前人工智能技术很好的选择进场景结合，让它真的能用，让全社会对人工智能建立正确的认知可能会更重要，否则我们如果天天宣传给人感觉AGI就是做小视频，就是做小黄图，写一点儿小作文，很多企业家他们都觉得这都是你们互联网搞的像玩具一样的东西，是玩具不是工具。我的观点是只要有正确的方法论，现在即使没有到AGI时代，我认为人工智能已经比原来的人工智障时候搞的应用有巨大突破，已经可以理解模型，理解人类的知识，能干很多事情了。

潘庆中：要找到应用场景，要经常讲人工智能的正面作用。小川博士，我们今天讲了很多，还没讲到关于人工智能需要一点什么政策扶持，保护？包括治理结构，这些方面您有思考，我们想听听你的想法。

王小川：因为自己做互联网过来的，上一代的时候享受了比较自由的从资本环境到政策的监管环境，本身在这方面积累了更多的认知，并不算多。这次我们代表百川做的情况下，我们用一个词在造医生，造医生的情况下，大家听完在技术上感觉好难，能不能做到？包括做AGI，有点叶公好龙。医生都能造，得诺贝尔奖了，超越人类了，把造医生当成标杆来做，技术上已经是非常超前的部署，比无人驾驶还难的事情。造医生跟国家的卫健委体系，医保局体系，医院体系打交道，在里面落地，你就发现医疗也是相当保守的行业，人命关天的。这里就需要重新做试点验证比人好，我们在初期感觉到中间大家有各种各样的焦虑感，一种来自于人类自己的不安全感，觉得我不可能被替代，我当时16年说AlphaGo的时候，说机器能够战胜李世石，余斌总就崩溃了，科技就哭了，当AI来了被替代的时候会带来一种痛苦的反噬回来。有可能来自医生本身，也有可能是官员，做到了是业绩，做不到乌纱帽就没了。有人性也好，政策指挥棒带来的阻力，我们认为还是在畅想的过程中，遇到实际困难的时候需要有更多的呼吁需要解决。首先并不是伦理问题，隐私问题讲的特别多，但是先干起来，如果像互联网时代一样创造资本环境和实验的环境，这需要跟政府更多的沟通，目前还是在有序进行当中的，希望这个论坛有更多的讨论，把问题暴露出来去解决它。

周鸿祎：你的话证明了我的观点。我认为造医生比造AGI更容易，他也在做专业的大模型，我们现在如果老有一个期望被Open AI带到沟里，一做大模型干啥都能干，又看病，还能写诗，还能回答脑筋急转弯的问题，还能解决企业问题，还能做人工智智能，这种想法也不合逻辑。

全世界都用一个大模型解决问题吗？AGI就是一个伪概念，如果定义为专业识人，九歌的写诗水平已经比现代人高了，AGI的概念要用专业的角度来进行划分。

王小川：在美国盯着Open AI看，但是还有SIA，马斯克，Open AI是做这方面最危险的公司，不是颠覆人类最危险，是可能奥四落批强调金融里面有自己的市场和定义的。Open AI的光芒可能阻碍了我们看到美国更多的优秀公司做的事情，有可能带到沟里去了。像你讲的一样，不要被Open AI带到沟里，跟着周总走，不要跟着Open AI走。

周鸿祎：最后举一个例子，特斯拉的FSD马上取得突破，国内华为的技术路线图到大模型端到端的自动驾驶，很多事不能干，但是把10亿公里的驾驶经验训练出一个大模型，比任何地球人单独的驾驶经验都要丰富，你说它就是专业的一个专业驾驶司机，你说他算不算AGI？我觉得今天这个问题非常好，AGI的概念要重新定义。

潘庆中：谢谢。讨论非常深入。沈老师，您用一两句话说说AI，人工智能可以提高效率，怎么提高效率？

沈建光：像我们的智能客服，它可以帮助更好的服务，也可以提高效率，当然还有更好的例子就是我们编程，编程通过AI的辅助，它可以大幅的提高效率，像这些是我们公司在应用的，包括无人运输，无人运输用人工智能，无人机，包括仓储。这些其实已经在应用了。

潘庆中：非常感谢。最后孙教授，本来想问您问题，AI、人工智能，您写了那么多诗，40000余首乾隆的诗。人工智能对中国的文化能产生一点影响，您可以回答或者不回答，选一个您想说的或者您总结几句都行。

孙茂松：文化太复杂了，不敢讲。我最后讲的现在实际是大模型做AGI是一个问题，但是在中国，我们可能会后发制人，超越美国的应该是我后面讲的几个到什么什么去，到学科中去，到学科去，AI For Science。美国人做的早一点点，我们有数据，小川他们公司如果做这件事肯定没问题，这是重要的机会。包括如果我们把金融数据给整个的变成工程，两年出一个诺贝尔经济学奖可能都不为过。

潘庆中：下一个就是沈教授。

沈建光：学到学科中去，到产业应用中去，刚才周总讲的。国内是有优势的，而且我们国内这些大模型企业本来应付这件事绰绰有余，有这个能力的。但是不是说所有的领域，所有的学科问题都适合于大模型，所以一定要找一个适合大模型的特点的地方去做这些事，如果找到了适合它的，也一定是需要大模型的。这块还是需要艰苦的智力劳动。大模型不是一蹴而就，不是灵丹妙药，肯定要付出很多辛苦的努力，不容易。坚持做下去，一定会轻舟已过万重山的。

非常感谢大家，让我们一起用热烈的掌声感谢四位大咖给咱们带来精彩的演讲和精彩的发言，非常感谢。