当下AI正褪去看法热度，，，大步迈向实打实的工业落地，，，一众从业者也借着这场盛会，，，围绕行业落地、手艺刷新睁开深度交流探讨。。。。
。 腾讯集团高级执行副总裁、云与智慧工业事业群CEO汤道生和腾讯首席AI科学家姚顺雨：关于腾讯AI下半场的深度对谈，，，已经帮各人梳理完毕： 腾讯慢了吗？
？
？？
？为什么会来腾讯？
？
？？
？现在做大模子没有什么神秘，，，我们做混元3，，，对Infra做了许多重修，，，对数据和Eval也做了很大改变。。。。
。做大模子没有清晰的公式，，，是taste-driven的事情。。。。
。做模子和做产品，，，目的自然纷歧样，，，跨团队协作最大的障碍在于能不可建设信任、有没有换位思索的能力。。。。
。我们派后训练最强的主干实力，，，优先把元宝的后训练做扎实。。。。
。维护好元宝的DAU，，，看上去是产品目的，，，但对做好模子自己同样主要关于下一代混元的研发重点，，，会以coding agent为基础能力底座，，，但有三点差别：1、强调系统的周全化，，，而非只堆coding数据；
；；；2、产品是要害，，，要把数据回流用好；
；；；3、要保存想象力，，，敢做不确定的探索。。。。
。性价比拆开是两件事——先看性能，，，再看本钱，，，而真正的杠杆在于“用小模子把高价值使命做好”。。。。
。若是一个小模子能比肩大模子的性能，，，那它带来的价值，，，在今天的中国，，，可能远大于大模子在长程使命上的边际刷新。。。。
。AI上半场——比谁能训模子、刷榜单，，，已经落幕；
；；；下半场才刚最先，，，coding agent、多模态、具身智能都才刚爆发。。。。
。而下半场最主要的，，，不是跑得多快，，，而是能不可忠实地面临自己 姚顺雨：我想先诠释一下什么叫”下半场”，，，由于最近我感受这个词有点被滥用了。。。。
。这个看法着实是我去年一篇博客里提出来的。。。。
。意思是：在去年之前，，，AI已经生长了几十年，，，更主要的事情是怎么去解决问题、寻找好的要领；
；；；但最近很显着的一点是，，，要领论已经变得很是成熟，，，反而是“寻找问题”变得更难题了。。。。
。 举个例子。。。。
。已往我们做下围棋，，，会发明像AlphaGo这样的要领，，，但它可能只适合下围棋、下棋类；
；；；你为翻译做一个专门的模子，，，它可能也只能用来翻译，，，干不了别的。。。。
。但有了预训练和后训练之后，，，我们似乎有了一把”万能的锤子”，，，可以去砸任何钉子——它是一个通用的要领论，，，能解决种种各样的问题。。。。
。反而更难题的，，，是怎么去寻找好的问题来解决。。。。
。 第二，，，情形很是主要。。。。
。没有好的情形，，，agent就没步伐做种种事情。。。。
。好比你没有一个点外卖的工具，，，就没步伐点外卖，，，许多事情都做不到。。。。
。 但我以为最主要的可能是context。。。。
。无论是企业照旧小我私家——就像我上次在活动上说的——context会越来越主要。。。。
。由于模子越来越善于把一个很是重大的输入酿成一个输出，，，许多时间你的竞争壁垒，，，恰恰来自你有没有谁人最原始的输入：你知不知道这小我私家究竟在干什么，，，知不知道这家企业的种种信息。。。。
。在这一点上，，，腾讯有很是强的优势。。。。
。 我还记得第一次跟你、以及许多总办老板谈天时，，，第一印象就是各人都很是忠实——那里做得好、那里做得欠好，，，都讲得很是直白，，，不会掩饰：我知道那里做得好，，，也知道那里不知道；
；；；知道这里该怎么做，，，也认可那里不知道该怎么做。。。。
。这种坦诚是我的第一印象。。。。
。 第二，，，腾讯总体是一家基于 trust（信任）、而不是基于 metrics（指标）去运转的公司，，，我以为这一点对做 AI 很是主要。。。。
。包括888集团文化里也有很是 low ego、很是”骚气”的一面。。。。
。 我以为今天的 AI 主要有三个部分。。。。
。第一是foundation——怎么把预训练、后训练这种最基础的工具做得很是漂亮。。。。
。第二是产品——怎么让这样的手艺真正为人和社会爆发价值。。。。
。第三是frontier——怎么去探索新的研究范式、新的时机。。。。
。最主要的，，，是构建一个很是平衡的、像三角形一样的组织。。。。
。 对foundation来说，，，最主要的，，，第一是需要富足的资源，，，第二是需要准确的做事方法——这跟我刚说的文化那一点是吻合的。。。。
。对产品来说，，，有好的产品 sense、有做产品的履历至关主要。。。。
。第三是frontier，，，我以为我们今天在中国做的探索可能还不敷多，，，以是我也希望能把这种 frontier exploration（前沿探索）的精神更多地注入到组织里。。。。
。 汤道生：你提到跟总办聊的历程中感受到的真诚、务实，，，这着实也是我常从客户交流中获得的反响。。。。
。我以为我们做事的方法、做产品的理念，，，确实是较量实事求是的。。。。
。事实 AI 这个赛道是一场长跑，，，有时间”认知”也很主要——哪些做得好、哪些做得欠好，，，也得认。。。。
。但要害是，，，这是一场多维度的竞赛：我们看到模子有许多前进，，，做产品也有越来越多的形态，，，差别场景有差别需求。。。。
。我以为未来照旧很是
？
？？
？善诘。。。。
。 汤道生：我想问一个各人讨论较量多的问题：许多自媒体都会提到，，，腾讯在 AI 上没有实时捉住一些时机。。。。
。你以为我们真的慢了吗？
？
？？
？下半场究竟是什么？
？
？？
？能多说一下吗？
？
？？
？ 第一个判断：AI 是一个短期游戏，，，照旧恒久游戏？
？
？？
？在硅谷伸张着许多情绪——所有人都要失业了、AI 要取代所有人的事情，，，以是赶忙赚两年钱然退却休。。。。
。这是一种判断。。。。
。 但888集团判断很显然是：这会是一个恒久游戏，，，并且着实才刚刚最先，，，下半场才刚最先。。。。
。我不以为 GPT 和 Claude 会是唯一的 super app，，，那会是一个非；
；；Ｒ趸薜奶煜。。。。
。我以为一定会有源源一直的新时机降生，，，今天可能就像 70 年月 PC 刚泛起的时间，，，尚有许多好事情要做。。。。
。 第二个判断：它会是一个更简单、照旧更多元的游戏？
？
？？
？已往几年各人能看到的是 pre-training、post-training、RL、agent、coding agent，，，似乎有一条很是清晰的主线，，，坦率说所有人都在做一样的事，，，这也是件很阴晦的事。。。。
。未来究竟会更简单照旧更多元？
？
？？
？ 我小我私家以为会更多元。。。。
。coding agent 的生产力毫无疑问会越来越主要，，，并且它才刚刚最先，，，这个天下尚有 trillions of dollars 的市场没被填满；
；；；但多模态、具身智能，，，尚有许多许多新事情正在或刚刚爆发。。。。
。以是从这个角度看，，，若是我们以为下半场才刚最先，，，那可能确实不算晚。。。。
。 虽然，，，已往模子、产品做了许多探索，，，走了许多弯路，，，我以为这很正常——没做过一件事，，，第一次做肯定会有曲折。。。。
。但可能更主要的是：能不可忠实地面临自己，，，能不可 be real，，，能不可看到 feedback 然后去改变，，，能不可坚持耐心。。。。
。我以为这些事情，，，在下半场会越发主要。。。。
。 汤道生：各人对腾讯经常喜欢挑某一个点来品评，，，我们也接待各人提更高的要求。。。。
。腾讯有很是多的业态、许多产品在许多赛道，，，同时许多团队在推进差别项目。。。。
。在这样一个重大的组织里，，，有些地方可能做得快了，，，有些地方做得慢了，，，有些地方可能在探索中失败。。。。
。 腾讯有很是富厚的场景。。。。
。就像你一最先提到的，，，选择腾讯是由于 AI 需要 context，，，模子需要许多上下文，，，而腾讯多年来在差别赛道、差别产品上的积累，，，都可以针对每一个场景为模子提供有用的信息、提供 context、施展价值。。。。
。 在这场长跑里，，，我相信模子会一直迭代，，，用户需求也在一直转变，，，还会有新的产品形态泛起。。。。
。好比今年头那一波（视频天生？
？
？？
？）热潮我们反应也较量快；
；；；同时也有 Workbody 这样的智能体产品——着实是几年前就最先做的产品，，，沿着原来 coding 的积累逐步看到很强的需求，，，我们也能较量快地去应对。。。。
。 今天也听到许多客户对我们差别产品怎么组合起来有很高的期待。。。。
。以是我们正在长跑中，，，也请列位多给我们提醒和建议，，，多用888集团产品，，，给我们正向的、constructive 的反响。。。。
。 姚顺雨：在一个多产品的系统化的地方，，，着实会有一个较量大的优势。。。。
。好比我们用混元 3 可以让模子在元宝里爆发很强的谈天和搜索能力，，，但这种能力又可以被迁徙到 IM 或者 Workbody 这样的其他产品上。。。。
。 这些产品能够提供差别的数据，，，而这些数据之间又可以相互泛化，，，形成一个像网络一样的系统。。。。
。我以为这一点的价值会越来越主要。。。。
。 姚顺雨：首先这些 benchmark 照旧有它的价值的，，，不是说完全没价值，，，只是现在这些榜很是容易 saturate（饱和）。。。。
。而基于真实天下的数据有几个资助： 第一，，，你能发明模子的许多底线问题。。。。
。我们想发一个 pre-preview 模子，，，最主要的目的之一就是希望获得真实天下的反响，，，去修复种种榜单里没法发明的底线问题——这一点会在正式版上有很是大的刷新。。。。
。 第二，，，你对真实的 prompt distribution（提醒词漫衍）会有更深的相识。。。。
。举个例子，，，benchmark 上的问题往往很是准确，，，有很长的 concrete description，，，并且一样平常是单轮问题；
；；；但现实里公共问的问题通常较量模糊，，，可能就一两句话，，，然后一直追问。。。。
。这些 setup 上的差别，，，就能启发我们怎么去更好地做训练。。。。
。 第三，，，我们甚至可以从这些产品上获得灵感，，，去推进现在还没有的榜单、没有的领域。。。。
。好比我们最近做了许多 coding 能力的事情，，，元宝给888集团启发就很有资助。。。。
。以是我以为产品和模子的相互成绩，，，是越来越主要的一个 AI 话题。。。。
。 汤道生：对，，，我记得早期做元宝的时间还遇到过多轮遵照的问题。。。。
。在产品里用户迭代 prompt 的方法，，，跟 benchmark 似乎有蛮大的差别，，，真正在产品里所需要的能力，，，确实跟 benchmark 不太一样。。。。
。你问了我这么多问题，，，我也问你一点。。。。
。 姚顺雨：再到 QQ、到音乐、到语音，，，再到现在的元宝、IMA。。。。
。跟你谈天很有意思，，，由于你做过种种各样的产品，，，To C 的也有、To B 的也有，，，远古时代的也有、AI 时代的也有。。。。
。 汤道生：我以为做产品最终照旧奔着”用户究竟有什么需求、我怎么去解决他的痛点、怎么给用户或客户创立价值”。。。。
。这一点在差别的时代、差别的行业都建设——产品能给用户带来价值，，，他才会买单、才会使用。。。。
。 以是从 PC 互联网时代做空间，，，到移动时代做种种内容产品，，，再到云互联网做云，，，我们都要花许多时间去听客户的声音、帮他们解决问题，，，底层逻辑着实没有那么大的转变。。。。
。 首先从范式上看，，，在 AI 之前，，，我们做产品许多时间是通过”功效”来知足需求：作为效劳提供方，，，你想清晰要提供什么能力，，，让用户通过界面、菜单去选，，，能力是预置好的，，，用户只能在内里点。。。。
。 但 AI 时代那种开放式的效劳形态就带来很纷歧样的要求——交互方法可能是自然语言、是语音，，，作为产品方你也不知道用户会问什么，，，以是要充分使用模子能力去明确用户需求，，，再通过大模子的逻辑推理、挪用工具的能力，，，由产品给模子提供种种可用的工具，，，去应对这种开放式需求。。。。
。这跟我们已往做产品很纷歧样。。。。
。 还包括你刚提到的 specification（规格）。。。。
。已往对产品细节功效有很清晰的形貌，，，怎么设计、研发、测试，，，那套瀑布式流程也较量清晰。。。。
。但做 AI 产品，，，我发明最大的转变是整个流程可能都要重新设计。。。。
。 测试也要”左移”、更前置地去想清晰针对种种 case 的 eval（评估）——要有情形，，，要对开放式谜底有要求，，，甚至包括 alignment（对齐），，，怎么对齐到用户所需要的那种气概。。。。
。我感受今天 AI 时代做产品，，，要求的能力着实更周全了。。。。
。 姚顺雨：着实没什么神秘。。。。
。今天做大模子是一件较量”苦”的事情——我们应该把 infrastructure 做好、把数据做好，，，算法的部分反而是较量简朴的。。。。
。主要有几个点： 第二，，，我们在数据和评估上做了许多大的改变：怎样界说更真实的问题，，，怎样富厚数据的 taxonomy（分类法），，，怎样提高数据质量——这是一个永无止境的追求。。。。
。 第三，，，我以为很主要的是，，，许多决议着实没有清晰的公式。。。。
。包括怎么招人、怎么设立模子的节奏，，，天天都有许多 decision 要思量许多 tradeoff，，，可能更是一件由 taste（审美品味）驱动的事情。。。。
。 姚顺雨：我挺好奇想问你一个问题。。。。
。你刚刚跟我讨论 codesign 这个看法，，，我也很好奇你是怎么想的——你以为哪些事情应该是模子做的，，，哪些应该是产品做的？
？
？？
？ 汤道生：我以为 codesign 在差别阶段一直在转变，，，这种转变某种水平上是随着模子能力的升级而转变的，，，虽然行业、市场、用户需求的转变也会带来模子和产品双方都需要更好去知足。。。。
。给我较量深的一个感受是”怎么去对齐”。。。。
。 我们一起做产品、做 alignment 的时间，，，有许多差别的角色：产品要针对某个偏向解决问题，，，模子究竟怎么知足这个需求？
？
？？
？同时模子需要数据，，，数据应该怎么标注、标到什么颗粒度，，，什么是好的标注、什么是欠好的标注（有些地方要奖励，，，有些地方要处分），，，尚有评测——若是产品以为好的体验，，，评测并不认同，，，那各人做出来的工具就会纷歧致。。。。
。 以是 codesign 给我的感受更多是：项目组里差别角色一起加入产品设计、界说产品的目的偏向，，，让多个角色对一些开放式问题有较量好的对齐。。。。
。若是没做到这种对齐，，，你会发明产品的行为不可展望、甚至有随机性，，，由于训练历程可能也被混淆了。。。。
。这是我这两年跟模子团队做 codesign 一个较量深的感受。。。。
。 姚顺雨：对。。。。
。我以为最难的一点就是要建设 trust（信任），，，并且同理心很主要。。。。
。由于说究竟，，，做模子的目的和做产品的目的，，，有许多 align 的部分，，，也有许多不 align 的部分——做模子的人希望能力越强越好，，，做产品的人希望用户需求知足得越好，，，自然有许多冲突。。。。
。以是很主要的一点，，，是要有换位思索的能力。。。。
。 着实你刚问我们是怎么一步步做到混元 3 的，，，有一个很主要的细节：我们其时派了后训练最强的主干实力去帮元宝，，，先把基于 DeepSeek 的那一版后训练做好。。。。
。 由于那时间我们自己的预训练还没 ready，，，但我们知道，，，维护好这样的产品和它的 DAU，，，对我们接下来做模子会变得很是主要，，，对恒久相助也很是主要。。。。
。其时许多算法同砚不明确，，，我需要很起劲地去诠释。。。。
。 但现在看，，，这些起劲都 payoff（有回报）了——这个行动让产品方意识到，，，做模子的同砚是真的在为产品着想。。。。
。这对我们之后的相助、包括混元 3 在元宝上乐成上线，，，都起了很是主要的作用。。。。
。虽然有许多手艺部分可以探讨，，，但我以为最难的部分反而是怎么建设信任、怎么换位思索。。。。
。 姚顺雨：那天我还挺叹息的，，，由于我重新读了自己的博士论文，，，感受回到了一个很”远古”的时代。。。。
。我博士论文的问题叫《Language Agent: from next token prediction to digital automation》（语言智能体：从下一词展望到数字自动化）。。。。
。 姚顺雨：那时间 literally 就是 GPT-2 的时代，，，它其时只能做 next token prediction，，，爆发的一段话还不太一连、有许多毛刺，，，以是人们很难想象它有一天会成为改变天下的实力。。。。
。 其时各人做的研究稍微有点想象力的，，，好比输入”中国的首都”，，，做 next token prediction 它会回覆”北京”——能做到这点各人就已经很开心了，，，以为这是个很有意思的基础。。。。
。 我博士时代主要做两部分。。。。
。第一部分是建设一套 agent 的要领论：怎样把一个 next token prediction 的机械酿成一个 agent、酿成一台自动化的机械。。。。
。最主要的一篇事情就是 ReAct。。。。
。 我还记得 2022 年 7 月某天晚上，，，我第一次把其时的语言模子 API 和我自己手写的一个 Wikipedia API 接在一起，，，它第一次能基于网页回覆问题、并且做多轮交互。。。。
。那一刻就像微弱的灯丝突然亮起来一样。。。。
。 据我所知，，，这可能是人类第一次把 LLM 和真正的互联网连在一起、并做多轮交互。。。。
。我其时的感受是：OK，，，这件事可能在五年或十年内会改变天下——但厥后爆发得比我想的还要快。。。。
。 我记得其时就以为，，，若是这件事能做成，，，那它显然会带来重大的价值。。。。
。其时想的可能是几百亿、上千亿，，，现在看可能是数万亿、数十万亿，，，我想的照旧太小了。。。。
。 另一部分事情是怎么去界说 digital automation 的使命。。。。
。好比 WebShop 是第一个互联网 web agent 的 task，，，InterCode 是最早的 coding agent 使命。。。。
。现在看，，，agent 手艺最主要的两个部分，，，可能确实就是 web agent 和 coding agent。。。。
。 那天我还在群里跟各人聊，，，我看我博士论文最后在 2024 年写的 future work：第一是 train models for agent（为智能体训练模子），，，第二是 safe and robust deployment（清静且稳健的安排），，，第三是 scientific discovery（科学发明），，，第四是怎么去 help human（资助人类）。。。。
。 汤道生：我再转一点。。。。
。今天各人都说智能体需要消耗许多 token，，，那对混元做下一代模子的研发，，，你以为着重点是什么？
？
？？
？哪些地方较量主要？
？
？？
？ 我小我私家以为 coding 很是实质，，，缘故原由许多，，，但尚有一个很主要的缘故原由：它有点像图灵完整——当你能控制自己的 file system、有一个 container 的时间，，，你着实就是一个 complete 的 system。。。。
。 第一，，，纵然今天 coding 是最主要的事，，，我们照旧会强调”系统的周全化”。。。。
。我始终以为，，，真正要把 coding 做好，，，需要的远不止 coding 的数据，，，你还需要谈天、instruction following（指令遵照）、推理等种种各样的能力——由于大模子最主要的一点是泛化性。。。。
。 第二，，，产品的作用越来越主要。。。。
。怎样使用好线上的数据回流，，，是每一个模子厂商都在思索和应对的问题，，，这里我们前面说的许多 codesign 履历会变得很是主要。。。。
。 第三，，，照旧需要更多想象力。。。。
。无论是手艺的演进、产品的演进，，，照旧下一个范式的演进，，，我们都还需要做一些探索性的、甚至带不确定性的事情。。。。
。 汤道生：对，，，从产品侧看，，，各人越来越多有”token 焦虑”的声音，，，token 本钱在一连增添。。。。
。我也听到许多客户、甚至身边的同事，，，都在紧盯积分或 token 的消耗。。。。
。 那怎么能让模子在解决某个问题、完成某个使命时 token 效率最高？
？
？？
？我之前做过一些使命，，，模子可能会实验差别偏向，，，有些偏向着实明知道走不下去，，，但它照旧会试，，，试完才知道走欠亨再换下一个。。。。
。这内里有什么可以 optimize 的地方，，，让 token 使用效率更高？
？
？？
？ 姚顺雨：今天在中国各人讨论性价比，，，可能更多在讨论模子架构，，，但它着实是个很重大的系统。。。。
。我以为最主要的首先是 performance（性能）。。。。
。许多人跟我说，，，他们最后发明用 Opus 这样的模子，，，反而比用更差的模子更省钱——由于更快就把事情做对了，，，也省了人的精神。。。。
。以是性能着实才是性价比最要害的事情。。。。
。 尤其是今年，，，许多简朴使命的 robustness（稳固性）会变得更主要：怎样一次就把相对简朴的使命做对，，，这可能是性价比更要害的部分，，，而不但仅是模子架构。。。。
。 第二部分是本钱，，，本钱自己就是性价比的一部分。。。。
。我以为第一是”性”——性能欠好，，，性价比就无从谈起；
；；；第二才是本钱。。。。
。在本钱上，，，中国着实是领先于天下的，，，我们做了大宗事情去优化本钱。。。。
。 但我以为本钱这件事最主要的，，，可能是”怎么用一个更小的模子，，，把更高价值的使命做好”。。。。
。这里有许多事要做，，，包括架构立异、长文本治理、压缩等等。。。。
。 但我小我私家的看法是：若是我们能做一个相对较小的模子，，，它的性能却能比肩甚至凌驾大模子，，，并且能在大部分使命上做到很强的 robustness——这可能比在许多很是长程、很 fancy 的使命上实现一两个点的提升，，，在今天的中国更有价值。。。。
。 姚顺雨：我也挺好奇，，，Dowson（汤道生），，，你是什么时间意识到 agent 是一个新的产品时机的？
？
？？
？你现在的认知是什么？
？
？？
？你以为我们现在离一个好用的 agent，，，瓶颈在那里？
？
？？
？ 汤道生：我们针对差别场景做的 agent，，，着实有差别的产品形态。。。。
。在 agent 的设计上，，，很洪流平是只管去施展好模子的能力。。。。
。模子能力越强，，，应用需要做的事情可能越少。。。。
。 已往这段时间我看到我们好几个产品，，，随着模子能力增强，，，反而把 agent 做得更简化了——更多是给模子提供更多差别的工具、创立更多 skills，，，让模子更高效地完成使命；
；；；同时提供更多”影象”，，，把用户已往的使用习惯、能提取出的 preference 信息，，，作为上下文 feed 给模子。。。。
。 在 coding 情形里给模子相关的 context，，，在 Workbody 这种办公协作、PPT 场景里，，，需要关注和给到模子的 context 又纷歧样。。。。
。以是做差别的 agent，，，更主要的照旧相识谁人场景下什么内容、什么信息是主要且 relevant 的，，，能跟模子配合好，，，让模子既有它需要的信息，，，又能施展它的能力。。。。
。 姚顺雨：最近我们确实推出了像 Workbody 这样口碑很不错的产品，，，背后是许多小团队在快速迭代。。。。
。我挺好奇，，，相关于古板的产品研发，，，你以为在 agent 时代，，，产品团队的研发和组织治剃头生了什么转变？
？
？？
？ 汤道生：前一阵子我去 Workbody 团队做了一次组织走访，，，看到他们很是扁平化的组织，，，跟我们已往其他产品的组织架构有很大差别——更多是三五小我私家的小团队，，，围绕某一个领域去做攻关，，，并且有许多实验。。。。
。以是要支持好底层的 AI Infra 去做实验，，，让这些小分队能去探索、再验证。。。。
。 由于大部分实验可能拿不到正向反响，，，我们也要容纳团队去试错，，，通过大宗实验提炼出对用户流程、对我们想要的效果有正向资助的工具。。。。
。这是今天做 agent、做原生 AI 产品，，，组织形态要能较量好支持的地方。。。。
。 另外，，，原来许多工程师花大宗时间在写代码上，，，今天这些事情毫无疑问可以交给 AI 了，，，以是我们会看到更多角色的融合：各人可能都是产品司理，，，都要透彻相识用户需求、设计出想要的产品形态；
；；； 每个工程师更像一个有想法的 leader，，，驱动多个 coding agent 去针对产品需求做研发。。。。
。同时也要像我说的把评测前置，，，用好 AI 的能力，，，把质量包管、alignment 的事情做到前面来。。。。
。