三年前，，，，，，，权衡一家AI公司实力的标尺照旧“你囤了几多张H100”。。。。。。彼时，，，，，，，训练大模子被视为AI的焦点叙事，，，，，，，大厂不吝以百亿计的资金追逐英伟达的高端GPU，，，，，，，把算力军备看成通往AGI的唯一门票。。。。。。 智能体（Agent）正在取代对话模子成为主流交互形态。。。。。。遐想集团董事长兼CEO杨元庆在今年5月的业绩宣布会上指出，，，，，，，目今约70%-80%的AI算力用于训练，，，，，，，20%-30%用于推理，，，，，，，可是，，，，，，，“未来这一趋势会倒过来，，，，，，，用于推理的AI算力将占到70%以上”。。。。。。 已往多年，，，，，，，中国AI工业支付高昂价钱构建了一条以英伟达高端GPU为焦点的训练系统。。。。。。这条系统稳健、高效，，，，，，，但也懦弱——它不但受制于出口管制，，，，，，，还把中国AI的底层基础设施押在了一个可能被限制的供应泉源上。。。。。。 而推理的算力逻辑与训练截然差别。。。。。。推理不要求单卡算力登顶，，，，，，，它要的是本钱、能效和规模唬；才诺目赡苄。。。。。。这些需求，，，，，，，恰恰是海内AI芯片厂商苦等多年的突围窗口。。。。。。 回首已往几年的算力竞赛，，，，，，，一张简图足以归纳综合：英伟达一家独大，，，，，，，占有全球AI训练芯片80%-90%的市场份额，，，，，，，AMD在第二梯队追赶，，，，，，，其余厂商更多在夹缝中求生。。。。。。 训练追求的是一次性的算力密度。。。。。。大模子参数目每增添一个数目级，，，，，，，对算力的需求就增添一个数目级。。。。。。OpenAI训练GPT-4消耗的算力以千亿Token计，，，，，，，需要成千上万张GPU在高速互联的集群中协同运转数周以致数月。。。。。。 “大模子的预训练已经是万卡、十万卡级，，，，，，，除了英伟达卡之外，，，，，，，我们没有看到特殊好的。。。。。。”有芯片厂商相关人士向21世纪经济报道记者体现。。。。。。 除了硬件的代差，，，，，，，更大的挑战是整个开发者生态的断崖。。。。。。英伟达依附CUDA生态修建了险些垄断的护城河，，，，，，，上述行业人士向记者体现，，，，，，，已往90%以上的AI事情都是在英伟达系统下完成的。。。。。。 不过，，，，，，，随着大模子走向规模唬；τ茫，，，，，，算力的主战场正从集中式训练，，，，，，，转向恒久、大规模运行的推理场景。。。。。。TrendForce的数据显示，，，，，，，北美五大CSP在2026年的AI逊с力预计增添56%，，，，，，，而推理算力将暴增122%，，，，，，，后者增速是前者的两倍以上。。。。。。 中国市场的节奏更为险要。。。。。。IDC数据显示，，，，，，，2025年上半年中国AI IaaS整体市场同比增添122.4%，，，，，，，规模达198.7亿元。。。。。。其中，，，，，，，推理场景在上半年GenAI IaaS市场中占比已达42%。。。。。。IDC展望，，，，，，，到2029年，，，，，，，推理算力占比将靠近八成。。。。。。 与训练差别，，，，，，，推理更高频、更实时、更疏散，，，，，，，也更难展望，，，，，，，每次应用挪用都发天生本，，，，，，，且这个消耗呈线性累加。。。。。。据剖析，，，，，，，推理本钱在AI系统全生命周期中占比可达80%至90%。。。。。。这对芯片提出了全新的要求：峰值算力之外，，，，，，，更看重吞吐能力、能效比和本钱控制。。。。。。 面临这一趋势，，，，，，，全球头部厂商早已最先调解航向。。。。。。去年头，，，，，，，英伟达正式宣布Blackwell Ultra架构，，，，，，，将推理优化放在了最优先的位置。。。。。。随后，，，，，，，英伟达斥资200亿美元与Groq相助，，，，，，，看中的正是后者专为推理而设计的LPU（语言处置惩罚单位）。。。。。。 在GTC 2026上，，，，，，，黄仁勋进一步将AI芯片的战略重心从训练推向推理，，，，，，，提出了“Token工厂经济学”的看法，，，，，，，将数据中心重新界说为生产Token的工厂，，，，，，，每瓦性能、每瓦Token吞吐量成为权衡竞争力的最终标准。。。。。。 AMD紧随厥后。。。。。。AMD于2025年6月宣布了MI350系列，，，，，，，宣称推理性能比上一代提升35倍。。。。。。同时AMD还推出了Radeon AI PRO R9700事情站GPU，，，，，，，专攻外地AI推理场景。。。。。。两条蹊径并行，，，，，，，一条走大规模数据中心推理，，，，，，，一条走边沿推理。。。。。。 除了芯片龙头，，，，，，，科技大厂自研芯片也加入这个浪潮之中。。。。。。谷歌宣布的第八代TPU，，，，，，，首次按训练和推理拆分架构——TPU 8t认真训练，，，，，，，TPU 8i专攻推理。。。。。。其中，，，，，，，TPU 8i重点优化内存设置与片内数据吞吐能力，，，，，，，其推理环节的性价比提升了近80%。。。。。。 这些动态批注，，，，，，，推理正在从训练的下游环节，，，，，，，酿成一个自力的、规模唬；娜。。。。。。而这条赛道的竞争规则，，，，，，，与训练时代已截然差别。。。。。。 在现实结构中，，，，，，，海内大厂正将英伟达的存量高端卡集中用于少少数超大模子的预训练，，，，，，，而在占有算力消耗80%以上的推理和微调环节，，，，，，，激进地引入国产算力。。。。。。 这种算力战略之以是可行，，，，，，，基础缘故原由在于推理环节对芯片的要求自然差别。。。。。。推理使命更多强调的是单位能耗下的Token产出量、弹性伸缩能力和安排无邪性，，，，，，，而对算力与生态要求相对宽松。。。。。。这恰恰给国产芯片创立了一个可以渐进切入、局部替换、逐步做大的窗口。。。。。。 “我们视察到，，，，，，，国产芯片的定位越来越准确了,”炜烨智算董事长兼CEO周韡韡此前果真体现，，，，，，，“从最初盲目追求与国际高性能算力比肩，，，，，，，到现在在追求性能的同时也追求本钱，，，，，，，并且取得了显著效果。。。。。。” IDC于2026年4月披露的数据显示，，，，，，，2025年中国市场AI加速卡总交付量达400万片，，，，，，，其中国产厂商交付165万片，，，，，，，市场份额一举跃升至41%。。。。。。摩根士丹利展望，，，，，，，到2030年中国AI芯片市场规模将抵达670亿美元，，，，，，，国产芯片有望知足约76%的市场需求。。。。。。 与此同时，，，，，，，更多国产芯片公司借势突围。。。。。。曦望董事长徐冰在采访中向21世纪经济报道记者体现，，，，，，，智能体、多模态交互、物理天下AI等重大场景的落地，，，，，，，对推理算力提出了亘古未有的要求。。。。。。这些需求是高度多样化且尚未收敛的，，，，，，，这意味着没有一家公司能通吃所有场景。。。。。。已往一年，，，，，，，多家国产推理芯片公司完成了大额融资，，，，，，，投资方既包括工业龙头，，，，，，，也有国资平台和硬科技风投。。。。。。 不可否定的是，，，，，，，推理主导的算力时代正在为国产芯片搭建一个更公正的赛。。。。。。，，，，，，比拼的是系统级的手艺选择、本钱控制能力和一连优化的工程耐力。。。。。。有剖析以为，，，，，，，已往两年国产AI芯片市场份额的快速提升，，，，，，，很洪流平上来自推理侧的规模唬；才。。。。。。 在整个生态上，，，，，，，国产芯片厂商也在与互联网厂商深度相助、针对特定需求定制化优化，，，，，，，Minimax、智谱、DeepSeek均已宣布与华为昇腾、摩尔线程等国产芯片适配协作。。。。。。国产模子的规模唬；才牛，，，，，，为国产芯片提供了海量的场景反响。。。。。。 虽然，，，，，，，国产芯片在推理端的突围仍然面临两个基础挑战：一是芯片的通用性和生态兼容性。。。。。。推理使命虽然对精度的容忍度更高，，，，，，，但企业对芯片的可编程性、框架兼容性仍有刚性要求。。。。。。二是供应链的稳固性。。。。。。只管国产芯片在推理场景中可以绕开部分先进制程的限制，，，，，，，但HBM供应链、先进封装产线仍高度依赖外洋。。。。。。 但推理时代事实提供了一个“缓冲地带”。。。。。。在这个地带里，，，，，，，手艺差别被能效优势部分对冲，，，，，，，性能短板被本钱优势部分补位，，，，，，，生态壁垒被国产模子的爆发式增添逐步瓦解。。。。。。