三年前，衡量一家AI公司实力的标尺还是“你囤了几多张H100”。彼时，训练大模型被视为AI的主题叙事，大厂不惜以百亿计的资金追赶英伟达的高端GPU，把算力军备当作通往AGI的唯一门票。 智能体（Agent）在取代对话模型成为主流交互状态。遐想集团董事长兼CEO杨元庆在今年5月的业绩颁布会上指出，当前约70%—80%的AI算力用于训练，20%—30%用于推理，但是，“未来这一趋向会倒过来，用于推理的AI算力将占到70%以上”。 从前多年，中国AI产业支出高昂价值构建了一条以英伟达高端GPU为主题的训练系统。这条系统稳重、高效，但也脆弱——它不仅受造于出口管造，还把中国AI的底层基础设施押在了一个可能被限度的供给起源上。 而推理的算力逻辑与训练截然分歧。推理不要求单卡算力登顶，它要的是成本、能效和规�；�部署的可能性。这些需要，刚好是国内AI芯片厂商苦等多年的得救窗口。 回首从前几年的算力较量，一张简图足以概括：英伟达一家独大，占据全球AI训练芯片80%—90%的市场份额，AMD在第二梯队追赶，其余厂商更多在夹缝中求生。 训练钻营的是一次性的算力密度。大模型参数量每增长一个数量级，对算力的需要就增长一个数量级。OpenAI训练GPT-4亏损的算力以千亿Token计，必要成千上万张GPU在高速互联的集群中协同运行数周甚至数月。 “大模型的预训练已经是万卡、十万卡级，除了英伟达卡之表，我们没有看到出格好的。”有芯片厂商有关人士向21世纪经济报路记者暗示。 除了硬件的代差，更大的挑战是整个开发者生态的断崖。英伟达凭借CUDA生态构筑了险些垄断的护城河，上述行业人士向记者暗示，从前90%以上的AI工作都是在英伟达系统下实现的。 不外，随着大模型走向规�；�利用，算力的主战场正从集中式训练，转向持久、大规模运行的推理场景。TrendForce的数据显示，北美五大CSP在2026年的AI训练算力预计增长56%，而推理算力将暴增122%，后者增速是前者的两倍以上。 中国市场的节拍更为峻峭。IDC数据显示，2025年上半年中国AI IaaS整体市场同比增长122.4%，规模达198.7亿元。其中，推理场景在上半年GenAI IaaS市场中占比已达42%。IDC预测，到2029年，推理算力占比将靠近八成。 与训练分歧，推理更高频、更实时、更分散，也更难预测，每次利用挪用都产天生本，且这个亏损呈线性累加。据分析，推理成本在AI系统全性命周期中占比可达80%至90%。这对芯片提出了全新的要求：峰值算力之表，更看沉吞吐能力、能效比和成本节造。 面对这一趋向，全球头部厂商早已起头调整航向。去岁首，英伟达正式颁布Blackwell Ultra架构，将推理优化放在了最优先的地位。随后，英伟达斥资200亿美元与Groq合作，看中的正是后者专为推理而设计的LPU（说话处置单元）。 在GTC 2026上，黄仁勋进一步将AI芯片的战术沉心从训练推向推理，提出了“Token工厂经济学”的概想，将数据中心沉新界说为出产Token的工厂，每瓦机能、每瓦Token吞吐量成为衡量竞争力的终极尺度。 AMD紧随其后。AMD于2025年6月颁布了MI350系列，宣称推理机能比上一代提升35倍。同时AMD还推出了Radeon AI PRO R9700工作站GPU，专攻本地AI推理场景。两条路线并行，一条走大规模数据中心推理，一条走边缘推理。 除了芯片龙头，科技大厂自研芯片也参与这个海潮之中。谷歌颁布的第八代TPU，初次按训练和推理拆分架构——TPU 8t掌管训练，TPU 8i专攻推理。其中，TPU 8i沉点优化内存配置与片内数据吞吐能力，其推理环节的性价比提升了近80%。 这些动态批注，推理在从训练的下游环节，造成一个独立的、规�；�的赛路。而这条赛路的竞争规定，与训练时期已截然分歧。 在现实布局中，国内大厂正将英伟达的存量高端卡集中用于极少数超大模型的预训练，而在占据算力亏损80%以上的推理和微调环节，激进地引入国产算力。 这种算力战术之所以可行，底子原因在于推理环节对芯片的要求天然分歧。推理工作更多强调的是单元能耗下的Token产出量、弹性伸缩能力和部署矫捷性，而对算力与生态要求相对宽松。这刚好给国产芯片创造了一个能够渐进切入、部门代替、逐步做大的窗口。 “我们观察到，国产芯片的定位越来越正确了,”炜烨智算董事长兼CEO周韡韡此前公开暗示，“从最初盲目钻营与国际高机能算力比肩，到此刻在钻营机能的同时也钻营成本，并且获得了显著成效。” IDC于2026年4月披露的数据显示，2025年中国市场AI加快卡总交付量达400万片，其中国产厂商交付165万片，市场份额一举跃升至41%。摩根士丹利预测，到2030年中国AI芯片市场规模将达到670亿美元，国产芯片有望满足约76%的市场需要。 与此同时，更多国产芯片公司借势得救。曦望董事长徐冰在采访中向21世纪经济报路记者暗示，智能体、多模态交互、物理世界AI等复杂场景的落地，对推理算力提出了前所未有的要求。这些需要是高度多样化且尚未收敛的，这意味着没有一家公司能通吃所有场景。从前一年，多家国产推理芯片公司实现了大额融资，投资方既蕴含产业龙头，也有国资平台和硬科技风投。 不成否定的是，推理主导的算力时期在为国产芯片搭建一个更平正的赛场，比拼的是系统级的技术选择、成本节造能力和持续优化的工程耐力。有分析以为，从前两年国产AI芯片市场份额的急剧提升，很大水平上来自推理侧的规�；�部署。 在整个生态上，国产芯片厂商也在与互联网厂商深度合作、针对特定需要定造化优化，Minimax、智谱、DeepSeek均已颁发与华为昇腾、摩尔线程等国产芯片适配合作。国产模型的规�；�部署，为国产芯片提供了海量的场景反馈。 当然，国产芯片在推理端的得救依然面对两个底子挑战：一是芯片的通用性和生态兼容性。推理工作固然短讷度的容忍度更高，但企业对芯片的可编程性、框架兼容性仍有刚性要求。二是供给链的不变性。只管国产芯片在推理场景中能够绕开部门先进造程的限度，但HBM供给链、先进封装产线仍高度依赖海表。 但推理时期终于提供了一个“缓冲地带”。在这个地带里，技术差距被能效优势部门对冲，机能短板被成本优势部门补位，生态壁垒被国产模型的发作式增长逐步瓦解。