从原子到比特

AI 产业链全景图。从地下的稀土矿到手机里的 AI 芯片,每一层都有自己的规则、瓶颈和不可替代的玩家。这不是选股报告,而是产业链说明书——先看清结构,再找价值。

原料 设备 芯片制造 存储&网络 芯片产品
LAYER 0

原材料

没有高纯石英砂就没有晶圆,没有稀土就没有光刻机的磁悬浮台,没有特种气体就刻不出电路。这层是整个 AI 产业的物质基础,也是最容易被忽视的地缘战略层——日本控制光刻胶,美国控制特种气体核心专利,中国垄断稀土冶炼。

核心原料

高纯石英砂

纯度 99.998% 以上的石英砂是拉制单晶硅棒的唯一原料。一颗 12 寸硅晶圆的起点,是挪威或美国的一座石英矿。

格局
全球高纯石英矿高度集中于美国北卡 Spruce Pine 矿区和挪威 Drag 矿区。中国石英砂高度依赖进口,光伏和内需消耗大量中低端产能,半导体级几乎空白。
技术
天然水晶→破碎→浮选→酸洗→高温氯化。核心难点不是矿本身,而是提纯工艺——把杂质降到 ppb 级别需要 30+ 道工序和专有设备。
瓶颈
Spruce Pine 供应全球 70%+ 的高纯石英,一旦该矿区停产(洪水/矿难),全球半导体产业链将在 3-6 个月内面临硅片断供。
护城河
矿山 + 提纯工艺双重壁垒。挪威 TQC、美国 Unimin(现 Sibelco)垄断 90% 市场份额,新进入者需要同时拿到矿权和攻克提纯工艺。
战略资源

稀土元素

钕(磁铁)、镧(镜头)、铈(抛光)、钇(激光)——每种稀土在半导体制造中都扮演特定角色。ASML 光刻机的磁悬浮晶圆台就依赖钕铁硼永磁体。

格局
中国控制全球 60% 稀土开采和 90% 冶炼分离。美国 MP Materials 开采但运往中国加工;Lynas(澳大利亚)是唯一非中国的大型冶炼商。
技术
稀土冶炼分离(溶剂萃取法)是核心竞争力。分离出单一高纯稀土元素需要上千级萃取槽串联运行,工艺参数是核心机密。
瓶颈
冶炼产能集中度极高(中国 ~90%)。即使有矿,没有分离能力就等于有原油没炼油厂。美国、欧盟均在补贴本土稀土冶炼,但产能爬坡需要 5-10 年。
经济账
稀土在芯片制造成本中占比低(<1%),但一旦断供整条线停摆。军事需求(永磁体用于导弹制导)使得稀土长期受地缘博弈影响。
工艺耗材

特种气体

氟化氩(ArF)用于 DUV 光刻、三氟化氮(NF₃)清洗 CVD 腔体、硅烷(SiH₄)沉积多晶硅。芯片制造的每一步化学反应都需要特定的高纯气体。

格局
林德(德)、液化空气(法)、大阳日酸(日)、空气化工(美)四家占全球 80%+。中国华特气体、金宏气体在中低端市场有份额,高端仍依赖进口。
技术
核心是纯化——将工业级气体提纯到 5N-6N(99.999%-99.9999%)。一瓶 ArF 光刻气中的杂质必须控制在 ppb 级别,否则晶圆整批报废。
护城河
安全认证周期极长——台积电引入一家新气体供应商需要 2-3 年的验证。客户一旦认证通过不会轻易更换,因为气体不合格导致的良率损失远超气体本身的成本。
经济账
特种气体占晶圆制造成本 ~5-8%。随着 3D NAND 层数增加(更多刻蚀步骤)和 EUV 导入(更多光刻步骤),气体用量持续增长。
高壁垒耗材

光刻胶与化学品

光刻胶是芯片光刻过程的"胶片"——涂在晶圆上,经光照后选择性溶解,形成电路图案。ArF(193nm)和 EUV(13.5nm)光刻胶是化学工业的皇冠。

格局
日本企业垄断 90%+ 光刻胶市场——JSR、信越化学、东京应化、住友化学(ArF/EUV),富士胶片(KrF)。韩国东进半导体在部分品类有份额,中国南大光电刚开始送样。
技术
光刻胶是高分子化学的极致——需要感光树脂、光敏剂、溶剂精确配比。EUV 光刻胶需要在 13.5nm 波长下以单分子层精度反应,全球只有 JSR 和信越能量产。
瓶颈
日本掌握光刻胶供应链的每个环节(单体合成→树脂聚合→配方→涂布工艺),且日本政府对光刻胶出口有管制。2019 年日韩贸易战中,日本断供光刻胶导致韩国半导体业震动。
经济账
光刻胶单片晶圆成本 ~$5-15,但决定了整片晶圆(价值 $5000-20000)的良率。客户对价格的敏感度远低于对良率的要求。
基础设施

电力

一座 3nm 晶圆厂日均耗电 ~10 万 kWh(相当于 3 万户家庭用电),一台 EUV 光刻机运行功耗 ~1MW。没有稳定、廉价的电力就没有芯片制造。

格局
台积电 2023 年耗电占台湾总发电量 ~8%,预计 2025 年达 12.5%。台湾的电力结构(煤/气/核/绿)直接影响台积电的制造成本和碳排放压力。
技术
晶圆厂需要双路市电 + 柴油发电机 + UPS 三级供电保障。电压波动超过 2% 就可能导致整批晶圆报废,因此电力质量比数量更关键。
瓶颈
3nm 以下制程的单位晶圆耗电量持续上升。台积电的亚利桑那工厂面临美国电网稳定性不足的问题,而日本熊本工厂电价远低于台湾。
经济账
电力占晶圆制造成本 ~5-10%。电价每上涨 $0.01/kWh,台积电年成本增加 ~$2-3 亿。这也是全球晶圆厂向电价低的地区迁移(日本、美国德州)的驱动力之一。
本层关键结论

原材料层的核心特征是高度集中 + 极难替代。石英砂(美国)、稀土冶炼(中国)、光刻胶(日本)、特种气体(欧美日)——每一项都只有 2-4 家供应商,任何一家出问题都会传导到整条产业链。这一层不是 AI 产业链中利润率最高的环节,但它是整栋大厦的地基——地基裂了,上层再华丽也没用。

LAYER 1

半导体设备

晶圆厂 70% 的资本开支花在设备上。这一层的集中度比原材料层还高——ASML 垄断 EUV,应材/Lam/TEL 三分沉积刻蚀,KLA 独步检测。一台先进光刻机的复杂度超过一架波音 787,供应链横跨 5000+ 供应商。

单点瓶颈

光刻机

把电路图案"印"到晶圆上的机器。EUV 光刻机是人类制造的最复杂的机器之一——用激光轰击锡滴产生 13.5nm 极紫外光,经过蔡司镜头的反射,以纳米精度在晶圆上刻画。

格局
ASML 独占 EUV 100% 市场。DUV 光刻 ASML ~85%、Nikon ~10%、Canon ~5%。没有第二家能造 EUV——日本举国之力尝试 20 年,Nikon 退出。
技术路线
当前:0.33 NA EUV(3nm/5nm)→ 下一代:High-NA EUV 0.55 NA(2024 交付,单台 €3.8 亿)→ 远期:Hyper-NA 0.75 NA(2030+)。物理极限在 ~0.8 NA,之后需要新范式。
核心瓶颈
① EUV 光源:CO₂ 激光轰击锡滴,效率仅 3-5%,光源功率是扩产卡点;② 蔡司镜头:研磨精度=从地球到月球表面误差不超过一指,全球只有蔡司能做;③ 年产能:2024 年约 55 台 EUV,远不能满足需求。
护城河
30+ 年研发,5000+ 供应商全球供应链,任何国家无法在 10 年内复制。台积电/三星/Intel 的制程工艺围绕 ASML 工具链构建,换不了。蔡司镜头、通快激光、VDL 精密机械——每家供应商自身就是垄断者。

经济账
EUV 单价 €1.8-2 亿(0.33 NA)、€3.8 亿(High-NA)。ASML 毛利率 51%,营业利润率 ~33%。客户(台积电)买 EUV 造 3nm,单片晶圆报价 ~$20,000 毛利率仍 53%——设备贵但产出价值更高。
工艺核心

刻蚀与薄膜沉积

光刻画出图案,刻蚀按照图案在硅上"挖"出结构,沉积在晶圆上"镀"上一层薄膜。这三个步骤反复循环几百次,共同构成芯片制造的"加法"与"减法"。

格局
Lam Research(美,刻蚀 ~50%)、TEL(日,~25%)、应用材料(美,沉积 ~50% 刻蚀 ~20%)。三足鼎立,合计占刻蚀/沉积市场 ~85%。中微公司(中)在介质刻蚀起步,全球份额个位数。
技术路线
3D NAND 层数猛增(200→400→未来 1000 层),刻蚀的高深宽比要求已达 100:1——在硅上挖极深极细的孔。逻辑芯片的 GAA(全环绕栅极)结构需要原子级选择性刻蚀。
护城河
工艺配方(recipe)是真正的壁垒——气体配比、功率、温度、时间的组合不是专利能描述的,是靠 20 年、500 个客户的工艺数据积累试出来的。新进入者没有这个数据库,做不出稳定良率。
经济账
刻蚀/沉积设备单价 $500 万-$2000 万,毛利率 45-48%(略低于 ASML。3D NAND 每增加一层,刻蚀时间线性增加→设备需求量同比上升,是这一层最确定的结构性增长逻辑。
良率守门人

检测与量测

每一步工艺之后都要检查——缺陷检测、膜厚量测、套刻精度、CD-SEM 关键尺寸测量。先进制程的检测步骤已超 1000 道(28nm 时代约 500 道),检测设备数量占比持续上升。

格局
KLA(美)一家独大,过程控制市场份额 ~55%,在关键检测设备上近乎垄断。应用材料、日立高科在细分品类有竞争但差距明显。
技术
3nm 以下需要电子束检测(分辨率更高但速度慢)替代传统光学检测。AI 辅助缺陷分类是近年方向——用深度学习自动识别缺陷类型并追溯到上游工艺步骤。
瓶颈
检测速度 vs 精度永远在博弈。3nm 工艺缺陷已到亚纳米级,光学检测分辨率触及物理极限。电子束检测虽精度高但速度慢,不能在线使用(每片晶圆都测会拖垮产能)。
护城河
KLA 的缺陷分类算法是用全球所有晶圆厂的实际缺陷数据训练了 30 年的。检测和制程是绑定关系——一旦检测流程固定,换供应商 ≈ 重调整条生产线。毛利率 ~60%。
最后关卡

测试设备

芯片造出来了,能不能用?ATE(自动测试设备)在封装前后对芯片做功能和性能测试。一片晶圆上有几百颗芯片,每颗都要测试——测试时间直接影响出货量和成本。

格局
Teradyne(美,SoC 测试 ~50%)、Advantest(日,存储测试 ~60%)、Cohu(美, handler)三强。中国华峰测控、长川科技在模拟/功率芯片测试领域增长快。
技术
AI 芯片(GPU/ASIC)的测试复杂度远超传统芯片——HBM 堆叠后的互联测试、Chiplet 的多芯片协同测试都需要全新的测试方案。测试时间从传统芯片的几秒飙到几分钟。
瓶颈
AI 芯片的晶体管数量暴增→测试向量数量指数增长→单颗芯片测试时间越来越长→需要更多测试设备。一台高端 ATE 单价 $100-300 万,先进封装厂测试设备支出占比持续上升。
经济账
测试占总制造成本 ~8-15%。测试时间每缩短 10%,同样的设备产能多出 10%。这也是 AI 芯片公司自研测试方案(如英伟达)的动力——省测试时间就是省成本。
本层关键结论

半导体设备是整条 AI 产业链中护城河最深、集中度最高、最不可替代的一层。ASML 的 EUV 光刻机是单点瓶颈之王——没有它就没有 7nm 以下芯片,没有先进芯片就没有大模型训练。这一层的可投资标的集中(ASML、应材、Lam、TEL、KLA、Teradyne、Advantest),估值不低但基本面极为稳固——即使 AI 泡沫破裂,晶圆厂的长期资本开支不会因为短期叙事降温就砍掉。

LAYER 2

芯片设计与制造

有了设备和材料,接下来是造芯片。这层分两条线:设计(用什么 EDA 画电路,用谁的 IP 核)和制造(谁来做晶圆,谁来做封装)。一个 AI GPU 的诞生路径是:Synopsys EDA 画图 → Arm 提供 CPU 核 IP → 台积电 N3 工艺流片 → CoWoS 封装把 GPU + HBM 堆在一起。

设计工具

EDA 工具

芯片设计的"编译器"——EDA 是把电路架构翻译成物理版图的软件。没有 Synopsys 或 Cadence 的工具,你连一颗最简单的 MCU 都画不出来。

格局
Synopsys(美,~35%)、Cadence(美,~30%)、Siemens EDA(原 Mentor,德,~15%)三分天下。合计 ~80% 市场份额。中国华大九天份额 ~1%,集中在模拟和显示驱动芯片。
技术
先进制程(3nm 及以下)的 EDA 需要与 Foundry 的 PDK 深度耦合。台积电 N3 的 EDA 流程由 Synopsys/Cadence 与台积电联合开发三到四年,后来者无法拿到 PDK 数据。
瓶颈
AI 辅助 EDA 是近年热点——用强化学习做布局布线优化,但训练数据(芯片版图和工艺数据)是 Foundry 的核心机密,AI EDA 公司拿不到。
护城河
EDA 工具 + IP 核 + 验证套件是三位一体的生态。客户一旦选定 Synopsys 的设计流程,切换成本极高——需要把整个设计团队重新培训、已有 IP 和验证脚本全部重写。
制造之王

先进逻辑 Foundry

台积电是全球最先进的芯片代工厂。N3(3nm)是当前量产的最先进制程,N2(2nm,GAA 结构)预计 2025-2026 量产。全球 90% 以上的 7nm 以下芯片由台积电制造。

格局
台积电(台,7nm 以下 ~90%)、三星(韩,~10%,主要自用和 NVIDIA 部分订单)、Intel(美,18A 预计 2025 年对外代工)。三强之外没有能玩先进制程的玩家——格芯/联电在 2018 年就放弃了 7nm。
技术
FinFET(3nm/5nm)→ GAA/纳米片(2nm 及以下,三星先上 GAA 但良率低,台积电 N2 用 GAA)→ CFET(互补 FET,2030+)。每一次架构变革都需要全新设备和新材料,研发投入 ~$100 亿/节点。
瓶颈
① 台积电产能严重不足:AI GPU 需求远超台积电 CoWoS 产能,2024-2025 持续扩产仍吃紧;② 地缘政治:台海局势是整条 AI 产业链最大的系统性风险;③ 先进制程成本暴增:3nm 晶圆价格 ~$20,000(7nm 时代 ~$9,000)。
护城河
台积电的优势=制程领先(比三星早 6-12 个月量产同代)+良率领先(N3 良率 80%+,三星 GAA 良率 ~50%)+客户信任(不跟客户竞争,三星和 Intel 都做自己的芯片)。这是 30 年积累的结构性优势。
新的瓶颈

先进封装(CoWoS & 3D 堆叠)

一颗 H200 GPU 不只是台积电 N4 工艺的芯片,还包括 6 颗 HBM3E 通过 CoWoS 封装堆叠在一起。CoWoS(Chip on Wafer on Substrate)是台积电的 2.5D 封装技术——在硅中介层上把 GPU 和 HBM 连在一起。

格局
台积电 CoWoS 独占 2.5D 先进封装 ~90% 份额。三星 I-Cube、Intel EMIB 是替代方案但产能和良率远不及 CoWoS。日月光(ASE)在传统封装占 ~30%,先进封装正在追赶。
技术
CoWoS-S(硅中介层)→ CoWoS-L(局部硅桥,2024 量产)→ CoWoS-R(RDL 中介层)。关键趋势:中介层面积越来越大(H200 的中介层已接近光罩极限 ~858mm²)。3D 堆叠(SoIC)是下一步——直接把芯片叠在一起。
瓶颈
CoWoS 产能是当前 AI GPU 的最大卡点——英伟达的 GPU 不缺(台积电 N4 产能够),但缺 CoWoS 封装。台积电 2024 年 CoWoS 产能翻倍仍供不应求,预计 2025 年继续翻倍。日本、美国新建的封装厂需要 2-3 年才能投产。
经济账
CoWoS 封装单片成本 ~$600-1000(普通 FC-BGA 封装 ~$20-50)。先进封装占芯片总成本的比例从 5% 飙到 20-30%——这是封装厂历史上从未有过的定价权时代。
本层关键结论

芯片制造层的核心矛盾是台积电一家独大 + CoWoS 成为新瓶颈。先进制程(3nm/2nm)的高昂成本正在把芯片创新逼向"不做最先进的制程,用先进封装拼性能"的方向——这也是 AMD MI300(用稍旧制程 + 先进封装挑战英伟达)和 Chiplet 架构兴起的逻辑。三星和 Intel 在制造端追赶但差距明显,短期内看不到打破台积电垄断的可能。

LAYER 3

存储与互联

大模型训练不仅是 GPU 的事——HBM 内存("GPU 旁边的燃料罐")、光模块("GPU 之间的高速公路")、交换机芯片("高速公路的收费站")共同构成了算力基础设施。没有足够快的内存和网络,一万张 GPU 就是一万个孤岛。

算力燃料

HBM 高带宽内存

HBM(High Bandwidth Memory)是把多层 DRAM 芯片垂直堆叠在一起,通过硅通孔(TSV)互连,紧贴 GPU 放置。H200 的 141GB HBM3E 带宽 ~4.8TB/s——没有 HBM,大模型训练寸步难行。

格局
SK 海力士(韩,HBM ~55%)、三星(韩,~40%)、美光(美,~5% 但增速快)。SK 海力士是 HBM3E 独家供应商,三星良率问题导致 HBM3 出货延迟,美光跳过 HBM3 直接做 HBM3E。
技术
HBM3(8 层/12 层堆叠,带宽 819GB/s/堆)→ HBM3E(带宽 1.2TB/s/堆,英伟达 H200/B200 使用)→ HBM4(16 层堆叠,2048-bit 接口,预计 2025-2026)。每一代 HBM 的堆叠层数+带宽翻倍。
瓶颈
① HBM 制造难度极高:TSV 必须在微米级精度打穿 12 层 DRAM,良率爬坡慢;② 产能严重不足:SK 海力士 2024 年 HBM 产能已被订满,2025 年的也在被预定;③ 散热:HBM 堆叠密度越高,热管理越困难。
经济账
HBM 单 GB 价格 ~$10-15(普通 DDR5 ~$2-3/GB),毛利率 50%+。一颗 H200 的 HBM 成本 ~$2000-3000,占 GPU 模组总成本 ~40%。HBM 的利润远高于标准 DRAM,三星/SK 均将产能向 HBM 倾斜,挤压标准内存供应。
互联高速路

光模块与光互联

AI 集群内的 GPU 之间需要高速互联。短距离用电(铜缆/DAC),中长距离用光(光模块+光纤)。一个 10 万 GPU 集群需要上万个 800G 光模块,光互联成本可能超过 GPU 本身。

格局
光模块:Coherent(美,InP 激光器领先)、Lumentum(美)、Fabrinet(代工)、中际旭创(中,800G 模块全球份额 ~30%)、新易盛。交换机芯片:博通(美,Tomahawk/Jericho 系列 ~70%)、英伟达 Spectrum。
技术
400G→800G(当前主流,英伟达 Spectrum-X 使用)→ 1.6T(2025 量产)→ 3.2T。硅光子(Silicon Photonics)和 CPO(共封装光学)是下一代方向——把光引擎直接集成到交换机芯片封装里,大幅降低功耗。
瓶颈
800G 光模块功耗 ~15W/个,一万个就是 150kW——光互联的功耗正在成为限制集群规模的新瓶颈。CPO 能降 30-50% 功耗但量产难度大。InP 激光器产能也偏紧。
经济账
800G 光模块单价 ~$800-1000(2024),降价速度每年 ~20-30%。英伟达 Spectrum-X 网络方案中,光互联成本约占总网络成本的 60%。LPO(线性驱动可插拔光学)是降成本的技术路径。
网络中枢

InfiniBand 与以太网交换

GPU 之间怎么通信?InfiniBand(英伟达 Mellanox 垄断)是传统 AI 集群标配——低延迟、无损传输。但以太网正在追赶——博通 Tomahawk 5、英伟达 Spectrum-4 都支持 RDMA over Converged Ethernet(RoCE v2)。

格局
InfiniBand:英伟达/Mellanox 独占 ~95%。以太网交换机芯片:博通(~70%)、英伟达 Spectrum(~15%)、Marvell(~10%)、思科。Intel 退出交换机芯片市场。
技术
InfiniBand NDR(400GB/s)→ XDR(800GB/s,2025)→ GDR(1.6TB/s)。以太网 800G 交换机芯片(博通 Tomahawk 5、英伟达 Spectrum-4)已支持 AI 集群所需的无损传输,以太网正在蚕食 InfiniBand 的地盘。
瓶颈
网络带宽增速(2 年翻倍)落后于 GPU 算力增速(1 年翻倍)——GPU 越来越快,但网络跟不上,导致大规模集群的算力利用率下降。网络正在成为"东数西算"的新瓶颈。
经济账
InfiniBand 方案(含交换机、网卡、线缆)占 AI 集群总成本 ~15-20%。如果用英伟达全套方案,网络溢价显著(毛利率 ~70%)。这也是微软/AWS 等超大规模用户拥抱以太网替代方案的核心动力。
本层关键结论

HBM 和网络是 AI 算力扩张的两个物理瓶颈。HBM 产能被 SK 海力士一家卡住(2024-2025 年供给持续紧张),光模块/交换机则面临功耗和带宽增长的赛跑。这一层中,博通(定制 ASIC + 交换机芯片)和 SK 海力士(HBM)是在 AI GPU 之外的"隐形赢家"——它们不造 GPU,但英伟达每卖一颗 GPU 都要给它们付费。

LAYER 4

芯片产品

前面四层的所有东西最终汇聚成一颗颗具体的芯片——训练 GPU、推理 ASIC、端侧 NPU。这一层是产业链的"收费站":上游所有环节的技术进步和成本压缩,都由这一层的芯片设计公司来整合和定价。

算力之王

训练 GPU / ASIC

大模型训练需要海量算力——GPT-4 据传用了 25000 颗 A100 训练 90-100 天,Gemini Ultra 用了更多。英伟达是这一层的绝对王者,但自研 ASIC 浪潮正在到来。

格局
英伟达(GPU ~90%+ 训练份额,H200/B200/R100 系列)、AMD(MI300X,份额快速爬升,2024 年预计 ~5-10%)、Google TPU v5(自用不外售)、AWS Trainium2(自用)、Intel Gaudi 3(份额极小)。
技术
H200(Hopper,2024 主流)→ B200(Blackwell,2024 H2,性能 ~2.5x H200)→ R100(Rubin,2026,3nm)。英伟达每年一代的节奏在加速——H100 → H200 只隔了一年,B200 → R100 也只隔一年。
瓶颈
英伟达不造芯片——它被台积电 CoWoS 产能和 SK 海力士 HBM 产能双重卡住。B200 的发货时间取决于台积电能不能按时交付足够的 CoWoS 封装,以及 SK 海力士能不能供够 HBM3E。
护城河
CUDA 生态是英伟达真正的护城河——不是 GPU 硬件本身(AMD 的硬件已经很有竞争力),而是 15 年积累的 CUDA 库、框架集成、开发者习惯。PyTorch → CUDA 这条路径被深度绑定。
降本之战

推理芯片与 ASIC

训练是一次性的资本开支,推理是持续性的运营开支。当模型部署到生产环境,每个 token 的推理成本决定了商业模式是否能跑通。这是创业公司最活跃的芯片层。

格局
英伟达 L40S/L4 是通用推理主力,但定制 ASIC 正在抢占份额——Google TPU v5e、AWS Inferentia2/Trainium2、微软 Maia、Meta MTIA。创业公司:Groq(LPU 架构,推理速度极快但内存有限)、Cerebras(晶圆级芯片)、d-Matrix、SambaNova。
技术
推理芯片的核心指标是 TOPS/W(每瓦算力)和$/token。Groq 的 LPU 用 SRAM 代替 HBM,单 token 延迟极低但总内存有限。传统架构的突破方向:稀疏计算、低精度(FP8/FP4/INT4)、存内计算。
瓶颈
软件生态是推理芯片创业公司最大的障碍——每家公司都要自研编译器、适配 PyTorch、优化算子库。Groq 做了 7 年才把 Llama 跑顺。客户不会为了省 20% 硬件成本付 200% 的软件迁移成本。
经济账
推理市场规模正在超过训练——2024 年 AI 推理芯片市场 ~$300 亿,预计 2027 年 ~$800 亿。通用推理 GPU 毛利率 60%+(英伟达),定制 ASIC 毛利率因客户议价能力强而较低。
终端智能

端侧 AI 芯片

大模型能不能在手机上跑?苹果 Neural Engine(A17 Pro 的 35 TOPS)、高通 Hexagon NPU、Intel Meteor Lake NPU 都在回答这个问题。端侧推理是解决大模型"隐私 + 延迟 + 成本"三角矛盾的终极方案。

格局
苹果(A/M 系列 Neural Engine,自用不外售)、高通(骁龙 NPU,Android 旗舰标配)、联发科(天玑 APU)、Intel(Meteor Lake NPU)。中国:瑞芯微、地平线(自动驾驶 NPU)、寒武纪(云端+端侧)。
技术
当前端侧 NPU 算力 10-45 TOPS(INT8),能跑 1B-7B 参数的小模型。苹果在 WWDC 2024 展示了 iPhone 15 Pro 本地运行 3B 多模态模型。技术趋势:混合精度、权重压缩(4-bit 量化)、MoE 本地部署。
瓶颈
内存带宽是端侧推理的硬约束——手机 LPDDR5 带宽 ~50GB/s,而 H200 的 HBM 带宽 ~4.8TB/s,差 100 倍。1B 模型的权重就要 ~2GB,更大的模型根本装不进手机。
前景
端侧 AI 最大的想象空间不是跑 ChatGPT,而是驱动全新的交互范式——实时语音翻译、环境感知、AR 助手。苹果会是最大赢家:控制芯片、操作系统和应用商店三位一体。
本层关键结论

芯片产品层是整条产业链的"价值汇聚点"——上游每一层的技术进步和成本压缩最终体现为芯片的性能和价格。英伟达在训练领域的统治地位短期内无法撼动(CUDA 生态锁定),但在推理和端侧这两个更大的市场,格局远未定型——定制 ASIC、创业公司、端侧芯片都可能在 3-5 年内改变格局。2027 年推理市场规模预计超过训练市场,这是芯片产业三十年来的第一次——过去三十年一直是"训练为王",未来十年可能是"推理为王"。