先看摘要
这是关于AI硬件行业的六部曲中的第一部分。默认你对半导体一无所知,从最基础处讲起。读完整个系列,你应该能向别人解释完整的供应链:谁做什么,为什么少数几家公司控制着咽喉要道,物理层面限制增速的因素是什么,以及韩国在这一切中处于什么位置。
住在首尔不需要这些知识来过好每一天。但如果你生活在韩国,这个行业正在悄悄影响你的电费、国家预算、银行账户里韩元的价值,以及就业市场。了解一下,值得。
芯片到底是什么
从沙子说起。普通沙子的主要成分是二氧化硅。提纯到足够程度,就得到了纯度极高的硅,高到制造业其他领域几乎没有这种要求。把这种材料生长成单晶柱体,切成直径约30厘米的圆片,就是晶圆(wafer):每一颗芯片的制造起点。
硅是半导体(semiconductor),意思是它在某些条件下导电,另一些条件下不导电。这种特性让你能造出一个没有活动部件的开关:在某个引脚施加一个小电压,电流就在另外两个引脚间流动;撤掉电压,电流停止。这个开关就是晶体管,也是芯片本质上唯一的组成要素。
一个晶体管是一个开关。把几个连在一起,可以搭建执行简单逻辑的电路:A与B、A或B、非A。把数百万个连在一起,可以做加法运算。把海量晶体管连在一起,就能运行一个AI模型。
这里的规模感难以直接想象。一块顶级AI处理器在一片大约邮票大小的硅上集成了数量惊人的晶体管,比几年前的芯片多得多。它们不是一个个手工放置的,那根本不可能,而是通过「印刷」来实现:把光的图案投射到化学涂层的晶圆上,像冲洗照片一样显影,再通过图案刻蚀材料、沉积薄膜。这个印刷步骤叫光刻(lithography),是整个行业最难的环节。第三部分会解释,为什么一家荷兰公司对最先进制程所用的EUV设备拥有完整垄断。
为什么「2nm」不是一个尺寸
你会不断看到芯片被冠以制程节点名称:7nm、5nm、3nm、2nm。自然会以为这是某种尺寸。以前确实是。但那已是十多年前的事了。
现在这些是世代标签,更接近汽车款式年份而非技术规格。2nm芯片上没有任何特征真的有2纳米宽。这个标签传达的是:厂商能比上一代更密地封装晶体管,通常意味着相同工作量下更好的性能和更低的功耗。
两个实际后果。其一,这些名称在不同公司之间不可比较。一家公司的2nm未必比另一家公司的3nm密度更高,因为每家公司都自己命名节点。其二,营销名称并不能很好地判断芯片是否够好。真正重要的是晶体管密度、功耗效率,以及良率,即每张晶圆上最终能正常工作的芯片比例。良率是厂商最严格保密的数字,因为规格优秀但良率差的节点,每张晶圆都在亏钱。
为什么AI需要一种不同的芯片
想象一下,少数资深专家组成的小团队,和一个体育场坐满手持计算器的人,有什么区别。
CPU是那支小团队。它有少量强大的核心,每个核心都能处理复杂、不可预测的指令,并决定下一步做什么。这正是运行操作系统所需要的:大量不同任务,各有其逻辑,以不固定的顺序涌来。
GPU是那个体育场。它有非常多的简单核心,每个核心单独能力有限,但在同一时刻对不同数据执行同样的操作。GPU是为图形而生的,任务是同时算出两百万个像素的颜色,每个像素需要同种类型的运算。
其实,AI具有同样的形状。界面之下,运行AI模型压倒性地只有一种操作:矩阵乘法,一种将大型数字网格相乘并求和的结构化方法。这是十岁孩子能做的算术,只是数量多到难以想象。这是体育场问题,而非专家团队问题,图形卡行业就这样阴差阳错地站到了人工智能的中心。
不是所有AI芯片都是GPU。几家大型科技公司设计了自己的加速器,完全跳过图形的渊源,直接针对AI运算:谷歌的TPU、亚马逊的Trainium和Inferentia、Meta的MTIA。这些都是ASIC,即专用集成电路,取舍很明显:在它们被设计做的那项窄任务上更高效,在其他任何事上都无用武之地。第二部分讲谁在做这些,以及为什么一家公司要承担这笔开销。
训练和推理是两个不同的问题
几乎所有关于AI经济的令人困惑的说法,一旦把这两者分开就会清晰很多。
训练是构建模型。你取来海量文字、图像或其他数据,让它们通过一个持有海量参数的网络,将输出与正确答案对比,再把每个参数朝减少误差的方向微调一点。然后再做一遍,再做一遍,持续很长时间,在大量芯片上持续运行。训练是一次巨大、集中的一次性成本。当人们说某个数据中心园区耗电量相当于一座中型城市时,指的就是这个。
推理是使用已完成的模型。你发送一个问题,模型读取其参数,完成运算,输出答案。每次单独的推理与训练相比微不足道。不过,它在每次有人使用该产品时都会发生,如今意味着每天数十亿次。
行业在2023年和2024年以训练需求为主导。重心已开始向推理转移,毕竟模型一旦存在,服务它的成本就永不停止。这种转变在商业上意味着很多:推理奖励的是效率和低答案成本,与追求原始训练性能是不同的竞争,这正是专用芯片设计公司正在试图把握的机会,包括第六部分提到的两家韩国初创企业。
内存墙,也是整个故事的核心
这是大多数解释跳过的一点,也是韩国为何举足轻重的原因。
其实,你可能会以为AI芯片的限制因素是计算速度。通常不是。处理器做算术的速度,远远快于系统其余部分向它供应数字的速度。供给太慢,昂贵的处理器就只能闲置等待。工程师把这叫做内存墙。
原因在于物理。AI模型的参数必须存储在某个地方,而数量太多,根本无法全部放在处理器内部。所以它们住在附近的内存芯片里,每次计算都需要通过一条连接来取数。这条连接有固定的宽度和固定的速度。它每秒能传输的数据量称为带宽,而带宽才是最先耗尽的东西。
有个经得起推敲的类比:处理器是一位做菜速度惊人的大厨,内存带宽是厨房门的宽度。换一个更快的大厨,如果食材只能一样一样地送进来,根本没用。
这就是为什么内存不再是无聊的大宗商品。几十年来,内存芯片基本上按每GB价格销售,周期性地经历供过于求和供不应求。AI改变了问题的性质,从「你能存多少」变成了「你能以多快的速度交付」,而能回答第二个问题的公司,发现自己出售的是一种难以被替代的东西。
HBM具体是什么
业界应对内存墙的答案是高带宽内存,即HBM(High Bandwidth Memory)。三个想法,字面和比喻意义上的双重叠加。
纵向叠加。 不是把内存芯片横向并排,而是一层叠一层,十几层甚至更多,垒成一座塔。
垂直穿孔。 用数千个贯穿硅片的垂直通道来连接各层,这称为硅通孔(through-silicon vias)。这比从边缘绕路走信号宽得多。
搬到隔壁。 把整个堆栈放在与处理器相同的封装上,相距几毫米而非几厘米,通过一个共享基板在它们之间传输信号。
结果是一条比常规内存宽得多的数据通道。不过,代价是生产难度确实很高:你在把一张张薄如纸的硅片以微米级精度粘合在一起,任何一层出问题,整个堆栈就报废。良率比普通内存低,价格也高得多。
全球只有三家公司能规模化生产HBM:SK海力士(SK Hynix)、三星(Samsung)和美光(Micron)。其中两家是韩国企业。2026年第一季度,Counterpoint Research数据显示SK海力士占HBM市场58%的份额,三星和美光各占21%。这一个数字,就是韩国不只是AI繁荣旁观者的主要原因。
从芯片到数据中心
再掌握一组词汇,因为规模跳跃正是人们容易迷失的地方。从内到外:
裸片(die) 是从晶圆上切下的硅片本身。
封装(package) 是裸片加上HBM堆栈,安装在一个连接它们的基板上,然后密封。人们说「芯片」通常指这个。组装这个过程叫先进封装(advanced packaging),本身也是一个瓶颈,第三部分有专门介绍。
电路板和服务器 将若干封装与CPU、存储、电源和散热组合在一个机箱里,推入机架。
机架 是一个服务器机柜,连接得如此紧密,以至于它们表现为一个大型处理器。这里AI硬件开始与普通计算机不像了。当前一代AI机架的功耗远超100千瓦,相当于一栋小型公寓楼,集中在一个约衣柜大小的机柜里。空气散热无法带走这么多热量,所以这些机架用液体冷却,直接接触芯片。
集群(cluster) 是数千个机架通过专用高速网络连接在一起,因为训练大模型意味着每块芯片都在不断与所有其他芯片交换结果。网络在这里不是管道,而是计算机本身的一部分。第二部分解释了为什么这让网络芯片成为一门大生意。
数据中心 是建筑本体、供电线路、冷却设施和水源。行业越来越多地以吉瓦(gigawatt)电容量而非平方米或服务器数量来衡量这些设施,这告诉你真正的限制已变成什么了。第四部分讲的就是这个限制。
为什么钱变得这么大
用数字说话:英伟达报告,截至2026年4月的单一季度,数据中心营收达到创纪录的752亿美元,同比增长92%。这是一家公司、一条产品线、三个月。
这个数字的存在,是因为美国四大云计算公司正在以和平时期罕见的规模集体投入,而且每一颗芯片都需要内存、封装、网络、建筑和电力连接。这个链条的每一层都有自己的领导者、自己的经济逻辑和自己的瓶颈。
第二部分将整条链逐层拆解,并点名每一层的领跑者。