🇰🇷  韩国,解码  →

AI计算深度解析,第一部分:AI芯片到底是什么(2026)

用通俗语言讲清AI硬件行业的基础:什么是芯片、为什么AI需要特殊芯片、训练和推理分别是什么,以及为什么内存才是真正的瓶颈。

更新时间:2026年8月

已对照 3 个官方来源核实. 核实日期 2026年8月. 所有数据均附原始链接.

核心要点

  • 芯片是一块覆盖着晶体管的硅片,晶体管是微型开关。现代AI芯片集成的晶体管数量极为庞大,远超任何早期芯片。
  • 2nm这样的制程节点名称是营销标签,不是物理尺寸。2nm芯片上没有任何特征真的有2纳米宽。
  • 训练是构建AI模型,一次性的大额成本。推理是使用模型,每次有人使用产品时产生一次小额成本。
  • AI芯片的瓶颈通常不是计算速度,而是内存带宽,即向处理器供给数据的速度。这称为「内存墙」。
  • 高带宽内存(HBM)通过将内存芯片垂直堆叠、并与处理器封装在同一基板上来解决这个问题,距离从厘米缩短到毫米。
  • 英伟达报告,截至2026年4月的季度,数据中心营收达到创纪录的752亿美元,同比增长92%。
分享WhatsAppTelegram邮件发给可能用得上的人。
From Seoulstart

先看摘要

这是关于AI硬件行业的六部曲中的第一部分。默认你对半导体一无所知,从最基础处讲起。读完整个系列,你应该能向别人解释完整的供应链:谁做什么,为什么少数几家公司控制着咽喉要道,物理层面限制增速的因素是什么,以及韩国在这一切中处于什么位置。

住在首尔不需要这些知识来过好每一天。但如果你生活在韩国,这个行业正在悄悄影响你的电费、国家预算、银行账户里韩元的价值,以及就业市场。了解一下,值得。

芯片到底是什么

从沙子说起。普通沙子的主要成分是二氧化硅。提纯到足够程度,就得到了纯度极高的硅,高到制造业其他领域几乎没有这种要求。把这种材料生长成单晶柱体,切成直径约30厘米的圆片,就是晶圆(wafer):每一颗芯片的制造起点。

硅是半导体(semiconductor),意思是它在某些条件下导电,另一些条件下不导电。这种特性让你能造出一个没有活动部件的开关:在某个引脚施加一个小电压,电流就在另外两个引脚间流动;撤掉电压,电流停止。这个开关就是晶体管,也是芯片本质上唯一的组成要素。

一个晶体管是一个开关。把几个连在一起,可以搭建执行简单逻辑的电路:A与B、A或B、非A。把数百万个连在一起,可以做加法运算。把海量晶体管连在一起,就能运行一个AI模型。

这里的规模感难以直接想象。一块顶级AI处理器在一片大约邮票大小的硅上集成了数量惊人的晶体管,比几年前的芯片多得多。它们不是一个个手工放置的,那根本不可能,而是通过「印刷」来实现:把光的图案投射到化学涂层的晶圆上,像冲洗照片一样显影,再通过图案刻蚀材料、沉积薄膜。这个印刷步骤叫光刻(lithography),是整个行业最难的环节。第三部分会解释,为什么一家荷兰公司对最先进制程所用的EUV设备拥有完整垄断。

为什么「2nm」不是一个尺寸

你会不断看到芯片被冠以制程节点名称:7nm、5nm、3nm、2nm。自然会以为这是某种尺寸。以前确实是。但那已是十多年前的事了。

现在这些是世代标签,更接近汽车款式年份而非技术规格。2nm芯片上没有任何特征真的有2纳米宽。这个标签传达的是:厂商能比上一代更密地封装晶体管,通常意味着相同工作量下更好的性能和更低的功耗。

两个实际后果。其一,这些名称在不同公司之间不可比较。一家公司的2nm未必比另一家公司的3nm密度更高,因为每家公司都自己命名节点。其二,营销名称并不能很好地判断芯片是否够好。真正重要的是晶体管密度、功耗效率,以及良率,即每张晶圆上最终能正常工作的芯片比例。良率是厂商最严格保密的数字,因为规格优秀但良率差的节点,每张晶圆都在亏钱。

为什么AI需要一种不同的芯片

想象一下,少数资深专家组成的小团队,和一个体育场坐满手持计算器的人,有什么区别。

CPU是那支小团队。它有少量强大的核心,每个核心都能处理复杂、不可预测的指令,并决定下一步做什么。这正是运行操作系统所需要的:大量不同任务,各有其逻辑,以不固定的顺序涌来。

GPU是那个体育场。它有非常多的简单核心,每个核心单独能力有限,但在同一时刻对不同数据执行同样的操作。GPU是为图形而生的,任务是同时算出两百万个像素的颜色,每个像素需要同种类型的运算。

其实,AI具有同样的形状。界面之下,运行AI模型压倒性地只有一种操作:矩阵乘法,一种将大型数字网格相乘并求和的结构化方法。这是十岁孩子能做的算术,只是数量多到难以想象。这是体育场问题,而非专家团队问题,图形卡行业就这样阴差阳错地站到了人工智能的中心。

不是所有AI芯片都是GPU。几家大型科技公司设计了自己的加速器,完全跳过图形的渊源,直接针对AI运算:谷歌的TPU、亚马逊的Trainium和Inferentia、Meta的MTIA。这些都是ASIC,即专用集成电路,取舍很明显:在它们被设计做的那项窄任务上更高效,在其他任何事上都无用武之地。第二部分讲谁在做这些,以及为什么一家公司要承担这笔开销。

训练和推理是两个不同的问题

几乎所有关于AI经济的令人困惑的说法,一旦把这两者分开就会清晰很多。

训练是构建模型。你取来海量文字、图像或其他数据,让它们通过一个持有海量参数的网络,将输出与正确答案对比,再把每个参数朝减少误差的方向微调一点。然后再做一遍,再做一遍,持续很长时间,在大量芯片上持续运行。训练是一次巨大、集中的一次性成本。当人们说某个数据中心园区耗电量相当于一座中型城市时,指的就是这个。

推理是使用已完成的模型。你发送一个问题,模型读取其参数,完成运算,输出答案。每次单独的推理与训练相比微不足道。不过,它在每次有人使用该产品时都会发生,如今意味着每天数十亿次。

行业在2023年和2024年以训练需求为主导。重心已开始向推理转移,毕竟模型一旦存在,服务它的成本就永不停止。这种转变在商业上意味着很多:推理奖励的是效率和低答案成本,与追求原始训练性能是不同的竞争,这正是专用芯片设计公司正在试图把握的机会,包括第六部分提到的两家韩国初创企业。

内存墙,也是整个故事的核心

这是大多数解释跳过的一点,也是韩国为何举足轻重的原因。

其实,你可能会以为AI芯片的限制因素是计算速度。通常不是。处理器做算术的速度,远远快于系统其余部分向它供应数字的速度。供给太慢,昂贵的处理器就只能闲置等待。工程师把这叫做内存墙。

原因在于物理。AI模型的参数必须存储在某个地方,而数量太多,根本无法全部放在处理器内部。所以它们住在附近的内存芯片里,每次计算都需要通过一条连接来取数。这条连接有固定的宽度和固定的速度。它每秒能传输的数据量称为带宽,而带宽才是最先耗尽的东西。

有个经得起推敲的类比:处理器是一位做菜速度惊人的大厨,内存带宽是厨房门的宽度。换一个更快的大厨,如果食材只能一样一样地送进来,根本没用。

这就是为什么内存不再是无聊的大宗商品。几十年来,内存芯片基本上按每GB价格销售,周期性地经历供过于求和供不应求。AI改变了问题的性质,从「你能存多少」变成了「你能以多快的速度交付」,而能回答第二个问题的公司,发现自己出售的是一种难以被替代的东西。

HBM具体是什么

业界应对内存墙的答案是高带宽内存,即HBM(High Bandwidth Memory)。三个想法,字面和比喻意义上的双重叠加。

纵向叠加。 不是把内存芯片横向并排,而是一层叠一层,十几层甚至更多,垒成一座塔。

垂直穿孔。 用数千个贯穿硅片的垂直通道来连接各层,这称为硅通孔(through-silicon vias)。这比从边缘绕路走信号宽得多。

搬到隔壁。 把整个堆栈放在与处理器相同的封装上,相距几毫米而非几厘米,通过一个共享基板在它们之间传输信号。

结果是一条比常规内存宽得多的数据通道。不过,代价是生产难度确实很高:你在把一张张薄如纸的硅片以微米级精度粘合在一起,任何一层出问题,整个堆栈就报废。良率比普通内存低,价格也高得多。

全球只有三家公司能规模化生产HBM:SK海力士(SK Hynix)、三星(Samsung)和美光(Micron)。其中两家是韩国企业。2026年第一季度,Counterpoint Research数据显示SK海力士占HBM市场58%的份额,三星和美光各占21%。这一个数字,就是韩国不只是AI繁荣旁观者的主要原因。

从芯片到数据中心

再掌握一组词汇,因为规模跳跃正是人们容易迷失的地方。从内到外:

裸片(die) 是从晶圆上切下的硅片本身。

封装(package) 是裸片加上HBM堆栈,安装在一个连接它们的基板上,然后密封。人们说「芯片」通常指这个。组装这个过程叫先进封装(advanced packaging),本身也是一个瓶颈,第三部分有专门介绍。

电路板和服务器 将若干封装与CPU、存储、电源和散热组合在一个机箱里,推入机架。

机架 是一个服务器机柜,连接得如此紧密,以至于它们表现为一个大型处理器。这里AI硬件开始与普通计算机不像了。当前一代AI机架的功耗远超100千瓦,相当于一栋小型公寓楼,集中在一个约衣柜大小的机柜里。空气散热无法带走这么多热量,所以这些机架用液体冷却,直接接触芯片。

集群(cluster) 是数千个机架通过专用高速网络连接在一起,因为训练大模型意味着每块芯片都在不断与所有其他芯片交换结果。网络在这里不是管道,而是计算机本身的一部分。第二部分解释了为什么这让网络芯片成为一门大生意。

数据中心 是建筑本体、供电线路、冷却设施和水源。行业越来越多地以吉瓦(gigawatt)电容量而非平方米或服务器数量来衡量这些设施,这告诉你真正的限制已变成什么了。第四部分讲的就是这个限制。

为什么钱变得这么大

用数字说话:英伟达报告,截至2026年4月的单一季度,数据中心营收达到创纪录的752亿美元,同比增长92%。这是一家公司、一条产品线、三个月。

这个数字的存在,是因为美国四大云计算公司正在以和平时期罕见的规模集体投入,而且每一颗芯片都需要内存、封装、网络、建筑和电力连接。这个链条的每一层都有自己的领导者、自己的经济逻辑和自己的瓶颈。

第二部分将整条链逐层拆解,并点名每一层的领跑者。

分享WhatsAppTelegram邮件发给可能用得上的人。

Advertisement

相关指南

常见问题

CPU和GPU有什么区别?

CPU(中央处理器)设计用来快速处理少量复杂任务,一件接一件。它是计算机的总调度。GPU(图形处理器)则是对海量数据同时执行一项简单操作。GPU最初是为了同时给数百万个屏幕像素着色而设计的,每个像素需要同种类型的运算。这种设计恰好也适合AI:训练和运行AI模型意味着对巨大数字矩阵反复执行同样的简单运算。桌面CPU有少数几个强大核心,服务器CPU多一些,现代AI的GPU则有数万个简单核心。

「2nm」到底是什么意思?

物理意义上,很少。7nm、3nm、2nm这样的节点名称曾经描述的是芯片上某个真实特征的尺寸,但那是2010年前后就停止的事了。现在它们更像汽车款式年份,是世代标签。它传达的信息是:这家厂商能比上一代更密地封装晶体管,通常意味着更好的性能和更低的每次计算功耗。而且这些名称在不同公司之间不可比较。一家公司的2nm不一定比另一家公司的3nm密度更高。

为什么AI需要这么多内存?

AI模型本质上是一个庞大的数字集合,称为参数或权重。每生成一个词的输出,芯片都必须从内存中读取大量这样的数字并将它们相乘。大模型包含太多参数,每次回复都需要移动海量数据。计算本身很快,取数才是瓶颈。这也是为什么内存带宽而非原始算力,才是实际的上限。

查看全部 6 个问题

HBM是什么,为什么大家都在谈它?

HBM是高带宽内存(High Bandwidth Memory)的缩写。普通计算机内存放在独立插槽上,距处理器几厘米,连接路径相对狭窄。HBM则把内存芯片垂直堆叠成塔状,用贯穿其中的垂直通道连接各层,再将整个堆栈放在与处理器相同的封装上。结果是在极短距离内获得远更宽的数据通道。生产难度大、成本高,全球只有三家公司能规模化生产,其中两家是韩国企业。

AI芯片和GPU是一回事吗?

不一定。GPU是最常见的类型,英伟达的GPU最为人所知。不过几家大型科技公司设计了自己的AI芯片,根本不是GPU。谷歌做TPU(张量处理单元,Tensor Processing Units),亚马逊做Trainium和Inferentia,Meta做MTIA。这些都是ASIC,即专用集成电路,为高效完成某项特定任务而设计,而非追求通用灵活。涵盖所有这些类型的通用术语是加速器(accelerator)。

住在韩国需要了解这些吗?

不是必须,但它能解释你周围很多事。半导体占韩国出口的很大比重,这个行业驱动着国家经济的相当一部分,政府已投入巨额资金来扩大产业规模。芯片新闻会影响韩元汇率、电力政策,越来越多地影响新城镇和输电线路的选址。本系列第六部分专门讲这一切对在韩居住者意味着什么。

已核实来源

本指南基于官方原始来源

本指南中的每项数据均来自官方原始来源,您可以逐一查验。

  1. 01

    Nvidia: first quarter fiscal 2027 results (data center revenue USD 75.2 billion)

    nvidianews.nvidia.com查阅日期 2026年8月
  2. 02

    SK hynix newsroom: 2026 market outlook, HBM-led memory cycle

    news.skhynix.com查阅日期 2026年8月
  3. 03

    CNBC: comparing Nvidia GPUs, Google TPUs and AWS Trainium

    cnbc.com查阅日期 2026年8月

引用本指南

Seoulstart Editorial Team. (2026). AI计算深度解析,第一部分:AI芯片到底是什么(2026). Seoulstart. Retrieved from https://seoulstart.com/zh/guides/ai-compute-what-is-an-ai-chip
更多格式(Chicago、BibTeX)

Chicago

Seoulstart Editorial Team. 2026."AI计算深度解析,第一部分:AI芯片到底是什么(2026)."Seoulstart. Last modified 2026年8月14日. https://seoulstart.com/zh/guides/ai-compute-what-is-an-ai-chip.

BibTeX

@misc{seoulstart-ai-compute-what-is-an-ai-chip,
  author = {{Seoulstart Editorial Team}},
  title = {{AI计算深度解析,第一部分:AI芯片到底是什么(2026)}},
  year = {2026},
  publisher = {Seoulstart},
  url = {https://seoulstart.com/zh/guides/ai-compute-what-is-an-ai-chip},
  note = {Last updated 2026年8月14日}
}
想阅读更完整的英文版本? 查看英文版本 →