先看摘要
這是關於AI硬體行業的六部曲中的第一部分。預設你對半導體一無所知，從最基礎處講起。讀完整個系列，你應該能向別人解釋完整的供應鏈：誰做什麼，為什麼少數幾家公司控制著咽喉要道，物理層面限制增速的因素是什麼，以及韓國在這一切中處於什麼位置。
住在首爾不需要這些知識來過好每一天。但如果你生活在韓國，這個行業正在悄悄影響你的電費、國家預算、銀行帳戶裡韓元的價值，以及就業市場。瞭解一下，值得。
晶片到底是什麼
從沙子說起。普通沙子的主要成分是二氧化矽。提純到足夠程度，就得到了純度極高的矽，高到製造業其他領域幾乎沒有這種要求。把這種材料生長成單晶柱體，切成直徑約30釐米的圓片，就是晶圓（wafer）：每一顆晶片的製造起點。
矽是半導體（semiconductor），意思是它在某些條件下導電，另一些條件下不導電。這種特性讓你能造出一個沒有活動部件的開關：在某個引腳施加一個小電壓，電流就在另外兩個引腳間流動；撤掉電壓，電流停止。這個開關就是晶體管，也是晶片本質上唯一的組成要素。
一個晶體管是一個開關。把幾個連在一起，可以搭建執行簡單邏輯的電路：A與B、A或B、非A。把數百萬個連在一起，可以做加法運算。把海量晶體管連在一起，就能運行一個AI模型。
這裡的規模感難以直接想象。一塊頂級AI處理器在一片大約郵票大小的矽上集成了數量驚人的晶體管，比幾年前的晶片多得多。它們不是一個個手工放置的，那根本不可能，而是通過「印刷」來實現：把光的圖案投射到化學塗層的晶圓上，像沖洗照片一樣顯影，再通過圖案刻蝕材料、沉積薄膜。這個印刷步驟叫光刻（lithography），是整個行業最難的環節。第三部分會解釋，為什麼一家荷蘭公司對最先進製程所用的EUV設備擁有完整壟斷。
為什麼「2nm」不是一個尺寸
你會不斷看到晶片被冠以製程節點名稱：7nm、5nm、3nm、2nm。自然會以為這是某種尺寸。以前確實是。但那已是十多年前的事了。
現在這些是世代標籤，更接近汽車款式年份而非技術規格。2nm晶片上沒有任何特徵真的有2納米寬。這個標籤傳達的是：廠商能比上一代更密地封裝晶體管，通常意味著相同工作量下更好的性能和更低的功耗。
兩個實際後果。其一，這些名稱在不同公司之間不可比較。一家公司的2nm未必比另一家公司的3nm密度更高，因為每家公司都自己命名節點。其二，營銷名稱並不能很好地判斷晶片是否夠好。真正重要的是晶體管密度、功耗效率，以及良率，即每張晶圓上最終能正常工作的晶片比例。良率是廠商最嚴格保密的數字，因為規格優秀但良率差的節點，每張晶圓都在虧錢。
為什麼AI需要一種不同的晶片
想象一下，少數資深專家組成的小團隊，和一個體育場坐滿手持計算器的人，有什麼區別。
CPU是那支小團隊。它有少量強大的核心，每個核心都能處理複雜、不可預測的指令，並決定下一步做什麼。這正是運行操作系統所需要的：大量不同任務，各有其邏輯，以不固定的順序湧來。
GPU是那個體育場。它有非常多的簡單核心，每個核心單獨能力有限，但在同一時刻對不同資料執行同樣的操作。GPU是為圖形而生的，任務是同時算出兩百萬個像素的顏色，每個像素需要同種類型的運算。
其實，AI具有同樣的形狀。界面之下，運行AI模型壓倒性地只有一種操作：矩陣乘法，一種將大型數字網格相乘並求和的結構化方法。這是十歲孩子能做的算術，只是數量多到難以想象。這是體育場問題，而非專家團隊問題，圖形卡行業就這樣陰差陽錯地站到了人工智慧的中心。
不是所有AI晶片都是GPU。幾家大型科技公司設計了自己的加速器，完全跳過圖形的淵源，直接針對AI運算：谷歌的TPU、亞馬遜的Trainium和Inferentia、Meta的MTIA。這些都是ASIC，即專用集成電路，取捨很明顯：在它們被設計做的那項窄任務上更高效，在其他任何事上都無用武之地。第二部分講誰在做這些，以及為什麼一家公司要承擔這筆開銷。
訓練和推理是兩個不同的問題
幾乎所有關於AI經濟的令人困惑的說法，一旦把這兩者分開就會清晰很多。
訓練是構建模型。你取來海量文字、圖像或其他資料，讓它們通過一個持有海量參數的網路，將輸出與正確答案對比，再把每個參數朝減少誤差的方向微調一點。然後再做一遍，再做一遍，持續很長時間，在大量晶片上持續運行。訓練是一次巨大、集中的一次性成本。當人們說某個資料中心園區耗電量相當於一座中型城市時，指的就是這個。
推理是使用已完成的模型。你發送一個問題，模型讀取其參數，完成運算，輸出答案。每次單獨的推理與訓練相比微不足道。不過，它在每次有人使用該產品時都會發生，如今意味著每天數十億次。
行業在2023年和2024年以訓練需求為主導。重心已開始向推理轉移，畢竟模型一旦存在，服務它的成本就永不停止。這種轉變在商業上意味著很多：推理獎勵的是效率和低答案成本，與追求原始訓練性能是不同的競爭，這正是專用晶片設計公司正在試圖把握的機會，包括第六部分提到的兩家韓國初創企業。
記憶體牆，也是整個故事的核心
這是大多數解釋跳過的一點，也是韓國為何舉足輕重的原因。
其實，你可能會以為AI晶片的限制因素是計算速度。通常不是。處理器做算術的速度，遠遠快於系統其餘部分向它供應數字的速度。供給太慢，昂貴的處理器就只能閒置等待。工程師把這叫做記憶體牆。
原因在於物理。AI模型的參數必須存儲在某個地方，而數量太多，根本無法全部放在處理器內部。所以它們住在附近的記憶體晶片裡，每次計算都需要通過一條連接來取數。這條連接有固定的寬度和固定的速度。它每秒能傳輸的資料量稱為帶寬，而帶寬才是最先耗盡的東西。
有個經得起推敲的類比：處理器是一位做菜速度驚人的大廚，記憶體帶寬是廚房門的寬度。換一個更快的大廚，如果食材只能一樣一樣地送進來，根本沒用。
這就是為什麼記憶體不再是無聊的大宗商品。幾十年來，記憶體晶片基本上按每GB價格銷售，週期性地經歷供過於求和供不應求。AI改變了問題的性質，從「你能存多少」變成了「你能以多快的速度交付」，而能回答第二個問題的公司，發現自己出售的是一種難以被替代的東西。
HBM具體是什麼
業界應對記憶體牆的答案是高帶寬記憶體，即HBM（High Bandwidth Memory）。三個想法，字面和比喻意義上的雙重疊加。
縱向疊加。 不是把記憶體晶片橫向並排，而是一層疊一層，十幾層甚至更多，壘成一座塔。
垂直穿孔。 用數千個貫穿矽片的垂直通道來連接各層，這稱為矽通孔（through-silicon vias）。這比從邊緣繞路走信號寬得多。
搬到隔壁。 把整個堆棧放在與處理器相同的封裝上，相距幾毫米而非幾釐米，通過一個共享基板在它們之間傳輸信號。
結果是一條比常規記憶體寬得多的資料通道。不過，代價是生產難度確實很高：你在把一張張薄如紙的矽片以微米級精度粘合在一起，任何一層出問題，整個堆棧就報廢。良率比普通記憶體低，價格也高得多。
全球只有三家公司能規模化生產HBM：SK海力士（SK Hynix）、三星（Samsung）和美光（Micron）。其中兩家是韓國企業。2026年第一季度，Counterpoint Research資料顯示SK海力士佔HBM市場58%的份額，三星和美光各佔21%。這一個數字，就是韓國不只是AI繁榮旁觀者的主要原因。
從晶片到資料中心
再掌握一組詞彙，因為規模跳躍正是人們容易迷失的地方。從內到外：
裸片（die） 是從晶圓上切下的矽片本身。
封裝（package） 是裸片加上HBM堆棧，安裝在一個連接它們的基板上，然後密封。人們說「晶片」通常指這個。組裝這個過程叫先進封裝（advanced packaging），本身也是一個瓶頸，第三部分有專門介紹。
電路板和伺服器 將若干封裝與CPU、存儲、電源和散熱組合在一個機箱裡，推入機架。
機架 是一個伺服器機櫃，連接得如此緊密，以至於它們表現為一個大型處理器。這裡AI硬體開始與普通電腦不像了。當前一代AI機架的功耗遠超100千瓦，相當於一棟小型公寓樓，集中在一個約衣櫃大小的機櫃裡。空氣散熱無法帶走這麼多熱量，所以這些機架用液體冷卻，直接接觸晶片。
集群（cluster） 是數千個機架通過專用高速網路連接在一起，因為訓練大模型意味著每塊晶片都在不斷與所有其他晶片交換結果。網路在這裡不是管道，而是電腦本身的一部分。第二部分解釋了為什麼這讓網路晶片成為一門大生意。
資料中心 是建築本體、供電線路、冷卻設施和水源。行業越來越多地以吉瓦（gigawatt）電容量而非平方米或伺服器數量來衡量這些設施，這告訴你真正的限制已變成什麼了。第四部分講的就是這個限制。
為什麼錢變得這麼大
用數字說話：英偉達報告，截至2026年4月的單一季度，資料中心營收達到創紀錄的752億美元，同比增長92%。這是一家公司、一條產品線、三個月。
這個數字的存在，是因為美國四大雲計算公司正在以和平時期罕見的規模集體投入，而且每一顆晶片都需要記憶體、封裝、網路、建築和電力連接。這個鏈條的每一層都有自己的領導者、自己的經濟邏輯和自己的瓶頸。
第二部分將整條鏈逐層拆解，並點名每一層的領跑者。