TAG :AI

連于慧 2024/12/4
英特爾日前舉辦資料中心發展與AI應用媒體說明會。就這麼巧，在說明會登場的前一晚，剛好碰上基辛格Pat Gelsinger被宣布退休，使得整場記者會上，大家都想要了解英特爾對於這樁全球震驚大事件的回應。英特爾亞太暨日本區總經理莊秉翰對此表示，肯定Pat對台灣生態系的堅定支持，以及在領導英特爾期間，制定多項重要策略為未來重回技術和製造的奠定基礎，英特爾會延續Pat帶領的成果，繼續為客戶提供高品質和穩定可靠的產品。

英特爾在資料中心發展與AI應用媒體說明會中，展示了搭載效能核心（P-core）的Intel Xeon 6與Gaudi 3 AI加速器的最新系統和解決方案，攜手約20多家台灣廠商宣示共同推動資料中心發展與AI應用，包括智邦、安提、其陽、永擎、華碩、仁寶、鈺登、鴻海、技嘉、威強電、英業達、神雲、微星、和碩聯合、雲達科技QCT、神準、美超微、緯創資通、緯穎等

英特爾也說明新一代產品如何協助企業讓資源運用最佳化，並透過開放平台有效率地運行大型語言模型（LLM），展示透過文字生成3D影像的LDM3D、檢索增強生成（RAG）、輔助醫生診斷及醫病問詢等AI應用，以及最新的先進散熱解決方案，協助企業打造更永續的資料中心。
 
莊秉翰表示，隨著AI運算需求日益成長，帶動資料中心和基礎設施大規模轉型，可擴充性、成本、能源效率和安全性成為企業當前關鍵考量因素。因應市場需求攀升，英特爾推出搭載P-core的Xeon 6和Gaudi 3 AI加速器，透過英特爾強大的x86架構與開放生態系，使其能夠支援企業建構具備最佳化總體擁有成本（TCO）及每瓦最佳效能的AI系統，以更佳的效率和成本效益滿足客戶複雜的工作負載。
 
新一代Intel Xeon 6處理器驅動AI高效能運算

搭載P-core的Xeon 6處理器，專為邊緣到資料中心和雲端環境的AI效能需求而打造，透過超高記憶體和I/O頻寬，以加速運算密集型AI、HPC和資料服務的工作負載。平台最高更可擴充至128個核心、12個記憶體通道，並針對每個插槽提供96條PCIe通道。相較於上一代處理器，Xeon 6效能提升高達2倍，不僅核心數增加、記憶體頻寬加倍，更將AI加速功能嵌入每個核心。此外，Xeon 6亦能有效調度GPU運行資源，目前市場上高達73%的GPU伺服器是使用Intel Xeon系列處理器作為主處理器。
 
Xeon 6處理器也支援採用DDR5介面與技術的MRDIMM，提供每秒8,800百萬次傳輸（8,800 MT/s）的速度，創造更高頻寬、更低延遲的運算環境，解決HPC、AI及其他大量工作負載。此外，Xeon 6為率先支援CXL 2.0技術的伺服器處理器，以提升記憶體頻寬與容量，實現高效率資料傳輸。
 
Gaudi 3 AI加速器協助企業打造高價值AI系統

Gaudi 3 AI加速器專為大規模AI運算所設計，可於資料中心或雲端上支援大型語言模型、多模態模型與企業RAG等AI應用程式。與前一代產品相比，Gaudi 3將BF16的AI運算能力提高4倍，並提升1.5倍記憶體頻寬以及2倍網路頻寬，有助大型語言模型和多模態模型的AI訓練和推論。Gaudi 3除了無縫整合PyTorch框架，更提供Hugging Face Transformer模型和Diffusers模型庫，以提升開發人員易用性和生產力。
 
英特爾也宣布與IBM合作，將Gaudi 3 AI加速器做為服務布署至IBM Cloud上。此外，Inflection AI其最新商用AI系統Inflection for Enterprise也改採用英特爾Gaudi 3 AI加速器，以提供具競爭力的每瓦效能，滿足複雜且大規模布署所需的控制、自定義以及可擴充性。
 
 

連于慧 2024/11/10

台積電自2024年11月11日起，多數7奈米製程（包含7奈米）以下晶片將先暫停對中國客戶投片，未來採取逐一審核取得美國商務部許可證的方式，來放行下單。該消息最早傳出是停止所有中國7奈米以下客戶的投片，因此被部分人解讀為「假新聞」、「假消息」，事實上不算是停止投片，只是投片前先要先審查，再者也不是所有7奈米製程的客戶都會被拒絕投片。這邊想強調的是，很多最早期獲得的消息細節，確實很難做到100%完全精準，但大方向沒錯，其實不應該以一句「假新聞」來評論或概括整個事件。  
 



先來談談中國7奈米製程被暫時叫停的起源，這肯定與華為找了白手套迂迴繞道拿到台積電7奈米製程產能脫不了干係。美國最近氣氛很詭異，包括商務部主動公開GlobalFoundries自首在3～4年前出貨給黑名單上的中國公司而被罰50萬美元，美眾院中國特別委員會近期又發函給ASML、應用材料、東京威力科創TEL、科林研發Lam Research、KLA等半導體設備公司，要求提供中國客戶清單和出貨細節，更提到讓中國購買製造晶片的設備，等同是幫助俄羅斯取得武器，並威脅台灣安全。
 



看來在川普勝選確定再度入主白宮後，民主黨拜登最後幾個月任期的態度轉為強硬，為的是不讓川普上台後有太多把柄可以抨擊，尤其是對中國的出口管制措施方面，接連爆發一連串的漏洞。
 



台積電針對中國客戶在7奈米製程以下暫停投片，採取先審查發許可證的方式進行，有些人說是美國商務部要求，也有人認為是台積電為了在此敏感期間能更精準把內控做好，主動執行該策略。根據我們掌握的消息指出，美國商務部的人上周確實在台灣拜會幾家公司，當然重點是會晤台積電高層。因此，在此時傳出台積電暫停中國客戶部分7奈米製程投片，我們可以合理推測，與美國商務部或主動、或被動的要求脫不了干係。（我們比較傾向認為是商務部主動提出的要求，或是美方要求中國客戶7奈米以下全部禁止投片，但台積電提議可以從晶片條件來把關，而非是全部都禁止。）
 



談一談台積電針對中國7奈米以下製程的客戶，在投片前須先審批獲得許可證，大概是有哪些限制？
 



根據我們掌握的消息，不會是所有7奈米以下客戶都不能在台積電投片。首先，手機等消費類的產品沒有影響，不在這次的管制範圍，這次主要是管制AI類產品。AI晶片分為訓練和推理，比較可能被嚴加控管的會是AI訓練晶片，像是GPU等，這是美國首要管制的對象！
 



AI推理晶片或許能逃過一劫，列入不受管制的名單範圍，像是自動駕駛ADAS相關晶片會比較偏AI推理，主要是看到障礙物要做出判斷，原則上不受限制，但也要個別晶片開發設計的細節和目的，以及是否為檯面上被關注的公司，例如百度、騰訊、阿里巴巴等知名公司有機率會被特殊審核。
 



業界傳出的版本有4個標準來判斷7奈米製程晶片，是否需要美國商務部的許可證：


電晶體數目超過300
Die size超過300
用HBM記憶體（HBM估計距離中國下一波出口管制名單真的不遠了！）
用CoWoS封裝（所有CoWoS封裝產能剛好可以留給老黃？）





其實以上述四個晶片條件來看，AI訓練晶片確實是四處碰壁。大數據AI訓練晶片通常需要面積大、電晶體多、HBM用上來，估計之後的晶片都要經過許可證的發放。中國有四大雲端平台：華為、百度、騰訊、阿里巴巴，其中華為本來就是被管制公司，但未來其他三家雲公司在台積電開發晶片，可能都會被列為審核名單。
 



台積電部分中國7奈米製程以下客戶，未來投片需要許可證一事，會產生哪些後續影響？
 



目前來看，美國想管控的範圍是在AI技術上，更精準來講是AI訓練相關晶片，不會全部7奈米晶片都禁止。主要導火線當然是這次華為透過白手套獲得台積電7奈米晶片，華為和其白手套的這次大膽操作，確實讓中國許多需要先進製程技術的公司，都差點置於險境。
 



後續帶來的影響是，中國AI和GPU晶圓代工國產化的腳步會加速。其實，今年早先就傳出中國官方鼓勵採購國產化GPU取代Nvidia，中國有兩家晶圓代工廠被點名為GPU生產基地：中芯國際和上海華力微電子。雖然產能有限、技術瓶頸待克服，但看起來這次的7nm以下許可證事件，會讓很多中國IC設計公司都產生擔心，即使是不在這次管制名單中的公司，估計也會想想未來備案。
 



據了解，目前產能雖然有限但相對穩定的中芯國際，產能非常吃緊，未來會優先供貨給三類公司：

第一：華為（基本上在中國，華為已經自成一格成一大類公司）

第二：CPU公司如海光、龍芯、飛騰等

第三：GPU/AI公司如沐曦、天數智芯、燧原（另外兩大GPU公司壁仞、摩爾線程都已上黑名單）
 



中芯國際畢竟產能有限，業界認為除了早期採購的部份用來生產先進製程技術的半導體機台之外，應該也在同步與中國設備廠開發用於先進製程的半導體機台設備。經過這次，中國晶片國產化會加速且更徹底。拜登任期結束倒數計時，估計這幾個月會密集對中國出招，以免等到川普上台後，有些出口管制的漏洞被他拿來說嘴，並用來作為檢討拜登政府之用。

 
台積電這次法人說明會一如市場預期再度交出好成績，聽出來分析師實在是挑剔不出什麼毛病，頂多是問AI需求瘋狂是不是泡沫？ 還有反壟斷問題、要不要買英特爾Foundry部門（果斷拒絕），以下是台積電成績單的幾大亮點：
 



1. 魏哲家在年初提到，預計2028年AI服務器的營收佔比會達20%，但根據最新統計，台積電2024年第三季AI服務器的營收佔比已經來到15%，顯示整個AI市場的需求比預期瘋狂許多。 (台積電的伺服器AI處理器定義為執行訓練training和推論inference功能的 GPU、AI 加速器和CPU，不包含網路/邊緣/終端裝置 AI。) 以台積電2024年全年營收超過892億美元來看，AI伺服器晶片貢獻超過130億美元。
 



2. 有分析師詢問：AI是不是泡沫？ 魏哲家表示，所有客戶需求都是真的，而且才剛開始而已，會持續很多年。
 



3. 針對分析師提到反壟斷的疑慮，魏哲家表示，台積電上次法說提出foundry 2.0概念，認為整個晶圓代工市場要把IDM、wafer製造、封裝、測試、光罩等全部算進來（把分母變大）後，台積電的全球晶圓代工市佔率約30%。他強調：台積電確實很大，做得很好，但沒有壟斷問題。
 



4. 英特爾計畫分割晶圓代工製造部門，台積電會考慮買下嗎？ 魏哲家果斷回答：不會，絕對不會！ （他強調，該客戶是非常好的客戶，給了sizable business！）
 



5. AI伺服器相關應用表現一支獨秀，但昨天ASML才表示只有AI好，其他non-AI產品線仍在等待復甦。今天魏哲家對於non-AI產品的市況用了「stabilize」形容，可以解讀為...有回穩跡象......應該是在用語也小心翼翼，不然又不小心幫其他公司辦了法會！ （畢竟現在所有non-AI產品都苦哈哈的...獲利被單一公司吸乾.......
 



他也強調，雖然non-AI方面的PC和智慧型手機數量的成長仍處於低個位數，但以content來看，上面放了更多的AI晶片，從silicon area增加的角度來看是成長的。










6. 展望下一個五年（從2025年算起），台積電的表現會否如前一個五年這麼精彩？ 魏哲家指出，這五年除了2023年以外，每年都有很好的成長，我只能說下一個五年會很健康，但目前沒有長期的CAGR預測值可以分享。
 



7. 台積電前三季營收達631億美元，預估第四季營收介於261億～269億美元，意即台積電2024年營收將超過892億美元，營收年增率達30%，超過前宣布的年增25%。
 



8. 第三季毛利率57.8%，比先前預估的53.5～55.5%還要高，更較第二季增加4.6個百分點，主要是受惠 3 納米和5納米製程的整體產能利用率提升。展望第四季，台積電預估毛利率57％～59%。
 



9. 2024資本支出會微幅高於300億美元，2025年資本支出再成長。台積電指出，每年的資本支出規劃都基於未來幾年的成長預測，且是基於長期的結構性市場需求。
 



10. 2納米製程的需求：許多客戶對2納米有興趣，比3nm客戶詢問度還高，同時A16過程對AI服務器芯片非常具有吸引力。
 



11. 日前ASML提到有邏輯產業競爭激烈，某些晶圓代工業者的製程微縮成長速度放緩，讓業者開始討論台積電在採購設備和材料上的議價權bargaining power變強的問題。魏哲家解讀：我不會用bargaining power這個字來形容，台積電和夥伴是work with them和working together。
 



12. 美國亞利桑那州廠房：第一座晶圓廠於今年4月進入N4製程工程晶圓生產engineering wafer production，良率很好，這是非常重要的營運里程碑，第一座12英寸晶圓廠將在2025年初開始量產，台積電有信心其品質和可靠性可以與台灣晶圓廠相同。亞利桑那州第二座晶圓廠計畫於 2028 年開始生產，第三座晶圓廠將在2029年底進行生產。
 



13. 日本熊本廠：第一座特殊製程技術晶圓廠已經完成了所有製程驗證（process qualification），將於本季開始量產。熊本第二座特殊製程技術晶圓廠已經開始整地，興建工程計畫於 2025 年第一季開始，生產在消費性、汽車、工業和 HPC 相關應用的晶片，並預計於 2027 年底開始生產。
 



14. 歐洲德國Dresden廠：今年 8 月舉行動土典禮，這座晶圓廠將以汽車和工業應用為主，採用 12/16 納米和 22/28 納米製 程技術，計畫於 2027 年底開始生產。
 



15. 台積電對於海外廠的總看法：在今日破碎全球化環境下，包含台積電和所有其他的半導體製造業者在內，海外晶圓廠成本都更高。台積電會運用領先的製造技術和大規模製造基地的根本優勢，成為最高效和最具成本效益的製造服務提供者。

連于慧 2024/10/8

2024年是鴻海成立50周年，董事長劉揚偉在「鴻海科技日」(HHTD24)媒體聯訪時表示，未來AI伺服器的生產製造趨勢會走向「主權伺服器」（Sovereignty Server），也就是在地化生產，個別國家都會想擁有AI伺服器的控制權，AI伺服器用於哪一個國家，就要在那個地方生產製造。
 



這樣的概念類似「主權AI」（Sovereignty AI），倡導特定政府或組織對於AI技術和相關資料具有控制權。當今的半導體晶片產業也是類似情況，自從COVID疫情發生導致晶片「斷鏈」，加上中美科技戰，全球半導體生產走向「local for local」的操作方式，美國、日本、德國、中國都要建立自己屬於自己國家的半導體供應鏈。
 



劉揚偉進一步解釋，因為AI伺服器上的AI軟體和資訊，往往會和個別國家的安全資訊機密相關，因此AI伺服器供應鏈也開始推動在地化生產。
 



近期有關Nvidia的新世代Blackwell系列GPU傳出很多生產上的問題，恐影響資料中心客戶的交貨時程。劉揚偉認為，鴻海對於整體供應鏈的掌握度十分高，AI伺服器具有垂直整合優勢，因此對於外面這些傳言沒什麼感覺。
 



關於Nvidia的GB200系列AI伺服器，鴻海會是全球第一個出貨的供應商。劉揚偉指出，鴻海對於AI伺服器的自製能力很高，除了GPU和CPU之外，其他80％～90%的零組件包括模組、板卡、機櫃、交換機到AI資料中心等等，都可以自己掌握、生產、出貨，成為第一個量產出貨搭載超級晶片的AI伺服器供應商。
 



另外，劉揚偉也指出，市場對於AI伺服器仍舊是非常「瘋狂」，集團已經在墨西哥建設一個「非常巨大」的AI伺服器工廠，符合未來「主權伺服器」概念下的在地化生產趨勢。預計墨西哥的巨型工廠和AI伺服器產能，將主要服務北美的資料中心客戶。




在科技日HHTD24中，鴻海也心亮相電動MPV的MODEL D，以及小型巴士MODEL U。
 



Model D是首款電動正7人座MPV，搭載最新平台，並配備主動式懸吊系統、後軸轉向系統，迴轉半徑只要5.5公尺。同時具有800V電能架構，充電10分鐘即可跑350公里，動力部分則有250匹單馬達後驅、440匹雙馬達4驅選擇，最大續航力可達800公里。
 



Model U是小型巴士，則是專為狹窄城市巷道及偏遠地區而設計的「中型電動巴士」，搭載先進的電子控制系統和ADAS系統，使駕駛體驗更加安全和舒適。與此同時，優化車體結構和空氣動力學設計，實現了較長的續航力。

連于慧
過去曾是張忠謀口中的兩隻「700磅大猩猩」的英特爾與三星，前者在COMPUTEX期間CEO積極巡攤位與下游OEM廠搏感情; 另一家三星則是SEMICON Taiwan期間，與台積電高層坐在台上華山論劍談AI，兩家公司高層中間還特別隔著一個Google代表，微妙的距離看上去是「友達以上，合作未滿」！
 



在「AI晶片世紀對談」中，作為論壇主持人的日月光執行長吳田玉話鋒犀利指出：你們看這AI商機多大、多美好，迫使我們得跟韓國的朋友（指同在台上的三星）來討論AI這個議題。話一說完還不忘問台積電共同營運長米玉傑「我這樣說有太超過嗎？」


他也不斷拋出同一個議題讓大家思考：今日我們對AI的投資如此巨大，包括三星、SK海力士、台積電在硬體製造上高度資本密集的投入，還有先進封裝、設備材料行業極力往前衝，但最大的受益者卻是美國，且前方回收之日十分漫長。
 



三星記憶體業務副總李禎培Jung-bae Lee認為，現在只是投資播種期而已，呼籲要有耐心。
 



確實，在AI時代已經明顯落後的三星，不但需要展現耐心極力追趕，更對勁敵台積電努力拋出橄欖枝。其實，就算三星想選擇「躺平」...大客戶Nvidia也絕對不會允許！
 



只是，進入HBM4技術世代後，三星面臨的壓力會比以往更巨大，因為要面臨記憶體和邏輯兩大勁敵SK海力士和台積電的攜手合作。




 



從HBM4技術開始，記憶體與邏輯之間的邊界開始被打破，台積電更是直接嶄露跨足記憶體的雄心，與SK海力士宣布合作共同開發HBM4記憶體，將於2026年正式量產。
 



在HBM領域已經落後的三星，眼看SK海力士和台積電合作，心中著急自是不言而喻，在SEMICON TAIWAN 2024中，三星表示，HBM4合作將不限於自家晶圓代工廠，對台積電揮手的意圖十分明顯。
 



翻開台積電的歷史，身為半導體常勝軍的張忠謀，DRAM一直是他的魔咒。台積電在1994年主導成立世界先進做DRAM，卻在2000年之後宣布退出，從此專注在邏輯製程領域，不碰記憶體。
 



沒想到在20年後，AI這股颶風讓台積電順理成章打開記憶體大門，更與一向是對立面的韓國，並肩作戰成為技術盟友！
 



為什麼HBM會需要台積電邏輯製程技術的幫助？ 
 



HBM的架構是將DRAM晶片堆疊在Base Die（基礎裸晶）之上，再用矽穿孔TSV技術結合，之前HBM的Base Die是用DRAM製程做，但從HBM4開始，考慮到需要更強大的運算功能和傳輸速度加快，HBM的Base Die需要改成用由先進邏輯製程生產。而SK海力士沒有邏輯先進製程，因此需要與台積電合作，預計雙方合作的HBM4產品會用到台積電的5奈米製程。
 



李禎培在「AI晶片世紀對談」論壇中也指出，為了打破限制，HBM必須加入邏輯處理的技術，提供客製化HBM，現在三星HBM4的Base Die已經交給晶圓代工廠。
 



他更強調，HBM4技術世代後，記憶體業者、晶圓代工廠、客戶三方之間的合作越將更為緊密，而三星本身有記憶體、晶圓代工等業務，可滿足客戶一條龍式生產服務。再者，三星記憶體已準備好Base Die的IP解決方案，可以提供給客戶自行設計，保持代工服務彈性，因此未來合作並不限於三星自己的晶圓代工廠。
 



SK海力士社長金柱善（Justin Kim）也出席了大師論壇，表示2024年以來已經來台灣十次了！ 至於為何而來，台下聽眾皆是會心一笑。
 



SK海力士與三星一同出席SEMICON TAIWAN 2024舉辦的大師論壇，是這兩家韓系記憶體廠首次在台灣同台競技，目的都是拉攏台灣的半導體產業供應鏈。
 



這要感謝AI時代，把台灣產業鏈的重要性提升到另一個高度與層次，讓台灣成功掌握PC、智慧型手機時代後，又站在AI時代的浪潮頂峰！
 



金柱善表示，台灣和南韓之間要密切合作，能彰顯高度價值，不僅是對眼前業務有利，也是為了因應解決前方挑戰而共同努力。
 



他也表示，SK海力士在HBM領域享有最高的全球市占率，HBM3E是市面上最具主導地位的產品，預計9月就會推出12層堆疊的HBM3E產品，應用在AI伺服器上。同時，SK海力士的HBM4也在研發中，將配合客戶量產時程，在結合自己HBM技術和台積電的先進製程代工，將會誕生無與倫比的產品。

SEMICON Taiwan 2024年活動首日宣布，台灣矽光子產業聯盟SEMI Silicon Photonics Industry Alliance（SiPhIA）正式成立，台積電與日月光為該聯盟的倡議人，在經濟部指導下，由台積電副總徐國晉擔任召集人，從IC設計、製造封裝、應用模組至終端產品和研究機構，包括工研院、波若威、上詮、鴻海、聯發科、廣達 、世界先進 、友達、辛耘、旺矽、穎崴等30家半導體企業共同參與，建構台灣矽光子生態圈。
 



當前生成式AI大行其道，改變人類生活方式，更呼應昨天日月光執行長吳田玉所言，AI影響不單是在生活層面，甚至是金融、資訊、國防等攸關未來國家的競爭力。因此，政府也非常重視這次成立的矽光子產業聯盟，希望能成為台灣半導體技術轉型關鍵，培育更多半導體優秀人才。
 



經濟部產業發展署長楊志清表示，台灣向來是全球半導體產業的資優生，為全球公認的半導體科技聚落，隨著AI浪潮在全球遍地開花，矽光子更是未來半導體產業最炙手可熱的技術，經濟部將協助台灣廠商穩固這波製造生產 AI晶片及AI伺服器的機會，讓台灣繼續引領全球半導體的發展。
 



矽光子在紅什麼？
 



矽光子不是現在才出現的新興技術，隨著AI時代來臨，帶火了矽光子技術！
 



AI時代講的就是算力，但是算力增加的同時，代表熱能也會增加。因此，做出一顆AI晶片的關鍵，不是把性能做高就好了，更重要的是如何把散熱做好，以及如何降低能耗，這才是整個半導體產業技術走向的關鍵。
 



在此背景下，大家發現矽光子能達到上述目的：用光來取代部分的電做傳輸，可以有效降低能耗。
 



矽光子是在傳遞訊號過程中，利用「光子」取代大部分的「電子」訊號，就是看中光子的速度比電子快，且不容易產生熱能，可以達到更棒的訊號傳輸效果。
 



矽光子其實有非常多的技術派別，台積電看好的CPO（Co-Packaged Optics）技術，是將光收發器等光學元件和CPU、GPU或通訊晶片等，以先進封裝方式整合在一起。
 



SEMI預估，2030年全球矽光子半導體市場規模將達到78.6 億美元，CAGR達 25.7%。SEMI全球行銷長暨台灣區總裁曹世綸表示，矽光子作為突破摩爾定律所面臨瓶頸的關鍵技術，SEMI率先在台灣成立矽光晶片發展聯盟，在台積電和日月光帶領下，台灣半導體產業在矽光子領域能佔據領跑者優勢。
 



除了台灣串連上下游半導體供應鏈攻矽光子商機，許多國際大廠早已經大舉投入開發，像是英特爾是最高實現矽光子商業化應用的企業，IBM也投入矽光子超過20年，博通在CPO技術上也實非強勢，未來在大型資料中心將採用CPO產品。
 



另外，Nvidia也希望將矽光子導入GPU運算中，取代電子傳輸線路，可以將運算速度帶到另一個層次。看來，以後積體電路也可以叫「積體光路」！

連于慧
SEMICON Taiwan 2024即將開展，今年SEMICON Taiwan的大師論壇中，三星和SK海力士兩大記憶體廠首度同台，成為該展覽一大亮點。日月光執行長吳田玉在今日展前記者會中表示，眼前的半導體產業是他從業40年以來，第一次看到硬體居然會成為新機會的瓶頸，不管硬體做再太快，軟體都馬上可以全部用光光，目前這情況雖然只發生在AI雲端，但一葉知秋，顯見未來在發展邊緣運算、機器人的路上，都需在各種技術層面努力突破。
 



吳田玉指出，在新冠疫情期間，半導體產業第一次被推上全世界的第一線，當時台灣只是配角。這次AI浪潮不一樣，台灣製造業被推到全世界舞台的第一線。
 



他更指出，現在全世界的AI客人會根據自己的想法，把所有壓力集中在台灣的少數公司，希望能在最短時間內獲得最大利益，當全世界在舞台上競爭，而你就是那個瓶頸的時候，我們得到的好處和機會是什麼？ 
 



隨後吳田玉又表示，今天AI的問題不是單一封裝、晶片、系統廠商能解決，過去把晶片做好就能解決80%問題的時代已經過了，現在應該是全產業的人合作，半導體人應該要讓全世界的好朋友聚在一起分享資源，在最短時間抓到比較正確的方向，用團隊的力量彌補單一公司資源和時間的不足。
 



他的言下之意，難道是在呼籲台積電應該要分享一下獨步全球的AI硬體晶片CoWoS先進封裝的技術或是訂單？
 



國際半導體產業協會（SEMI）研究資深總監曾瑞榆對全球半導體市場發展趨勢也有詳盡解析，以下是幾個重點：
 




2024年的半導體營收每一季和去年同前比較都成長超過20%，細究原因：除了庫存回補，主要反映兩大驅動力：AI和記憶體產業的復甦。





2024年如果不算記憶體，半導體營收成長只有10%，假使再拿掉AI應用貢獻，那2024年半導體營收成長則只有3%。





2024年半導體產業成長高度依賴AI和記憶體，展望2025年，無論是通訊、電腦、工業、車用等領域預計都會復甦。尤其是目前需求最弱的車用和工業用領域，到了2025年上半庫存會到新低點，2025年可望有回補庫存機會。





中國在2023年下半～2024年上半，對於半導體設備的投資高速成長，細究背後原因：建構自己成熟製程的國產化供應鏈產能，以及擔心未來有更強烈的出口管制制裁，因此提前購買非常多的半導體設備。





半導體設備投資軍備競賽，各國大舉投入下是否會造成產能供過於求？ 從資本密集度（半導體銷售/設備投資）來觀察，根據過去30年經驗，全球半導體的資本密集度平均約在15%，但2023年居然達到20%，一旦資本密集度接近20%時，根據經驗確實有可能有供過於求發生。但這次各國的高度資本投資，並非反應正常市場供需，而是地緣政治下，各國對於半導體設備和產業鏈建置的軍備競賽。





封裝與測試產業在經歷兩年下滑後，2024年測試產業會有7%成長，封裝有10%成長，而這兩個產業在2025年都會有超過20~～30%成長。







DRAM方面，2024年和2025年有大幅度成長，尤其2025年DRAM投資會達到190億美元近年高點，關鍵原因是記憶體大廠對於HBM投資。





NAND Flash方面，2023年和2024年維持低檔的投資，2024年甚至比2023年還低一點，因為2023年有來自中國的投資，但2024年變少。展望2025年，預計NAND Flash投資會恢復，但主要並非新產能，而是製程微縮。2024年NAND Flash產業最大課題是把產能利用率拉高，把之前減產的復產，未來重點會是把3D NAND的層數拉高，終端主要的驅動力是企業級SSD帶動。





12吋晶圓設備投資：

2023年～2024年：成熟製程投資帶動。

2025年～2027年：預計會有連續三年高速成長，2025年12吋設備投資更上看1200億美元，2026和2027年投資會分別超過1400億美元。
 



淺談一下各區域半導體廠的投資：


中國：2024年半導體投資金額高達500億美元，這完全創下單一區域半導體投資的歷史新紀錄。不過，中國高速投資半導體的腳步，預計到2027年會恢復正常水準，預估當年度的投資金額會降到350億美元。
 



除了中國之外，到2017年無論是韓國、台灣、日本、歐洲、美國、東南亞的半導體投資金額都是上升。
 



美國：到了2027年，美國在晶圓廠上的投資會到與台灣、韓國並駕齊驅，都有超過300億美元水準，以CARG來看，2023～2027年達到22%。

台積電全球業務及海外營運辦公室資深副總暨副共同營運長張曉強接受TechTechPotato YouTube頻道接專訪中談到關於摩爾定律、CoWoS、A16製程技術的看法，以下是部份內容整理：
 





很多人說摩爾定律已經失效，台積電怎麼看？



我不在乎。只要我們能夠繼續推動技術進步，我不在乎摩爾定律是否有效。



許多人只是基於平面微縮two-dimensional scaling對摩爾定律進行了狹隘的定義，事實上已不是如此。看行業內許多創新可知道，我們仍在繼續尋找不同的方法，將更多功能和更多能力整合到更小的外形尺寸。我們繼續實現更高性能和低耗電。因此，從這個角度而言，我認為摩爾定律或技術微縮的步伐持續。我們將持推動產業向前發展。
 



有收到過來自客戶的令人驚奇的要求嗎？



不會。我們與客戶密切合作，同時保持開放，確保客戶選擇正確的技術。請記住，我們是晶圓代工業務，目標是幫助客戶實現成功的產品。我的老闆常常告訴我：“我們是晶圓代工業務，要與客戶共同努力以取得成功，但有一個順序，客戶必須先成功，然後我們才能成功。”
 



Nvidia、AMD、英特爾對CoWoS需求量都很大，目前台積電擴產的進展如何？



對我們來說，CoWoS 是 AI 加速器的主力。你可以看到目前所有的大型 AI 加速器設計，幾乎都是基於台積電 N5 或 N4 技術加上 CoWoS為主。



我們正在迅速擴大 CoWoS 產能，複合年增長率遠高於60%。這個數字非常高，但仍在繼續增長，我們與客戶密切合作，確保滿足他們最關鍵的需求。



上述是指CoWoS產能，同時我們也在擴大自身CoWoS的能力。



目前最先進的AI加速器，CoWoS 中介層尺寸大約是光罩尺寸的3倍，而光罩尺寸約為800 平方毫米，這提供了集成全光罩尺寸SoC，以及最多8個HBM堆疊的能力。但在兩年後，我們將能夠將中介層尺寸擴大到光罩尺寸的 4.5 倍，讓我們的客戶整合最多12個HBM堆疊。往前看，我們的研發團隊已經開始將 CoWoS 中介層尺寸擴大到光罩尺寸的 7 倍或 8 倍。
 



12個HBM堆疊夠嗎？ 大家想要更多！



台積電也宣布了另一項創新的系統級整合技術：晶圓系統 (SoW)。你想，晶圓加工設備所能製造的最大尺寸是單一300 毫米晶圓，因此我們將晶圓作為基礎層，並將所有邏輯和高頻寬DRAM 整合在一起，以整合整個晶圓區域。因此，如果你使用 CoWoS 術語來衡量，中介層尺寸的「X」數是 40 倍，非常龐大。這就是我們為客戶提供的服務，以繼續整合更多運算功能和更多記憶體頻寬，滿足未來AI需求。
 



A16製程技術和全新Super Power Rail 技術，帶來哪些創新？

A16 是一項重大的技術改進，採用奈米片電晶體，是業界領先且最先進的電晶體架構，特別適合HPC 和 AI 應用。



同時，我們也增加創新的背面供電設計，這樣的設計可以讓客戶將電源佈線從正面移到背面，進而騰出空間來提高效能，同時改善電源。



我們的方法與傳統的 BSPDN 設計非常不同，在傳統的背面電源軌中，你只需鑽孔即可將背面金屬連接到正面金屬，但這樣做會佔用空間，並且必須擴大庫單元的佔用空間。在我們的設計中，採用了非常創新的方法，將觸點或電晶體、電晶體的源極移到背面，而不會改變庫單元的佔用空間。
 



為了實現這一目標，是否會讓傳統的製造步驟會有些混亂？



是的。但我不想討論特定的流程步驟，我們的研發團隊不會很高興聽到這樣的討論。
 



這樣就像三明治設計：電晶體、訊號和電源，肯定會增加很多製造成本吧？



這是肯定的，但如果你看密度、功率和效能的優勢，我認為它的價值遠超過成本。這對HPC和AI尤其重要，因為節能運算是關鍵驅動因素。
 



是否選擇使用A16製程技術，也必須要採用超級電軌Super Power Rail)這種背面供電的設計？



A16製程本身定義就擁有超級電源軌，但我們也提供了技術選項，讓我們的客戶可以繼續利用現有的設計資料，而不必使用背面供電。例如，在電源佈線較不密集的行動應用中，您不必使用背面供電。
 



台積電得A16製程會在什麼時候推出呢？



我們的目標是在 2026 年下半年為主要客戶投入 A16 生產，從台灣開始生產。
 



關於導入ASML新一代高數值孔徑EUV設備，台積電怎麼想的？



回顧一下，台積電是業界第一個將EUV引入大量生產的公司，就EUV的生產使用和生產效率而言，我們今天仍然處於領導地位。我認為我們的研發團隊將繼續研究新的 EUV 功能，顯然包括高數值孔徑high-NA EUV，有很多考慮因素，像是可擴充性和成本等。

高通為AI PC敲鑼打鼓了一年，更是強力主打口號“PC正在重生”，試圖將AI PC的氣勢炒到最高點。只是，近期不少評測報告都反應AI PC有遊戲功能跑不動、無法執行部分軟體的問題，演變成高通＋微軟打頭陣的AI PC大戲，後續恐有叫好不叫座的隱憂。
 



過去數十年來，PC的運作都是微軟Windows＋英特爾x86處理器的組合。1990年代起，「Intel Inside」更是所有PC和NB的正字標記，標誌著英特爾的光輝歲月。但這次的AI PC時代揭幕，打頭陣的處理器居然不是英特爾，而是「Arm Inside」的高通處理器晶片。
 



「Arm Inside」的處理器在PC領域中蠶食鯨吞，關鍵里程碑應該算是2020年蘋果推出M1，宣布放棄用了20年的英特爾架構，成功採用自研的Arm架構處理器，成為全球第一家PC產品而不用依賴英特爾或是AMD的公司，更讓全球的晶片開發商更積極探索Arm架構應用在PC的可行性。
 



然而，這次AI PC大戲登場後，意外地市場居然又開始期待起英特爾了，這是怎麼回事？
 



隨著各品牌的AI PC在市場上開賣後，很多評測主都紛紛發現採用高通Arm架構的Snapdragon處理器的AI PC，居然無法執行遊戲和部分程式，暴露出Windows on Arm的最大缺點是軟體相容性問題。
 



不得不說，蘋果M1捨棄英特爾而採用Arm架構處理器，不是Arm有多厲害，是蘋果夠強大。同樣是採用Arm架構，這次高通領銜主演的Windows on Arm不像蘋果這麼強運，而是又再一次遇到困難。
 



Windows on Arm始終面臨開發者工具的兼容、開源環境等問題，當然有人把問題核心指微軟，認為微軟的開發者工具鏈一向不友善Arm，而開發者在Windows on Arm的體驗性不佳，導致對x86的黏著度更高，變成一個彼此責怪的負循環。
 



此前，英特爾曾公開表示，Arm以模擬方式支援PC軟體，但使用者的體感仍與x86平台差距甚遠，會持續凸顯英特爾耕耘長久的生態鏈價值。
 



回過頭來，也可以說蘋果自己研發的Arm架構處理器會如此成功，是因為是跑自家OS系統，畢竟蘋果也無法甩鍋給微軟。
 



採用高通處理器的AI PC當然也有很多優點，第一是省電續航的表現力非常出色，可以維持一整天時間。二是可以在離線狀態下也可以使用大型語言模型（LLM）功能。基本上只要不跑太複雜的軟體，不會出什麼太大問題。簡而言之，Windows on Arm處理器陣營的AI PC最大賣點是省電、續航，其他軟硬體的問題先暫時不要要求太高。
 



對比AI PC正式發布之前的雄心勃勃，高通的首波並未如預期收割各種溢美之詞，但這只是高通進軍PC的第一步，還有進步空間是正常的。
 



外傳，微軟和高通的AI PC的獨家合作協議到2024年底，2025年聯發科和Nvidia合作開發Windows on Arm處理器會接著問世，接棒炒熱Windows on Arm處理器，更進一步挑戰x86架構CPU地位，而英特爾領銜主演的x86版本AI PC即將第三季上市。AI PC確實讓PC重生，對Arm、英特爾，甚至是對高通、聯發科這些傳統手機晶片的玩家，未來都是重要戰場，而最大贏者可以是消費者，大家可以多看看、多比較，然後做出最棒的購物選擇！

相關新聞：
COMPUTEX「面子」讓給黃仁勳，高通賺「裡子」就盆滿缽滿

AI PC大戰開打，高通拿下首局勝利

生成式AI的時代弄潮兒，高通如何成為接棒者？

 
COMPUTEX 2024最大贏家是誰？ 教你「一個COMPUTEX，各自解讀」的秒招。
 



Nvidia黃仁勳：這還用說，當然是我！連續兩周全台灣媒體從早到晚都跟著我，還有熱情的女粉絲挺胸而出要簽名，蘋果庫克有這種待遇嗎？
 



英特爾基辛格：做人要以德服人，怎麼可以用「吃」服人！你看大家都椰榆我，每一家都說CPU性能比我好，我有翻臉嗎？ 我還不是陪笑臉到處簽名拍照！論胸襟，我才是真正的大贏家！
 



高通艾蒙：我就問一句，現在上市的AI PC哪一家不是用高通，有誰用x86？ 我不是最大贏家，誰是最大贏家！



（以上均為人工設計告白）
 



這次COMPUTEX最大賣點就是AI PC，2024年下半賣得好不好還不知道，但所有品牌PC廠第一波都是用高通的解決方案，說高通是贏了「裡子」的最大受益者，是一點也不為過。
 



高通總裁暨執行長艾蒙Cristiano Amon穿上他每次在夏威夷峰會都會穿，且印有高通Snapdragon紅色大LOGO的招牌小白鞋，迎戰COMPUTEX 2024高喊：「The PC Reborn！」
 



在智慧型手機、PC、車用，大家對高通的處理器驍龍（Snapdragon）都不陌生，「X Elite」是高通在驍龍平台架構下，推出全球第一顆能支援微軟Copilot+算力需求的AI PC處理器。
 



高通指出，搭載驍龍XElite系統的Windows筆電，電池續航力將是傳統PC的兩倍長，在運作部分AI功能時，耗能效率更提高超過100倍，且高通的驍龍X和微軟CoPilot+將進入「所有的PC形式」，合作夥伴包括宏碁、華碩、戴爾、惠普、三星、聯想。
 



過去PC上的處理器一向是英特爾、AMD、蘋果M系列晶片獨大，高通的優勢在智慧手機上，但為何微軟在進軍AI PC領域時，會率先選擇與高通合作，而不是循過去Wintel（微軟Ｗindows+英特爾Intel）的路線？
 



在CPU中加入NPU（神經處理單元），是在PC中實現AI效能的路徑，非常適合運行大型語言模型和複雜的演算法。高通成功實現了透過全新打造的NPU帶給AI PC更好的性能，功耗表現也更優異。
 



在性能方面，比蘋果M3高出2.6倍、比英特爾的Core Ultra 7高出5.4倍。在CPU上，Snapdragon X Elite在相同ISO功率下提供51%更快效能，CPU達到相同峰值效能時功耗較競品低65%。
 



根據微軟對於AI PC定義，NPU須具備40 TOPS的算力，16GB記憶體、256GB SSD等硬體標準，加上可存取最先進AI模型且具備全天電池續航力。
 



艾蒙講得更直接：搭載x86架構是「昨日的電腦」，內建高通處理器的AI PC才是「明日的電腦」。
 



難怪在這次COMPUTEX期間，高通在捷運廣告看板、捷運車廂撲天蓋地做足宣傳廣告高喊「The PC Reborn」，高通確實是AI PC硬體上的最大贏家！
 
相關新聞：

英特爾基辛格放下「傲慢」擁抱台灣，應給予掌聲

30年前，張忠謀主動打電話給黃仁勳，開啟兩家公司合作情緣 分享至Facebook

Arm新一代CPU+GPU，聯發科天璣9400採用，首發機種vivo X200系列 分享至Facebook

美光COMPUTEX進行武力展示，HBM進度成為全場焦點

中國國家積體電路產業投資基金（大基金）三期於2024年5月24日成立，註冊資本3440億RMB（約480億美元），超過大基金第一、二期總和，預計三期會投入三大領域：先進製程晶圓代工解鎖AI算力晶片、解決被ASML卡脖子的曝光機技術，以及擴大NAND Flash和DRAM產能和研發生產HBM晶片。
 



大基金第三期第一大股東為財政部，持股17.44%，合計共19 位股東，相較第二期27個股東減少。 最值得關注的是，這次地方政府只有北京、上海、廣東三地，不同於過還有合肥、武漢、成都、重慶等。 若要解讀更深一層意義，應該是投資力量更集中，不再像過去讓半導體投資、晶圓廠遍地開花。
 



大基金三期的成立，除了資金是一、二期的總和超達3440億RMB，總註冊資金3440億大致可分為四類：
 

• 中央財政 1060億


 財政部600億
 國開金融360億
 國家開發投資集團100億


• 地方國資950億（主要北京、上海、廣東三地）


北京國資350億，其中亦莊國投200億、北京國誼億元150億
上海國資300億，由上海國盛出資
 廣東國資300億，其中深圳鯤鵬170億、廣州產投90億、粵財投控40億


• 銀行1140億


中國建設銀行215億
中國銀行215億
中國農業銀行215億
中國工商行215億
交通銀行200億
郵儲銀行 80億


• 央企290億


中國誠通100億
中國菸草100億
華潤集團 50億
中國移動 40億





大基金三期到底會投資在哪些領域？  根據研判，會聚焦在三大方向：




第一，先進製程的晶圓代工製造和先進封裝如CoWoS等。 第三期會著重在佈局半導體製造，但不會是成熟製程，因為中國的成熟製程產能已經過剩，真正缺乏的是AI晶片算力，尤其是Nvidia的GPU平替方案。
 



現在中國有非常多GPU、AI加速卡設計公司像是壁刃、摩爾線程、沐曦、天數智芯、燧原，CPU公司有海思、兆芯、龍芯、飛騰、海光、申威等，但沒有先進製程，預計大基金三期會在這部分著力。
 



第二，擴大NAND Flash和DRAM記憶體晶片的產能，並且朝向HBM發展。 中國內需的記憶體晶片用量非常大，且中國的武漢長江存儲和合肥長鑫已經量產，前者卡在設備被禁運，後者要朝更高技術開發生產，相較於AI晶片，中國的記憶體晶片完成國產替代概率更高且是現在進行式，大基金三期目標是擴大產能，增加市佔率。
 



日前合肥長鑫、通富微、華為已申請HBM技術相關專利，長鑫也與通富微合作開發HBM晶片，一步步邁向HBM3。 大基金三期是要解開AI算力瓶頸，儲存技術端的HBM研發也要同步配合。
 



第三，進一步完成半導體關鍵設備與材料的國產替代，由重點在光刻機、光阻等，像是蝕刻等機台國產化產品已經非常成熟，未來重點會是ASML替代的產品。 要說替代太沈重，但未來ASML不單是極紫外光EUV機台不能進入中國，部分成熟製程DUV設備自2024年開始都會落實禁運，因此替代ASML機台會是未來中國在國產設備領域研發的重點。
 



其實，大基金二期已經重點扶植半導體設備和材料，也帶動許多民營投資基金大舉投入這兩大領域，導致設備和材料成為兩大最「卷」的領域。 但光刻機的研發與投資不是民營投資做得來的，需要規劃性帶領。
 



三期的註冊金額為470億美元，實際募款額應該更大。 尤其，如果要肩負先進製程、ASML機台開發、記憶體晶片擴產等三大任務，需要更多的資金。 台積電光是一年資本支出就要300億美元。 另一個觀察點是，根據向大基金三期注資的銀行公告，出資額將在10年內實繳到位，470億美元金額看似很大，但出資方分10年投入其實也還好。
 



大基金第一期成立於2014 年，註冊資本987億，總募資規模達1387億RMB，重點投向晶片製造領域，撬動了5,145 億元社會資金（包括股權融資、企業債券、銀行等金融機構貸款 ）。 大基金第一期於2018年投資完畢，細數投資標的，製造67％、設計17％、封測10％、設備和材料類6％，被投企業包括晶圓代工廠中芯國際、上海華虹 、長江存儲、紫光展銳、華大九天、三安光電、長電科技、北方華創和中微半導體等。
 



大基金二期成立於2019年10月，規模超過2,000億RMB，投資標的涉及全產業鏈，半導體製造佔比高達75%、EDA/設計佔10%、封測2.6%、設備及材料10%， 以及少數的應用類。 大基金二期最大投資為中芯國際，其他重點投資聚焦在設備和材料，包括刻蝕機、薄膜設備、測試設備、清洗設備、矽晶圓、光刻膠、光罩版、電子特氣等。

相關新聞：

台積電延續兆元市值的秘密，都藏在這一張圖裡

50%關稅加上去，恐讓中國成熟製程產能過剩更嚴重，「國產化」速度勢必提前

慧榮苟嘉章：AI帶動伺服器強大需求，NAND Flash價格下半年續漲

要說AI拯救全世界是一點也不為過！2022年底OpenAI刮起的炫風，到2024年都還是熱騰騰的巨大商機。NAND Flash控制晶片大廠慧榮SMI總經理苟嘉章指出，Nvidia囊括AI領域90%市占，其霸主地位在未來3～5年內都很難被撼動，且未來AI算力從雲端會逐漸下放到邊緣端，對存儲產業而言會是史上難得一見機會！
 



即將登場的COMPUTEX 2024也是宛如全球科技界的AI盛會，不但Nvidia、AMD、英特爾、高通、Arm等科技巨頭齊聚一堂，除了AI帶動伺服器和資料中心繼續火熱，更有AI PC、生成式AI手機題材要開始發酵，AI幾乎拯救了全世界的科技產業！
 



苟嘉章也認為，受惠資料中心對於NAND Flash的需求旺，雖然現貨通路端買氣不佳，但資料中心的需求非常強勁，需要的存儲容量從原本4~8TB增加到32TB，估計NAND價格漲到2024年下半年沒問題，一直到2025年上半年目前都沒看到敗象。
 



從供給端來看，苟嘉章也分析，NAND Flash原廠2024年才剛剛轉虧為盈，開始賺錢而已，恢復正常生產會循序漸進，且不會躁進馬上擴建新晶圓廠，大家有志一同以利潤為優先，先把虧的錢賺回來再說。
 



SK海力士第一季毛利率39%，美光20%，據了解，至少要等這些NAND Flash原廠的毛利率連續數季站穩40%以上，才會考慮增加新產能，至少今年都會是NAND Flash存儲產業的甜蜜年。
 



存儲產業在供給端的另一個觀察是各大廠的軍備競賽都集中在DRAM HBM記憶體。最近才傳出三星的HBM3過熱，沒通過Nvidia測試，三星要取代SK海力士成為HBM龍頭的夢想，只能再等等，日前三星才宣布半導體負責人換帥，就是因為AI進度落後之故。
 



業界透露，其實SK海力士現在的HBM技術團隊，其實當初是從三星過去的，三星現在應該是悔不當初。事實上，三星這幾年在Foundrr和Memory兩大關鍵版圖上都狂掉隊很明顯，這與接班人李在鎔2017年入獄有很大關係。這麼大的財閥企業群龍無首，估計各個事業部的負責人也不敢拍板做大決定，等到2021年李在鎔特赦出來，世界早已經出現翻天覆地的變化，現在三星要奮力追趕，自然需花上更多的功夫。
 



苟嘉章的觀點是，三星在記憶體領域長期奠定很深遠的記憶實力，未來在HBM發展上仍是很有機會，且現在最著急的人應該是Nvidia，因為如果HBM主要供應都掌握在一家手裡，Nvidia的AI產品在產能和價格上會一直無法取得更高主導權，因此Nvidia一定會協助三星HBM技術盡快有突破。
 



另外，他也表示QLC NAND也很適合用在資料中心，慧榮會和NAND Flash大廠、模組廠、服務器廠商一起推動AI發展。另外，生成式AI手機會是一大機，平價手機也需要AI功能，未來各項應用對於存儲需要的容量會呈現爆炸性成長。

相關新聞：

台積電延續兆元市值的秘密，都藏在這一張圖裡

AI PC大戰開打，高通拿下首局勝利

盧超群：DRAM回暖旺到2025年，報價重回疫情前水平

群聯：不跟進中國模組廠低價拋售NAND Flash，下半年AI PC生意樂觀