自ChatGPT問世以來，生成式AI成為全球焦點，產業蓬勃發展，商機遍地開花，帶動台股、美股接連創新高。究竟現在AI發展來到什麼階段？下一步推動AI更上層樓的關鍵又是為何？台灣引以為傲的半導體產業，在AI浪潮下要持續保持領先又得靠哪些技術？本周【財經相對論】邀請「知識力專家社群」創辦人曲博，為我們重點解析AI人工智慧及相關半導體產業的未來趨勢。
日前台積電舉辦2024年科技研討會北美高峰會，會中亮相許多前沿技術，摩根大通在最新報告中強調，台積電在技術創新和先進封裝領域的地位，未來在AI時代將起到關鍵作用，透過一系列技術突破，台積電有望在未來幾年繼續保持在半導體產業的領先地位。
儘管如此，知識力專家社群創辦人曲博指出，電晶體越小，理論上晶片就越小，一片晶圓能做出來的晶片就會變多， 所以理論上單位成本會隨電晶體的縮小而降低。然而先進製程發展到一個程度之後，技術複雜度大幅增加，特別是極紫外光（EUV）一旦用下去，成本立刻暴增，導致進入3奈米，成本不但下不來，反而是增加，更遑論未來進入2奈米甚至1奈米。
無論是電晶體縮小來到極限，抑或是成本因素的考量，未來半導體產業的重要發展，就是採用先進封裝技術把不同的晶片堆起來，讓電晶體的密度再增加。台積電日前已推出其晶圓級系統（SoW）產品，該產品允許封裝大量晶片（邏輯晶片、複合SoIC封裝、HBM和其他晶片），以及在完整12英寸矽晶圓尺度上的電源和熱模組。與CoWoS和3DSoIC相比，先進封裝複雜性和能力的顯著提升，因為整個運算系統可能會被封裝在單一晶圓中。
但曲博也提醒，台積電投入這一塊雖然花了很多功夫，但是先進封裝這個領域英特爾（Intel）其實技術也是很強的，大家一定要分清楚一件事， 在「先進封裝」上，台積電並沒有絕對領先英特爾，台積電是在「先進製程」上領先Intel。所以隨著先進封裝這個領域的重要性慢慢提高，台積電並沒有放鬆的本錢。也可預見，台灣相關先進封裝設備與技術的供應鏈廠商，未來應該會有不錯的成長空間。
生成式人工智慧仰賴大型語言模型的訓練，現在的做法是分三階段，第一個階段是「預訓練」、第二個階段是「微調」（Fine Tune）、最後一個階段是「推論」。預訓練需要大量的圖形處理器運算，訓練一個月的成本就要1,000萬美金。但是微調就不一樣，微調是用大量的數據進行標註、微調參數而已，所以並不需要大量的算力， 而是需要大量的高頻寬記憶體（HBM）。
頂級GPU太貴、中小企業想用卻用不起，群聯電子本身也遇到相同痛點，遂開始投入研發，以自身於記憶體領域優勢，在近期推出平價版生成式AI解決方案。GPU決定算力、HBM則決定模型大小，群聯董事長潘健成就曾指出，群聯以SSD取代造價高昂的HBM系統，加上輝達消費級GPU打造，將傳統工作站升級為小規模AI伺服器，硬體成本大幅降低；儘管運算速度仍不如大型CSP運端運算，不過相當具備成本優勢；他打比方說道，例如台北到高雄坐飛機其實最快、但是高鐵才是性價比最高的選擇。
想知道更多有關半導體先進封裝、矽光子（CPO）技術的發展現況，以及數位孿生、人形機器人、全自動駕駛等相關AI熱點技術目前發展到哪，請見本周【財經相對論】由曲博為您準備的一堂AI通識課。