輝達大秀AI晶片肌肉 黃仁勳誇口：GH200世界最快！

商傳媒｜記者許方達／綜合報導

輝達(NVIDIA)再秀「晶片」肌肉，創辦人黃仁勳在美國洛杉磯舉辦的「計算機圖形與交互技術頂級會議暨展覽（SIGGRAPH）」發表最新產品，其中以「全新AI超級電腦晶片GH200」及搭載「L40S GPU」的OVX伺服器最受矚目。

黃仁勳誇口「GH200是世界上最快的」，其平台配備全球首款HBM3e處理器，是專為加速計算和生成式AI時代所打造，這個程序需要更多記憶體容量，可讓更大型的AI模型置入單一系統，執行時將不再需要多個系統或多顆GPU來配合。GH200預定在2024年第二季上市，預計可讓大型語言模型的推論成本顯著下降，但輝達尚未說明定價。

圖片來源：NVIDIA

輝達說明，「L40S GPU」是款功能強大的通用資料中心處理器，用於搭配Omniverse平台，加快處理AI訓練及推論、3D設計和視覺化，還有影片處理和工業數位化等「運算最密集」的複雜應用項目。「L40S GPU」預計今年秋季上市，供應商包括：華碩(首度入列)、戴爾、技嘉、慧與(HPE)、聯想(Lenovo)、雲達科技(QCT)及美超微(Supermicro) 等全球系統商。

輝達看好「L40S GPU」將幫助全球專業人士推進AI發展，並為各行各業的用戶帶來智慧聊天機器人、搜尋和摘要工具等生成式AI的應用項目。業者指出，L40S為L40系列的迭代特規版，專門提供小參數模型推理及訓練微調，與A/H系列存在較大差異，除了替代上一代的L40，及取代T系列推理卡，補足小模型訓練產品線，預估性能將再遜於A800。推測在製程上將不需要複雜的CoWoS先進封裝，可直接跨過台積電的產能瓶頸。