波新聞─陳柔安/台北
2024年為AI PC元年,台灣人工智慧實驗室(Taiwan AI Labs)今(27)日宣布與慧與科技 (HPE) 共同簽署合作備忘錄(MOU),將以可信任、負責任的FedGPT,全面提供所有企業以及公、私部門AI PC落地服務。
台灣人工智慧實驗室今(2024)年第三季攜手慧與科技,已在大學、企業等多個領域,推出完全落地FedGPT案例。FedGPT為台灣人工智慧實驗室所開發的聯邦式GPT,目前已成功搭載HPE伺服器為運算核心,應用場景多樣。例如,在校園,可解答學生關於學校生活的疑難雜症;在企業,則輔助法務合規。
FedGPT在訓練過程中所使用的資料、知識內容,皆完全留在企業或校園內,並遵循內部資訊安全與資料治理的規範,不將內部資料傳到外部第三方雲服務。此外,FedGPT也通過資安、隱私、幻想與偏見的嚴謹測試,落實「可信任、負責任」的科技原則。
台灣人工智慧實驗室與慧與科技的合作,展示軟硬體整合的深度實力。FedGPT提供全面滿足醫院、學校與企業的AI平台,為企業專門設計的AutoKB,讓專業人員可主動建立有效知識庫;AutoCopilot 整合企業內部API,自動串接企業內部系統平台;AutoML在語言模型與各種專業領域模型可自主學習,同時整合企業內部帳號管理權限,建立分權、分功能的保護與稽核追蹤。企業在聯盟資料的治理下,更可做到機敏資料不出機構,藉由聯合學習、驗證和分析功能,為企業建立最強的跨組織大腦。
HPE ProLiant Servers系列則是專為AI 應用設計的伺服器,目前搭載Intel Xeon Scalable系列處理器與 NVDIA高速運算 GPU 晶片,協助生成式AI應用的快速部署。未來也將佈局整合更多AI時代尖端硬體。
國際數據資訊(IDC)預測,2024年至2027年間,全球AI PC的出貨量將從近5000萬台增長至逾1.67億台。至2027年末,AI PC將佔全球所有PC出貨量近60%。
台灣人工智慧實驗室創辦人杜奕瑾指出,未來2到3年是AI PC商機爆發性成長的關鍵期。聯邦式架構讓大語言模型運算從雲端轉移到本地端裝置上運行,可降低運算成本、提升效能,且進一步落實數據隱私保護。
杜奕瑾指出,如今各行各業都用得到AI服務。台灣的下一波機會在於最強的軟體與硬體夥伴結盟,建立企業組織內私有網路、私有雲的專用模型,提供客戶最完整實惠「可信任、負責任」解決方案。如此,才能讓台灣在全球AI產業供應鏈中,成為世界產業應用關鍵角色。台灣人工智慧實驗室將以和慧與科技的合作關係為開端,推動更多夥伴鏈結,打造豐富的AI應用生態圈。
慧與科技董事長王嘉昇表示,此次合作是雙方重要的里程碑。結合FedGPT的技術優勢與HPE伺服器的運算能力,可預期生成式AI在各產業廣泛應用,期待這次合作帶來全新市場契機,促進台灣AI技術與產業的共同進步。
圖/台灣人工智慧實驗室今(27)日宣布與慧與科技 (HPE) 共同簽署合作備忘錄(MOU),將以可信任負責任的FedGPT,全面提供所有企業以及公私部門AI PC落地服務。左為慧與科技董事長王嘉昇,右為台灣人工智慧實驗室創辦人杜奕瑾。