新加坡公佈全球首項生成式AI實際應用技術測試的成果

全球人工智能保障試點計劃

為促進行業安全採用人工智能，人工智能驗證基金會（AIVF）與新加坡資訊通信媒體發展局（IMDA）於2025年2月聯合發起「全球人工智能保障試點計劃」，旨在推動生成式AI應用技術測試的規範與最佳實踐。該試點計劃吸引了來自本地及國際AI利益相關者的強烈關注，特別是那些在業務流程中部署生成式AI的企業。試點中，16家專業AI測試機構與來自金融、醫療、人力資源、公共部門等10個不同行業的17家生成式AI實際應用部署方展開合作。

試點發現，生成式AI的風險往往具有場景依賴性（具體取決於行業、用例、文化、語言和組織）。針對特定情境界定風險與測試標準存在挑戰，建議在整個應用生命週期中引入領域專家參與。AIVF與資媒局將持續與行業協作完善試點方案。

生成式 AI應用測試入門工具包

資媒局同時宣佈將開發全球首款生成式AI應用測試入門工具包。該工具包整合了保障試點成果及其他從業者的實踐經驗，為跨行業、跨場景開發或應用生成式AI的企業提供實用測試指南。工具包逐步指導用戶識別需要關注的風險類型（如幻覺內容、不良輸出、數據洩露及對抗性提示漏洞等常見風險），並制定相應測試方案。資媒局現就測試指南及針對四大風險的推薦測試方法公開徵詢行業意見。

工具包配套「Project Moonshot」等測試工具可幫助企業落實測試指南。其內容將隨技術發展持續更新，以應對新興風險與測試需求。

保障試點與工具包旨在提升企業安全部署生成式AI的能力，並增強整個AI生態系統的可信度。

新加坡持續推動 AI技術為本土及全球公共利益服務

新加坡堅信AI技術應當服務於公共利益，既能釋放經濟潛能、提升社會效益，又能應對當今時代的各項需求與挑戰。新加坡全国人工智能核心（簡稱AISG）即將與聯合國開發計劃署簽署諒解備忘錄，在六個試點國家推進AI普及計劃，旨在消除AI知識鴻溝，助力發展中國家社區轉型發展。此項合作會將AISG於2024年推出、最初旨在提升亞洲各國AI能力的「AI向善」（AI4Good）計劃擴展至全世界。

AISG人工智能學生開發者大會

由AISG主辦的「人工智能學生開發者大會」（AISDC）成功舉辦，這場為期兩天的盛會匯聚了逾千名學生與60家行業合作夥伴，共同推動AI創新與人才培養。大會亮點為「全國AI學生挑戰賽」（NAISC），來自新加坡、印度尼西亞、馬來西亞、泰國、菲律賓和越南的學生通過大語言模型微調與提示工程技術，展開解決現實問題的競賽。此次大會通過新增區域挑戰賽道吸納東盟國家參與，彰顯了新加坡在促進東南亞地區AI人才培養與合作方面的引領作用。新加坡數碼發展及新聞部政務部長拉哈尤-瑪贊（Mdm Rahayu Mahzam）將出席活動並致閉幕辭。

科技領域的女性力量

新加坡數碼發展及新聞部部長楊莉明在「從成功到卓越—領袖打造社區」專題討論中，與攜程集團首席執行官孫潔、星展集團首席執行官陳淑珊共同探討科技領域女性領袖如何在「薪火相傳」和塑造平等共贏的社區生態中發揮關鍵作用。本次討論由新加坡管理大學金融學（實踐方向）教授許茵妮主持。

聯繫方式：[email protected]