＃ 推進人工智能治理與創新的前沿
資訊通信媒體發展局（IMDA）引領國家努力，將新加坡定位為負責任開發和部署人工智能的全球領導者。透過在技術創新需求與強大的倫理保障之間取得平衡，新加坡旨在營造一個企業能夠繁榮發展且公民能夠信任其所互動系統的環境。
人工智能治理模式框架
監管景觀的核心是《人工智能治理模式框架》(Model AI Governance Framework)，這是一份不斷演進的文件，為私營部門組織提供實用的、與行業無關的指導。
- 以人為本： 框架強調人工智能系統的設計和部署應保護人類的安全、福祉和自主權。
- 可解釋性與透明度： 由人工智能增強系統做出的決策必須是可解釋的。鼓勵組織提供關於數據處理方式以及如何達成特定結果的清晰說明。
- 公平性與減輕偏見： 需要強大的營運管理流程來識別並最小化算法偏見，確保自動化決策不會對特定群體造成不公平的劣勢。
透過代理型與生成式人工智能開拓未來
隨著技術從靜態模型演變為自主代理，新的治理挑戰也隨之而來。框架的最新更新針對這些轉變提出了要求：
1. 代理型人工智能治理
針對人工智能代理（AI Agents）的最新指南側重於「限制」風險。由於代理可以代表人類採取行動，框架要求：
- 部署前風險評估： 識別代理的自主範圍及其行動的可逆性。
- 有意義的問責制： 在高風險決策中建立需要人工批准的檢查點。
2. 生成式人工智能支援
為了加速生成式人工智能（GenAI）的採用，多項倡議支援企業級轉型：
- 技術發現工作坊： 為數碼化成熟的企業提供輔導，以識別高影響力的使用案例。
- 項目實施支援： 在知識挖掘和客戶參與等領域，提供技術專家諮詢和資金支援，以進行客製化開發。
信任驗證與全球標準
成立 AI Verify 基金會旨在從理論原則轉向技術驗證。
- AI Verify 工具箱： 一個開源的測試框架和軟件工具箱，允許開發人員對其模型的魯棒性、公平性和透明度進行技術測試。
- 全球人工智能保證試點： 與國際合作夥伴共同發起的倡議，在醫療保健和金融等現實場景中測試基於大語言模型（LLM）應用的可靠性。
- Project Moonshot： 專為開發人員設計的專用工具箱，用於評估大語言模型針對對抗性提示和數據洩漏的安全性與防禦力。
建設熟練的勞動力與具韌性的經濟
治理僅是其中一根支柱；人工智能的成功取決於人類的熟練程度。
- 工作重新設計： 指導僱主轉型受自動化影響的角色，幫助員工過渡到人工智能增強的任務。
- 國家多模態大語言模型計劃： 一項戰略研究倡議，專注於建立新加坡在針對區域背景的複雜語言模型方面的工程能力。
結論：受信任的創新中心
新加坡多管齊下的方法確保人工智能不僅僅是技術優勢，更是社會進步的工具。透過在利益相關者之間建立透明的溝通管道並保持基於風險的監管方法，新加坡繼續鞏固其作為全球數碼創新信任樞紐的地位。