議題

韓國爲AI智能體劃界

顧維楨 能源轉型／關鍵礦產

韓國互聯網振興院九月十五日表示，正在修訂去年首次發佈的《人工智能安全指南》，新版將集中處理企業部署自主人工智能智能體後出現的安全問題，並提供風險檢查清單。該機構還在研究能否把共同控制措施延伸至能夠操作機器和現實設備的“物理人工智能”。監管對象並非專指算力最大、參數最多的前沿模型，而是能夠在較少人工幹預下調用工具、連接外部系統和連續執行任務的智能體。韓國這次沒有追逐抽象的人工智能威脅，而是盯住了企業最容易失守的環節：誰給智能體賬戶，誰開放工具權限，誰爲它執行的操作負責。 普通聊天模型答錯一個問題，影響通常停留在屏幕上；智能體如果取得企業郵箱、客戶數據庫、採購平臺或代碼倉庫的訪問權，同一次錯誤便可能變成發錯郵件、泄露資料、修改程序甚至觸發交易。模型能力只是風險的一部分，真正決定破壞範圍的是身份權限、工具種類、執行次數和人工複覈門檻。一個性能普通的模型若擁有管理員權限，造成的實際風險可能遠高於一個被隔離在聊天窗口中的先進模型。韓國把監管重點放在智能體系統而非單純按照模型性能劃線，較貼近企業部署後的真實情況。 七月…