7月28日，世界人工智能大會（WAIC）期間，上海人工智能實驗室、信通院、螞蟻、IIFAA聯(lián)盟聯(lián)合發(fā)布《終端智能體安全2025》白皮書，首次系統(tǒng)梳理了智能體（AI Agent）風(fēng)險分類、如何發(fā)現(xiàn)風(fēng)險、如何防御風(fēng)險，并覆蓋了單智能體設(shè)備、多智能體協(xié)同，以及AI終端生態(tài)的全面挑戰(zhàn)，成為終端智能體安全提供風(fēng)險評估指南。
白皮書指出，隨著模型越來越懂用戶、操作越來越自動，終端智能體的風(fēng)險邊界也在拓展：不再只是“數(shù)據(jù)泄露”這么簡單，而是向模型行為、身份偽造、環(huán)境感知誤導(dǎo)，甚至算法倫理等深層問題蔓延。
白皮書首次提出終端智能體安全體系，在技術(shù)生態(tài)體系的支撐下，單智能體安全技術(shù)包括安全護欄、數(shù)據(jù)去毒、基座對齊和柔性管理，多智能體可信互連技術(shù)則包括可信數(shù)據(jù)流轉(zhuǎn)、可信服務(wù)流轉(zhuǎn)、可信身份認(rèn)證和可信記憶共享，AI 終端安全技術(shù)可信隱私沙箱、跨設(shè)備可信連接等，共同支撐AI/AR眼鏡、智能手機助手、智能座駕等行業(yè)應(yīng)用。
興盛網(wǎng)提示：文章來自網(wǎng)絡(luò)，不代表本站觀點。
