IT之家 12 月 1 日消息,據(jù)科技媒體 TechPower Up 今天報(bào)道,微軟在幾天前宣布 Win11 系統(tǒng)將迎來一次“agentic”(智能體式)大更新,不過微軟最近在官方發(fā)布博文稱,Win11 系統(tǒng)的 AI 智能體功能可能出現(xiàn)“幻覺”現(xiàn)象。
![]()
據(jù)報(bào)道,用戶在安裝 Windows 11 Build 26220.7262 后,可以在“設(shè)置--> 系統(tǒng)-->AI Components”中看到一個(gè)新開關(guān)“實(shí)驗(yàn)性智能體功能”,啟用后系統(tǒng)會(huì)彈出一個(gè)警告窗口,提醒用戶相關(guān)功能仍處于實(shí)驗(yàn)階段,可能會(huì)對(duì)電腦產(chǎn)生影響。
![]()
值得注意的是,目前黑客已經(jīng)基于自主式智能體(autonomous agents)研發(fā)新型攻擊方式,其中最為人所知的便是間接提示注入,不懷好意的人會(huì)將惡意指令隱藏在普通文檔或網(wǎng)頁元素中,讓智能體遵循這些隱藏指令而非原本的任務(wù),最終導(dǎo)致電腦被裝上惡意軟件,或是泄露支付信息。
不過微軟表示,Windows 11 的智能體將被運(yùn)行在一個(gè)專屬工作區(qū)內(nèi),每個(gè)智能體都有一個(gè)限定范圍、可審計(jì)的賬戶,并且所有操作記錄都會(huì)被記錄以供審查,具體工作原理類似沙盒,但智能體被設(shè)計(jì)可持續(xù)存在,并且能跨對(duì)話執(zhí)行文件操作,這無疑擴(kuò)大了潛在攻擊面。
默認(rèn)情況下,智能體會(huì)被授予 Downloads、Desktop、documents 等用戶文件夾的讀寫權(quán)限,雖然這些文件夾并非系統(tǒng)要害,但仍然有可攻擊的漏洞,微軟還是需要實(shí)施更強(qiáng)的安全措施才能避免黑客攻擊。
IT之家注:AI 領(lǐng)域的“幻覺”指的是 AI 大語言模型生成出看起來合理但實(shí)際虛假或不準(zhǔn)確的信息,這種現(xiàn)象之所以被稱為“幻覺”,是因?yàn)槟P蜁?huì)不知不覺地輸出與事實(shí)不符的內(nèi)容,產(chǎn)生原因多種多樣,包括訓(xùn)練數(shù)據(jù)不足、有偏差或不完整、上下文理解有限、過度擬合等。





京公網(wǎng)安備 11011402013531號(hào)