IT之家 12 月 1 日消息，據(jù)科技媒體 TechPower Up 今天報(bào)道，微軟在幾天前宣布 Win11 系統(tǒng)將迎來一次“agentic”（智能體式）大更新，不過微軟最近在官方發(fā)布博文稱，Win11 系統(tǒng)的 AI 智能體功能可能出現(xiàn)“幻覺”現(xiàn)象。

據(jù)報(bào)道，用戶在安裝 Windows 11 Build 26220.7262 后，可以在“設(shè)置--> 系統(tǒng)-->AI Components”中看到一個(gè)新開關(guān)“實(shí)驗(yàn)性智能體功能”，啟用后系統(tǒng)會(huì)彈出一個(gè)警告窗口，提醒用戶相關(guān)功能仍處于實(shí)驗(yàn)階段，可能會(huì)對(duì)電腦產(chǎn)生影響。

值得注意的是，目前黑客已經(jīng)基于自主式智能體（autonomous agents）研發(fā)新型攻擊方式，其中最為人所知的便是間接提示注入，不懷好意的人會(huì)將惡意指令隱藏在普通文檔或網(wǎng)頁元素中，讓智能體遵循這些隱藏指令而非原本的任務(wù)，最終導(dǎo)致電腦被裝上惡意軟件，或是泄露支付信息。

不過微軟表示，Windows 11 的智能體將被運(yùn)行在一個(gè)專屬工作區(qū)內(nèi)，每個(gè)智能體都有一個(gè)限定范圍、可審計(jì)的賬戶，并且所有操作記錄都會(huì)被記錄以供審查，具體工作原理類似沙盒，但智能體被設(shè)計(jì)可持續(xù)存在，并且能跨對(duì)話執(zhí)行文件操作，這無疑擴(kuò)大了潛在攻擊面。

默認(rèn)情況下，智能體會(huì)被授予 Downloads、Desktop、documents 等用戶文件夾的讀寫權(quán)限，雖然這些文件夾并非系統(tǒng)要害，但仍然有可攻擊的漏洞，微軟還是需要實(shí)施更強(qiáng)的安全措施才能避免黑客攻擊。

IT之家注：AI 領(lǐng)域的“幻覺”指的是 AI 大語言模型生成出看起來合理但實(shí)際虛假或不準(zhǔn)確的信息，這種現(xiàn)象之所以被稱為“幻覺”，是因?yàn)槟Ｐ蜁?huì)不知不覺地輸出與事實(shí)不符的內(nèi)容，產(chǎn)生原因多種多樣，包括訓(xùn)練數(shù)據(jù)不足、有偏差或不完整、上下文理解有限、過度擬合等。