, 我們又在第一時(shí)間拿到了清華大學(xué)沈陽團(tuán)隊(duì)的新 DeepSeek 攻略,趕緊來給大家分享。
不知道家友們?cè)谑褂?DeepSeek 等大語言模型的時(shí)候,有沒有遇到過“一本正經(jīng)的胡說八道”的情況?

這次的第五部新寶典,討論的便是 AI 幻覺的問題。

而我們作為普通用戶, 怎樣應(yīng)對(duì) AI 幻覺,甚至利用 AI 幻覺,看完這篇后便會(huì)得到答案。
對(duì)了,這次給大家分享的 PDF 下載,是原汁原味的原版哦,網(wǎng)上有太多賣課者魔改的內(nèi)置其廣告版本。

01.
什么是 AI 幻覺
AI 幻覺,指得其實(shí)就是 模型生成與事實(shí)不符、邏輯斷裂或脫離上下文的內(nèi)容,本質(zhì)是統(tǒng)計(jì)概率驅(qū)動(dòng)的“合理猜測”。
換句話講,我們遇到的那些“一本正經(jīng)地胡說八道”的情況,其實(shí)就是 AI 幻覺。

其主要分為兩種:
事實(shí)性幻覺:模型生成的內(nèi)容與可驗(yàn)證的現(xiàn)實(shí)世界事實(shí)不一致
忠實(shí)性幻覺:模型生成的內(nèi)容與用戶的指令或上下文不一致
02.
為什么會(huì)產(chǎn)生幻覺
至于 AI 為什么會(huì)產(chǎn)生幻覺,不外乎以下幾種原因:
數(shù)據(jù)偏差:訓(xùn)練數(shù)據(jù)中的錯(cuò)誤或片面性被模型放大(如醫(yī)學(xué)領(lǐng)域過時(shí)論文導(dǎo)致錯(cuò)誤結(jié)論)
泛化困境:模型難以處理訓(xùn)練集外的復(fù)雜場景(如南極冰層融化對(duì)非洲農(nóng)業(yè)的影響預(yù)測)
知識(shí)固化:模型過度依賴參數(shù)化記憶,缺乏動(dòng)態(tài)更新能力(如2023年后的事件完全虛構(gòu))
意圖誤解:用戶提問模糊時(shí),模型易“自由發(fā)揮”(如“介紹深度學(xué)習(xí)”可能偏離實(shí)際需求)

比如,我們可以通過虛構(gòu)事件的方式,來測試一下各大 LLM 的事實(shí)性幻覺情況。

03.
如何減緩 AI 幻覺
我們作為不了解相關(guān)技術(shù)細(xì)節(jié)的普通用戶,該怎樣減緩 AI 幻覺的影響呢?
首先是開啟聯(lián)網(wǎng)搜索功能, 讓 AI 對(duì)齊一下信息的顆粒度,“胡說八道”的幾率自然也就少了。

在編寫提示詞的時(shí)候,我們也可以 提前做好知識(shí)邊界的限定,降低 LLM 虛構(gòu)的可能性。

此外,我們還可以使用多款 AI 模型, 對(duì)生成的結(jié)果進(jìn)行交叉驗(yàn)證,讓 DeepSeek 和千問自己“卷”起來。

在現(xiàn)階段,AI 幻覺仍然是無法杜絕的問題,我們?cè)谑褂么笳Z言模型輔助我們的工作時(shí),也不能把他們當(dāng)做“萬能神藥”, 而是要有自己的判斷。
04.
AI 幻覺的創(chuàng)造力價(jià)值
當(dāng)我們需要確定性的結(jié)果時(shí),AI 幻覺是一件不好的事情。
然而,對(duì)于需要 “創(chuàng)造力”的領(lǐng)域,幻覺可能反而是我們所需要的。

當(dāng)然,我們還需要逐步建立方法論,經(jīng)過合理的驗(yàn)證過程,才能讓 AI 幻覺的“想象力”為我們所用。

怎么樣,看到這里,是不是對(duì) “AI 幻覺”這個(gè)





京公網(wǎng)安備 11011402013531號(hào)