meta AI 實(shí)驗(yàn)室今天把 Llama3.1改造成推理“X 光機(jī)”——新模型 CoT-Verifier 正式登陸 Hugging Face，專門剖開(kāi)鏈?zhǔn)剿季S（CoT）每一步的“電路軌跡”，讓錯(cuò)誤不再躲在黑箱里。

傳統(tǒng)驗(yàn)證只看輸出對(duì)不對(duì)，meta 換了個(gè)視角:先給模型跑一次前向，再把每一步的歸因圖（attribution graph）抽出來(lái)。團(tuán)隊(duì)發(fā)現(xiàn)，正確與錯(cuò)誤推理的圖結(jié)構(gòu)差異極大，就像兩條形狀完全不同的電路板。用輕量級(jí)分類器在這些“圖特征”上訓(xùn)練，錯(cuò)誤步驟的預(yù)測(cè)準(zhǔn)確率直接飆到 SOTA，且不同任務(wù)(數(shù)學(xué)、邏輯、常識(shí))各自有獨(dú)特的“故障圖譜”，說(shuō)明推理失敗并非隨機(jī)噪聲，而是可量化、可分類的計(jì)算模式。

更關(guān)鍵的是，歸因圖不僅能“診斷”，還能“動(dòng)刀”。meta 在實(shí)驗(yàn)里對(duì)高可疑節(jié)點(diǎn)做定向消融或權(quán)重偏移，成功把 Llama3.1在 MATH 數(shù)據(jù)集上的準(zhǔn)確率再提4.2個(gè)百分點(diǎn)，而無(wú)需重新訓(xùn)練主干。換句話說(shuō)，CoT-Verifier 把推理糾錯(cuò)從“事后復(fù)盤”變成“術(shù)中導(dǎo)航”。

模型已開(kāi)源，腳本一鍵復(fù)現(xiàn)。開(kāi)發(fā)者只需把待驗(yàn)證的 CoT 路徑喂給 Verifier，就能拿到每一步的“結(jié)構(gòu)異常分”，并定位最可能出錯(cuò)的上游節(jié)點(diǎn)。meta 在論文結(jié)尾放話:下一步把同樣的圖干預(yù)思路搬到代碼生成、多模態(tài)推理，讓“白盒手術(shù)”成為 LLM 的新標(biāo)配。