6 月 2 日消息，Anthropic 公司現(xiàn)已正式開源了其新一代的神經(jīng)網(wǎng)絡(luò)追蹤（Circuit Tracing）工具，旨在幫助研究人員深入解析大模型的內(nèi)部推理機制。

據(jù)悉，該工具可生成一系列“歸因圖（Attribution Graphs）”以展示 AI 模型處理提示詞的具體過程，便于開發(fā)者進一步觀察、微調(diào)模型。

此外，Anthropic 還與 Decode Research 團隊合作推出了 Neuronpedia 前端平臺，用戶可以在網(wǎng)頁上直接與相應(yīng)歸因圖進行互動。平臺還提供了“示例筆記本”，展示如 Gemma-2-2b 和 Llama-3.2-1b 等模型的內(nèi)部運作方式，鼓勵用戶嘗試各種提示詞，比較不同模型的具體行為。

Anthropic 公司首席執(zhí)行官 Dario Amodei 指出，大模型的“可解釋性”已成為業(yè)界共同關(guān)注的課題，這套神經(jīng)網(wǎng)絡(luò)追蹤工具將促進社區(qū)參與度，有助于開發(fā)者加快對大模型行為邏輯的理解。