這項(xiàng)由印度理工學(xué)院班加羅爾分校電氣工程系的Nishanth Shetty、Madhava Prasath和Chandra Sekhar Seelamantula團(tuán)隊(duì)完成的研究發(fā)表于2025年10月，論文編號(hào)為arXiv:2510.02730v1。有興趣深入了解的讀者可以通過該編號(hào)在學(xué)術(shù)數(shù)據(jù)庫中查詢完整論文。

當(dāng)我們談到人工智能學(xué)習(xí)時(shí)，大多數(shù)人可能認(rèn)為機(jī)器學(xué)習(xí)就像人類學(xué)習(xí)一樣。但實(shí)際上，目前主流的AI訓(xùn)練方法與真實(shí)大腦的工作方式存在根本性差異。這就像用右手的方法來訓(xùn)練左手寫字——雖然最終可能寫出字來，但過程完全不自然。印度理工學(xué)院的研究團(tuán)隊(duì)發(fā)現(xiàn)了這個(gè)問題，并從大腦神經(jīng)科學(xué)的角度找到了一種全新的AI圖像生成方法。

這項(xiàng)研究的核心在于一個(gè)被稱為"戴爾定律"的生物學(xué)原理。在真實(shí)的大腦中，神經(jīng)元分為兩種類型：興奮性神經(jīng)元和抑制性神經(jīng)元，就像交響樂團(tuán)中的不同樂器，各自扮演著促進(jìn)或抑制信號(hào)傳遞的角色。戴爾定律告訴我們，這些神經(jīng)元在學(xué)習(xí)過程中不會(huì)改變自己的基本性質(zhì)——興奮性神經(jīng)元始終保持興奮，抑制性神經(jīng)元始終保持抑制，就像小提琴手不會(huì)突然變成大提琴手一樣。

然而，傳統(tǒng)的人工神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法完全違背了這一自然規(guī)律。在常規(guī)的梯度下降訓(xùn)練中，網(wǎng)絡(luò)中的連接權(quán)重可以隨意從正值變?yōu)樨?fù)值，或從負(fù)值變?yōu)檎?，這就像讓交響樂團(tuán)的樂器手隨時(shí)互換角色，顯然不符合生物學(xué)常識(shí)。更重要的是，這種訓(xùn)練方式產(chǎn)生的權(quán)重分布與真實(shí)大腦中觀察到的對(duì)數(shù)正態(tài)分布完全不同。

研究團(tuán)隊(duì)從這個(gè)生物學(xué)啟發(fā)出發(fā)，開發(fā)了一種基于"幾何布朗運(yùn)動(dòng)"的全新圖像生成技術(shù)。如果說傳統(tǒng)的擴(kuò)散模型就像在平靜的湖面上投石子，產(chǎn)生規(guī)則的漣漪擴(kuò)散，那么幾何布朗運(yùn)動(dòng)更像是在湍流中的泡沫運(yùn)動(dòng)——每個(gè)泡沫的變化都是相對(duì)于自身大小的比例變化，而不是絕對(duì)的增減。

這種方法的數(shù)學(xué)基礎(chǔ)建立在一個(gè)有趣的發(fā)現(xiàn)上：當(dāng)研究團(tuán)隊(duì)分析指數(shù)梯度下降的更新規(guī)律時(shí)，他們意外發(fā)現(xiàn)這種更新方式在數(shù)學(xué)上等價(jià)于幾何布朗運(yùn)動(dòng)的離散化采樣過程。這就像發(fā)現(xiàn)了兩條看似不同的道路實(shí)際上通向同一個(gè)目的地。指數(shù)梯度下降通過乘法更新而非加法更新來保持權(quán)重的符號(hào)不變，確保遵循戴爾定律，而幾何布朗運(yùn)動(dòng)的隨機(jī)過程天然地產(chǎn)生對(duì)數(shù)正態(tài)分布的樣本。

在傳統(tǒng)的擴(kuò)散模型中，圖像生成過程就像是在一張干凈的畫布上逐漸添加高斯噪聲，直到圖像變成完全的隨機(jī)噪聲，然后學(xué)習(xí)如何逆轉(zhuǎn)這個(gè)過程。而在新方法中，研究團(tuán)隊(duì)使用的是乘性對(duì)數(shù)正態(tài)噪聲，這更像是在畫布上逐漸改變每個(gè)像素的亮度比例，而不是簡(jiǎn)單地添加隨機(jī)點(diǎn)。這種方法天然適合處理非負(fù)數(shù)據(jù)，因?yàn)閳D像像素值本身就是非負(fù)的。

為了實(shí)現(xiàn)這種新的生成方法，研究團(tuán)隊(duì)開發(fā)了一套全新的"乘性分?jǐn)?shù)匹配"理論框架。在傳統(tǒng)方法中，模型需要學(xué)習(xí)如何估計(jì)數(shù)據(jù)分布的梯度，就像學(xué)習(xí)如何感知山坡的傾斜方向。而在新方法中，模型學(xué)習(xí)的是"加權(quán)梯度"，即每個(gè)位置的梯度都要乘以該位置的數(shù)據(jù)值本身。這就像不僅要感知山坡的傾斜，還要考慮當(dāng)前所處位置的海拔高度對(duì)感知的影響。

研究團(tuán)隊(duì)證明了這種乘性分?jǐn)?shù)匹配方法在數(shù)學(xué)上是嚴(yán)格等價(jià)的，這意味著新方法不僅在生物學(xué)上更合理，在數(shù)學(xué)理論上也是完備的。他們發(fā)現(xiàn)，這種方法實(shí)際上包含了此前Hyv?rinen教授為非負(fù)數(shù)據(jù)提出的分?jǐn)?shù)匹配方法作為特例，從而在更廣泛的框架下統(tǒng)一了這些技術(shù)。

在實(shí)際的圖像生成過程中，新方法的工作流程可以這樣理解：首先從對(duì)數(shù)正態(tài)分布中采樣一個(gè)初始的"種子"圖像，這個(gè)圖像看起來像是隨機(jī)的噪聲。然后通過訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)，使用乘性更新規(guī)則逐步"雕琢"這個(gè)種子，每一步都是基于當(dāng)前圖像狀態(tài)進(jìn)行比例調(diào)整，而不是簡(jiǎn)單的加減操作。這個(gè)過程就像是一個(gè)雕塑家用特殊的工具，每次都根據(jù)當(dāng)前雕塑的形狀來決定下一步的修改幅度。

研究團(tuán)隊(duì)在MNIST手寫數(shù)字、Fashion-MNIST時(shí)尚物品和Kuzushiji古日文字符三個(gè)標(biāo)準(zhǔn)數(shù)據(jù)集上測(cè)試了這種新方法。實(shí)驗(yàn)結(jié)果顯示，生成的圖像質(zhì)量與傳統(tǒng)方法相當(dāng)，但更重要的是，整個(gè)訓(xùn)練和生成過程都遵循了生物學(xué)上合理的原則。生成的樣本展現(xiàn)出良好的視覺質(zhì)量，證明了這種生物學(xué)啟發(fā)的方法在實(shí)際應(yīng)用中的可行性。

從技術(shù)實(shí)現(xiàn)角度來看，新方法需要對(duì)圖像像素值進(jìn)行預(yù)處理，確保所有值都在正數(shù)范圍內(nèi)。研究團(tuán)隊(duì)將圖像像素值重新縮放到1到2之間，這樣既保證了非負(fù)性要求，又維持了像素間的相對(duì)關(guān)系。在訓(xùn)練過程中，他們使用了1000個(gè)離散化步驟來模擬連續(xù)的隨機(jī)過程，并通過歐拉-丸山離散化方案來數(shù)值求解隨機(jī)微分方程。

這項(xiàng)研究的意義遠(yuǎn)不止于提出了一種新的圖像生成方法。它首次建立了生物學(xué)習(xí)原理與現(xiàn)代AI技術(shù)之間的直接橋梁，為未來開發(fā)更加生物學(xué)合理的人工智能系統(tǒng)奠定了理論基礎(chǔ)。傳統(tǒng)的AI訓(xùn)練方法雖然在很多任務(wù)上表現(xiàn)出色，但它們與生物學(xué)習(xí)的根本差異可能限制了我們對(duì)智能本質(zhì)的理解和AI系統(tǒng)的進(jìn)一步發(fā)展。

研究團(tuán)隊(duì)指出，這種方法的應(yīng)用潛力不僅限于圖像生成。由于幾何布朗運(yùn)動(dòng)在金融建模中有著悠久的歷史，這種技術(shù)可能在金融時(shí)間序列預(yù)測(cè)和生成方面找到新的應(yīng)用場(chǎng)景。此外，在光學(xué)相干斷層掃描和合成孔徑雷達(dá)等存在乘性噪聲的成像領(lǐng)域，這種方法也可能提供更加自然和有效的解決方案。

當(dāng)然，這項(xiàng)研究也面臨一些挑戰(zhàn)和限制。新方法仍然需要大量的訓(xùn)練數(shù)據(jù)和計(jì)算資源，這與傳統(tǒng)深度生成模型面臨的問題類似。超參數(shù)的選擇，如噪聲調(diào)度和學(xué)習(xí)率，需要仔細(xì)調(diào)整才能獲得最佳性能。此外，由于這是一個(gè)全新的理論框架，還需要更多的實(shí)驗(yàn)驗(yàn)證來充分理解其性能邊界和適用范圍。

從更廣闊的視角來看，這項(xiàng)研究代表了AI發(fā)展中一個(gè)重要的范式轉(zhuǎn)變。長(zhǎng)期以來，AI研究主要關(guān)注如何讓機(jī)器在特定任務(wù)上達(dá)到或超越人類表現(xiàn)，而較少關(guān)注學(xué)習(xí)過程本身是否符合生物學(xué)原理。這種"結(jié)果導(dǎo)向"的研究方式雖然取得了巨大成功，但可能忽略了生物智能中蘊(yùn)含的深層智慧。

戴爾定律的存在并非偶然，它很可能是億萬年進(jìn)化過程中形成的優(yōu)化策略。研究團(tuán)隊(duì)推測(cè)，這種神經(jīng)元類型的穩(wěn)定性可能有助于避免"災(zāi)難性遺忘"——即學(xué)習(xí)新知識(shí)時(shí)完全忘記舊知識(shí)的問題。在人工神經(jīng)網(wǎng)絡(luò)中，這個(gè)問題一直是一個(gè)重大挑戰(zhàn)，而生物學(xué)啟發(fā)的方法可能為解決這個(gè)問題提供新的思路。

這項(xiàng)研究還揭示了一個(gè)有趣的現(xiàn)象：看似不同的數(shù)學(xué)工具和生物學(xué)原理之間可能存在深層的聯(lián)系。指數(shù)梯度下降、幾何布朗運(yùn)動(dòng)和戴爾定律，這三個(gè)來自不同領(lǐng)域的概念在這項(xiàng)研究中找到了統(tǒng)一的數(shù)學(xué)表達(dá)。這種跨學(xué)科的融合不僅推動(dòng)了技術(shù)進(jìn)步，也加深了我們對(duì)自然界中普遍存在的數(shù)學(xué)結(jié)構(gòu)的理解。

從實(shí)用角度來說，這種新方法為AI圖像生成領(lǐng)域帶來了新的可能性。雖然目前的實(shí)驗(yàn)主要集中在相對(duì)簡(jiǎn)單的灰度圖像上，但理論框架完全可以擴(kuò)展到高分辨率彩色圖像。研究團(tuán)隊(duì)表示，他們正在探索將這種方法應(yīng)用到更復(fù)雜圖像生成任務(wù)的可能性。

此外，這種方法在圖像去噪和修復(fù)任務(wù)中也顯示出潛力。傳統(tǒng)的圖像處理方法通常假設(shè)噪聲是加性的，即噪聲簡(jiǎn)單地疊加在原始信號(hào)上。但在很多實(shí)際應(yīng)用中，噪聲是乘性的，特別是在醫(yī)學(xué)成像和遙感圖像中。新方法天然適合處理這類乘性噪聲，可能在這些應(yīng)用領(lǐng)域帶來顯著改進(jìn)。

研究團(tuán)隊(duì)的工作還為理解生物神經(jīng)網(wǎng)絡(luò)的計(jì)算原理提供了新的視角。通過建立數(shù)學(xué)模型來描述生物學(xué)習(xí)過程，研究者可以更好地理解大腦是如何在保持穩(wěn)定性的同時(shí)實(shí)現(xiàn)高效學(xué)習(xí)的。這種理解反過來又可以指導(dǎo)更好的人工智能算法設(shè)計(jì)，形成生物學(xué)和人工智能研究之間的良性循環(huán)。

值得注意的是，這項(xiàng)研究采用的方法論本身也很有啟發(fā)性。研究團(tuán)隊(duì)沒有簡(jiǎn)單地模仿生物學(xué)現(xiàn)象，而是深入挖掘其背后的數(shù)學(xué)原理，然后在現(xiàn)代AI框架中重新實(shí)現(xiàn)這些原理。這種"原理導(dǎo)向"的研究方法可能比簡(jiǎn)單的"結(jié)構(gòu)模仿"更有效，因?yàn)樗プ×松镏悄艿谋举|(zhì)特征而不是表面形式。

說到底，這項(xiàng)研究展示了一個(gè)重要的科學(xué)發(fā)現(xiàn)過程：從觀察生物現(xiàn)象開始，通過數(shù)學(xué)建模揭示其內(nèi)在機(jī)制，然后將這些機(jī)制轉(zhuǎn)化為實(shí)用的技術(shù)工具。這個(gè)過程不僅產(chǎn)生了新的AI技術(shù)，也加深了我們對(duì)學(xué)習(xí)和智能本質(zhì)的理解。

歸根結(jié)底，這項(xiàng)工作提醒我們，自然界經(jīng)過億萬年進(jìn)化形成的生物系統(tǒng)中蘊(yùn)含著巨大的智慧寶庫。通過更深入地理解和借鑒這些生物學(xué)原理，我們不僅可以開發(fā)出更加高效和魯棒的AI系統(tǒng)，也可能發(fā)現(xiàn)通往真正智能的新路徑。對(duì)于普通讀者來說，這項(xiàng)研究展現(xiàn)了科學(xué)研究中跨學(xué)科合作的魅力，以及從基礎(chǔ)科學(xué)發(fā)現(xiàn)到實(shí)際技術(shù)應(yīng)用的轉(zhuǎn)化過程。

雖然這種新方法目前還處于研究階段，但它為未來的AI發(fā)展指明了一個(gè)有趣的方向。隨著我們對(duì)大腦工作機(jī)制理解的不斷深入，可能會(huì)有更多類似的生物學(xué)啟發(fā)技術(shù)出現(xiàn)，最終推動(dòng)人工智能向著更加自然、高效和可解釋的方向發(fā)展。對(duì)于關(guān)注AI發(fā)展的讀者來說，這項(xiàng)研究值得持續(xù)關(guān)注，因?yàn)樗赡茴A(yù)示著AI技術(shù)發(fā)展的一個(gè)重要轉(zhuǎn)折點(diǎn)。

Q&A

Q1：什么是戴爾定律？它與AI訓(xùn)練有什么關(guān)系？
A：戴爾定律是大腦神經(jīng)科學(xué)中的一個(gè)重要原理，指出興奮性神經(jīng)元和抑制性神經(jīng)元在學(xué)習(xí)過程中不會(huì)改變自己的基本性質(zhì)。傳統(tǒng)AI訓(xùn)練違背了這一原理，而印度理工學(xué)院的新方法通過指數(shù)梯度下降遵循了戴爾定律，使AI學(xué)習(xí)更符合生物學(xué)規(guī)律。

Q2：幾何布朗運(yùn)動(dòng)與傳統(tǒng)擴(kuò)散模型有什么區(qū)別？
A：傳統(tǒng)擴(kuò)散模型使用加性高斯噪聲，就像在畫布上添加隨機(jī)點(diǎn)。而幾何布朗運(yùn)動(dòng)使用乘性對(duì)數(shù)正態(tài)噪聲，更像是按比例調(diào)整每個(gè)像素的亮度。這種方法天然適合處理非負(fù)數(shù)據(jù)，并且產(chǎn)生的權(quán)重分布與真實(shí)大腦更相似。

Q3：這種新的圖像生成方法有什么實(shí)際應(yīng)用前景？
A：除了圖像生成，這種方法在金融時(shí)間序列建模、醫(yī)學(xué)成像去噪、遙感圖像處理等存在乘性噪聲的領(lǐng)域都有應(yīng)用潛力。更重要的是，它為開發(fā)更加生物學(xué)合理的AI系統(tǒng)奠定了理論基礎(chǔ)，可能推動(dòng)AI技術(shù)向更自然高效的方向發(fā)展。