近日，美國康奈爾大學教授艾莉莎阿普塞爾（Alyssa Apsel）和團隊提出一種微波神經(jīng)網(wǎng)絡(luò)（MNN，microwave neural network），其采用標準的互補金屬氧化物半導(dǎo)體（CMOS，Complementary metal-Oxide-Semiconductor）技術(shù)制造，在芯片上僅占據(jù) 0.088 平方毫米的超緊湊尺寸，可支持集成到通用模擬處理器中，并且能夠完全集成在硅基微芯片上。它可以為無線電信號解碼、雷達目標跟蹤和數(shù)字數(shù)據(jù)處理等任務(wù)執(zhí)行實時頻域計算，而且功耗不到 200 毫瓦。

圖 | 美國康奈爾大學教授艾莉莎阿普塞爾（Alyssa Apsel）（https://www.engineering.cornell.edu/people/alyssa-b-apsel/）

當施加低頻參數(shù)調(diào)制的時候能夠改變微波神經(jīng)網(wǎng)絡(luò)的響應(yīng)，這種可重新編程、特征豐富的頻譜，非常適合用于機器學習推理任務(wù)。該方法能在寬帶信號的整個帶寬（數(shù)千兆赫寬）內(nèi)實現(xiàn)瞬時模擬計算，據(jù)研究人員所知，這是業(yè)內(nèi)首次在集成電子設(shè)備中展示此類能力，這意味著一種新型高速計算方法的正式面世，相關(guān)論文于近期發(fā)表在 Nature Electronics（IF 40.9）。

圖 | 研究人員將這款低功耗微芯片稱為“微波大腦”，它是首款通過利用微波物理特性，同時對超高速數(shù)據(jù)信號和無線通信信號進行計算的處理器。（資料圖）

01

在芯片上構(gòu)建首個“微波大腦”

基于微波神經(jīng)網(wǎng)絡(luò)，研究人員在芯片上構(gòu)建了首個“微波大腦”，這是一種低功耗的微芯片，也是首款利用微波物理特性從而能夠同時針對超高速數(shù)據(jù)信號和無線通信信號進行計算的芯片。

圖 | 相關(guān)論文（Nature Electronics）

該款芯片既能執(zhí)行低級邏輯功能，也能完成復(fù)雜任務(wù)，例如能夠識別高速數(shù)據(jù)中的比特序列或統(tǒng)計二進制值。在涉及無線信號類型的多項分類任務(wù)中，它的準確率不低于 88%，能與數(shù)字神經(jīng)網(wǎng)絡(luò)的準確率相媲美，但是功耗和尺寸僅有后者的一小部分。

在研究人員所打造的首個原型樣品中，他們證明微波神經(jīng)網(wǎng)絡(luò)能夠替代射頻和微波機器學習任務(wù)中大部分數(shù)字網(wǎng)絡(luò)，同時所消耗的功率得到大幅降低，能夠擺脫高時鐘速度帶來的負擔。需要說明的是，時鐘速度是電子設(shè)備中核心工作節(jié)奏的基準參數(shù)，通常以赫茲（Hz）為單位來表示每秒執(zhí)行的周期數(shù)，較高的時鐘速度會拖慢數(shù)字系統(tǒng)并使其發(fā)熱。有趣的是，這款芯片還能模擬數(shù)字功能，從而能夠替代冗長的時序邏輯信號鏈。

（Nature Electronics）

這款芯片背后的電路拓撲結(jié)構(gòu)，是論文第一作者巴拉?戈文德（Bala Govind）在康奈爾大學讀大二和大三期間，經(jīng)過數(shù)月思考逐漸形成的。他在康奈爾大學官網(wǎng)的報道中表示，在校園山坡的多次散步中，他完成了上述結(jié)構(gòu)的構(gòu)思。

圖 | 論文第一作者巴拉?戈文德（Bala Govind）（https://www.linkedin.com/in/bal-govind-6840979b/）

毫無疑問，微波神經(jīng)網(wǎng)絡(luò)是本次成果得以順利完成的重中之重，那么它到底是如何誕生的？

02

微波神經(jīng)網(wǎng)絡(luò)是如何工作的？

據(jù)了解，微波神經(jīng)網(wǎng)絡(luò)是一個非線性系統(tǒng)，它通過產(chǎn)生類似梳狀、對輸入敏感的頻譜來進行計算。下圖展示了產(chǎn)生這一頻譜的電磁結(jié)構(gòu)，該結(jié)構(gòu)由一條非線性波導(dǎo)（標記為 A）和三條線性波導(dǎo)（標記為 B、C 和 D）組成。非線性波導(dǎo)的頻率模式受到輸入微波驅(qū)動信號的幅度和相位的強烈影響，而線性波導(dǎo)的模式則基本不受這些信號的影響。

（Nature Electronics）

研究中，研究人員通過采用“地-信號-地-信號-地”（GSGSG，Ground–signal–ground–signal–ground）結(jié)構(gòu)的波導(dǎo)，將吉赫茲速率的信號注入該系統(tǒng)。然后，構(gòu)建于兩層重疊金屬之上的微型正交混合耦合器，將這些輸入信號進行功率分配，并將其引導(dǎo)至不同的波導(dǎo)中。這些被分割的小部分驅(qū)動信號隨后會在波導(dǎo)中反射，并在耦合器的輸出端口疊加，再通過另一組 GSGSG 波導(dǎo)提取出來。

如下圖所示，輸入敏感性的主要來源是波導(dǎo) A 內(nèi)一系列耦合的非線性諧振器，這些諧振器由電感段與非線性電容組合而成。

（Nature Electronics）

研究過程中，研究人員使用了反并聯(lián)二極管，這是因為它們能夠產(chǎn)生具有多項式非線性的電容，而其非線性程度則取決于所施加的偏置電壓以及微波信號的強度。

在論文中，研究人員還展示了非線性波導(dǎo)的扭結(jié)狀態(tài)布局，當沿著其長度進行周期性地安裝開關(guān)，就可以延長或者縮短微波信號返回直流電源的路徑，在此期間并不會引入失真。

更重要的是，通過在一對波導(dǎo)之間連接的一對開關(guān)的開啟與關(guān)閉，研究人員建立了參數(shù)化耦合。這些開關(guān)都是 N 型金屬氧化物半導(dǎo)體（NMOS，N-type metal-Oxide-Semiconductor）晶體管，并由一個比特流加以控制，該比特流的速率僅為輸入數(shù)據(jù)速率的百分之一（150Mbit/s），并通過第三條“地-信號-地”（GSG，Ground–signal–ground）波導(dǎo)傳輸。這種開-關(guān)交替的參數(shù)耦合序列，是針對神經(jīng)網(wǎng)絡(luò)模式實現(xiàn)動態(tài)重新編程的關(guān)鍵，這使其能夠針對不同計算任務(wù)進行配置，從而與其他循環(huán)神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法有著本質(zhì)區(qū)別。

（Nature Electronics）

而為了在數(shù)十吉赫茲的高頻下維持由高幅度微波傳輸引起的非線性，研究人員通過交叉耦合的晶體管實現(xiàn)了再生性的飽和增益。下圖展示了微波神經(jīng)網(wǎng)絡(luò)的實測頻譜響應(yīng)?？梢钥吹?，即使在沒有驅(qū)動信號或參數(shù)切換的情況下，其頻譜也高度依賴于振蕩器核心供電電壓以及施加在非線性電容上的偏置等因素。當接收到 12Gbit/s 的本征超寬帶數(shù)據(jù)時，其頻譜響應(yīng)變得非常復(fù)雜。而微波神經(jīng)網(wǎng)絡(luò)中的非線性，將輸入頻譜的全部特征映射到其響應(yīng)最為顯著的范圍。據(jù)研究人員所知，這也是業(yè)內(nèi)首次在集成 CMOS 電路中通過主動耦合非線性諧振產(chǎn)生微波梳狀頻譜的實例。

（Nature Electronics）

研究人員進一步指出：首先，這一設(shè)計方案與傳統(tǒng) CMOS 振蕩器有著較大不同，后者依賴對稱性來實現(xiàn)穩(wěn)定的單音振蕩；其次，這一設(shè)計方案也不同于通過產(chǎn)生微弱諧波梳來進行光譜分析的復(fù)雜脈沖整形電路。由于研究人員旨在利用商用 CMOS 工藝實現(xiàn)這一模擬計算機，因此設(shè)計品質(zhì)因數(shù)超過 40 的電磁結(jié)構(gòu)并不現(xiàn)實。另據(jù)悉，克爾梳（Kerr combs）和電光頻率梳（electro-optic frequency combs）等穩(wěn)定的光學頻率源，它們與混亂的外部驅(qū)動信號具有良好的隔離性。而本次研究人員在設(shè)計方案上有意讓耦合波導(dǎo)暴露于輸入微波之下，正是這種對于寬帶輸入的有意暴露，使得諧振器內(nèi)部的非線性和非對稱性能夠?qū)崿F(xiàn)近乎瞬時的計算。

實驗中，研究人員通過保持線性波導(dǎo)（B、C、D）與波導(dǎo) A 的標稱振蕩頻率高度失諧，來減少物理電路參數(shù)數(shù)量。其指出，通過應(yīng)用廣義耦合模理論，該系統(tǒng)可被描述為一組相互連接的非線性模式，其中第一個非線性模式通過慢速參數(shù)耦合和固定相位延遲與線性模式相連。與此同時，這一系統(tǒng)由可飽和增益供電，參數(shù)振蕩由快速微波驅(qū)動信號調(diào)制，這些信號動態(tài)不僅能夠重新配置諧振器的阻抗，并且能夠塑造系統(tǒng)的穩(wěn)態(tài)頻譜響應(yīng)。

圖 | 康奈爾大學博士生巴拉戈文德（Bal Govind）與該校艾莉莎阿普塞爾（Alyssa Apsel）教授合作研發(fā)出了一種首創(chuàng)的微波神經(jīng)網(wǎng)絡(luò)，該網(wǎng)絡(luò)完全集成在硅微芯片上。它能為無線電信號解碼、雷達目標跟蹤和數(shù)字數(shù)據(jù)處理等任務(wù)執(zhí)行實時頻域計算，而整個過程的功耗不到 200 毫瓦。（資料圖）

研究人員指出，微波神經(jīng)網(wǎng)絡(luò)的動力學與記憶形成的神經(jīng)網(wǎng)絡(luò)模型具有相似性。在神經(jīng)系統(tǒng)中，記憶存儲在穩(wěn)定、重復(fù)的信息交換模式中，這些模式形成于互連的節(jié)點即神經(jīng)元之間。這些吸引子網(wǎng)絡(luò)通過響應(yīng)外部輸入而形成，并通過調(diào)整節(jié)點間的權(quán)重而產(chǎn)生持久模式。然而，隨著時間的推移，這些模式會從穩(wěn)定的結(jié)構(gòu)化行為逐漸轉(zhuǎn)變?yōu)楦踊煦绲臓顟B(tài)，從而允許多個網(wǎng)絡(luò)在系統(tǒng)中共存。當網(wǎng)絡(luò)從固定點吸引子過渡到混沌吸引子時，系統(tǒng)變得越來越隨機，導(dǎo)致記憶衰退并最終丟失。

研究人員發(fā)現(xiàn)，在本次電路中也出現(xiàn)了類似的從結(jié)構(gòu)化狀態(tài)向更混沌狀態(tài)的轉(zhuǎn)變，并且略顯混沌的狀態(tài)可能會演化為高度混沌的模式以及完全混沌的狀態(tài)。這種演化反映了系統(tǒng)中記憶的存在與衰退，它的發(fā)生源于微波驅(qū)動信號與頻率調(diào)制微波參數(shù)振蕩之間的特定相互作用。這種行為也與脈沖神經(jīng)網(wǎng)絡(luò)、基于能量的模型以及生物大腦中觀察到的連接模式高度相似。

（Nature Electronics）

03

或能開發(fā)與頻段無關(guān)的神經(jīng)網(wǎng)絡(luò)處理器

需要說明的是，本次實驗中的物理參數(shù)，比如非線性電容偏壓、諧振器頻率和可飽和增益，均保持為固定值。假如能夠動態(tài)地調(diào)整這些參數(shù)，并能采用更模擬化的參數(shù)耦合方式，而非僅僅依賴二進制比特流驅(qū)動的開關(guān)，那么將有希望提升訓(xùn)練精度和驗證精度。

此外，通過使用單一線性波導(dǎo)替代現(xiàn)有的三個波導(dǎo)結(jié)構(gòu)，可以進一步減少芯片組件數(shù)量。通過采用緊湊型的設(shè)計方案，未來還能實現(xiàn)互聯(lián)式頻率梳陣列的構(gòu)建，從而生成更豐富的輸出頻譜，進而在壓縮帶寬內(nèi)提供更多特征。這樣一來既能改進訓(xùn)練數(shù)據(jù)質(zhì)量，也能促進單元間的誤差校正。

盡管該芯片目前仍然處于實驗階段，但是研究人員對其可擴展性持樂觀態(tài)度。眼下，他們正在嘗試提高其準確性，并將嘗試把其集成到微波平臺和數(shù)字處理平臺中。

通過充分探索設(shè)計空間，研究人員希望能夠開發(fā)出一種與頻段無關(guān)的神經(jīng)網(wǎng)絡(luò)處理器，通過解碼復(fù)雜的超高速數(shù)字數(shù)據(jù)以及覆蓋數(shù)百吉赫茲的毫米波信號，進而讓微波神經(jīng)網(wǎng)絡(luò)可被用于分布式邊緣計算、智能傳感、加密、特征提取和超快速人工智能推理等領(lǐng)域，同時能夠減少無線和電光鏈路中高速數(shù)據(jù)互連所面臨的帶寬問題和功率開銷問題。