讓“機器腦”類人腦,關鍵何在?
作者:李黃龍(清華大學精密儀器系、清華大學類腦計算研究中心長聘副教授)
編者按
人腦在有限尺寸和極低能耗下,能夠完成復雜環(huán)境中的信息關聯記憶、快速識別和自主學習等認知任務。隨著芯片換代速度放緩、算力供不應求等挑戰(zhàn)出現,面向未來,現有計算機的計算方式已難以為繼。如何推動信息處理技術進一步發(fā)展,打造像人腦一樣的“機器腦”?實現類腦計算是破局的方向。要想實現類腦計算,就需要尋找更多模擬人腦功能的神經形態(tài)器件。
借鑒人腦,讓計算更高效、更具仿生性、更低能耗
電子計算機的發(fā)明將人類文明帶入了一場數字化科技革命。在短短幾十年中,計算機的算力從每秒幾百次運算到每秒百億億次運算,增長了1016倍,創(chuàng)造了幾千年人類文明史上最高的人造增長速度。計算機算力的提升得益于底層半導體器件(硅基晶體管)的集成密度提升。按照摩爾定律,單芯片上晶體管的數量每18至24個月翻一番。
在過去的半個多世紀,集成電路產業(yè)一直在摩爾定律的引導下發(fā)展。然而擺在現實面前的是,隨著摩爾定律不斷逼近極限,單個硅基芯片能夠承載的晶體管日漸飽和。硅原子的大小約0.12納米,照此大小推算,當芯片工藝達到1納米,就只有對幾個硅原子進行操縱的空間了。
事實上,在芯片工藝發(fā)展到10納米水平后,能明顯感受到換代速度放緩、成本攀升等問題。而另一方面,隨著人工智能大模型浪潮席卷全球,對計算機算力的需求激增到了每2到3個月就要翻一番的程度,遠超摩爾定律下的增長速度。
面對芯片換代速度放緩、算力供不應求等挑戰(zhàn),數字計算機的計算方式已經難以為繼,如何推動信息處理技術進一步向前發(fā)展,成為學界與社會各行各業(yè)共同面臨的難題。面對這一巨大困局,能夠提供更高效、更具仿生性、更低能耗算力的類腦計算,成為破局的關鍵。
類腦計算是“國際半導體技術藍圖(ITRS/IRDS)”中的一個重要研究方向,旨在借鑒人腦的基本原理,實現人工通用智能(也稱為類腦通用智能)。在2021年啟動的“中國腦計劃”中,類腦計算是一個重要組成部分。
與傳統(tǒng)計算機不同的是,人腦在有限尺寸和極低能耗下,能夠完成復雜環(huán)境中的信息關聯記憶、快速識別和自主學習等認知任務。這與人腦神經網絡的基本組成和結構密切相關:人腦中有860億個神經元,相當于銀河系天體的數量,并通過150萬億個神經突觸互聯構成了空間復雜的神經網絡;同時人腦的神經樹突等組織進一步使神經計算功能復雜化。
人腦的這些神經組織包含了多樣化的離子通道,具備非常豐富的動力學行為,特征時間尺度也跨越幾個數量級,這是人腦智能的物理基礎。相對應的,計算機基本的組成單元是電子晶體管,其工作在準靜態(tài)的0和1編碼狀態(tài)下,與人腦的豐富動力學相距甚遠。
因此,類腦計算的實現,其中一個關鍵就是發(fā)現神經形態(tài)器件。它們可以模擬人腦中神經元、神經突觸、神經樹突的功能,具有更貼近神經組織行為的物理機制,從而可以實現傳統(tǒng)電子晶體管所不能實現的諸多類神經功能。
基于神經形態(tài)器件的類腦計算快速發(fā)展
神經科學的研究發(fā)現,神經元之間的神經突觸連接強度的可調性,是大腦學習和記憶功能的基礎之一。由過往經歷引起的神經突觸連接強度改變,可以對大腦的功能產生影響。
神經突觸連接強度改變,也叫神經突觸可塑性,可以增強或抑制神經元的活動,而且其持續(xù)的時間可從幾毫秒到幾小時、幾天甚至更長時間,跨度很大。
如果能借鑒神經突觸可塑性原理,用某種手段來模仿和實現,構建類似于神經突觸的人工突觸,再進一步構建出系統(tǒng),就可以更好地理解和模擬大腦的工作方式,進一步推動信息學和神經科學的交叉發(fā)展,實現類腦計算。
早在1971年,科學家蔡少棠就曾啟發(fā)式地推理預言了一種新型器件——憶阻器。根據預言,憶阻器的電阻值取決于所施加的電壓/電流激勵歷史,因此具有類神經記憶特性。
在這一預言過去37年后,惠普實驗室宣布憶阻現象在新型微納半導體器件中被觀測到。此后,憶阻器件和神經形態(tài)器件幾乎成了兩個可以互換的概念,基于神經形態(tài)器件的類腦計算也進入了快速發(fā)展的階段。
憶阻器作為一種有潛力的電路元件,除了生物相似性之外,在可微縮能力、存儲密度和功耗等方面也要優(yōu)于傳統(tǒng)的晶體管器件。
近年來,在材料技術和功能方面,神經形態(tài)器件都取得重要進展。在材料技術方面,研究人員廣泛應用各種材料——無機物、有機物、量子材料、鐵電材料、鐵磁材料、三維體材料和二維材料等,它們展現出各自獨特的神經形態(tài)特性,為憶阻器的發(fā)展提供了多樣性和靈活性。將傳統(tǒng)晶體管和憶阻器進行混合的神經形態(tài)集成電路研究也取得了顯著進展,加速了憶阻器的應用推廣。在功能方面,憶阻器不僅能夠模擬神經突觸的可塑性功能,還可以模擬神經元的某些功能,這為實現全憶阻器的神經形態(tài)電路創(chuàng)造了可能性。
利用晶體管“非理想”物理機制,模擬人腦記憶功能
然而,神經形態(tài)器件發(fā)展到這個階段,面臨著新的挑戰(zhàn)。其中一個關鍵挑戰(zhàn)是仿生動力學功能不足,難以滿足類腦計算對豐富神經形態(tài)動力學的要求。
正如前面所提到的,人腦的豐富動力學行為與神經組織中多樣化的離子通道結構和機理是密切相關的。但是目前主流的神經形態(tài)器件通常是為模擬某一種特定的神經行為來定制,采用特定的單一物理機制來實現。
如果需要實現豐富的仿生動力學功能,就需要發(fā)展全功能的動力學神經形態(tài)器件。不過,通常來講,功能越全面就需要更大尺寸的硬件,這與當前芯片的小型化相矛盾。要解決這個問題,就需要探索新型的器件原理和新的半導體材料。
前面提到,神經突觸可塑性的一大特征是動力學時間尺度跨越幾個數量級,這是人類認知和記憶功能的一個基礎。事實上,我們每個人都能感受得到這種動力學的存在——有時候一件事情讓人終生難忘;而有時候上一秒的事情,下一秒就忘了。這就是長期記憶和短期記憶兩種時間尺度不一樣的動力學行為,它們的共存幫助我們保留重要的信息,同時過濾掉不重要的信息,給大腦減負。但是現有的單器件人工突觸,只能對長期可塑性或短期可塑性進行選擇性的模擬,不能集成模擬。
基于這些神經突觸原理,對人工突觸器件和生物突觸進行比較可以發(fā)現,它們之間有一個巨大的區(qū)別——前者利用相同的物理機制模擬兩種功能,而后者分別利用來自突觸后膜和前膜不同的鈣離子通道機制來實現。
受此啟發(fā),清華大學類腦研究中心的研究團隊將目光移回到晶體管上。作為計算機芯片的基本元器件,晶體管器件中實際蘊含了兩種物理機制——“場效應”機制和“憶阻”機制。“場效應”機制讓晶體管在0和1狀態(tài)間切換,但沒有持續(xù)供電的話,狀態(tài)就會很快消失,從節(jié)能的角度來說不盡如人意?!皯涀琛睓C制會讓0、1狀態(tài)混淆,這在以往被視為不利影響,所以在制造計算機芯片時一定要防止“憶阻”機制的顯現。但“憶阻”機制還有一個特性——在斷電后依然能持久地存在。
這兩種對于傳統(tǒng)計算機芯片來說不夠完美,甚至不利的物理機制,不正是類腦計算中模擬突觸長、短期可塑性功能所需要的嗎?
至此,答案呼之欲出。通過對這兩種機制的“反向”利用,清華大學類腦計算研究中心團隊提出的動力學神經形態(tài)晶體管技術,使得長、短期記憶動力學功能可以在單個器件中集成地模擬,解決了類腦科學領域內的一個關鍵技術難題。
尋找更多能模擬人腦神經計算的半導體器件
神經元是另一種基本神經計算單元,其閾上的放電和閾下的振蕩參與了幾乎所有的認知功能環(huán)節(jié),本質上是細胞膜電位的上升和下降。從生物角度來看,神經元膜電位的變化由兩種離子通道參與——鈉離子(Na+)通道和鉀離子(K+)通道。
它們的工作過程是這樣的——當鈉離子通道打開時,膜外鈉離子(Na+)內流進入細胞,從而導致膜電位升高,這被稱為去極化過程;在膜電位達到一定程度后,重復極化過程開始,鈉離子(Na+)通道關閉,鉀離子(K+)通道打開,允許鉀離子(K+)外流離開細胞,從而使膜電位降低。
神經元的動力學更復雜,要對其進行模擬往往需要多個電子元件組合成電路。為了讓人工神經元器件既能動力學功能豐富,硬件又足夠精簡化,需要尋找新的材料來實現。
最終,碲這種新型半導體材料脫穎而出。它具有低熔點、低熱導率和電化學活性等綜合物理性質,很難在其他材料中找到這種組合性質。
這些性質使得碲導電通道結構能夠在電流的電場作用下生長出來,降低器件電阻,這可以與鈉離子(Na+)的內流去極化過程對應;隨之而來的電流焦耳熱則會熔斷碲導電通道,使器件電阻恢復,這與鉀離子(K+)的外流重極化過程對應。
在此基礎上,清華大學類腦計算研究中心團隊研制的碲半導體單器件,實現了對神經元閾上放電和閾下振蕩的全功能模擬。
與神經元和神經突觸相比較,神經樹突作為典型的生物神經網絡特征結構,曾被類比為簡單的導線。但越來越多的研究表明,神經樹突具備重要的神經計算功能,不僅執(zhí)行被動計算,甚至還能主動“放電”,這或許是人腦通用智能信息處理能力的關鍵來源之一,是賦能類腦計算的重要靈感來源。
神經樹突的主動放電動力學行為也源于豐富的離子通道。其以鈣離子(Ca2+)為介導,放電持續(xù)時間更長,產生的影響或更為顯著,并且其激活函數也可以呈現對于輸入刺激強度的非單調響應。這使得單個樹突就能解決更具挑戰(zhàn)性的非線性分類問題。
為了模擬神經樹突,清華大學類腦計算研究中心團隊采用了一種新型的晶體管結構,即基于pn異質結半導體溝道的晶體管,取代了傳統(tǒng)的均質或同質半導體溝道,利用這種特殊晶體管結構中非同尋常的“反雙極性”的轉移特性,模擬了鈣離子(Ca2+)介導的非單調激活和樹突放電,進一步豐富了晶體管的神經形態(tài)功能。
時至今日,盡管在模擬人腦神經計算方面已經取得一些進展,但大腦作為人類智慧的集結,是已知的宇宙當中最復雜的產物,對大腦的研究也被稱作是自然科學的“終極疆域”。類腦計算作為模仿神經生理學和生理心理學機制,以計算建模為手段并通過軟硬件協同實現的機器智能計算,距離實現人類打造像人腦一樣的“機器腦”這樣的夢想,還有充滿挑戰(zhàn)的路要走。
《光明日報》(2023年12月21日 16版)
版權聲明:凡注明“來源:中國西藏網”或“中國西藏網文”的所有作品,版權歸高原(北京)文化傳播有限公司。任何媒體轉載、摘編、引用,須注明來源中國西藏網和署著作者名,否則將追究相關法律責任。