諾貝爾物理學獎頒給了AI！機器學習先驅(qū)Hinton與Hopfield聯(lián)手獲獎，出乎所有人的意料。

今年的諾貝爾物理學獎頒給了機器學習領(lǐng)域的兩位先驅(qū)，杰弗里·辛頓（Geoffrey Hinton）和約翰·霍普菲爾德（John Hopfield）。這打破了此前人們關(guān)于該獎項可能頒發(fā)給凝聚態(tài)物理或量子物理領(lǐng)域科學家的預測。機器學習，尤其是神經(jīng)網(wǎng)絡技術(shù)，成為今年的獲獎領(lǐng)域，標志著人工智能技術(shù)在科學界獲得了前所未有的認可。這一獎項表彰的是他們?yōu)槿斯ど窠?jīng)網(wǎng)絡的研究與發(fā)展所做出的基礎性貢獻，這些工作不僅在計算機科學領(lǐng)域產(chǎn)生了深遠影響，更從根本上改變了我們理解和模擬人類大腦工作的方式。

那么，AI和機器學習與物理學到底有什么關(guān)系？諾貝爾獎委員會的解答給出了答案：Hinton和Hopfield在構(gòu)建人工神經(jīng)網(wǎng)絡的過程中，借鑒并應用了物理學中的許多概念和方法。正是這些來自物理學的工具，幫助他們找到信息處理中的關(guān)鍵特征，并成功構(gòu)建了如今深度學習革命的技術(shù)基礎。

Hopfield提出的“Hopfield神經(jīng)網(wǎng)絡”，以相當于物理學中自旋系統(tǒng)能量的方式進行描述。

Hinton提出的“玻爾茲曼機”，則使用了統(tǒng)計物理學中的工具。

后來Hinton在這項工作的基礎上，幫助啟動了當前機器學習的爆炸性發(fā)展，也就是我們熟知的深度學習革命了。

霍普菲爾德神經(jīng)網(wǎng)絡：物理與生物的橋梁

霍普菲爾德是神經(jīng)網(wǎng)絡領(lǐng)域的奠基人之一。1933年出生的他，在1954年獲得了斯沃斯莫爾學院的物理學學士學位，1958年在康奈爾大學取得博士學位。早期的他專注于物理化學和凝聚態(tài)物理的研究，但在貝爾實驗室工作期間，霍普菲爾德逐漸對分子生物學產(chǎn)生了濃厚的興趣。正是在這種背景下，他開始思考如何將物理學的方法應用于大腦神經(jīng)元網(wǎng)絡的研究。

人工神經(jīng)網(wǎng)絡的基本思想是模擬人類大腦中神經(jīng)元的連接與信號傳遞過程。大腦中的神經(jīng)元通過突觸傳遞信號，當我們學習新事物時，一些神經(jīng)元之間的連接變強，而另一些則變?nèi)??；羝辗茽柕略?0世紀80年代提出的“霍普菲爾德神經(jīng)網(wǎng)絡”通過物理學中的自旋系統(tǒng)能量來描述神經(jīng)元之間的連接，揭示了這些復雜網(wǎng)絡中的動態(tài)過程。

后來，人們開始嘗試利用計算機模擬大腦的網(wǎng)絡功能，進而構(gòu)建出人工神經(jīng)網(wǎng)絡。

在這些網(wǎng)絡中，大腦的神經(jīng)元被模擬為具有不同值的節(jié)點，突觸則由節(jié)點之間的連接來表示，這些連接的強度可以增強或減弱。唐納德·赫布的假設至今仍然是訓練人工網(wǎng)絡、更新其連接強度的基本規(guī)則之一。

在接下來的很長一段時間里，學術(shù)界都致力于通過數(shù)學和物理的方法來研究和探索生物神經(jīng)網(wǎng)絡的工作機制。

例如，約翰·霍普菲爾德（John Hopfield）曾利用自己在物理學方面的背景，研究分子生物學中的理論問題。后來，他受邀參加了一次關(guān)于神經(jīng)科學的會議，會上他接觸到了有關(guān)大腦結(jié)構(gòu)的研究。這些研究深深吸引了他，使他開始思考神經(jīng)網(wǎng)絡的動態(tài)行為。

霍普菲爾德意識到，當神經(jīng)元群體共同作用時，它們能夠產(chǎn)生新的、強大的特性，這些特性是單獨觀察網(wǎng)絡各個組件時無法顯現(xiàn)出來的。

1980年，霍普菲爾德離開了普林斯頓大學，研究興趣逐漸從物理學領(lǐng)域轉(zhuǎn)向神經(jīng)科學。他搬到了加州理工學院（Caltech），在那里他能夠利用免費的計算機資源進行實驗，進一步發(fā)展他對神經(jīng)網(wǎng)絡的想法。

盡管霍普菲爾德進入了神經(jīng)科學領(lǐng)域，但他從未放棄其物理學的根基，反而在其中找到了寶貴的靈感。他特別受益于對磁性材料的研究。這類材料因其原子自旋（使每個原子都如同微型磁鐵的特性）而擁有獨特的性質(zhì)。相鄰原子的自旋相互影響，能夠形成同向排列的自旋區(qū)域?；羝辗茽柕陆栌昧宋锢韺W中的這一描述，構(gòu)建了一個由節(jié)點和連接組成的模型，當自旋相互影響時，網(wǎng)絡就會產(chǎn)生特定的行為模式。

與生物神經(jīng)網(wǎng)絡不同，人工神經(jīng)網(wǎng)絡是由編碼數(shù)值的節(jié)點構(gòu)成的。當網(wǎng)絡進行訓練時，節(jié)點之間的連接強度會隨著節(jié)點的活動頻率而增強或減弱，類似于神經(jīng)元之間的突觸連接。

Hopfield構(gòu)建的網(wǎng)絡節(jié)點通過不同強度的連接相互連接。

每個節(jié)點可以存儲一個單獨的值——在Hopfield的第一次工作中，這可以是0或1，就像黑白圖片中的像素格一樣。

Hopfield用一個屬性來描述網(wǎng)絡的總體狀態(tài)，這相當于物理學中自旋系統(tǒng)中的能量；能量是使用一個公式計算的，該公式使用所有節(jié)點的值和它們之間所有連接的強度。霍普菲爾德網(wǎng)絡通過將圖像輸入到節(jié)點，賦予它們黑色（0）或白色（1）的值來編程。

然后，網(wǎng)絡的連接使用能量公式進行調(diào)整，以便保存的圖像獲得低能量。當另一個模式輸入到網(wǎng)絡時，有一個規(guī)則是逐個檢查節(jié)點，看看如果改變該節(jié)點的值，網(wǎng)絡的能量是否會降低。

如果發(fā)現(xiàn)如果黑色像素是白色，能量會降低，它就會改變顏色。這個過程繼續(xù)進行，直到無法找到進一步的改進。

當達到這一點時，網(wǎng)絡通常已經(jīng)在它被訓練的原始圖像上復制了自己。

如果只保存一個模式，這可能看起來并不那么引人注目。

也許你想知道為什么你不只是保存圖像本身并與正在測試的另一個圖像進行比較，但Hopfield的方法之所以特別，是因為可以同時保存多張圖片，網(wǎng)絡通常可以在它們之間進行區(qū)分。

Hopfield將搜索網(wǎng)絡以尋找保存的狀態(tài)比作在有摩擦減緩其運動的山峰和山谷景觀中滾動一個球。

如果球被放在一個特定的位置，它會滾進最近的山谷并在那里停止。如果網(wǎng)絡被給予一個接近保存模式之一的模式，它將以同樣的方式繼續(xù)前進，直到它最終到達能量景觀中的山谷底部，從而找到記憶中最接近的模式。

后來，霍普菲爾德和他的同事們進一步改進了網(wǎng)絡，使得節(jié)點可以存儲不僅僅是0或1的值，而是多個值，如圖片中的像素可以有不同的顏色，而不僅僅是黑白。改進后的模型使得網(wǎng)絡能夠保存更多圖像，并且即使圖像非常相似，它們也能被成功區(qū)分。這意味著網(wǎng)絡不僅可以識別信息，還可以根據(jù)輸入重建數(shù)據(jù)，只要數(shù)據(jù)由足夠多的點構(gòu)成。

不過，記住一個圖像是一回事，解釋它代表的含義又是另一回事。即使是很小的孩子，也可以通過觀察不同的動物，并指出它們是狗、貓或松鼠。雖然偶爾會出錯，但他們很快就能正確分辨。孩子們無需學習復雜的分類規(guī)則，通過接觸多個例子，他們的大腦能夠自然形成類別概念。人們也是通過日常的體驗，學會識別貓，理解詞匯，或通過觀察環(huán)境的變化來感知事物。

當霍普菲爾德發(fā)表他的聯(lián)想記憶理論時，杰弗里·辛頓（Geoffrey Hinton）正在卡內(nèi)基梅隆大學工作。辛頓此前在英國和蘇格蘭學習實驗心理學和人工智能，并一直思考機器是否能夠像人類一樣，通過模式處理和分類，找到有效的信息解釋方式。

辛頓與玻爾茲曼機：推動深度學習的革命

杰弗里·辛頓，作為神經(jīng)網(wǎng)絡領(lǐng)域的另一位領(lǐng)軍人物，進一步推動了這一領(lǐng)域的發(fā)展。辛頓于1947年出生，早期在英國學習實驗心理學和人工智能，后來在卡內(nèi)基梅隆大學工作。

在1980年代，辛頓與同事Terrence Sejnowski一起，利用統(tǒng)計物理學中的一些基本工具擴展了霍普菲爾德神經(jīng)網(wǎng)絡的模型。

他們的研究借鑒了統(tǒng)計物理學中由玻爾茲曼方程描述的理論。玻爾茲曼方程揭示了物質(zhì)在不同能量狀態(tài)下的分布概率，這一理論在復雜系統(tǒng)的分析中具有重要意義。辛頓用這一思想提出了“玻爾茲曼機”，這種神經(jīng)網(wǎng)絡能夠通過學習訓練，逐步調(diào)整節(jié)點之間的連接強度，從而在模式識別和數(shù)據(jù)處理上表現(xiàn)出色。

雖然玻爾茲曼機的早期版本訓練效率較低，但辛頓始終沒有放棄對這一領(lǐng)域的研究。到了2006年，他和他的團隊提出了“深度信念網(wǎng)絡”（Deep Belief Nets），開啟了深度學習的新時代。深度信念網(wǎng)絡的無監(jiān)督逐層訓練方法極大地提高了神經(jīng)網(wǎng)絡的學習效率，成為了現(xiàn)代深度學習算法的核心基礎。這一突破直接推動了當今人工智能的爆炸性發(fā)展，為語音識別、圖像處理、自動駕駛等領(lǐng)域的應用奠定了堅實的技術(shù)基礎。

在最后，諾貝爾獎委員會提到，Hopfield和Hinton兩人在80年代的工作為2010年左右開始的機器學習革命奠定了基礎。

物理學與機器學習的交匯點

機器學習與物理學的聯(lián)系不僅僅停留在理論層面。在實踐中，物理學的方法論也大大加速了機器學習的發(fā)展。例如，物理學中的統(tǒng)計學方法幫助研究人員理解如何通過調(diào)整神經(jīng)網(wǎng)絡的參數(shù)來優(yōu)化學習過程。此外，物理學中處理復雜系統(tǒng)的方法也為機器學習處理大規(guī)模數(shù)據(jù)提供了強大的工具。

另一方面，機器學習也為物理學提供了新的工具。近年來，機器學習技術(shù)在希格斯粒子發(fā)現(xiàn)、引力波探測等物理研究中得到了廣泛應用，幫助物理學家處理海量數(shù)據(jù)、去除噪聲、提升實驗效率。更進一步，機器學習還被用于預測材料和分子的性質(zhì)，推動新型材料的研發(fā)和發(fā)現(xiàn)。

雙料得主辛頓：圖靈獎與諾貝爾獎的榮耀

辛頓的卓越貢獻不僅為他贏得了諾貝爾物理學獎，早在2018年，他便因其對深度學習領(lǐng)域的貢獻，獲得了計算機科學領(lǐng)域的最高榮譽——圖靈獎。成為同時擁有諾貝爾獎和圖靈獎的科學家，辛頓與赫伯特·西蒙（Herbert Simon）齊名。西蒙因其在人工智能和人類認知領(lǐng)域的開創(chuàng)性工作，分別獲得1975年的圖靈獎和1978年的諾貝爾經(jīng)濟學獎。

辛頓與西蒙的共同點在于，他們都跨越了多個學科，將計算機科學與其他領(lǐng)域結(jié)合，推動了跨學科研究的巨大進步。他們的工作不僅對人工智能和機器學習領(lǐng)域產(chǎn)生了深遠影響，也為未來科學的發(fā)展提供了更多可能性。

今年諾貝爾物理學獎頒給Hinton和Hopfield，既是對他們在神經(jīng)網(wǎng)絡和機器學習領(lǐng)域卓越貢獻的肯定，也展現(xiàn)了物理學與計算機科學之間的深刻聯(lián)系。隨著AI技術(shù)的不斷進步，未來我們可能會看到更多類似的跨學科成果，而這也正是科學不斷發(fā)展的魅力所在。

參考鏈接：
[1]https://www.nobelprize.org/
[2]https://www.cs.toronto.edu/~fritz/absps/ncfast.pdf