第89章 理論和應用

AI技術是比較少見的應用遠大於理論的學科，但並非是沒有理論。

孟繁岐目前為止產出的所有技術，其論文當中還是有這許多理論方面的論證和推衍的。

不過這部分內容大都源自於與付院長的討論，屬於是錦上添花，並非是孟繁岐的本意。

之所以會新增這些數理推衍，主要是因為早期的AI屆仍舊相當看重這方面的論證。

這也是為什麼那幾個老學究聽到韓辭內容的時候眼裡放光，口中讚歎不絕。

而在聽孟繁岐實驗上的世界級突破時雖然讚歎，卻沒有這種由衷的興奮。

對於醉心於理論的人來說，搞懂這個現象的理論原因到底是什麼，遠比做出影響世界的技術應用更加重要，也更加有吸引力。

也正是這種好奇心和對真理的探索，造就了人類一次次文明與技術的突破。

只是很遺憾的，在AI這條道路上，偏理論的方向註定會坎坷異常。

至少直至2023-2024年左右，仍舊沒有什麼像樣的突破。

而孟繁岐在今後的論文當中，涉及理論的部分也只會越來越少，會更加註重工業應用方面的難點和內容。

“她是誰？你的同學嗎？”辛頓聽了韓辭對孟繁岐殘差思想的解釋之後，覺得思路一下子開啟了不少。

如果從動力系統視角構建等價性，那數學和物理界的很多概念都可以引入進來，事情就大有可為了。

“她是燕京大學的，現在已經讀了研究生了。”孟繁岐言下之意是，韓辭已經有導師了。

“她應該是搞應用數學的吧。”李飛飛可不像辛頓一樣，恪守禮節。

在她看來，只要牆腳挖的好，沒有學生找不到，“她導師是誰？”

“鄂維南院士。”孟繁岐突然想到，李飛飛本科是普林斯頓的，搞不好和鄂維南有點交集。

鄂維南上世紀末開始在普林斯頓教過應用數學和計算數學，那段時間差不多正好是李飛飛在讀本科的時候。

“行，我去想想辦法，把她拐到這邊來交流幾年。”李飛飛嘿嘿一笑。雖然當年與鄂維南不熟，但怎麼也算是聽過對方課的，也算是半個學生。

在她看來，韓辭在AI數學和最佳化問題方面大有可為。

純數學只要不解決大難題，終究是難出成果的，而搭上AI現在飛速發展的順風車，則前途一片光明。

比如韓辭現在在講述的殘差思想，在數學和物理界都算不上什麼高深的東西。

可結合孟繁岐的應用成果來展示，則大大的加分，意義非凡。

不同領域的交叉地帶，一向是出成果的捷徑。

臺上，韓辭的講述仍在繼續。

“我們假設一個簡單的高維積分問題，計算一個可以表示為期望的積分I(g)，先透過有限求和Im(g)來逼近。

若改用蒙特卡洛辦法，從特定的獨立同分布的抽樣樣本中選擇N個樣本，則有恆等式E(I(g)-Im(g))^2=var(g)/N，var(g)=Eg^2-(Eg)^2)

這告訴我們收斂速度與維度無關。”

“若我們先用傳統傅立葉變換，再用均勻的離散傅立葉變換來逼近。其誤差則~m^-a/d，必然被維度所影響。

可，若一個函式可以表示成期望的形式，而令所有樣本為獨立同分布樣本，則有擬合差值為var(f)/m，與維度無關。

若將兩層神經網路寫作該形式，則意味著，這一類期望函式均可由兩層神經網路逼近，且其逼近速度與維度無關。”

“讓我們轉向離散動力系統的視角，舉一個隨機控制問題。

動力模型Zl+1=Zl+g1(z1，a1)+n，其中z為狀態，a為控制訊號，n為噪聲。若我們想尋找一個反饋控制訊號函式，而透過求解動態規劃貝爾曼方程，則必然會遭遇維度災難問題。

該過程的性質，其實與殘差網路等同。

..................”

“最後，我總結。深度學習根本上是高維中的數學問題。神經網路是高維函式逼近的有效手段，而殘差網路則是更加容易最佳化的高維函式。

這意味著：數學處於科技創新的真正前沿，並且對新領域產生直接衝擊。同時也為人工智慧領域、科學以及技術領域提供了眾多新的可能性。”

韓辭總共講述的時間大約是孟繁岐的兩倍，講述完成之後，更是被幾位老學究抓著反覆提問，討論。

半晌，主持人才找到機會重新登臺，把孟繁岐又請了上去。

主持人看上去年紀不大，大約三十歲左右，估計是斯坦福的在讀博士生或者剛畢業的講師。

為人相當活躍，看熱鬧的不嫌事大，他將孟繁岐重新請上來之後，還開了一句玩笑。

“這次演講本來是你的舞臺，現在卻被韓辭小姐搶去了不少風頭和關注，不知道你作何感受？”

孟繁岐笑著接過話筒，等臺下的笑聲稍稍平息一些過後，十分大方地回答道，“我們專注應用方面的人，依靠得是程式碼說話。雖然我今天絲毫沒有提到技術的實現和細節，但我想看了我程式碼的大家，都已經感受到了我的萬語千言。”

臺下的不少程式設計師聞言馬上開始起鬨，口哨聲和呼聲此起彼伏。

“我的夢想是自己的技術可以廣泛地應用到世界各地，讓AI智慧就如空氣一般，每個人都無法缺少，但在生活當中卻又很少會注意到它們的存在。

至於AI的理論研究和探索，可能就要拜託韓辭和大家了。”

這一番話還算是謙遜得體，意料之中地迎來全場的掌聲。

臺下諸人又再分別向兩人問了一些問題之後，會議的主要流程也算是走完。

除了公開詢問的問題，不少人也有很多私下裡才方便的問的事情要詢問兩人。

於是乎，在場的不少人就自然而然地分成了應用與理論兩個派別。

一派以科技巨頭，例如傑夫為首，圍在孟繁岐周邊討論他出色成果的應用場景，市場潛力還有落地難點。

而另一派則以牛津大學的幾位老學究為首，一群理論派，表情嚴肅，正在嚴謹地討論一些設想和它們的理論證明。

以會場中心的走廊為分界線，一群人在左，一群人在右。

倒是一幅意外有趣的畫面。