第22章 想法撞車
章節報錯
85年出生的伊恩最近幾年的壓力有點大。
對於一個普通的博士生來說,他其實並沒有什麼做的不好的地方,相反,他聰慧努力,也一直就讀於名門。
本科,碩士均畢業於斯坦福,恩師是谷歌大腦的創辦人吳恩達,博士就讀於蒙特利爾,在AI三巨頭之一的本吉奧指導下學習。
他的學業經歷,個人智慧說是萬里挑一也不為過,不過如果要與他的導師們去做對比,確實稍顯暗淡了一些。
28歲的伊恩已經讀到了自己博士的最後一年,資料的生成演算法是他博士時期一直在思索的方向。
許多研究者們也已經在嘗試使用神經網路去模擬人腦,來生成新的資料。
只可惜目前為止,這些資料通常存在很大的問題,完全無法使用。
並且一個很大的阻力是,生成出來的影象往往不可名狀。這些無用的克系影象缺乏利用的手段,也不好去評估它們。
而前幾日,IMAGENET上模型效能超越人類標準的結果讓他有了新的靈感。
如果說,深度網路已經可以在一些影象類任務上達到人類水平的話,是否就可以避免生成式網路結果不好評判的問題,透過兩個網路的相互對抗來完成這樣的過程呢?
伊恩越想越覺得合理,他昨晚甚至沒顧得上睡覺,而是直接花了一晚上的時間實現了一個生成-對抗的雛形版本,並嘗試訓練了一下,發現結果似乎和預期的基本一致。
按捺不住激動的心情,他想要儘快和導師討論這裡面的原理和做法。
伊恩在本吉奧的辦公室門口來回徘徊了二十多分鐘,本吉奧這才從遠處大步流星地走了過來。
如果忽略頭髮和一把絡腮鬍中摻雜的白色,今年49歲的本吉奧其實看著相當年輕,只論這個面相的話,最多是一個三十五六的男人。
尤其是兩道形狀有些像憨豆先生的濃眉,讓他顯得更加忠厚,平易近人。
伊恩連忙往前跨了幾大步,同時將自己手中的筆記和實驗記錄展開。他指著上面的幾行核心的式子,正要開口的時候,卻被本吉奧無情打斷了。
“我知道你很急,但是你先別急。”本吉奧看著伊恩這個火急火燎的樣子,調侃道,“我們做學術講究的就是根基紮實,穩紮穩打。著急有什麼用?著急沒用呀。”
“有什麼話不能等我們進去了坐下慢慢聊呢?”本吉奧說著,掏出自己的鑰匙,開啟了辦公室的門。“進來吧,這才七點多你就蹲在了我辦公室的門前,想來一定有了什麼重大的發現吧?”
“很急,我真的很急。”伊恩深耕生成領域已經有段時日,在他昨天想到這個思路的時候,他就已經意識到了這將會是整個模式上的重大變革。
從本科開始到現在,十年磨一劍,伊恩非常興奮。他有不錯的學術嗅覺,能感覺到這個想法的不同凡響。自己的出頭之日就要到了嗎?
就在此時此刻,他可以感覺到這是一個絕佳的契機,能夠憑藉自己的實力,去擺脫吳恩達弟子,本吉奧弟子這一即是光環又是陰影的經歷。
讓世人真真正正地認識到他自己,透過自己提出的技術和演算法來重新看待自己。
“兩個網路的相互對抗嗎。”本吉奧聽完之後沉吟了一會,不像伊恩的幾個朋友那樣急著提出反對和懷疑的態度,本吉奧對富有想象力,富有創意的點子一直都是非常鼓勵的態度。
“同時訓練兩個模型,而不是一個。生成器和判別器兩者可以左腳踩右腳地螺旋相互提升。你是想透過這種模式,去讓生成器的分佈最終儘量接近於提供的真實資料。”
“這樣,我們也擺脫了尋常的思路,我們訓練判別器,不是為了讓它可以百分之百地判斷圖片是不是生成的。反而,我們的目的是為了讓判別器再也不清楚到底哪些是真,哪些是假。”伊恩補充道。
“對抗只是一種形式,其本身的目的還是為了訓練一個生成式的網路。我有信心,這種方式可以擺脫對資料標籤的依賴,大量的其他資料可以在不需要額外處理的情況下被利用起來。”
伊恩直到此時,激動的情緒還沒有平息。
“不僅僅是如此,生成只是最初步的應用。”本吉奧思索了一會兒,說道,“它完全可以透過對資料的篩選來達到特別的目的。只需要少量的程式碼調整,我相信它可以很好地處理佈局簡單的圖案,尤其是在人臉這樣的方向,這是非常危險的技術。”
“你打算給它取一個怎樣的名字?”本吉奧一邊說著一邊開啟了電腦,給技術起名字是一個難題,也是一門藝術。
名字取不好,工作全白搞。
一個響亮的名字,一個有趣而簡潔的縮寫,都很有可能會提升工作的知名度,受歡迎程度和應用範圍。
“生成...與..對抗。要不,就叫它生成式對抗網路?”伊恩也還沒有仔細去想這個問題,便將這個想法中最關鍵的兩個元素給新增到名字當中。
“GenerativeAdversarial嗎,我來看一看。”取名的第一步,自然是檢索,看看有沒有人已經佔了坑位。
本吉奧這一檢索,遠在天邊的孟繁岐突然打了個噴嚏,心說這大夏天的,怎麼還著涼了呢?
“這個名字好像已經被人給佔用了,就在前兩天,非常不巧啊。”本吉奧此時還沒有意識到問題的嚴重性,“看來我們要換另一個名字了。”
一邊說著,本吉奧一邊點開了這個預印本。
“DreamNet是什麼網路,好像之前沒有看到過。”本吉奧依稀覺得這個名字似乎這兩天有誰提過,但他忙於別的研究事宜,倒也沒有太在意。
但剛剛看完摘要,本吉奧的眼神便犀利了起來,表情也變得非常嚴肅。
伊恩此時還在苦思冥想,到底用個怎樣的名字會好一些。
而本吉奧則用一句話,無情地擊穿了他的防禦,“伊恩,看樣子我們不能使用的可不只是一個名字啊。”
“什麼?我們的想法撞車了?”伊恩大驚失色,學術想法撞車,這對科研人員來說可能是最倒黴的事情之一了。