第七十九章 論文之爭
美國,,舊金山,斯坦福大學(xué),,一座安靜的公寓內(nèi),。
曼寧正疑惑地看著他眼前西裝革履的男人,。
“皮埃爾,,你作為ACL的領(lǐng)域主席之一,,不好好干你的工作,,跑到我這來干什么,?”曼寧問道,。
“曼寧教授,我是想讓您幫我過目一篇論文,?!逼ぐ柸鐚嵳f道。
“皮埃爾,,我想你應(yīng)該明白,,我雖然是ACL的會員,但我并不是很在意這個身份,?!甭鼘庮^也不回地說道:“而且你并沒有和我預(yù)約時間,今天是我和我夫人難得的周末,,我不希望任何事情打擾到我和她的約會,。”
皮埃爾只得尷尬地笑著,,曼寧這話不但有些指責(zé)他的突然登門,,而且還有些輕視ACL的意思。
然而,,皮埃爾一點脾氣都沒有,,如曼寧剛剛所說,曼寧是真的一點不在乎ACL會員的身份,,畢竟曼寧不但是ACL最高榮譽會員,,還是AAAI和ACM等多個人工智能頂會或者國際組織的最高榮譽會員,在別人眼中搶破頭才能拿到的最高榮譽會員,,在曼寧眼里,,也就那么回事。
反而是ACL非常在意曼寧這位大佬,,這位大佬的名字掛在ACL的官網(wǎng)上,,都能讓ACL含金量提高不少。
再說了,,要是惹曼寧這位大佬不高興了,,甚至曼寧都不需要特地做什么,只要論文投稿的傾向稍微往其他會議傾斜一下,,那都夠ACL喝一壺了,,要知道,,每年曼寧實驗室的論文是多少頂會頂刊都求之不得的。
總之,,不能惹這位大佬不開心,。
一切為了ACL!
皮埃爾覺得自己真的是個盡忠職守的領(lǐng)域主席,。
“曼寧教授,,拜托了,這篇論文事關(guān)重大,,很可能會轟動整個人工智能領(lǐng)域,,如果有您的認(rèn)定,ACL那邊也更放心不是么,。在看到這篇論文的時候,,我第一時間就想起了您,因為您在自然語言處理中對注意力機制的運用非常巧妙,,您或許能給這篇論文下一個中肯的評價,。”皮埃爾哀求道,。
“很遺憾,,皮埃爾,這些稱贊對我可沒什么用,,而且我和夫人馬上就要出發(fā)了,,或許你可以下周來找我?!甭鼘帗u了搖頭,再度拒絕,。
皮埃爾一陣苦笑,,這位大佬一向是非常溫和的,而且很好說話,,平常甚至都不太會拒絕別人的要求,,但只要涉及到他夫人的事情的時候,總像變了一個人一樣,。
深情的男人真難對付啊,。
“我搞不明白有什么需要我評價的,難道你們審稿人吵起來了,?”曼寧正把衣服一件件塞到行李箱里,,開玩笑般地說道。
想不到這句話正好戳中皮埃爾的痛處:“快打起來了,?!?p> “這么夸張,?”曼寧詫異道。
ACL雖然也是采用盲審制度,,但畢竟不是像AAAI那樣兩輪盲審,,還有個領(lǐng)域主席這種潤滑劑一樣的存在和審稿人們一起討論,怎么會到這種地步,。
“不過就算天塌下來了,,也不能阻止我和我夫人的約會?!甭鼘幚^續(xù)收拾著行李,。
“曼寧教授,我向您保證,,不會耽誤您和您夫人的約會,,您只要看上兩眼,五分鐘就好,,這篇論文的意義重大,,很可能會影響人工智能領(lǐng)域的走向啊。先生,,我還記得您在前年的學(xué)術(shù)會議上說的,,人工智能是人類科技的一個皇冠,而注意力機制是皇冠上的一顆璀璨的寶石,,然而至今為止還無人能鑒賞這顆寶石的美……但現(xiàn)在這顆寶石就在這里,,就在您手里啊?!?p> 皮埃爾不死心的話讓曼寧的動作一頓,,他早聽說ACL的領(lǐng)域主席一個個能說會道,今天總算是體會到了,。
皮埃爾充滿期待地看著曼寧,,而曼寧則一臉糾結(jié)。
“曼寧教授,,寫這篇論文的是ELMo的作者,,F(xiàn)ei Su?!逼ぐ柨绰鼘幦匀华q豫不決,,又添了一把火。
曼寧聽到這個名字,,眉頭一挑,,盯著皮埃爾的眼睛,他沉默了好一會兒,,最終長嘆一口氣,,道:“就五分鐘,。”
“我向您保證,,先生,!”皮埃爾笑著把論文遞了過去。
“Attention is all you need,?”
看到這個標(biāo)題,,曼寧就是一驚。
他在看到這個題目的瞬間便被吸引住了,,這種有些狂妄的態(tài)度,,不愧是那個構(gòu)建出ELMo的天才。
曼寧一點也不覺得這個有些高傲的論文題目有什么問題,,相反,,他覺得天才就該如此,不趁著年輕的時候狂妄,,難道等老了以后悲春傷秋,?
“構(gòu)建新的模型單元?”
“僅用注意力機制,?”
曼寧剛讀完論文概要,,便開始驚呼,這是多少人嘗試過或正在嘗試卻無法成功的事情,。
這個本科生……步子是否邁的太大了,?
曼寧不禁有些為蘇飛擔(dān)憂,天才且狂妄是好事,,但狂妄不代表魯莽,,學(xué)術(shù)還是要一步一步來的。
但很快,,他就再也沒有這種想法了,。
越往下看他越心驚,大概過了十分鐘,,曼寧把行李箱放到一旁,眉頭緊鎖著,,一動不動地盯著這篇論文,。
用位置向量引入位置信息以此解決無序問題?
多頭注意力機制解決信息單一問題,?
十分大膽而巧妙的想法,!
曼寧發(fā)現(xiàn)他根本找不出什么可以改進(jìn)的地方,硬要說的話,,那就是這次的論文,,讀起來不是很順暢,,有一些語法瑕疵,比起上次的ELMo那篇論文,,感覺英文寫作水平下降了一些,。
當(dāng)然,這些都是可以忽略的小問題,。
曼寧繼續(xù)往下看,,作者給出了這個模型在機器翻譯上的評分和所用時間,性能上遠(yuǎn)遠(yuǎn)超出了現(xiàn)在所有的主流模型,。
再下面一部分還有作者附帶的理論證明,,企圖通過數(shù)學(xué)的角度,來解釋這樣構(gòu)建模型的依據(jù),。
在深度學(xué)習(xí)中,,大多數(shù)人都講不清原理,畢竟深度學(xué)習(xí)是個黑盒,。
但這篇論文卻能大概講清楚原理,,雖然在很多地方還是存在經(jīng)驗性的判斷,但比起深度學(xué)習(xí)這個領(lǐng)域的其他論文,,已經(jīng)好很多了,。
上次的ELMo也是,這個小小的本科生好像總是很較真,,給人一種非得把道理講清楚不可的感覺,。
而且更有趣的是,上次把模型取名為埃蒙,,這次取名為變形金剛……
有意思,,這個作者真的很有意思。
曼寧不禁會心一笑,。
“曼寧教授,,如何?”
皮埃爾從剛才開始就一動不敢動地站著,,腳都有些僵硬了,。
“完美?!甭鼘幙滟澋?,但隨即他又有些疑惑:“我想ACL的審稿人們不會連這種水平的論文都看不出來吧,這有什么可爭論的,?”
皮埃爾嘆了一口氣,,道:“這次的審稿人里有埃德溫教授?!?p> “呵呵,,又是這些無聊的蠅營狗茍,。”
曼寧冷笑一聲,,他差不多猜出了事情的全貌,。
埃德溫他是知道的,這人本事是有,,在ACL里也有不小話語權(quán),,但太注重利益,一門心思根本不在學(xué)術(shù)上,。
而且碰巧的是,,埃德溫也是研究注意力機制的,但蘇飛這篇論文已經(jīng)把注意力機制連根拔走了,,如果Transformer一旦過稿,,埃德溫手里的論文可能就刊登不出去了。
所以,,八成就是埃德溫拼命找茬不給過稿,,想拖延時間,等自己手里的論文入庫,,再松口,。
這也是AAAI和ACL等審稿制度的弊端,雖然寧缺毋濫的篩選方法保證了論文的高含金量,,但是只要審稿人里有人存心想搞事情,,那這次審稿就別想安寧了。
“皮埃爾,,也是辛苦你了,。”
曼寧悠悠地嘆了口氣,,看來這次皮埃爾來,,就是想尋求自己的幫助。
“一切都是為了ACL吧,?!?p> 畢竟如果到時候這種打壓論文的丑聞傳出去,埃德溫肯定名譽盡失,,但ACL的名譽也好不到哪去,。
皮埃爾覺得自己為了ACL真是操碎了心。
不過,,最重要的是,沒人希望這種劃時代的論文因為一己之私受到這種不公平的待遇,。這種能推動整個人工智能領(lǐng)域前進(jìn)的成果要是真的被成功打壓,,皮埃爾只會覺得人工智能玩完了,,學(xué)術(shù)界也玩完了。
這也是另外兩個審稿人和皮埃爾達(dá)成的共識,,既然埃德溫死不松口,,一定要找茬,那就偷偷找曼寧這個在ACL中地位超然的人,,讓曼寧大佬來做個公正的評判,。
“讓ACL那邊重新分配下審稿人吧,就說這篇論文我親自來審,,替換掉埃德溫,。如果埃德溫有意見讓他親自來跟我談?!?p> 皮埃爾聽到曼寧的這句話,,內(nèi)心的一塊石頭終于落地。
至于埃德溫敢來找曼寧嗎,?他敢個p,!
曼寧這種學(xué)閥頭頭,身上掛的終身榮譽數(shù)都數(shù)不清,,埃德溫也就敢在自己這個領(lǐng)域主席面前橫一橫,,在曼寧面前敢說個不么。
“感謝曼寧教授,,那么我就不打擾了,,祝您和您的夫人玩的開心?!逼ぐ柕乐x后便直接離開了,。
曼寧看了看時鐘,嘆了口氣,,現(xiàn)在該考慮的是該怎么哄夫人了,。
…
…
遠(yuǎn)在大洋彼岸另一端的蘇飛可完全不知道這場因為他的這篇論文而引發(fā)的斗爭。
在這天,,他被叫到了老趙辦公室,,一是因為接到了華大的保研錄取通知,二則是因為收到了一封邀請函,。
而這次被趙文兵叫來辦公室的主要原因就是這封邀請函,。
這是AAAI2022年論文發(fā)表會的邀請函。
在AAAI2022年收錄的論文中,,挑選其中的優(yōu)質(zhì)論文,,合并為論文集,并邀請作者們前來進(jìn)行論文發(fā)表,不只是AAAI,,這算是各大頂會每年的傳統(tǒng)節(jié)目,。
“蘇飛,你可是江大至今第一個被AAAI邀請的本科生啊,?!?p> 老趙一臉自豪地拍了拍蘇飛的肩膀,周圍的老師們也是頗為欽佩地看著蘇飛,。
多少人都盼著被AAAI這種頂尖學(xué)術(shù)會議邀請,,他們江大這幾年除了那一批知名的教授和零星幾個特別優(yōu)秀的博士生,哪有人有這種殊榮,。
“還是趙哥你培養(yǎng)的好,!”蘇飛拍了拍老趙的馬屁。
“害,,從你入學(xué)開始我就一直關(guān)注著你,,一看你就不是普通人,打小看你行,!”老趙聽到蘇飛的句話,,樂得眉開眼笑,配上那微胖的身材,,活像個彌勒佛,。
“那你小子準(zhǔn)備啥時候動身?”趙文兵問道,。
“我沒準(zhǔn)備去啊,。”蘇飛說道,。
?。??,?
“這么好的機會你不準(zhǔn)備去?萬一能奪得AAAI年度最佳論文呢,?而且今年AAAI會議地址被定在京城,,要是往年還得出國,多難得,?!壁w文兵不解。
“沒機會的,,今年有SSD那篇論文,,我沒啥希望,。”蘇飛如實說道,。
“SSD……但你不試著爭一爭么,?”
趙文兵有些替蘇飛感到惋惜。
如果說蘇飛的ELMo是自然語言處理領(lǐng)域的新時代,,那么SSD就是計算機視覺目標(biāo)檢測領(lǐng)域的新時代,而且好巧不巧的是,,無論ELMo還是SSD都投在了今年的AAAI上,,這兩個新時代的造物自然是今年AAAI年度最佳論文的最大競爭者,其他論文都得往邊上靠,。
其實論兩者的模型結(jié)構(gòu)和性能,,ELMo完全不輸于SSD,甚至在創(chuàng)新性上還要優(yōu)于SSD,,但很可惜的是SSD是計算機視覺領(lǐng)域的論文,,而ELMo是自然語言處理領(lǐng)域,在如今的人工智能界,,后者要比前者弱勢很多,。
因為自然語言處理領(lǐng)域的很多算法都是抄襲計算機視覺的,就像是跟著計算機視覺屁股后面吃飯,,給人一種拾人牙慧的感覺,。
所以,與其說是ELMo輸給了SSD,,倒不如說是自然語言處理輸給了計算機視覺,。
這其實也算是蘇飛不想研究自然語言處理的一個原因,在別人后面總結(jié)歸納再創(chuàng)新當(dāng)然也是一個很不錯的選擇,,但他想要走在最前面,。
“太可惜了啊?!壁w文兵嘆了口氣:“要是你投今年的ACL,,肯定能拿下最佳論文?!?p> 額,,我還真投了ACL,只不過不是這篇……
但話又說回來了,,要是當(dāng)時想投ACL,,那就趕不上保研,所以說,,這就是個死結(jié),。
蘇飛早就看開了,他今年和AAAI的年度最佳論文沒有緣分,但凡希望大點他都會去爭取一下,,畢竟頂會的最佳論文,,含金量是很高的,對未來的學(xué)術(shù)發(fā)展用處不小,。
不過就算是今年的ACL,,競爭也不小啊,姜大小姐的那個JGAN,,也是一個強有力的競爭對手,,當(dāng)然,蘇飛完全不覺得自己會輸,。
“今年還真是藏龍臥虎啊,。”
他不禁感嘆道,。
我愛西瓜書
感謝各位的支持呀,! 感謝與世無邪和啃書啃個夠大佬的兩張月票! 今天試下4000字大章,。