第十八章 論文投稿
蘇飛一口氣刷數(shù)學(xué)全書到了晚餐時(shí)間,,簡短的吃了個(gè)飯,,回來繼續(xù)肝,。
不過很快,,他的VX就收到了老趙的消息,論文已經(jīng)潤色完成,,電子版打包發(fā)了過了,,蘇飛簡略地查了一遍,,發(fā)現(xiàn)老趙居然還把自己的代碼精簡了一下,。
再次感謝老趙后,蘇飛抱著手提就上了床,,連上wifi,,準(zhǔn)備論文投稿。
蘇飛先注冊了CMT賬號(hào),,然后填寫了姓名郵箱等雜七雜八的個(gè)人信息,,弄了半天終于進(jìn)入了AAAI2022會(huì)議項(xiàng)目,把論文題目,,摘要和全文一個(gè)個(gè)貼上去,,附上了代碼,完成上傳,。
論文狀態(tài)被修改為“submitted-to-editor”,,表示論文已經(jīng)成功提交給編輯了,接下來只要慢慢排隊(duì)就行......當(dāng)然,,蘇飛完全不準(zhǔn)備排隊(duì),。
‘系統(tǒng),使用插隊(duì)卡,?!?p> ‘叮!插隊(duì)卡使用成功,!’
系統(tǒng)提示音剛落下,,蘇飛就受到了郵件提示,自己的論文狀態(tài)已經(jīng)更改為“under-review”,。
蘇飛瞠目結(jié)舌,,論文成功提交給編輯和成功給審稿人是不同的概念,特別是這種頂會(huì),編輯的作用很可能就只是匯總一下審稿人的意見,,自己沒什么決定權(quán),,所以重點(diǎn)還是在審稿人上,這種編輯又叫“meta-review”,,meta是元分析的意思,,就是概括分析所有審稿人的意見,完全就是工具人,。
一想到自己的論文已經(jīng)躺在審稿人的郵箱里,,蘇飛就激動(dòng)地在床上手舞足蹈。
當(dāng)然,,這也只是第一步,,AAAI這種頂會(huì)中的頂會(huì),審稿人有足足四個(gè),,每個(gè)審稿人都會(huì)打分,,而且實(shí)行雙盲審制度,第一輪的兩個(gè)審稿人和第二輪兩個(gè)審稿人之間的信息完全保密,,也就是說,,第二輪打分的時(shí)候完全不知道第一輪的分?jǐn)?shù),也不知道第一輪的審稿人,。
這就很容易鬧出啼笑皆非的事,,比如第一輪打了高分,第二輪打了個(gè)超低分,,兩輪的大佬事后甚至?xí)称饋?,都認(rèn)為對方不專業(yè)。
可能很多人認(rèn)為這種制度不合理,,一千個(gè)讀者就有一千個(gè)哈姆雷特,,然而,這種制度卻保證了論文的高含金量,,這意味著你想要在AAAI上發(fā)文,,你就要成為那唯一的哈姆雷特。
......
在蘇飛入睡之際,,美國舊金山正烈陽當(dāng)空,。
舊金山,斯坦福AI實(shí)驗(yàn)室主任辦公室,。
一個(gè)戴著眼鏡,,頭發(fā)微白的青年人正喝著咖啡,查閱著自然語言領(lǐng)域最新的科研進(jìn)展,。
雖然這位青年看起來有些瘦弱,,但沒有人敢小瞧他,,他是自然語言處理領(lǐng)域的最高標(biāo)桿,當(dāng)年的機(jī)器翻譯和智能問答系統(tǒng)就是他一手引領(lǐng)起來的潮流,,如今無數(shù)人使用的翻譯軟件和搜索引擎,,都要算他一份功勞。
他是曼寧(Manning),,在自然語言處理領(lǐng)域,,可以說是神一樣的存在。
“嗯,?”
曼寧教授發(fā)現(xiàn)自己的郵箱被推送來了一篇論文,,還是來自AAAI的一個(gè)技術(shù)編輯。
“怎么還得我來審稿,?”
曼寧教授嘟囔了一句,,雖然他也是AAAI的會(huì)員之一,而且也確實(shí)有責(zé)任審稿,,但作為AAAI最高榮譽(yù)會(huì)員,,這種大佬整個(gè)AAAI不超過兩手之?dāng)?shù),他們的作用就是鎮(zhèn)場子的,,哪個(gè)不長眼的編輯會(huì)讓這種大佬充當(dāng)審稿人,,簡直吃了熊心豹子膽。
曼寧教授雖然內(nèi)心有些不滿,,但還是點(diǎn)開了論文,開始查閱,。
【Deep contextualized word representations】,?
嗯哼,從今年最火的方向下手,,切入點(diǎn)倒不錯(cuò),。
曼寧教授大略看了看摘要,作者提出了一個(gè)新的模型彌補(bǔ)了TagLM的劣勢,,并且取得了近十個(gè)點(diǎn)的性能提升,。
看到此處,曼寧教授不禁來了興趣,,如果這摘要沒有夸大其詞,,十個(gè)點(diǎn)的性能提升,絕對能讓這個(gè)新模型完全替代TagLM,。
越往下看,,曼寧教授的心中就越是嚴(yán)肅,而掛在墻上的鐘表滴答滴答走動(dòng),。
一分鐘,,兩分鐘,,五分鐘,十分鐘......
去除卷積提取層,,去除循環(huán)神經(jīng)網(wǎng)絡(luò)提取層,,只保留原始詞向量?
不得不說這個(gè)結(jié)構(gòu)修改非常大膽,,可是......提取層都去除了,,用原始信息能有好結(jié)果?
然后,,他就在下面一段的理論證明找到了答案,。
看到理論證明的時(shí)候,曼寧教授也是詫異了一會(huì)兒,,什么時(shí)候深度學(xué)習(xí)的論文還有理論證明這部分了,?現(xiàn)在的年輕人都這么嚴(yán)謹(jǐn)?shù)拿矗?p> 緊接著,他就發(fā)現(xiàn)了更不可思議的事情,,對方不但證明了,,而且證明得非常詳細(xì),先是用線代說明卷積提取層在這個(gè)結(jié)構(gòu)里只能給參數(shù)帶去混亂因子,,然后又證明了普通的循環(huán)神經(jīng)網(wǎng)絡(luò)提取層不足以提取到所有信息,,結(jié)合相關(guān)數(shù)學(xué)理論,改換成了雙層結(jié)構(gòu)的長短期記憶神經(jīng)網(wǎng)絡(luò)提取層,。
這......作者論證思路清晰,,邏輯嚴(yán)謹(jǐn),真的要雞蛋里挑骨頭的話,,就是這篇論文的實(shí)驗(yàn)只使用了單一的命名體識(shí)別,,他不明白,是什么樣的團(tuán)隊(duì),,很可能都請了一個(gè)數(shù)學(xué)專家了,,還非舍不得再花點(diǎn)成本多做幾個(gè)實(shí)驗(yàn)。
思及此處,,曼寧就直接把論文拉到了作者那一行,,讓他瞠目結(jié)舌的是,這篇論文的作者就一個(gè)人,,大大的Fei Su填在了第一作者那一欄,。
還是個(gè)華國人?
雖然他蠻喜歡華國人,,他自己組里就有幾個(gè)華國人,,學(xué)術(shù)造詣很高,但一個(gè)人一篇論文這種事他還是有些懷疑,。
于是他拿著上傳上來的代碼試了下,,結(jié)果還真跑通了,,性能提升高達(dá)9.73%!
太讓人難以置信了,。
曼寧現(xiàn)在心里就兩個(gè)字:厲害,!
他現(xiàn)在完全可以確信,這篇論文沒有摻半點(diǎn)水分,,更沒有夸大其詞,,這篇論文提出了一個(gè)全新的模型,性能遠(yuǎn)高于TagLM,。
【由于這個(gè)模型是基于其他語言模型改善得到,,我將這種新模型命名為 ELMo(Embeddings from Language Models),意為從其他模型得到的詞向量,,以此紀(jì)念TagLM的貢獻(xiàn),。】
曼寧在讀完論文的最后一段總結(jié)后,,不禁產(chǎn)生了欽佩,,這個(gè)作者喝水不忘挖井人啊。
不過讓他感到有點(diǎn)奇怪的是,,ELMo這個(gè)名字不是美國著名兒童電視劇“芝麻街”里的那個(gè)紅色小可愛艾蒙么,,對方是故意湊的這個(gè)名字嗎?還蠻有童趣的,。
曼寧會(huì)心一笑,,打出了自己的審閱評分,在十分制中他直接打出了九,。
這在AAAI里可是一個(gè)很高的分?jǐn)?shù)了,,許多人投了十?dāng)?shù)次都沒有得到個(gè)一個(gè)九,何況打出這個(gè)九的還是曼寧這種級(jí)別的大佬,。
曼寧把自己的看法和論文分?jǐn)?shù)回復(fù)給了那個(gè)發(fā)給自己的技術(shù)編輯,同時(shí)在郵件最后表達(dá)了感謝,。
......
同時(shí),,美國紐約的某個(gè)技術(shù)編輯此時(shí)此刻非常慌,,他本想把新的投稿轉(zhuǎn)發(fā)給Menning(蒙寧),,結(jié)果鬼使神差地打錯(cuò)了一個(gè)字母,發(fā)給了通訊錄里的大佬Manning,,而且都已經(jīng)過去了數(shù)個(gè)小時(shí)才發(fā)現(xiàn),。
雷蒙德無法想象,如果曼寧大佬向AAAI的負(fù)責(zé)人抱怨了一下這件事,,自己會(huì)不會(huì)被撕成碎片......
“算了,,還是負(fù)荊請罪,,主動(dòng)承認(rèn)罪行,說不定能善終,?!?p> 雷蒙德喃喃自語,打開郵箱,,正要給主編發(fā)請罪書,。
結(jié)果,曼寧大佬的郵件叮得一聲就送達(dá)了,。
雷蒙德瞬間嚇出了冷汗,,手指顫顫巍巍地點(diǎn)進(jìn)了郵件。
“上帝在上,?!?p> 他一邊默默請求保佑,一邊查看郵件,。
【雷蒙德,,我的老朋友,我很感謝你給我的這個(gè)機(jī)會(huì),,讓我欣賞到一篇如此完美的杰作,,給了我一個(gè)下午的消遣時(shí)光,也讓我見證了一個(gè)新時(shí)代的到來,,這個(gè)時(shí)代名為ELMo,。您的行為贏得了我的尊重,如若以后還有這種論文,,請務(wù)必推送給我,,我的老朋友,愿我們友誼長存,!】
雷蒙德:,??,?
我是誰,?
我在哪?
我在干什么,?
我愛西瓜書
感謝大佬們的打賞和推薦票呀,。 求追讀,求搜藏,,拜托啦,。