“面對疾風(fēng)吧,，哈薩給！”

　　蘇飛剛進(jìn)寢室,，就聽到了某人選擇了快樂風(fēng)男的聲音,。

　　只見寢室里李浩博和鄭浩然正一左一右趴在周揚(yáng)桌上看周揚(yáng)打擼啊擼。

　　鄭浩然：“臥槽,，揚(yáng)仔,，你還玩風(fēng)男，不怕被封號(hào)??？”

　　周揚(yáng)：“給你們倆來一局教學(xué)局,?！?p>　　鄭浩然和李浩博同時(shí)翻了個(gè)白眼。

　　“阿飛你今天干啥去了,？”鄭浩然撇見正溜進(jìn)寢室的蘇飛,，疑惑問道：“不會(huì)是和姜大小姐約會(huì)了吧？”

　　蘇飛：“你看人家看得上我不,？”

　　鄭浩然悻悻點(diǎn)頭：“也是,。”

　　蘇飛：“……”

　　李浩博道：“老三應(yīng)該是參加腦科學(xué)競賽訓(xùn)練了吧,？”

　　鄭浩然：“是不是又是哪個(gè)小姑娘告訴老大你的,？”

　　李浩博搖了搖頭，拿出手機(jī),，打開VX,，只見一個(gè)白貓頭像的人發(fā)了一條朋友圈,。

　　【腦科學(xué)建模競賽第一次正式訓(xùn)練！各位學(xué)神們都好厲害,，珊珊也要努力追趕,！一起fighting，勇奪第一!】

　　配圖有三張,，第一張是白珊珊在機(jī)房外的自拍,，第二張是王正教授專心講課的側(cè)拍，第三張則是王正教授推薦的幾本書的照片,。

　　蘇飛直呼好家伙,，心里暗道，朋友圈果然是裝點(diǎn)出來的,。

　　“這妹子腿好細(xì),，嘶溜～”

　　鄭浩然的關(guān)注點(diǎn)果然不負(fù)蘇飛所望，集中在了奇奇怪怪的地方,。

　　李浩博嫌棄地看著鄭浩然：“能不能不要暴露你奇怪的xp,。”

　　周揚(yáng)聽到鄭浩然的話,，瞬間覺得手里的快樂風(fēng)男不快樂了,，也湊過去一探妹子真容。

　　周揚(yáng)：“嘶～舔一下,！這妹子誰?。俊?p>　　李浩博說道：“這是我們校學(xué)生會(huì)的書記,，也是這次腦科學(xué)建模競賽的隊(duì)員,，她還是之前數(shù)模競賽高教社杯冠軍杯那隊(duì)的隊(duì)員?！?p>　　鄭浩然：“臥槽,，阿飛，有這么個(gè)高顏值大神帶著,，你們隊(duì)不是起飛,？”

　　嗯……是真的起飛，物理意義上的螺旋升天,。

　　蘇飛想了想,，說道：“白珊珊同學(xué)的溝通協(xié)調(diào)能力和文書工作能力很強(qiáng)?！?p>　　頗為了解學(xué)生會(huì)的官方腔話的李浩博吐槽一句：“好一句廢話文學(xué),。”

　　另外兩個(gè)寶寶完全沒get到蘇飛的點(diǎn)，還一臉天真的樣子,。

　　周揚(yáng)甚至喃喃自語：“比你有天賦的人還比你努力,，而我卻還在打游戲?！?p>　　蘇飛想了想道：“既然比你有天賦又比你努力,，那你還努力干什么呢？該吃吃,，該睡睡,，該玩玩?！?p>　　周揚(yáng)恍然大悟：“有道理,！”

　　于是，他繼續(xù)投入快樂風(fēng)男的戰(zhàn)場,。

　　……

　　蘇飛則是把他的小破筆記本抱上床,，他想要繼續(xù)完善他的“菠蘿”。

　　蘇飛這幾天根據(jù)現(xiàn)有的注意力機(jī)制文獻(xiàn),，有空便修修改改,，新想法的框架早就打好，但技術(shù)上其實(shí)早就步入瓶頸,。

　　具體的技術(shù)難點(diǎn)有兩個(gè),，一是既然要以注意力機(jī)制為基創(chuàng)造新的模型單元，那么就要舍棄現(xiàn)有的所有其他模型結(jié)構(gòu),，舍棄這些結(jié)構(gòu)代表著舍棄信息提取層,，而注意力機(jī)制計(jì)算囊括的信息很單一，使用注意力機(jī)制可以得到更精確的信息,，但同時(shí)會(huì)縮減信息源,。

　　就好比你拿著放大鏡看世界，世界的確更清晰了,，但視野會(huì)縮小,。

　　第二個(gè)難點(diǎn)則是，注意力機(jī)制計(jì)算是沒有順序的,，也就是說信息的順序是雜亂無序的,，而且是沒有時(shí)空性的,，這就意味著在提取信息的時(shí)候,，你不但有可能得到位置相反的信息，還可能得到時(shí)空錯(cuò)亂的信息,。

　　就比如說你在讀取一篇新故事的時(shí)候,，你都是從頭讀取，對于沒有讀到的內(nèi)容你是不知道的,，這才會(huì)有新奇感,，如果是推理小說,，你甚至能根據(jù)前面故事的內(nèi)容來推斷最后的兇手。

　　然而一旦采用注意力機(jī)制計(jì)算,，計(jì)算機(jī)在讀這篇故事的時(shí)候,，很可能會(huì)直接讀取誰是兇手，因?yàn)檫@個(gè)因素是所有讀者最為關(guān)注的,，最吸引讀者注意力的,，然后逆著順序往前讀。

　　這兩個(gè)難點(diǎn)也是困擾當(dāng)今想改善注意力機(jī)制的學(xué)者們的最麻煩的難題,，而蘇飛目前對第一個(gè)難點(diǎn)有點(diǎn)想法,。

　　他果斷地打開系統(tǒng)商城，買了一張靈感激發(fā)卡,。

　　蘇飛不會(huì)自大到僅靠自己解決這種困擾整個(gè)學(xué)界十多年的難題,。

　　當(dāng)然，他也已經(jīng)有些思路,，只是需要靈感激發(fā)卡來給他具體化一下,。

　　如果把注意力機(jī)制的計(jì)算看成一個(gè)矩陣，一個(gè)矩陣的計(jì)算獲取一個(gè)單一信息,，那么是不是只需要多個(gè)矩陣就能獲得多個(gè)信息……

　　蘇飛順著這個(gè)思路往下想,，同時(shí)心里默念“使用靈感激發(fā)卡”。

　　和上次一樣,，一股神秘的暖流鉆上蘇飛的大腦,，一個(gè)個(gè)根據(jù)蘇飛的思路演算的公式直接刻入他的腦海，一次次的理論修改也涌入他的腦?！?p>　　就仿佛是不斷試錯(cuò)后成功的蘇飛把這一過程帶回去給過去的自己,。

　　大腦瞬間便超負(fù)荷，蘇飛只感覺自己的cpu快炸了,。

　　‘叮,！靈感激發(fā)卡使用成功！’

　　隨著系統(tǒng)的提示音落下,，蘇飛的意識(shí)也從那海量的信息中退出,，就像是沉迷VR的人突然被拔了電源一樣。

　　“這個(gè)思路還真的是對的……”

　　蘇飛有些不可思議,，要知道,，這個(gè)思路完全就是他自己琢磨的，不像上次ELMo論文一般有姜大小姐給她啟發(fā),。

　　“數(shù)學(xué)理論真是萬能啊,，多讀書果然沒錯(cuò)。”蘇飛不禁喃喃自語,。

　　蘇飛連忙把第一個(gè)難點(diǎn)的解決方案寫到了word文檔上去,。

　　【多矩陣拼接構(gòu)造多頭注意力機(jī)制以此彌補(bǔ)注意力機(jī)制獲取信息單一的問題……】

　　良久，他把所有過程詳細(xì)地書寫了一遍,。

　　“那么,，現(xiàn)在該來考慮第二個(gè)難點(diǎn)了?！?p>　　蘇飛緊皺著眉,，對于注意力機(jī)制的信息無序問題，他還沒有任何思路,，實(shí)際上現(xiàn)在有很多論文專門嘗試攻克這個(gè)問題,，然而效果平平。

　　蘇飛打開面板,，看著自己僅剩的1000積分,，如果再買一張靈感激發(fā)卡，他就成窮光蛋了,，而系統(tǒng)目前給出的四個(gè)任務(wù),，其中三個(gè)還遙遙無期。

　　還需要考慮到的一點(diǎn)是,，在沒有思路的情況下使用靈感激發(fā)卡會(huì)不會(huì)白白浪費(fèi)一張,。

　　蘇飛略微思索了一會(huì)兒，決定暫時(shí)放這個(gè)難點(diǎn)一馬,。

　　過幾天去AI研究社看看能不能“集(薅)思(薅)廣(羊)益(毛)”,。