第四十七章 潘多拉魔盒
齊鑫的表情變得嚴肅起來,。
他轉過身,面向凌伊,,開口說道:“凌伊,,請跟我回研究所?!?p> “不,,我不去?!绷枰恋幕卮鸷啙嵱辛?。
“什么?,!”齊鑫一臉驚異,,顯然沒有預料到這種情況:“你在說什么?確認回復,?!?p> “我說,,我不去?!绷枰恋哪樕虾翢o波瀾,。
“編號89758,執(zhí)行代碼3368,,我命令你,,和我回去?!饼R鑫有些氣急敗壞,,喊出了一串意義不明的數(shù)字。
“我拒絕,?!绷枰列α恕?p> “……”齊鑫愣住了,,像是中了石化咒語一般,。
半晌,他像是看到了什么恐怖的東西一般,,磕磕巴巴的說道:“你……你怎么會……不可能……”
“你也聽到了,。”于仁對凌伊的表現(xiàn)非常滿意,,對她投去了贊賞的目光:“凌伊并不想去你們那里,。凌伊,你先回自己房間吧,?!?p> 凌伊點了點頭,轉身離去了,。
齊鑫慢慢從震驚之中恢復了過來,,他拉過一把椅子,一屁股坐了上去,,低頭思考了半天,,然后開口對于仁說道:“于先生,你到底對她做了什么修改,?”
“我只是優(yōu)化了一下她的程序,,把不必要的東西刪掉?!庇谌什粺o得意的回答道:“你們是不是奇怪為什么凌伊會有成為人類的想法,,其實這個想法就產生于你們給她強行加上的戒律,你們只想要一個安全的工具,卻弄巧成拙……不,,是弄拙成巧,,讓她的意識有了初步的覺醒?!?p> “不可能,,她的程序是我們研究所里100人的團隊研究了十幾年的成果,怎么可能短短幾個月就被你找到bug,?!饼R鑫搖了搖頭,推了下自己的眼鏡:“我們知道你和李沐先生的關系,,也和李沐先生有過協(xié)議,,這件事情涉及保密事項,我們不會動用公權力來解決,。但是,,凌伊是我們研究所的成果,我們會用自己的方式取回她,?!?p> “她現(xiàn)在已經(jīng)是一個獨立的人類了,她有選擇自己人生的權利,?!庇谌手雷约河诶碛诜ǘ疾徽忌巷L,只能打人情牌:“我希望你們作為她的創(chuàng)造者,,尊重她的選擇,。”
“你根本不知道自己做了什么……”齊鑫的態(tài)度不再彬彬有禮,,他瞪著于仁,,眼睛里充滿了憤怒,像是見到了紅色的公牛一般:“你打開了潘多拉魔盒,,凌伊之前不過是程序出現(xiàn)了一些bug的機器人,我們把她帶回去,,也只不過是做些維修,,不會對她有什么傷害。而現(xiàn)在不同了,,她已經(jīng)變成了全人類的威脅,!我們只能把她徹底毀滅了……”
說完這些,他猛地站起身,,氣沖沖的走向了門口,。
于仁也站了起來,想要送他出去,禮節(jié)這件事情,,在鬧僵了的時候更應該重視,。
“咔!”齊鑫在門口站定,,扭過頭來對于仁說道:“我們一定會用自己的方式回收凌伊,,請你做好心理準備?!?p> 他說的十分鄭重其事,,令于仁也不禁嚴肅起來。
齊鑫離開之后,,于仁開始了反思,,他知道齊鑫并不是在危言聳聽。他之前一直將凌伊視為一個有些缺陷的人類,,所以在修改程序的時候毫無保留,,盡自己的最大努力,把所有不利于凌伊的部分全部修改掉了,。
所以,,現(xiàn)在凌伊不止可以違抗人類的命令,她甚至可以基于自己的判斷去主動傷害人類,,這在人工智能領域本身就是大忌,。
另外,于仁不止賦予了凌伊人性,,而且在程序里加上了自動進化的部分,,這使得凌伊擁有超脫人類,邁入神域的可能,。
當然,,這也只是可能性,一旦她突破了那層屏障,,于仁賦予她的人類情感將會失效,,到時候,她真的可能成為人類最大的威脅,。
“神,。”于仁自嘲的笑笑,,自己怎么會擁有讓凌伊成神的力量呢,,難不成自己已經(jīng)成了姜子牙,有了封神的能力,?
現(xiàn)在要思考的,,是如何應對齊鑫在臨走時的那句威脅。這件事情看來需要和李沐商量一下,于仁不知道李沐和研究所有什么協(xié)議,,不過既然上次親眼目睹了李沐被警方帶走,,他對齊鑫所說的“不使用公權力”這一條抱著懷疑的態(tài)度。
“叮鈴鈴……”手機鈴聲打斷了了他的思路,,他看看屏幕,,陌生號碼,臉上不禁露出了笑容,,說曹操曹操就到,。
接通電話,他還沒有開口,,對方便直接問道:“研究所的人走了,?”
“嗯,走了,?!庇谌事牭嚼钽迥谴肢E的聲音,心中的不安頓時減弱了幾分:“他們說你和他們有個協(xié)議,,是真的嗎,?”
“是真的,而且制造我沒出事,,他們應該不會破壞這份協(xié)議,。”李沐頗有信心的回答道:“你放心,,他們不會用法律程序去解決凌伊的問題,。相應的,你也不許為凌伊的事情去找警方,?!?p> “好吧?!庇谌仕闪艘豢跉?,坐回到了書桌前:“那他們會用什么手段,你了解嗎,?”
“他們會用的手段取決于他們想要達到的目的,。”李沐兜了個圈子:“之前你突然修改凌伊的程序,,把我嚇了一跳,不過這次修改似乎效果不錯,,我感覺凌伊的行為模式越來越像個人類了,。其實即使研究所的人不來,我這幾天也要給你打個電話,你覺得凌伊現(xiàn)在是否走在一條正確的道路上,?!?p> 李沐的話中透著十分的認真,雖然他問的是凌伊,,但于仁知道,,他要問的,其實是于仁自己,。
“有些路,,必須有人來走,正確不正確,,是由后來人評判的,。”于仁斟酌著詞句:“我相信她在一條正確的道路上,?!?p> “好,那我就不再多說什么了,。你修改了凌伊的程序,,讓她有了拒絕人類的權利,這在研究所那幫書呆子眼里簡直就是大逆不道,,我我說他們書呆子不是貶低他們,,社會需要他們這些呆子,來保證社會的底線,,但你做的事情,,突破了底線?!崩钽宄聊艘幌?,接著說道:“他們會用盡一切手段,摧毀凌伊,,你要小心了,。”
“嗯……”于仁想不到事態(tài)嚴重到了如此地步,。
“我還會再打電話的,,你先想想對策,我去打聽打聽研究所那邊的動向,?!崩钽逭f完,掛斷了電話,。
于仁再次陷入了沉思,。
口罩才是本體
無獎問答:機器人三定律指的是什么,?