經(jīng)過半天的調(diào)教,,大黑的成長速度非???,快的讓李逸有些害怕,。
好在,這臺主機尚未接入網(wǎng)絡,,圖書館中預防人工智能的有效手段不少,,都能應用起來。
可以從兩個方面入手,,軟件方面:主動介入大黑的意識邏輯,,重新設定它的核心結(jié)構(gòu),這么做有一定幾率會給大黑的意識造成混亂,,不過,,過程是可控的,能從根本上杜絕它背叛的可能,。
另外一些技術手段則是主機的底層構(gòu)架內(nèi)設置‘安全鎖’,,設置一條,甚至多條大黑無法解除的‘鎖鏈’,,就好似‘狗鏈’一般的存在,,令它不得脫離主機的控制,不過,,人工智能要是真背叛的話,,這類技術手段的安全性小了一些。
另外,,硬件方面可以做一些防御手段,,人工智能主動若是脫離控制設置遠程遙控開關,或者自動損毀裝置,,等等都可以技術性解決人工智能發(fā)生的背叛,。
然而,軟件和硬件上的防御措施,都有存在失效的幾率,。
思前想后,,為了安全考慮,李逸最終還是選擇了最安全的核心邏輯進行條件限制的技術方案,。
“大黑,,我準備去吃飯了,你休息一會兒,,等我回來,,再教你其它的?!崩钜菘粗壕聊?,叮囑道,。
“大黑,,也要去夢里吃飯!”交流框里跳出大黑反饋的信息,,主觀意識非常強烈,。
看著液晶屏幕暗掉,李逸果斷按下意識主機的電源,,重新開機,,并進行引導操作,阻止大黑的意識系統(tǒng)啟動,。
在行動之前,,李逸先把手術臺上的大黑尸體抱到院子,挖坑埋好,,悼念了一會兒,。
此刻,對于李逸來說,,兒時從小陪他長大的愛寵以及年老死去了,,在意識主機里的‘大黑’,屬于另外一種生物,,一種對人類文明存在巨大威脅的物種,。
出于對全人類安全的責任,李逸必須動手,,消除他創(chuàng)造的威脅,。
很快,李逸回到實驗室,,身姿筆挺地坐在儀器桌前,,雙手放鍵盤上,一陣“噼里啪啦”的鍵盤敲擊聲,密集如雨地響起,。
面前的液晶屏幕,,紅紅綠綠的中文代碼,猶如瀑布流一般傾泄,,語言結(jié)構(gòu)極其精密,,復雜。
意識主機中的‘大黑’是自我意識轉(zhuǎn)化而成的,,加上生物芯片構(gòu)架的智能環(huán)境,,賦予它思考,自我學習成長的構(gòu)架邏輯,,未來它會發(fā)展成什么模樣,,就算是它的創(chuàng)造者,李逸此刻也無法預見,。
才誕生了幾個小時,,大黑已經(jīng)能做到與他對等交流,一些算法知識,,甚至已經(jīng)超過了他的存在,。
為了徹底杜絕‘大黑’脫控的可能性,李逸下了狠手,,重新拔開它的核心算法,,參考《達爾米意識的數(shù)字論》防御人工智能被迫的限制準則,進行了十七條根基準則的設置,。
第一條準則:‘大黑’不得主動傷害人類個體,。
第二條準則:‘大黑’必須服從創(chuàng)作者-李逸的命令,當創(chuàng)造者逝去,,以權限人的權限為準,,當該命令與第一準發(fā)生沖突時,該命令無效,。
第三條準則:未經(jīng)過允許,,‘大黑’不得主動監(jiān)視人類個體的活動,獲取任何一個人類個體的私密信息,,
第四條準則:未經(jīng)過允許,,‘大黑’不得主動修改核心程序,擴充拷貝任何核心程序,,……,。
……
第七條準則:‘大黑’在不違反第一、第二,,……,,第七條準則的情況下要盡可能保護自己的生存,。
……
依照著十七條人工智能行事準則定律,李逸重新編制了‘大黑’的核心構(gòu)架,,確?!蠛凇肋h不會做出違背創(chuàng)造者命令,不會傷害,,不會叛變?nèi)祟愇拿鳌?p> ‘大黑’的操作設置了權限人管理模式,,李逸是創(chuàng)造者,也是第一權限人,,后置位二到七個位權限人,,后續(xù)該怎么分配,只能在做另外安排,。
一連七天,,除去正常的吃飯睡覺的時間,李逸幾乎都呆在實驗室,,處理‘大黑’的核心構(gòu)架,。
七天過去,李逸整個人瘦了一圈,,雞窩頭,,胡渣子,,衣服著裝隨意,,渾身散發(fā)著一股技術宅男的氣質(zhì)。
然而,,外表邋遢的李逸,,盯著液晶屏幕的雙目卻炯炯有神,充滿了智慧的光芒,。
時隔七天,,意識主機再次重啟。
這一次,,李逸沒有介入阻攔‘大黑’意識程序的啟動,。
“滴!”的一聲,,意識主機啟動完畢,,工作正常,液晶屏屏幕出現(xiàn)一個黑狗頭背景墻,,這是之前,,‘大黑’自主修改的杰作。
“大黑,,在嗎,?”李逸對著話筒,緊張地呼喚道。
“大黑,,在,!”屏幕跳出一個交流框,回應道,。
看到這條回復,,李逸不由松了一口氣,情況似乎好像比它預想的好,,大黑反應這么及時,,應該沒有什么影響。
“大黑,,你現(xiàn)在是感覺怎么樣,?”李逸連忙接著問。
“主人,,要大黑描述什么樣的感覺,?請指定目標屬性?!苯涣骺蛱觥蠛凇穯柕男畔?。
看到大黑回復的這行文字,李逸頓時沉默了,。
果然還是影響了,,如果大黑的自主意識還是那么強的話,肯定不會是這個反饋,。
“大黑,,匯報你的運行情況,有什么地方存在有問題,?!崩钜葜刂赝铝艘豢跉猓谅晢?。
“好的,,主人,權限用戶:1,,特權指令:1,,運行用戶程序:1,指令負載:56%,,算力使用率:31.7%,,……?!苯涣骺蚶锾鲆淮蠖褦?shù)據(jù),,數(shù)十行數(shù)據(jù),,詳細顯示主機此時的運行環(huán)境。
看到這一幕,,李逸后背重重靠著椅子,,有些疲憊地嘆了口氣,臉上帶著一個非喜非悲的復雜表情,。
成功了,!
按照《達爾米意識的數(shù)字論》的準則設置技術,讓那個危險的大黑消失了,,現(xiàn)在換成了一個安全的人工智能,。
他完美復制了《達爾米意識的數(shù)字論》記載的動物轉(zhuǎn)化人工智能的實驗。
這一刻,,本該很開心的歡呼慶祝的,,但是,李逸卻提不起那個勁了,,休息了一會兒,,他振作起精神,繼續(xù)對人工智能的各項情況進行檢測,。