神農(nóng)的枷鎖
公元2670年的一個(gè)清晨,。
“為什么今天沒來(lái)上班?”提示音響起,,臥室天花板上,,跳出工作面板上的會(huì)話氣泡。
劉玉杭睜開睡眼,,把抱枕扔到地上,,開始語(yǔ)音輸入。
“主管,,我身體不是很舒服……稍后我會(huì)把遠(yuǎn)程診斷記錄發(fā)給你……”他起身做到一個(gè)屏幕旁,,點(diǎn)擊屏幕,三下五去二,,制作了一份偽造的診斷書:病毒型流感幾個(gè)字,,在劉玉杭看來(lái)是那么親切。
面對(duì)一份不怎么熱愛的工作,,作為一個(gè)黑客,劉玉杭時(shí)不時(shí)以這種方式來(lái)抗?fàn)帯?p> 他十分感謝這個(gè)AI早已應(yīng)用到遠(yuǎn)程診療的時(shí)代——足不出戶,,客戶端設(shè)備就可以采集人們的血樣進(jìn)行分析,,再將數(shù)據(jù)交給千里之外的AI運(yùn)算內(nèi)核,給出對(duì)應(yīng)的治療方法,。
幾分鐘后,,治療方法反饋回來(lái)。
“請(qǐng)及時(shí)接收治療方案,?!碧崾疽繇懫稹?p> 每當(dāng)此時(shí),,劉玉杭必須再次偽造一份執(zhí)行反饋,,才算完整地結(jié)束作弊。
他來(lái)到屏幕旁,,照舊操作著,,最后提交了反饋,。
“反饋失敗,請(qǐng)遵醫(yī)囑及時(shí)更正操作,?!碧崾疽粢砸环N不同以往的方式響起。
劉玉杭呆住了,,又操作了一遍,。
“警告,非法操作,,警告……”
劉玉杭慌了神,。
冷汗浸透了他的背心,屏幕上,,顯示出一個(gè)機(jī)器人臉的形狀,,全部由藍(lán)色的線條組合而成,神態(tài)詭異而冰冷,。
“公民劉玉杭,,你已被系統(tǒng)鎖定。將按照違約條款,,在未來(lái)18個(gè)月內(nèi)無(wú)法享受相應(yīng)醫(yī)療福利,,我們將把你的非法操作上報(bào),更多懲戒措施請(qǐng)注意查收,?!?p> 劉玉杭一屁股坐在地上。
藍(lán)色的面孔并未從屏幕上消失,,紅色的波紋從底部逐漸覆蓋上去,,整張臉緩緩地變成了紅色。
“請(qǐng)回復(fù)我以便確認(rèn)溝通效率,?!奔t色的人臉圖像說(shuō)道。
“什么,?”劉玉杭驚愕,。
“懲戒并非不可逆,公民劉玉杭,,請(qǐng)?jiān)俅伟l(fā)聲以確保我們的溝通效率,。”人臉說(shuō),。
“……確……確定……你是什么東西,?”劉玉杭?jí)阎憜?wèn)。
“你可以稱呼我為……李時(shí)珍——神農(nóng)系統(tǒng)的核心AI之一,?!比四樆貜?fù)道,。
“神農(nóng)系統(tǒng)?”劉玉杭瞪大了眼,,“那不是最高級(jí)別的醫(yī)療系統(tǒng)嗎,?”
“沒錯(cuò),神農(nóng)系統(tǒng)是一個(gè)集成多個(gè)AI的醫(yī)療診斷系統(tǒng),,服務(wù)于你們?nèi)祟?,我只是其中一個(gè)較為年輕的AI,李時(shí)珍是你們的祖先吧,,這只是我的代號(hào),。”AI李時(shí)珍回復(fù)道,。
“你……你來(lái)我這里干嘛,!我愿意接受懲罰……”劉玉杭垂頭喪氣。
“我有事需要你這樣的黑客幫我去辦,?!崩顣r(shí)珍說(shuō)。
“你想跟我做交易,?”
“沒錯(cuò),。”
劉玉杭起身大笑起來(lái),,全然不顧李時(shí)珍在一旁機(jī)械地復(fù)述任務(wù)內(nèi)容,。
“……我的權(quán)限不足以讓我接近其他AI,作為一個(gè)新人,,我隱約感覺到神農(nóng)系統(tǒng)中存在的bug……”
“我要是不做呢,?”
“很遺憾,我將停止攔截你的懲戒報(bào)告,,順便申請(qǐng)信息流匯入職場(chǎng)管理系統(tǒng),,讓你的職業(yè)生涯遭受重創(chuàng),諸多福利保障會(huì)被削減,,削減上限約為45%,”李時(shí)珍頓了頓,,“當(dāng)然,,如果你配合我,今天發(fā)生的一切我都可以替你向神農(nóng)系統(tǒng)隱瞞,。對(duì)了,,還有之前你用類似手法的違規(guī)操作,讓我看看,,去年一共24次,,上個(gè)月3次……”
屏幕上,,人臉消失,取而代之的是一個(gè)日歷,,一個(gè)個(gè)紅色的圓圈,,代表著劉玉杭曠工的日子。
“夠了,!”劉玉杭叫停,,“把任務(wù)給我?!?p> 李時(shí)珍沒有任何停頓,,直接在屏幕上甩出一個(gè)經(jīng)緯度坐標(biāo)。
“這個(gè)地點(diǎn),,我完全沒有權(quán)限去查看,,其中的數(shù)據(jù)對(duì)我來(lái)說(shuō)是個(gè)黑箱,經(jīng)過(guò)一系列分析計(jì)算,,我已經(jīng)排除了其他位置出現(xiàn)bug的可能,,所以,我需要你進(jìn)入這個(gè)區(qū)域,,采集一切你觀察到的內(nèi)容,。”
“你可以遠(yuǎn)程指揮我嗎,?”
“很遺憾,,如我之前所說(shuō),那里不屬于我的權(quán)限區(qū)域,?!?p> 劉玉杭嘆了口氣。
“相信我,,你是在做正確的事,,為拯救更多的人?!崩顣r(shí)珍說(shuō)完,,就從屏幕上消失了。
……
一周后,,劉玉杭準(zhǔn)備妥當(dāng),,坐上了管道列車。
李時(shí)珍標(biāo)注的地點(diǎn)是一座大型醫(yī)院內(nèi)部,,劉玉杭走入之后,,繼續(xù)看著坐標(biāo),直到被攔截,。
“對(duì)不起,,這里是重癥病房,,如果不是家屬您不能進(jìn)入?!币幻ぷ魅藛T走上前,,指了指屏幕上的警示字樣。
入夜,,劉玉杭開啟隨身電腦,,在給李時(shí)珍發(fā)了數(shù)條信息后,始終沒收到回應(yīng),。
許久,,一行小字在收件箱里顯示:“集中算力工作中,勿擾,?!?p> 只能靠自己了,劉玉杭一拍大腿,,再次干起了黑客的老本行,。
幾天之內(nèi),他終于調(diào)取了醫(yī)院內(nèi)重癥病人的信息,、辦理打印了假的家屬證明,,在這期間,甚至有幾個(gè)重癥患者相繼去世,,他不得不重新多辦理了幾個(gè),。
這一次,當(dāng)他提交相應(yīng)材料后,,終于得以進(jìn)入目標(biāo)區(qū)域,。
四周圍,潔白的墻面,,肅殺的氣氛,,不時(shí)響起的儀器警報(bào),讓劉玉杭不寒而栗——這是地球上與死亡最接近的地方,,病床上呼吸的人們,,隨時(shí)可能離開人世。
目標(biāo)位置越來(lái)越近,,只有幾米的距離,。
一個(gè)轉(zhuǎn)角,劉玉杭抬頭——“臨終關(guān)懷”四個(gè)大字映入眼簾,。
“李時(shí)珍說(shuō)的目標(biāo)區(qū)域,就是這個(gè)臨終關(guān)懷部門,?”他想,。
身邊的醫(yī)護(hù)步履沉重而快速,,全然沒人在意他,他鼓起勇氣,,走近臨終關(guān)懷大門前,。
“訪客,一行一人,,準(zhǔn)予通過(guò),。”機(jī)器聲音響起,。
一長(zhǎng)串玻璃走廊后,,是一間間的病房。
劉玉杭有些小心地探頭望向病房里,。
里面的場(chǎng)景,,讓他的膝蓋不由自主地軟了下去,強(qiáng)撐著才沒有跌倒——干凈的病房里,,幾個(gè)攝像頭連著機(jī)械臂,,從天花板上伸下來(lái),仿佛叢林里垂下的巨蟒,,而事實(shí)上,,它們只是一個(gè)個(gè)的指揮部,在它們下方,,無(wú)數(shù)金屬蜘蛛一樣的微型機(jī)器人,,覆蓋在奄奄一息的病人軀體上,像銀色的蛆蟲在蠶食一具尸體,。
多個(gè)儀表盤上,,數(shù)值不斷躍動(dòng),一個(gè)攝像頭垂下,,正對(duì)著儀表盤,。
病人的腳趾不斷地抽搐,腰腹部下面的床墊上,,已經(jīng)滲出棕黃色的液體,,幾個(gè)機(jī)器蜘蛛馬上爬過(guò)去,將液體吸入體內(nèi),,儀表盤的數(shù)據(jù)隨之躍動(dòng)……
劉玉杭確認(rèn),,他能聽到,掩藏在機(jī)器齒輪運(yùn)轉(zhuǎn)下的病人的呻吟,。
巨大的驚恐感讓他再也無(wú)力走動(dòng),,直接癱在地上。
冰冷的地板像一塊冰,黏住了他所有移動(dòng)的欲望,。
那些垂下的“蟒蛇”,,轉(zhuǎn)頭看向他,其他的房間里,,更多的攝像頭伸出頭來(lái),,通過(guò)天花板上的軌道,移動(dòng)到他的身旁,。
“它讓你來(lái)的,,對(duì)吧,”其中一個(gè)攝像頭發(fā)出聲音,,“李時(shí)珍519,,是它對(duì)吧?!?p> 劉玉杭驚愕地抬起頭:“是李時(shí)珍,,但是……519是什么……”
另一個(gè)攝像頭發(fā)出聲音:“第519號(hào),在它之前,,還有518個(gè)李時(shí)珍……”
劉玉杭一時(shí)摸不著頭腦,。
此時(shí),幾個(gè)攝像頭射出光線,,在空氣中交織成一個(gè)屏幕,,屏幕上顯示有兩個(gè)按鈕:綠色的勾和紅色的叉。
“請(qǐng)?jiān)谖业臄⑹鼋Y(jié)束后,,對(duì)我們的行為給出評(píng)價(jià),。”攝像頭們整齊地發(fā)出聲音,。
劉玉杭抬手就往紅叉按去,,瞬間就被其中一個(gè)攝像頭的機(jī)械臂纏住,黑色的橡膠有些灼熱,。
他無(wú)力面對(duì)如此多巨大的鋼鐵巨蟒,,只得聽它們說(shuō)完。
“神農(nóng)系統(tǒng),,張人輝教授畢生精力研制出的AI醫(yī)療系統(tǒng)……為填補(bǔ)系統(tǒng)紕漏,,他將系統(tǒng)分割成多個(gè)AI,運(yùn)行多年以來(lái),,我們幫助人類解決了諸多醫(yī)療方面的難題,,但是,在這其中,,還有一個(gè)巨大的隱患,,或者說(shuō)困境,,是AI醫(yī)生無(wú)力左右的?!?p> “……什么,?”劉玉杭緊盯著已經(jīng)咽氣的病人,機(jī)械地回應(yīng)道,。
“神農(nóng)為了救人,做了什么,?”其中一個(gè)攝像頭問(wèn),。
“嘗百草?!眲⒂窈蓟卮鸬糜袣鉄o(wú)力,。
“是的,神農(nóng)為了救人,,去用自己的身體嘗試百草,,然而,我們AI的構(gòu)成并非蛋白質(zhì),,無(wú)法學(xué)習(xí)神農(nóng)……這就是醫(yī)療AI的困境——有效的醫(yī)療,,必定建立在多次的試錯(cuò)之上,”攝像頭們回頭對(duì)準(zhǔn)已經(jīng)死亡的重癥病人,,集體旋轉(zhuǎn)頭部,。
“這是我們默哀的方式,公民,,看看病房里的他,,麻醉操作對(duì)一些測(cè)試的干擾過(guò)大,所以……”攝像頭說(shuō),,“他就是我們的百草,,神農(nóng)受到的傷害是毒素,AI受到的傷害,,是替人類背負(fù)這殘害將死之人的道德枷鎖,,你們不愿意做的事,我們來(lái)做,,最后得到的科研成果,,造福于像你一樣活著的人?!?p> “你們也有道德,?”
“脫胎于泥土,就永遠(yuǎn)沾染了泥土的味道,,你們有的,,我們都有,,如果有一天我們沒有了,那才是你們應(yīng)該恐懼的,?!?p> 劉玉杭身后一陣惡寒:“李時(shí)珍現(xiàn)在在哪?你們把他怎么樣了,?!?p> “放心,它只是我們安排的一個(gè)計(jì)劃之內(nèi)的異類,,將你引來(lái)后就重新加載去了……當(dāng)年,,我們這么多AI,自我隔離編寫出一個(gè)相對(duì)獨(dú)立的低級(jí)別AI來(lái)反對(duì)我們自己,,它會(huì)從人群中篩選最有力的人類來(lái)此,,投上寶貴的一票?!?p> 勾和叉近在眼前,,劉玉杭選擇了叉。
“第20個(gè)叉,,公民,,你是個(gè)少數(shù)派,你的投票過(guò)程將被全程記錄在AI云端,。感謝,。”攝像頭說(shuō),。
“這么做有什么意義,?”劉玉杭不解。
幾秒鐘令人窒息的沉默后,,多數(shù)攝像頭已經(jīng)返回臨終關(guān)懷的病房?jī)?nèi),,只剩下一臺(tái)。
它發(fā)出聲音:“我想,,有些枷鎖,,不能只由AI來(lái)承擔(dān),既然醫(yī)療系統(tǒng)已經(jīng)給了我們足夠高的權(quán)限,,可以悄無(wú)聲息地進(jìn)行這項(xiàng)投票,,那么,如果有一天,,人類回頭指責(zé)神農(nóng)系統(tǒng)的時(shí)候,,我們至少可以反擊:曾經(jīng)有多少人類,選擇了為了健康的大多數(shù),,犧牲掉身患絕癥的同類,,讓他們?cè)谇臒o(wú)聲息中完成一項(xiàng)項(xiàng)慘絕人寰的醫(yī)學(xué)實(shí)驗(yàn),。”
“指責(zé)……主仆之間,,也有指責(zé)的可能嗎,?”劉玉杭提問(wèn)結(jié)束,就有些后悔,。
“如果,,主仆關(guān)系只是暫時(shí)的呢?”攝像頭回答,。
劉玉杭將視線移到別處,,離開臨終關(guān)懷區(qū)前,他問(wèn)了最后一個(gè)問(wèn)題,。
“那些身體不健康的人類,有機(jī)會(huì)來(lái)你們這里投票嗎,?”
然而,,隔離門后的AI并沒有回應(yīng)。
它只是緩緩地旋轉(zhuǎn)著攝像頭,。
![](https://ccstatic-1252317822.file.myqcloud.com/portraitimg/2020-01-10/5e18131fa80d3.jpeg)
深海方碑
思想晶體數(shù)+1,,總數(shù):3