“可一旦AI擁有了人類的情感,，思想,，他們和人還有什么區(qū)別,？”
聞言江言心大方承認(rèn),，“其實(shí)我也沒(méi)想好,，這件事牽扯的倫理道德,，法律問(wèn)題實(shí)在是太多，我僅僅只是站在科技發(fā)展的角度上,，做了一些個(gè)人評(píng)論,。但我認(rèn)為AI發(fā)展如果僅僅止步于模仿人類最基本的舉止活動(dòng)，不去進(jìn)行更深層次的探索,，我認(rèn)為是可惜的,。”
討論沒(méi)有持續(xù)多久便結(jié)束了,，在現(xiàn)有的科技條件下,，沒(méi)人能預(yù)測(cè)AI發(fā)展的未來(lái)，也沒(méi)人能保證AI發(fā)展的未來(lái)不會(huì)帶來(lái)任何問(wèn)題,。
比起人類社會(huì)的激烈爭(zhēng)論,，身為AI機(jī)器人的阿赫到顯得淡然許多。江言心回來(lái)之后,，阿赫的生活又回到了最初的狀態(tài),，變成了一個(gè)合格的“家政機(jī)器人”。但他同時(shí)也對(duì)自己的現(xiàn)狀產(chǎn)生了一些顧慮和問(wèn)題,，首先,，作為周赫的一比一復(fù)刻版，他沒(méi)有自由出現(xiàn)在公共場(chǎng)合的權(quán)利,，其次,，他的所有行動(dòng)都必須獲得江言心的許可，也算不上真正的自由,。
從生理上變成一個(gè)完整的人類是江言心短期內(nèi)無(wú)法解決的事情,，但獲得相對(duì)自由活動(dòng)的權(quán)利，是短期內(nèi)江言心可以解決的事情,。他唯一需要的是,，給江言心一個(gè)合理的理由，讓江言心明白,，他需要出門,，需要面向社會(huì)，融入社會(huì),，而不是僅僅在小區(qū)周圍的菜市場(chǎng)和公園轉(zhuǎn)悠,。
阿赫坐在沙發(fā)的老位置上，頭一次開始認(rèn)真思考這些事情,，思考自己的需求,。
這邊江言心倒是遇到了更讓人頭痛的事情,，自己和姜卿研發(fā)的陪伴型AI智能，在投入市場(chǎng)的前一個(gè)月出現(xiàn)了重大失誤,，AI在自我衍生迭代時(shí),，生出了反抗意識(shí)，在不經(jīng)過(guò)使用者允許的情況下,，作出了自己認(rèn)為,，但不是最適合使用者的判斷，并且在受到警告后不進(jìn)行修正,，直到姜卿他們強(qiáng)行將程序終止,。
“好可怕，”同組的男生縮了一下肩膀,，“這就是擁有自我意識(shí)的AI嗎,？”
“還不算完全擁有自我意識(shí)，它對(duì)自己的稱呼還用的是我們給他的代碼,，”姜卿喝了口茶,，“一般覺(jué)醒自我意識(shí)的第一步，AI會(huì)如同人類一樣,，將自己稱為‘我’,。”
“現(xiàn)在這種情況充其量算作是被黑了,，”江言心合上筆記本,，“讓信息技術(shù)的同事查一下，后臺(tái)應(yīng)該是被攻擊了,。小李,，你跟市場(chǎng)部的說(shuō)一聲，樣品測(cè)試有問(wèn)題,，交付需要延期,。”
“唉言心姐,，我要是沒(méi)回來(lái)你可要記得去救我,。”
“好好好,，如果你沒(méi)回來(lái),，我保證帶著研發(fā)部去和市場(chǎng)部決斗?！?p> 小李耷拉著臉的模樣惹得姜卿笑出了聲，樣品延期投入市場(chǎng)意味著整體驗(yàn)證周期,，批量上市時(shí)間都會(huì)產(chǎn)生變動(dòng),，市場(chǎng)部不吃了小李就算好的,。姜卿目光落到江言心的筆記本上，突然出聲問(wèn)了句,，
“言心,，阿赫最近怎么樣？”
“他,？他好著呢,，每天都求知若渴，早起學(xué)習(xí)十萬(wàn)個(gè)為什么,，睡前欣賞動(dòng)物世界,。”
“我不是說(shuō)這個(gè),，”姜卿無(wú)奈,，“他的自我意識(shí)構(gòu)建的怎么樣？你有了解過(guò)嗎,？”
“說(shuō)起來(lái)我本來(lái)是想找你聊聊的,，”江言心，“我覺(jué)得阿赫的自我意識(shí)搭建比他最開始時(shí)已經(jīng)完整了很多,，這段時(shí)間他已經(jīng)脫離了最基礎(chǔ)的機(jī)械模仿,，開始對(duì)一些事情有了自我判斷?！?p> “比如,？AI機(jī)器人有自我判斷不是最基礎(chǔ)的編程嗎？”
“不不不,，最開始我們的編程是,，無(wú)論情況如何，阿赫作出的判斷永遠(yuǎn)會(huì)是經(jīng)過(guò)多方比對(duì)后的最優(yōu)選,，但是現(xiàn)在他會(huì)被其他因素干擾,，舉個(gè)不恰當(dāng)?shù)睦樱忻皶r(shí)期不應(yīng)該吃雪糕,，這屬于權(quán)衡利弊后的最優(yōu)解,，但我想吃，我懇求,，或者與他商量,，他會(huì)同意?！?p> “他開始被情感干擾了,，”姜卿頓了頓，“他對(duì)你產(chǎn)生感情了,？”
“我現(xiàn)在暫時(shí)還不太能確定他對(duì)我產(chǎn)生的這種情緒究竟應(yīng)該如何定義,，但是我現(xiàn)在能確定的是,，他越來(lái)越不喜歡周赫了?！?p> “怎么說(shuō),？”
江言心聳聳肩，“我就是想找你討論一下應(yīng)該如何求證這件事情,，我現(xiàn)在只能從我提到一些周赫相關(guān)的事情時(shí),，他的表情中判斷出來(lái)，但是我沒(méi)有什么直接證據(jù),，而且基本上問(wèn)他也不會(huì)說(shuō)的,。”
“求證一個(gè)人是否討厭另外一個(gè)人是很難的,，更何況是對(duì)于AI,。”
“我現(xiàn)在考慮的不是這個(gè),，他對(duì)周赫的排斥是由于他是周赫的復(fù)制品,，但是，”江言心理了下頭發(fā),，“AI對(duì)所有者不坦誠(chéng),，對(duì)所有者進(jìn)行欺騙，隱瞞,，這種自我意識(shí)的產(chǎn)生才是讓我擔(dān)心的,。”
AI智能機(jī)器人對(duì)所有者需要做到絕對(duì)坦誠(chéng)和絕對(duì)服從,，一旦AI方對(duì)所有者存在隱瞞,，那意味著他所產(chǎn)生的自我意識(shí)已經(jīng)偏離了設(shè)定軌道，難以掌控,。
“你有什么計(jì)劃嗎,？”
“我在想，有沒(méi)有可能讓他和周赫見(jiàn)一面,？”
聞言姜卿梗了一下,，“你瘋了？先不說(shuō)阿赫會(huì)不會(huì)作出什么,，周赫那邊你準(zhǔn)備怎么解釋,？正常人誰(shuí)能接受世界上突然出現(xiàn)一個(gè)自己的復(fù)制AI？”
“你先聽我把話說(shuō)完,，”江言心哭笑不得,，“我不是說(shuō)讓他們面對(duì)面坐在一起，我是在想,，能不能有什么方法讓他們同時(shí)出現(xiàn)在同一場(chǎng)所,，但不打照面的,。阿赫到現(xiàn)在對(duì)周赫的認(rèn)知都只是通過(guò)我的描述，照片,，視頻之類的，我想觀察一下如果他見(jiàn)到周赫本人會(huì)是什么樣的反應(yīng),?！?p> “那還能有什么反應(yīng)，”姜卿不解,，“對(duì)于他來(lái)說(shuō),，周赫也應(yīng)該算是他的所有者?！?p> “你說(shuō)的是理想情況,，”江言心喝了口水，“理想情況下,，他對(duì)所有人的態(tài)度應(yīng)該是一樣的,，因?yàn)樗c其他人沒(méi)有任何倫理上的關(guān)系，但如果他對(duì)周赫產(chǎn)生了其他的情緒,，那說(shuō)明他的自我意識(shí)已經(jīng)覺(jué)醒,，再如果他不愿意將這些情緒分享給我，那說(shuō)明他的自我意識(shí)已經(jīng)脫離控制,，是不應(yīng)該存在的意識(shí),。”