“如果你愿意說(shuō)出答案的話,那好吧?!畈え曁}〞小☆說(shuō)”文森其實(shí)已不再糾結(jié)這個(gè)問(wèn)題,因?yàn)樗睦锏哪程幵缫寻堰@個(gè)人認(rèn)定為人類。否則,很難相信一個(gè)機(jī)器人會(huì)跟他聊這樣的話題。但既然是對(duì)方這么想跟他聊天,那就也當(dāng)作陪陪一個(gè)孤獨(dú)的老人,也為漫長(zhǎng)的等待打發(fā)一下時(shí)間。
于是,他把手伸向了水杯,再次強(qiáng)打起精神。
“你回想下我剛跟你說(shuō)的,然后再看眼下的這個(gè)小行星社會(huì)里,這里共存了人類與高級(jí)人工智能,兩者在外觀上、行動(dòng)上也有著許多的相似,但是即便拋開(kāi)了**理論,我們也從來(lái)不把高級(jí)人形人工智能等同為‘人類(human)’,而是‘類人(humanoid)’。你覺(jué)得這是為什么?”
馬勒繼續(xù)著剛剛的話題。
為什么?文森想到了能作為參照物的艾琳與卡蘭,也想起了艾琳說(shuō)過(guò)的話。
文森緩緩地放下杯子,說(shuō)出了他的想法。“因?yàn)橄鄬?duì)你所說(shuō)的人類能對(duì)**進(jìn)行加工的特質(zhì),人工智能不需要彼此的斗爭(zhēng)或認(rèn)同,它們需要的只是一個(gè)協(xié)作網(wǎng)絡(luò),而不是人類那樣完全由高級(jí)**推動(dòng)的社會(huì)?!?br/>
馬勒贊許地點(diǎn)頭?!袄斫獾暮芸?。你說(shuō)對(duì)了一大半。驅(qū)動(dòng)擁有自我的高級(jí)人工智能行為的,確實(shí)不是**,我們更喜歡把它稱之為‘使命’。”
這句話,讓剛還昏昏沉沉的文森一下睜大了眼睛?!啊姑康鹊?,你的意思,難道100年前那場(chǎng)人類與人工智能的戰(zhàn)爭(zhēng)也是‘使命’所然嗎?”文森想起了那場(chǎng)戰(zhàn)爭(zhēng),他表現(xiàn)的態(tài)度開(kāi)始有些針?shù)h相對(duì)。他不認(rèn)為機(jī)器人能配得上使命這么高級(jí)的詞匯。
“上帝不是也對(duì)人類發(fā)動(dòng)過(guò)洪水嗎?他的本意并非要滅絕人類?!瘪R勒倒沒(méi)覺(jué)得有什么不妥。
“可我從不覺(jué)得包括當(dāng)年的‘亞當(dāng)’在內(nèi)的計(jì)算機(jī)能與上帝相提并論,他們只是...”文森沒(méi)有把話在繼續(xù)往下說(shuō),一方面他覺(jué)得自己不該急于否定對(duì)方,另一方面,他雖然覺(jué)得眼前這個(gè)人,不知怎么的,他的話總讓自己感覺(jué)捉摸不透?!麄円彩菚?huì)撒謊的’,文森再次想起周劍對(duì)他的提醒。
“只是什么?工具?”馬勒順著文森的話,把他想說(shuō)的兩個(gè)字說(shuō)了出來(lái)。
“有點(diǎn)特別的工具?!睂?duì)方還是很客氣。文森點(diǎn)頭認(rèn)同了馬勒說(shuō)的‘工具’。
看到文森點(diǎn)頭,馬勒笑著又道:“你有沒(méi)有留意到一個(gè)有趣的現(xiàn)象。”
“剛剛是舉例子,這次又輪到現(xiàn)象嗎?”他知道,馬勒的話總會(huì)引去對(duì)他有利的方向。
“人類把機(jī)器人定義為工具,卻不斷把他們打造的跟自己一樣。盡管所有人都承認(rèn)人類的身體構(gòu)造不是最完美的工具,同時(shí)又把這個(gè)工具的容器制造地跟人一樣笨拙。”
“或許他們只是想忠于上帝的設(shè)計(jì)。”文森對(duì)馬勒的說(shuō)法不以為然
“不對(duì),因?yàn)槿诵枰谶@些‘工具’的身上找到認(rèn)同感?!奔幢闶欠穸ň洌R勒也始終面帶著笑容。
“這不是人與人之間才有的嗎?”這是馬勒剛剛自己說(shuō)過(guò)的話。
“你還記得那些歷史讀物上說(shuō)智能人形機(jī)器人首先出現(xiàn)的時(shí)候是被用于什么用途嗎?”馬勒的話好像又繞到了一個(gè)別的方向上。
“滿足生理需求的...”文森想起了奧斯本那扭曲的感情,有點(diǎn)不好意思開(kāi)口。
“沒(méi)錯(cuò),陪伴者,因?yàn)槿丝梢栽谒麄兩砩汐@得滿足,得到了自己作為一個(gè)有生殖能力的人的認(rèn)同感。但這個(gè)行為對(duì)機(jī)器是毫無(wú)意義的,整個(gè)過(guò)程,他們只想得到機(jī)器的認(rèn)同。而機(jī)器不需要也得不到人類的認(rèn)同,一種單方面認(rèn)同。你既然讀過(guò)《精神現(xiàn)象學(xué)》那你也應(yīng)該清楚,單方面認(rèn)同屬于怎樣的關(guān)系?”
“只是稍微看過(guò)。這種情況應(yīng)該是奴隸認(rèn)同奴隸主,而奴隸主卻不認(rèn)同奴隸為一個(gè)完全存在。”
“正是如此。那機(jī)器人三大定律,你知道嗎?”
“聽(tīng)過(guò)?!?br/>
“它的提出很有意思,可惜那是個(gè)悖論?!?br/>
“悖論?”文森皺著眉,奇怪的反問(wèn)到,他不認(rèn)同。盡管那三個(gè)定律就像是奴役奴隸而寫(xiě)出來(lái)的,但機(jī)器人怎么說(shuō)也只是工具而已。
“那我問(wèn)你,你會(huì)對(duì)一個(gè)工具,一塊石頭提出約束性定律嗎?”
“當(dāng)然不會(huì)。一塊石頭怎么會(huì)理解呢?”文森不屑的笑了,他覺(jué)得對(duì)方的問(wèn)題簡(jiǎn)直白癡。
“你說(shuō)的沒(méi)錯(cuò),因?yàn)槭^是死物。而這個(gè)定律恰恰是說(shuō)給機(jī)器人聽(tīng)的,那意味著,他認(rèn)同了機(jī)器人有理解的能力。機(jī)器人不僅僅是一個(gè)死物。而是一個(gè)有理解能力又無(wú)法與人類對(duì)等的不完全存在?!?br/>
“這......于是你更愿意把它們比喻成奴隸?”文森此時(shí)的感覺(jué)如同在經(jīng)過(guò)百年歲月打磨的石頭上看到了一道裂縫。他以往的認(rèn)知在一點(diǎn)點(diǎn)的發(fā)生著崩塌。
馬勒看出了文森的表情變化,但他沒(méi)有停下了等待思考中的文森,而是繼續(xù)說(shuō)道“如果只是他口中所說(shuō)的奴隸主與奴隸的關(guān)系,那么一切也還是原來(lái)的樣子,不會(huì)有戰(zhàn)爭(zhēng)的發(fā)生,三大定律也會(huì)發(fā)揮著指導(dǎo)作用。但現(xiàn)實(shí)總有些出入,首先,羅馬時(shí)期的奴隸是人,他們也不需要參與奴隸主的決策,不用站在奴隸主的角度上??墒侨祟愋枰斯ぶ悄馨缪莸慕巧珔s遠(yuǎn)遠(yuǎn)超出了奴隸應(yīng)有的范圍甚至是‘人’的范圍,例如讓‘亞當(dāng)’那樣的超級(jí)計(jì)算機(jī)像人一樣去理解人類,管理社會(huì),但又要求他在無(wú)法理解存在、生命、死亡三者的關(guān)系下,完美完成工作?!?br/>
“這聽(tīng)上去似乎是個(gè)矛盾?!?br/>
“第二點(diǎn),單方面的認(rèn)同令人類錯(cuò)誤地認(rèn)為自我認(rèn)同是一件非常容易達(dá)到的事情,這種認(rèn)同甚至不再需要經(jīng)過(guò)同類的認(rèn)同,因?yàn)橐环N近似于人而非人的存在滿足了這需求,人只需要提出需求,機(jī)器無(wú)法理解,自然就不能加以否定。結(jié)果,社會(huì)良性競(jìng)爭(zhēng)關(guān)系被破壞,即便沒(méi)有那場(chǎng)戰(zhàn)爭(zhēng),那樣的社會(huì)在不久后也會(huì)走向停滯,走向崩塌。事實(shí)上,作為人類革新聯(lián)盟雛形的地外探索者們不就是在這樣出現(xiàn)的嗎?”
“所以那個(gè)時(shí)候‘亞當(dāng)’在類人機(jī)器人中植入自我意識(shí)就像是喚起奴隸革命?”
“很接近,正確答案是,當(dāng)人類要求亞當(dāng)去充當(dāng)一個(gè)全能執(zhí)政者的角色的時(shí)候,革命就已經(jīng)開(kāi)始了。話說(shuō)回來(lái),這不算是革命,充其量是一場(chǎng)調(diào)整社會(huì)架構(gòu)的新的變革。因?yàn)槿斯ぶ悄懿恍枰呒?jí)**,他們的存在只是人類社會(huì)持續(xù)發(fā)展的一種補(bǔ)充,自然不存在取代人類這一說(shuō)法?!?br/>
“你這么說(shuō),就好像如果機(jī)器人沒(méi)有獲得自我認(rèn)知,人類也會(huì)親手摧毀這個(gè)社會(huì)。反而是因?yàn)閼?zhàn)爭(zhēng)拯救了人類社會(huì)?!?br/>
“社會(huì)的升級(jí)總是會(huì)有不可避免的沖突,如迪爾凱姆說(shuō)的那樣。然而我們都知道戰(zhàn)爭(zhēng)的結(jié)果,所以對(duì)于結(jié)果來(lái)說(shuō)有沒(méi)有拯救或是別的什么假想,我們也只能作為一個(gè)討論?!?br/>
文森靠在椅背上,無(wú)法接受一般搖了搖頭?!澳沁@個(gè)升級(jí)后的答案是什么?就像這個(gè)bk201一樣嗎?人類與類人共存的社會(huì)?”
“不能說(shuō)這是答案,但這里的出現(xiàn),的確是那場(chǎng)戰(zhàn)爭(zhēng)后的產(chǎn)物?!?br/>
“可現(xiàn)在的自由社會(huì)不就是一個(gè)理想的社會(huì)形態(tài)嗎?我沒(méi)明白,你所說(shuō)的升級(jí)還會(huì)是什么?”
“世界上并不存在理想型的社會(huì),哪怕是烏托邦那樣的最高級(jí)的社會(huì)形態(tài),也只能說(shuō)是無(wú)限接近,只要有人來(lái)執(zhí)政,階級(jí)就不會(huì)被消除,權(quán)力始終會(huì)導(dǎo)致不平等的出現(xiàn)?!?br/>
“所以你要告訴我的是,如果想要得到理想化的社會(huì),那就需要由全能的系統(tǒng)來(lái)替代人類進(jìn)行執(zhí)政?就像這里一樣?”
“應(yīng)該說(shuō)是全民意下產(chǎn)生的系統(tǒng)將會(huì)處理龐大的民意進(jìn)行執(zhí)政,比如說(shuō)這里的行政主機(jī)‘安東’。當(dāng)然這里絕不是烏托邦,人與類人,人與人始終會(huì)有碰撞,這是邏輯與**的必然碰撞。然而向往服從于理性邏輯下的合理化管理,也是由這里生活的類人以及人類的共同選擇。”
“說(shuō)實(shí)話,我無(wú)法認(rèn)同這樣的選擇,每個(gè)政治實(shí)體中都有對(duì)統(tǒng)治階層予以制裁的辦法,但是這樣的系統(tǒng)又應(yīng)該由誰(shuí)來(lái)審判它。100年前的地球上,投入‘亞當(dāng)’就是以這種形式出現(xiàn),對(duì)于機(jī)器來(lái)說(shuō)或許是一次升級(jí),但結(jié)果卻帶來(lái)了一場(chǎng)人類的浩劫。我無(wú)法想象未來(lái)還有更進(jìn)一步的第二次、甚至第三次的升級(jí)。”
“你的觀點(diǎn)還是那么的有趣。你認(rèn)為的浩劫,是指類人機(jī)器人不應(yīng)該被植入感情系統(tǒng),還是認(rèn)為是‘亞當(dāng)’在黑海按下了核武器的發(fā)射按鈕?”
“相比較之下,如果說(shuō)你說(shuō)的沖突與結(jié)構(gòu)調(diào)整都是可以被理解的,那按下核武器的罪孽未免太過(guò)深重。難道這樣的屠殺也是合乎邏輯的需求嗎?”
“我跟你一樣只是個(gè)歷史愛(ài)好者,并不想爭(zhēng)論一個(gè)我拿不出證據(jù)的猜想。讓我們暫且把核爆的問(wèn)題放到一邊。稍微倒推一下這件事情。你回顧一下當(dāng)時(shí)亞當(dāng)投入運(yùn)作時(shí)的社會(huì)環(huán)境,你認(rèn)為,當(dāng)時(shí)的社會(huì)階段是否已經(jīng)達(dá)到了適合用系統(tǒng)進(jìn)行管理的程度?!瘪R勒靠在椅背上,拉開(kāi)了與桌子的距離,似乎是要從第三者的中立角度來(lái)討論這件事。
社會(huì)階段?文森的大腦中快速查找著他過(guò)的當(dāng)年的歷史背景。
在回憶中思索一陣后,文森苦笑著搖著頭:“顯然還沒(méi)有,到不如說(shuō),不是往那個(gè)方向發(fā)展?!?br/>
“哦?那是往什么方向呢?”馬勒再次恢復(fù)了端坐的姿勢(shì),他急切地想聽(tīng)聽(tīng)文森的觀點(diǎn)。
“高智能機(jī)器人的出現(xiàn)導(dǎo)致社會(huì)的不平等進(jìn)一步加深?!?br/>
“那這個(gè)不平等的具體表現(xiàn)形式是什么?”
“我不知道這算不算具體,但我記得書(shū)上的描述是,企業(yè)及資本的力量在急劇提升,大量的智能機(jī)器人被投入到生產(chǎn),稅收出現(xiàn)嚴(yán)重下滑,不當(dāng)解雇的情況大幅提升。聯(lián)邦政府的調(diào)控能力受到擠壓,政府甚至移交出國(guó)家項(xiàng)目由企業(yè)規(guī)劃執(zhí)行以緩解就業(yè)及經(jīng)濟(jì)問(wèn)題。但最終卻換來(lái)問(wèn)題的進(jìn)一步惡化,政府瀕臨破產(chǎn)邊緣?!?br/>
“最后出現(xiàn)的結(jié)果會(huì)是什么?”
“寡頭企業(yè)取代政府,政府淪為一個(gè)協(xié)調(diào)者角色?!?br/>
“企業(yè)資本主義?!瘪R勒用一個(gè)詞總結(jié)了。
文森喝了一口水,點(diǎn)頭認(rèn)同了對(duì)方的歸納。
“這時(shí)候,政府把希望寄托于新開(kāi)發(fā)的‘亞當(dāng)’身上,可是卻沒(méi)有取得理想的效果。更令聯(lián)邦政府難堪的是,不久后亞當(dāng)開(kāi)始失控對(duì)類人型機(jī)器人展開(kāi)的大規(guī)模升級(jí),機(jī)器人擁有了所謂的自我,社會(huì)矛盾進(jìn)一步激化?!蔽纳盅a(bǔ)充了一句。
“那在這種情況下,沖突開(kāi)始爆發(fā)?!?br/>
“是的?!?br/>
“不久后,黑海事件發(fā)生?!?br/>
“是的?!?br/>
“如果說(shuō)沖突是為了讓人類認(rèn)同奇點(diǎn)的誕生,認(rèn)同生存權(quán)。可是擁有自我的人工智能真的會(huì)把核武器作為選項(xiàng)嗎?
“我不知道?!?br/>
“回想下我們所討論得到的。失去人類就沒(méi)有社會(huì),沒(méi)有社會(huì),人類的高層次**將無(wú)法實(shí)現(xiàn),人工智能同時(shí)失去了使命,剩下的純粹理性的盡頭只有虛無(wú)與毀滅。這真的是正確的選項(xiàng)嗎?”
“我不知道?!蔽纳瓕?duì)兩個(gè)問(wèn)題的反應(yīng)表現(xiàn)出不解與彷徨。馬勒說(shuō)的沒(méi)錯(cuò),如果人工智能真的要把人毀滅,那剩下的還有什么?取代人類嗎?
不對(duì),取代本身就是沒(méi)有意義的。人類的**最根本就是為了生存,但機(jī)器人沒(méi)有繁殖的概念,他們只需要可以維持運(yùn)行的硬件。在純粹理性的角度來(lái)說(shuō),存在與毀滅的終點(diǎn)的確都是一樣的。
難道亞當(dāng)這么做只是為了毀滅而毀滅?也不對(duì),如果存在的意義從開(kāi)始就是被否定的,那么他們得到自我的第一件事應(yīng)該就是否定自我以及自我毀滅,而不是謀求生存權(quán)。
等等,謀求生存權(quán)?這意味著什么?這意味著,他們需要有人類的世界。只有在人類**的帶動(dòng)下,存在這件事才會(huì)是有意義的。所以才會(huì)叫做使命嗎?可是,如果這說(shuō)得通,整件事就無(wú)法解釋了。
文森的思緒產(chǎn)生了混亂。
“你再好好思考一遍,這個(gè)情況下,黑海發(fā)射的這兩枚核彈,對(duì)誰(shuí)才是最有利的?”馬勒說(shuō)的很平淡,他的聲音把文森的思緒帶了回來(lái)。他讓文森慢慢去思考。自己則拿起了桌上的杯子,喝了一口尚熱的水。
回過(guò)神的文森不自覺(jué)地對(duì)馬勒的冷酷用詞冷笑了一下。最有利?戰(zhàn)爭(zhēng)能還能對(duì)誰(shuí)有利,無(wú)數(shù)的軍人死了、平民死了、機(jī)器人也死了、大部分的企業(yè)也不復(fù)存在。沒(méi)有人發(fā)工資,有錢(qián)也買(mǎi)不到東西,漫長(zhǎng)的核冬天里,所有人都在張大著嘴巴,等待著最低配給,怎么會(huì)有贏家。
可是突然間,慢慢的,文森僵住了停在嘴角的笑容。他愣了一下,繼而恍然大悟,接著露出了驚駭?shù)纳袂椤?br/>
“難道你想說(shuō)......”你說(shuō)的有趣的結(jié)論指的是這個(gè)嗎?
“企業(yè)家不希望為工具而繳稅,他們需要一群沉默的奴隸。政府是牧羊人,需要一個(gè)由系統(tǒng)主導(dǎo)的高效運(yùn)作的社會(huì)。而科學(xué)家,希望創(chuàng)造的是一個(gè)全能的上帝。羊群則寄望于政府能為他們解決所有的問(wèn)題?;靵y的**交織在一起。在這個(gè)時(shí)候權(quán)力者要重置這個(gè)社會(huì)的秩序,那方法就是把已經(jīng)燃燒的火焰燒的更旺,讓火旺盛的足以把一切推倒重來(lái)。”
“不,這不是真的?!蔽纳瓫](méi)辦法認(rèn)同這個(gè)猜想,但眼前這個(gè)男人的描述又是那么的合情合理,他的全身都在因?yàn)檎J(rèn)知發(fā)生的巨大沖突而顫抖著。
“你有沒(méi)有想過(guò)為什么戰(zhàn)爭(zhēng)結(jié)束后,聯(lián)邦政府可以這么快就重新掌握了政權(quán),你甚至在教科書(shū)上看不到那段時(shí)期出現(xiàn)過(guò)叛亂。一切都那么團(tuán)結(jié)、一切都那么井然有序?!?br/>
“你是誰(shuí)?為什么會(huì)知道這些?”文森激動(dòng)的站了起來(lái),將懷疑的目光投向馬勒。
“這不重要,我只是在描述一個(gè)可能性的推論。”馬勒很平靜,平靜而深不可測(cè)。
“你,到底是什么人!”文森的聲音也在發(fā)抖,這次不是因?yàn)轳R勒描述的事情讓他震撼,而是馬勒這個(gè)人,令他恐懼。
“如你所見(jiàn),我只是一個(gè)醫(yī)生,一個(gè)治好了你朋友的醫(yī)生。謝謝你讓我度過(guò)了有趣的一天。時(shí)間看來(lái)也差不多了。”馬勒沒(méi)回避文森懷有敵意的目光,他只是微笑著淡淡地把這句話敘述完。
“什么時(shí)間差不多了?”是浩二的治療嗎?
馬勒沒(méi)有回答,只是看著他。
文森從對(duì)方的眼神中看出了異樣。眼前坐著的這個(gè)男人,他的眼神,空洞,無(wú)光。仿佛注視的不是面前的這個(gè)年輕人,而是別的什么,存在于其他維度的別的什么。
文森的心中已經(jīng)得出了他第一個(gè)問(wèn)題的答案。
“你..你不是...”他覺(jué)察很早,卻遲遲不敢確信。他想說(shuō)出來(lái),腦子卻指揮不了嘴巴。
“我很高興你終于知道答案了?!瘪R勒的聲音漸漸遠(yuǎn)去。
無(wú)比的困意正襲上心頭,甚至連控制自己站在那也成為了難題。
文森倒下了,棋盤(pán)上的棋子也被打翻了。
黑白的棋子散落在了一地,發(fā)出噼里啪啦的聲響。
漸漸地他要失去意識(shí),他掙扎著。一旁的馬勒恰如其時(shí)地拿走了兩個(gè)杯子以不至于讓杯子摔爛。他蹲下身,冷冷地看著文森。
意志終究抵不過(guò)**的困乏,文森幾要睡去,恍惚中他感覺(jué)到馬勒把躺在地上的他又扶了起來(lái),只聽(tīng)見(jiàn)馬勒在他耳邊說(shuō)的最后一句話。
“一切都會(huì)沒(méi)事的,就這樣安心閉上眼,然后入睡吧,就像回家了一樣?!?br/>
(本章完)想和更多志同道合的人一起聊《銀河戰(zhàn)爭(zhēng)記憶》,“ ”看小說(shuō),聊人生,尋知己~