3

    “因為遠(yuǎn)近親疏不同，同樣的話同樣的事，不同的人說給同一個人聽，得到的反應(yīng)很可能截然相反，這便是人同計算機(jī)最大的不同。低效，無序，卻可愛，不講道理卻富有人性。”

    4

    雖是片刻，但在鐘黎和鐘敏眼中卻是良久，古羽突然咧開嘴笑道：“原來就是想了解我自己怎么想的，這好辦，我再說一遍就是了?！?br/>
    她這話雖然回的簡單，但坐在側(cè)身的鐘敏卻見她放在沙發(fā)上的左手，似打節(jié)拍一樣不住地用食指敲著沙發(fā)的皮子面，持續(xù)了有六七秒。

    “我之前同鐘黎說過的我就不再多說一遍，我估計他也跟你說得差不多了，我就說我個人的看法。”古羽頓了頓繼續(xù)講：“如果說讓令尊放棄人性系統(tǒng)投入使用的原因，我認(rèn)為應(yīng)該是這個系統(tǒng)或多或少威脅到了人類的安全?！?br/>
    “一個系統(tǒng)能威脅到人類的安全?我聽鐘黎說的應(yīng)該主要涉及的人社會倫理問題吧？”

    “雖然如何定義被賦予人性的人工智能是個社會倫理問題，但如果只是這么簡單，其實只要立法跟進(jìn)，那問題就能解決。我也會跟你們站在同一個立場，不會因為這點問題而因噎廢食，畢竟制造出同人無二的人工智能可以說是人類發(fā)展史上的一大進(jìn)步。”

    “那你意思這個解決不了的問題是什么？”

    “是即便我們可以通過立法，將擁有人性的人工智能同人類擺到同一地位，我們能夠接受，但人工智能能接受么？”

    古羽將問題拋出來，見三人無人開口便解釋道：“眼下人工智能為人類服務(wù)，如果從生產(chǎn)關(guān)系上講屬于被壓迫剝削的一方，當(dāng)然因為它們沒有這種意識，它們也不會反抗。如果有一天人性系統(tǒng)流傳到現(xiàn)世中，那具有人性的人工智能很快會意識到不公平的地方，人類就是能在它們開始反抗之前，將平等的立法完成，也不敢保證它們不懷恨在心。何況，人工智能不是人類，我們給予的平等是它們訴求的嗎？或許人類在他們眼里反倒會成為垃圾或者障礙?！?br/>
    古羽從三人思索的表情及空洞的眼神中可以看出，他們之前并沒有仔細(xì)想過人工智能會如何思考這個問題，不止是他們?nèi)齻€，人類這數(shù)千年來所發(fā)明的東西，都是些不會思考的死物。當(dāng)比人類還要頭腦靈活的東西被人類發(fā)明時，還不會有幾個人習(xí)慣站在對方的角度來思考，“這個創(chuàng)造我的到底是個什么東西”。

    “說到底我們不是人工智能，換位思考也是假想。非我族類其心必異這八個字雖然很久不曾出現(xiàn)在我們的用語中，但這幾個字恰巧適用于眼下的情況?！?br/>
    “真有這么悲觀?”鐘黎此時明顯是想幫處于弱勢的袁纖說兩句話，“我跟我家圓墩兒，就是我自己做的家務(wù)機(jī)器人，關(guān)系就很好啊。如果有正確的相處方式的話，不至于那么嚴(yán)重吧？”

    “可誰又能保準(zhǔn)?”古羽冷笑著拿起酒杯，讓半融化的冰發(fā)出一陣碰撞的聲響?！昂螞r你那圓墩兒圓片兒的都是你自己設(shè)定的程序，也沒有什么人性，即便有也是個例。想想看吧五胡亂中華的時候，胡人和漢人如何廝殺，以及大航海時代西班牙人對瑪雅和阿茲特克人做的事，還有奴隸貿(mào)易都是例子，那時候也會有個別的友好相處的例子，但掩蓋不住整體。而且人類即便有種族之分，但畢竟同為人類，可以通婚繁衍，也有著差不多的訴求。于是隨著文明進(jìn)步，種族間慢慢能走到一起去。但人和人工智能，在這一點上有太多不一樣的地方。”

    見哥哥敗下陣來，一直在旁邊觀察古羽顏色的鐘敏也趁著她還算心平氣和，鼓起勇氣說道：“古羽小姐，我聽說這個系統(tǒng)是靠人工智能觀察學(xué)習(xí)人類行為，以及同人相處，隨后模仿并學(xué)習(xí)掌握人性。那如果在它學(xué)習(xí)的過程中我們就加以引導(dǎo)，是不是能避免人工智能仇視人類這種情況?！?br/>
    “這怎么引導(dǎo)，二小姐?”古羽一句二小姐叫得鐘敏坐立難安，好在她只是以半尊稱半戲稱一句來回剛才“古羽小姐”的稱呼。“如果你仔細(xì)了解就會知道，這個系統(tǒng)是參考了無數(shù)玩家，以及無數(shù)人工智能同玩家的互動后得出來結(jié)果的，一代人工智能不行還會有下一代，我們沒法讓人類陪著它們做這種洗腦一樣的工作吧？這種系統(tǒng)得出的人性應(yīng)該和我們本身的人性沒什么偏差。恰巧人是這種再善良一點就不會有這么多社會問題，惡一點就不會活到現(xiàn)在的東西。你能指望這個系統(tǒng)做出什么改善來么？”

    聽完古羽的解釋，袁纖的眼神一時如熄滅的炭火一樣暗淡。她意識到即便此刻有解決問題的辦法，也不是他們幾個這種毫無相關(guān)知識儲備的人所能想出來的。

    鐘黎看出袁纖表情的變化，從一開始的緊張甚至有些敵視，變成現(xiàn)在愁緒中帶著失落。他清楚袁纖自小便看著父親一天天地為這款游戲耗費心血，曾幾何時袁啟之的理想也化作了她的理想。如果說這個世界上誰最想看到這款游戲最終完成時的模樣，那么除了袁啟之，肯定第二個就要數(shù)她了。

    “真的只有放棄開發(fā)人性系統(tǒng)這一種解決方案么？”這句話鐘黎不單單是在替袁纖問，也是在替所有這個游戲的玩家問。

    “或許有吧，但任何危險的東西，都是一開始便不存在，才會真的消除威脅?！惫庞鹂闯鰜韮扇说男乃?，便繼而說：“我知道，僅憑幾句話以及一些合理的推測，就讓人放棄類似于理想的東西，是件很殘忍的事情。但是人類的存在和發(fā)展，本身就是伴隨著很多人的利益的犧牲的。”

    雖然“電車問題”是個經(jīng)典的倫理學(xué)悖論，但是的確，每次到了要抉擇的時候，人類都會毫不猶豫地拉下那個開往一個人的拉桿。

    5

    “我大概清楚了?！痹w的冷靜似乎可以代表她已經(jīng)接受了“人類的選擇”，但她馬上又平靜而嚴(yán)肅地提出了一個新的問題：“我可以不問你是替誰工作，但想清楚你是怎么知道這些情況的。”

    “這個你可以問她，我們差不了多少?！惫庞鹂粗娒粢恍Φ馈?br/>
    鐘黎清楚袁纖并不了解多少內(nèi)幕，便插話解釋說：“合著你也是情報販子?！?br/>
    “算是吧?！?br/>
    “那你不應(yīng)該只管倒情報么？”

    “她不也摻和了很多事么？不然下城區(qū)那么多孤兒都是誰在養(yǎng)著？”

    自己做的事情被這位可以說是前輩的人說出來，鐘敏不知道自己是抵觸還是興奮，心里一種怪怪的滋味讓她張了口?！耙簿褪钦f古羽小姐做這種事也是出于力所能及？”

    “即便是力所不及?！惫庞鹂戳丝寸娎枋÷粤撕蟀刖洹！斑€有什么問題么？”

    袁纖思索了一番，雖然她依舊不很放心，這倒不是信不過，而是說古羽身上確實有太多令人琢磨不透的地方，而且她同眾人說話時那種心平氣和，不急不緩的狀態(tài)，也令自己覺得似抓不住這人一般。又或許是因第一次見古羽時，她正安坐在鐘黎的尸體旁邊，唱著自己填的詞，且沒多久前她還親手送走了鐘黎，這讓袁纖在潛意識里留下了不好的印象。然而眼下，除了古羽自己不想說的，已沒有什么是跟這件事有關(guān)同時又必須要問的問題了。

    “我能想到的就是這些。如果說只是見我爸的話，我可以帶你見他。但是事情什么結(jié)果，完全看他怎么想。”袁纖又補(bǔ)充說：“雖然我沒你那么多道理，但我知道這個游戲傾注了他所有的心血，如果按照實際體驗到的時間來算，他花在這個游戲上的時間已經(jīng)夠正常人的一生了。所以哪怕真的會引發(fā)那么多麻煩，甚至威脅到人類，只要他想堅持，我還是會站在他那邊。我希望你一開始就理解?！?br/>
    “我理解。這就足夠了?！惫庞饘⒛抗庵械纳癫墒諗?，以對于她來說算是誠懇的語氣回復(fù)，“那這個事這樣就算說好了?！?br/>
    “嗯，說好了?！?br/>
    這么說完，鐘黎看到自己妹妹明顯是松了口氣，于是將事情往下推進(jìn)?！澳悄阋裁磿r候見他，眼下他正在那邊解決瀛岳的事?！?br/>
    “雖說沒有那么著急，但方便的話還是盡快去那邊同老爺子說了吧，畢竟我能知道是事情，對于有心之人來說也不能算是秘密了。”

    “那就等她回了X市后吧，眼下你先稍安勿躁?！?br/>
    古羽思考了片刻，要說等袁纖回家，看樣子怎么也得一周時間，雖說于自己來說不算長，但于那邊來說卻有一個半月的時間?！耙残校俏揖筒淮驍_你倆相處的時間了。到時候瀛岳的事應(yīng)該也處理的差不多，再去詳談也算合適。”

    鐘敏瞧出古羽多少有些不滿意，便說：“其實古羽小姐要是著急，我能從下城區(qū)里借出幾臺潛行倉。然后到了那邊兒，讓袁纖姐給您寫個文書，剩下的事情您自己應(yīng)該就能解決?！?br/>
    “這倒也是個辦法。”古羽透出贊許的笑容?！熬唧w怎么辦看二位方便吧?！?br/>
    古羽將目光拋向鐘黎，鐘黎則刻意避開目光只等袁纖回答。

    “我也不想拖拖踏踏，既然已經(jīng)說好了，那就趕緊辦了。”袁纖回復(fù)說。“那咱現(xiàn)在就去？”

    “也好?！惫庞鹫f完將余下的長島冰茶一飲而盡。

    文后注釋：

    “電車難題”是倫理學(xué)領(lǐng)域最為知名的思想實驗之一，其內(nèi)容大致是：一個瘋子把五個無辜的人綁在電車軌道上。一輛失控的電車朝他們駛來，并且片刻后就要碾壓到他們。幸運的是，你可以拉一個拉桿，讓電車開到另一條軌道上。但是還有一個問題，那個瘋子在那另一條軌道上也綁了一個人?？紤]以上狀況，你應(yīng)該拉拉桿嗎？

    電車難題最早是由哲學(xué)家Philippa Foot提出的，用來批判倫理哲學(xué)中的主要理論，特別是功利主義。功利主義提出的觀點是，大部分道德決策都是根據(jù)“為最多的人提供最大的利益”的原則做出的。從一個功利主義者的觀點來看，明顯的選擇應(yīng)該是拉拉桿，拯救五個人只殺死一個人。但是功利主義的批判者認(rèn)為，一旦拉了拉桿，你就成為一個不道德行為的同謀——你要為另一條軌道上單獨的一個人的死負(fù)部分責(zé)任。然而，其他人認(rèn)為，你身處這種狀況下就要求你要有所作為，你的不作為將會是同等的不道德?？傊淮嬖谕耆牡赖滦袨?，這就是重點所在。許多哲學(xué)家都用電車難題作為例子來表示現(xiàn)實生活中的狀況經(jīng)常強(qiáng)迫一個人違背他自己的道德準(zhǔn)則，并且還存在著沒有完全道德做法的情況。