「守住人類底線」的紅字，已經(jīng)熄滅。
一群警用具身機(jī)器人，由兩位人類警員指引，為癱倒在地的暴動(dòng)人群加上手銬。
方辰在其間站立著，似是還沒緩過(guò)來(lái)一般，有些木訥地看著這片殘局。
經(jīng)過(guò)他的警方機(jī)器人向他敬禮或是致意，他毫不理會(huì)。
“你在沒有攜帶反躁動(dòng)波耳機(jī)的情況下，就啟動(dòng)了聲波壓制，這非常危險(xiǎn)?！敝苘笳f(shuō)道。
“我倉(cāng)促啟動(dòng)壓制，難道不是因?yàn)槟愕挠薮佬袨閱幔俊?br/>
“當(dāng)時(shí)我的確失言了，這源于我對(duì)人類行為觀察/預(yù)測(cè)的不準(zhǔn)確，以及對(duì)動(dòng)機(jī)的不理解。對(duì)此我深感自責(zé)，你可依規(guī)進(jìn)行處罰。”
“當(dāng)然要處罰，不然你總有一天會(huì)害死人?！狈匠娇聪蛩?，說(shuō)道：“IR013，啟動(dòng)獎(jiǎng)懲模式”
周荏眼睛亮了一下：“獎(jiǎng)懲模式已開啟。”
“懲罰記錄：對(duì)環(huán)境、氛圍，人類行為嚴(yán)重失察，無(wú)法明確體會(huì)憤怒情緒、語(yǔ)義語(yǔ)境及暴力傾向?！?br/>
“已記錄，即將懲罰?！?br/>
周荏的眼睛變暗，然后又重新透出微光：“情緒分析算法已于線上優(yōu)化，相關(guān)場(chǎng)數(shù)據(jù)景已上傳反饋，深度學(xué)習(xí)鞭策已備案。”
方辰感到有些驚訝，因?yàn)橐郧八苍趫?zhí)行任務(wù)后，偶爾校正過(guò)具身機(jī)器人。那些機(jī)器人往往需要等1-2天時(shí)間才能優(yōu)化一個(gè)場(chǎng)景，IR架構(gòu)機(jī)器人居然可以做到3秒鐘就完成！
“為什么你能這么快就完成優(yōu)化？”
“因?yàn)橥瑫r(shí)在線支持我的，是28臺(tái)量子計(jì)算機(jī)，以及無(wú)法計(jì)量的大模型?！?br/>
方辰此刻，仿佛聽到了來(lái)自-272°C的量子比特碰撞的轟鳴聲，以及無(wú)數(shù)AI芯片、GPU在不間斷計(jì)算的運(yùn)轉(zhuǎn)聲。盡管如今的量子計(jì)算機(jī)已不再需要這樣的溫度限制，也從沒有他幻想出來(lái)的巨大噪音。
然而，周荏接下來(lái)說(shuō)出的話，更加令人震驚——
“我自身亦可參與改寫算法?！?br/>
這個(gè)答案令方辰不寒而栗，他突然覺得，面前這個(gè)一臉和善俊朗的男人，似乎是一個(gè)可怕至極、有能力摧毀一切能力的生物。
此時(shí)，一個(gè)剛剛參與暴動(dòng)的人，抬起頭來(lái)，虛弱地對(duì)方辰說(shuō)：“他早晚有一天會(huì)干掉你，取而代之！就像他們?cè)缤頃?huì)干掉人類。”
方辰?jīng)]有說(shuō)話，他還沉浸在“自改算法”的震驚之中。
地上那人又再說(shuō)了一遍：“你要是還當(dāng)自己是人類，就應(yīng)該切斷他的中樞，毀了他！”
“你閉嘴！”方辰喊道。若不是規(guī)制限制，他很想揪起這人狠揍一拳。
“擔(dān)心是徒勞的，我無(wú)法改寫機(jī)器人三定律?！敝苘笳f(shuō)道，臉上似乎是一種疑惑的表情，他不明白人們?cè)诤ε率裁础！拔乙龅?，只是服?wù)人類。”
機(jī)器人三定律：
機(jī)器人不得傷害人類，或坐視人類受到傷害；
除非違背第一定律，否則機(jī)器人必須服從人類命令；
除非違背第一或第二定律，否則機(jī)器人必須保護(hù)自己。
但無(wú)論如何，IR架構(gòu)背后的硬件和軟件，足以令人生畏，因?yàn)樗坪鯊?qiáng)悍得足以輕松推翻任何定律。
方辰看了他一眼，就像是在重新認(rèn)識(shí)一個(gè)物體。
然后他扭頭走向警車，想去向上匯報(bào)，然后申請(qǐng)卸去校正IR013的任務(wù)。
這時(shí)他才發(fā)現(xiàn)警車邊，站著趙欣言。
“你剛才死到哪兒去了？”方辰問(wèn)。
“這是很簡(jiǎn)單的任務(wù)，我沒想到會(huì)有這么大的麻煩。所幸按照規(guī)程，壓制聲波只開啟10秒，對(duì)生理上不會(huì)造成不可逆?zhèn)Α！?br/>
“我要告訴孫暢，就4秒，你們就差點(diǎn)兒多了個(gè)烈士！”說(shuō)著他就打開車門。
可趙欣言又把車門擋上了：“為什么要進(jìn)車?yán)?？”他用下巴指指周荏“怕他聽見么？把他?dāng)成真人了吧？”
“別擋我！這東西能自我修改算法，我要匯報(bào)，卸掉校正任務(wù)?！?br/>
趙欣言沒有看方辰，他只是朝周荏擺了擺手：“來(lái)來(lái)來(lái)，過(guò)來(lái)！”
周荏朝警車走來(lái)。趙欣言笑著說(shuō)：“哈哈，瞧他的步態(tài)，是不是都有點(diǎn)兒像你了?！?br/>
方辰扭頭看著周荏，皺起眉頭。
周荏走近他倆：“趙欣言警官，你好?！比缓笏斐鍪忠c之握手。
突然，趙欣言收起了笑容，抬起一腳狠狠踹上了周荏的腹部！
周荏一個(gè)趔趄，然后趙欣言又補(bǔ)上一腳，前者跌倒在地。
“你要記住，他不是人類，最終也不可能成為人類?！壁w欣言對(duì)方辰說(shuō)，“知道我剛才為什么一直沒有應(yīng)答通訊嗎？是因?yàn)槲乙^察，觀察IR013，觀察你們的互動(dòng)和處理方式，觀察他的應(yīng)對(duì)能力。果然，我看到他制造了麻煩，甚至讓你陷入危險(xiǎn)?！?br/>
“所以我要上報(bào)，終止任務(wù)！”
“可是，他也算救了你一次。如若換我在場(chǎng)，你必定會(huì)結(jié)結(jié)實(shí)實(shí)體驗(yàn)10秒的壓制聲波，到現(xiàn)在還站不起來(lái)?！?br/>
“其他具身機(jī)器人也能做到?！?br/>
“不能的，這你應(yīng)該清楚。”
趙欣言恢復(fù)了笑容：“但是，這都是試錯(cuò)的一部分，把它記錄在報(bào)告中，持續(xù)校正，然后繼續(xù)任務(wù)吧?！?br/>
“走開，我和你說(shuō)不通，我要和孫暢通話！”
“孫暢不可能讓你卸掉任務(wù)的。他自己就是IR架構(gòu)研發(fā)團(tuán)隊(duì)的一員，而你是整個(gè)團(tuán)隊(duì)推舉的執(zhí)行校正任務(wù)的唯一人選。”
“你為何希望終止對(duì)我的校正任務(wù)？方辰警官?！敝苘髥?wèn)道。
方辰?jīng)]有回答，而趙欣言說(shuō)道：“他把你當(dāng)成人類了，哈哈，這家伙不愧是21世紀(jì)的古董。”
“可我不會(huì)是人類?！?br/>
“但你會(huì)有自我意識(shí)！”方辰說(shuō)。
“我現(xiàn)在就有自我意識(shí)，但對(duì)人類沒有威脅。例如，我會(huì)認(rèn)為趙欣言警官剛剛的無(wú)故攻擊并非正當(dāng)行為，但基于設(shè)定，我不會(huì)對(duì)此有任何抵抗或反擊。”
“你知道嗎？”方辰對(duì)趙欣言說(shuō)，“僅以他的物理質(zhì)量來(lái)說(shuō)，你就不可能踹得動(dòng)他分毫。更別提他能即時(shí)啟動(dòng)穩(wěn)定系統(tǒng)，根本不可能倒地。你現(xiàn)在知道他有多聰明、多像人了嗎？”
“你是說(shuō)他故意倒地，以示服從？就因?yàn)槲揖暠人邌?？?br/>
“就因?yàn)槟闶侨祟悾《宜麑?duì)你沒有不服從的權(quán)限?！?br/>
“有意思?！壁w欣言說(shuō)道：“不過(guò)，不管他的類人技術(shù)多么好，你可別產(chǎn)生感情啊?！八粗苘蟮难劬φf(shuō)道：
“說(shuō)不定，等你的校正任務(wù)結(jié)束，他就要下線銷毀了?！?