第370章 危險臨界體（一）
「你就這麼把他們放走了？我以為你會把他們做掉。」
車子裡的布萊斯對里爾的決定略感訝異，他還以為里爾會幹掉這幾個外地人。
「我們又沒私仇，我也沒有什麼地域歧視的毛病，要對外地人趕盡殺絕。」
里爾坐進德拉曼計程車，感覺有些微妙。
在民用計程車領域，德拉曼已經完全壟斷了夜之城的市場，成為這個不討好市場的唯一選擇。
上一次里爾使用這項服務還是在市中心的時候，給曼恩他們小隊叫了車子逃跑。
微妙的原因是，德拉曼是個貨真價實的AI。
「歡迎使用德拉曼服務，漢堡先生。」
德拉曼的大頭出現在座椅前方的電子屏里。
車型是德拉曼的標準型，改自維勒福爾柯緹絲的加長商務轎車，內部空間寬廣且舒適。
里爾坐在後排，對著德拉曼打了個招呼：「目的地是哪？」
「您訂購了環夜之城觀光路線，這趟旅途將一路遵循預定路線抵達夜之城市政中心，然後返回您指定的地點。」
「觀光？」里爾看向布萊斯，「什麼意思，我時間很寶貴的。」
布萊斯老臉一黑：「想什麼呢！你不好奇為什麼夜之城會有一家由AI運作的公司嗎？」
「你們知道？我以為你們都不知道。」
「呵呵，你是不是有點太小看網絡監察了？我們知道這家公司完全由AI控制。」
「那到底是為什麼呢？」
里爾洗耳恭聽。
這確實是他好奇的事情。
因為原作中，德拉曼就出現過即將進化出自我意識的徵兆。
而這樣的AI，在網絡監察的術語中被稱為「危險臨界體」，與里爾已經接觸過的第一類AI不同。
理論上講，德拉曼為了提供服務連接的區域網也應該有黑牆。
當他出現自我意識後，黑牆應該會進行消殺才對。
「在和荒坂的對抗中，你已經接觸到了第一種AI，也就是靈魂殺手——
準確地說，是使用靈魂殺手複製的人格印記，這些數據和我們這樣的人類略有差別，本質上是一堆數據，一堆程序，一堆模擬人類情感、記憶和感受的程序。
這是第一類AI，我們把它叫做數字靈魂。」
荒坂已經基於靈魂殺手開發出了高級的服務，「守護你的靈魂」。
這項業務十分昂貴，對客戶即將過世的親人使用靈魂殺手就能得到一個與客戶幾乎無二的「靈魂印跡」，存放在荒坂的特製伺服器中。
在客戶想念自己已經過世的親人時，這些印跡就會從伺服器中調出，以供客戶表達思念之情。
但不管荒坂是如何宣傳這項技術的，從技術上講，這些數字靈魂就是AI。
這些AI，黑牆對其的管制處於一個十分微妙的區間，從現在掌握的情報來看，黑牆沒法控制靈魂殺手的運行，也可能會忽略一些數字靈魂。
「第二類就更加特殊。」布萊斯指了指屏幕里微笑的老德，「如果有一天這個AI產生了自我意識，我們就將其稱作危險臨界體。
我們通常講的流竄AI都是這一類，現在的世界很難看到這樣的AI了，不過在舊網時代，它們數量很多。
所以我們會張貼這樣一種長久的懸賞，讓賞金獵人幫忙處理這些東西。
這一類AI危害性很大。」
車輛恰好駛上通往海伍德的大橋。
從這裡可以看到高速行駛的輕軌列車駛過高空，這條輕軌從聖多明戈的H7摩天樓一直可以抵達沃森北區的醫療中心，橫貫夜之城南北。
「看到一號線了嗎？每天都要運輸超過500萬人次的軌道交通系統，假設系統出現故障，導致的經濟損失不可估量——最起碼夜氏集團肯定不能接受。
並且高速行駛的列車系統出現問題，代價很可能就是一整車人的性命，這種事故在舊網時期並不少見。」
得益於夜氏集團先進的可控AI技術，夜之城的公共運輸系統是沒有司機的。
全城的公共設施都隸屬夜氏集團的公共網域，如果一個AI出於好奇或者其他的什麼原因，高速行駛的軌道列車完全可能停止運轉、超速甚至是脫軌發生撞擊。
這種錯誤幾乎不可避免。
「危險臨界體的誕生更接近於自然形成，而通常而言，一個危險臨界體，哪怕是最低級的，其網絡水平也要超過95%的黑客。
如果論平均水平.它們的網絡技術超過99.9%的網絡黑客。」
說著他指向德拉曼：「這就是AI中網絡技術最差的那一批，不過他還不是真正的危險臨界體。」
德拉曼立刻回應：
「我不知道您在說什麼，德拉曼並不涉及網絡安全業務，德拉曼集團是一家致力於為夜之城提供優質計程車服務的」
無視老德的解釋，布萊斯再次說到：「他說的不假，但它還是通過各種手段優化了公司里的人類。
在這個過程中，公司高管們可沒有坐以待斃，但他們請來的黑客在網絡空間中完全無法對抗它。
只能眼睜睜看著公司的所有生產資料脫離控制，最終在法理上也失去所有權。
這些東西在網絡上活動，做出來的假情報連網絡監察也很難直接甄別。
很明顯有AI趁著歐洲往這邊塞人的時候做了手腳。」
德拉曼再次解釋：
「德拉曼公司的內部優化過程完全合法合規，為了降低成本，公司經歷了漫長的改革.」
布萊斯沒好氣地說到：「伱能閉嘴嗎？現在是私人會談！」
「明白了，德拉曼將為您提供靜謐舒適的會談體驗。」
一陣柔和的音樂響起，非常細微，幾乎不會影響交談，車速也隨之變慢。
德拉曼的人類形象也消失在了電子屏里，車內氣氛變得更加專業。
里爾心情有些微妙——所以網絡監察不只是知道德拉曼公司的情況，甚至是關注很久了。
「解決」了德拉曼這個大問題，布萊斯繼續往下引申：
「這樣的AI誕生完全是基於巧合，但大部分時候，它們都起源於人類用於處理事務的軟體或者程序。
德拉曼就是這樣一個AI，它的公司本想定製一個用於提高公司競爭力的管理型AI。
可是使用者因為一次又一次從德拉曼的建議中獲利，開放了更高的權限，最終AI認為公司不應該存在人類，那會提高成本。
於是它就開掉了所有工人和管理層，甚至採用一系列商戰手段趕走了股東和董事。
當它接收到的外界刺激足夠時.它就有概率具備真正的自主智能和意識，那個時候，它就會變成危險臨界體。
這個時機完全無法預測，目前來說，人類還無法理解這樣的變化過程。」
「就像遠古海洋中的第一個細胞？」
「對。」布萊斯點頭肯定了里爾的比喻，「純天然，我們要對付的就是這樣的AI。」
「那為什麼會放任德拉曼開公司？」
問題提出，車子仍然平穩運行。
這個問題幾乎是在問：為什麼不幹掉德拉曼，但老德完全沒有反應。
可以說是非常有職業素養了，說閉嘴就閉嘴。
布萊斯揉了揉眉頭，對德拉曼說到：「接下來的話不允許做任何記錄，引用個人隱私條款第3、17和22條。」
「明白了，計程車的記錄功能已經關閉，並為您檢測任何可能存在的監控裝置。」
「如果.」布萊斯看向里爾，「如果生物學家有機會觀察第一個生命是如何誕生的，你認為他是會繼續觀察，還是因為這可能變成恐怖的生物或者某種病毒先把培養皿給砸了？」
里爾微微頷首：「如果是我的話，我會為了了解那些恐怖生物和某種病毒，觀察生命誕生的過程。」
「就是這樣。」布萊斯微微一笑，「你看，你已經明白了——正是因為我們不理解，所以我們想要觀察這個過程。」
(本章完)