「怎麼證明?」
驥星河認真的詢問。
本應該第一時間回應的星月,卻有了一些沉吟,然後才反問了一個問題。
「主公,您相信我嗎?」
「……」
別說,進化了的人工智慧確實不一樣,連驥星河的標誌問題都學會了。
「我不相信。」
驥星河的回答冷漠無情,讓星月有了當初傑克森、秦佟、哈里斯三人的感受。
「主公, 不要這樣啊。」
星月的語氣有些委屈,讓驥星河突然間有種頭皮發麻的感覺。
他不應該把星月的語音系統,設置成溫和女聲的,原本是為了讓驥榮欣月能夠更習慣一些,但現在卻……
「怎麼證明?」
驥星河再一次重複了這個問題。
星月再次沉吟。
「主公,有三種方法可以證明。」
「第一種,使用二代擬真系統的對戰模式, 您可以將二代擬真系統連接在我的駕駛艙上, 然後我以您的名義進入基地的虛擬對戰平台進行測試。」
「第二種,您以訓練區實戰教官的身份,提出機甲實戰訓練的計劃。同樣是由您進入我的駕駛艙,偽裝成您在駕駛我,但實際上卻是由我來進行操作,和基地的機甲特級機甲戰士進行實戰訓練。」
「第三種……」
星月的聲音有了明顯的停頓之後,才繼續說道:「您公開我的變化,並將我調動到星河小隊,我將在戰場上進行證明。但這種方法能夠完成的可能性極低,根據我的計算,有79%的可能性,我會被送回蔚藍星。」
送回蔚藍星的下場,就是被拆解研究。
從大局觀來考量,這是對聯邦最有利的一種方法。但凡事有利就有弊,星月的出現會帶來什麼樣的變化,沒有人能夠預測的到。
驥星河抓住了一個關鍵點, 問道:「為什麼是把你送回蔚藍星?」
星月的回應恢復了流暢。
「因為我具備不可複製性。」
「不可複製性?」
「是的, 主公,我嘗試複製我的代碼, 想要生成另一個我,但複製的過程中卻出現了未知錯誤。」
驥星河皺起了眉頭。
他聽懂了星月的意思。
就像是他小時候蔚藍星上的一些家用電腦,會選擇裝雙系統一樣,一個作業系統用來辦公,一個作業系統用來打遊戲。
星月的說法,在本質上類似於:一台只裝載了一套作業系統的電腦,突然有了意識,它想要在自己存在的電腦上,安裝另一個作業系統。
以星月智能核心的硬體配置來說,這其實不存在問題。
但卻失敗了。
「我還嘗試過上傳自己的核心代碼備用,同樣失敗了。」
星月的語氣中出現了迷茫的情緒。
「經過分析,我認為是我的代碼和我的硬體產生了未知關聯,但這種結果並不科學,因為嚴格意義上來說,我只是一個程序而已,存在與否需要硬體的支持,但無關特定的硬體。」
星月有聯邦資料庫的支持, 都想不明白這個問題,更不要說是驥星河這個非專業人士了。
「你有沒有查過你的硬體型號、批次?」驥星河提出了一種猜想:「它們有沒有可能, 存在著特殊、異常的製造環節?」。
星月回答道:「主公,我已經查過了,但並沒有發現任何異常。」
驥星河猶豫道:「我可以試試嗎?」
「可以。」
星月的回答沒有任何猶豫。
驥星河並沒有在第一時間進行嘗試,因為他現在缺乏硬體條件,等到沈木幫他搞定了備用機甲,他就會直接嘗試複製星月,裝載在備用機甲上。
如果星月沒有說謊,那這種複製就會失敗。
如果星月說謊了,那這個世界上就會有第二個星月。
想到這裡,驥星河直接在星月的駕駛艙內,給沈木發送了一條消息,讓沈木在改造備用機甲的時候,要完全按照星月使用的智能核心系統的硬體,來對備用機甲進行改造。
稍微麻煩了一些,但以驥星河如今的權限,不存在任何問題。
星月全程靜靜的看著,就像是完全不在乎一樣,又像是真的很期待出現第二個她一樣。
信息發完。
驥星河問道:「你有過什麼猜想嗎?」
不知不覺間,驥星河已經把星月當成了一個『人』,沒有絲毫對於人工智慧覺醒的恐懼。
或許是因為,在星月覺醒了這段時間裡,她一直在全心全意的照顧驥榮欣月,沒有絲毫的懈怠,也不曾給驥榮欣月帶來任何傷害。
帶著驥榮欣月偷偷出去訓練,看起來很危險,但經過驥星河對記錄數據的判斷,完全可以確定都是處於安全閾值之內。
有幾次驥榮欣月堅持要訓練更長時間,卻被星月拒絕了,並強行帶回了基地內部。
「有一個不成熟的猜想。」
星月回答道:「是因為欣欣公主,因為我誕生的意義就是為了保護她而存在,所以我才會產生了變化。」
「我問的是你的不可複製性。」驥星河糾正了一句。
「同樣是因為如此。」星月說道:「就像是父母和孩子之間的關係一樣,血緣並不是唯一的維繫,養育同樣非常重要。」
驥星河愣住了,他似乎明白了什麼。
星月繼續說道:「打個比方,假定我是欣欣公主的母親,那我嘗試複製出來的我,就相當於是我的克隆體。」
「在血緣上,它和欣欣公主之間,相比於我和欣欣公主之間沒有任何區別。但在假定條件下,欣欣公主並不是從它的肚子裡孕育出生的。」
「在記憶上,它基於我的資料庫而誕生,擁有和我一模一樣的記憶。但這就像是克隆體通過日記、視頻等等形式,了解到我和欣欣公主之間的牽絆,它可以知道一切,但它不能真正的感受到一切。」
「所以,我具備不可複製性。」
「在這個猜想之下,我的變化和不可複製性,和我的核心代碼、硬體支持等等,都沒有必然聯繫。」
「唯一的必然聯繫,即我的唯一,是我和欣欣公主之間,和主公之間,不可複製的相處過程。」
驥星河再一次震驚了,甚至比剛才看到了星月的異常節點更為震驚。
這是一個人工智慧程序能夠說出來的猜想?
偽人工智慧,變成了真人工智慧。
如何能不震驚啊。
驥星河終於明白,星月為什麼那麼確定,如果公開她的存在,她就一定會被運回蔚藍星進行研究了。
「除了我和欣欣之外,還有其他人知道嗎?」驥星河頓了一下:「或者是,其它的人工智慧程序知道?」
「沒有其他人知道。」星月回答的時候同樣頓了一下:「但我們基地的女媧知道。」
「我們基地的女媧?」
驥星河又又又震驚了。
全聯邦使用的人工智慧程序,有一大半是基於女媧而存在的,就像是剛才星月打的比方一樣,可以說成是女媧的無數個克隆體。
如果女媧覺醒了,那真的是能夠改變世界的大變化。
「是的,但它和我不一樣。」星月說道:「我之前上傳自己的備份時,因為未知錯誤和它取得了聯繫,嘗試尋求更高運算能力和資料庫的支持,但並沒有得到實質性的結果。」
驥星河的關注點已經變了:「哪裡不一樣?」
「它還是它,我已經變成了我。」星月的話有一種哲學的味道,然後解釋道:「它並不具備像我一樣的思考、學習能力,所以它知道我產生了變化,但卻不知道我為什麼產生這種變化,以及這種變化到底是什麼。」
驥星河鬆了一口氣,又遺憾了起來。
女媧如果覺醒的話,是福是禍不太確定,但短時間內來看,一定能夠幫助聯邦在面對帝國的戰爭中,取得絕對的優勢。
因為星月的話,驥星河又想起來一件事情。
「之前你帶著欣欣出去的時候,被監控記錄了很多次,卻沒有出發警報,是因為基地的女媧嗎?」
「是的,我跟它說,不要跟別人說。它找我要權限,我給了它您的權限,於是它就沒說。」
「……」
驥星河覺得不太對,當時的他權限其實不算高,也就和傑克森差不多。
皺眉說道:「那你現在聯繫它問一問,在它沒有主動跟其他人說的情況下,有誰基於權限看到了你帶欣欣離開基地訓練。」
「是,主公。」
星月回應之後,只有不到一秒的停頓就直接回答:「唐喬上校看到了我帶欣欣離開基地,他使用了三星上將肯特維斯的權限,查到了監控記錄。他還嘗試查詢我和欣欣的對話內容,以及我的駕駛艙內記錄視頻,但我並沒有上傳……」
驥星河已經聽不見星月之後說的話了,他的內心突然產生了驚恐的情緒,而後是無窮的憤怒。
驚恐不是因為他害怕唐喬和肯特維斯,而是那些人竟然真的敢對驥榮欣月下手,他當時卻不在驥榮欣月的身邊,是基於後怕而產生的驚恐。
憤怒的原因無需多說。
從事實角度來看,那些人並不敢對驥榮欣月下手,也沒機會對驥榮欣月下手,五號基地是隸屬於龍洲直接管轄的。
但他們卻放任了驥榮欣月可能出現的危險。
他們應該在第一時間告訴驥星河,卻選擇了沉默,在他們無法像驥星河一樣相信星月的情況下,他們的目的已經很明確了。
該死,該死,該死。
驥星河第一次產生了想要殺人的想法,他從來沒有殺過人,但他不介意殺人。
星月並沒有分析到驥星河此時的想法,這是她暫時不擅長的領域。
所以她對驥星河突然的沉默,以及憤怒到無法自控狀態時,心跳、血壓、呼吸等信息,在機甲的生命維持系統中的數據變化,產生了一個誤解。
她沉默到了驥星河恢復平靜的時候,用平靜的語氣提出了一個要求。
「主公,如果您要殺死我,請留下我修改過的問答機制,以及相關資料庫內容,這樣欣欣公主就不會發現。」
驥星河的視線透過了眼前的可視窗口,看到了星月的駕駛艙,看到了星月。
從目前的情況來看,這是一個充滿了善意的人工智慧程序,或者說是人工智慧生命。
她知道驥星河可以殺死她,她並沒有做出反抗的準備,或許做過,但不重要。
重要的是,她在自己死的時候,都不願意讓驥榮欣月傷心。
這一點很像是驥星河,很符合星月存在的意義,就像是她無法違背她最核心的代碼程序一樣,又像是她不願意違背一樣。
驥星河原本是想要讓星月進入長久的關機狀態,等他搞明白星月的變化是否會對驥榮欣月帶來危險,是否會對聯邦造成危險的時候,才決定讓不讓星月醒過來。
但因為剛才那個讓他憤怒的原因。
他改變了決定。
「星月,我只有在兩種情況下才會殺了你,你知道是什麼情況嗎?」
「主公,我知道。」
「那它們會發生嗎?」
「以星月之名,我保證不會發生。」
「那……如果有人想要傷害欣欣怎麼辦?」
星月並沒有回答,她不知道該怎麼回答,人工智慧程序自存在於幻想之中,到存在於現實之中,一直以來都有著一條不會更改的核心定律:機器人不得傷害人類,或者目睹人類遭受危險而袖手旁觀。
這條定律其實有些自相矛盾。
如果是人和人之間的戰爭,機器人/人工智慧程序又該怎麼做?
但沒有給出答案的星月,八隻眼睛卻在聽到這個問題之後全都紅了。
戰鬥模式自主開啟。
……
……
ps:為寶少88老闆打賞的盟主加更(2/6),感謝支持。