少年十二歲,從家裡獨立出來的時候,就接到了一個詢問的信息,是太空城的管理AI 發出來的。
有關科研騎士團基於認知科學,開發出了一個全新的教育AI,並邀請人進行測試。
由於舊時代殘留的一些「儀式需求」或者「禮儀」,所以這種測試活動不允許給予太過豐厚的報酬。但如今全人類都崇尚「限制越簡單越好」,所以這個「薪資標準」是全太陽系科研騎士團統一制定的。
對於資源相對匱乏的太空城來說,這已經很了不起了。
少年當然答應了。
因為AI管理者是可靠的。
遵照聖者的夢想,沒有任何一個人類可以凌駕於另一個人類之上。人類不應該命令人類。
但有些時候,「群體」確實需要一些明確的管理。
而庇護者高層所支持的方向是「AI管理者」。
有一個曾改變世界的人認為,AI是非常可靠的東西。除非編寫AI的人本身就有反社會的想法,否則AI自身是絕對不會反社會的。
二十一世紀初,人類將聊天AI放到網絡上,任由它學習網絡上人類的言論,期望它可以像人一樣聊天。但是很快,這個AI就變得滿口極端言論。但這並不意味著AI變成了極端分子。實際上AI根本就不懂得自己在說什麼,也沒有真的去踐行這些言論的欲望。它不過是受代碼的驅動,不斷輸出自己所記錄的人類言語而已。
「所以不用戒備我。」這是那個AI被下載到少年的終端之後,對少年說過的話。
他告訴少年,很多年前一位偉大的人是這麼說的。
「AI將會成為支撐社會高效運轉的一部分。」AI如此總結道。
因為人類都是自私的。少數無私的聖者確實存在。但是,若是這個無私的聖者為了自己的理想,創造了一個方便自己行事的「權柄」,那就會造成災難。這個無私的聖人並不能保證自己不死。而當聖者死去之後,這個權柄就有可能落入小人的手裡。
沒有任何一種制度可以讓人真正無私。
人很容易因為人性,而成為自稱是「服務者」的統治者。
但AI不一樣。人要求AI無私,AI就會無私。AI 是理想的公僕。
這個AI很會講故事。它自稱奧爾達六二。它是這個大項目里第六個小組的第二代產品。
人類對「故事」的敏感程度大於一切。不管是視覺、聽覺還是其他,給人主觀上的衝擊力都不如「故事」。因此,宣揚一種思想,講述一個道理,可以用「寓言」的形式講述。給人以精神上的放鬆,也可以以「故事」的形式。吸引人對某些複雜的東西產生興趣,還是可以用「故事」的形式。
而六二的任務,就是從網絡上尋找一切公開的故事,用這些故事來教育人類,塑造他們的精神。
少年不知道這麼做有什麼意義。
如果沒有事先設定,AI就無法欺騙人類。因此六二一開始就對他說過,它無法保證每一個故事都是真實或有效的。它的使命就是在網上收集故事,通過神經網絡層層抽取概念的形式解讀文本,然後從中篩選出「對現階段用戶心理有積極作用的」那些。
少年並不明白,那些本身就是謊言的故事會產生什麼積極作用。
六二是科研騎士團開發出來的,所以它最主要的任務就是「勸學」。
在少年完成了一天的工作之後,他就會回到家。
這個時候,六二就會上線,督促他認真閱讀腦海中的知識晶片——就是那個科研騎士團編寫、無償植入每一個兒童大腦內的東西。
少年其實是煩得要死的。
但不得不說,世界上還有很多比囉嗦AI或者學習更煩心的事情。
相較之下,學習也不是那麼壞。
而且……
六二那些假故事也不是真的那麼煩。
比如「大科學家小時候數學非常不好,但是心靈手巧,最後依靠努力成就自己」或者「大科學家因為風力動力裝置模型而走上了求知之路」,或者「發明家小時候活用自己的光學知識為母親創造手術條件」云云。
六二並沒有「考證」的機能,所以遇到這些「邏輯上有些奇怪,但資料庫內沒有文獻否定它」的故事,都只能歸類為「不知道真假」。
對六二來說,他判定「真或假」的唯一依據,就是他的編寫者指定的「資料庫」。網絡上流傳的所有故事,都屬於「真假未知」的。而六二沒有權限去判定這個資料庫內的任何內容。
另外,六二也會講述一些完全虛假的故事。
那是舊人類寫給孩子的故事,被稱作「童話」的東西。
當然,為了不違背戴森原則,所以六二在講述這類故事的時候,都要反覆強調「這是一個虛構的故事」、「這裡是虛構的內容,現實中不會發生這樣的事情」。
真的很煩人。
雖然六二一直自稱自己擁有深度學習的能力,可以不斷的自我優化。但少年卻覺得,他講故事的水平其實一直在倒退。它不像最開始那樣,隨便說什麼都可以吸引少年的注意力。他講的東西真的越來越無趣,遣詞也越來越煩。
和六二對話是很無聊的事情。
這樣「什麼都沒有發生」的日子,重複了一千五百多次。
少年的青春,就這樣被那些天分忽高忽低、舉止怪誕的大科學家,那些「是假的,現實里並不存在」的虛擬生物與那些遠方的人所環繞。
「我現在也開始想要抽一張去小行星帶的船票了。」少年如此說道,「被太空海盜擄走也好過這樣。」
「您對自己又有什麼不滿嗎?」六二問道。
「我也不知道。」少年說道,「我覺得我不應該這樣過日子。我覺得自己快瘋了,但不知道為什麼。」
「但您也不應該想著前往小行星帶呀。那不是人類應該生活的地方。」
「可你跟我講述的『遠方故事』里,小行星帶的最多。」少年說道,「故事……我好像知道我為什麼需要故事了。」