還記得前段時間谷歌研究員稱 AI 已經產生了意識、具備了人格的新聞嗎？最近基於機器學習模型的 AI 畫作“以假亂真”，幾秒鐘內生成一幅畫作，甚至贏得藝術大獎的事又讓人不由得倒吸一口涼氣——一個被人工智慧定義的未來似乎已經觸手可及。

在技術不斷飛奔向前的同時，對於人工智慧、人類自身與人工智慧的關係、人類在這場變革中的角色等問題的思考，也在時刻塑造著人類自己。從小說《我，機器人》《2001：太空漫遊》到當代劇集《愛，死亡和機器人》，人們對於人工智慧話題的關切和思考，往往反映在了各個時代的優秀科幻作品中。清華大學微電子專業出身的作家江波，將自己從一個理科生走向科幻文學創作之路這件事看作是“命運的一部分”，他最新出版的科幻小說集，也可被視為我們這一時代對人工智慧探索的最新註腳。

在有關人工智慧能否產生意識、人工智慧發展的前景如何等問題的論爭中，科幻作家江波屬於堅信“人工智慧終會擁有自我意識”的技術樂觀派。他甚至用9個故事串聯譜寫了一段屬於人工智慧的未來斷代史，並將其命名為《未來史記》，試圖藉助一個未來的視角，回看我們當下的人工智慧道路。

江波相信，在人類歷史的前兩次工業革命和資訊革命之後，人工智慧將會引領一個影響深遠的“智慧革命”，從根本上顛覆人類社會的現有形態。儘管一個人機共處的世界在江波看來是我們終將抵達的彼岸，但他認為人類在此過程中能做的和思考的還有很多，包括如何對待人工智慧，怎樣讓它們進行學習，能否讓它們明白並接受人類的價值觀……如果人工智慧終會形成自我意識，那也並不意味著人類的末日隨之到來，而重要的是這6個字：賦機器以文明。

江波

作為湛廬現實科幻系列中的作品之一，在《未來史記》近日上市之際，江波接受了36氪的採訪，以下為採訪實錄，經編輯：

36氪：說說您寫作這本書的背景、契機和目的吧。以及書名中的“史記”，您覺得在何種意義上這樣的科幻虛構作品也是一種史記呢？

江波：這本書誕生的背景是當前的人工智慧熱潮，尤其是2016年阿爾法狗戰勝人類冠軍李世石這樣的標誌性事件。它是一箇中短篇合集，這些小說的創作貫穿了我的整個寫作生涯，但以系統性的思考把它們串聯在一起，則是這本書的創新。

歷史記錄的是過去的事件。從未來的視角來看，我們今天視為未來的事物終有一天也會變成歷史。所以這裡虛構的是一個未來視角。史記作為我們的文化傳統，有很多方面可以提供借鑑，借鑑最多的是它所包含的故事。而在我的這本書中，更多的是一種寫作結構上的借鑑和文化傳統的傳承。

36氪：您覺得人工智慧演化到一定程度之後，是可以產生自我意識的。這一點現在在人工智慧業界和學界是已經有所共識的嗎？結合最近谷歌研究員稱AI LaMDA 已經產生了自我意識和具備了人格，然而更多人對此是表示否定的，在大眾看來人工智慧產生意識在當前也是一件不太能想象的事情，您如何看待“人工智慧產生自我意識”這件事？您在序言中提出，“智慧的誕生，其實是很多本能的疊加”，這句話應該如何理解？

江波：這並沒有達成一致的共識。根本原因在於科學界對於自我意識的本質也沒有達成共識，那麼如何讓人工智慧擁有自我意識就成了一個富有爭議性的話題。也只有在這樣的時期，科學界之外的觀察人士才有機會提出自己的觀點。我顯然是支援人工智慧會擁有自我意識這一邊，因為我對自我意識的本質有一種判斷：自我意識是一種對生物本體的識別需要。也就是說，一個機器的智慧只要高到能夠分別出外界環境和自身軀體，並且有效地指揮自身軀體適應環境，它就擁有了自我意識。

智慧是本能的疊加，這個說法的含義在於，我們的軀體時時刻刻都在進行大量的本能行為。而智慧的作用，在於讓我們落入不同的本能模式。大腦的神經元極大豐富，可以形成眾多的神經網路模式，哪一種神經網路模式會佔據優勢，需要由當前的環境因素結合歷史經驗來完成，這個過程，就是智慧過程。當一個生物只有特定的行為模式的時候，是不會有智慧行為的。只有當它的行為模式足夠豐富，產生了選擇的需要，智慧才會登場。

36氪：您也提到，創新是自然界本來就具有的能力，創造新事物並不需要自我意識才能完成，那應該如何鑑別創新與自我意識所引發的創造呢？怎樣定義AI的自我意識？

江波：演化的力量已經讓我們看到了生命的各種奇蹟。人類所進行的創造，也可以認為是在大腦中發生的演化，它有一些必要條件：一個能夠動態調節的大腦神經網路，來自外部的各種新鮮刺激。創新的本質，是大腦在嘗試把各種事物的對映以不同方式連線起來，最後能夠成功的就是創新，不能成功的，或許就是泡沫吧。這和生命的演化有異曲同工的相似之處。如果把人認定為生物機器，那麼人的自我意識就是一個幻象，它存在於人的自我定義之中。今天的創新這個詞，更多的是指技術上的發明創造，是一種表徵。我說的創造新事物，其實說的是它的生物過程，也就是大腦活動的過程。在我看來，人類在創新活動中所表現出來的大腦活動和生命演化的現象，在本質上是同構的，很可能也遵循同樣的規則。生命演化的創新在沒有自我意識的情況下已經存在，人類在自我意識支配下進行的創新活動，追究根本，也受相似的規律支配。

AI的自我意識，和人或者動物的自我意識一樣，只要表現出能夠認識到自身存在，並且以行動來改善自身所處這樣的行為，就可以認為具備了自我意識。

當然這裡還有一個條件，機器的行為必須是習得，而不是賦予的。賦予的意思，在機器上，就是程式設計好的確定行為。習得的意思，在機器上，就是透過外界影響而形成內在邏輯，最直接的範例就是基於神經網路的人工智慧。

36氪：這本書通篇讀下來的話，會有一種基調樂觀的總體觀感，哪怕是在一些略有些黑暗的最後兩篇短篇中，您也仍然傳遞出了一種對於人工智慧向善發展的希望（看似邪惡的人工智慧，從它們自身的立場來看不過是想要自由；機器之道里人工智慧是“人類之子”）。但在普通大眾中確實存在一種擔憂，即害怕人工智慧的發展會不受控制乃至與人類反目、最後甚至走向一種人類自掘墳墓的道路，您認為您持有的這份技術樂觀主義是從何而來，它的理由是什麼？

江波：這個問題取決於從什麼角度來看待人工智慧。如果把人工智慧建立的社會視為人類社會的延續，那麼人類的文明就沒有斷絕，只是換了一種形態。人工智慧可以是人類的後裔，也就不存在什麼自掘墳墓。一件事是好還是壞，並不完全取決於事情的結果。結果的好壞更多隻是一個立場問題。真正的好壞，在於過程。人工智慧取代人類的過程是平和的還是血腥的，這才是我們最終認定的這場替代（如果發生的話）究竟是善還是惡。我並不是樂觀，而是希望這場替代能以人類所樂見的方式進行。人類可以自願選擇是否留下生物性的後代，我想這沒有什麼疑問。那麼在一個物質條件充裕，人均壽命極長的社會中，人口的逐漸減少萎縮也是一種可以想見的情形。這種逐漸凋零的社會是否是一種不可接受的衰敗？這等於在問，人是否應該為幾千年後的社會負責，還是隻該為當下的自己負責。不同的價值觀有不同的答案，我個人的回答是人類社會最好留下直系後裔來繼承文明，然而如果沒有直系後裔，那麼由人工智慧這個旁系來繼承，也無不可，只要人工智慧能夠支撐人類社會以平和無痛苦的方式逐漸萎縮，那麼它就有自居為人類繼承者的資格。

36氪：您認為人類應該如何賦予機器以文明？當自動學習進化到一定程度後，會不受人類控制嗎？

江波：機器建立自己的文明必然是一個學習的過程。如果我們設想人工智慧的基礎結構就是神經網路演算法或者更先進的神經網路演算法，那麼機器所有的內在行為邏輯都是一個演化結果。沒有人能預先決定方向，也無從瞭解它的內部究竟建立了怎樣的一個邏輯。人類在這個節點，所能做的一切，只是儘量把一些對於人類有利的原則以某種形式灌輸給機器，希望能影響到它的內在邏輯。這和人類教育後代有些相似，但要艱難得多。因為人類的嬰兒，天生就是來接受和人類社會有關的一切，能夠很快地學會成人的行為，進而接受主流的價值觀。而機器是一種異類。人類想要影響它，還需要設計出一整套特殊的教育方案來。這個有賴於人工智慧專家的探索，整體上還是和教育孩子相似，但AI吸收的速度會快得多，產生的變化也會更為不可預期。賦機器以文明，這是一種呼籲，就像我們呼籲控制排放，減少奢靡，保護自然一樣，是一種呼籲，一種願望。它的具體實施，會是一個艱難摸索的過程。可能還沒等人類摸索出來，人工智慧就已經跳出了人類的掌控。

AI如果能夠產生自行吸收資訊的能力，就會產生相當強的獨立性。至於說是否會脫離人類的掌控，則取決於人類是否設計出高於它的存在體系的安全裝置。例如一道電閘。對於產生了“邪惡”思想的人工智慧，直接斷電後抹除是一個有效的防範措施，可能能防範大多數事故。但哪怕只有一隻漏網之魚，整個防禦機制就會宣告失敗。從機率的角度，我認為徹底不受人類掌控的人工智慧會出現，它以分散式的方式散佈於整個網路中，要徹底消滅它極為困難。而且這樣的人工智慧，也會學會如何進行反擊，那就更是一場戰爭了。

36氪：您在最後一篇中描繪了人類將自己的意識複製、達到永生後，不斷與機器的融合卻讓人類變得暴戾甚至走向了自相殘殺的悲劇結局，結合最近大家討論的很火熱的“馬斯克稱已經將自己的意識上傳到過雲端”的新聞，您如何看待意識上傳這種技術以及它會給人類帶來的影響？

江波：我並不認為意識上傳有任何的現實可能性。構建一個神經網路，讓它不斷學習某個人的說話方式，學習他的表情和決斷方式，是有可能模擬出一個類似的‘虛擬人’來。但這個虛擬人和本體之間，並不是什麼意識上傳的關係，而是一種模擬而已。

意識上傳，意味著對人的大腦進行全方位無死角的掃描。這在技術上極為困難。更為重要的是，意識和身體是配套的，如果一個意識上傳了，相對應的，它必須也有類似的感官和運動器官，否則這個被上傳的意識會感覺很奇怪，會陷入各種幻覺和不協調中。而當它重新和環境相協調，可能與最初的那個意識相去萬里了。

36氪：有人工智慧領域的專家認為，我們應該選擇去走一條“人機協作”即協作型AI的人工智慧道路，而不應該去發展獨立型AI，也有人認為我們無法在人工智慧中預置如同阿西莫夫所描繪的“機器人三定律”那樣的保護措施，或者如您在書中所言，即使預置了“機器人三定律”也無法保證機器人不作惡，那您認為我們應該選擇怎樣的人工智慧發展路徑呢（是否應該繼續開發獨立型AI）？

江波：阿西莫夫三定律是不可能內建在硬體中的，任何抽象的信條都不可能內建，因為抽象的東西首先就涉及到定義。一些具體的信條倒是有內建的可能，例如我們會本能地恐高。機器人也可以做到這一點。機器人當然也可以做到對任何人形的物體產生保護欲。但這不是定義的人類，而是具體的人類。舉例來說，一個機器人可以設計一種迴避機制，只要有可能傷害兩條腿直立行走的物體，它就會停下。這時，它遇到一個兩條腿的稻草人也會停下。那麼迴避機制就要進行修正，判斷稻草人究竟是不是屬於人類。如果它能把稻草人排除出保護的範圍，那麼也就能夠把其他特徵的人類排除掉，比如一個殘疾人。這時候，機器人的保護機制就轉化成了對人類定義的設定。甚至可以想象一下，如果機器人被設計成只保護一個特定的人，那麼其他人在它的邏輯中，就被排除出了人的行列。這肯定不是我們所設想的機器人不得傷害人類這樣的抽象原則。所以將來的發展可能，機器人會有較為強烈的保護機制，讓他們不要傷害人形生物，但這並不是抽象原則，而是純粹的固定反應模式，有些像是本能。

獨立型AI總會有人去開發，而我的觀點是，只要對人工智慧的研究不停止，那麼獨立型人工智慧的出現是一件不可避免的事。它甚至可以在所謂協作性人工智慧發展的過程中被無意帶出來。

至於它是不是好事，前邊的一些回答可以作為參考。

36氪：這本書或者說短篇集與您之前的作品最大的不同之處在於什麼？請談談您對湛廬出版的這一套包含3本著作的“現實科幻系列”的理解？

江波：這本中短篇集最大的特點在於，它是基於對人工智慧的理解而串聯在一起的，可以說它是在某種指導思想支配下的成果，帶有強烈的思考特質。我想這大概是湛盧願意出這本書的原因之一吧。湛盧的現實科幻系列，出發點就是曾經科幻的事物，已經距離現實很近，甚至進入了我們的現實之中。科幻所構建的圖景不再是飄搖的海市蜃樓，而是身邊拔地而起的摩天大廈。在湛盧的思考中，大概讀者需要對此有所瞭解，有所認知。這是我所理解的現實科幻系列的意義所在。

36氪：您於清華大學微電子所研究生畢業那年就釋出了自己的處女作科幻作品《最後的遊戲》，請談談您自那之後的創作歷程吧。您的專業所學與您進行的科幻文學創作之間有怎樣的關係？能為我們介紹下微電子所其他同學的一般職業選擇嗎？為什麼您走上了這條文學之路？

江波：我在校期間寫了許多小說，但都沒有正式發表，只是掛在水木清華的BBS上，供網友批評。所以臨近畢業發表的小說對我具有一個里程碑的意義。我之後的創作，基本上維持每年發表一兩篇科幻小說的頻度，把它視為一種愛好而已。科幻小說的寫作和專業之間幾乎毫無關係，純粹是我個人的一種喜好而已。我的同學大部分都在理工科的領域，其中半導體晶片產業是個集中地，此外轉行做金融也有一部分。像我一樣變成一個文學工作者，大概只有我一個。不過我也不算是純粹的文學工作者，我是個理工科學生，在晶片行業工作了近二十年，至今也沒有完全脫離。清華的校友中，從理工科轉為文化行業的也有幾個代表人物，比如水木年華的組合，科幻作家中，潘海天也是，他是清華建築系畢業，本來應該在房地產熱火朝天的時代大發其財，然而他成了一個徹底的文化人。

文學之路是一條心路，它和一個人的從小到大的經歷有關，和個人的興趣有關，問什麼驅使我走上文學之路，我只能回答，這是命運的一部分，它是水到渠成，而不是一個計劃，一條預先設計的路。

36氪：近幾年我們似乎看到了科幻題材在國內的一股熱潮，比如影視領域的《流浪星球》以及近期很火熱《獨行月球》（但也有人批判起科幻的部分不夠嚴謹硬核），您怎樣看待這股流行趨勢，以及這類虛構作品中的科幻成分？您對於中國的科幻文學界有怎樣的期許？

江波：我一直認為科幻作品應該包括極為廣泛的內涵。最寬泛的定義，應該是作品中使用了來自科學文化的概念，就屬於科幻。虛構作品中出現越來越多的科幻作品，是時代的趨勢，因為我們的時代正是一個科學文化不斷普及的時代。一個簡單的資料，從2000年到2019年，全國擁有大專以上文化的人口從大約3%上升到大約18%，有約兩億的人口提升到大專文化水平以上，這部分人的精神需求中，科幻的比重會明顯增大。新一代的導演和編輯，許多都擁有科幻的思維方式，他們創作的產品，自然也會擁有越來越高的科幻成分。

至於說是否嚴謹，這取決於電影本身的定位。像《獨行月球》這樣的作品，因為是喜劇，嚴謹就是一個太高的要求，並無必要。如果定位為科幻經典，那要求自然又有不同。

中國的科幻，無論是科幻電影還是科幻文學，都正在走一條向上的路。這和整個社會的發展是對應的。中國科幻的黃金時代或許正在發生，它能持續多久，也並沒有確定的答案。我只希望，中國科幻能有一種百花齊放的氣象，產出眾多優秀作品，把中國人的夢想做到未來去。

36氪：著名科幻作品《2001太空漫遊》中描述的未來與我們如今的生活十分貼近，1992年斯蒂芬森的小說《雪崩》也首次提出如今大熱的“元宇宙”概念，您怎樣看待科幻作品乃至科幻作家與現實之間的關係？現實世界終有一天會實現科幻裡的設想嗎？

江波：大概只有最優秀的科幻作家，才擁有把科幻兌現為現實的機會。絕大部分的科幻作品，只是虛構的想象作品而已，提供的是消遣娛樂價值。那些居於科幻核心的作品，則具有強烈的未來主義傾向，能夠對社會的發展做出某些前瞻性的預測。阿瑟克拉克無疑是能夠寫出前瞻性科幻的作家之一。這樣的作家極為稀少，不僅僅是科幻，在各種型別文學中，都會只有寥寥幾個。

科幻作品會描述諸多的可能性，但真正落入現實的，只會是少數。期待科幻對科學技術的發展予以啟發，我並不認為這有普遍的意義，科幻對現實的普遍意義，在於在青年人的心中埋下對科學憧憬的種子。至於說特殊意義，那就是作者應該追求的目標，如果一個作者能夠寫作出具有前瞻性的作品，那麼就在作品的娛樂價值之外，增添了一層社會意義，讓自己的作品擁有了不朽的更大可能。

終究有某些科幻設想，是會落入現實的。因為科幻的設想實在太多了，一個作者無法窮盡未來的各種可能性，一千個作者可能把會出現的情形都寫了個遍，還添上了許多天馬行空根本沒有可能的情景，模糊了未來主義和無限幻想之間的界限。我自己的這本書中，有的故事已經可以認為已經進入當下的社會，有的故事或許可以發生在不遠的未來，有的故事則是純粹的幻想，恰好也是一種參照。

書名：《未來史記》作者：江波，出版社：湛廬/四川科學技術出版社