人類制造的最后一臺機器？

□ 尹傳紅

半個月前撒手人寰的著名物理學家斯蒂芬·霍金，生前在其專業領域之外有兩個驚人之論：一是主張不要主動去聯系或接觸外星人，二是警示人工智能最終有可能會毀滅人類。對于第一個論題，人們多半認為這位科學明星太“科幻”了，不是特別當真。而第二個論題，由于有比爾·蓋茨和埃隆·馬斯克等大佬的呼應支持，倒好像真有那么回事。

實際上霍金不止一次拿人工智能唬人。2014年5月，他與包括諾貝爾物理學獎得主弗蘭克·維爾切克在內的幾位著名科學家聯合在英國《獨立報》上發表文章，對人工智能的迅速發展提出告誡說：創建一臺真正能思考的機器“將是人類歷史上最大的事件”。一臺超出人類智力水平的計算機可能會“超越人類研究者的發明，超越有控制能力的人類領導者”。把這一切視為科幻小說，則“有可能是我們歷史上最糟糕的錯誤”。

而擁有機器人專業博士學位的美國作家丹尼爾·威爾森，幾年前出版了一本生動描述機器人對人類發動戰爭的科幻小說《機器人啟示錄》。小說中，一個看似淳樸、嬰兒外形的機器人阿考斯教訓制造他的人類說：“你們人類只是一種被設計出來創造更多智能工具的生物機器，你們已經抵達你們物種的金字塔尖了，……你們的大限已到；你們已經達成你們被設計出來時所賦予的一切使命。”

自20世紀40年代計算機被發明出來之后，機器就一直被寄予厚望，人工智能的先驅者們大多數時候都不認為他們的事業可能會存在風險。不過，英國著名數學家、“計算機科學之父”阿蘭·圖靈早在1951年就曾表達出一種擔心：“這似乎是可能的，一旦思維的步驟開始了，用不了多長時間，其力量就有可能超越我們脆弱的人類……它們可以通過互相交流來增進它們的心智。所以，到了某一個階段，我們將不得不考慮機器控制世界這個問題了。”

美國應用數學家、信息論的創始人諾伯特·維納是最先預見到信息技術雙重可能性的人。在20世紀中葉計算機時代的開端，維納就為我們描述了未來一個令人心悸的場面：……如果我們朝著制造機器的方向前進，這些機器可以學習，它們的行為可以通過經驗來修正，那么我們必將面對這樣一個事實：我們給予機器的任何程度的獨立性都可能導致對我們自身意愿的反抗。瓶子里跑出的精靈不會心甘情愿地重新回到瓶子里。同樣，我們也沒有任何理由希望它們善待我們。

英國數學家歐文·約翰·古德大概是清晰闡述人工智能未來圖景的第一人，1965年他指出：我們把超智能機器定義為具備超越所有聰慧人類智能活動的機器。一旦機器設計成為一項智能活動，那么，超智能機器就能設計出更好的機器。毫無疑問，肯定會出現諸如“智能爆發”這樣的局面，人類智能會被遠遠地甩在后面。因此，第一臺超智能機器將是人類制造的最后一臺機器，如果這臺機器不是足夠聽話并告訴我們要怎樣才能控制它的話。

在《關于第一臺超智能機器的推測》中，古德捎帶也談到了科幻：“本書的內容對一些讀者來說可能很荒誕，但是對于作者來說，這都是真實而迫切的，絕不僅僅是科幻小說的內容，應該被認真對待。”

認真對待超智能機器的業內專家為數不少。美國發明家、未來學家雷·庫茲韋爾于2005年推出《奇點臨近：2045年，當計算機智能超越人類》一書。他在書中所闡釋的“奇點”（Singularity）頗受關注，也廣有影響。這是一個英文單詞，表示獨特的事件以及種種奇異的影響。數學家用這個詞來表示一個超越了任何限制的值，如除以一個越來越趨近于零的數，其結果將激增。

據說，奇點由計算機的重要奠基人之一馮·諾伊曼第一次提出，并把它表述為一種可以撕裂人類歷史結構的能力。而美國計算機專家和科幻作家弗諾·文奇則使用該詞來描述那種無情的、飛速前進的科技發展最終將達到的一種臨界聚集狀態。

關于創新技術的神奇設想，聽起來都像是科幻，但確乎向來如此。而在我們與創新技術的浪漫故事中，也總是風險和收益并存，永遠會有好壞權衡。似乎不可避免的是，我們很快就要與一種前所未有的東西共享這個星球了。那是一種真正不可思議的具有超群才智的玩意兒。

接下來，我們要考慮什么，又該做些什么呢？