智能機(jī)器將是人類的最后一項發(fā)明？

計算機(jī)的處理能力隨著時間推移大幅提升。某些理論認(rèn)為這是技術(shù)發(fā)展整體加速的其中一個表現(xiàn)，并將不可避免地帶來人類命運的激進(jìn)變化。按照這種觀點，人類似乎朝著一個轉(zhuǎn)折點前進(jìn)，未來要么屬于機(jī)器或超人類或是整個加速過程因不可持續(xù)而崩潰。不管是哪種結(jié)果都是災(zāi)難性的。至少這樣的一個轉(zhuǎn)折點是破壞性的。或許有可能正如很多預(yù)言師所相信的那樣，造成未來世界與過去的一切完全沒有連貫性。

摩爾定律和智慧爆炸這兩種理論是目前老生常談的一種看法的核心所在，即認(rèn)為科學(xué)發(fā)現(xiàn)的速度在不斷加快，并將走向一個徹底改變世界的轉(zhuǎn)折點。兩種理論的出現(xiàn)都是因為對于計算機(jī)影響日益擴(kuò)大的思考，二者都是在1965年發(fā)表的。戈登?摩爾（Gordon E. Moore）是英特爾公司的創(chuàng)辦人之一，他觀察到自1958年集成電路發(fā)明以來，集成電路上的晶體管數(shù)量每兩年（后更改為18個月）翻一倍。

數(shù)學(xué)家古德（I.J. Good）在1965年發(fā)表了一篇題為《有關(guān)第一臺超智能機(jī)器的猜想》的文章中，預(yù)測計算機(jī)將從各方面都超過人類的智慧能力。超智能機(jī)器的一個顯著特點是具備制造出更好機(jī)器的能力 。它們的出現(xiàn)會引發(fā)“智慧爆炸”，機(jī)器將設(shè)計出更智能的計算機(jī)，它們的進(jìn)化將遠(yuǎn)遠(yuǎn)超出人類的智慧。古德寫下了一句非常著名的話：“第一臺超智能機(jī)器將是人類的最后一項發(fā)明�！�

15年以后，另一位數(shù)學(xué)家，同時也是一位享有盛譽(yù)的科幻小說家弗諾?文奇（Vernor Vinge）虛構(gòu)了一個小說情節(jié)，背景是剛剛發(fā)生智慧爆炸后的世界。文奇認(rèn)識到超智能奇跡能從很多方面改變生命和文化，以至于無法完全想象未來世界的樣子。文奇用一個數(shù)學(xué)和自然科學(xué)使用的術(shù)語將人類歷史的這個轉(zhuǎn)折點定義為技術(shù)奇點。

那些相信這個故事情節(jié)的人有兩個核心問題要問：技術(shù)奇點什么時候發(fā)生？它會使人類受益還是威脅人類生存？目前這個階段，沒人可以給出答案，但是年輕專家和有經(jīng)驗的科學(xué)家對這個問題思考了很久，并在想辦法如何確保未來超智能計算機(jī)對人類“友好”。

有關(guān)技術(shù)奇點何時到來的討論非常熱烈，一些理論家預(yù)測將在最近的將來發(fā)生（150或100年后），另外有些人認(rèn)為很遙遠(yuǎn)或根本不可能。雷?庫茲韋爾（Ray Kurzweil）是一位投資家和作家，其代表性觀點認(rèn)為技術(shù)奇點在近期將會發(fā)生，他預(yù)測計算機(jī)將在2028—2030年前后展示出人類水平的智慧，奇點將接踵而至。

對于技術(shù)奇點不可避免到來的這一趨勢持批評意見的人，并不認(rèn)為能開展各項任務(wù)的計算機(jī)構(gòu)成智能機(jī)器。當(dāng)然，計算機(jī)在某些方面已經(jīng)超出了人類的能力，比如解決數(shù)學(xué)計算、模擬復(fù)雜系統(tǒng)、搜索大型數(shù)據(jù)庫發(fā)現(xiàn)片斷信息之間的聯(lián)系等。

但是，人類智力的某些層面仍是當(dāng)今計算機(jī)無能為力或難以企及的。計算機(jī)甚至不具備分辨真實環(huán)境中重要信息和非重要信息的基本能力。計算機(jī)系統(tǒng)不具備人類的學(xué)習(xí)能力，缺乏情感智慧，道德智慧以及意識。但是有很多的理論是關(guān)于如何通過計算機(jī)實現(xiàn)這些能力，也有相當(dāng)多的理論解釋為什么計算機(jī)永遠(yuǎn)不會具備這些能力。

喬治?華盛頓（George Washington）大學(xué)教授威廉?哈萊爾（William Halal）發(fā)起了技術(shù)調(diào)查，在其中他采訪了一些知名專家關(guān)于各種技術(shù)事件什么時候會發(fā)生。他注意到在這些預(yù)測中，最樂觀的專家和最悲觀的專家總是針鋒相對。27位專家認(rèn)同技術(shù)奇點存在。他們被問及是否同意這樣的說法，即“智能機(jī)器將超越人類并造成破壞”。在27名專家之中，45%同意這個觀點。對于那些既同意也不同意的人，對自己觀點正確與否的自信程度平均為63%。

就像流行音樂有經(jīng)典老歌一樣，各種領(lǐng)域的學(xué)術(shù)研究也有一些幾十年來反復(fù)被閱讀和引述的經(jīng)典文章。在計算機(jī)科學(xué)領(lǐng)域，其中的兩篇“經(jīng)典之作”涉及對計算機(jī)智能進(jìn)行評價的文章。

第一篇是阿蘭?圖靈（Alan Turing）所寫，他是計算機(jī)科學(xué)的奠基人之一，二戰(zhàn)期間率領(lǐng)團(tuán)隊破解了納粹軍隊的密碼。圖靈在1950年一篇名為《計算機(jī)和智能》的文章開頭寫下令人難忘的一句話：“機(jī)器能思考嗎？”要知道，當(dāng)時對于人工智能尚無明確定義。

圖靈提出用一個測試將人類對這個問題的反應(yīng)來與機(jī)器對此的反應(yīng)進(jìn)行對比。提問者不能直接面對被提問的人，而是通過文字信息的方式來溝通。如果提問者僅僅根據(jù)二者的回答無法區(qū)分到底是計算機(jī)還是人類的答案，那么圖靈建議必須認(rèn)為智能機(jī)器是能夠思考的。圖靈稱他的思考試驗為一個模仿游戲，現(xiàn)在人們通常稱這種試驗為“圖靈測試”。

雖然很多人批評圖靈測試不足以作為衡量人工智能的標(biāo)桿，但是沒人有更好的提議。有一種批評意見認(rèn)為一個非常聰明的機(jī)器人可能會裝糊涂，假裝很傻地回答以欺騙專家，否則的話專家會知道它比人類了解的知識還多。

對于圖靈測試最有意思的批評是關(guān)于人工智能的第二篇“經(jīng)典老歌”。1980年哲學(xué)家約翰?西爾勒（John Searle）發(fā)表了《思想、大腦、計劃》的文章，認(rèn)為即使計算機(jī)像人類一樣答出了專家的問題，也不能代表它知道自己在做什么。他用了一個“中文房間”的思維試驗來說明自己的觀點。

想象自己在一個房間里，里面是計算機(jī)所能獲取的所有關(guān)于中國語言的資料，人和機(jī)器都獲得充分的時間去學(xué)習(xí)掌握這些資料，然后讓計算機(jī)回答一個中國人提出的問題，西爾勒推測他自己能夠根據(jù)翻譯材料給出正確的答案，雖然，他并不是真的懂中文，由此可以相信計算機(jī)也可以在同樣不懂符號含義的情況下給出正確答案。

西爾勒企圖說明的是，從形式上掌握中文符號和充分理解中文意思是不同的。他的思考試驗想要證明，操縱符號的計算機(jī)并不了解這些符號的意思，對符號的操縱不等于語意理解。

西爾勒認(rèn)為他提出的是一個常識性的簡單觀點。但讓他感到奇怪的是，“中文房間”的論點引起了無窮無盡的討論。很多人則認(rèn)為用于計算機(jī)工程的思維模型不足以生產(chǎn)出具備理解和意識能力的機(jī)器。

我對于人工智能導(dǎo)致技術(shù)奇點（通常也稱之為超智能的到來）的研究前景持友好的懷疑態(tài)度。我對于無所不能的工程精神也持友好的態(tài)度，他們提議制造具有通用智能的機(jī)器，以便開展各種任務(wù)。但我非常懷疑我們是否對智能或意識的本性有足夠多的了解，以至于能將其完全復(fù)制在芯片或其他材料里。

生物系統(tǒng)中某些人類智力特質(zhì)是我們無法理解的，所需要的科學(xué)灼見也是現(xiàn)階段我們尚未具備的。人類思想與身體的融合，以及對于外界環(huán)境改變所做的適應(yīng)性反應(yīng)及韌性，是很難通過非生物的方式加以復(fù)制的。

有人認(rèn)為，將人類的腦力和先進(jìn)的人工智能形式結(jié)合起來的超智能終將問世。某種程度上說，我認(rèn)為這樣的觀點更實際些。但是，認(rèn)為人和機(jī)器的能力相結(jié)合會帶來智能爆炸或是技術(shù)奇點的觀點仍然說得過去但不太可能。

當(dāng)然，信息技術(shù)將產(chǎn)生新的思想種類，放大或取代人的思想去從事很多任務(wù)。雖然我對未來50~100年會發(fā)生技術(shù)奇點仍然持有懷疑，但是未來200年后是否會發(fā)生技術(shù)奇點，我無從判斷。但是時間越長，機(jī)會越多，可以確保超智能機(jī)器人對人類和人類的價值觀友好。認(rèn)為科學(xué)家肯定終有一天會發(fā)現(xiàn)制造此類機(jī)器人或?qū)崿F(xiàn)人類進(jìn)化當(dāng)然不是愚蠢的。但是，這很大程度上取決于在20年、200年還是1000年以后實現(xiàn)。

2009年，一群計算機(jī)專家舉行會議，反思人工智能研究在社會層面上所取得的進(jìn)步，他們對于智能爆炸和即將到來的奇點表示懷疑。僅僅5年之后，這次會議的聯(lián)席主席巴特?塞爾曼（Bart Selman）認(rèn)為，因為最近在感知和機(jī)器學(xué)習(xí)方面取得的突破，在大部分人工智能研究人員的心目中，超智能的可能性正在上升。

超智能的可能性受到了極大的關(guān)注，特別是一些著名人物，比如宇宙學(xué)家斯蒂芬?霍金(Stephen Hawking）、特斯拉的創(chuàng)立人伊隆?馬斯克（Elon Musk），他們認(rèn)為人工智能的研究將對人類造成嚴(yán)重威脅。

有時候這種對于未來的消極擔(dān)憂某種程度上轉(zhuǎn)移了人們對于解決當(dāng)下更為緊要的問題的注意力。但是，技術(shù)奇點可以作為人類無法自我掌控命運的象征。對于技術(shù)奇點的關(guān)注可以提醒商界領(lǐng)袖更加重視這個問題，人類發(fā)明的技術(shù)如何邁出了最初的幾步，直至迫使人類交出控制權(quán)，從這個角度說來，技術(shù)奇點倒也是有用的。