盲目的樂觀可能是最致命的大規(guī)模殺傷性武器。

——皮埃羅·斯加魯菲

雷·庫(kù)茲韋爾的系列著作讓“奇點(diǎn)”的概念得以普及，并引爆了這一輪人工智能的熱潮。奇點(diǎn)理論認(rèn)為，我們即將迎來(lái)機(jī)器時(shí)代：機(jī)器的智能程度遠(yuǎn)遠(yuǎn)超過(guò)人類，以至于人類既無(wú)法控制機(jī)器，也無(wú)法理解它們的想法。

面對(duì)奇點(diǎn)論的未來(lái)預(yù)言，人們分成了兩派：樂觀的憧憬與悲觀的恐慌。而本文所關(guān)注的則是，我們?nèi)绾螐钠纥c(diǎn)宗教預(yù)言式的理論回歸到人工智能技術(shù)的現(xiàn)實(shí)中來(lái)。

奇點(diǎn)論正在成為人工智能時(shí)代的新宗教嗎

奇點(diǎn)論的信眾與當(dāng)今世界三大宗教的相似之處非常明顯，卻被很多人所忽視。根據(jù)奇點(diǎn)論的預(yù)言，世界末日將以奇點(diǎn)的形式到來(lái)，不過(guò)，不用擔(dān)心，我們都將通過(guò)意識(shí)上傳復(fù)活，奇點(diǎn)論中所稱的超級(jí)計(jì)算機(jī)將使之成為可能。

那些贊成奇點(diǎn)理論的論調(diào)和(非常微弱的)論證的確很容易讓我們想起宗教預(yù)言，只不過(guò)這一次來(lái)拯救人類的彌賽亞不再是受外在神圣力量差遣而來(lái)的，而是我們自己制造的產(chǎn)品。所以，從某種意義上說(shuō)，這是一門信仰人類自己創(chuàng)造的神的宗教。

奇點(diǎn)理論的魅力之處在于它用倒敘法講述了宗教的歷史。傳統(tǒng)意義上的宗教會(huì)力圖從源頭上解釋神秘的宇宙復(fù)雜性，生命的奇跡，以及意識(shí)產(chǎn)生的目的。甚至當(dāng)今一些非常杰出的科學(xué)家也贊成“神創(chuàng)論者”的觀點(diǎn)，相信世界是由超人類智慧創(chuàng)造出來(lái)的。這種理論通常被稱為智能設(shè)計(jì)(intelligent design)，但其更合適的叫法應(yīng)該是超智能設(shè)計(jì)(super-intelligent design)，因?yàn)橹悄?intelligent)一詞僅僅指人類智能。宗教的重點(diǎn)恰恰在于相信人類智能永遠(yuǎn)無(wú)法制造的東西存在，它會(huì)設(shè)想人類能夠發(fā)現(xiàn)的所有自然法則都不足已解釋宇宙、生命、以及靈魂所蘊(yùn)含的奧秘。任何可以借由數(shù)學(xué)規(guī)律解釋的事物，人都能完成，因此也不需要超自然力量的存在。相反，上帝是一種先于人類智能產(chǎn)生、并創(chuàng)造人類智能的奇點(diǎn)，而且無(wú)限優(yōu)于人類智能。

幸運(yùn)的是，這個(gè)至高的神有能力，同時(shí)也愿意給予我們永生的機(jī)會(huì)。通常意義上，這種永生就是信徒最終希望從其信仰中得到的東西。而目前奇點(diǎn)論所提出的假設(shè)——由于超智能機(jī)器的發(fā)展即將出現(xiàn)奇點(diǎn)——幾乎就是這個(gè)故事的翻版。過(guò)去的奇點(diǎn)(神)被用來(lái)解釋那些令人費(fèi)解的問題，而新的奇點(diǎn)(智能機(jī)器)卻無(wú)法解釋。人類智能既無(wú)法理解過(guò)去上帝在創(chuàng)造人類智能時(shí)的方式，也無(wú)法理解將來(lái)人類智能創(chuàng)造超智能機(jī)器的方式。

計(jì)算機(jī)的運(yùn)算速度會(huì)影響人類的智能水平嗎

奇點(diǎn)論過(guò)于樂觀的預(yù)測(cè)建立在計(jì)算機(jī)運(yùn)算速度的指數(shù)增長(zhǎng)以及體積的不斷縮小的基礎(chǔ)之上。 1965年戈登·摩爾(Gordon Moore)預(yù)測(cè)，計(jì)算機(jī)的處理能力將每18個(gè)月提高一倍(“摩爾定律”)，到目前為止，他的預(yù)測(cè)不斷得到事實(shí)的驗(yàn)證。今天，智能手機(jī)的魅力并不在于它們可以完成20世紀(jì)60年代電腦不能完成的事情(后者幾乎可以做同樣的事情)，而在于它們體積小、價(jià)格便宜、速度快。只花很少的錢就可以下載手機(jī)應(yīng)用，意味著更多的人可以使用手機(jī)應(yīng)用。這會(huì)帶來(lái)巨大的社會(huì)效應(yīng);但它并不意味著軟件技術(shù)已實(shí)現(xiàn)概念性的突破。很難說(shuō)現(xiàn)存的哪個(gè)軟件程序是五十年前Fortran語(yǔ)言無(wú)法編寫的。如果當(dāng)時(shí)沒有編寫這一程序，其原因可能是成本過(guò)于高昂或者一些所需的硬件尚未問世。

誠(chéng)然，目前計(jì)算機(jī)的發(fā)展的確很快，速度更快、體積更小、價(jià)格也更加親民。即便假定這種趨勢(shì)會(huì)繼續(xù)“以指數(shù)速度發(fā)展下去”(正如奇點(diǎn)專家們即將宣稱的那樣)，就理所當(dāng)然地認(rèn)為這種(硬件)進(jìn)步能夠支撐機(jī)器智能領(lǐng)域產(chǎn)生令人震驚的差異，無(wú)疑是基于一種非直接的假設(shè)：計(jì)算機(jī)在速度、體積、價(jià)格上的巨大進(jìn)步將首先影響人類水平的智能，然后才是更高水平的智能。畢竟，假如你將很多很多很多的愚笨的神經(jīng)元組合在一起，也許可能會(huì)得到像愛因斯坦那樣聰明的大腦。如果將上百萬(wàn)塊的超高速GPU組合放到一塊，也可能獲得超人類智能。但這只是可能。

無(wú)論在何種情況下，我們都最好為摩爾定律可能失效的那一天做好充足的準(zhǔn)備。雖然摩爾定律被公認(rèn)在可預(yù)見的未來(lái)還會(huì)繼續(xù)發(fā)揮作用，但它看起來(lái)并非前途無(wú)量。這不僅僅因?yàn)榧磳⒂龅郊夹g(shù)瓶頸。摩爾定律背后的本意是要表明晶體管設(shè)備的制造“成本”將持續(xù)下降。即使這個(gè)領(lǐng)域找到了一種可以繼續(xù)在芯片上蝕刻數(shù)量翻倍的晶體管的方法，這種方法的成本也會(huì)很快開始增長(zhǎng)：畢竟處理微晶體管的技術(shù)本身就造價(jià)不菲，更何況散熱也已成為超密集電路上亟待解決的主要問題。2016年，英特爾的威廉·霍爾特(William Holt)宣布英特爾將不再生產(chǎn)超越7納米技術(shù)的芯片產(chǎn)品，并警告說(shuō)將來(lái)為了節(jié)約能源，降低熱量(即成本)，處理器可能會(huì)變得更慢。如果摩爾定律不再有效，那么“暴力型人工智能”---例如深度學(xué)習(xí)---還會(huì)不會(huì)繼續(xù)發(fā)展?

從某種意義上說(shuō)，今天的奇點(diǎn)預(yù)言家們認(rèn)為機(jī)器“智能”是一個(gè)永遠(yuǎn)保持加速發(fā)展且不會(huì)變緩的學(xué)科。

同樣，我認(rèn)為除了小型化以外， 機(jī)器的“智能”并沒有什么長(zhǎng)進(jìn)(它們的智能與阿蘭·圖靈發(fā)明的“通用機(jī)”的智能毫無(wú)二致)。摩爾定律(它的確保持了指數(shù)發(fā)展的態(tài)勢(shì))與機(jī)器智能沒有任何關(guān)系，它僅僅表示了人類究竟能在一塊微小的集成電路上“擠進(jìn)”多少個(gè)晶體管。真正發(fā)生改變的就是今天人們以低廉的成本將異常強(qiáng)大的計(jì)算機(jī)做成手掌大小的智能手機(jī)，也就是所謂的小型化。而將小型化等同于智能就好像將改進(jìn)的錢包等同于財(cái)富。

人類變成機(jī)器，還是機(jī)器變成人類

目前，我們最應(yīng)該擔(dān)心的不是機(jī)器智能的迅速提高，而是人的智力可能會(huì)下降。

通常我們對(duì)圖靈測(cè)試的解讀為：什么時(shí)候我們可以說(shuō)機(jī)器已經(jīng)和人類一樣聰明?但是圖靈測(cè)試還有另外一面，即人類智能，換句話說(shuō)，機(jī)器還有另一種方式通過(guò)圖靈測(cè)試：讓人類變笨。我們把圖靈點(diǎn)看作機(jī)器和人類一樣聰明的點(diǎn)。機(jī)器智能提高到人類的水平或者人類智能下降到機(jī)器的水平，都可以到達(dá)圖靈點(diǎn)。

人類總是非常依賴他們發(fā)明的工具。例如，當(dāng)他們發(fā)明了文字，人類的記憶力下降。另一方面，他們收獲了一種存儲(chǔ)更多知識(shí)和更快傳播知識(shí)的方法。人類歷史上的所有其他發(fā)明都不例外：使人類丟掉一種技能，同時(shí)也讓人類get一個(gè)新技能。整個(gè)人類社會(huì)都在經(jīng)歷“變笨”的過(guò)程，電器與現(xiàn)在的數(shù)字設(shè)備極大地加快了這一過(guò)程。從某種意義上說(shuō)，技術(shù)遞給笨人工具，讓他們變得更笨，但仍然可以幸福地生活。

在數(shù)字時(shí)代，普通人只需動(dòng)動(dòng)手指，就可以獲取各種知識(shí)。原來(lái)知識(shí)的來(lái)源是特定領(lǐng)域的“聰明”人?，F(xiàn)在，即使不是該領(lǐng)域的專家，也能輕松運(yùn)用知識(shí)。因此，用戶缺乏深入學(xué)習(xí)知識(shí)的動(dòng)力，他可以 “借用”別人的“聰明才智” 。用戶“智能”不升反降(當(dāng)然，操作設(shè)備的才干除外，但是，設(shè)備越來(lái)越易用，到最后用戶只要會(huì)按下開機(jī)鍵就萬(wàn)事大吉)。不可避免的，人類對(duì)機(jī)器的依賴性越來(lái)越高，而機(jī)器對(duì)人類的依賴性恰好相反。

我經(jīng)常主持/組織灣區(qū)的會(huì)議，投影儀是會(huì)議必不可少的一個(gè)設(shè)備。我很懷疑如果演講人的電腦不能正常連接到房間的音頻/視頻設(shè)備，他/她是否還能發(fā)表演講。過(guò)去的幾千年，人類在沒有任何技術(shù)的幫助下發(fā)表演講。顯然這樣的時(shí)光已經(jīng)一去不復(fù)返了。你能想象蘇格拉底對(duì)柏拉圖說(shuō)“對(duì)不起，如果你的筆記本電腦里沒裝PowerPoint，我就不能和你對(duì)話”么?

或許圖靈測(cè)試是一個(gè)自我實(shí)現(xiàn)的預(yù)言： 我們(聲稱)打造“聰明”機(jī)器的同時(shí)，我們也在把人變笨。

總之，人們以及媒體的宣傳對(duì)人工智能技術(shù)或奇點(diǎn)論的過(guò)分樂觀并無(wú)道理可言，因?yàn)锳.I.尚不能解決很多現(xiàn)實(shí)中的問題。過(guò)分的樂觀主義不能替代切實(shí)可行的解決方案。從歷史上來(lái)看，盲目的樂觀可能是最致命的大規(guī)模殺傷性武器。