用人工智能來(lái)增進(jìn)人類(lèi)福祉？你太天真了

　　超級(jí)智能和奇點(diǎn)

　　2014年5月，劍橋大學(xué)物理學(xué)家史蒂芬·霍金寫(xiě)了一篇文章，發(fā)出了人工智能迅速發(fā)展的危險(xiǎn)警報(bào)。在英國(guó)的《獨(dú)立報(bào)》(The Independent)上，霍金以及其他的合著者，包括麻省理工學(xué)院的兩位物理學(xué)家馬克斯·泰格馬克(Max Tegmark)和諾貝爾獎(jiǎng)獲得者弗蘭克·維爾切克(Frank Wilczek)，以及加州大學(xué)伯克利分校的計(jì)算機(jī)科學(xué)家斯圖爾特·羅素(Stuart Russell)，一起寫(xiě)文章警告說(shuō)，創(chuàng)建一臺(tái)真正能思考的機(jī)器“將是人類(lèi)歷史上最大的事件?！币慌_(tái)超出人類(lèi)智力水平的計(jì)算機(jī)可能會(huì)“超越金融市場(chǎng)，超越人類(lèi)研究者的發(fā)明，超越有控制能力的人類(lèi)領(lǐng)導(dǎo)者，研發(fā)出一些我們甚至無(wú)法理解的武器?！卑堰@一切視為科幻小說(shuō)則“有可能是我們歷史上最糟糕的錯(cuò)誤?！?/p>

　　到目前為止，我所描述的技術(shù)，比如能搬箱子或做漢堡的機(jī)器人，能創(chuàng)造音樂(lè)、寫(xiě)報(bào)告，或在華爾街交易的算法，都可以歸類(lèi)為專(zhuān)業(yè)或“弱”人工智能。即使是IBM的沃森，這個(gè)迄今為止機(jī)器智能最成功的示范，都遠(yuǎn)比不上一般的人類(lèi)智能。事實(shí)上，在科幻小說(shuō)的領(lǐng)域之外，所有的功能性人工智能技術(shù)其實(shí)都是弱人工智能。

　　然而，我在這里提出的其中一個(gè)主要觀點(diǎn)是，現(xiàn)實(shí)世界人工智能的專(zhuān)業(yè)化性質(zhì)并不一定會(huì)阻礙很多工作最終實(shí)現(xiàn)自動(dòng)化。大部分勞動(dòng)力從事的工作任務(wù)在一定程度上是常規(guī)和可預(yù)見(jiàn)的。我們已經(jīng)看到，迅速提高的專(zhuān)業(yè)機(jī)器人或依據(jù)大量數(shù)據(jù)的機(jī)器學(xué)習(xí)算法，最終將對(duì)各種技能水平的職業(yè)構(gòu)成威脅，這一切都不需要機(jī)器能像人一樣思考。計(jì)算機(jī)要取代你的工作并不需要復(fù)制你所有的智力，它只需要完成你為獲得報(bào)酬所做的具體事情就好。事實(shí)上，大多數(shù)人工智能的研發(fā)，以及幾乎所有的風(fēng)險(xiǎn)投資，都繼續(xù)把重點(diǎn)放在專(zhuān)門(mén)的應(yīng)用程序上，而我們有充分的理由相信，在未來(lái)幾年甚至幾十年，這些技術(shù)會(huì)變得更加強(qiáng)大和靈活。

　　雖然這些專(zhuān)業(yè)化技術(shù)繼續(xù)產(chǎn)出實(shí)用的成果并能吸引投資，但一個(gè)更為嚴(yán)峻的挑戰(zhàn)潛伏在后面。建立一個(gè)真正的智能系統(tǒng)，一臺(tái)可以構(gòu)思新想法，可以意識(shí)到自己的存在，可以進(jìn)行連貫對(duì)話的機(jī)器仍然是人工智能所追求的“圣杯”。

　　對(duì)創(chuàng)造一臺(tái)真正能思考的機(jī)器的著迷至少可以追溯到1950年，當(dāng)時(shí)阿蘭·圖靈(Alan Turing)發(fā)表了一篇論文，開(kāi)啟了人工智能時(shí)代。在隨后的幾十年中，人工智能的研究經(jīng)歷了繁榮與蕭條的周期循環(huán)，人們對(duì)它的期望一再飆升，不考慮任何實(shí)際的技術(shù)基礎(chǔ)，特別是當(dāng)時(shí)的計(jì)算機(jī)速度。當(dāng)失望在所難免時(shí)，投資和研究活動(dòng)迅速減少，而稱(chēng)為“人工智能寒冬”的長(zhǎng)期停滯也接踵而至。不過(guò)，春天已經(jīng)再次來(lái)到了。今天計(jì)算機(jī)的超凡力量，以及人工智能研究在特定領(lǐng)域的進(jìn)步，還有我們對(duì)人類(lèi)大腦的理解，這些結(jié)合在一起，使得形勢(shì)極為樂(lè)觀。

　　最近一本關(guān)于高級(jí)人工智能影響的書(shū)的作者詹姆斯·巴拉特(James Barrat)，對(duì)200名人類(lèi)水平而非弱人工智能研究人員做了一次非正式調(diào)查。在這個(gè)領(lǐng)域內(nèi)，人類(lèi)水平的人工智能被稱(chēng)為“強(qiáng)人工智能”(Artificial General Intelligence)。巴拉特讓計(jì)算機(jī)科學(xué)家們?cè)趶?qiáng)人工智能何時(shí)實(shí)現(xiàn)的四個(gè)預(yù)測(cè)時(shí)間中做出選擇。結(jié)果是：42%的人認(rèn)為能思考的機(jī)器將在2030年前創(chuàng)造出來(lái)，25%的人選擇在2050年前，10%的人認(rèn)為2100年之前不會(huì)發(fā)生，只有2%的人認(rèn)為永遠(yuǎn)不會(huì)發(fā)生。值得注意的是，一些受訪者在對(duì)他們的調(diào)查寫(xiě)評(píng)論時(shí)表示，巴拉特應(yīng)該加進(jìn)一個(gè)更早的選項(xiàng)——或許是2020年。

　　該領(lǐng)域的一些專(zhuān)家擔(dān)心可能又會(huì)形成期望的泡沫。在2013年10月的博客文章中，臉書(shū)新成立的人工智能研究實(shí)驗(yàn)室主任雅恩·樂(lè)昆(Yann LeCun)警告說(shuō)，“因?yàn)槌醋?，人工智?0年里‘死’了4次：人們夸下海口(通常是為了打動(dòng)潛在的投資者或投資機(jī)構(gòu))，卻無(wú)法拿出成果。結(jié)果就造成了激烈的對(duì)抗反應(yīng)。” 同樣，紐約大學(xué)教授、認(rèn)知科學(xué)專(zhuān)家和《紐約客》博主加里·馬庫(kù)斯(Gary Marcus)稱(chēng)，深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)領(lǐng)域里近期的突破，以及IBM沃森的部分能力，已經(jīng)明顯被過(guò)度炒作。

　　不過(guò)，似乎很明顯，該領(lǐng)域已經(jīng)獲得了強(qiáng)勁的動(dòng)力。特別是像谷歌、臉書(shū)、亞馬遜等企業(yè)的崛起帶來(lái)了巨大的進(jìn)步。以前從未有這樣財(cái)大氣粗的企業(yè)將人工智能放在業(yè)務(wù)模式的絕對(duì)核心地位，也從未有過(guò)人工智能研究在如此強(qiáng)大的企業(yè)之間被幾乎定位成了競(jìng)爭(zhēng)的焦點(diǎn)。類(lèi)似的競(jìng)爭(zhēng)也在國(guó)家之間展開(kāi)。人工智能在集權(quán)國(guó)家的軍隊(duì)、情報(bào)機(jī)構(gòu)和監(jiān)視機(jī)構(gòu)中正變得不可或缺。*事實(shí)上，一場(chǎng)由人工智能全面支持的軍備競(jìng)賽很可能正在不久的將來(lái)醞釀。我想，真正的問(wèn)題，不是這個(gè)領(lǐng)域整體會(huì)不會(huì)真正面臨人工智能寒冬的危險(xiǎn)，而是進(jìn)步是只局限在弱人工智能領(lǐng)域，還是最終也能擴(kuò)展到強(qiáng)人工智能領(lǐng)域。

　　如果人工智能研究人員最終設(shè)法跨越實(shí)現(xiàn)了強(qiáng)人工智能，那結(jié)果應(yīng)該不是一臺(tái)僅能匹敵人類(lèi)智力水平的機(jī)器。一旦實(shí)現(xiàn)了強(qiáng)人工智能，單靠摩爾定律就可以迅速創(chuàng)造出一臺(tái)超出人類(lèi)智力的計(jì)算機(jī)。當(dāng)然，一臺(tái)能思考的機(jī)器仍將擁有計(jì)算機(jī)目前具有的優(yōu)勢(shì)，包括計(jì)算能力，還有我們無(wú)法理解的信息訪問(wèn)速度等。不可避免的是，我們很快就要與一種前所未有的東西共享這個(gè)星球：一種真正不可思議和超群的才智。

　　這很可能只是一個(gè)開(kāi)始。人工智能研究人員一般都相信，這樣的系統(tǒng)最終會(huì)被用來(lái)引導(dǎo)自己的智力發(fā)展。它會(huì)專(zhuān)注于提高自己的設(shè)計(jì)，重新改寫(xiě)自身軟件，或者使用進(jìn)化規(guī)劃技術(shù)來(lái)創(chuàng)建、測(cè)試和優(yōu)化改進(jìn)其設(shè)計(jì)。這將帶來(lái)“循環(huán)改進(jìn)”似的迭代過(guò)程。每次修改后，系統(tǒng)都將變得更聰明、更能干。隨著循環(huán)不斷加快，最終的結(jié)果將產(chǎn)生“智能爆炸”，很可能最終生產(chǎn)出一臺(tái)比任何人類(lèi)都聰明十萬(wàn)甚至上百萬(wàn)倍的機(jī)器。像霍金和其他作者說(shuō)的，這“將是人類(lèi)歷史上最大的事件。”

　　如果這樣的智能爆炸真的發(fā)生的話，肯定會(huì)對(duì)人類(lèi)產(chǎn)生巨大的影響。事實(shí)上，它很可能對(duì)我們的整個(gè)文明都將造成破壞，更別說(shuō)我們的經(jīng)濟(jì)了。用未來(lái)學(xué)家和發(fā)明家雷·庫(kù)茲威爾(Ray Kurzweil)的話說(shuō)，它會(huì)“撕裂歷史的結(jié)構(gòu)”，迎來(lái)一個(gè)被稱(chēng)為“奇點(diǎn)”的事件或者時(shí)代。

　　奇點(diǎn)

　　計(jì)算機(jī)先驅(qū)約翰·馮·諾依曼一般被認(rèn)為是第一個(gè)將“奇點(diǎn)”這一術(shù)語(yǔ)運(yùn)用在未來(lái)技術(shù)驅(qū)動(dòng)事件中的人。據(jù)說(shuō)他在20世紀(jì)50年代的某個(gè)時(shí)間說(shuō)過(guò)，“一直在加速的進(jìn)步……表面上接近人類(lèi)歷史上的一些重要奇點(diǎn)，我們知道沒(méi)有它們，人類(lèi)事務(wù)不能繼續(xù)?！边@一主題在1993年圣地亞哥州立大學(xué)的數(shù)學(xué)家弗諾·文奇(Vernor Vinge)寫(xiě)的一篇論文中得到了充實(shí)，文章題為“即將到來(lái)的技術(shù)奇點(diǎn)”。文奇毫無(wú)保留地在論文開(kāi)頭寫(xiě)道“在未來(lái)三十年間，我們將有技術(shù)手段來(lái)創(chuàng)造超人的智慧。不久后，人類(lèi)的時(shí)代將結(jié)束。”

　　在天體物理學(xué)中，奇點(diǎn)是指一個(gè)黑洞，通常的物理規(guī)律不再適用。在黑洞的邊界或視界，引力強(qiáng)到光線自身也無(wú)法逃脫。文奇從類(lèi)似的角度來(lái)看待技術(shù)奇點(diǎn)：它代表了人類(lèi)進(jìn)步的中斷，直到奇點(diǎn)發(fā)生之前，所有的進(jìn)步基本上都不明顯。試圖預(yù)測(cè)奇點(diǎn)之后未來(lái)將會(huì)是怎樣的就好比一個(gè)天文學(xué)家想要到黑洞里去看一看。

　　接力棒接下來(lái)傳遞給了雷·庫(kù)茲威爾，他在2005年出版了一本書(shū)《奇點(diǎn)臨近：當(dāng)人類(lèi)超越生物學(xué)》(The Singularity Is Near: When Humans Transcend Biology)。與文奇不同，庫(kù)茲威爾成了奇點(diǎn)主要的宣傳者，他毫無(wú)顧慮地試圖窺視視界之外，給我們非常詳細(xì)地介紹了未來(lái)將是什么樣子的。他告訴我們，第一臺(tái)真正的智能機(jī)器將在21世紀(jì)20年代末建成。奇點(diǎn)本身將在2045年左右發(fā)生。

　　庫(kù)茲威爾是公認(rèn)的杰出發(fā)明家和工程師。他成功創(chuàng)立了一系列的公司，向市場(chǎng)推出了他在諸如光學(xué)字符識(shí)別、計(jì)算機(jī)生成語(yǔ)音和音樂(lè)合成等領(lǐng)域的發(fā)明。他被授予20個(gè)榮譽(yù)博士學(xué)位，以及國(guó)家技術(shù)獎(jiǎng)?wù)?，并入選了美國(guó)專(zhuān)利局的名人堂?！豆尽冯s志(Inc. Magazine)曾稱(chēng)他為托馬斯·愛(ài)迪生的“合法繼承人”。

　　然而，他的《奇點(diǎn)》這本書(shū)則是一個(gè)奇怪的混合，里面有對(duì)技術(shù)加速充分和連貫的表述，還有一些看起來(lái)近乎荒謬的推測(cè)，比如，他由衷地渴望能通過(guò)到已故父親的墓地收集其DNA，然后利用未來(lái)的納米技術(shù)使其身體再生，最終讓父親復(fù)活。一個(gè)充滿活力的社會(huì)，里面到處是聰明而又多姿多彩的人物，這些想法一起圍繞在庫(kù)茲威爾周?chē)＿@些“奇點(diǎn)人”已經(jīng)向前走了很遠(yuǎn)，建立了自己的教育機(jī)構(gòu)。位于美國(guó)硅谷的奇點(diǎn)大學(xué)(Singularity University)，提供關(guān)注指數(shù)技術(shù)的未經(jīng)認(rèn)證的研究生水平課程，其企業(yè)合作伙伴包括谷歌、基因泰克、思科和歐特克(AutoDesk)等。

　　庫(kù)茲威爾最重要的預(yù)言是，我們將不可避免地與未來(lái)的機(jī)器相融合。人類(lèi)將通過(guò)植入大腦極大地增強(qiáng)智力，變得更強(qiáng)大。事實(shí)上，如果我們想要理解和控制奇點(diǎn)之后的技術(shù)的話，這種智力的增強(qiáng)是必不可少的。

　　也許庫(kù)茲威爾關(guān)于后奇點(diǎn)的暢想中最具爭(zhēng)議和令人懷疑的方面，是奇點(diǎn)的追隨者對(duì)“永生”前景的強(qiáng)調(diào)。奇點(diǎn)人大多數(shù)情況下都不希望死。他們計(jì)劃通過(guò)“長(zhǎng)壽逃逸速度”(longevity escape velocity)來(lái)實(shí)現(xiàn)永生，這個(gè)想法的意思是，如果你能堅(jiān)持活足夠長(zhǎng)的時(shí)間，直到產(chǎn)生出延長(zhǎng)生命的創(chuàng)新，那可以想見(jiàn)你將會(huì)達(dá)到不朽。這可能是通過(guò)使用先進(jìn)的技術(shù)來(lái)保持和增強(qiáng)你的生物體，也或許通過(guò)將你的思維上傳到未來(lái)的計(jì)算機(jī)或機(jī)器人中來(lái)實(shí)現(xiàn)。庫(kù)茲威爾自然希望確保奇點(diǎn)發(fā)生時(shí)自己仍然還活著，所以他每天吞噬多達(dá)200種不同的藥片和補(bǔ)品，并定期靜脈注射其它物質(zhì)。雖然許下巨大的承諾對(duì)健康和飲食書(shū)籍來(lái)說(shuō)很常見(jiàn)，但庫(kù)茲威爾和他的醫(yī)生，也是合著者特里·格羅斯曼在他們的書(shū)里將諾言提到了一個(gè)全新的高度，這本書(shū)名為《神奇之旅：長(zhǎng)壽到足以永生和超越：九步讓你健康活到永遠(yuǎn)》。

　　很多奇點(diǎn)運(yùn)動(dòng)的批評(píng)家都發(fā)現(xiàn)，這一切關(guān)于不朽和變革的說(shuō)法都有深刻的宗教色彩。事實(shí)上，整個(gè)想法已經(jīng)被譏諷為技術(shù)精英的準(zhǔn)宗教和一種“書(shū)呆子的狂喜”。最近主流媒體對(duì)奇點(diǎn)的關(guān)注，包括2011年《時(shí)代》雜志的封面故事，讓一些觀察家擔(dān)心奇點(diǎn)與傳統(tǒng)宗教最終會(huì)交叉在一起。曼哈頓大學(xué)宗教研究教授羅伯特·杰拉奇(Robert Geraci)在一篇題為“庫(kù)茲威爾崇拜”的文章中寫(xiě)道，如果擴(kuò)散到更多的人，該運(yùn)動(dòng)“將向傳統(tǒng)的宗教團(tuán)體提出一個(gè)嚴(yán)峻的挑戰(zhàn)，因?yàn)楸容^而言，它們關(guān)于救贖的承諾可能看起來(lái)無(wú)力多了?！倍鴰?kù)茲威爾一方則大聲否認(rèn)有任何宗教內(nèi)涵，并稱(chēng)他的預(yù)測(cè)是基于對(duì)歷史數(shù)據(jù)可靠、科學(xué)的分析。

　　若不是硅谷整個(gè)萬(wàn)神殿的億萬(wàn)富翁們都對(duì)奇點(diǎn)表現(xiàn)出了非常強(qiáng)烈的興趣，那整個(gè)概念可能很容易就被人全部遺棄了。無(wú)論是谷歌的拉里·佩奇(Larry Page)和謝爾蓋·布林(Sergey Brin)，還是支付寶的聯(lián)合創(chuàng)始人(也是臉書(shū)的投資人)彼得·泰爾(Peter Thiel)都參與到了這件事情中。比爾·蓋茨也稱(chēng)贊庫(kù)茲威爾預(yù)測(cè)人工智能未來(lái)的能力。2012年12月，谷歌聘請(qǐng)了庫(kù)茲威爾來(lái)指導(dǎo)其高級(jí)人工智能研究。2013年，谷歌分拆出一家新的生物技術(shù)公司，命名“加州生命公司”(California Life Company，簡(jiǎn)稱(chēng)Calico)。新公司的既定目標(biāo)是將研究集中在治愈衰老和延長(zhǎng)人類(lèi)壽命方面。

　　我個(gè)人的看法是，類(lèi)似“奇點(diǎn)”的東西當(dāng)然是可能的，但它絕非不可避免。當(dāng)把這個(gè)概念去掉多余的負(fù)擔(dān)(如對(duì)永生的假設(shè))，只把它當(dāng)作未來(lái)一段時(shí)間巨大的技術(shù)加速或破壞的力量來(lái)看待時(shí)，這個(gè)概念才是最有用的?？赡芷纥c(diǎn)重要的催化劑，即超級(jí)智能的發(fā)明，最終證明是不可能實(shí)現(xiàn)的，或者只能在遙遠(yuǎn)的未來(lái)才有可能。*許多頂尖的腦科學(xué)研究人員也都表達(dá)了這一觀點(diǎn)。在麻省理工學(xué)院研究認(rèn)知科學(xué)60多年的諾姆·喬姆斯基說(shuō)，我們離建立人類(lèi)水平的機(jī)器智能還“遙不可及”，稱(chēng)奇點(diǎn)是“科幻小說(shuō)”。哈佛大學(xué)心理學(xué)家史蒂芬·平克(Steven Pinker)對(duì)此表示贊同，他說(shuō)：“沒(méi)有絲毫的理由相信奇點(diǎn)會(huì)在未來(lái)實(shí)現(xiàn)。你可以想象出一個(gè)未來(lái)，并不能證明它就有可能發(fā)生。”戈登·摩爾(Gordon Moore)的名字似乎注定永遠(yuǎn)要與指數(shù)進(jìn)步的技術(shù)有關(guān)，他也同樣懷疑類(lèi)似奇點(diǎn)的事情永遠(yuǎn)不會(huì)發(fā)生。

　　但是，庫(kù)茲威爾關(guān)于人類(lèi)水平人工智能的到來(lái)時(shí)間有很多的擁護(hù)者。麻省理工學(xué)院的物理學(xué)家，也是霍金文章的共同作者之一馬克斯·泰格馬克，對(duì)《大西洋月刊》的詹姆斯·漢布林說(shuō)：“這是非常近期內(nèi)的事情。任何在思考他們的孩子在高中或大學(xué)應(yīng)該學(xué)什么的人，都應(yīng)該非常關(guān)心這一點(diǎn)。”其他人認(rèn)為能思考的機(jī)器根本不可能實(shí)現(xiàn)，但卻往前進(jìn)了一步。例如，加里·馬庫(kù)斯認(rèn)為強(qiáng)人工智能實(shí)現(xiàn)的時(shí)間至少是庫(kù)茲威爾預(yù)測(cè)的兩倍，但也認(rèn)為“很可能在本世紀(jì)結(jié)束前，機(jī)器就比我們聰明了——不只是在下國(guó)際象棋或解決小問(wèn)題方面，而是在從數(shù)學(xué)和工程到科學(xué)和醫(yī)學(xué)的各個(gè)方面?！?/p>

　　近年來(lái)，對(duì)人類(lèi)級(jí)別人工智能的思考已經(jīng)越來(lái)越脫離自上而下的編程方法，轉(zhuǎn)而強(qiáng)調(diào)逆向工程，然后到模擬人腦。關(guān)于這一方法的可行性，以及在創(chuàng)建大腦功能仿真前的了解程度上有很大的分歧，一般來(lái)說(shuō)，這一方法計(jì)算機(jī)科學(xué)家可能更看好，但那些有生物科學(xué)和心理學(xué)背景的人往往持懷疑態(tài)度。明尼蘇達(dá)大學(xué)的生物學(xué)家P·Z·邁爾斯(P. Z. Myers)尤其持批判態(tài)度。在一篇回應(yīng)庫(kù)茲威爾關(guān)于大腦將在2020年成功實(shí)現(xiàn)逆向設(shè)計(jì)的博客文章中，邁爾斯嚴(yán)厲斥責(zé)說(shuō)庫(kù)茲威爾是一個(gè)“對(duì)大腦如何工作一無(wú)所知”的“瘋子”，而且他有“編造胡話和發(fā)表與現(xiàn)實(shí)毫無(wú)關(guān)系的荒謬言論”的嗜好。

　　這也許是題外話。人工智能的樂(lè)觀主義者認(rèn)為，仿真并不需要忠實(shí)于生物大腦的每一個(gè)細(xì)節(jié)。畢竟，飛機(jī)不像鳥(niǎo)一樣扇動(dòng)翅膀。懷疑者們可能會(huì)回應(yīng)說(shuō)，我們對(duì)智力的“空氣動(dòng)力學(xué)”的理解還遠(yuǎn)不能造出任何“翅膀”，不管翅膀能不能扇。而樂(lè)觀主義者可能會(huì)反駁說(shuō)，萊特兄弟是依靠修修補(bǔ)補(bǔ)和反復(fù)試驗(yàn)制造出了自己的飛機(jī)，肯定不是在空氣動(dòng)力學(xué)原理的基礎(chǔ)上。這樣一來(lái)，爭(zhēng)論就繼續(xù)下去了。

　　陰暗的一面

　　“奇點(diǎn)人”通常對(duì)未來(lái)智能爆炸的前景有著無(wú)限的樂(lè)觀，但其他人則更為謹(jǐn)慎。在那些認(rèn)真思考過(guò)高級(jí)人工智能帶來(lái)的影響的專(zhuān)家看來(lái)，認(rèn)為完全不可思議的超人類(lèi)智能會(huì)被自然地用來(lái)增進(jìn)人類(lèi)福祉的假設(shè)過(guò)于天真?？茖W(xué)界的一些人非常擔(dān)憂這一點(diǎn)，他們已經(jīng)成立了一些小型機(jī)構(gòu)來(lái)專(zhuān)門(mén)分析與先進(jìn)的人工智能有關(guān)的危險(xiǎn)，或是研究如何將“友好”放到未來(lái)的人工智能系統(tǒng)中。

　　在2013年出版的《我們最后的發(fā)明：人工智能及人類(lèi)時(shí)代的終結(jié)》(Our Final Invention: Artificial Intelligence and the End of the Human Era)一書(shū)中，詹姆斯·巴拉特描述了他稱(chēng)為“忙孩子的情境”。在一些秘密的地方，也許是政府的研究實(shí)驗(yàn)室、華爾街公司，或信息技術(shù)行業(yè)的大公司里，一群計(jì)算機(jī)科學(xué)家在一旁看著新興的機(jī)器智能接近并超過(guò)人類(lèi)水平的能力?？茖W(xué)家們之前已經(jīng)給他們的人工智能孩子提供了大量的信息，可能幾乎包括所有寫(xiě)過(guò)的書(shū)以及互聯(lián)網(wǎng)上的所有數(shù)據(jù)。然而，當(dāng)該系統(tǒng)接近人類(lèi)水平的智能時(shí)，研究人員將迅速提高的人工智能與外界斷開(kāi)聯(lián)系。實(shí)際上是把它們鎖在一個(gè)盒子里。現(xiàn)在的問(wèn)題是它是否會(huì)留在那里。畢竟，人工智能很可能希望擺脫它的籠子，并擴(kuò)大其視野。要做到這一點(diǎn)，它可能會(huì)利用其卓越的能力欺騙科學(xué)家，或沖著整個(gè)團(tuán)隊(duì)或特定個(gè)人進(jìn)行承諾或威脅。機(jī)器不只是更聰明了，它還能夠以人類(lèi)難以理解的速度對(duì)想法和選擇進(jìn)行思考和評(píng)估。這就像是與加里·卡斯帕羅夫下棋，只是不公平的規(guī)則造成了一些額外的負(fù)擔(dān)：走一步棋你只有15秒鐘，但他有1個(gè)小時(shí)。在擔(dān)心這種情形的科學(xué)家看來(lái)，人工智能可能會(huì)以某種方式設(shè)法逃脫盒子、訪問(wèn)互聯(lián)網(wǎng)，或者也許能將自己全部或部分復(fù)制到其他計(jì)算機(jī)上的風(fēng)險(xiǎn)是非常高的。如果人工智能真能逃脫的話，那它將明顯威脅到很多關(guān)鍵系統(tǒng)，包括金融系統(tǒng)、軍事控制網(wǎng)絡(luò)以及電網(wǎng)等能源基礎(chǔ)設(shè)施。

　　當(dāng)然，問(wèn)題是，這一切聽(tīng)起來(lái)非常像受歡迎的科幻電影和小說(shuō)中勾勒出的場(chǎng)景。整個(gè)想法都像是在幻想，任何認(rèn)真的討論都會(huì)被人嘲笑。不難想象，所有提出這種擔(dān)憂的主要政府官員或政客都可能成為別人的笑柄。

　　毫無(wú)疑問(wèn)，在軍事、安全機(jī)構(gòu)和大型企業(yè)中對(duì)各種人工智能的興趣只會(huì)不斷增加。可能發(fā)生的智能爆炸的其中一個(gè)明顯意義是將會(huì)存在巨大的先發(fā)優(yōu)勢(shì)。換句話說(shuō)，誰(shuí)先搶到第一就永遠(yuǎn)不會(huì)被趕上。這也是擔(dān)心未來(lái)展開(kāi)人工智能軍備競(jìng)賽的其中一個(gè)主要原因。先發(fā)優(yōu)勢(shì)的巨大也很可能促使任何涌現(xiàn)的人工智能盡快進(jìn)行自我完善，如果不是通過(guò)系統(tǒng)本身，那就是通過(guò)人類(lèi)創(chuàng)造者來(lái)完成。從這個(gè)意義上說(shuō)，智能爆炸很可能是一個(gè)自我實(shí)現(xiàn)的預(yù)言。鑒于此，我認(rèn)為似乎可以將迪克·切尼(Dick Cheney)著名的“百分之一主義”用在先進(jìn)的人工智能上：它發(fā)生的可能性也許非常低，至少在可預(yù)見(jiàn)的未來(lái)是這樣的，但它的意義是非常大的，因此應(yīng)該得到認(rèn)真對(duì)待。

　　即使我們不考慮先進(jìn)的人工智能存在的風(fēng)險(xiǎn)，并假設(shè)未來(lái)所有的思考機(jī)器都很友好，其對(duì)就業(yè)市場(chǎng)和經(jīng)濟(jì)還是會(huì)有巨大的影響。在一個(gè)經(jīng)濟(jì)實(shí)惠的機(jī)器能趕上，并有可能超過(guò)最聰明人類(lèi)的能力的世界里，很難想象還會(huì)有誰(shuí)能找到一份工作。在大多數(shù)領(lǐng)域里，再多的教育或培訓(xùn)，甚至到最頂尖的大學(xué)，都無(wú)法讓一個(gè)人能與這樣的機(jī)器競(jìng)爭(zhēng)。即使是我們可能認(rèn)為只保留給人類(lèi)的職業(yè)也將受到威脅。比如，演員和音樂(lè)家將與充滿真正智能和超人類(lèi)智慧的數(shù)字模擬進(jìn)行競(jìng)爭(zhēng)。它們可能是新創(chuàng)造的人物，專(zhuān)門(mén)設(shè)計(jì)了完美的身體，或可能基于真實(shí)的人——無(wú)論是活著的還是死去的。

　　從本質(zhì)上說(shuō)，人類(lèi)水平人工智能的廣泛出現(xiàn)，實(shí)現(xiàn)了我在前面的章節(jié)中描述的“外星人來(lái)襲”的思維實(shí)驗(yàn)。機(jī)器不只主要威脅到相對(duì)常規(guī)、重復(fù)性或可預(yù)見(jiàn)的工作，它現(xiàn)在幾乎能夠做到一切。當(dāng)然，這意味著幾乎沒(méi)有人將能從工作中獲得收入。從資本或從機(jī)器的所有權(quán)中獲得的收入，將集中在少數(shù)精英的手中。消費(fèi)者將沒(méi)有足夠的收入來(lái)購(gòu)買(mǎi)所有智能機(jī)器所創(chuàng)造的產(chǎn)品或服務(wù)。結(jié)果就是我們?cè)谶@本書(shū)中已經(jīng)了解到的趨勢(shì)的顯著放大。

　　然而，這并不代表故事的結(jié)尾。無(wú)論是相信奇點(diǎn)的人，還是擔(dān)心先進(jìn)的人工智能帶來(lái)危險(xiǎn)的人，他們都認(rèn)為人工智能與另一種潛在的破壞性技術(shù)力量的到來(lái)有關(guān)，或許是前者促成了后者，這種力量就是先進(jìn)的納米技術(shù)。