人工智能很可能導(dǎo)致人類的永生或者滅絕，而這一切很可能在我們的有生之年發(fā)生。
上面這句話不是危言聳聽，請耐心的看完本文再發(fā)表意見。這篇翻譯稿翻譯完一共三萬五千字，我從上星期開始翻，熬了好幾個夜才翻完，因?yàn)槲矣X得這篇東西非常有價值。希望你們能夠耐心讀完，讀完后也許你的世界觀都會被改變。
我們正站在變革的邊緣，而這次變革將和人類的出現(xiàn)一般意義重大 – Vernor Vinge
如果你站在這里，你會是什么感覺？
看上去非常刺激吧？但是你要記住，當(dāng)你真的站在時間的圖表中的時候，你是看不到曲線的右邊的，因?yàn)槟闶强床坏轿磥淼摹Ｋ阅阏鎸?shí)的感覺大概是這樣的：
稀松平常。
你可能覺得2050年的世界會變得面目全非這句話很可笑，但是這不是科幻，而是比你我聰明很多的科學(xué)家們相信的，而且從歷史來看，也是邏輯上可以預(yù)測的。
那么為什么你會覺得“2050年的世界會變得面目全非” 這句話很可笑呢？有三個原因讓你質(zhì)疑對于未來的預(yù)測：
1. 我們對于歷史的思考是線性的。當(dāng)我們考慮未來35年的變化時，我們參照的是過去35年發(fā)生的事情。當(dāng)我們考慮21世紀(jì)能產(chǎn)生的變化的時候，我們參考的是20世紀(jì)發(fā)生的變化。這就好像1750年的老王覺得1500年的小李在1750年能被嚇尿一樣。線性思考是本能的，但是但是考慮未來的時候我們應(yīng)該指數(shù)地思考。一個聰明人不會把過去35年的發(fā)展作為未來35年的參考，而是會看到當(dāng)下的發(fā)展速度，這樣預(yù)測的會更準(zhǔn)確一點(diǎn)。當(dāng)然這樣還是不夠準(zhǔn)確，想要更準(zhǔn)確，你要想象發(fā)展的速度會越來越快。
2. 近期的歷史很可能對人產(chǎn)生誤導(dǎo)。首先，即使是坡度很高的指數(shù)曲線，只要你截取的部分夠短，看起來也是很線性的，就好像你截取圓周的很小一塊，看上去就是和直線差不多。其次，指數(shù)增長不是平滑統(tǒng)一的，發(fā)展常常遵循S曲線。
S曲線發(fā)生在新范式傳遍世界的時候，S曲線分三部分
你和電腦打了個平手。接著我們把途中的黑色部分去除：
你可以輕易的描述圖形中透明或不透明的圓柱和3D圖形，但是電腦就看不出來了。電腦會描述出2D的陰影細(xì)節(jié)，但是人腦卻能夠把這些陰影所展現(xiàn)的深度、陰影混合、房屋燈光解讀出來。
再看下面這張圖，電腦看到的是黑白灰，我們看到的卻是一塊全黑的石頭
而且，我們到現(xiàn)在談的還是靜態(tài)不變的信息。要想達(dá)到人類級別的智能，電腦必須要理解更高深的東西，比如微小的臉部表情變化，開心、放松、滿足、滿意、高興這些類似情緒間的區(qū)別，以及為什么《布達(dá)佩斯大飯店》是好電影，而《富春山居圖》是爛電影。
想想就很難吧？
我們要怎樣才能達(dá)到這樣的水平呢？
通往強(qiáng)人工智能的第一步：增加電腦處理速度
要達(dá)到強(qiáng)人工智能，肯定要滿足的就是電腦硬件的運(yùn)算能力。如果一個人工智能要像人腦一般聰明，它至少要能達(dá)到人腦的運(yùn)算能力。
用來描述運(yùn)算能力的單位叫作cps（calculations per second，每秒計算次數(shù)），要計算人腦的cps只要了解人腦中所有結(jié)構(gòu)的最高cps，然后加起來就行了。
Kurzweil把對于一個結(jié)構(gòu)的最大cps的專業(yè)估算，然后考慮這個結(jié)構(gòu)占整個大腦的重量，做乘法，來得出人腦的cps。聽起來不太靠譜，但是Kurzweil用了對于不同大腦區(qū)域的專業(yè)估算值，得出的最終結(jié)果都非常類似，是10^16 cps，也就是1億億次計算每秒。
現(xiàn)在最快的超級計算機(jī)，中國的天河二號，其實(shí)已經(jīng)超過這個運(yùn)算力了，天河每秒能進(jìn)行3.4億億。當(dāng)然，天河二號占地720平方米，耗電2400萬瓦，耗費(fèi)了3.9億美元建造。廣泛應(yīng)用就不提了，即使是大部分商業(yè)或者工業(yè)運(yùn)用也是很貴的。
Kurzweil認(rèn)為考慮電腦的發(fā)展程度的標(biāo)桿是看1000美元能買到多少cps，當(dāng)1000美元能買到人腦級別的1億億運(yùn)算能力的時候，強(qiáng)人工智能可能就是生活的一部分了。
摩爾定律認(rèn)為全世界的電腦運(yùn)算能力每兩年就翻一倍，這一定律有歷史數(shù)據(jù)所支持，這同樣表明電腦硬件的發(fā)展和人類發(fā)展一樣是指數(shù)級別的。我們用這個定律來衡量1000美元什么時候能買到1億億cps?，F(xiàn)在1000美元能買到10萬億cps，和摩爾定律的歷史預(yù)測相符合。
也就是說現(xiàn)在1000美元能買到的電腦已經(jīng)強(qiáng)過了老鼠，并且達(dá)到了人腦千分之一的水平。聽起來還是弱爆了，但是，讓我們考慮一下，1985年的時候，同樣的錢只能買到人腦萬億分之一的cps，1995年變成了十億分之一，2005年是百萬分之一，而2015年已經(jīng)是千分之一了。按照這個速度，我們到2025年就能花1000美元買到可以和人腦運(yùn)算速度抗衡的電腦了。
至少在硬件上，我們已經(jīng)能夠強(qiáng)人工智能了（中國的天河二號），而且十年以內(nèi)，我們就能以低廉的價格買到能夠支持強(qiáng)人工智能的電腦硬件。
但是運(yùn)算能力并不能讓電腦變得智能，下一個問題是，我們怎樣利用這份運(yùn)算能力來達(dá)成人類水平的智能。
通往強(qiáng)人工智能的第二步：讓電腦變得智能
這一步比較難搞。事實(shí)上，沒人知道該怎么搞——我們還停留在爭論怎么讓電腦分辨《富春山居圖》是部爛片的階段。但是，現(xiàn)在有一些策略，有可能會有效。下面是最常見的三種策略：
1) 抄襲人腦
就好像你班上有一個學(xué)霸。你不知道為什么學(xué)霸那么聰明，為什么考試每次都滿分。雖然你也很努力的學(xué)習(xí)，但是你就是考的沒有學(xué)霸好。最后你決定“老子不干了，我直接抄他的考試答案好了?！边@種“抄襲”是有道理的，我們想要建造一個超級復(fù)雜的電腦，但是我們有人腦這個范本可以參考呀。
科學(xué)界正在努力逆向工程人腦，來理解生物進(jìn)化是怎么造出這么個神奇的東西的，樂觀的估計是我們在2030年之前能夠完成這個任務(wù)。一旦這個成就達(dá)成，我們就能知道為什么人腦能夠如此高效、快速的運(yùn)行，并且能從中獲得靈感來進(jìn)行創(chuàng)新。一個電腦架構(gòu)模擬人腦的例子就是人工神經(jīng)網(wǎng)絡(luò)。它是一個由晶體管作為“神經(jīng)”組成的網(wǎng)絡(luò)，晶體管和其它晶體管互相連接，有自己的輸入、輸出系統(tǒng)，而且什么都不知道——就像一個嬰兒的大腦。接著它會通過做任務(wù)來自我學(xué)習(xí)，比如識別筆跡。最開始它的神經(jīng)處理和猜測會是隨機(jī)的，但是當(dāng)它得到正確的回饋后，相關(guān)晶體管之間的連接就會被加強(qiáng)；如果它得到錯誤的回饋，連接就會變?nèi)?。?jīng)過一段時間的測試和回饋后，這個網(wǎng)絡(luò)自身就會組成一個智能的神經(jīng)路徑，而處理這項(xiàng)任務(wù)的能力也得到了優(yōu)化。人腦的學(xué)習(xí)是類似的過程，不過比這復(fù)雜一點(diǎn)，隨著我們對大腦研究的深入，我們將會發(fā)現(xiàn)更好的組建神經(jīng)連接的方法。 更加極端的“抄襲”方式是“整腦模擬”。具體來說就是把人腦切成很薄的片，用軟件來準(zhǔn)確的組建一個3D模型，然后把這個模型裝在強(qiáng)力的電腦上。如果能做成，這臺電腦就能做所有人腦能做的事情——只要讓它學(xué)習(xí)和吸收信息就好了。如果做這事情的工程師夠厲害的話，他們模擬出來的人腦甚至?xí)性救四X的人格和記憶，電腦模擬出的人腦就會像原本的人腦一樣——這就是非常符合人類標(biāo)準(zhǔn)的強(qiáng)人工智能，然后我們就能把它改造成一個更加厲害的超人工智能了。
我們離整腦模擬還有多遠(yuǎn)呢？至今為止，我們剛剛能夠模擬1毫米長的扁蟲的大腦，這個大腦含有302個神經(jīng)元。人類的大腦有1000億個神經(jīng)元，聽起來還差很遠(yuǎn)。但是要記住指數(shù)增長的威力——我們已經(jīng)能模擬小蟲子的大腦了，螞蟻的大腦也不遠(yuǎn)了，接著就是老鼠的大腦，到那時模擬人類大腦就不是那么不現(xiàn)實(shí)的事情了。
2）模仿生物演化
抄學(xué)霸的答案當(dāng)然是一種方法，但是如果學(xué)霸的答案太難抄了呢？那我們能不能學(xué)一下學(xué)霸備考的方法？
首先我們很確定的知道，建造一個和人腦一樣強(qiáng)大的電腦是可能的——我們的大腦就是證據(jù)。如果大腦太難完全模擬，那么我們可以模擬演化出大腦的過程。事實(shí)上，就算我們真的能完全模擬大腦，結(jié)果也就好像照抄鳥類翅膀的拍動來造飛機(jī)一樣——很多時候最好的設(shè)計機(jī)器的方式并不是照抄生物設(shè)計。
所以我們可不可以用模擬演化的方式來造強(qiáng)人工智能呢？這種方法叫作“基因算法”，它大概是這樣的：建立一個反復(fù)運(yùn)作的表現(xiàn)/評價過程，就好像生物通過生存這種方式來表現(xiàn)，并且以能否生養(yǎng)后代為評價一樣。一組電腦將執(zhí)行各種任務(wù)，最成功的將會“繁殖”，把各自的程序融合，產(chǎn)生新的電腦，而不成功的將會被剔除。經(jīng)過多次的反復(fù)后。這個自然選擇的過程將產(chǎn)生越來越強(qiáng)大的電腦。而這個方法的難點(diǎn)是建立一個自動化的評價和繁殖過程，使得整個流程能夠自己運(yùn)行。
這個方法的缺點(diǎn)也是很明顯的，演化需要經(jīng)過幾十億年的時間，而我們卻只想花幾十年時間。
但是比起自然演化來說，我們有很多優(yōu)勢。首先，自然演化是沒有預(yù)知能力的，它是隨機(jī)的——它產(chǎn)生的沒用的變異比有用的變異多很多，但是人工模擬的演化可以控制過程，使其著重于有益的變化。其次，自然演化是沒有目標(biāo)的，自然演化出的智能也不是它目標(biāo)，特定環(huán)境甚至對于更高的智能是不利的（因?yàn)楦叩戎悄芟暮芏嗄茉矗?。但是我們可以指揮演化的過程超更高智能的方向發(fā)展。再次，要產(chǎn)生智能，自然演化要先產(chǎn)生其它的附件，比如改良細(xì)胞產(chǎn)生能量的方法，但是我們完全可以用電力來代替這額外的負(fù)擔(dān)。所以，人類主導(dǎo)的演化會比自然快很多很多，但是我們依然不清楚這些優(yōu)勢是否能使模擬演化成為可行的策略。
3）讓電腦來解決這些問題
如果抄學(xué)霸的答案和模擬學(xué)霸備考的方法都走不通，那就干脆讓考題自己解答自己吧。這種想法很無厘頭，確實(shí)最有希望的一種。
總的思路是我們建造一個能進(jìn)行兩項(xiàng)任務(wù)的電腦——研究人工智能和修改自己的代碼。這樣它就不只能改進(jìn)自己的架構(gòu)了，我們直接把電腦變成了電腦科學(xué)家，提高電腦的智能就變成了電腦自己的任務(wù)。
以上這些都會很快發(fā)生
硬件的快速發(fā)展和軟件的創(chuàng)新是同時發(fā)生的，強(qiáng)人工智能可能比我們預(yù)期的更早降臨，因?yàn)椋?/span>
1）指數(shù)級增長的開端可能像蝸牛漫步，但是后期會跑的非?？?/span>
2）軟件的發(fā)展可能看起來很緩慢，但是一次頓悟，就能永遠(yuǎn)改變進(jìn)步的速度。就好像在人類還信奉地心說的時候，科學(xué)家們沒法計算宇宙的運(yùn)作方式，但是日心說的發(fā)現(xiàn)讓一切變得容易很多。創(chuàng)造一個能自我改進(jìn)的電腦來說，對我們來說還很遠(yuǎn)，但是可能一個無意的變動，就能讓現(xiàn)在的系統(tǒng)變得強(qiáng)大千倍，從而開啟朝人類級別智能的沖刺。
強(qiáng)人工智能到超人工智能之路
總有一天，我們會造出和人類智能相當(dāng)?shù)膹?qiáng)人工智能電腦，然后人類和電腦就會平等快樂的生活在一起。
呵呵，逗你呢。
即使是一個和人類智能完全一樣，運(yùn)算速度完全一樣的強(qiáng)人工智能，也比人類有很多優(yōu)勢：
硬件上：
-速度。腦神經(jīng)元的運(yùn)算速度最多是200赫茲，今天的微處理器就能以2G赫茲，也就是神經(jīng)元1000萬倍的速度運(yùn)行，而這比我們達(dá)成強(qiáng)人工智能需要的硬件還差遠(yuǎn)了。大腦的內(nèi)部信息傳播速度是每秒120米，電腦的信息傳播速度是光速，差了好幾個數(shù)量級。
- 容量和儲存空間。人腦就那么大，后天沒法把它變得更大，就算真的把它變得很大，每秒120米的信息傳播速度也會成為巨大的瓶頸。電腦的物理大小可以非常隨意，使得電腦能運(yùn)用更多的硬件，更大的內(nèi)存，長期有效的存儲介質(zhì)，不但容量大而且比人腦更準(zhǔn)確。
- 可靠性和持久性。電腦的存儲不但更加準(zhǔn)確，而且晶體管比神經(jīng)元更加精確，也更不容易萎縮（真的壞了也很好修）。人腦還很容易疲勞，但是電腦可以24小時不停的以峰值速度運(yùn)作。
軟件上來說：
- 可編輯性，升級性，以及更多的可能性。和人腦不同，電腦軟件可以進(jìn)行更多的升級和修正，并且很容易做測試。電腦的升級可以加強(qiáng)人腦比較弱勢的領(lǐng)域——人腦的視覺元件很發(fā)達(dá)，但是工程元件就挺弱的。而電腦不但能在視覺元件上匹敵人類，在工程元件上也一樣可以加強(qiáng)和優(yōu)化。
- 集體能力。人類在集體智能上可以碾壓所有的物種。從早期的語言和大型社區(qū)的形成，到文字和印刷的發(fā)明，再到互聯(lián)網(wǎng)的普及。人類的集體智能是我們統(tǒng)治其它物種的重要原因之一。而電腦在這方面比我們要強(qiáng)的很多，一個運(yùn)行特定程序的人工智能網(wǎng)絡(luò)能夠經(jīng)常在全球范圍內(nèi)自我同步，這樣一臺電腦學(xué)到的東西會立刻被其它所有電腦學(xué)得。而且電腦集群可以共同執(zhí)行同一個任務(wù)，因?yàn)楫愐?、動力、自利這些人類特有的東西未必會出現(xiàn)在電腦身上。 通過自我改進(jìn)來達(dá)成強(qiáng)人工智能的人工智能，會把“人類水平的智能”當(dāng)作一個重要的里程碑，但是也就僅此而已了。它不會停留在這個里程碑上的?？紤]到強(qiáng)人工智能之于人腦的種種優(yōu)勢，人工智能只會在“人類水平”這個節(jié)點(diǎn)做短暫的停留，然后就會開始大踏步向超人類級別的智能走去。
這一切發(fā)生的時候我們很可能被嚇尿，因?yàn)閺奈覀兊慕嵌葋砜?a)雖然動物的智能有區(qū)別，但是動物智能的共同特點(diǎn)是比人類低很多；b)我們眼中最聰明的人類要比最愚笨的人類要聰明很很很很多。
所以，當(dāng)人工智能開始朝人類級別智能靠近時，我們看到的是它逐漸變得更加智能，就好像一個動物一般。然后，它突然達(dá)到了最愚笨的人類的程度，我們到時也許會感慨：“看這個人工智能就跟個腦殘人類一樣聰明，真可愛?！?/span>
但問題是，從智能的大局來看，人和人的智能的差別，比如從最愚笨的人類到愛因斯坦的差距，其實(shí)是不大的。所以當(dāng)人工智能達(dá)到了腦殘級別的智能后，它會很快變得比愛因斯坦更加聰明：
之后呢？
智能爆炸
從這邊開始，這個話題要變得有點(diǎn)嚇人了。我在這里要提醒大家，以下所說的都是大實(shí)話——是一大群受人尊敬的思想家和科學(xué)家關(guān)于未來的誠實(shí)的預(yù)測。你在下面讀到什么離譜的東西的時候，要記得這些東西是比你我都聰明很多的人想出來的。
像上面所說的，我們當(dāng)下用來達(dá)成強(qiáng)人工智能的模型大多數(shù)都依靠人工智能的自我改進(jìn)。但是一旦它達(dá)到了強(qiáng)人工智能，即使算上那一小部分不是通過自我改進(jìn)來達(dá)成強(qiáng)人工智能的系統(tǒng)，也會聰明到能夠開始自我改進(jìn)。
這里我們要引出一個沉重的概念——遞歸的自我改進(jìn)。這個概念是這樣的：一個運(yùn)行在特定智能水平的人工智能，比如說腦殘人類水平，有自我改進(jìn)的機(jī)制。當(dāng)它完成一次自我改進(jìn)后，它比原來更加聰明了，我們假設(shè)它到了愛因斯坦水平。而這個時候它繼續(xù)進(jìn)行自我改進(jìn)，然而現(xiàn)在它有了愛因斯坦水平的智能，所以這次改進(jìn)會比上面一次更加容易，效果也更好。第二次的改進(jìn)使得他比愛因斯坦還要聰明很多，讓它接下來的改進(jìn)進(jìn)步更加明顯。如此反復(fù)，這個強(qiáng)人工智能的智能水平越長越快，直到它達(dá)到了超人工智能的水平——這就是智能爆炸，也是加速回報定律的終極表現(xiàn)。
現(xiàn)在關(guān)于人工智能什么時候能達(dá)到人類普遍智能水平還有爭議。對于數(shù)百位科學(xué)家的問卷調(diào)查顯示他們認(rèn)為強(qiáng)人工智能出現(xiàn)的中位年份是2040年——距今只有25年。這聽起來可能沒什么，但是要記住，很多這個領(lǐng)域的思想家認(rèn)為從強(qiáng)人工智能到超人工智能的轉(zhuǎn)化會快得多。以下的情景很可能會發(fā)生：一個人工智能系統(tǒng)花了幾十年時間到達(dá)了人類腦殘智能的水平，而當(dāng)這個節(jié)點(diǎn)發(fā)生的時候，電腦對于世界的感知大概和一個四歲小孩一般；而在這節(jié)點(diǎn)后一個小時，電腦立馬推導(dǎo)出了統(tǒng)一廣義相對論和量子力學(xué)的物理學(xué)理論；而在這之后一個半小時，這個強(qiáng)人工智能變成了超人工智能，智能達(dá)到了普通人類的17萬倍。
這篇文章的第一部分完了，我建議你休息一下，喝點(diǎn)水，下面我們要開始第二部分。
浙公網(wǎng)安備 33010802003509號
杭州講師網(wǎng)絡(luò)科技有限公司
