人工智能很可能導(dǎo)致人類(lèi)的永生或者滅絕，而這一切很可能在我們的有生之年發(fā)生。
上面這句話(huà)不是危言聳聽(tīng)，請(qǐng)耐心的看完本文再發(fā)表意見(jiàn)。這篇翻譯稿翻譯完一共三萬(wàn)五千字，我從上星期開(kāi)始翻，熬了好幾個(gè)夜才翻完，因?yàn)槲矣X(jué)得這篇東西非常有價(jià)值。希望你們能夠耐心讀完，讀完后也許你的世界觀都會(huì)被改變。
我們正站在變革的邊緣，而這次變革將和人類(lèi)的出現(xiàn)一般意義重大 – Vernor Vinge
如果你站在這里，你會(huì)是什么感覺(jué)？
看上去非常刺激吧？但是你要記住，當(dāng)你真的站在時(shí)間的圖表中的時(shí)候，你是看不到曲線(xiàn)的右邊的，因?yàn)槟闶强床坏轿磥?lái)的。所以你真實(shí)的感覺(jué)大概是這樣的：
稀松平常。
你可能覺(jué)得2050年的世界會(huì)變得面目全非這句話(huà)很可笑，但是這不是科幻，而是比你我聰明很多的科學(xué)家們相信的，而且從歷史來(lái)看，也是邏輯上可以預(yù)測(cè)的。
那么為什么你會(huì)覺(jué)得“2050年的世界會(huì)變得面目全非” 這句話(huà)很可笑呢？有三個(gè)原因讓你質(zhì)疑對(duì)于未來(lái)的預(yù)測(cè)：
1. 我們對(duì)于歷史的思考是線(xiàn)性的。當(dāng)我們考慮未來(lái)35年的變化時(shí)，我們參照的是過(guò)去35年發(fā)生的事情。當(dāng)我們考慮21世紀(jì)能產(chǎn)生的變化的時(shí)候，我們參考的是20世紀(jì)發(fā)生的變化。這就好像1750年的老王覺(jué)得1500年的小李在1750年能被嚇尿一樣。線(xiàn)性思考是本能的，但是但是考慮未來(lái)的時(shí)候我們應(yīng)該指數(shù)地思考。一個(gè)聰明人不會(huì)把過(guò)去35年的發(fā)展作為未來(lái)35年的參考，而是會(huì)看到當(dāng)下的發(fā)展速度，這樣預(yù)測(cè)的會(huì)更準(zhǔn)確一點(diǎn)。當(dāng)然這樣還是不夠準(zhǔn)確，想要更準(zhǔn)確，你要想象發(fā)展的速度會(huì)越來(lái)越快。
2. 近期的歷史很可能對(duì)人產(chǎn)生誤導(dǎo)。首先，即使是坡度很高的指數(shù)曲線(xiàn)，只要你截取的部分夠短，看起來(lái)也是很線(xiàn)性的，就好像你截取圓周的很小一塊，看上去就是和直線(xiàn)差不多。其次，指數(shù)增長(zhǎng)不是平滑統(tǒng)一的，發(fā)展常常遵循S曲線(xiàn)。
S曲線(xiàn)發(fā)生在新范式傳遍世界的時(shí)候，S曲線(xiàn)分三部分
你和電腦打了個(gè)平手。接著我們把途中的黑色部分去除：
你可以輕易的描述圖形中透明或不透明的圓柱和3D圖形，但是電腦就看不出來(lái)了。電腦會(huì)描述出2D的陰影細(xì)節(jié)，但是人腦卻能夠把這些陰影所展現(xiàn)的深度、陰影混合、房屋燈光解讀出來(lái)。
再看下面這張圖，電腦看到的是黑白灰，我們看到的卻是一塊全黑的石頭
而且，我們到現(xiàn)在談的還是靜態(tài)不變的信息。要想達(dá)到人類(lèi)級(jí)別的智能，電腦必須要理解更高深的東西，比如微小的臉部表情變化，開(kāi)心、放松、滿(mǎn)足、滿(mǎn)意、高興這些類(lèi)似情緒間的區(qū)別，以及為什么《布達(dá)佩斯大飯店》是好電影，而《富春山居圖》是爛電影。
想想就很難吧？
我們要怎樣才能達(dá)到這樣的水平呢？
通往強(qiáng)人工智能的第一步：增加電腦處理速度
要達(dá)到強(qiáng)人工智能，肯定要滿(mǎn)足的就是電腦硬件的運(yùn)算能力。如果一個(gè)人工智能要像人腦一般聰明，它至少要能達(dá)到人腦的運(yùn)算能力。
用來(lái)描述運(yùn)算能力的單位叫作cps（calculations per second，每秒計(jì)算次數(shù)），要計(jì)算人腦的cps只要了解人腦中所有結(jié)構(gòu)的最高cps，然后加起來(lái)就行了。
Kurzweil把對(duì)于一個(gè)結(jié)構(gòu)的最大cps的專(zhuān)業(yè)估算，然后考慮這個(gè)結(jié)構(gòu)占整個(gè)大腦的重量，做乘法，來(lái)得出人腦的cps。聽(tīng)起來(lái)不太靠譜，但是Kurzweil用了對(duì)于不同大腦區(qū)域的專(zhuān)業(yè)估算值，得出的最終結(jié)果都非常類(lèi)似，是10^16 cps，也就是1億億次計(jì)算每秒。
現(xiàn)在最快的超級(jí)計(jì)算機(jī)，中國(guó)的天河二號(hào)，其實(shí)已經(jīng)超過(guò)這個(gè)運(yùn)算力了，天河每秒能進(jìn)行3.4億億。當(dāng)然，天河二號(hào)占地720平方米，耗電2400萬(wàn)瓦，耗費(fèi)了3.9億美元建造。廣泛應(yīng)用就不提了，即使是大部分商業(yè)或者工業(yè)運(yùn)用也是很貴的。
Kurzweil認(rèn)為考慮電腦的發(fā)展程度的標(biāo)桿是看1000美元能買(mǎi)到多少cps，當(dāng)1000美元能買(mǎi)到人腦級(jí)別的1億億運(yùn)算能力的時(shí)候，強(qiáng)人工智能可能就是生活的一部分了。
摩爾定律認(rèn)為全世界的電腦運(yùn)算能力每?jī)赡昃头槐叮@一定律有歷史數(shù)據(jù)所支持，這同樣表明電腦硬件的發(fā)展和人類(lèi)發(fā)展一樣是指數(shù)級(jí)別的。我們用這個(gè)定律來(lái)衡量1000美元什么時(shí)候能買(mǎi)到1億億cps?，F(xiàn)在1000美元能買(mǎi)到10萬(wàn)億cps，和摩爾定律的歷史預(yù)測(cè)相符合。
也就是說(shuō)現(xiàn)在1000美元能買(mǎi)到的電腦已經(jīng)強(qiáng)過(guò)了老鼠，并且達(dá)到了人腦千分之一的水平。聽(tīng)起來(lái)還是弱爆了，但是，讓我們考慮一下，1985年的時(shí)候，同樣的錢(qián)只能買(mǎi)到人腦萬(wàn)億分之一的cps，1995年變成了十億分之一，2005年是百萬(wàn)分之一，而2015年已經(jīng)是千分之一了。按照這個(gè)速度，我們到2025年就能花1000美元買(mǎi)到可以和人腦運(yùn)算速度抗衡的電腦了。
至少在硬件上，我們已經(jīng)能夠強(qiáng)人工智能了（中國(guó)的天河二號(hào)），而且十年以?xún)?nèi)，我們就能以低廉的價(jià)格買(mǎi)到能夠支持強(qiáng)人工智能的電腦硬件。
但是運(yùn)算能力并不能讓電腦變得智能，下一個(gè)問(wèn)題是，我們?cè)鯓永眠@份運(yùn)算能力來(lái)達(dá)成人類(lèi)水平的智能。
通往強(qiáng)人工智能的第二步：讓電腦變得智能
這一步比較難搞。事實(shí)上，沒(méi)人知道該怎么搞——我們還停留在爭(zhēng)論怎么讓電腦分辨《富春山居圖》是部爛片的階段。但是，現(xiàn)在有一些策略，有可能會(huì)有效。下面是最常見(jiàn)的三種策略：
1) 抄襲人腦
就好像你班上有一個(gè)學(xué)霸。你不知道為什么學(xué)霸那么聰明，為什么考試每次都滿(mǎn)分。雖然你也很努力的學(xué)習(xí)，但是你就是考的沒(méi)有學(xué)霸好。最后你決定“老子不干了，我直接抄他的考試答案好了。”這種“抄襲”是有道理的，我們想要建造一個(gè)超級(jí)復(fù)雜的電腦，但是我們有人腦這個(gè)范本可以參考呀。
科學(xué)界正在努力逆向工程人腦，來(lái)理解生物進(jìn)化是怎么造出這么個(gè)神奇的東西的，樂(lè)觀的估計(jì)是我們?cè)?030年之前能夠完成這個(gè)任務(wù)。一旦這個(gè)成就達(dá)成，我們就能知道為什么人腦能夠如此高效、快速的運(yùn)行，并且能從中獲得靈感來(lái)進(jìn)行創(chuàng)新。一個(gè)電腦架構(gòu)模擬人腦的例子就是人工神經(jīng)網(wǎng)絡(luò)。它是一個(gè)由晶體管作為“神經(jīng)”組成的網(wǎng)絡(luò)，晶體管和其它晶體管互相連接，有自己的輸入、輸出系統(tǒng)，而且什么都不知道——就像一個(gè)嬰兒的大腦。接著它會(huì)通過(guò)做任務(wù)來(lái)自我學(xué)習(xí)，比如識(shí)別筆跡。最開(kāi)始它的神經(jīng)處理和猜測(cè)會(huì)是隨機(jī)的，但是當(dāng)它得到正確的回饋后，相關(guān)晶體管之間的連接就會(huì)被加強(qiáng)；如果它得到錯(cuò)誤的回饋，連接就會(huì)變?nèi)酢＝?jīng)過(guò)一段時(shí)間的測(cè)試和回饋后，這個(gè)網(wǎng)絡(luò)自身就會(huì)組成一個(gè)智能的神經(jīng)路徑，而處理這項(xiàng)任務(wù)的能力也得到了優(yōu)化。人腦的學(xué)習(xí)是類(lèi)似的過(guò)程，不過(guò)比這復(fù)雜一點(diǎn)，隨著我們對(duì)大腦研究的深入，我們將會(huì)發(fā)現(xiàn)更好的組建神經(jīng)連接的方法。 更加極端的“抄襲”方式是“整腦模擬”。具體來(lái)說(shuō)就是把人腦切成很薄的片，用軟件來(lái)準(zhǔn)確的組建一個(gè)3D模型，然后把這個(gè)模型裝在強(qiáng)力的電腦上。如果能做成，這臺(tái)電腦就能做所有人腦能做的事情——只要讓它學(xué)習(xí)和吸收信息就好了。如果做這事情的工程師夠厲害的話(huà)，他們模擬出來(lái)的人腦甚至?xí)性救四X的人格和記憶，電腦模擬出的人腦就會(huì)像原本的人腦一樣——這就是非常符合人類(lèi)標(biāo)準(zhǔn)的強(qiáng)人工智能，然后我們就能把它改造成一個(gè)更加厲害的超人工智能了。
我們離整腦模擬還有多遠(yuǎn)呢？至今為止，我們剛剛能夠模擬1毫米長(zhǎng)的扁蟲(chóng)的大腦，這個(gè)大腦含有302個(gè)神經(jīng)元。人類(lèi)的大腦有1000億個(gè)神經(jīng)元，聽(tīng)起來(lái)還差很遠(yuǎn)。但是要記住指數(shù)增長(zhǎng)的威力——我們已經(jīng)能模擬小蟲(chóng)子的大腦了，螞蟻的大腦也不遠(yuǎn)了，接著就是老鼠的大腦，到那時(shí)模擬人類(lèi)大腦就不是那么不現(xiàn)實(shí)的事情了。
2）模仿生物演化
抄學(xué)霸的答案當(dāng)然是一種方法，但是如果學(xué)霸的答案太難抄了呢？那我們能不能學(xué)一下學(xué)霸備考的方法？
首先我們很確定的知道，建造一個(gè)和人腦一樣強(qiáng)大的電腦是可能的——我們的大腦就是證據(jù)。如果大腦太難完全模擬，那么我們可以模擬演化出大腦的過(guò)程。事實(shí)上，就算我們真的能完全模擬大腦，結(jié)果也就好像照抄鳥(niǎo)類(lèi)翅膀的拍動(dòng)來(lái)造飛機(jī)一樣——很多時(shí)候最好的設(shè)計(jì)機(jī)器的方式并不是照抄生物設(shè)計(jì)。
所以我們可不可以用模擬演化的方式來(lái)造強(qiáng)人工智能呢？這種方法叫作“基因算法”，它大概是這樣的：建立一個(gè)反復(fù)運(yùn)作的表現(xiàn)/評(píng)價(jià)過(guò)程，就好像生物通過(guò)生存這種方式來(lái)表現(xiàn)，并且以能否生養(yǎng)后代為評(píng)價(jià)一樣。一組電腦將執(zhí)行各種任務(wù)，最成功的將會(huì)“繁殖”，把各自的程序融合，產(chǎn)生新的電腦，而不成功的將會(huì)被剔除。經(jīng)過(guò)多次的反復(fù)后。這個(gè)自然選擇的過(guò)程將產(chǎn)生越來(lái)越強(qiáng)大的電腦。而這個(gè)方法的難點(diǎn)是建立一個(gè)自動(dòng)化的評(píng)價(jià)和繁殖過(guò)程，使得整個(gè)流程能夠自己運(yùn)行。
這個(gè)方法的缺點(diǎn)也是很明顯的，演化需要經(jīng)過(guò)幾十億年的時(shí)間，而我們卻只想花幾十年時(shí)間。
但是比起自然演化來(lái)說(shuō)，我們有很多優(yōu)勢(shì)。首先，自然演化是沒(méi)有預(yù)知能力的，它是隨機(jī)的——它產(chǎn)生的沒(méi)用的變異比有用的變異多很多，但是人工模擬的演化可以控制過(guò)程，使其著重于有益的變化。其次，自然演化是沒(méi)有目標(biāo)的，自然演化出的智能也不是它目標(biāo)，特定環(huán)境甚至對(duì)于更高的智能是不利的（因?yàn)楦叩戎悄芟暮芏嗄茉矗５俏覀兛梢灾笓]演化的過(guò)程超更高智能的方向發(fā)展。再次，要產(chǎn)生智能，自然演化要先產(chǎn)生其它的附件，比如改良細(xì)胞產(chǎn)生能量的方法，但是我們完全可以用電力來(lái)代替這額外的負(fù)擔(dān)。所以，人類(lèi)主導(dǎo)的演化會(huì)比自然快很多很多，但是我們依然不清楚這些優(yōu)勢(shì)是否能使模擬演化成為可行的策略。
3）讓電腦來(lái)解決這些問(wèn)題
如果抄學(xué)霸的答案和模擬學(xué)霸備考的方法都走不通，那就干脆讓考題自己解答自己吧。這種想法很無(wú)厘頭，確實(shí)最有希望的一種。
總的思路是我們建造一個(gè)能進(jìn)行兩項(xiàng)任務(wù)的電腦——研究人工智能和修改自己的代碼。這樣它就不只能改進(jìn)自己的架構(gòu)了，我們直接把電腦變成了電腦科學(xué)家，提高電腦的智能就變成了電腦自己的任務(wù)。
以上這些都會(huì)很快發(fā)生
硬件的快速發(fā)展和軟件的創(chuàng)新是同時(shí)發(fā)生的，強(qiáng)人工智能可能比我們預(yù)期的更早降臨，因?yàn)椋?/span>
1）指數(shù)級(jí)增長(zhǎng)的開(kāi)端可能像蝸牛漫步，但是后期會(huì)跑的非?？?/span>
2）軟件的發(fā)展可能看起來(lái)很緩慢，但是一次頓悟，就能永遠(yuǎn)改變進(jìn)步的速度。就好像在人類(lèi)還信奉地心說(shuō)的時(shí)候，科學(xué)家們沒(méi)法計(jì)算宇宙的運(yùn)作方式，但是日心說(shuō)的發(fā)現(xiàn)讓一切變得容易很多。創(chuàng)造一個(gè)能自我改進(jìn)的電腦來(lái)說(shuō)，對(duì)我們來(lái)說(shuō)還很遠(yuǎn)，但是可能一個(gè)無(wú)意的變動(dòng)，就能讓現(xiàn)在的系統(tǒng)變得強(qiáng)大千倍，從而開(kāi)啟朝人類(lèi)級(jí)別智能的沖刺。
強(qiáng)人工智能到超人工智能之路
總有一天，我們會(huì)造出和人類(lèi)智能相當(dāng)?shù)膹?qiáng)人工智能電腦，然后人類(lèi)和電腦就會(huì)平等快樂(lè)的生活在一起。
呵呵，逗你呢。
即使是一個(gè)和人類(lèi)智能完全一樣，運(yùn)算速度完全一樣的強(qiáng)人工智能，也比人類(lèi)有很多優(yōu)勢(shì)：
硬件上：
-速度。腦神經(jīng)元的運(yùn)算速度最多是200赫茲，今天的微處理器就能以2G赫茲，也就是神經(jīng)元1000萬(wàn)倍的速度運(yùn)行，而這比我們達(dá)成強(qiáng)人工智能需要的硬件還差遠(yuǎn)了。大腦的內(nèi)部信息傳播速度是每秒120米，電腦的信息傳播速度是光速，差了好幾個(gè)數(shù)量級(jí)。
- 容量和儲(chǔ)存空間。人腦就那么大，后天沒(méi)法把它變得更大，就算真的把它變得很大，每秒120米的信息傳播速度也會(huì)成為巨大的瓶頸。電腦的物理大小可以非常隨意，使得電腦能運(yùn)用更多的硬件，更大的內(nèi)存，長(zhǎng)期有效的存儲(chǔ)介質(zhì)，不但容量大而且比人腦更準(zhǔn)確。
- 可靠性和持久性。電腦的存儲(chǔ)不但更加準(zhǔn)確，而且晶體管比神經(jīng)元更加精確，也更不容易萎縮（真的壞了也很好修）。人腦還很容易疲勞，但是電腦可以24小時(shí)不停的以峰值速度運(yùn)作。
軟件上來(lái)說(shuō)：
- 可編輯性，升級(jí)性，以及更多的可能性。和人腦不同，電腦軟件可以進(jìn)行更多的升級(jí)和修正，并且很容易做測(cè)試。電腦的升級(jí)可以加強(qiáng)人腦比較弱勢(shì)的領(lǐng)域——人腦的視覺(jué)元件很發(fā)達(dá)，但是工程元件就挺弱的。而電腦不但能在視覺(jué)元件上匹敵人類(lèi)，在工程元件上也一樣可以加強(qiáng)和優(yōu)化。
- 集體能力。人類(lèi)在集體智能上可以碾壓所有的物種。從早期的語(yǔ)言和大型社區(qū)的形成，到文字和印刷的發(fā)明，再到互聯(lián)網(wǎng)的普及。人類(lèi)的集體智能是我們統(tǒng)治其它物種的重要原因之一。而電腦在這方面比我們要強(qiáng)的很多，一個(gè)運(yùn)行特定程序的人工智能網(wǎng)絡(luò)能夠經(jīng)常在全球范圍內(nèi)自我同步，這樣一臺(tái)電腦學(xué)到的東西會(huì)立刻被其它所有電腦學(xué)得。而且電腦集群可以共同執(zhí)行同一個(gè)任務(wù)，因?yàn)楫愐?jiàn)、動(dòng)力、自利這些人類(lèi)特有的東西未必會(huì)出現(xiàn)在電腦身上。 通過(guò)自我改進(jìn)來(lái)達(dá)成強(qiáng)人工智能的人工智能，會(huì)把“人類(lèi)水平的智能”當(dāng)作一個(gè)重要的里程碑，但是也就僅此而已了。它不會(huì)停留在這個(gè)里程碑上的。考慮到強(qiáng)人工智能之于人腦的種種優(yōu)勢(shì)，人工智能只會(huì)在“人類(lèi)水平”這個(gè)節(jié)點(diǎn)做短暫的停留，然后就會(huì)開(kāi)始大踏步向超人類(lèi)級(jí)別的智能走去。
這一切發(fā)生的時(shí)候我們很可能被嚇尿，因?yàn)閺奈覀兊慕嵌葋?lái)看 a)雖然動(dòng)物的智能有區(qū)別，但是動(dòng)物智能的共同特點(diǎn)是比人類(lèi)低很多；b)我們眼中最聰明的人類(lèi)要比最愚笨的人類(lèi)要聰明很很很很多。
所以，當(dāng)人工智能開(kāi)始朝人類(lèi)級(jí)別智能靠近時(shí)，我們看到的是它逐漸變得更加智能，就好像一個(gè)動(dòng)物一般。然后，它突然達(dá)到了最愚笨的人類(lèi)的程度，我們到時(shí)也許會(huì)感慨：“看這個(gè)人工智能就跟個(gè)腦殘人類(lèi)一樣聰明，真可愛(ài)?！?/span>
但問(wèn)題是，從智能的大局來(lái)看，人和人的智能的差別，比如從最愚笨的人類(lèi)到愛(ài)因斯坦的差距，其實(shí)是不大的。所以當(dāng)人工智能達(dá)到了腦殘級(jí)別的智能后，它會(huì)很快變得比愛(ài)因斯坦更加聰明：
之后呢？
智能爆炸
從這邊開(kāi)始，這個(gè)話(huà)題要變得有點(diǎn)嚇人了。我在這里要提醒大家，以下所說(shuō)的都是大實(shí)話(huà)——是一大群受人尊敬的思想家和科學(xué)家關(guān)于未來(lái)的誠(chéng)實(shí)的預(yù)測(cè)。你在下面讀到什么離譜的東西的時(shí)候，要記得這些東西是比你我都聰明很多的人想出來(lái)的。
像上面所說(shuō)的，我們當(dāng)下用來(lái)達(dá)成強(qiáng)人工智能的模型大多數(shù)都依靠人工智能的自我改進(jìn)。但是一旦它達(dá)到了強(qiáng)人工智能，即使算上那一小部分不是通過(guò)自我改進(jìn)來(lái)達(dá)成強(qiáng)人工智能的系統(tǒng)，也會(huì)聰明到能夠開(kāi)始自我改進(jìn)。
這里我們要引出一個(gè)沉重的概念——遞歸的自我改進(jìn)。這個(gè)概念是這樣的：一個(gè)運(yùn)行在特定智能水平的人工智能，比如說(shuō)腦殘人類(lèi)水平，有自我改進(jìn)的機(jī)制。當(dāng)它完成一次自我改進(jìn)后，它比原來(lái)更加聰明了，我們假設(shè)它到了愛(ài)因斯坦水平。而這個(gè)時(shí)候它繼續(xù)進(jìn)行自我改進(jìn)，然而現(xiàn)在它有了愛(ài)因斯坦水平的智能，所以這次改進(jìn)會(huì)比上面一次更加容易，效果也更好。第二次的改進(jìn)使得他比愛(ài)因斯坦還要聰明很多，讓它接下來(lái)的改進(jìn)進(jìn)步更加明顯。如此反復(fù)，這個(gè)強(qiáng)人工智能的智能水平越長(zhǎng)越快，直到它達(dá)到了超人工智能的水平——這就是智能爆炸，也是加速回報(bào)定律的終極表現(xiàn)。
現(xiàn)在關(guān)于人工智能什么時(shí)候能達(dá)到人類(lèi)普遍智能水平還有爭(zhēng)議。對(duì)于數(shù)百位科學(xué)家的問(wèn)卷調(diào)查顯示他們認(rèn)為強(qiáng)人工智能出現(xiàn)的中位年份是2040年——距今只有25年。這聽(tīng)起來(lái)可能沒(méi)什么，但是要記住，很多這個(gè)領(lǐng)域的思想家認(rèn)為從強(qiáng)人工智能到超人工智能的轉(zhuǎn)化會(huì)快得多。以下的情景很可能會(huì)發(fā)生：一個(gè)人工智能系統(tǒng)花了幾十年時(shí)間到達(dá)了人類(lèi)腦殘智能的水平，而當(dāng)這個(gè)節(jié)點(diǎn)發(fā)生的時(shí)候，電腦對(duì)于世界的感知大概和一個(gè)四歲小孩一般；而在這節(jié)點(diǎn)后一個(gè)小時(shí)，電腦立馬推導(dǎo)出了統(tǒng)一廣義相對(duì)論和量子力學(xué)的物理學(xué)理論；而在這之后一個(gè)半小時(shí)，這個(gè)強(qiáng)人工智能變成了超人工智能，智能達(dá)到了普通人類(lèi)的17萬(wàn)倍。
這篇文章的第一部分完了，我建議你休息一下，喝點(diǎn)水，下面我們要開(kāi)始第二部分。
浙公網(wǎng)安備 33010802003509號(hào)
杭州講師網(wǎng)絡(luò)科技有限公司
