李開復(fù)：我反對(duì)馬斯克AI末日論 科幻科學(xué)是兩碼事通信
十天前，硅谷鋼鐵俠、特斯拉CEO伊隆?馬斯克在幾十位美國(guó)州長(zhǎng)面前，聲稱AI是對(duì)人類存在的最大威脅，并且呼吁加強(qiáng)對(duì)AI的監(jiān)管。
十天前，硅谷鋼鐵俠、特斯拉CEO伊隆?馬斯克在幾十位美國(guó)州長(zhǎng)面前，聲稱AI是對(duì)人類存在的最大威脅，并且呼吁加強(qiáng)對(duì)AI的監(jiān)管。
雖然馬斯克鼓吹這一論調(diào)已經(jīng)多年，但這次整個(gè)AI界似乎都站到了他的對(duì)面，對(duì)他的批評(píng)聲不絕于耳，直到Facebook創(chuàng)始人扎克伯格出手，事件到達(dá)了高潮。
“我認(rèn)為那些對(duì)AI持否定態(tài)度或者鼓吹末日論的人，其實(shí)根本沒理解什么是AI。他們的看法太消極了，甚至有些不負(fù)責(zé)任”，扎克伯格談到馬斯克時(shí)如是說。他還補(bǔ)充道“未來5-10年內(nèi)，AI將大幅提高我們的生活質(zhì)量。”
這很快成為搶眼的新聞標(biāo)題，而馬斯克也通過推特給予了回?fù)簦骸拔腋≡倪^了。他對(duì)這事兒（AI）的理解有限”。
不負(fù)責(zé)任vs理解有限。
應(yīng)該如何正確看待馬斯克和扎克伯格這次關(guān)于AI的隔空交手？AI是個(gè)末日威脅么？量子位就這個(gè)問題，請(qǐng)教了李開復(fù)博士。
李開復(fù)表示，F(xiàn)acebook有世界頂尖AI團(tuán)隊(duì)，扎克伯格在這個(gè)問題上肯定不會(huì)“理解有限”。
李開復(fù)明確反對(duì)馬斯克“AI終將滅絕人類”的悲觀論調(diào)。他指出AI現(xiàn)在僅僅是人類的工具，離擁有意識(shí)的“超級(jí)智能（Superintelligence）”還非常遙遠(yuǎn)，更別提滅絕人類了。
其實(shí)過去幾個(gè)月，李開復(fù)和國(guó)內(nèi)外AI專家、圖靈獎(jiǎng)國(guó)際得主就這個(gè)話題也有過不少交流，大家基本都同意扎克伯格、李開復(fù)的觀點(diǎn)。
另一方面，李開復(fù)警告說：馬斯克如此高調(diào)頻繁地宣揚(yáng)AI帶來的威脅，可能會(huì)讓大眾忽視AI正在帶來的巨大機(jī)遇，也會(huì)讓更多更緊迫的AI問題沒有得到關(guān)注，這只會(huì)撿了芝麻丟了西瓜。
李開復(fù)表示，是時(shí)候就著這次辯論，直接評(píng)論下馬斯克的“AI末日論”了。
李開復(fù)回復(fù)全文
量子位問我關(guān)于這次馬斯克和扎克伯格辯論AI未來的看法。
坦白講，我不太認(rèn)同伊隆?馬斯克“AI滅絕人類”的觀點(diǎn)，對(duì)于當(dāng)前AI的發(fā)展看法，我有5個(gè)方面的具體觀點(diǎn)：
AI只是工具，離超級(jí)智能還很遠(yuǎn)；基于我投入AI領(lǐng)域的科研、開發(fā)、投資相關(guān)工作37年的經(jīng)驗(yàn)，“超級(jí)智能”、“滅絕人類”這類聳人聽聞的說法，根本沒有切實(shí)的工程基礎(chǔ)。
智庫(kù)、科學(xué)家應(yīng)該討論AI安全問題、AI對(duì)社會(huì)的改變，但是科技圈的意見領(lǐng)袖不應(yīng)該在這時(shí)誤導(dǎo)大眾AI要控制人類，讓人類滅亡，這確實(shí)是不負(fù)責(zé)的說法。大部分的人已經(jīng)對(duì)AI所知有限，這會(huì)造成更為錯(cuò)誤不實(shí)的群眾恐慌。
AI可以為人類創(chuàng)造大量財(cái)富，甚至逐漸解決人類溫飽問題；我們每個(gè)人也將獲得更多的時(shí)間和自由，來做我們愛做的事情。
AI真實(shí)會(huì)帶來的問題是人類的失業(yè)，失業(yè)后可能的抑郁和喪志問題，還有貧富不均問題，人類社會(huì)目前所習(xí)慣的職業(yè)結(jié)構(gòu)確實(shí)會(huì)發(fā)生顯著的改變。
AI會(huì)帶給我們100%確定性的巨大機(jī)會(huì)，隨著改變也會(huì)產(chǎn)生些必然的問題。此時(shí)去用概率極低甚至是零可能性的“超級(jí)智能”，誤導(dǎo)大眾恐懼AI，甚至約束AI，反而不去擁抱機(jī)會(huì)、解決問題，是沒有道理的。
AI大咖們?cè)趺纯矗?/strong>
這其中有我的看法，也有一些已是業(yè)內(nèi)不少專家的共識(shí)。如果我們?nèi)栱敿釧I專家，絕大多數(shù)是同意扎克伯格和我的看法的，比如說圖靈獎(jiǎng)得主Rodney Brooks。
Rodney Brooks的觀點(diǎn)是：“有很多人都聲稱AI是人類存在的威脅：斯蒂芬?霍金、馬丁?里斯爵士……在沒有親身在AI領(lǐng)域工作的情況下，這樣的想法很普遍。我們能夠理解，對(duì)于那些不在AI領(lǐng)域工作的人，要通過產(chǎn)品級(jí)別的東西來弄明白一些問題有多么困難。他們會(huì)根據(jù)一個(gè)領(lǐng)域的一個(gè)AI成果，就一概而論地認(rèn)為AI會(huì)在多領(lǐng)域超過人類。但是其實(shí)今天的AI，只是在某一個(gè)狹窄領(lǐng)域基于大數(shù)據(jù)優(yōu)化，只能說是個(gè)很厲害的模式識(shí)別引擎。要做到通用的、無所不能的AI根本不知從何開始。”
另外，Rodney Brooks也提到，馬斯克想要立法管理AI，但是需要管理的通用AI都不存在，如何立法？
實(shí)際上，今年五月在上海的ACM圖靈獎(jiǎng)五十周年大會(huì)論壇討論上，我和三位圖靈獎(jiǎng)獲得者討論時(shí)，基本也是類似觀點(diǎn)，描述了人類今天并不知道如何做出“超級(jí)智能”，也否定了量子計(jì)算取代大腦的一說。
當(dāng)然，持“AI末日論”觀點(diǎn)的除了馬斯克，另一知名的人是斯蒂芬?霍金，霍金是杰出的物理學(xué)教授，但并不意味著他在AI方面的觀點(diǎn)也同樣令人認(rèn)同。
著名的AI研究專家Michael Jordan就直言不諱地說過，如果你有物理學(xué)方面的問題，可以向霍金求教，但如果是AI方面的問題，可能更合適的人選是自己。
吳恩達(dá)聽到霍金馬斯克等關(guān)于“超級(jí)人工智能”的觀點(diǎn)時(shí)，他直接忍不住地用手蓋住了臉。
吳恩達(dá)說：作為真的做AI產(chǎn)品的人，我看不到今天的AI可能發(fā)展為邪惡力量的任何可能性。
甚至在聽到“奇點(diǎn)理論”之類的觀點(diǎn)時(shí)，吳恩達(dá)索性翻白眼，他甚至說：聽到奇點(diǎn)，我的眼睛就會(huì)自動(dòng)翻白。
另一位知名的AI大咖Geoff Hinton也明確表示，未來50年內(nèi)，我不對(duì)什么“超級(jí)人工智能”的實(shí)際進(jìn)展抱有希望。
所以，我認(rèn)識(shí)的業(yè)界真正做過突破性計(jì)算機(jī)和AI科研工作的人，都是更支持扎克伯格的看法的。
實(shí)際上，許多硅谷主流的企業(yè)家、圖領(lǐng)獎(jiǎng)的科學(xué)家，已經(jīng)私下對(duì)馬斯克和霍金的言論不認(rèn)可有段時(shí)間了。我之前在《紐約時(shí)報(bào)》和《連線》的專欄文章中，其實(shí)也表達(dá)了這種“不認(rèn)可”，只是并沒有那么直白地針對(duì)馬斯克或霍金教授說出來。
我在《連線》的專欄文章中說：“一些自稱未來學(xué)家的人開始對(duì)人工智能做出各種預(yù)言，他們談?wù)撝?jí)智能’、’奇點(diǎn)’、’人機(jī)結(jié)合’，甚至毫無根據(jù)地聲稱’我們其實(shí)就生活在電子游戲當(dāng)中’。這些反烏托邦的警告令人惴惴不安，這些言論大多出自世界級(jí)的科技大拿之口，又透過科幻小說中那些大家所熟悉的橋段和場(chǎng)景而深植人心。”
實(shí)際上就是針對(duì)馬斯克一系列的言論觀點(diǎn)，希望提醒大家，區(qū)分“科幻”和“科學(xué)”的不同。
更加直白來說，我認(rèn)為那些聳人聽聞的預(yù)言并沒有切實(shí)的工程基礎(chǔ)。科“幻”小說主要是幻想，而不是“科”學(xué)。我們目前面臨的真正危機(jī)并不在于擔(dān)憂這樣的情況在遙遠(yuǎn)的未來可能會(huì)發(fā)生，而是解決即將到來的職業(yè)取代問題。
但這一次扎克伯格這樣直白地反對(duì)和批評(píng)馬斯克，我覺得或許是真的認(rèn)為馬斯克的言論實(shí)在過激了，特別是面對(duì)美國(guó)重要的政治人物演講時(shí)，如此言之鑿鑿地談AI毀滅人類。
更早之前，Michael Jordan也明確批評(píng)過，他說：AI科學(xué)家必須絕對(duì)誠(chéng)實(shí)，無論是對(duì)你的出資者、贊助商、員工、同行、同事、公眾，還有面對(duì)你自己。當(dāng)我們誠(chéng)實(shí)地面對(duì)AI時(shí)，有不誠(chéng)實(shí)或妄想者做出瘋狂的AI預(yù)言（而影響了公眾輿論甚至政府政策），這些人讓我們這些務(wù)實(shí)又誠(chéng)實(shí)的科學(xué)家活得很艱難。
機(jī)器人將會(huì)處理一切工作？不認(rèn)同
我也不認(rèn)同馬斯克“機(jī)器人將會(huì)處理一切工作”的看法，這有點(diǎn)以偏概全了。一方面，我同意AI將取代簡(jiǎn)單的、重復(fù)性的工作，但另一方面是我們完全可以給人類創(chuàng)造新的工作，而且是AI做不了的工作。
AI做不了的工作是什么呢？我們會(huì)發(fā)現(xiàn)主要是創(chuàng)造力和社交相關(guān)的能力，那么最多10%的工作屬于創(chuàng)造性部分，而90%就必須進(jìn)入社交為核心的服務(wù)型工作。
（詳見牛津2013文章http://www.oxfordmartin.ox.ac.uk/downloads/academic/The_Future_of_Employment.pdf）
所以，我們要鼓勵(lì)更多年輕人走向創(chuàng)造的路線，無論是理工科學(xué)的發(fā)明，或者是人文藝術(shù)的創(chuàng)意。AI只能夠優(yōu)化，只有人才能夠創(chuàng)造。
另外，服務(wù)業(yè)會(huì)有很多的機(jī)會(huì)，尤其是社交屬性較強(qiáng)，“有愛”的服務(wù)業(yè)。這包括了已有的行業(yè)：熱情的導(dǎo)游、細(xì)心的禮賓、風(fēng)趣的調(diào)酒師、有感染力的美發(fā)師、饒富創(chuàng)意的壽司師傅。我們也會(huì)創(chuàng)造新的行業(yè)：可以上門服務(wù)的營(yíng)養(yǎng)廚師、能夠按照季節(jié)更替來上門服務(wù)的居家換季師、帶你年邁的父母去醫(yī)院的銀發(fā)關(guān)愛專家。甚至包括了一些志愿者型的工作：血庫(kù)的助工、孤兒院的老師、夏令營(yíng)的輔導(dǎo)員、誡癮互助會(huì)的發(fā)起人。
我們需要改變社會(huì)思想和教育，讓做服務(wù)業(yè)的人能夠從中得到滿足。如果服務(wù)業(yè)能夠盡量幫助他人，關(guān)懷他人，解決他人問題或苦惱，讓他人開心，這樣不就解決自我實(shí)現(xiàn)的問題了嗎？（當(dāng)你做到這幾點(diǎn)的時(shí)候，是不是很開心，很自豪呢？）
即便不是90%的人都從事這樣服務(wù)型的工作，假設(shè)只有50%做到，還有少數(shù)提早退休，專注自己的嗜好，或在網(wǎng)上消磨時(shí)間，只有極少數(shù)可能有抑郁或其它問題。
這樣社會(huì)也穩(wěn)定下來了，不是嗎？
馬斯克應(yīng)該多聽聽AI專家的意見
最后，坦白講，我并不認(rèn)為通過這次辯論可以馬上改變馬斯克的觀點(diǎn)，畢竟他對(duì)“超級(jí)人工智能”如此堅(jiān)信而著迷――甚至影響他的那個(gè)作家改變主意了，他也看起來不準(zhǔn)備改變。馬斯克被OpenAI研究超級(jí)人工智能的科學(xué)家圍繞著，所以他們必然彼此影響鼓吹著末日論。就如扎克伯格被務(wù)實(shí)的Yann LeCun（Facebook AI研究院院長(zhǎng)）和創(chuàng)造商業(yè)價(jià)值的人工智能專家圍繞著，所以也一定彼此影響對(duì)AI保持樂觀。
雖然伊隆?馬斯克過去展現(xiàn)出的遠(yuǎn)見和戰(zhàn)略思維令人敬佩，對(duì)他啟動(dòng)OpenAI的初衷――開放AI作為約束AI的一種方法，我也深感認(rèn)可，但對(duì)于馬斯克一直以來對(duì)于AI過于悲觀和具有毀滅性的論調(diào)，我卻非常不認(rèn)同。
相對(duì)來說，我認(rèn)為在“AI和人類未來”這個(gè)話題上，我們應(yīng)該更多聽取扎克伯格的看法，扎克伯格的團(tuán)隊(duì)是真實(shí)用了AI，解決了問題，創(chuàng)造了價(jià)值。他麾下有Yann LeCun帶領(lǐng)的一流AI研究人才，他們很清楚目前AI能做什么、不能做什么，以及可預(yù)見的將來能做什么。
而且據(jù)說馬斯克關(guān)于“超級(jí)人工智能”的觀點(diǎn)，受到牛津大學(xué)人類未來研究院院長(zhǎng)、《超級(jí)智能》的作者Nick Bostrom（尼克?波斯特洛姆）的啟發(fā)，但最近這個(gè)影響了馬斯克論點(diǎn)的人，也公開表示“反水”了，他認(rèn)為自己書中所寫的超級(jí)人工智能帶來的悲慘情況，并不意味著有可能發(fā)生。
更早之前還有人告訴我，說馬斯克之所以如此篤定超級(jí)人工智能的威脅，是因?yàn)镈eepMind當(dāng)年在尋求收購(gòu)時(shí)，曾表達(dá)了超級(jí)人工智能威脅之類的觀點(diǎn)，所以還要求收購(gòu)了他公司的人，要設(shè)立一個(gè)道德委員會(huì)去約束DeepMind未來的所作所為，免得毀滅人類。當(dāng)時(shí)的潛在收購(gòu)者之一馬斯克深受影響。
但DeepMind創(chuàng)始人哈薩比斯的要求，可能其實(shí)是在收購(gòu)案過程中開的一個(gè)“策略”，讓他的團(tuán)隊(duì)看起來更強(qiáng)大。AlphaGo很強(qiáng)，但離“超級(jí)智能”還很遠(yuǎn)。并且哈薩比斯后來自己也承認(rèn)了，AI威脅人類的事情，還太過遙遠(yuǎn)。
所以對(duì)于AI和人類的關(guān)系，我認(rèn)為馬斯克應(yīng)該多聽聽真正的每天把AI當(dāng)做工作的人的看法。我認(rèn)為他也可以去和最頂尖的AI專家和圖靈獎(jiǎng)得主交流，看看為什么這些專家都不認(rèn)可他的“超級(jí)智能”和“末日觀”。
馬斯克這么多年確實(shí)有不少偉大的創(chuàng)新創(chuàng)作，而且基本沒有失敗過，但并不意味著他不需要在“超級(jí)智能”這個(gè)問題上三思而后“談”。
1.TMT觀察網(wǎng)遵循行業(yè)規(guī)范，任何轉(zhuǎn)載的稿件都會(huì)明確標(biāo)注作者和來源；
2.TMT觀察網(wǎng)的原創(chuàng)文章，請(qǐng)轉(zhuǎn)載時(shí)務(wù)必注明文章作者和"來源：TMT觀察網(wǎng)"，不尊重原創(chuàng)的行為TMT觀察網(wǎng)或?qū)⒆肪控?zé)任；
3.作者投稿可能會(huì)經(jīng)TMT觀察網(wǎng)編輯修改或補(bǔ)充。
