OpenAI通過(guò)一系列在AI技術(shù)和產(chǎn)品上的突破，引爆了通用人工智能（AGI）的發(fā)展，被微軟CEO 薩提亞 · 納德拉稱為“堪比工業(yè)革命的技術(shù)浪潮”。OpenAI趟出來(lái)的以大語(yǔ)言模型為主的AGI技術(shù)路線，也基本上宣告了其他AI技術(shù)路線的終結(jié)，這樣以一己之力改變整個(gè)領(lǐng)域航道的，在技術(shù)史上也是空前絕后。一個(gè)區(qū)區(qū)兩三百人（在去年底推出ChatGPT時(shí)，OpenAI團(tuán)隊(duì)大約270人）的創(chuàng)業(yè)公司，何以在眾多巨頭逐鹿多年的AI競(jìng)技場(chǎng)一路披荊斬棘，摘得通用人工智能的圣杯？無(wú)論在硅谷，還是在國(guó)內(nèi)，很多人都在問(wèn)：

為什么AGI這樣史詩(shī)級(jí)的革命，背后的核心推手竟然是OpenAI這樣的創(chuàng)業(yè)公司？OpenAI到底做對(duì)了什么？

我自從2016年開(kāi)始一直追蹤研究AI領(lǐng)域的產(chǎn)業(yè)發(fā)展，每年籌辦全球機(jī)器學(xué)習(xí)技術(shù)大會(huì)（ML-Summit）的工作原因，陸續(xù)和很多來(lái)自O(shè)penAI的專家、包括Ilya Sutskever（首席科學(xué)家）、Lukasz Kaiser（Transformer共同發(fā)明人）、Andrej Karpathy（聯(lián)合創(chuàng)始人）、Ian goodfellow（GAN之父）等經(jīng)常接觸和交流。很早就注意到了OpenAI這個(gè)在AI領(lǐng)域特立獨(dú)行的“異類”。

如果回看AI產(chǎn)業(yè)的發(fā)展歷史，和OpenAI歷史道路上的諸多關(guān)鍵選擇，我?guī)缀躞@嘆地發(fā)現(xiàn)，作為一家創(chuàng)業(yè)公司，OpenAI在每一次關(guān)鍵的岔路口上，都毫不猶豫地選擇了“難而正確”的決定?；仡橭penAI發(fā)展歷史上這些“難而正確”的選擇，我覺(jué)得對(duì)于我們今天很多AI領(lǐng)域的同行者會(huì)有重要的啟發(fā)。

愿景和使命：劍指通用人工智能

「我們的目標(biāo)是以造福全人類的方式推進(jìn)人工智能。今天的AI系統(tǒng)雖然令人驚嘆，但很多表現(xiàn)又不免差強(qiáng)人意。但在未來(lái)，AI極有可能在幾乎所有智力任務(wù)上達(dá)到人類的表現(xiàn)。這項(xiàng)事業(yè)的結(jié)果是不確定的，工作是困難的，但我們相信我們的目標(biāo)和結(jié)構(gòu)是正確的。」

這段話是我摘抄自O(shè)penAI 在2015年12月剛成立不久創(chuàng)始團(tuán)隊(duì)發(fā)表的“愿景和使命”博客中的一段文字。八年后的今天讀來(lái)，感受仍然是真誠(chéng)和激蕩的。

OpenAI能夠在2015年整個(gè)AI領(lǐng)域被各種迷霧籠罩的時(shí)候，就提出“通用人工智能”這一強(qiáng)大的“愿景和使命”，是建立在創(chuàng)始團(tuán)隊(duì)對(duì)人工智能的堅(jiān)實(shí)信仰、深刻理解和現(xiàn)狀研究基礎(chǔ)之上的，我將這些合稱為對(duì)通用人工智能的“愿力”。這樣的“愿力”，幫助OpenAI此后在人工智能的發(fā)展道路上一次次守正出奇。

“愿景和使命”在今天浮躁的創(chuàng)投圈，很容易被異化為“忽悠VC和給員工畫餅”。但如果研究人類科技發(fā)展史，你會(huì)發(fā)現(xiàn)在一個(gè)領(lǐng)域提出強(qiáng)大的“愿景和使命”，是成為一個(gè)領(lǐng)域拓荒者的鮮明特征。反過(guò)來(lái)說(shuō)，但凡革命性的事情，都有極大的難度，沒(méi)有強(qiáng)大的“愿景和使命”指引，遇到困難就很容易放棄和潰散。因此，對(duì)于那些堅(jiān)定信仰的創(chuàng)業(yè)者，我鼓勵(lì)大家大聲講出你的“愿景和使命”。我也希望我們的創(chuàng)投界、媒體界對(duì)于創(chuàng)業(yè)者的“愿景和使命”要鼓勵(lì)支持、而非奚落鞭撻。

我時(shí)常在想如果將時(shí)間拉回到2015年，如果30歲的Sam Altman和29歲的Ilya Sutskever這兩位毛頭小子在我們的某個(gè)創(chuàng)投活動(dòng)上講出上述“愿景和使命”，是不是會(huì)被一眾“大佬”唾沫星子淹死？事實(shí)是OpenAI在成立時(shí)就獲得了大約1億美金的捐贈(zèng)，彼時(shí)OpenAI還是以非贏利性組織的方式成立的。

技術(shù)路線一：無(wú)監(jiān)督學(xué)習(xí)

OpenAI剛成立不久，就在Ilya Sutskever的領(lǐng)導(dǎo)下下注“無(wú)監(jiān)督學(xué)習(xí)”這條道路。熟悉AI研究領(lǐng)域的朋友都知道，今天這個(gè)看起來(lái)無(wú)比正確的決定，在2015-2016年，絕對(duì)不是那么顯而易見(jiàn)。因?yàn)楸藭r(shí)的人工智能領(lǐng)域，通過(guò)標(biāo)注數(shù)據(jù)方法的“監(jiān)督學(xué)習(xí)”大行其道，在很多垂直領(lǐng)域比如推薦系統(tǒng)、機(jī)器視覺(jué)等，效果也更好。

而“無(wú)監(jiān)督學(xué)習(xí)”在理論突破和工程技術(shù)上彼時(shí)都非常不成熟，效果也大打折扣，屬于典型的“非主流”。但無(wú)需人工標(biāo)注數(shù)據(jù)的“無(wú)監(jiān)督學(xué)習(xí)”具有強(qiáng)大的普適性、且易擴(kuò)展，通過(guò)大規(guī)模的數(shù)據(jù)預(yù)訓(xùn)練，模型就能學(xué)到數(shù)據(jù)中蘊(yùn)涵的人類豐富的知識(shí)，從而在各類任務(wù)中大顯身手。對(duì)于“通用人工智能”這一目標(biāo)來(lái)說(shuō)，“無(wú)監(jiān)督學(xué)習(xí)”顯然具有“任務(wù)的普適性”和依據(jù)海量數(shù)據(jù)進(jìn)行快速“scale（擴(kuò)展）”的能力。

今天來(lái)看，很多“監(jiān)督學(xué)習(xí)”方法都被OpenAI的“無(wú)監(jiān)督學(xué)習(xí)”大幅甩開(kāi)，但在當(dāng)時(shí)選擇“無(wú)監(jiān)督學(xué)習(xí)”顯然屬于“難而正確”的決定，這樣的關(guān)鍵道路選擇和OpenAI對(duì)AGI的愿景是密不可分的。

技術(shù)路線二：生成式模型

當(dāng)2016年，各種“識(shí)別”類任務(wù)（如視覺(jué)識(shí)別、語(yǔ)音識(shí)別等）大行其道時(shí)，OpenAI在2016年6月發(fā)表《生成式模型（Generative Models）》中開(kāi)篇就引用著名物理學(xué)家費(fèi)曼的名言“What I cannot create, I do not understand. 如果不能創(chuàng)造，就無(wú)法理解”。也將OpenAI的研究重心放在生成式任務(wù)上。

而彼時(shí)雖然有Ian goodfellow 發(fā)明的GAN（生成式對(duì)抗網(wǎng)絡(luò)）的驚艷時(shí)刻，但它的不可解釋性，以及相較于識(shí)別類任務(wù)的“有用”，總體上，主流的人工智能業(yè)界其實(shí)對(duì)于生成式模型的判斷是“難度大，但用處不大”。

但通讀《生成式模型（Generative Models）》文章中，可以看出OpenAI團(tuán)隊(duì)對(duì)于生成式模型是“AGI必經(jīng)之路”的堅(jiān)定，就能體會(huì)出OpenAI團(tuán)隊(duì)卓爾不群、堅(jiān)定自我的特質(zhì)。

技術(shù)路線三：自然語(yǔ)言

雖然在2012年深度學(xué)習(xí)進(jìn)入工業(yè)界成為主流方法之后，機(jī)器視覺(jué)很快成為更為成熟、效果更好、變現(xiàn)能力也更強(qiáng)的領(lǐng)域。雖然Ilya Sutskever也是通過(guò)AlexNet參加ImageNet大賽拔得頭籌而在機(jī)器視覺(jué)領(lǐng)域一戰(zhàn)成名，但OpenAI在做了一些嘗試之后并沒(méi)有選擇視覺(jué)作為主攻方向，而是選擇了押注更難、更險(xiǎn)的“自然語(yǔ)言”。

相對(duì)視覺(jué)、語(yǔ)音等領(lǐng)域，自然語(yǔ)言處理長(zhǎng)期被認(rèn)為是相對(duì)落后的領(lǐng)域，因?yàn)樽匀徽Z(yǔ)言任務(wù)具有巨大的復(fù)雜性和解空間，很多方法在某一個(gè)單一任務(wù)上可以，但放到另一任務(wù)上就表現(xiàn)很差，起伏不定。業(yè)界也有說(shuō)法，自然語(yǔ)言處理是人工智能領(lǐng)域的“圣杯”。

在嘗試OpenAI Gym（開(kāi)源強(qiáng)化學(xué)習(xí)平臺(tái)）和OpenAI Five（使用強(qiáng)化學(xué)習(xí)打Dota2游戲）的同時(shí)，OpenAI在使用無(wú)監(jiān)督學(xué)習(xí)來(lái)進(jìn)行自然語(yǔ)言的任務(wù)上走的越來(lái)越遠(yuǎn)。特別是2017年通過(guò)生成式方式來(lái)預(yù)測(cè) Amazon 評(píng)論的下一個(gè)字符，取得了很棒的效果。

為什么OpenAI選擇押注自然語(yǔ)言？套用著名哲學(xué)家維特根斯坦“語(yǔ)言的邊界就是世界的邊界”。如果用Ilya Sutskever的話來(lái)說(shuō) “語(yǔ)言是世界的映射，GPT是語(yǔ)言的壓縮”。就人類智能而言，自然語(yǔ)言是核心中的核心，而其他視覺(jué)、語(yǔ)音等都不過(guò)是自然語(yǔ)言的輔助佐料。

正是有了對(duì)自然語(yǔ)言通向AGI道路信仰般的押注，等到2017年6月12日Google的Transformer奠基性論文《Attention is All You Need》一發(fā)布，用Ilya Sutskever的原話說(shuō)論文發(fā)表的第二天，他看到論文后的第一反應(yīng)是“就是它了”。Transformer模型從理論上顛覆了前代RNN、LSTM等自然語(yǔ)言處理方法，掃清了OpenAI團(tuán)隊(duì)苦苦探索自然語(yǔ)言領(lǐng)域的一些關(guān)鍵障礙。

然而遺憾的是，Transformer這一理論模型并沒(méi)有在Google內(nèi)部得到足夠的重視，反倒讓OpenAI團(tuán)隊(duì)如獲至寶。這一幕像極了1979年喬布斯參觀施樂(lè)PARC研究院的Alto電腦上的圖形界面（GUI）和鼠標(biāo)后，回到蘋果就開(kāi)始押注圖形界面并開(kāi)啟了轟轟烈烈的個(gè)人電腦時(shí)代，而施樂(lè)PARC的領(lǐng)導(dǎo)層卻遲遲看不到GUI向普通大眾釋放的巨大計(jì)算潛力。而親自打造Transformer的七位共同發(fā)明人后來(lái)也陸續(xù)離開(kāi)Google，有的加入OpenAI（包括我們2021年全球機(jī)器學(xué)習(xí)技術(shù)大會(huì)的keynote speaker、OpenAI研究科學(xué)家Lukasz Kaiser），有的在硅谷VC支持下創(chuàng)辦新一代人工智能公司。很有點(diǎn)當(dāng)年硅谷仙童半導(dǎo)體“八叛徒”的昨日重現(xiàn)。