OpenAI最后的戰(zhàn)役

朱秋雨

一個(gè)創(chuàng)始人被公司趕走，不是一件罕見(jiàn)的事。OpenAI董事會(huì)與創(chuàng)始人、CEO山姆·奧特曼在11月發(fā)生的這一場(chǎng)宮斗，本來(lái)也不該是值得奇怪的事。

后者，一個(gè)自詡奧本海默般的硅谷菁英，在一個(gè)大周五的中午，被親手組建的公司通知他被解雇了。連同被解除職務(wù)的，是會(huì)議都沒(méi)來(lái)得及出席的董事會(huì)主席格雷格·布洛克曼。

11月17日，會(huì)議進(jìn)行的同時(shí)，OpenAI對(duì)外發(fā)布通告：因?yàn)閵W特曼“不坦誠(chéng)”，導(dǎo)致董事會(huì)失去信心，所以解雇奧特曼。

言辭沒(méi)留下一絲體面。

5天后，奧特曼與OpenAI像一對(duì)重歸于好的密友，發(fā)聲明表示，兩方達(dá)成一致，奧特曼回來(lái)當(dāng)CEO。

一切又像傳統(tǒng)商戰(zhàn)里的鬧劇—受利益驅(qū)使的雙方反復(fù)博弈、相互說(shuō)服、一方勝出的故事。這個(gè)劇本在硅谷上演過(guò)很多次，我們到底為什么要關(guān)心呢？

美國(guó)媒體Politico的科技記者Derek Robertson寫道，全世界對(duì)這家AI公司的高度關(guān)注，是硅谷文化滲透的縮影。在硅谷的世界里，對(duì)領(lǐng)導(dǎo)者個(gè)人命運(yùn)和個(gè)人風(fēng)格的關(guān)注，遠(yuǎn)高于對(duì)大公司人事變動(dòng)和系統(tǒng)架構(gòu)的關(guān)心。不管人們承不承認(rèn)，像馬斯克和奧特曼這樣的幾個(gè)人，正在塑造著當(dāng)下。

這樣的矛盾同樣關(guān)乎著人類命運(yùn)。如何確保人工智能的發(fā)展符合人類的福祉，而不是像奧本海默一樣—掌握先進(jìn)技術(shù)以后，是由在京都度過(guò)蜜月的美國(guó)總統(tǒng)杜魯門最終決定，要在廣島而不是給京都投擲威力巨大的原子彈？

在ChatGPT即將發(fā)布一周年之際，關(guān)于如何實(shí)現(xiàn)上述方向，而不是走向相反的路的爭(zhēng)執(zhí)，將OpenAI“內(nèi)斗”引燃。畢竟，2015年，OpenAI由奧特曼創(chuàng)立時(shí)，他為目標(biāo)設(shè)置了出廠“保險(xiǎn)”—非營(yíng)利機(jī)構(gòu)。他們還給投資人忠告：“以捐贈(zèng)的精神看待對(duì)OpenAI的投資。”但在11月，OpenAI被曝研發(fā)出了可能對(duì)人類產(chǎn)生威脅的AI。

這也許是來(lái)自O(shè)penAI內(nèi)部最后的戰(zhàn)役。11月22日，隨著擅長(zhǎng)對(duì)外社交和融資的奧特曼回歸，不再天真的OpenAI已然成為自己過(guò)去回避的巨頭。

前方要走的，注定是需要平衡多方的路。顫顫巍巍地，OpenAI不再如以前一般酷了。

重要的是，人類會(huì)怎樣？

覺(jué) 醒

2016年，在硅谷最具盛名的俄羅斯籍風(fēng)投家尤里·米爾納位于洛斯阿爾托斯的城堡里，一個(gè)小型放映會(huì)正悄然進(jìn)行。

放映會(huì)的“主角”是HBO的新電視劇集《西部世界》。攢局者除了城堡的主人，還有當(dāng)年只有31歲的AI機(jī)構(gòu)創(chuàng)始人奧特曼。兩人在邀請(qǐng)函里寫道：“邀請(qǐng)您參加《西部世界》首播集觀影會(huì)，這是一部探索意識(shí)和人工智能前景的新連續(xù)劇。”

連續(xù)劇的第一集，設(shè)定在有著凹凸起伏山脈的美國(guó)西部。在不同服飾與懸疑音樂(lè)的切換中，人們才知道，這個(gè)西部世界由偉大的AI科學(xué)家創(chuàng)造，里面的多數(shù)“活人”都是AI扮演，相當(dāng)于一個(gè)真實(shí)的AI游戲小鎮(zhèn)。高高在上方監(jiān)控的人類，唯一的煩惱在于：極少數(shù)AI數(shù)字人會(huì)不按劇本走。

毀滅犯錯(cuò)的AI容易，在西部世界，科學(xué)家內(nèi)部無(wú)法達(dá)成一致的是：要不要搞清楚犯錯(cuò)的AI是如何運(yùn)行的；沒(méi)有答案之前，要不要停止項(xiàng)目？一個(gè)豆瓣網(wǎng)友總結(jié)，這是一個(gè)內(nèi)核關(guān)乎覺(jué)醒的故事，“更開(kāi)腦洞來(lái)說(shuō)，我們?nèi)祟愂歉呒?jí)的人工智能，因苦痛而覺(jué)醒”。

奧特曼被罷免，是因?yàn)槎聲?huì)“擔(dān)心他對(duì)OpenAI實(shí)現(xiàn)安全和有益AI的承諾”無(wú)法兌現(xiàn)。

影視劇橋段在生成式人工智能定義的2023年，變得不突兀了。在GPT-4發(fā)布后的3月末，近千名AI界大人物簽署聯(lián)名信，呼吁所有AI實(shí)驗(yàn)室暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月。簽了名的，有大名鼎鼎的圖靈獎(jiǎng)得主Yoshua Bengio、蘋果聯(lián)合創(chuàng)始人Steve Wozniak、《人類簡(jiǎn)史》作者，以及在2018年退出OpenAI的聯(lián)合創(chuàng)始人埃隆·馬斯克。

很難說(shuō)得清這些前瞻者對(duì)人工智能的擔(dān)心是否過(guò)分。畢竟，ChatGPT為代表的大語(yǔ)言模型，用的還是過(guò)去深度網(wǎng)絡(luò)最擅長(zhǎng)的那套：在廣大無(wú)窮的數(shù)據(jù)之中尋找共性，推測(cè)概率。盡管看上去像個(gè)有知識(shí)的本科生，但它們從未真正掌握語(yǔ)言本身。

只是，半年內(nèi)，GPT-4在各項(xiàng)榜單上的一騎絕塵，讓越來(lái)越多的擔(dān)憂從四面八方涌入。最擅長(zhǎng)對(duì)外的奧特曼由此出席了各類場(chǎng)合。他像扎克伯格一樣出席美國(guó)參議院的聽(tīng)證會(huì)，接著進(jìn)行了環(huán)歐出行，與英國(guó)首相、法國(guó)總統(tǒng)等歐洲政要見(jiàn)面，共同探討AI的未來(lái)與監(jiān)管。

最近的一次，是他出現(xiàn)在亞太經(jīng)濟(jì)合作組織（APEC）峰會(huì)上，11月16日。

他還發(fā)表了講話。

所有人都以為，OpenAI會(huì)像人們所仰望的那樣，繼續(xù)無(wú)懈可擊。

但一切在11月17日開(kāi)始搖擺。由六人組成的OpenAI董事會(huì)突然宣布，對(duì)奧特曼的解雇令立即生效。那一天，奧特曼在視頻會(huì)議上得知消息。而與他共同創(chuàng)立OpenAI的另一人，被解除部分職位的總裁布洛克曼，甚至沒(méi)提前收到會(huì)議鏈接。

毫無(wú)疑問(wèn)，這次的“坍塌”發(fā)生得很突然。

《金融時(shí)報(bào)》報(bào)道稱，奧特曼被罷免，是因?yàn)槎聲?huì)“擔(dān)心他對(duì)OpenAI實(shí)現(xiàn)安全和有益AI的承諾”無(wú)法兌現(xiàn)。據(jù)知情人士透露，奧特曼近日試圖籌集1000億美元，以建立一家AI芯片公司，與英偉達(dá)競(jìng)爭(zhēng)。這樣的路徑與OpenAI“存在潛在利益沖突”。

另一個(gè)說(shuō)法是，這位四處露面宣講監(jiān)管AI的造浪者，近日加快推進(jìn)了旗下機(jī)構(gòu)的商業(yè)化進(jìn)程。11月初，他不僅推出了GPTs，還首次對(duì)外承認(rèn)，OpenAI正在研發(fā)GPT-5，且將得到更多來(lái)自最大金主—微軟的支持。

“我們將從對(duì)方的成功中賺錢，每個(gè)人都會(huì)很滿意?！彼手Z說(shuō)。

這樣的迭代步伐，引發(fā)了OpenAI六人董事會(huì)的擔(dān)憂。一位OpenAI投資者解釋，奧特曼等人試圖部署強(qiáng)AI的速度超出了預(yù)期。

“他們因（當(dāng)下）行動(dòng)太快發(fā)生爭(zhēng)執(zhí)。就是這樣?！?/p>

被認(rèn)為最可能領(lǐng)導(dǎo)“政變”的，OpenAI首席科學(xué)家伊利亞·蘇茨基弗（Ilya Sutskever），正是格外強(qiáng)調(diào)AI安全的一員。

這位俄羅斯裔技術(shù)天才，在接受《衛(wèi)報(bào)》最新采訪時(shí)，舉了更多關(guān)于AI的負(fù)面案例。

“第一代通用人工智能（AGI），將一定是巨大無(wú)比的數(shù)據(jù)中心。帶著深度網(wǎng)絡(luò)處理器并行計(jì)算，將耗費(fèi)掉數(shù)以百萬(wàn)計(jì)家庭的能源。”

那么，“人類真的會(huì)從中獲益嗎？誰(shuí)會(huì)是獲益者？誰(shuí)不在其中？”

貫穿的矛盾

伊利亞是OpenAI的靈魂人物，至少是技術(shù)上的一號(hào)人物。如果在學(xué)術(shù)頁(yè)面搜索，他是一個(gè)比奧特曼有名得多的人，師從“深度網(wǎng)絡(luò)之父”杰弗里·辛頓。2012年，伊利亞與導(dǎo)師共同發(fā)明了用于圖片識(shí)別的AlexNet。這個(gè)底層的革新，推動(dòng)了全球此后十年人臉識(shí)別應(yīng)用的高飛。

但這位主導(dǎo)OpenAI率先實(shí)現(xiàn)智能涌現(xiàn)的技術(shù)派，經(jīng)常有著哲學(xué)化的表達(dá)。他將科技進(jìn)步比作人類進(jìn)化，說(shuō)訓(xùn)練大模型就像人自然選擇的過(guò)程，我們并不掌握每一個(gè)部位如何運(yùn)行，但把握了基本原則—保留好的，去掉不利于人類的。

所以，“第一代AGI的愿景和信仰是很重要的，我們有必要非常正確地將它們編程出來(lái)，以免被只為自己利益而不顧他人的人所用?！币晾麃喺f(shuō)。

在AGI上的志同道合促使OpenAI多位創(chuàng)始人在2015年走在了一起。他們首先達(dá)成共識(shí)：為了確保AI可以造福人類，這得是非營(yíng)利實(shí)驗(yàn)室主導(dǎo)的項(xiàng)目。

他們將其命名為 “OpenAI”。這個(gè)名字是當(dāng)時(shí)的創(chuàng)始人之一馬斯克提的。如字面意思所說(shuō)，OpenAI將推崇開(kāi)放，將成果公之于眾。

這是馬斯克與谷歌聯(lián)合創(chuàng)始人拉里·佩奇（Larry Page）討論后的構(gòu)想。與后者談完后，馬斯克對(duì)谷歌等大公司對(duì)AI安全的漠視感到失望，轉(zhuǎn)而決定花100億美元投資奧特曼的項(xiàng)目。幾位創(chuàng)始人由此確認(rèn)了這個(gè)實(shí)驗(yàn)室的基本原則—對(duì)抗巨頭谷歌在AI領(lǐng)域強(qiáng)大的主導(dǎo)地位，并 “確保AI不會(huì)傷害人類”。

于是，OpenAI在成立的章程中強(qiáng)調(diào)，“要為每個(gè)人而不是股東創(chuàng)造價(jià)值”“主要信托責(zé)任是對(duì)全人類的責(zé)任”。它同時(shí)規(guī)定，員工的薪酬會(huì)與其遵守章程的程度掛鉤。在2018年4月，它在新發(fā)布的章程中寫道：如果另一個(gè)組織率先實(shí)現(xiàn)AGI這一目標(biāo)，OpenAI將停止競(jìng)爭(zhēng)步伐，與其合作。

“第一代AGI的愿景和信仰是很重要的，我們有必要非常正確地將它們編程出來(lái)，以免被只為自己利益而不顧他人的人所用?！币晾麃喺f(shuō)。

只是，誓要實(shí)現(xiàn)AGI，對(duì)當(dāng)時(shí)的初創(chuàng)團(tuán)隊(duì)而言，就像在汪洋泥沼中尋找拔出腳的正確道路，哪個(gè)方向都有可能。在2016年接受《紐約客》采訪時(shí)，OpenAI也說(shuō)不清楚自己在做什么。總裁布洛克曼給了一個(gè)模糊方向：“我們現(xiàn)在的目標(biāo)……是做最好的事情?！?/p>

至于奧特曼，在成立OpenAI幾年后，他在加州牧場(chǎng)的家告訴前來(lái)采訪的記者，自己對(duì)錢不感興趣。OpenAI將通過(guò) AGI來(lái)獲取世界上的大部分財(cái)富，再將這些財(cái)富重新分配給人們。

這個(gè)數(shù)字，“可能是1000 億美元、1 萬(wàn)億美元、100 萬(wàn)億美元……”

關(guān)鍵方向的轉(zhuǎn)變由伊利亞主導(dǎo)。

2017年，一篇由八名谷歌研究人員共同撰寫的論文發(fā)布。官方標(biāo)題是“注意力就是你需要的”（Attention is All You Need），首次提出了Transformer結(jié)構(gòu)和自注意力等革命性概念。

曾在谷歌任職的伊利亞，成為全世界少數(shù)理解這一突破有多強(qiáng)大的人。總裁布洛克曼回憶：“真正的頓悟時(shí)刻是當(dāng)伊利亞看到Transformer出來(lái)時(shí)?！監(jiān)penAI團(tuán)隊(duì)迅速投入其中，接著發(fā)現(xiàn)，“兩周內(nèi)取得的進(jìn)步比過(guò)去兩年還要多”。

這個(gè)新方向讓所有人都為之振奮。重大的轉(zhuǎn)變隨之發(fā)生，他們意識(shí)到，讓模型變得智能的關(guān)鍵，是要擴(kuò)大規(guī)模，即在龐大的數(shù)據(jù)集上訓(xùn)練模型。

OpenAI決定為此押注所用。

“你需要更像一個(gè)工程組織來(lái)運(yùn)營(yíng)它，不可能讓每個(gè)研究人員都嘗試做自己的事情，”O(jiān)penAI董事會(huì)成員，也是Quora首席執(zhí)行官Adam DAngelo總結(jié)，“團(tuán)隊(duì)必須一起做這項(xiàng)更乏味、更不優(yōu)雅的工作。這是 OpenAI能做到的事情，也是其他人無(wú)法做到的?！?/p>

橫亙OpenAI至今的矛盾在這時(shí)出現(xiàn)。提高模型規(guī)模本身，需要大量的算力和資源投入，同時(shí)意味著必須投入大量的資金。這個(gè)需求，與非營(yíng)利的設(shè)想本身，存在方向上的偏離。

最大“金主”馬斯克在此時(shí)，因路線不合選擇了退出。也因此，2019年正式擔(dān)任CEO的奧特曼，跑去微軟要了10億美元投資。

救世主來(lái)臨？

2023年11月的第三周，一場(chǎng)不被事先通知的“政變”，將OpenAI內(nèi)部的相撞立場(chǎng)公布于眾。這證實(shí)了馬斯克等人的指責(zé)并非空穴來(lái)風(fēng)，人們此刻意識(shí)到，內(nèi)部的無(wú)法統(tǒng)一，真的足以摧垮一個(gè)冉冉升起的帝國(guó)。

關(guān)于OpenAI到底該往哪走，如何去往AGI的疑問(wèn)，同時(shí)籠罩在這家新創(chuàng)公司的四周。有很多人開(kāi)始認(rèn)為，從OpenAI身上看到了熟悉的巨頭模樣—先采用虧損戰(zhàn)略占領(lǐng)大部分市場(chǎng)，再運(yùn)用贏家通吃的邏輯，獲取利潤(rùn)。

11月10日，在OpenAI召開(kāi)的首屆開(kāi)發(fā)者大會(huì)上，奧特曼宣布推出面向個(gè)人的GPTs。這是一個(gè)看上去更接近于靠近消費(fèi)者而不是技術(shù)的舉動(dòng)。奧特曼指出，每個(gè)人都能“定制化GPT”，并將它們放在GPT Store出售。

這讓許多AI創(chuàng)業(yè)者大呼，“奧特曼毀掉了我的初創(chuàng)公司”。

只是，這個(gè)站在臺(tái)前，讓眾人對(duì)AI安全盡情發(fā)難的CEO，總能用真誠(chéng)的回答化解危機(jī)。OpenAI董事會(huì)前顧問(wèn)凱利·西姆斯評(píng)價(jià)，奧特曼經(jīng)常就是辯論的雙方。言下之意，他既能理解這方，又能理解那方。

奧特曼“成功塑造了一種邪教式的、近乎救世主式的員工文化，這一點(diǎn)從他們?cè)敢馊w團(tuán)結(jié)一致辭職就能看出來(lái)”。

接觸過(guò)奧特曼的人有一致的評(píng)價(jià)：他極其擅長(zhǎng)說(shuō)服他人。2023年5月，坐在美國(guó)參議會(huì)聽(tīng)證會(huì)上，奧特曼面對(duì)美國(guó)官員，呼吁加強(qiáng)AI的監(jiān)管。這是遠(yuǎn)比面對(duì)扎克伯格時(shí)更溫和的質(zhì)詢現(xiàn)場(chǎng)，在場(chǎng)議員甚至反過(guò)來(lái)問(wèn)他，你認(rèn)為應(yīng)該怎么監(jiān)管AI？

與奧特曼共事了超10年的恩師格雷厄姆評(píng)價(jià)，他有一種天生的說(shuō)服別人的能力。在《寫給學(xué)生們的創(chuàng)業(yè)指南》中，格雷厄姆說(shuō)，2006年他第一次見(jiàn)到20歲的奧特曼時(shí)，“當(dāng)時(shí)見(jiàn)他不到三分鐘，我就在想，啊，19歲的比爾·蓋茨估計(jì)也就這樣了吧！”

就像辯論時(shí)的態(tài)度，近半年反復(fù)如政治新星出席各類場(chǎng)合的奧特曼，傾向于走中間路線。

面對(duì)政治家的提問(wèn)，他喜歡這么說(shuō)：監(jiān)管必須恰到好處。他期望看到的模式是 “介于傳統(tǒng)歐洲方式和傳統(tǒng)美國(guó)方式之間”，并同時(shí)警告，過(guò)度的規(guī)制可能會(huì)對(duì)小公司和開(kāi)源活動(dòng)造成傷害。

很難有人反駁奧特曼。

理由也非常簡(jiǎn)單，OpenAI的確在沒(méi)人嘗試過(guò)的道路上取得了意想不到的成果，這個(gè)成果比設(shè)想的快得多。硅谷科技記者都記得那種震撼感，2022年11月，ChatGPT發(fā)布之際，OpenAI只是想將其作為實(shí)驗(yàn)室的一項(xiàng)成果發(fā)布。沒(méi)人能預(yù)測(cè)到，這將成為一個(gè)活躍用戶快速破億的超級(jí)應(yīng)用。

奧特曼也表示過(guò)不解。 “如果你問(wèn)10歲的我，常常做的AI白日夢(mèng)會(huì)是什么，我相當(dāng)自信的預(yù)測(cè)是，首先我們將擁有機(jī)器人，它們將完成所有的體力勞動(dòng)。接著也許是做復(fù)雜事情的系統(tǒng)，比如證明數(shù)學(xué)定理。最終，我們才擁有能夠創(chuàng)作藝術(shù)、寫作等深具人類特點(diǎn)的AI。這是一個(gè)可怕的預(yù)測(cè)，如今，正朝著相反的方向發(fā)展?！?/p>

橫亙?cè)贠penAI創(chuàng)始之初的問(wèn)題又出現(xiàn)了。如果過(guò)快發(fā)展的大模型不可避免地讓先來(lái)者OpenAI成為巨頭，如何確保這是一個(gè)有利于人類福祉的項(xiàng)目？

奧特曼在2019年給出過(guò)答案。他創(chuàng)立了獨(dú)特的治理機(jī)構(gòu)，強(qiáng)調(diào)了OpenAI的非營(yíng)利性。在這個(gè)設(shè)置下，受微軟等資本資助的營(yíng)利主體OpenAI LP需要服從非營(yíng)利主體OpenAI Inc的六人董事會(huì)。董事會(huì)成員不持股份，有投票權(quán)，將決定OpenAI的發(fā)展方向。

他因此經(jīng)常對(duì)外自豪地指出，這樣的結(jié)構(gòu)，自己不占任何好處，OpenAI有權(quán)解雇他。

事實(shí)就是，11月17日，在伊利亞等人代表的董事會(huì)將奧特曼投票出局后，770人的公司有超過(guò)730名員工簽署了聯(lián)名信，要求奧特曼回歸。

最終，奧特曼贏得了這場(chǎng)戰(zhàn)役。

美國(guó)創(chuàng)新經(jīng)濟(jì)基金會(huì)高級(jí)經(jīng)濟(jì)學(xué)家塞繆爾·哈蒙德形容，奧特曼“成功塑造了一種邪教式的、近乎救世主式的員工文化，這一點(diǎn)從他們?cè)敢馊w團(tuán)結(jié)一致辭職就能看出來(lái)”。

還有一個(gè)更現(xiàn)實(shí)的解釋是，面臨在AI安全和AI發(fā)展中二選一的路徑選擇時(shí)，中間路線贏了。更多人愿意維持原狀，守住當(dāng)下的領(lǐng)先優(yōu)勢(shì)。這是一個(gè)更接近貪婪人性的選擇。

生存還是毀滅？

戲劇性地，在奧特曼回歸OpenAI、董事會(huì)重組后，路透社報(bào)道稱，在奧特曼被罷免的幾天前，OpenAI幾位研究人員致信董事會(huì)，警告說(shuō)他們發(fā)現(xiàn)了一種強(qiáng)大的人工智能技術(shù)，可能威脅到人類。

這是一個(gè)內(nèi)部代號(hào)為Q-Star的項(xiàng)目，也被外界認(rèn)為是GPT-5的版本。這封信寫道，Q-Star很可能實(shí)現(xiàn)了OpenAI過(guò)去長(zhǎng)期尋找的通用人工通用智能（AGI）。按照OpenAI對(duì)AGI的定義，這意味著，AI在許多方面表現(xiàn)出了超越人類的能力。

上述報(bào)道指出，正是這個(gè)新突破，成為奧特曼等人被罷免的原因之一。

關(guān)于GPT-5涌現(xiàn)的智能在硅谷圈早有傳聞。一切又變得像哲學(xué)問(wèn)題一樣，關(guān)乎人類命運(yùn)和生存的本質(zhì)。

謹(jǐn)慎的人始終像異端。早期的OpenAI是，現(xiàn)在的伊利亞也是。

而這幾個(gè)月，奧特曼對(duì)外輸出的核心，也是一個(gè)長(zhǎng)期流傳于美國(guó)科技圈的理論：技術(shù)加速主義。

這個(gè)主義被許多技術(shù)公司的CEO和商人反復(fù)引用。意思是，回顧技術(shù)發(fā)展的幾百年歷史，新技術(shù)在剛到來(lái)時(shí)都讓人類恐慌，但隨著時(shí)間的發(fā)展，任由新技術(shù)顛覆社會(huì)后，實(shí)際上加速了社會(huì)的進(jìn)步。顛覆的技術(shù)會(huì)迫使人類迅速適應(yīng)和發(fā)展，更快達(dá)到更高意識(shí)水平。

有類似觀念的奧特曼在自己的博客里寫道：很多人經(jīng)常問(wèn)他，究竟如何做到平衡外界的看法和自己想做的事情？

他的答案是，很多人面對(duì)外界，選擇只聽(tīng)重要的人的話。但還有一種與眾不同的方法，那就是拉開(kāi)時(shí)間的維度。

“這類人通常會(huì)在很長(zhǎng)的時(shí)間跨度內(nèi)關(guān)心他人的意見(jiàn)，只要放在歷史的維度上看是正確的，那么現(xiàn)在外界評(píng)價(jià)你是錯(cuò)誤的也無(wú)妨?！?/p>

他寫道：“關(guān)鍵在于，只要你是對(duì)的，那么無(wú)論在短期還是長(zhǎng)期，你都是對(duì)的?！?/p>

11月，奧特曼用行動(dòng)顯示，在追隨AGI的過(guò)程中，人們可以先等待改變發(fā)生，用更長(zhǎng)期的結(jié)果評(píng)判當(dāng)下。

他喜歡引用奧本海默的思想，認(rèn)為原子彈是科學(xué)進(jìn)步的必然結(jié)果?！凹夹g(shù)的出現(xiàn)是因?yàn)樗强赡艿??！?/p>

謹(jǐn)慎的人始終像異端。早期的OpenAI是，現(xiàn)在的伊利亞也是。

比起奧特曼頻繁為OpenAI搖旗吶喊，這位專注于技術(shù)的科學(xué)家很少對(duì)外輸出。他在今年7月成立了“超級(jí)對(duì)齊”項(xiàng)目，目標(biāo)是在OpenAI拿出20%的算力，在4年內(nèi)解決超級(jí)智能對(duì)齊的核心技術(shù)挑戰(zhàn)，以保證人類對(duì)超級(jí)智能的可控。

現(xiàn)階段，他還在頻繁表達(dá)對(duì)AI安全的擔(dān)心。

在11月的采訪中，伊利亞暗示，AGI的發(fā)展，讓人們很難把握后果，今后很可能讓人類和AI的關(guān)系，變得像動(dòng)物和人類的關(guān)系。

“這就像人們很愛(ài)動(dòng)物。但是當(dāng)我們要在兩座城市建高速公路的時(shí)候，從來(lái)不會(huì)問(wèn)動(dòng)物的意見(jiàn)。這可能會(huì)是以后我們和AI的關(guān)系?！?/p>

在發(fā)布表示對(duì)參與罷黜奧特曼“后悔”的推特之前，伊利亞還在10月發(fā)了一條推文。

他寫道：“如果你把智力看得比人類的其他品質(zhì)都更重要，那你會(huì)過(guò)得很糟糕。”