一場(chǎng)關(guān)于人工智能是否放緩的討論

人工智能研發(fā)應(yīng)該重新專注于使當(dāng)今強(qiáng)大、先進(jìn)的系統(tǒng)更加準(zhǔn)確安全、可解釋，讓我們享受一個(gè)漫長(zhǎng)的人工智能之夏，而不是毫無(wú)準(zhǔn)備地匆忙進(jìn)入秋天。

今年初，隨著春天的到來(lái)，AI領(lǐng)域也百花競(jìng)放，全球科技巨頭爭(zhēng)先恐后發(fā)布ChatGPT類相關(guān)產(chǎn)品，試圖挖掘AI的巨大價(jià)值。然而，在大模型研究熱火朝天的當(dāng)下，MIT 物理系教授馬克斯·泰格馬克、牛津大學(xué)哲學(xué)教授尼克·博斯特倫創(chuàng)辦的非營(yíng)利性組織未來(lái)生命研究所在其網(wǎng)站上貼出一封公開(kāi)信，呼吁至少暫停6個(gè)月對(duì)下一代超級(jí) AI 的研究，而圖靈獎(jiǎng)得主約書(shū)亞·本吉奧、蘋果聯(lián)合創(chuàng)始人斯蒂夫·沃茲尼亞克、Stability AI 公司CEO 埃馬德·莫斯塔克以及紐約大學(xué)心理學(xué)教授加里·馬庫(kù)斯等學(xué)術(shù)權(quán)威和業(yè)界領(lǐng)袖也紛紛簽名支持。

一封呼吁暫停的公開(kāi)信

公開(kāi)信中提到，此次暫停并不代表著總體上暫停人工智能的開(kāi)發(fā)，而是從危險(xiǎn)競(jìng)賽中后退一步。人工智能的研究和開(kāi)發(fā)應(yīng)重新聚焦于使當(dāng)今強(qiáng)大的、最先進(jìn)的系統(tǒng)變得更加準(zhǔn)確安全、穩(wěn)健一致、透明、可解釋、可信且可靠。

紐約大學(xué)教授加里·馬庫(kù)斯表示：“這封信并不完美，但精神是正確的?！彼J(rèn)為，人們需要放慢腳步，直到可以更好地理解這一切所帶來(lái)的后果。

信中詳述了具有人類水平智能的AI系統(tǒng)可能會(huì)對(duì)社會(huì)和人類帶來(lái)極大風(fēng)險(xiǎn)，稱“這一點(diǎn)已得到大量研究和頂級(jí)AI實(shí)驗(yàn)室的認(rèn)同”，并連續(xù)拋出四個(gè)疑問(wèn)：

我們是否應(yīng)該讓機(jī)器用宣傳和謊言淹沒(méi)我們的信息渠道？

我們是否應(yīng)該讓所有的工作自動(dòng)化，包括那些令人滿意的工作？

我們是否應(yīng)該發(fā)展最終可能在數(shù)量上超過(guò)我們、在智能上超越我們、能夠淘汰并取代我們的非人類思維？

我們應(yīng)該冒著失去對(duì)我們文明控制的風(fēng)險(xiǎn)嗎？

公開(kāi)信指出，如相關(guān)機(jī)構(gòu)不能迅速實(shí)施此類暫停，政府應(yīng)當(dāng)介入并采取措施。此外，“AI實(shí)驗(yàn)室和獨(dú)立專家應(yīng)利用此次暫停，共同開(kāi)發(fā)和實(shí)施一套用于高級(jí)AI設(shè)計(jì)和開(kāi)發(fā)的共享安全協(xié)議，并由獨(dú)立的外部專家進(jìn)行嚴(yán)格審計(jì)和監(jiān)督”。

信中還呼吁開(kāi)發(fā)人員和政策制定者合作，加快強(qiáng)大的AI治理系統(tǒng)的開(kāi)發(fā)，并表示應(yīng)當(dāng)設(shè)立監(jiān)管機(jī)構(gòu)、審計(jì)系統(tǒng)，監(jiān)督和追蹤高性能AI系統(tǒng)造成傷害后的責(zé)任問(wèn)題，為AI技術(shù)安全研究提供公共資金等。

公開(kāi)信最后表示：如今，我們的社會(huì)已經(jīng)暫停其他可能造成災(zāi)難性后果的技術(shù)，對(duì)于人工智能也應(yīng)當(dāng)如此，“讓我們享受一個(gè)漫長(zhǎng)的‘AI之夏’，而非毫無(wú)準(zhǔn)備地進(jìn)入秋天”。

3月30日，Open AI聯(lián)合創(chuàng)始人兼首席執(zhí)行官山姆·阿特曼發(fā)布“展望未來(lái)AGI”的短博文，疑似回應(yīng)這場(chǎng)風(fēng)波。他表示：“一個(gè)好的 AGI 應(yīng)該具備以下三個(gè)特點(diǎn)：1.對(duì)齊超級(jí)智能的技術(shù)能力；2.大多數(shù)領(lǐng)先 AGI 之間的充分協(xié)調(diào)；3.一個(gè)有效的全球監(jiān)管框架?！?/p>

吳恩達(dá)與楊立昆線上討論

一個(gè)高貴的童話故事

許多業(yè)內(nèi)人士同意，像ChatGPT這樣強(qiáng)大的人工智能可能會(huì)對(duì)社會(huì)造成一些傷害，但六個(gè)月的暫停開(kāi)發(fā)聽(tīng)起來(lái)更像是一個(gè)高貴的童話故事，沒(méi)有什么現(xiàn)實(shí)基礎(chǔ)。

從去年11月允許公眾測(cè)試Open AI的GPT-3的那一刻起，生成性人工智能的發(fā)展就像列車駛過(guò)，未曾放慢速度。而發(fā)布ChatGPT還像是打開(kāi)了一個(gè)潘多拉的盒子。

隨著時(shí)間發(fā)展與GPT模型的換代升級(jí)，人們愈發(fā)習(xí)慣于向ChatGPT、谷歌的Bard和微軟New Bing詢問(wèn)所有問(wèn)題，需求的純粹力量迫使科技巨頭們展開(kāi)競(jìng)賽，爭(zhēng)取這個(gè)極具潛力的市場(chǎng)的主導(dǎo)權(quán)。

而市場(chǎng)力量則意味著，即使像Open AI這樣的公司想要阻止人工智能發(fā)展的步伐，也將會(huì)無(wú)能為力。

風(fēng)險(xiǎn)投資公司Sapphire Ventures的總裁和聯(lián)合創(chuàng)始人賈伊·達(dá)斯說(shuō)：“沒(méi)有誰(shuí)有動(dòng)力去做暫停，因?yàn)樵谝粋€(gè)自由市場(chǎng)社會(huì)中，每個(gè)人都在跑去搶奪更多的市場(chǎng)份額。神奇的力量已經(jīng)被釋放，人們沒(méi)有辦法放慢它的速度?！?/p>

達(dá)斯表示，沒(méi)有人可以阻止公司秘密研究大型語(yǔ)言模型或與大科技公司合作進(jìn)行人工智能的研發(fā)。沒(méi)有任何實(shí)體可以在這六個(gè)月中訪問(wèn)每一個(gè)開(kāi)發(fā)人員，看他們是否在從事與此相關(guān)的程序工作。因此，暫停方案的執(zhí)行落地也將非常困難。

一場(chǎng)嶄新的啟蒙運(yùn)動(dòng)

4月8日，圖靈獎(jiǎng)得主楊立昆和機(jī)器學(xué)習(xí)領(lǐng)域權(quán)威學(xué)者吳恩達(dá)針對(duì)AI暫停公開(kāi)信進(jìn)行了深入討論，兩人立場(chǎng)鮮明，明確表態(tài)反對(duì)暫停AI研發(fā)。就像汽車剛發(fā)明時(shí)沒(méi)有安全帶和交通信號(hào)燈，楊立昆認(rèn)為，人工智能與先前的技術(shù)進(jìn)步之間沒(méi)有本質(zhì)上的差別。

楊立昆總結(jié)道，當(dāng)下人們對(duì)AI的擔(dān)憂和恐懼可以分為兩類：第一類是“AI末日論”，即未來(lái)的AI將不受控制、逃離實(shí)驗(yàn)室，甚至成為人類的終結(jié)者；而第二類則更為現(xiàn)實(shí)，即當(dāng)下AI所具有的偏見(jiàn)、公平性和權(quán)力集中等問(wèn)題。

對(duì)于第一類擔(dān)憂，他和吳恩達(dá)都一致認(rèn)為，現(xiàn)有AI完全達(dá)不到此種水平，所謂的未來(lái)依舊遙不可及。

兩人同時(shí)贊成，雖然近年來(lái)AI 取得了巨大進(jìn)步，但現(xiàn)在的模型離完美還相差甚遠(yuǎn)。ChatGPT讓人們玩得不亦樂(lè)乎，而這造成了一種錯(cuò)覺(jué)，讓人們以為具有人類智能的AI已經(jīng)不再臨近，但事實(shí)上，這些系統(tǒng)完全通過(guò)文本訓(xùn)練，沒(méi)有任何真實(shí)的經(jīng)驗(yàn)，對(duì)現(xiàn)實(shí)的理解十分膚淺。即使是GPT-4 也很少利用圖像訓(xùn)練，而這導(dǎo)致它們有時(shí)會(huì)一本正經(jīng)地胡說(shuō)八道。

楊立昆表示，在未來(lái)的幾十年間，擁有人類智能或超越人類智能的系統(tǒng)將會(huì)出現(xiàn)，但這絕不會(huì)馬上實(shí)現(xiàn)。因此，必須先設(shè)計(jì)出有機(jī)會(huì)達(dá)到人類智能的AI，再來(lái)討論如何保證它們的安全，否則討論將為時(shí)過(guò)早。他舉例道，如果汽車都不存在，如何設(shè)計(jì)安全帶？如果都沒(méi)有發(fā)明飛機(jī)，怎么設(shè)計(jì)安全的噴氣式引擎？

馬斯克參與電視采訪

同時(shí)，楊立昆表示，人們確實(shí)需要應(yīng)對(duì) AI 的潛在危害，比如讓 AI 系統(tǒng)可控，提供更真實(shí)、無(wú)害的信息。但是，未來(lái)的AI系統(tǒng)不會(huì)依照與當(dāng)前的自回歸 LLM（如GPT-4）或其他系統(tǒng)（如 Galactica 或 Bard等）相同的藍(lán)圖設(shè)計(jì)。研究人員會(huì)產(chǎn)生一些新的想法，使系統(tǒng)更加可控。因此，問(wèn)題就變成了如何使系統(tǒng)遵循與人類價(jià)值觀、政策一致的目標(biāo)。他認(rèn)為，人類擁有足夠的智慧設(shè)計(jì)超級(jí)智能系統(tǒng)，卻沒(méi)有足夠智慧設(shè)計(jì)好的目標(biāo)的概率很低。他問(wèn)道，目前的AI產(chǎn)品由少數(shù)公司生產(chǎn)，這些公司將會(huì)獲得怎樣的權(quán)力和影響力？會(huì)對(duì)經(jīng)濟(jì)產(chǎn)生怎樣的影響？是否存在內(nèi)在的風(fēng)險(xiǎn)？而這些問(wèn)題也指向了他的結(jié)論，即可以有適當(dāng)?shù)漠a(chǎn)品監(jiān)管，但不應(yīng)停止研發(fā)。

他重申，當(dāng)一項(xiàng)新技術(shù)投入使用時(shí)，我們需要做的是確保積極的影響最大化，消極的影響最小化，但這并不代表要阻止它。阻止一種可以增強(qiáng)人類智能的系統(tǒng)，實(shí)際上是在阻礙人類進(jìn)步。人工智能將放大人類智能，這將會(huì)是新的“文藝復(fù)興”，一種新的啟蒙運(yùn)動(dòng)，為何要阻止它？

吳恩達(dá)也表示，人們不應(yīng)因噎廢食。即使人工智能系統(tǒng)確實(shí)有著為人們帶來(lái)?yè)p害的風(fēng)險(xiǎn)，然而，AI 也會(huì)創(chuàng)造巨大的價(jià)值。在過(guò)去幾年，大量的人工智能創(chuàng)意被用于教育、醫(yī)療等行業(yè)。即使如今有 GPT-4如此優(yōu)越的模型，但構(gòu)建一個(gè)更好的模型還是會(huì)幫助這些應(yīng)用更好地助人，而中止這樣的進(jìn)步顯然不利于創(chuàng)造這些對(duì)人類大有助益的工具。

一個(gè)“心系宇宙”的新模型

雖然馬斯克在公開(kāi)信上簽署了自己的名字，然而，4月17日，他在接受采訪時(shí)宣布，他將推出一個(gè)名為TruthGPT的類ChatGPT應(yīng)用。因?yàn)橄噍^于OpenAI的ChatGPT和谷歌的Bard，他想要進(jìn)一步放寬聊天機(jī)器人的文本限制，尤其減少對(duì)內(nèi)容、爭(zhēng)議話題的限制。目前，TruthGPT已上線投入使用。

馬斯克表示，TruthGPT 將是一個(gè) “最大限度地尋求真相，并試圖理解宇宙本質(zhì)的人工智能”，在他眼中，“這可能是人工智能往更安全方向發(fā)展的最佳途徑，因?yàn)橐粋€(gè)心系宇宙的人工智能不太可能消滅人類，而這則是因?yàn)槿祟愂怯钪嬷幸粋€(gè)有趣的部分”。

同時(shí)，馬斯克在采訪中表示:“人工智能比管理不善的飛機(jī)設(shè)計(jì)、生產(chǎn)或維護(hù)，以及糟糕的汽車生產(chǎn)更危險(xiǎn)，因?yàn)樗锌赡堋獰o(wú)論人們?nèi)绾慰创@種概率，但它并非微不足道——造成文明的毀滅?！?/p>

除開(kāi)發(fā)TruthGPT與Open AI、微軟、谷歌正面交鋒外，馬斯克還建立了自己的人工智能公司，馬不停蹄地加入了這場(chǎng)人工智能的“軍備競(jìng)賽”。

目前，馬斯克在內(nèi)華達(dá)州注冊(cè)了一家名為X.AI的新 AI 公司，并擔(dān)任唯一董事。據(jù)知情人士透露，新 AI 公司與他的其他公司并不相關(guān)，但這家公司可以使用推特的內(nèi)容來(lái)訓(xùn)練其語(yǔ)言模型，也可以利用特斯拉的計(jì)算資源。

除了創(chuàng)建公司，馬斯克還購(gòu)置了訓(xùn)練大模型必備的高性能芯片—— 1 萬(wàn)張英偉達(dá)A100 GPU芯片。據(jù)悉，Open AI 就是使用英偉達(dá)的 A100 GPU芯片來(lái)訓(xùn)練ChatGPT，并支撐其后續(xù)運(yùn)行和推理。

而在人員方面，馬斯克正組建一個(gè)由 AI 研究人員和工程師組成的團(tuán)隊(duì)，他從谷歌的 AI 部門 DeepMind 挖掘大模型專家。至少?gòu)慕衲?2 月開(kāi)始，他一直在積極物色 AI 領(lǐng)域人才，希望與 Open AI、谷歌等公司展開(kāi)競(jìng)爭(zhēng)。