人工智能究竟是天使還是魔鬼？

今年3月上旬，谷歌AlphaGo挑戰(zhàn)世界冠軍李世石，可謂萬眾矚目。AlphaGo在五局“人機(jī)對戰(zhàn)”中以4：1戰(zhàn)勝李世石，不僅標(biāo)志著計(jì)算機(jī)的能力攀上的一個新高度，而且，它的勝利更是在提醒世人，人類世界正在快速攻克人工智能及其實(shí)際部署所面臨的障礙。從歷史上看，在人工智能發(fā)展快速的時期往往會出現(xiàn)大量樂觀觀點(diǎn)，但最近這一次人工智能熱潮中，人工智能威脅論依舊備受關(guān)注。

關(guān)于人工智能的定義，目前尚無確切的定義。美國斯坦福大學(xué)人工智能研究中心尼爾遜教授提出“人工智能是關(guān)于知識的學(xué)科——怎樣表示知識以及怎樣獲得知識并使用知識的科學(xué)?！保绹槭±砉W(xué)院的溫斯頓教授則認(rèn)為：“人工智能就是研究如何使計(jì)算機(jī)去做過去只有人才能做的智能工作。”一些業(yè)界人士則根據(jù)人工智能的發(fā)展程度將其分為三類：

（1）弱人工智能Artificial Narrow Intelligence（ANI）：弱人工智能是擅長于單個方面的人工智能。比如有能戰(zhàn)勝象棋世界冠軍的人工智能，但是它只會下象棋。（2）強(qiáng)人工智能Artificial General Intelligence（AGI）：人類級別的人工智能。強(qiáng)人工智能是指在各方面都能和人類比肩的人工智能，人類能干的腦力活它都能干。（3）超人工智能Artificial Super Intelligence（ASI）：牛津哲學(xué)家，知名人工智能思想家NickBostrom把超級智能定義為“在幾乎所有領(lǐng)域都比最聰明的人類大腦都聰明很多，包括科學(xué)創(chuàng)新、通識和社交技能?！背斯ぶ悄苷侨斯ぶ悄茉掝}這么火熱的緣故，同樣也是永生和滅絕這兩個詞會在本文中多次出現(xiàn)的原因。

現(xiàn)在，人類已經(jīng)掌握了弱人工智能。人工智能革命是從弱人工智能到強(qiáng)人工智能，最終到達(dá)超人工智能的旅途。在人工智能的這段旅途中，人類的命運(yùn)終將如何，不同人士的觀點(diǎn)截然不同。

人工智能威脅論的支持者認(rèn)為，人工智能可能發(fā)展出自己的思想，進(jìn)而引發(fā)人類的“身份危機(jī)”。近來兩位頂尖科學(xué)家發(fā)出類似警告。一位是理論物理學(xué)家斯蒂芬·霍金，他認(rèn)為當(dāng)人工智能發(fā)展完全，就是人類的末日；另一位是特斯拉的CEO馬斯克，他曾公開表示：“我們要十分小心人工智能，它可能比核武器更危險(xiǎn)。”在馬斯克看來，人工智能對人類社會的威脅有短期和長期二種：“短期而言，人工智能可能導(dǎo)致數(shù)以百萬計(jì)的人失業(yè)；長期而言，可能出現(xiàn)一些科幻電影中的情況，人工智能的智力水平超過人類，開始‘政變。按人工智能的發(fā)展進(jìn)度，在不久的將來，機(jī)器可能以不斷加快的速度重新設(shè)計(jì)自己，超越受制于生物進(jìn)化速度的人類，最終擺脫人類的控制?！?/p>

但也有不少科學(xué)家認(rèn)為，霍金和馬斯克對于人工智能的未來過于悲觀。在他們看來，至少在相當(dāng)長的時間里，人類還難以完全掌控這類技術(shù)的發(fā)展，而要讓人工智能技術(shù)得到“充分發(fā)展”，還有很長的路要走。百度首席科學(xué)家，斯坦福大學(xué)人工智能專家吳恩達(dá)表示：“擔(dān)心人工智能過于強(qiáng)大就好像擔(dān)心人類會在火星過度殖民導(dǎo)致火星人口爆炸一樣。我很希望數(shù)百年后我們能在火星生活，但目前甚至都還沒有人類登上過火星，我們?yōu)楹我獡?dān)心在火星過度殖民的問題呢？”

應(yīng)該說在認(rèn)同和反對人工智能威脅論的兩個陣營里都有重量級的人物。但有趣的是，認(rèn)同人工智能威脅論的大部分是企業(yè)家或者是非人工智能領(lǐng)域科學(xué)家，反對人工智能威脅論的多是人工智能和計(jì)算機(jī)領(lǐng)域的科學(xué)家，為什么出現(xiàn)這種情況，值得我們關(guān)注和思考。以下文章，對這兩大陣營代表人物的觀點(diǎn)進(jìn)行了梳理，雖然人們不一定非要相信未來將遭受人工智能的威脅，然而政府和整個社會還是理應(yīng)認(rèn)真對待這些發(fā)展的潛在影響，人類對這些發(fā)展理當(dāng)給予應(yīng)有的謙卑和審慎。

“硅谷老炮”約翰·馬爾科夫：科技會創(chuàng)造出新的工作

我在《與機(jī)器人共舞》一書中之所以分別提到人工智能（AI，ArtificialIntelligence）和智能增強(qiáng)（IA，Intelligence Augmentation）兩種不同的技術(shù)社群，是因?yàn)樗鼈兊难芯空吆驮O(shè)計(jì)者所聚焦的方向不同。AI社群長期以來都致力于建造能夠模仿人類能力的技術(shù)，從機(jī)器人到擁有認(rèn)知和推理功能的智能技術(shù)（我把機(jī)器人看做人工智能的子集），這些都是人類可以做的事。而IA則聚焦于用計(jì)算機(jī)來擴(kuò)增人類的智力。

AI和IA的區(qū)別并不是非黑即白的。AI和IA社群的研究者有著各自的哲學(xué)取向。AI研究者有自己的觀點(diǎn)。而IA，也就是HCI（人機(jī)交互，Human Computer Interaction）社群則一直想用計(jì)算工具來提升人機(jī)協(xié)作。除了我，還有很多計(jì)算機(jī)科學(xué)家都曾對這種二分法寫過文章。但這里存在一些悖論，因?yàn)楫?dāng)你增強(qiáng)了人類的能力，你就不再需要那么多人，因?yàn)槿说哪芰Ρ纫郧案鼜?qiáng)。這就是我在《與機(jī)器人共舞》一書中試圖解答和理解的謎題。

Siri就是一個IA的好模型，它的目的是用AI技術(shù)來提升人類的能力，并成為人類的好伙伴。因此AI和IA并不是非黑即白的。再比如無人駕駛汽車，如果人類真的造出了能完全自動駕駛的汽車，那我們就不再需要這么多車，也不需要那么多停車場，我們甚至可以重新規(guī)劃城市的布局。與此同時，成千上萬的工作會消失。

那么，是否意味著我們的工作機(jī)會遭受人工智能的威脅？在美國的白領(lǐng)工作中，許多技術(shù)類工作已經(jīng)有很多任務(wù)自動化的案例，例如醫(yī)生、律師、程序員、記者等等，最近還出現(xiàn)了會寫故事的機(jī)器人。可是，機(jī)器能做采訪嗎？或許有一天能，但目前還不能，在短期內(nèi)也不可能實(shí)現(xiàn)。所以，我再次強(qiáng)調(diào)，它只是將任務(wù)的一部分自動化了，而不是整個完整的任務(wù)。

所以，記者和律師這樣的工作在短期內(nèi)還不會被機(jī)器人和AI所取代。AI技術(shù)會改變勞動力市場的面貌，同時它也會創(chuàng)造出新的工作。舉一個經(jīng)典的例子，誰會想到現(xiàn)在會出現(xiàn)一種叫做“搜索引擎優(yōu)化”的工作呢？這種工作是隨著搜索引擎的出現(xiàn)才出現(xiàn)的。這些人的工作內(nèi)容就是負(fù)責(zé)讓自己的網(wǎng)站在搜索引擎中的排名更加靠前，這樣人們才更容易找到它們。這個工作非常重要。有成千上萬的人都在干這個工作。這就是與IA有關(guān)的一個新的工種——Google正是一種IA工具。因此，科技會創(chuàng)造出新的工作。[約翰·馬爾科夫系《紐約時報(bào)》高級科技記者，普利策獎得主，他對互聯(lián)網(wǎng)發(fā)展有著驚人的洞察力與敏銳度。本文選自機(jī)器之心對約翰·馬爾科夫的采訪。]

“互聯(lián)網(wǎng)預(yù)言帝”凱文·凱利：人工智能的潛力無限

現(xiàn)在大家經(jīng)常談到的熱門詞是深度學(xué)習(xí)，也就是說把人工智能和神經(jīng)節(jié)點(diǎn)這個理論結(jié)合在一起，也就是說計(jì)算芯片的能力會得到成倍的提升。比如說IBM就利用人工智能打敗了一個象棋大師，當(dāng)時誰都沒想到人工智能會這么強(qiáng)?，F(xiàn)在我們又把它培養(yǎng)成了醫(yī)生，它可以在醫(yī)學(xué)院里做教學(xué)，可以去做診斷，根據(jù)病人的各種體征做出判斷，而且它的判斷比一般的醫(yī)生都要精確，當(dāng)然還比不上最優(yōu)秀的醫(yī)生了，但是跟一般醫(yī)生來比它們遠(yuǎn)遠(yuǎn)勝出。我曾做過測試，告訴它我有哪些癥狀，它可以比較準(zhǔn)確地判斷出我患有什么疾病。雖然比不上最優(yōu)秀的醫(yī)生，但是在非洲起到了很大的作用，因?yàn)樵诜侵掎t(yī)生非常缺乏，通過人工智能就可以很好地解決當(dāng)?shù)氐尼t(yī)療病患問題。

200年前電問世，很多企業(yè)通過電力實(shí)現(xiàn)了自動化，在這種情況下電是一種服務(wù)，而不是一種設(shè)施。人工智能同樣可以作為一種服務(wù)，你不用自己編寫人工智能，你可以通過百度、谷歌購買人工智能，然后把它用于各種全新的用途，是以前你難以想象的，使得你的工作更加具有智能化，最后會結(jié)出非常令人難以置信的成果。因此，人工智能會成為一種服務(wù)，你不需要去擁有人工智能，你只用在需要的時候去購買就行了。

使用人工智能的人越多它的智能程度就越高，因?yàn)樗亲詣訉W(xué)習(xí)的，通過人們的使用它也在不斷地學(xué)習(xí)，人工智能程度越高用戶就越多，它也會更加智能化，這是一個良性循環(huán)，所以最后實(shí)現(xiàn)一個封閉的良性循環(huán)，使得人工智能快速增長和成熟，未來就會有非常大型化的人工智能公司，人們會直接向他購買服務(wù)，你不需要自己去編寫人工智能，都有現(xiàn)成的產(chǎn)品和服務(wù)供你購買。

而人工智能對于云環(huán)境來說至關(guān)重要，剛才說了我們會產(chǎn)生那么多的數(shù)據(jù)，我們要對數(shù)據(jù)進(jìn)行量化處理，要想把這些數(shù)據(jù)利用起來，發(fā)揮它們的價(jià)值，就需要使用人工智能，讓我們了解數(shù)據(jù)背后所隱含的意思。所以，人工智能會使得我們把數(shù)據(jù)轉(zhuǎn)化為實(shí)用的工具。因此，我們必須要更多地使用人工智能把這些龐大的數(shù)據(jù)儲備利用起來。我的預(yù)測是，未來20年的1萬家初創(chuàng)企業(yè)是要選擇一個行業(yè)的切入口，然后把這個行業(yè)跟人工智能結(jié)合在一起，我覺得可能性是無限的。100年前我們選擇一個行業(yè)，把電力跟它結(jié)合在一起，現(xiàn)在我們是把人工智能和我們選擇的這個行業(yè)結(jié)合在一起，你可以去想象，把人工智能使用到一個行業(yè)里，24小時進(jìn)行監(jiān)控、進(jìn)行分析，潛力是無限的。

未來是令人難以置信的，因?yàn)樽顐ゴ蟮?0年后的產(chǎn)品還沒有被設(shè)計(jì)出來，還沒有問世。如果我要談20年之后最偉大的創(chuàng)意或者是發(fā)明的話，我剛才談到的所有這些可能都不會有資格出現(xiàn)在那個單子上。因?yàn)槲覀儸F(xiàn)在只處于這個變革趨勢的第一天，最初始階段，這意味著你們還為時不晚，一切都來得及。[凱文·凱利，美國《連線》雜志創(chuàng)始主編、《失控》作者。本文選摘自凱文·凱利2015年產(chǎn)業(yè)中國年會上《未來20年科技的必然走向》的主題演講]

雷軍：我對人工智能充滿期待

作為圍棋愛好者和計(jì)算機(jī)工作者，我堅(jiān)信電腦勝出是時間問題，但是我真的沒想到第一局電腦就贏了。AlphaGo和李世石的這場對弈本身的歷史意義是超越勝負(fù)的。從19年前IBM的“深藍(lán)”電腦在國際象棋比賽上戰(zhàn)勝世界大師卡斯帕羅夫以來，計(jì)算機(jī)科學(xué)與技術(shù)作為人類智慧的結(jié)晶，所表現(xiàn)出來的強(qiáng)大計(jì)算能力和驚人的成長潛力，都令人嘆為觀止。據(jù)說AlphaGo擁有的最了不起的人工智能能力是自我學(xué)習(xí)的能力。今天有好幾次非常規(guī)落子，都讓許多專業(yè)棋手表示“看不懂”。Google的工程師也表示，AlphaGo早就不依賴棋譜來決策落子的選擇。能夠讓機(jī)器開始有自我學(xué)習(xí)的能力，這是非常了不起的事情。

更重要的一點(diǎn)是，李世石作為人類圍棋領(lǐng)域的頂級代表，多少年才能培養(yǎng)一個？全世界能有幾個？然而我們復(fù)制一百萬個、一千萬個AlphaGo的難度又有多大呢？一個人的智力和技巧的提升，無論他多么出類拔萃，對于其他人的影響終究有限。而一臺機(jī)器的智能水平能走到哪里，其它機(jī)器就都能走到哪里。從這一點(diǎn)上看，我對未來人工智能的發(fā)展充滿了期待。

這幾十年來，計(jì)算機(jī)產(chǎn)業(yè)帶動的社會變革是日新月異，我們每個人都切實(shí)感受到了智能設(shè)備對我們生活帶來的翻天覆地的變化。我們每一個人都可以輕松地通過智能設(shè)備極大地提高和擴(kuò)展我們個人的能力。想想看，搜索引擎，GPS和電子地圖等技術(shù)，多大程度上改變了你現(xiàn)在每天都在經(jīng)歷的生活？

人工智能、智能算法、智能設(shè)備……本質(zhì)上，是我們希望用科學(xué)技術(shù)的可復(fù)制性，來實(shí)現(xiàn)為我們每個人服務(wù)的期待。得益于科學(xué)技術(shù)的進(jìn)步，今天我們一個普通人的生活水準(zhǔn)，恐怕都比幾百年前的皇帝好太多了。[本文選摘自小米科技創(chuàng)始人雷軍微信公眾號]

李開復(fù)：人工智能可能令人類醉生夢死

基于深度學(xué)習(xí)的人工智能將帶來什么改變呢？我們將看到無數(shù)的商機(jī)和產(chǎn)品，能夠解決問題、拯救生命、產(chǎn)生巨大的商業(yè)和用戶價(jià)值。這些技術(shù)可能輔助專家，也可能取代專家。非專家的工作者很多將會面臨失業(yè)。未來十年，大部分今天的人類工作可被機(jī)器取代。機(jī)器將取代許多的護(hù)士、記者、會計(jì)、教師、理財(cái)師的工作。任何帶有“助理”、“代理”或“經(jīng)紀(jì)”等字樣的職位都很可能被取代。這些機(jī)器不需要工資，只需要供電和網(wǎng)，就會一年365天，一天24小時“上班”。這些機(jī)器將幫助我們創(chuàng)造世界上的大部分財(cái)富。

雖然這些機(jī)器確實(shí)很“聰明”，而且又高效、勤奮、低廉，但是他們并不“人性化”，只是冷冰冰的機(jī)器和工具。比如說，AlphaGo第一場就戰(zhàn)勝了李世石，但是它不會感覺高興，也不會理解我們對于它的討論。甚至，它說不上這局棋是怎么贏的。因?yàn)?，它的思考雖然周密，但是它不懂“贏了有什么感受？”，也不懂“為什么圍棋好玩”，更不懂“人為什么要下棋？”，甚至連“你今天怎么贏的？”都說不上。今天的機(jī)器完全無法理解人的情感、喜怒哀樂、七情六欲、信任尊重、價(jià)值觀等方面。對于人文藝術(shù)、美和愛、幽默感，機(jī)器更是絲毫不懂。有位AI研究員做了一套研究幽默感的系統(tǒng)，然后輸入了一篇文章，這個系統(tǒng)看了每句話，都說“哈哈”！今天的機(jī)器連個兩歲小孩都不如。對人工智能的研究者，這應(yīng)該是一大未來的挑戰(zhàn)。

所以，今天這些機(jī)器僅僅是我們的工具。至少今天，我們不必?fù)?dān)心人工智奴役我們（不過要盯好擁有機(jī)器學(xué)習(xí)+大數(shù)據(jù)的公司，別來作惡傷害用戶）。那我們該擔(dān)心什么呢？這些強(qiáng)大的機(jī)器，將帶來人類有史以來最大的“下崗潮”。這次的“機(jī)器取代人類”將遠(yuǎn)超過去的工業(yè)革命和信息革命。不過，“下崗”還不是最可怕的，因?yàn)檫@些機(jī)器會產(chǎn)生巨大的商業(yè)價(jià)值，養(yǎng)活著這些下崗者，進(jìn)而養(yǎng)活著人類。人類最應(yīng)該擔(dān)心的是一旦當(dāng)機(jī)器供養(yǎng)著人類，人類達(dá)到了馬斯洛需求的基本需求，人類真的還會有動力去追求更宏偉的目標(biāo)，自我實(shí)現(xiàn)嗎？還是會醉生夢死、無所事事地活著？

面對這個擔(dān)心，我們應(yīng)該：

①關(guān)注啟發(fā)式教育，用互動式教育啟發(fā)孩子對學(xué)習(xí)的興趣和效率。AlphaGo愿意跟人類學(xué)習(xí)，我們當(dāng)然也要善用最善于分析，最博學(xué)的機(jī)器。善于學(xué)習(xí)，樂于學(xué)習(xí)的孩子，是不會醉生夢死的。

②正視發(fā)育右腦的學(xué)科領(lǐng)域，平衡文理。塞翁失馬，焉知非福？機(jī)器超越人類的左腦（工程邏輯思維），也許就是要人類從過去幾十年重視理工，傾斜回來，花更多的精力在機(jī)器不擅長的右腦，例如：文學(xué)詩歌、藝術(shù)音樂、電影話劇、文創(chuàng)設(shè)計(jì)、工匠之美、宗教哲學(xué)、溝通情商。這不是說就不要學(xué)理工了，而是說應(yīng)該讓適合理工，愛好理工的人學(xué)理工，適合人文，愛好人文的人學(xué)人文。我們應(yīng)該平等看待文理，并且鼓勵發(fā)展文理雙全的人才。

③鼓勵有上進(jìn)心的年輕人挑戰(zhàn)自己，孜孜以求，成為專才。不要把時間浪費(fèi)在“安穩(wěn)”但是重復(fù)性的工作上，而要以“成為某個特殊又有用領(lǐng)域的最頂尖人才”為目標(biāo)，為己任。[本文選摘自新浪體育李開復(fù)署名文章《人工智能對人類社會的威脅在于人類自身》]

雹金：人工智能可能是人類犯下的最大錯誤

好萊塢大片《超驗(yàn)駭客》正在上映，約翰尼·德普和摩根·弗里曼在片中展示了對人類未來相互沖突的看法。人們大多會把高度智能機(jī)器概念當(dāng)成純粹的科幻，但這是錯誤的，有可能是歷史上最嚴(yán)重的錯誤。

人工智能（AI）研究現(xiàn)正迅速發(fā)展。近來的里程碑（如無人駕駛汽車、計(jì)算機(jī)在《危險(xiǎn)邊緣》智力競賽節(jié)目中獲勝、數(shù)字私人助手Siri、Google Now和語音助手Cortana等）不過是史無前例的投資激發(fā)信息技術(shù)軍備競賽的征兆。與今后幾十年會出現(xiàn)的事物相比，這些成就大概微不足道。

潛在的好處很多。文明所能提供的一切都是人類智慧的產(chǎn)物，人類無法預(yù)言當(dāng)這種智慧被AI能提供的工具放大時人類能實(shí)現(xiàn)什么，但消除戰(zhàn)爭、疾病和貧困將是所有人都最盼望的。成功創(chuàng)造AI將是人類歷史上最重大的事件。

遺憾的是，如果人類不學(xué)會避開風(fēng)險(xiǎn)，那它也可能是最后的事件。在近期，世界各國軍隊(duì)都在考慮能選擇和消滅目標(biāo)的自主武器系統(tǒng)；在中期，正如埃里克·布林約爾松和安德魯·麥卡菲在《第二次機(jī)器時代》一書中所強(qiáng)調(diào)的，AI也許會改變?nèi)祟惖慕?jīng)濟(jì)，既帶來巨大財(cái)富，也帶來巨大混亂。

再往前看，能實(shí)現(xiàn)的東西沒有根本性極限：沒有物理定律阻止粒子以某種方式組織起來，從而能比人腦中的粒子組合完成更高級的計(jì)算。爆炸性轉(zhuǎn)變是可能發(fā)生的，但其過程也許會不同于電影情節(jié)：正如歐文·古德在1965年認(rèn)識到的，具有超越人類智能的機(jī)器會不斷進(jìn)一步改善自身設(shè)計(jì)，引發(fā)韋爾諾·溫格所稱的“奇點(diǎn)”和約翰尼·德普在影片中扮演的人物所稱的“超驗(yàn)”。

人們可以想像這種技術(shù)智勝金融市場，發(fā)明能力超過人類研究者，操控能力超過人類領(lǐng)袖，開發(fā)出我們根本弄不懂的武器。雖然AI在短期內(nèi)的影響取決于誰來控制，但長期影響取決于它還能否受到控制。

因此，面對收益和風(fēng)險(xiǎn)都不可估量的未來，專家們肯定在想盡一切辦法確保最佳結(jié)局，對嗎？錯了。就AI而言，雖然人類將遭遇歷史上有可能最好也可能最壞的事情，但除了劍橋大學(xué)生存風(fēng)險(xiǎn)研究中心、人類未來研究所、機(jī)器智能研究所和未來生活研究所等非營利性研究機(jī)構(gòu)以外，沒什么人對這些問題進(jìn)行認(rèn)真研究。所有人都應(yīng)當(dāng)問問自己現(xiàn)在能做些什么來提高獲得收益而避開風(fēng)險(xiǎn)的可能性。[本文摘自劍橋大學(xué)教授斯蒂芬·霍金、加利福尼亞大學(xué)伯克利分校教授斯圖爾特·拉塞爾等人在英國《獨(dú)立報(bào)》上發(fā)表的文章]

埃隆·馬斯克：人工智能的安全問題令我心神不寧

眾所周知，有段時間我一直對人工智能心存擔(dān)憂。我找Sam、Reid（Linkedln創(chuàng)始人Hoffman Reid）、Peter Thiel（PayPal聯(lián)合創(chuàng)始人）還有其他一些人談了很多次，當(dāng)時就在想：“有沒有某種方式能夠確保，或者是增加人工智能往有利的方向發(fā)展的可能性呢？”反復(fù)探討之后我們得出結(jié)論，創(chuàng)辦一個符合美國稅法501c3條款的、非盈利的、沒有義務(wù)追求利潤最大化的公司，應(yīng)該是個不錯的辦法。當(dāng)然，我們也會非常注意安全問題。

然后就有了一個重要的哲學(xué)性問題：我們希望人工智能普及開來。有兩個意見：你想要多數(shù)人擁有人工智能呢？還是希望少數(shù)人擁有人工智能？我們認(rèn)為可能多數(shù)人擁有比較好。我們可以把人工智能和人類個體意志的延伸聯(lián)系在一起。

因?yàn)槿斯ぶ悄苁侨祟愖约阂庵镜难由?，所以每個人本質(zhì)上是與人工智能共生的，不能把人工智能當(dāng)做獨(dú)立的中央智庫。想一想我們是怎樣使用網(wǎng)絡(luò)的？通過手機(jī)應(yīng)用，我們可以收發(fā)郵件，玩轉(zhuǎn)社交媒體，網(wǎng)絡(luò)讓我們有了三頭六臂，而我們并不會將這種能力當(dāng)成身外之物，而是把它當(dāng)成自己的一種延伸。我們可以把人工智能往這個方向引導(dǎo)，這就是我們想要做的。我們現(xiàn)在已經(jīng)召集了一批這一領(lǐng)域內(nèi)志同道合的工程師和研究員，他們也有同感。

人工智能安全這個問題，已經(jīng)縈繞在我腦海里很長時間了，老這么心神不寧也不是辦法，我只能去做了。這是一個不以盈利為目的的投資。將來我們有可能會有收入，就跟斯坦福研究院那樣。但只是收入，不是利潤。沒有股票價(jià)格，也沒有其他什么東西，股東們不會因此獲得收益。我們認(rèn)為這樣挺好的。[本文摘自特斯拉CEO埃隆·馬斯克2015年12月接受媒體采訪時的發(fā)言]