建立全球人工智能倫理規(guī)范的挑戰(zhàn)

（歐亞集團）

人工智能的倫理和安全問題無論對中國還是美國，亦或是歐盟，都是必須要應(yīng)對的問題，當然歐盟的情況相對復(fù)雜一點，但我們?nèi)匀恍枰懻撛谌斯ぶ悄艿膫惱硪?guī)范方面如何達成廣泛的國際共識。我認為AI的倫理和安全是兩個全然不同的問題：倫理有關(guān)公平和透明度，而安全相對更復(fù)雜，我注意到中文的“安全”對應(yīng)為英語的 “security”或者“safety”這兩個單詞，但這兩個英語單詞實際內(nèi)涵并不相同，這可能也是增加其復(fù)雜度的緣由之一。因此，第一個挑戰(zhàn)就是如何在語義層面統(tǒng)一，并能給出對策辦法。

我曾在今年2月參加了北京人工智能大會，在那段時間發(fā)生了一件與人工智能有關(guān)的交通事故，由Uber公司開發(fā)的無人駕駛車在美國亞利桑那州的道路測試中撞死了一名騎自行車的人，因此安全問題就理所當然地成為了北京AI會議的討論重點。

當前美國、歐盟、中國等國的人工智能政策、建議、計劃等層出不窮。2017年中國發(fā)布了具有里程碑意義的人工智能發(fā)展計劃，歐盟計劃在人工智能領(lǐng)域設(shè)立基準，準備在今年年底前發(fā)布人工智能倫理指導(dǎo)框架。就在我參加大會的路上，美國布魯克林研究機構(gòu)發(fā)布報告，認為現(xiàn)在所有的企業(yè)都是人工智能企業(yè)，因此建議所有企業(yè)都要建立嚴格的應(yīng)對倫理問題的人工智能流程，涵蓋審查委員會、培訓(xùn)等等。

當前國際上已經(jīng)達成的較有影響力的AI共識可參考表1，共識議題相對復(fù)雜，尤其是政府、產(chǎn)業(yè)等應(yīng)該扮演什么角色十分關(guān)鍵。每一個國家或者組織都有自身的原則，如歐盟最近發(fā)布了AI指引，騰訊公司也制定了自己的政策等。關(guān)鍵是找到諸多原則中的共同點，我們大致都同意AI應(yīng)該是要造福人類的，肯定沒人希望AI危害人類。在昨天的上海全球人工智能大會上，有演講嘉賓提到不必害怕AI，但由于AI問題相對復(fù)雜，因此這個觀點說起來容易做起來難。還有一名演講者提到了信任AI，信任固然很重要，但須知不同國家和文化對信任的認知并不相同，所以要信任AI也同樣不容易。當然不害怕和信任都是比較基本的原則，相信不會有人提出異議，目前全球也都在朝這個方向努力，尤其是美國一直倡議將倫理和安全特征化。美國在過去兩年一直試圖出臺一個包含人類權(quán)利、隱私、安全等在內(nèi)的指導(dǎo)框架，如前所述對于安全我認為此領(lǐng)域并不能統(tǒng)一，這個問題相對復(fù)雜。例如將AI應(yīng)用于網(wǎng)聯(lián)汽車后，其實只是龐大系統(tǒng)中的一小部分。原則大家也容易達成一致，這就有助國際上形成AI安全及其子領(lǐng)域的標準。ITU還將在10月份中討論AI的可持續(xù)發(fā)展等問題。

另一個易于達成國際共識的是AI應(yīng)造福全人類，但其難點在于隱私問題，人工智能廣泛

表1 國際上較影響力的人工智能共識

對于美國AI企業(yè)來說人工智能聯(lián)盟（Partnership on AI，AI聯(lián)盟）是非常重要一個組織，像谷歌、微軟、臉書等企業(yè)都是AI聯(lián)盟的關(guān)鍵成員，也期待中國的企業(yè)也參與到這個聯(lián)盟中。當前政府、學術(shù)界和企業(yè)界都在努力達成AI原則，如MIT及一些科技公司，比如谷歌，都已發(fā)布過自己的AI原則。

更關(guān)鍵的是哪些原則能夠獲得國際普遍認可？在安全方面，已經(jīng)有核能源、太空科技等先例，相信針對自動駕駛、無人機系統(tǒng)的安全應(yīng)用的障礙顯然是極難平衡的隱私問題。不同國家的處置方式不同，中國已經(jīng)出臺網(wǎng)絡(luò)安全法，歐盟則有GDPR，由于都有涉及數(shù)據(jù)隱私保護的條款，也給AI帶來了挑戰(zhàn)。

未來AI應(yīng)用和合作中的一些領(lǐng)域也是可能達成國際共識，國際社會已經(jīng)在網(wǎng)絡(luò)規(guī)范和網(wǎng)絡(luò)空間協(xié)作方面做了大量工作，已經(jīng)有了一些初步共識，但還不是普遍共識。在網(wǎng)絡(luò)領(lǐng)域中一個成功的經(jīng)驗是私營行業(yè)共同支持數(shù)字日內(nèi)瓦公約，這當中微軟公司起了主導(dǎo)地位，也許可以類推到AI聯(lián)盟，畢竟AI聯(lián)盟也同樣源于私營行業(yè)。

2017年中國、法國、德國、歐盟等都發(fā)布了AI計劃，這些計劃中或多或少都有關(guān)于倫理和安全的部分，說明國際社會對這些方面還是比較關(guān)注的，接下來的問題就是國際合作的機制是什么？在這一問題上，當前除歐盟之外政府之間少有合作，歐盟的成員國協(xié)作比較多。在我參與的部分外交活動中，如ITU及部分隱私和設(shè)立標準的組織等，這類非政府的二軌外交對這類問題都有所涉及。還有今年早些時候，ISO/IEC在北京召開了關(guān)于AI的會議，除安全這個老生常談的問題外，也開始討論倫理議題。IEEE也在AI安全領(lǐng)域做了很多工作，例如P7009標準就涵蓋如何處理自動駕駛的安全問題。

中國和美國是全球最大的兩個AI國家，如果中美兩國之間如果沒有達成某種共識，那該是何種景象？歐盟固然很重要，但是影響相對較小，因為歐盟在人工智能領(lǐng)域沒有大企業(yè)。我認為中美之間應(yīng)該要達成某種共識，雖然現(xiàn)在感受到是“中美關(guān)系，越來越糟”，但我仍然期望中美關(guān)系能得到改善。也要看到好的一面，在企業(yè)層面有許多合作關(guān)系，目前大多是企業(yè)在主導(dǎo)合作伙伴關(guān)系，如美國的谷歌、微軟、亞馬遜等紛紛在中國進行相關(guān)AI安全相關(guān)的研究。可以看到中國的人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）及美國的AI聯(lián)盟都是很好的載體，中國還有許多新成立的AI合作研究中心，這些會對中美的合作產(chǎn)生重要影響（見表2中美企業(yè)間的合作研究）。我們也看到中國新近成立了不少新的研究機構(gòu)，而且大都是去年成立的，如360人工智能研究院、哈工大人工智能研究院、蘇州大學人工智能研究院、科大訊飛與廣汽研究院共創(chuàng)人工智能汽車技術(shù)創(chuàng)新中心、上海交通大學人工智能研究院、北京前沿國際人工智能研究院、清華大學圖靈人工智能研究院等，其中某些研究機構(gòu)應(yīng)該會研究人工智能的倫理問題。

所有人對AI的應(yīng)用前景滿懷期待，但如果隱私問題得不到解決，人們將難以信任AI算法，從而危害整個行業(yè)，這是一個不容忽視的問題，我認為該問題需要人們投入更多關(guān)注。

合作關(guān)系 聚焦領(lǐng)域 類型 成立時間MIT與商湯科技人工智能聯(lián)盟（MIT-SenseTime Alliance on AI） 研究 校-企 2018-2-28 MIT與科大訊飛戰(zhàn)略合作（MIT-iFlyTek Partnership） 研究 校-企 2018-6-14復(fù)旦大學-谷歌科技創(chuàng)新實驗室（Fudan University-Google Innovation Lab）研究 校-企 2018-5-31華為和加州大學伯克利分校的人工智能基礎(chǔ)研究戰(zhàn)略合作（Huawei-UC Berkeley Partnership）研究 校-企 2018-10-10阿里與新加坡南洋理工大學（NTU）聯(lián)合研究院（Alibaba-NTU Joint Research Center）研究 校-企 2018-2-28

合作關(guān)系 聚焦領(lǐng)域 類型 成立時間香港人工智能實驗室（Hong Kong AI Lab，阿里與商湯科技） 商業(yè) 校-企 2018-5-21騰訊—谷歌合作伙伴（Tencent-Google Partnership） 商業(yè) 企業(yè)之間 2018-1-19京東谷歌戰(zhàn)略合作（JD.com- Google Partnership） 商業(yè) 企業(yè)之間 2018-6-18騰訊與英國國際貿(mào)易部戰(zhàn)略合作（Tencent-Britain Partnership） 商業(yè) 企業(yè)之間 2018-5-9百度和博世的阿波羅計劃（Baidu-Bosch/Continental AG） 商業(yè) 企業(yè)之間 2017-6-1

還有一個問題，AI產(chǎn)業(yè)的發(fā)展應(yīng)當自我約束還是采用制度約束呢？《金融時報》曾經(jīng)提到個觀點：“基于有預(yù)見性及敏捷的監(jiān)管可以讓創(chuàng)新能在改善生活和維護公共利益之間的調(diào)節(jié)緊張關(guān)系方面發(fā)揮積極作用。要實現(xiàn)這一點，需要科學界和監(jiān)管部門進行更有效的溝通。政府盡管事務(wù)繁忙，也應(yīng)投入資源讓公眾了解人工智能的益處?！钡毡榈挠^點是現(xiàn)在討論規(guī)制人工智能產(chǎn)業(yè)還為時過早，還有一個問題是由誰來監(jiān)管AI？由法院來監(jiān)管可能并不妥當，可能由非政府組織或政策建議性團體來監(jiān)管人工智能產(chǎn)業(yè)發(fā)展問題更好一些，他們可為政府應(yīng)該在人工智能哪些方面進行監(jiān)管提供建議。美國、中國、歐盟在AI問題上處理的方式不盡相同，多方共同協(xié)作將是一個挑戰(zhàn)。美國傾向于在無人駕駛、無人機等特定子領(lǐng)域提出監(jiān)管，中國面臨的問題是行業(yè)監(jiān)管還是成立新監(jiān)管部門，而歐盟情況略有不同，最近有很多說法是歐盟越來越來像“管家婆”，事實也就像他們說的那樣：歐盟喜歡監(jiān)控一切事物。GDPR的第22章（Article 22）就提到人們應(yīng)該能夠?qū)I算法做出的決策進行解釋，本條款實際并不可行。歐盟認定如何保護個人隱私、如何解釋算法、算法如何導(dǎo)致最后的決策等這類問題很重要，但問題是并不容易實現(xiàn)算法的透明度。

我還是愿意再介紹一下美國的白皮書和中國的AI國家發(fā)展戰(zhàn)略，這些建議為國際社會如何在AI領(lǐng)域，諸如安全和倫理問題的合作提供了思路。而歐盟在這些問題上有非常成熟的研討，不僅是AI安全，還關(guān)注工業(yè)機器人、協(xié)作機器人、服務(wù)機器人及基于軟件的AI代理。

最后我要說的是中、美兩個大國，都有做AI的大公司，也有許多初創(chuàng)公司，像中國有阿里巴巴、百度等企業(yè)，它們將主導(dǎo)中國的人工智能行業(yè)。而歐盟在企業(yè)數(shù)量和規(guī)模上都無法與中美相媲美，因此他們更希望在監(jiān)管上占上風，明白這一點很重要，畢竟中、美企業(yè)都希望在歐盟做生意，故而歐盟在此問題上的方案設(shè)定就比較關(guān)鍵，相信要不了多久他們就會出臺詳盡的監(jiān)管框架。