未雨綢繆人工智能監(jiān)管

李軍

中國(guó)目前側(cè)重于打造平臺(tái)、培育企業(yè)、構(gòu)建市場(chǎng)、激勵(lì)創(chuàng)新等方面，對(duì)于監(jiān)管原則、監(jiān)管體系和監(jiān)管機(jī)構(gòu)建設(shè)，基本沒(méi)有部署。

大眾一般認(rèn)為，新技術(shù)的研發(fā)是難度最大的，應(yīng)用及監(jiān)管與研發(fā)相比難度就會(huì)低很多。但對(duì)于將深遠(yuǎn)影響人類(lèi)社會(huì)運(yùn)營(yíng)方式的人工智能來(lái)說(shuō)，情況或許正好相反。

人工智能的潛在缺陷與控制

目前基于人工智能所開(kāi)發(fā)的自動(dòng)控制、模式識(shí)別和機(jī)器學(xué)習(xí)系統(tǒng)，其實(shí)都是人工智能領(lǐng)域非常初級(jí)的部分，往往需要研發(fā)團(tuán)隊(duì)針對(duì)實(shí)際應(yīng)用場(chǎng)景設(shè)置重要先決條件，以降低人工智能系統(tǒng)的判別難度并提高準(zhǔn)確率。當(dāng)各種極客型的技術(shù)人員大開(kāi)腦洞采用人工智能技術(shù)研發(fā)各種黑科技時(shí)，他們的關(guān)注范圍是非常聚焦的，即按照最優(yōu)條件下設(shè)想人工智能的應(yīng)用范圍和場(chǎng)景，較少考慮相關(guān)技術(shù)在復(fù)雜條件甚至人為濫用的情況下面臨的困境。這往往也為人工智能潛在的不當(dāng)使用埋下了伏筆。

人工智能作為信息化系統(tǒng)，一定會(huì)受到自身設(shè)計(jì)的局限和開(kāi)發(fā)質(zhì)量的影響。再加上人工智能在識(shí)別和判斷時(shí)需要基于人工設(shè)置和歷史數(shù)據(jù)，通過(guò)精心設(shè)計(jì)的訓(xùn)練過(guò)程才能得到基于概率的判別結(jié)果。所以對(duì)于人工智能系統(tǒng)，在特定前提或應(yīng)用場(chǎng)景下作出錯(cuò)誤決策是100%會(huì)出現(xiàn)的。作為政府和監(jiān)管部門(mén)，面臨的第一個(gè)重要問(wèn)題就是系統(tǒng)錯(cuò)誤決策所引起的財(cái)產(chǎn)損失甚至人身傷亡該如何判定責(zé)任與承擔(dān)賠償，甚至要能夠提出合理的原則，區(qū)分哪些錯(cuò)誤決策是小概率事件本身引發(fā)的，哪些錯(cuò)誤決策是由于系統(tǒng)設(shè)計(jì)、訓(xùn)練數(shù)據(jù)和訓(xùn)練過(guò)程存在問(wèn)題所導(dǎo)致的。

2016年2月14日，上路試驗(yàn)已經(jīng)六年的谷歌自動(dòng)駕駛汽車(chē)第一次由于系統(tǒng)“誤判”導(dǎo)致了交通事故。谷歌公司表示自動(dòng)駕駛汽車(chē)在這次輕微車(chē)禍中承擔(dān)“部分責(zé)任”。由此可見(jiàn)，當(dāng)時(shí)的谷歌自動(dòng)駕駛系統(tǒng)在特定場(chǎng)景下觸發(fā)了一個(gè)錯(cuò)誤決策。可以想象，當(dāng)自動(dòng)駕駛汽車(chē)全面行駛在大街小巷時(shí)，系統(tǒng)的微小錯(cuò)誤導(dǎo)致的責(zé)任事故會(huì)基于巨大的汽車(chē)保有量而放大成為一個(gè)引人注目的數(shù)字。由此而引起的責(zé)任劃定和賠償也會(huì)由于人工智能和人類(lèi)行為的混合作用而變得異常復(fù)雜。

另一個(gè)廣為人知的應(yīng)用缺陷就是公平性問(wèn)題。2016年哈佛大學(xué)肯尼迪學(xué)院發(fā)布的分析報(bào)告指出，目前針對(duì)犯罪傾向性預(yù)測(cè)的人工智能系統(tǒng)，無(wú)論技術(shù)人員如何調(diào)整機(jī)器學(xué)習(xí)的策略和算法，人種膚色都成為無(wú)法抹去的高優(yōu)先識(shí)別變量。人工智能系統(tǒng)評(píng)估結(jié)果出現(xiàn)了明顯的對(duì)黑人群體的偏見(jiàn)，這是現(xiàn)階段人工智能技術(shù)手段無(wú)法避免的，也是人工智能系統(tǒng)廣泛應(yīng)用于現(xiàn)有社會(huì)環(huán)境并為社會(huì)大眾所接受的一個(gè)重要的障礙。

在以上問(wèn)題沒(méi)有經(jīng)過(guò)實(shí)踐驗(yàn)證的法律支持和監(jiān)管框架管理下，人工智能的全面應(yīng)用很有可能帶來(lái)相關(guān)領(lǐng)域社會(huì)活動(dòng)的混亂并造成意想不到的后果。

逐步建立的人工智能監(jiān)管

美國(guó)政府對(duì)于人工智能的廣泛應(yīng)用和相關(guān)監(jiān)管框架一直保持關(guān)注，并在特定領(lǐng)域開(kāi)始小范圍的實(shí)踐。

以人工智能領(lǐng)域目前相對(duì)成熟且應(yīng)用前景廣闊的自動(dòng)駕駛為例，企業(yè)能夠盡快推進(jìn)自動(dòng)駕駛技術(shù)開(kāi)發(fā)的重要原因，是在制度方面得到了美國(guó)政府的大力支持。

2012年5月，美國(guó)內(nèi)華達(dá)州汽車(chē)管理局為谷歌自動(dòng)駕駛汽車(chē)發(fā)放了美國(guó)首張自動(dòng)駕駛車(chē)輛許可證，此前內(nèi)華達(dá)州議會(huì)通過(guò)了允許自動(dòng)駕駛車(chē)輛上路的法條。八個(gè)月后谷歌又在加利福尼亞州取得了許可證。隨之而來(lái)，奧迪和豐田也先后在美國(guó)的一些州拿到了實(shí)驗(yàn)許可證并開(kāi)展公路測(cè)試。一時(shí)間，美國(guó)成為各國(guó)企業(yè)爭(zhēng)先開(kāi)展自動(dòng)駕駛的試驗(yàn)田，加速了自動(dòng)駕駛技術(shù)的成熟。

雖然美國(guó)交通管理部門(mén)積極配合自動(dòng)駕駛技術(shù)的測(cè)試和路試，但是對(duì)于正式的應(yīng)用許可還是采用非常審慎的態(tài)度。2014年10月，加州車(chē)輛管理局同時(shí)頒發(fā)了29張自動(dòng)駕駛汽車(chē)公共道路測(cè)試許可證，分別給了谷歌、戴姆勒、大眾三家公司，獲得許可的條件之一是人可以隨時(shí)干預(yù)汽車(chē)駕駛，以確保在人工智能廣泛測(cè)試和安全性之間取得平衡。

加州車(chē)輛管理局2015年12月提出了一項(xiàng)監(jiān)管草案，要求所有自動(dòng)駕駛汽車(chē)的駕駛座上必須始終乘坐一名擁有駕照的人士，并要求汽車(chē)在設(shè)計(jì)方面必須擁有方向盤(pán)、油門(mén)踏板、制動(dòng)踏板等傳統(tǒng)機(jī)動(dòng)車(chē)具備的基本操控裝置，以便具有駕駛資質(zhì)的人在無(wú)人駕駛汽車(chē)失靈時(shí)可隨時(shí)接管汽車(chē)的操作。在草案細(xì)則中，加州還規(guī)定了自動(dòng)駕駛的三年試用期。消費(fèi)者可以通過(guò)租賃的方式從制造商處獲得自動(dòng)駕駛汽車(chē)，但制造商需要跟蹤記錄消費(fèi)者的駕駛情況，把汽車(chē)性能指標(biāo)和駕駛記錄遞交機(jī)動(dòng)車(chē)輛管理局。

可以看到，美國(guó)的交通部門(mén)在放行自動(dòng)駕駛技術(shù)時(shí)是逐步進(jìn)行，并盡量確保過(guò)渡階段監(jiān)管規(guī)則的連續(xù)性。盡管谷歌等自動(dòng)駕駛技術(shù)公司向公眾抱怨，政府過(guò)于嚴(yán)厲的監(jiān)管和相對(duì)謹(jǐn)慎的態(tài)度阻礙了自動(dòng)駕駛技術(shù)向?qū)嵱盟降目焖侔l(fā)展，但這是監(jiān)管部門(mén)職責(zé)所在，他們必須保護(hù)公眾在享受新技術(shù)成果的同時(shí)，避免潛在技術(shù)缺陷導(dǎo)致的傷害。今年1月，美國(guó)運(yùn)輸部長(zhǎng)Anthony Foxx表示，將在六個(gè)月內(nèi)出臺(tái)自動(dòng)駕駛汽車(chē)指導(dǎo)原則。美國(guó)高速公路交通安全管理局（NTHSA）也表示，為了加速自動(dòng)駕駛汽車(chē)的發(fā)展，該機(jī)構(gòu)將放棄一些目前針對(duì)自動(dòng)駕駛汽車(chē)的安全要求。

收益和風(fēng)險(xiǎn)前瞻

2016年5月3日，白宮的副首席技術(shù)官埃德·費(fèi)爾頓宣布，白宮將組織一系列有關(guān)人工智能收益與風(fēng)險(xiǎn)的研討，“為人工智能的未來(lái)而準(zhǔn)備”。

此次人工智能領(lǐng)域的系列研討包括以下內(nèi)容：

2016年5月24日，西雅圖：與人工智能相關(guān)的法律與監(jiān)管事務(wù)；

2016年6月7日，華盛頓：人工智能與社會(huì)福利；

2016年6月28日，匹茲堡：人工智能的安全與控制；

2016年7月7日，紐約：近期的人工智能技術(shù)對(duì)社會(huì)和經(jīng)濟(jì)的影響。

此次人工智能領(lǐng)域的研討，一方面涵蓋了從立法到監(jiān)管原則的確定，為政府全面管理人工智能確立法理依據(jù)和管理邊界；另一方面，也將深入探討人工智能有可能存在的缺陷以及相應(yīng)的安全控制原則。此外，研討視角不僅面向具體的監(jiān)管框架，同時(shí)還包含了對(duì)就業(yè)、社會(huì)福利、經(jīng)濟(jì)發(fā)展的長(zhǎng)遠(yuǎn)影響的分析。

從此次人工智能的研討主題來(lái)看，美國(guó)政府的決策機(jī)構(gòu)已經(jīng)在思考人工智能的全面應(yīng)用對(duì)于社會(huì)整體運(yùn)行的沖擊與改變。例如，人類(lèi)是否有可能在某些領(lǐng)域?yàn)E用人工智能技術(shù)，比如刑事司法、勞動(dòng)雇傭等領(lǐng)域。在支撐人工智能技術(shù)廣泛收集公眾和個(gè)人信息時(shí)，又存在著數(shù)據(jù)所有權(quán)和應(yīng)用范圍的邊界：哪些組織和企業(yè)可以搜集個(gè)人信息；使用個(gè)人信息時(shí)，使用的機(jī)構(gòu)應(yīng)該承擔(dān)什么樣的義務(wù)？通過(guò)嚴(yán)格清晰的數(shù)據(jù)擁有和使用責(zé)任的界定，促使利用人工智能和大數(shù)據(jù)工具的人控制他們的決策行為，以符合法律與社會(huì)的基本準(zhǔn)則。

需要強(qiáng)調(diào)的是，這次研討并不是政府為主發(fā)一家之言，而是白宮科技政策辦公室牽頭，分別由西雅圖大學(xué)、計(jì)算研究協(xié)會(huì)、卡耐基梅隆大學(xué)和紐約大學(xué)信息法律研究所等高校和研究機(jī)構(gòu)組織，多所一流大學(xué)和企業(yè)研究人士共同參與的研討會(huì)。這一系列高規(guī)格人工智能研討結(jié)果，將作為美國(guó)政府制定人工智能立法和監(jiān)管原則的重要來(lái)源。

中國(guó)人工智能的管理現(xiàn)狀

中國(guó)政府在最近幾年一直大力推進(jìn)人工智能產(chǎn)業(yè)的發(fā)展，重心仍然放在鼓勵(lì)技術(shù)研發(fā)方面。對(duì)于人工智能技術(shù)應(yīng)用所帶來(lái)的產(chǎn)業(yè)與社會(huì)轉(zhuǎn)型沖擊，以及監(jiān)管方面的及時(shí)調(diào)整和跟進(jìn)，目前還缺乏整體認(rèn)識(shí)和積極部署?？梢哉f(shuō)，政府還沒(méi)有意識(shí)到自身應(yīng)該如何參與到人工智能的發(fā)展，以及相應(yīng)的法律法規(guī)、監(jiān)管體系和管理架構(gòu)應(yīng)該如何進(jìn)行調(diào)整，以適應(yīng)新的社會(huì)需求與技術(shù)現(xiàn)實(shí)。

還是以自動(dòng)駕駛應(yīng)用為例，目前國(guó)內(nèi)自動(dòng)駕駛技術(shù)多被作為科研項(xiàng)目進(jìn)行測(cè)試。相關(guān)的法律法規(guī)和監(jiān)管問(wèn)題，在企業(yè)多次推動(dòng)下并沒(méi)有明確的進(jìn)展。比如，中國(guó)企業(yè)在國(guó)內(nèi)進(jìn)行公路自動(dòng)駕駛測(cè)試時(shí)，還無(wú)法為測(cè)試車(chē)輛懸掛測(cè)試牌照。2015年12月百度首次自動(dòng)駕駛汽車(chē)的路測(cè)過(guò)程中，由于交管部門(mén)沒(méi)有任何有關(guān)自動(dòng)駕駛測(cè)試的指導(dǎo)規(guī)定，百度公司只能安排駕駛員坐在方向盤(pán)后面，而交管部門(mén)也默認(rèn)該車(chē)為有人駕駛而未加干涉。

2016年全國(guó)“兩會(huì)”期間，全國(guó)政協(xié)委員、百度公司董事長(zhǎng)兼首席執(zhí)行官李彥宏提議，中國(guó)應(yīng)盡快組織開(kāi)展關(guān)于無(wú)人車(chē)牌照發(fā)放、行駛規(guī)定、事故認(rèn)責(zé)等方面的研究。他還建議盡快修訂和完善無(wú)人駕駛相關(guān)的法律法規(guī)，為無(wú)人駕駛汽車(chē)的研發(fā)、測(cè)試和商業(yè)化應(yīng)用提供制度保障。

但在2016年5月23日由國(guó)家發(fā)改委、科技部、工信部、中央網(wǎng)信辦制定印發(fā)的《“互聯(lián)網(wǎng)+”人工智能三年行動(dòng)實(shí)施方案》中，政府還是側(cè)重于打造平臺(tái)、培育企業(yè)、構(gòu)建市場(chǎng)、激勵(lì)創(chuàng)新等方面。雖然文中也談到了資金支持、標(biāo)準(zhǔn)體系建設(shè)、知識(shí)產(chǎn)權(quán)保護(hù)、人才培養(yǎng)、國(guó)際合作等方面，但對(duì)于監(jiān)管原則、監(jiān)管體系和相關(guān)監(jiān)管機(jī)構(gòu)的建設(shè)則基本沒(méi)有提及。

可以預(yù)見(jiàn)，現(xiàn)有的法律法規(guī)未必適應(yīng)未來(lái)的人工智能新型應(yīng)用模式，會(huì)對(duì)人工智能的快速發(fā)展構(gòu)成阻礙，但在出現(xiàn)人工智能應(yīng)用的重大缺陷或者安全隱患時(shí)，也沒(méi)有相關(guān)法規(guī)和條例指導(dǎo)政府機(jī)構(gòu)合理合法地規(guī)避人工智能的發(fā)展風(fēng)險(xiǎn)。這將導(dǎo)致新技術(shù)應(yīng)用與推廣過(guò)程中付出不必要的成本，甚至?xí)蛞瓘U食，阻礙人工智能行業(yè)的發(fā)展。