◎ 文 《法人》全媒體記者 伍洲奇
2020年1月3日凌晨,一位身份極其特殊的人物——伊朗“圣城旅”指揮官蘇萊曼尼,喋血伊拉克首都機(jī)場(chǎng),同時(shí)喪命的還有數(shù)名隨行和接機(jī)人員,攻擊他們的是來自美國(guó)的無人機(jī)。
如果說遙控?zé)o人機(jī)還算不上完全的人工智能,那么在聯(lián)合國(guó)日內(nèi)瓦總部舉辦的特定常規(guī)武器公約大會(huì)上演示的“Slaughterbots 殺戮無人機(jī)”,早已完全具備技術(shù)生產(chǎn)條件,其無需遙控且殺人能力令人驚悚。
好在,著名科幻小說家艾薩克·阿西莫夫早在1942年就提出“不得傷害人類”的原則。不過,技術(shù)始終是一把雙刃劍,在給人類帶來便利和好處的同時(shí),也不可避免地給人類帶來創(chuàng)傷的可能。
那么,技術(shù)領(lǐng)先的人工智能又如何面對(duì)滯后的法律規(guī)范?
有趣的是,正當(dāng)人們?cè)谟懻撊绾沃贫ǚ上拗迫斯ぶ悄芤员Wo(hù)人類時(shí),人工智能正在代替法律工作人員在從事輔助性法律工作。
2019年12月24日,在浙江杭州下城區(qū)人民法院進(jìn)行了這樣一場(chǎng)庭審:原、被告雙方出現(xiàn)在法庭內(nèi)的屏幕中隔空“較量”,智能機(jī)器做著證據(jù)分析,還向原、被告自動(dòng)提問,庭審?fù)戤吅?,立即生成了一份判決書,主持庭審的法官當(dāng)庭宣判。
這場(chǎng)非同尋常的民間借貸糾紛案庭審,從開庭到結(jié)案僅用了28分鐘。這是浙江省高級(jí)人民法院聯(lián)合浙江大學(xué)、阿里巴巴等研發(fā)的人工智能審判系統(tǒng),它的名字叫“小智”。
阿里達(dá)摩院算法專家張雅婷介紹說,“小智”背后的整個(gè)智能審判系統(tǒng),運(yùn)用到文本生成技術(shù) + TTS(文本轉(zhuǎn)化為語音技術(shù))、ASR技術(shù)(語音轉(zhuǎn)化為文字)、OCR + NLP分類技術(shù)、NLP抽取技術(shù) + 邏輯推理等等,不同的技術(shù)最終又要通過技術(shù)融合組成一個(gè)可以模擬法官審判邏輯的系統(tǒng)。
2015年到2018年,人工智能產(chǎn)業(yè)平均復(fù)合增長(zhǎng)率達(dá)到54.6%,2018年,中國(guó)人工智能產(chǎn)業(yè)市場(chǎng)規(guī)模達(dá)到415.5億元。隨著產(chǎn)業(yè)規(guī)模的擴(kuò)大,人工智能領(lǐng)域融資進(jìn)度也在不斷加快。
根據(jù)投中研究院與崇期資本聯(lián)合發(fā)布的《2019中國(guó)人工智能產(chǎn)業(yè)投融資白皮書》顯示,中國(guó)人工智能領(lǐng)域的總體融資規(guī)模從2015年的458億人民幣增長(zhǎng)至2018年的1189億人民幣,增長(zhǎng)超過兩倍。
產(chǎn)業(yè)迅速發(fā)展的同時(shí),人工智能機(jī)器人已經(jīng)逐步具有一定程度的自我意識(shí)和自我表達(dá)能力,甚至可以與人類進(jìn)行一定的情感交流。機(jī)器人本身還能夠形成自學(xué)能力,對(duì)既有的信息進(jìn)行分析和研究,從而提供司法警示和建議。甚至有人認(rèn)為,機(jī)器人未來可以直接當(dāng)法官。
此刻,人們需要思考的法律問題是:“小智”們是誰?帶來巨大財(cái)富的人工智能,又是否具備法律上的主體資格?現(xiàn)有的權(quán)利主體、程序法治、用工制度、保險(xiǎn)制度、績(jī)效考核等一系列法律制度,該如何應(yīng)對(duì)人工智能的挑戰(zhàn)。
“樹影壓在秋天的報(bào)紙上,中間隔著一片夢(mèng)幻的海洋,我凝視著一池湖水的天空……”這首唯美的現(xiàn)代詩,被收錄進(jìn)原創(chuàng)詩集《陽光失了玻璃窗》,該詩集由微軟全球執(zhí)行副總裁、美國(guó)國(guó)家工程院外籍院士沈向洋博士作序推薦。
人們難以想象,《陽光失了玻璃窗》竟然是人類歷史上第一部完全由人工智能創(chuàng)作的詩集,詩集的作者是人工智能的代表性“人物”——微軟小冰。
鮮為人知的是,微軟還讓小冰在天涯、豆瓣、簡(jiǎn)書等平臺(tái),用27個(gè)筆名發(fā)表自己的詩歌,不過并沒有被人“識(shí)破”,讀者們還不知道“駱夢(mèng)”“風(fēng)的指尖”“一荷”“微笑的白”這些筆名背后的詩人,其實(shí)并非人類。
與微軟形影相隨的是,百度也已經(jīng)研發(fā)出可以創(chuàng)作詩歌的機(jī)器人,那么問題來了,這些人工智能創(chuàng)作作品的著作權(quán),究竟歸屬于誰?是歸屬于機(jī)器人軟件的發(fā)明者?還是機(jī)器人的所有權(quán)人?還是賦予機(jī)器人一定程度的法律主體地位從而由其自身享有相關(guān)權(quán)利?人工智能的發(fā)展將引發(fā)知識(shí)產(chǎn)權(quán)和更多產(chǎn)權(quán)背后的爭(zhēng)議。
人工智能機(jī)器人要通過一定的程序進(jìn)行“深度學(xué)習(xí)”“深度思維”,在這個(gè)過程中有可能收集、儲(chǔ)存大量的他人已享有著作權(quán)的信息,這就有可能構(gòu)成非法復(fù)制他人的作品,從而構(gòu)成對(duì)他人著作權(quán)的侵害。但構(gòu)成侵害知識(shí)產(chǎn)權(quán)的情形下,究竟應(yīng)當(dāng)由誰承擔(dān)責(zé)任,這又是另一個(gè)問題。
至此,人工智能的發(fā)展對(duì)數(shù)據(jù)的法律保護(hù)提出了新的挑戰(zhàn):一方面,人工智能及其系統(tǒng)能夠正常運(yùn)作,在很大程度上是以海量的數(shù)據(jù)為支撐的,在利用人工智能時(shí)如何規(guī)范數(shù)據(jù)的收集、儲(chǔ)存、利用行為,避免數(shù)據(jù)的泄露和濫用,并確保國(guó)家數(shù)據(jù)的安全,是亟須解決的重大現(xiàn)實(shí)問題;另一方面,人工智能的應(yīng)用在很大程度上取決于其背后的一套算法,如何有效規(guī)范這一算法及其結(jié)果的運(yùn)用,避免侵害他人權(quán)利,也需要法律制度予以應(yīng)對(duì)。
用法律制度來應(yīng)對(duì)人工智能,還是應(yīng)對(duì)人工智能的設(shè)計(jì)者?這首先就是一個(gè)問題。
2016年11月16日至21日,第十八屆中國(guó)國(guó)際高新技術(shù)成果交易會(huì)在深圳舉辦,該交易會(huì)主要展示行業(yè)領(lǐng)域內(nèi)的先進(jìn)技術(shù)和產(chǎn)品,凸顯前沿領(lǐng)域的重大突破和創(chuàng)新創(chuàng)業(yè)的成就成果,不過本次高交會(huì)上出現(xiàn)了一個(gè)小插曲。
在會(huì)上,一個(gè)名叫“小胖”的人工智能機(jī)器人突然發(fā)生故障,在沒有指令的前提下自行打砸展臺(tái)玻璃,最終導(dǎo)致部分展臺(tái)破壞,更為嚴(yán)重的是,該機(jī)器人還砸傷了路人。
毫無疑問,人工智能機(jī)器人是人制造的,其程序也是制造者控制的,所以,在造成損害后,誰研制的機(jī)器人,就應(yīng)當(dāng)由誰負(fù)責(zé),似乎在法律上沒有爭(zhēng)議。
其實(shí)不然,人工智能機(jī)器人與人類一樣,是用“腦子”來思考的,機(jī)器人的腦子就是程序。產(chǎn)品可以追蹤屬于哪個(gè)廠家,但程序卻不一定能夠追蹤,甚至有可能是由眾多的人共同開發(fā)的,程序的產(chǎn)生可能無法追蹤到某個(gè)具體的個(gè)人或組織。
民事責(zé)任還相對(duì)容易追究,如果程序設(shè)計(jì)者故意設(shè)計(jì)程序漏洞,致人死傷,追究刑事責(zé)任的難度似乎更有爭(zhēng)議。
2018年3月28日,美國(guó)亞利桑那州一輛Uber自動(dòng)駕駛SUV撞倒一名女性行人,導(dǎo)致其死亡。Uber的車輛當(dāng)時(shí)處于自動(dòng)駕駛模式,Uber后來發(fā)現(xiàn),自動(dòng)駕駛軟件在汽車傳感器檢測(cè)到行人后決定不采取任何制動(dòng)。
美國(guó)國(guó)家運(yùn)輸安全委員會(huì)對(duì)這起事故的初步調(diào)查報(bào)告顯示,Uber的自動(dòng)駕駛模式使Volvo工廠安裝的自動(dòng)緊急制動(dòng)系統(tǒng)失效。
一年后,就在大眾輿論快要忘卻這樁悲劇的時(shí)候,它有了最新判決結(jié)果,當(dāng)?shù)貦z察官在一封信中稱,Uber在事故中負(fù)有刑事責(zé)任的指控“沒有依據(jù)”,事故視頻可能并未準(zhǔn)確地描述車禍過程,需進(jìn)一步調(diào)查。
無論調(diào)查結(jié)果如何,人類的命運(yùn)都在不斷往復(fù):100多年前,人類發(fā)明了汽車,馬車所代表的田園牧歌,就只能成為一曲挽歌;100多年后也是如此,從人類生活與人工智能相遇的那一瞬間,一切悲喜就已不可避免。