噓，西瑞正在偷偷錄音

張?zhí)锟?/p>

隔墻有耳

使用蘋果手機(jī)或蘋果產(chǎn)品的人，都知道西瑞（Siri），她（姑且用“她”，因?yàn)槭桥簦┦且晃恢悄苷Z(yǔ)音助手，能和用戶進(jìn)行智能對(duì)話。不過(guò)，現(xiàn)在她的一種做法讓人驚出冷汗：西瑞被意外激活時(shí)，會(huì)記錄下來(lái)一些聲音，并在用戶不知情的情況下，發(fā)送給蘋果公司“評(píng)分員”進(jìn)行人工評(píng)估。

毫無(wú)疑問(wèn)，這是人工智能產(chǎn)生和觸發(fā)的倫理問(wèn)題，直指人工智能的要害，即人工智能產(chǎn)品是否安全，以及能否保護(hù)公眾的個(gè)人隱私。

蘋果公司馬上進(jìn)行了解釋。一是西瑞偷偷錄音并傳給第三者即“評(píng)分員”，是為了更好地改善西瑞的功能。二是錄音只是小部分西瑞被自動(dòng)激活后的結(jié)果，而且這些錄音也只有1%被用于評(píng)級(jí)。三是被偷錄下來(lái)的音頻傳送給的第三者只是審核者（評(píng)分員），所有審核者都有義務(wù)遵守蘋果公司嚴(yán)格的保密要求。而且，這些偷錄的音頻時(shí)間也很短，通常只有幾秒鐘。也就是說(shuō)，即便西瑞被激活偷偷錄音并傳給他人，也是可以保密的。

不過(guò)，事情并非那么簡(jiǎn)單，現(xiàn)有的很多情況表明，西瑞偷錄用戶的聲音隱藏著極大的不安全性。一是西瑞很敏感很興奮，簡(jiǎn)直就是一位躁動(dòng)不安的懷春少女，尤其是手表中的西瑞，只要叫一聲西瑞或出現(xiàn)與西瑞發(fā)音相似的語(yǔ)音，她就會(huì)及時(shí)應(yīng)答和被激活。2018年英國(guó)國(guó)防大臣加文·威廉森在議會(huì)發(fā)言中說(shuō)到敘利亞（Syria）時(shí)，就激活了西瑞。

另外，西瑞偷錄下的音頻也并非如蘋果公司所稱的只有幾秒鐘，而是30秒之久，這個(gè)時(shí)長(zhǎng)的錄音足以讓人準(zhǔn)確分析出談話內(nèi)容。

藏不住的隱私

偷偷錄音，其實(shí)是許多電子產(chǎn)品、智能軟件的共同做法。目前很多智能產(chǎn)品中都有語(yǔ)音助手，這些語(yǔ)音助手與使用者形成了親密關(guān)系，使用者不僅會(huì)讓它報(bào)時(shí)、查詢天氣等，還會(huì)跟語(yǔ)音助手聊天。

由于語(yǔ)音助手的智能化還不足以完全通過(guò)圖靈測(cè)試（一種對(duì)于機(jī)器的測(cè)試，如果機(jī)器通過(guò)圖靈測(cè)試則被認(rèn)為具有人類智能），就使得用戶與它的聊天成為一件很有意思的事，它可能會(huì)答非所問(wèn)，也可能會(huì)與用戶不在一個(gè)邏輯平臺(tái)，還可能以一種意想不到的答案來(lái)回復(fù)。凡此種種，都會(huì)讓用戶樂(lè)不可支，其功能有時(shí)相當(dāng)于寵物狗或?qū)櫸镓?，能緩解人們的心理壓力?/p>

不過(guò)，大多數(shù)智能產(chǎn)品的語(yǔ)音助手也擔(dān)負(fù)著另一項(xiàng)任務(wù)：通過(guò)錄下與人們的談話過(guò)程，對(duì)談話的內(nèi)容、語(yǔ)音、語(yǔ)速和語(yǔ)調(diào)等進(jìn)行分析，對(duì)語(yǔ)音做標(biāo)注和反饋，從而形成人工智能的深度學(xué)習(xí)算法，以幫助和進(jìn)一步訓(xùn)練語(yǔ)音助手，讓其更智能地與用戶通話、聊天。而且還可能通過(guò)大數(shù)據(jù)積累，有朝一日突破圖靈測(cè)試，提升人與語(yǔ)音助手交流的可靠性、邏輯性和理性，甚至還具有情感。這也正是人工智能的高級(jí)目標(biāo)。

但是，在搜集和錄下用戶的語(yǔ)言和語(yǔ)音并進(jìn)行分析時(shí)，智能產(chǎn)品的設(shè)計(jì)者和生產(chǎn)者并不會(huì)主動(dòng)告訴用戶，而且還會(huì)把用戶的個(gè)人隱私泄露出去。

德國(guó)聯(lián)邦議院于2019年7月發(fā)布評(píng)估報(bào)告稱，美國(guó)亞馬遜公司的亞歷克薩（Alexa）語(yǔ)音系統(tǒng)對(duì)用戶有風(fēng)險(xiǎn)。亞馬遜公司回復(fù)稱，錄制用戶談話的目的是訓(xùn)練亞歷克薩，以提升其語(yǔ)音服務(wù)的質(zhì)量。盡管亞馬遜在其語(yǔ)音助手設(shè)置中增加了一個(gè)新選項(xiàng)——允許用戶選擇自己的錄音不被“人工分析”，但這一選項(xiàng)隱藏在隱私設(shè)置的子菜單中，不特別注意，往往留意不到，也就會(huì)默認(rèn)可以錄音并用作人工分析的用途。

同樣，谷歌智能助手也在偷錄用戶的語(yǔ)音。據(jù)比利時(shí)弗拉芒廣播電視臺(tái)報(bào)道，已有超1000個(gè)谷歌智能助手錄音內(nèi)容被泄露。

當(dāng)然，偷錄也并非一無(wú)是處。2018年10月2日，沙特阿拉伯記者賈邁勒·卡舒吉在進(jìn)入沙特駐土耳其伊斯坦布爾領(lǐng)事館后，再?zèng)]有出來(lái)。事后調(diào)查確認(rèn)卡舒吉是在使館內(nèi)被殺，案件偵破的線索之一就是卡舒吉手上所戴的蘋果手表。案發(fā)時(shí)手表中的西瑞被激活，私錄了一段音頻并傳出，進(jìn)而幫助刑偵人員破案。

天黑請(qǐng)關(guān)手機(jī)

2018年，微軟發(fā)表了《未來(lái)計(jì)算》（The Future Computed）一書，其中提出了人工智能開發(fā)的六大倫理原則：公平、可靠和安全、隱私和保障、包容、透明、責(zé)任。其實(shí)，人工智能的倫理并非只是這6項(xiàng)，至少還應(yīng)當(dāng)有知情、同意。

智能產(chǎn)品中的語(yǔ)音助手私自和偷錄用戶的談話內(nèi)容和語(yǔ)音，顯然是既違背了人工智能的可靠和安全、隱私和保障，但更直接的是違背了知情同意原則。面對(duì)這種情況該怎么辦呢？

一方面，政府部門可以依法要求智能手機(jī)的生產(chǎn)者停止偷錄用戶的語(yǔ)音。歐洲和美國(guó)的監(jiān)管機(jī)構(gòu)和立法機(jī)構(gòu)正在對(duì)谷歌、蘋果和亞馬遜進(jìn)行調(diào)查，審核上述三家公司是否涉嫌侵犯用戶隱私，聘用專員聽(tīng)取用戶使用電子助手時(shí)發(fā)出的指令。

另一方面，用戶和政府部門也可起訴手機(jī)生產(chǎn)者，法律依據(jù)就是歐盟2018年5月25日出臺(tái)的《通用數(shù)據(jù)保護(hù)條例》（GDPR）和其他國(guó)家關(guān)于通信保護(hù)和隱私保護(hù)的法律。在GDPR中，個(gè)人數(shù)據(jù)的處理有6項(xiàng)法律依據(jù)，其中之一就是“同意”。

GDPR第四條第十一款將“同意”定義為：“數(shù)據(jù)主體的同意是指，數(shù)據(jù)主體依照其意愿自由做出的、特定的、知情的、明確的指示。通過(guò)以聲明或清晰肯定的行為做出的該指示，數(shù)據(jù)主體表明其同意處理與其相關(guān)的個(gè)人數(shù)據(jù)?！爆F(xiàn)在看來(lái)，西瑞偷錄用戶音頻并送至第三方的行為，明顯違背了知情同意原則。

根據(jù)GDPR，愛(ài)爾蘭數(shù)據(jù)保護(hù)委員會(huì)2018年12月宣布，由于“Facebook發(fā)布了一系列用戶數(shù)據(jù)泄露的通知”，數(shù)千萬(wàn)用戶的個(gè)人數(shù)據(jù)被分享到劍橋分析公司，“委員會(huì)”已在調(diào)查此案，并且會(huì)根據(jù)GDPR的規(guī)定對(duì)一家公司最高可處以占其全球收入4%的罰款，對(duì)Facebook來(lái)說(shuō)，相當(dāng)于超過(guò)15億美元。不過(guò)，“這只鞋子還未落地?！?/p>

“已經(jīng)掉下來(lái)的鞋子”是，美國(guó)聯(lián)邦貿(mào)易委員會(huì)（FTC）對(duì)Facebook開出了50億美元的和解罰單，這也是FTC開出的史上最大罰單。原因也是，一年前，數(shù)千萬(wàn)Facebook用戶的數(shù)據(jù)未經(jīng)用戶知情同意，落入劍橋分析公司手中。盡管美國(guó)沒(méi)有相同的GDPR法律，但有其他相似的法律和規(guī)定。FTC指控Facebook違反了其2012年與FTC達(dá)成的和解令，即Facebook想收集和共享用戶數(shù)據(jù)，需要獲得消費(fèi)者的明確同意，但是Facebook違背了知情同意原則。

蘋果的西瑞私自偷錄用戶的私密音頻并傳遞給第三方是否會(huì)受到起訴和調(diào)查，目前尚不知曉，而且即便鬧到法庭，可能也會(huì)一波三折，還會(huì)有激烈的攻防戰(zhàn)，但是西瑞的這種偷錄做法顯然已經(jīng)違背了人工智能的基本倫理，需要有更強(qiáng)硬和詳盡的管理措施。

在問(wèn)題還沒(méi)有解決之前而且又在使用蘋果產(chǎn)品的人該怎么辦呢？可以稍為寬心的是，目前蘋果已停止人工語(yǔ)音分析業(yè)務(wù)。但是，用戶也應(yīng)當(dāng)自己采取行動(dòng)，加強(qiáng)隱私保護(hù)，比方說(shuō)，做私密事時(shí)摘下蘋果手表或關(guān)機(jī)。