“會”貼標(biāo)簽的人工智能

編譯 舒愉棉

作為數(shù)碼藝術(shù)項目和熱門自拍軟件，圖網(wǎng)輪盤（ImageNet Roulette）暴露了偏見如何滲入正改變我們生活的人工智能技術(shù)。

當(dāng)塔邦·基馬（Tabong Kima）在周三清晨刷新推特時，當(dāng)前的熱議話題是圖網(wǎng)輪盤。似乎每個人都把自己的自拍照上傳到名為“圖網(wǎng)輪盤”的網(wǎng)站，該網(wǎng)站可以用某種人工智能（AI）分析上傳照片的人臉，并對其進行文字描述。一名男性就被打上了“孤兒”的標(biāo)簽，另一個則是“非吸煙者”，還有一個戴眼鏡的則被描述為“學(xué)癡、宅男、書呆子、工作狂、怪咖”。

在給基馬先生推送的推特信息里，這些有的準(zhǔn)確、有的奇怪、有的毫無根據(jù)的標(biāo)簽看起來只為博人一笑，于是他也加入其中，可24歲非裔美國人的基馬先生并不喜歡他看到的結(jié)果：當(dāng)上傳了自己的微笑照片后，網(wǎng)站給他貼上的標(biāo)簽是“滋事者”和“尋釁者”。

基馬先生在他的推特里寫道：“我可能沒啥幽默感，不過我真不覺得這個好笑?！?/p>

事實證明，他的反應(yīng)正是該網(wǎng)站的目標(biāo)。圖網(wǎng)輪盤是一個數(shù)字藝術(shù)項目，旨在揭示那些古怪、不健全和令人反感的行為，這些行為可能滲透到快速改變我們?nèi)粘Ｉ畹娜斯ぶ悄芗夹g(shù)中，包括互聯(lián)網(wǎng)公司、警察部門和其他政府機構(gòu)使用的面部識別服務(wù)。

人臉識別和其他AI技術(shù)通過分析海量數(shù)據(jù)來習(xí)得自身的技能。這些數(shù)據(jù)來自舊的網(wǎng)站和學(xué)術(shù)研究項目，通常會含有多年來一直忽視的微妙偏見和其他瑕疵。由美國藝術(shù)家特雷弗·帕格倫（Trevor Paglen）和微軟研究員凱特·克勞福德（ Kate Crawford）設(shè)計的“圖網(wǎng)輪盤”的初衷就是為了顯示這個問題的深度。

身處巴黎的帕格倫在接受電話采訪時說：“我們希望展示不同層面的偏見、種族主義和厭女癥如何在不同系統(tǒng)中傳遞，關(guān)鍵在于要讓人們看到幕后工作是如何進行的，要讓他們看到一直以來我們的信息是如何處理和分類的。”

2019年9月12日，“圖網(wǎng)輪盤”作為展覽的一部分在米蘭的普拉達基金會藝術(shù)館揭幕，其針對的主要是一個名為“圖網(wǎng)”（ImageNet）的大型可視化數(shù)據(jù)庫。十多年前，斯坦福大學(xué)的一組研究人員首次編寫了“圖網(wǎng)”，隨后“圖網(wǎng)”在深度學(xué)習(xí)（機器學(xué)習(xí)的一個子領(lǐng)域，一種能夠讓機器識別包括人臉在內(nèi)的圖像的數(shù)學(xué)方法）的崛起中扮演了極為重要的角色。

“圖網(wǎng)”擁有從互聯(lián)網(wǎng)上收集的超過1 400多萬張照片，是用來訓(xùn)練AI系統(tǒng)和評價其準(zhǔn)確性的工具。通過分析各種各樣的圖像（例如花、狗和汽車的照片），這些AI系統(tǒng)學(xué)會如何去識別它們。

但在研究AI的群體里，人們鮮有提及的是：圖網(wǎng)同時也包含了成千上萬個人的照片，并且每張照片都進行了分類。這包括像“啦啦隊隊員”“電焊工”和“童子軍”這樣直白的標(biāo)簽，也包括像“殘次品、失敗者、無望成功、碌碌無為”和“臭女人、蕩婦、邋遢女、婊子”這種含有強烈情感色彩的標(biāo)簽。

不管這些標(biāo)簽看上去是否無傷大雅，通過搭建運用這些標(biāo)簽的藝術(shù)項目，帕格倫先生和克勞福德女士展示了人的觀念、偏見和有時候很冒犯人的觀點是如何驅(qū)動人工智能的產(chǎn)生。

圖網(wǎng)的分類標(biāo)簽被數(shù)千個不知身份的人應(yīng)用，這些人大多數(shù)身處美國，受雇于斯坦福研究團隊，他們通過勞務(wù)眾包平臺“亞馬遜土耳其機器人”（Amazon Mechanical Turk，簡稱AMT）標(biāo)注照片，按張計費，能在1小時內(nèi)標(biāo)注上千個標(biāo)簽。隨著他們對照片的標(biāo)注，偏見就這樣融入數(shù)據(jù)庫。盡管我們無從得知這些進行標(biāo)注的人是否帶有這樣的偏見，但正是這些人定義了“失敗者”“蕩婦”還有“滋事者”。

這些標(biāo)簽最初來源于另一個名為“詞網(wǎng)”（WordNet）的龐大數(shù)據(jù)庫，這是由普林斯頓大學(xué)研究人員在20世紀(jì)80年代為機器建立的概念詞典。但是，隨著那些具有煽動性的標(biāo)簽被收入其中，斯坦福大學(xué)的研究人員可能并沒有意識到他們在做什么。

人工智能常常用海量的數(shù)據(jù)集來進行訓(xùn)練，即使它的制造者可能并不十分清楚這些數(shù)據(jù)集有哪些內(nèi)容。“這樣的事情在宏觀尺度上時有出現(xiàn)，而這會導(dǎo)致系列后果。”在人工智能初創(chuàng)公司克拉里法伊（Clarifai）負(fù)責(zé)數(shù)據(jù)標(biāo)注監(jiān)督的利茲·奧沙利文（Liz O’Sullivan）說道。他現(xiàn)在是名為“監(jiān)控技術(shù)監(jiān)管項目”的民權(quán)和隱私組織的成員，該項目旨在提高人們對AI系統(tǒng)問題的認(rèn)識。

圖網(wǎng)數(shù)據(jù)集中使用的許多標(biāo)簽都是極端的，但同樣的問題也會出現(xiàn)在看似并不具有冒犯性的標(biāo)簽中，畢竟用什么來定義“男性”或“女性”目前仍有爭議。

奧沙利文解釋道：“當(dāng)在對女性或女孩的照片進行標(biāo)記時，人們可能并不會將非二元性別者或短發(fā)女性歸于此；于是你獲得的AI模型就只會含有長發(fā)女性的數(shù)據(jù)。”

近幾個月來，研究人員向世人展示了：由像亞馬遜、微軟和IBM等公司提供的人臉識別服務(wù)會對女性和有色人種存有偏見。帕格倫先生和克勞福德女士希望通過這個項目能夠引起人們對這個問題的更多關(guān)注——他們的確做到了。在筆者撰文的這周內(nèi)，隨著該項目在推特等網(wǎng)站逐漸流行，圖網(wǎng)輪盤一度在1小時內(nèi)生成了超過10萬個標(biāo)簽。

克勞福德女士評論說：“這個項目能夠像現(xiàn)在這樣成功，這對我們來說完全是個驚喜； 這能讓我們真正看到人們對這個項目的看法以及讓人們真正參與其中。”

對于有的人來說，這就是個玩笑，但對于其他像基馬先生這樣的人，則接收到了項目想要傳達的信息?！霸谡故敬嬖谑裁磫栴}方面，他們做得很好；而在我意識到這個問題之前的那個階段就有點糟糕了?！被R先生評價道。

盡管如此，帕格倫先生和克勞福德女士認(rèn)為，問題可能比人們意識到的還要嚴(yán)重。

很多數(shù)據(jù)集已經(jīng)反復(fù)被科技巨頭、初創(chuàng)企業(yè)和學(xué)術(shù)實驗室用來訓(xùn)練各種人工智能，而圖網(wǎng)只是其中之一。這些數(shù)據(jù)集的任何瑕疵都已經(jīng)廣泛傳播。

如今，許多公司和研究人員正在努力消除這些瑕疵。為了應(yīng)對關(guān)于偏見的投訴，微軟和IBM已經(jīng)升級了他們的人臉識別服務(wù)。2019年1月，差不多在帕格倫先生和克勞福德女士首次探討圖網(wǎng)中使用奇怪標(biāo)簽的同一時間，斯坦福大學(xué)的研究人員已經(jīng)禁止了圖網(wǎng)數(shù)據(jù)集中所有人臉數(shù)據(jù)的下載，并在近期宣布他們將刪除大量人臉數(shù)據(jù)。該團隊發(fā)布在《紐約時報》上的聲明表示：他們的長期目標(biāo)是“解決數(shù)據(jù)集和算法的公正性、可靠性和透明性”。

但對帕格倫先生而言，更大的問題浮出了水面。AI最基礎(chǔ)的本質(zhì)是向人類學(xué)習(xí)，而人類就是有偏見的生物。他說：“我們對圖像進行分類的方式是我們世界觀的產(chǎn)物，任何類型的分類系統(tǒng)都會反映進行分類操作的人的價值觀?！?/p>