存活五天的“退休小姐姐”識(shí)別程序

胡卜文

5月27日，一名身居德國的中國程序員“@將記憶深埋”（以下簡(jiǎn)稱“深埋”）發(fā)布微博稱，他和他的團(tuán)隊(duì)開發(fā)出了一個(gè)能夠識(shí)別“從事不可描述行業(yè)的小姐姐”的程序。據(jù)稱，他們通過從1024、91、sex8、PronHub、xvideos等色情網(wǎng)站上抓取照片或視頻并進(jìn)行數(shù)字畫像，再與Facebook、Instagram、TikTok、抖音、微博等社交媒體上的數(shù)據(jù)進(jìn)行交叉比對(duì)，已經(jīng)成功在全球范圍內(nèi)識(shí)別出十萬多“退休小姐姐”。

開發(fā)這一程序的想法始于去年?！拌b于很多人都在說程序員是各種小姐姐的接盤俠”，“為碼農(nóng)朋友們做一個(gè)初步過濾”。

“深埋”強(qiáng)調(diào)，為防止源數(shù)據(jù)的濫用和規(guī)避法律風(fēng)險(xiǎn)，這一程序“全程采用eID認(rèn)證身份和只進(jìn)行查詢者人臉識(shí)別認(rèn)證后查詢本人信息”。在他看來，該程序的社會(huì)價(jià)值遠(yuǎn)遠(yuǎn)大于入侵特定人群隱私所帶來的風(fēng)險(xiǎn)。

然而，根據(jù)歐盟2018年5月25日實(shí)施的《通用數(shù)據(jù)保護(hù)條例》（GDPR），個(gè)人數(shù)據(jù)的收集需要事先征得本人同意，且必須合法、透明、有特定目的地處理數(shù)據(jù)。《MIT科技評(píng)論》援引一位德國律師的說法，上述程序如收費(fèi)使用，開發(fā)者可能面臨長(zhǎng)達(dá)三年的監(jiān)禁。

因承受不了輿論壓力，“深埋”最終在5月31日發(fā)布微博，聲稱自己已經(jīng)執(zhí)行該程序的數(shù)據(jù)刪除命令。他將本次事件歸咎于自己的低情商，“如果刪掉去年那條微博，或如同一些網(wǎng)友說的那樣換個(gè)說法，比如‘看看你有沒有被渣男偷拍之類的（可能就不會(huì)引起這么大的爭(zhēng)議）?！蹦壳?，他刪除了有關(guān)這一程序的所有微博。

實(shí)際上，這并不是第一個(gè)被認(rèn)為是監(jiān)視和控制女性身體的程序。在此之前，就有人開發(fā)出了將AV演員和女明星換臉的deepfakes算法，還有人專門建立了性工作者的數(shù)據(jù)庫。程序員群體成為“厭女癥 ”的高發(fā)區(qū)，很大程度上是因?yàn)榕噪y以在計(jì)算機(jī)技術(shù)領(lǐng)域獲得話語權(quán)，性別刻板印象和性別歧視在該領(lǐng)域長(zhǎng)久存在。

2013年，在一次計(jì)算機(jī)行業(yè)女性年會(huì)上，F(xiàn)acebook首席運(yùn)營官謝麗爾·桑德伯格首次公開提到女性在科技行業(yè)的困境以及性別差異越來越大這一事實(shí)，并且警告稱科技行業(yè)女性人數(shù)正在下降。隨后，盡管支持女性參與計(jì)算機(jī)技術(shù)領(lǐng)域工作的項(xiàng)目不斷涌現(xiàn)，改變科技行業(yè)性別不公平狀況的進(jìn)展仍然緩慢。

此事在全球網(wǎng)絡(luò)社區(qū)引發(fā)關(guān)注和質(zhì)疑。一些男性網(wǎng)民贊頌神奇的技術(shù)和“英雄”開發(fā)者，但更多人譴責(zé)這種由算法驅(qū)動(dòng)的性別暴力和騷擾。對(duì)此，“深埋”反復(fù)辯稱，其最初的意圖是為了尋找那些濫交的女性，但在項(xiàng)目真正啟動(dòng)后，他意識(shí)到可以用這個(gè)程序來幫助那些被迷奸、誘奸并被拍下畫面后發(fā)布到色情網(wǎng)站的受害女性，從而為她們要求色情網(wǎng)站刪除信息提供可能。

谷歌2019年的多元化報(bào)告顯示，其全球范圍內(nèi)的女性員工比例為33.2%，技術(shù)人員中女性占比為25.7%，相比2015年提升了3.6%。蘋果發(fā)布的多元化報(bào)告則顯示，從2014年到2018年，公司雇傭的女性員工占比從30%增加到33%，技術(shù)人員中女性占比從20%增加到23%。將范圍縮小至中國，Codeforge發(fā)布的2015上半年中國程序員調(diào)查報(bào)告顯示，女性程序員占比僅有不到20%。

近年來，人們驚訝地發(fā)現(xiàn)，AI“學(xué)會(huì)了”性別歧視：性別偏見在數(shù)據(jù)庫里普遍存在，如果沒有數(shù)據(jù)洞察和糾偏，它只會(huì)被人工智能進(jìn)一步放大。

Amazon的一個(gè)團(tuán)隊(duì)自2014年開始一直在嘗試使用人工智能審查求職者的簡(jiǎn)歷，結(jié)果發(fā)現(xiàn)它對(duì)男性應(yīng)聘者的評(píng)分更高。原來，AI深度學(xué)習(xí)的樣本來自Amazon公司過去10年內(nèi)收到的所有簡(jiǎn)歷，其中原本男性申請(qǐng)者就偏多，最終錄取者也以男性居多。這使得AI形成了男性應(yīng)聘者比女性更優(yōu)秀的認(rèn)知。由于無法保證在性別、種族等方面做到公平，Amazon最終解散了這一團(tuán)隊(duì)。

“沒有事實(shí)上的技術(shù)中立。對(duì)機(jī)器來說，中立的就是占統(tǒng)治地位的?！眲虼髮W(xué)未來研究所教授魯恩·奈如普（Rune Nyrup）如是說。