警惕金融消費(fèi)場(chǎng)景中的算法性別歧視

胡曉萌

性別歧視的現(xiàn)象在現(xiàn)實(shí)生活中常常發(fā)生。如今，我們已經(jīng)邁入了大數(shù)據(jù)時(shí)代，在數(shù)據(jù)的全面透視下，性別歧視的現(xiàn)象更有愈演愈烈之勢(shì)，其中在金融消費(fèi)場(chǎng)景中特別突出。

2019年8月20日，美國蘋果公司與高盛集團(tuán)聯(lián)合，正式推出信用卡Apple Card。同年11月，美企業(yè)家漢森（David Heinemeier Hansson）在Twitter上指責(zé)Apple Card涉嫌算法性別歧視，因?yàn)樗男庞妙~度是他妻子的20倍，而他們?cè)谏暾?qǐng)時(shí)提交的是聯(lián)合納稅申報(bào)表，并且妻子的信用評(píng)分更高。Apple聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克（Steve Wozniak）也指出，他獲得的Apple Card信用額度是他妻子的10倍，盡管他們夫妻共同使用多個(gè)銀行賬戶和信用卡賬戶。

不久，紐約金融服務(wù)部（New York Department of Financial Services）發(fā)言人明確表示，金融服務(wù)部已決定就此展開調(diào)查，以確定Apple Card的算法是否存在違法違規(guī)行為，并確保所有消費(fèi)者不分性別都受到平等對(duì)待。

實(shí)際上，在 1972年就有國外學(xué)者明確指出，在信貸市場(chǎng)中存在明顯的性別歧視現(xiàn)象，女性即便被認(rèn)定擁有與男性相同的還款能力，但在獲得貸款的可能性上卻依然會(huì)遭受不公正的待遇。同時(shí)，還有學(xué)者研究指出，信貸市場(chǎng)中存在逆向選擇和道德風(fēng)險(xiǎn)問題，使女性在傳統(tǒng)信貸市場(chǎng)中更容易遭受偏好歧視。因此，女性借款人在傳統(tǒng)信貸市場(chǎng)中不僅借款成功率低，通常還被要求支付更高的平均還款利率。

如今，科技和算法加持金融服務(wù)的發(fā)展，但對(duì)性別歧視的問題并沒有太多改善，有些方面反而更加顯著。2016年，暨南大學(xué)對(duì)網(wǎng)貸平臺(tái)“人人貸”在2012年3月至2014年12月期間產(chǎn)生的170817筆訂單數(shù)據(jù)進(jìn)行了分析，得出結(jié)論：一是性別的風(fēng)險(xiǎn)傾向存在顯著的異質(zhì)性，女性的借款違約率相比男性低38%;性別差異與借款可獲得性之間不存在顯著的影響，說明女性借款人在中國互聯(lián)網(wǎng)借貸市場(chǎng)中受到了非理性的偏好歧視;單身女性的借款成功率顯著低于男性，受到的歧視更為嚴(yán)重。2018年，江南大學(xué)的一項(xiàng)類似研究，不僅得出類似的結(jié)論，還發(fā)現(xiàn)女性的學(xué)歷背景無助于提高女性的借款成功率。

綜上可見，金融消費(fèi)領(lǐng)域中存在嚴(yán)重的性別歧視現(xiàn)象，而建立在數(shù)學(xué)之上的算法并不會(huì)自然地保持中立。這一社會(huì)問題正是上海瑪娜數(shù)據(jù)科技發(fā)展基金會(huì)（以下簡(jiǎn)稱“瑪娜數(shù)據(jù)基金會(huì)”）所關(guān)注的領(lǐng)域。在瑪娜數(shù)據(jù)基金會(huì)前期的研究中發(fā)現(xiàn)，算法性別歧視有兩大原因：第一，在數(shù)據(jù)化的背景下，社會(huì)性別通過數(shù)據(jù)化擴(kuò)大其影響，性別觀念、權(quán)力關(guān)系、責(zé)任分配等演化成算法的內(nèi)在運(yùn)行機(jī)制，算法在不斷固化和加深社會(huì)原本存在的性別歧視，并且性別歧視在算法“黑箱”中持續(xù)化、規(guī)?；?、隱蔽化地產(chǎn)生作用;第二，現(xiàn)代技術(shù)不是中性的，是男性價(jià)值和文化的體現(xiàn)。技術(shù)具有性別統(tǒng)治的行為意志，會(huì)導(dǎo)致技術(shù)創(chuàng)新實(shí)踐中的女性缺席，也加劇了“性別失衡”，最終導(dǎo)致人工智能技術(shù)創(chuàng)新中的“女性視角”缺失，無法及時(shí)發(fā)現(xiàn)、糾正算法在設(shè)計(jì)研發(fā)和運(yùn)行中可能存在的性別歧視。

盡管女性的還款能力、學(xué)歷背景、履約誠信度等金融重要參考要素都不弱于男性，但是女性仍然會(huì)被算法歧視，因?yàn)樗惴ɡ^承了社會(huì)中原本的性別歧視。而且這種歧視由于算法的“黑箱”屬性而無法輕易被察覺。即使女性用戶發(fā)覺自己被歧視了，但在以精確無誤和客觀中立標(biāo)榜的算法面前也無力辯駁，此時(shí)客服人員會(huì)告訴用戶“這個(gè)是系統(tǒng)給出的結(jié)果，我們也沒有辦法”。

不管在金融消費(fèi)領(lǐng)域，還是人工智能技術(shù)的創(chuàng)新領(lǐng)域，大多為男性主導(dǎo)話語權(quán)，“女性視角”的缺失成為金融消費(fèi)場(chǎng)景中算法性別歧視問題的重要原因?；氐紸pple Card這個(gè)案例，任何互聯(lián)網(wǎng)產(chǎn)品在上線之前都要經(jīng)過不斷地測(cè)試，發(fā)現(xiàn)和消除系統(tǒng)運(yùn)行的漏洞，保證其運(yùn)行的穩(wěn)定性。如果Apple Card團(tuán)隊(duì)擁有性別視角，在產(chǎn)品上線之前進(jìn)行了性別方面的測(cè)試，則很容易就會(huì)發(fā)現(xiàn)算法性別歧視問題。

我們正在迎來算法社會(huì)的到來，算法在金融消費(fèi)領(lǐng)域會(huì)扮演越來越重要的角色。我們應(yīng)警惕和應(yīng)對(duì)金融消費(fèi)場(chǎng)景中的算法性別歧視，保護(hù)好消費(fèi)者的切身利益，也守護(hù)好企業(yè)的品牌聲譽(yù)，避免其成燎原之勢(shì)。 ? ? ? ? ? ? ? ? ? ? ? （企業(yè)推廣）

作者系瑪娜數(shù)據(jù)基金會(huì)研究員

責(zé)任編輯：葛辛晶