算法決策風(fēng)險(xiǎn)的應(yīng)對(duì)與破局

數(shù)智技術(shù)賦能傳統(tǒng)產(chǎn)業(yè)，推動(dòng)其數(shù)字化、智能化、網(wǎng)絡(luò)化改造。然而，在這一轉(zhuǎn)型過(guò)程中，就業(yè)市場(chǎng)正在被人工智能（AI）影響和改變，算法決策下的就業(yè)歧視問(wèn)題成為我們不得不關(guān)注的重點(diǎn)。

算法決策應(yīng)用及歧視風(fēng)險(xiǎn)

我們認(rèn)為，數(shù)智化時(shí)代下，算法決策被應(yīng)用在職場(chǎng)全生命周期的各個(gè)環(huán)節(jié)（包括求職者發(fā)現(xiàn)環(huán)節(jié)、面試篩選環(huán)節(jié)、員工管理環(huán)節(jié)、離職環(huán)節(jié)），當(dāng)然，算法決策的應(yīng)用在不同環(huán)節(jié)中也不可避免地存在一定的風(fēng)險(xiǎn)。

第一，求職者發(fā)現(xiàn)環(huán)節(jié)的算法決策。在求職者發(fā)現(xiàn)環(huán)節(jié)，招聘平臺(tái)可通過(guò)算法推薦系統(tǒng)實(shí)現(xiàn)人崗匹配。一方面算法可自動(dòng)解析求職者簡(jiǎn)歷關(guān)鍵詞，分析求職者的需求，向其定向化推送符合其意向的崗位，使求職者投遞效率顯著提升；另一方面，算法推薦可以快速幫助企業(yè)選擇滿足其特定要求的簡(jiǎn)歷，縮短企業(yè)簡(jiǎn)歷篩選時(shí)間。

但是，在該環(huán)節(jié)中亦存在一定的風(fēng)險(xiǎn)。例如，算法通過(guò)學(xué)習(xí)某企業(yè)的歷史數(shù)據(jù)，產(chǎn)生了歷史偏見(jiàn)。因此算法決策在求職者發(fā)現(xiàn)環(huán)節(jié)，就有可能因?yàn)闅v史數(shù)據(jù)導(dǎo)致偏見(jiàn)或歧視的產(chǎn)生，進(jìn)而導(dǎo)致機(jī)會(huì)的不均等。另外，如果某算法系統(tǒng)將“頻繁跳槽”設(shè)為負(fù)面標(biāo)簽，那么比如因公司解散、合并等而離職的人，可能因?yàn)榉亲陨磉^(guò)錯(cuò)而被認(rèn)定為頻繁跳槽，進(jìn)而導(dǎo)致被推薦率下降。

第二，面試篩選環(huán)節(jié)的算法決策。在面試篩選環(huán)節(jié)，算法決策發(fā)揮的空間將更大，有的系統(tǒng)通過(guò)算法決策功能可以在1分鐘篩選完幾百份簡(jiǎn)歷，并可以通過(guò)NLP（自然語(yǔ)言處理）評(píng)估簡(jiǎn)歷中項(xiàng)目經(jīng)歷的真實(shí)性，幫助企業(yè)減少簡(jiǎn)歷造假情況。在面試環(huán)節(jié)，亦可通過(guò)算法系統(tǒng)實(shí)現(xiàn)語(yǔ)音識(shí)別，分析求職者的邏輯表達(dá)能力，捕捉求職者的微表情以判斷其抗壓能力，或?qū)⒏泳珳?zhǔn)且高效地評(píng)估求職者。

然而，技術(shù)局限性依然帶來(lái)了新的算法歧視風(fēng)險(xiǎn)。例如，某AI面試算法決策系統(tǒng)將微笑頻率低標(biāo)記為“不友好”，或者將瞳孔抖動(dòng)次數(shù)多視為“說(shuō)謊”。但是面試時(shí)談?wù)摰木唧w話題或面試崗位的不同均可能導(dǎo)致面試時(shí)微笑的情況存在差異，另外戴隱形眼鏡者可能眨眼頻率更高，在一些情況下會(huì)被誤判為“說(shuō)謊”。

第三，就業(yè)管理環(huán)節(jié)的算法決策。在就業(yè)管理環(huán)節(jié)，算法決策被廣泛應(yīng)用于績(jī)效考核、崗位調(diào)配等場(chǎng)景。例如，某外賣(mài)平臺(tái)通過(guò)算法優(yōu)化配送路線，使騎手日均單量提升30%。另外，算法決策系統(tǒng)還可以基于同事互評(píng)、項(xiàng)目完成率等數(shù)據(jù)預(yù)測(cè)員工表現(xiàn)，提供績(jī)效評(píng)估的方案，或通過(guò)算法決策系統(tǒng)評(píng)估員工的崗位匹配度，為員工推薦符合其自身能力的崗位。

不過(guò)，通過(guò)算法進(jìn)行就業(yè)管理亦可能異化為“數(shù)字控制”?！蛾P(guān)于開(kāi)展“清朗·網(wǎng)絡(luò)平臺(tái)算法典型問(wèn)題治理”專項(xiàng)行動(dòng)的通知》，就對(duì)包括“一味壓縮配送時(shí)間導(dǎo)致事故發(fā)生率上升等問(wèn)題”等的“盲目追求利益侵害新就業(yè)形態(tài)勞動(dòng)者權(quán)益”的算法機(jī)制提出了相關(guān)要求。

第四，離職環(huán)節(jié)的算法決策。在員工離職環(huán)節(jié)，算法決策亦有一定的應(yīng)用空間。例如，某企業(yè)使用生存分析算法模型與機(jī)器學(xué)習(xí)預(yù)測(cè)員工離職傾向及評(píng)估相應(yīng)指標(biāo)，分析要素可包括醫(yī)療報(bào)銷(xiāo)頻次、通勤距離變化、晉升停滯時(shí)長(zhǎng)、內(nèi)部通信軟件關(guān)鍵詞等，綜合評(píng)估員工的身體健康情況、心理預(yù)期、晉升機(jī)會(huì)等。

值得注意的是，該算法決策的應(yīng)用會(huì)在一定程度上限制員工的業(yè)務(wù)發(fā)展機(jī)會(huì)，進(jìn)而導(dǎo)致員工對(duì)其工作滿意度下降，從而提高被預(yù)測(cè)人員的真實(shí)離職率，該結(jié)果反饋給算法，形成歧視增強(qiáng)回路。

通過(guò)以上的分析，我們可以看出數(shù)智化時(shí)代下算法決策在職場(chǎng)全生命周期的應(yīng)用及面臨的算法歧視風(fēng)險(xiǎn)。那么，如何應(yīng)對(duì)算法決策中可能存在的歧視風(fēng)險(xiǎn)，這是我們應(yīng)該予以關(guān)注的核心。

歧視風(fēng)險(xiǎn)的應(yīng)對(duì)與破局

一是技術(shù)的進(jìn)一步透明公開(kāi)。從技術(shù)層面來(lái)說(shuō)，可通過(guò)“數(shù)據(jù)預(yù)處理→訓(xùn)練約束→后處理校準(zhǔn)”的鏈條式干預(yù)，系統(tǒng)性降低算法歧視風(fēng)險(xiǎn)。例如，在數(shù)據(jù)預(yù)處理階段，應(yīng)明確移除數(shù)據(jù)中與受保護(hù)特征直接相關(guān)的字段來(lái)剔除敏感特征的數(shù)據(jù)集，該方法可一定程度上從源頭減少算法歧視的產(chǎn)生。在算法訓(xùn)練階段，可通過(guò)主模型預(yù)測(cè)目標(biāo)變量，對(duì)抗模型試圖從主模型的預(yù)測(cè)中推斷敏感特征的對(duì)抗訓(xùn)練方式來(lái)調(diào)整模型，避免模型出現(xiàn)算法歧視。在后處理階段，可通過(guò)閾值調(diào)整等方式校準(zhǔn)算法模型的輸出。

二是法律法規(guī)的進(jìn)一步細(xì)化。在我國(guó)，關(guān)于算法的法律法規(guī)主要有《中華人民共和國(guó)個(gè)人信息保護(hù)法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等，但是上述法律法規(guī)并沒(méi)有對(duì)算法決策中就業(yè)歧視的判定及歸責(zé)進(jìn)行明確。因此，應(yīng)進(jìn)一步明確、完善算法決策中就業(yè)歧視的法律規(guī)定。例如，除了規(guī)制直接用性別、年齡、種族等要素進(jìn)行算法歧視的情況，也應(yīng)將通過(guò)間接特征（如通過(guò)性格測(cè)試的結(jié)果作為通過(guò)面試的因素）或因“歷史數(shù)據(jù)偏差”等情況導(dǎo)致的間接歧視納入法律調(diào)整范圍。同時(shí)應(yīng)進(jìn)一步強(qiáng)化責(zé)任歸屬，除了要求部分算法進(jìn)行備案，還應(yīng)要求算法開(kāi)發(fā)者和使用者承擔(dān)連帶責(zé)任。同時(shí)，在某些高風(fēng)險(xiǎn)領(lǐng)域（例如招聘面試等）可以要求強(qiáng)制進(jìn)行定期審計(jì)。

三是社會(huì)的多方協(xié)同治理。算法的治理及算法決策中的就業(yè)歧視問(wèn)題，不應(yīng)僅由一個(gè)部門(mén)處理，應(yīng)形成跨部門(mén)監(jiān)管的機(jī)制和合力。未來(lái)也可計(jì)劃設(shè)立專門(mén)機(jī)構(gòu)，并聯(lián)合技術(shù)專家、法律學(xué)者、工會(huì)代表等對(duì)招聘平臺(tái)進(jìn)行動(dòng)態(tài)監(jiān)督。例如，對(duì)招聘平臺(tái)、AI面試系統(tǒng)等高風(fēng)險(xiǎn)場(chǎng)景開(kāi)展“雙隨機(jī)”抽查，要求企業(yè)實(shí)時(shí)接入算法決策日志以供審查。同時(shí)，應(yīng)推動(dòng)企業(yè)建立內(nèi)部算法倫理委員會(huì)，制定透明招聘流程，并向社會(huì)公示算法規(guī)則。公示的情況可考慮在企業(yè)官網(wǎng)與招聘平臺(tái)顯著位置公示算法規(guī)則中關(guān)于簡(jiǎn)歷的初篩維度及權(quán)重。同時(shí)，為求職者提供申訴渠道，如求職者有需要，應(yīng)向求職者說(shuō)明算法的規(guī)則。

技術(shù)向善——科技進(jìn)步的長(zhǎng)期價(jià)值與方向所在。

四是其他風(fēng)險(xiǎn)應(yīng)對(duì)與破局方法。為了更好地應(yīng)對(duì)算法決策中的就業(yè)歧視風(fēng)險(xiǎn)，還可以在某些跨境場(chǎng)景中進(jìn)行國(guó)際合作。例如，跨國(guó)企業(yè)的招聘系統(tǒng)可能覆蓋多國(guó)求職者，單一國(guó)家監(jiān)管可能無(wú)法約束其全球業(yè)務(wù)。因此，算法技術(shù)的跨國(guó)性很可能加劇國(guó)際勞動(dòng)力市場(chǎng)不平等。未來(lái)可以考慮由多國(guó)共同制定算法審查倫理準(zhǔn)則，積極開(kāi)展國(guó)際合作。另外，可考慮在對(duì)個(gè)人權(quán)益有重大影響的情形加強(qiáng)人工的介入?！吨腥A人民共和國(guó)個(gè)人信息保護(hù)法》規(guī)定，通過(guò)自動(dòng)化決策方式作出對(duì)個(gè)人權(quán)益有重大影響的決定，個(gè)人有權(quán)拒絕個(gè)人信息處理者僅通過(guò)自動(dòng)化決策的方式作出決定。因此，在涉及重大人事決策的情形中應(yīng)考慮加強(qiáng)人工的介入，例如，算法僅提供輔助建議或采取人工復(fù)核機(jī)制；又如，可以考慮建立“雙軌制面試”，在AI通過(guò)算法進(jìn)行面試后，對(duì)邊緣求職者（如分?jǐn)?shù)相差5%以內(nèi)的落選者）啟動(dòng)人工復(fù)審，防止算法歧視導(dǎo)致的誤判及不公。

企業(yè)、勞動(dòng)者及整個(gè)社會(huì)應(yīng)正視挑戰(zhàn)，正確面對(duì)算法決策在就業(yè)中的積極作用，以及策略性地解決其中的就業(yè)歧視風(fēng)險(xiǎn)。我們?cè)诳隙ㄋ惴Q策帶來(lái)效率提升的同時(shí)，也應(yīng)關(guān)注勞動(dòng)者合法權(quán)益的保護(hù)，確定合理的算法歧視監(jiān)管及治理手段。在技術(shù)創(chuàng)新與制度規(guī)則的動(dòng)態(tài)平衡中，構(gòu)建政府引導(dǎo)、技術(shù)賦能、法規(guī)完善、社會(huì)多方協(xié)同的良好治理生態(tài)，讓算法真正推動(dòng)社會(huì)的公平和發(fā)展。

（金澤剛系同濟(jì)大學(xué)法學(xué)院教授；李勝男系上海德禾翰通律師事務(wù)所律師）