負責任的面部識別使用框架
——流程管理用例

引言

過去十年里，面部識別已成為最強大的生物識別技術(shù)之一，該技術(shù)可通過對個人面部輪廓信息進行比較和分析來識別和驗證個人身份。得益于機器學習和傳感技術(shù)的進展，面部識別系統(tǒng)也得到了極大的改進和提高，預(yù)計2024年其市場將激增至70億美元（2019年為32億美元）。事實上2010年最有效的面部識別系統(tǒng)的準確率已達72%，而如今面部識別系統(tǒng)的準確率可輕松達95%以上。

面部識別技術(shù)應(yīng)用廣泛，包括從改善銀行和零售業(yè)的消費者體驗到加快機場邊境管理速度等。雖然這項技術(shù)為許多產(chǎn)生社會效益的實際應(yīng)用創(chuàng)造了大量機會，但同時也對人權(quán)和公民自由構(gòu)成了不可忽視的嚴重威脅，特別是對言論自由、集會自由、聯(lián)盟自由以及隱私權(quán)的威脅。最令人擔憂的是，正如美國公民自由聯(lián)盟（ACLU）所強調(diào)的那樣：“收集和存儲信息以備不時之需的技術(shù)正在向積極監(jiān)控人們?nèi)粘Ｐ袨榈募夹g(shù)轉(zhuǎn)變，而這種監(jiān)控通常是實時進行的。”

近年來，公眾對面部識別技術(shù)的擔憂與日俱增，一些有爭議的問題也加劇了人們的這種擔憂。如一些零售商在未通知用戶或未經(jīng)用戶同意的情況下使用這項技術(shù)，越來越多的學校也正在采用這項技術(shù)對學生實施監(jiān)控，生物測定學數(shù)據(jù)泄露事件屢屢發(fā)生，個人數(shù)據(jù)在未經(jīng)用戶許可的情況下被用于面部識別系統(tǒng)的開發(fā)，等等。

盡管在過去幾年中，面部識別技術(shù)已取得了長足的進步，但由于某些局限性原因，人們對其在倫理方面的一些擔憂已開始浮出水面。一些研究表明，由于人口統(tǒng)計學特征上的一些差異，以此為基礎(chǔ)的面部識別技術(shù)有可能導(dǎo)致產(chǎn)生不公正偏見。最近一項研究發(fā)現(xiàn)，系統(tǒng)的準確性和檢測結(jié)果因膚色影響，對個體的識別可能會產(chǎn)生錯誤。此外，取決于具體系統(tǒng)的不同，性別、年齡、身高、眼鏡或頭巾也都會對準確性和檢測結(jié)果產(chǎn)生影響。

面部識別系統(tǒng)用于實時執(zhí)法場景時，以上因素都有可能增加識別錯誤的風險，并有可能導(dǎo)致重大的安全隱患。因此，對于面部識別技術(shù)，我們不能滿足于現(xiàn)狀，必須制定一種確保面部識別技術(shù)應(yīng)用可靠性和安全性的治理框架。我們認為，這一治理框架應(yīng)以證據(jù)為基礎(chǔ)，并由各利益相關(guān)方共同設(shè)計。

為此，世界經(jīng)濟論壇（WEF）在法國率先制定了以某個實例場景為試點、涉及多個利益相關(guān)方、基于證據(jù)制定相關(guān)政策的項目計劃。該計劃的目標是確立一個通過現(xiàn)場測試的面部識別技術(shù)的治理框架，主要挑戰(zhàn)是圍繞法國或其他國家的用例（考慮到當?shù)胤ㄒ?guī)、社會規(guī)范和其他背景因素）進行各種政策試點，以不斷強化治理行動的框架?！敦撠熑蔚拿娌孔R別使用框架——流程管理用例》白皮書是該項目實施過程的第一步。

此外，該治理框架旨在為歐洲和國際關(guān)于面部識別技術(shù)應(yīng)用展開的公開辯論提供信息。由于這個問題涉及個人和集體的權(quán)利和自由，是希望促進還是限制這些技術(shù)，以及使用這些技術(shù)需要具備哪些條件，公民及其民主代表是唯一合法的決策者。我們的目標是賦予公民及其代表以權(quán)力，讓他們來為面部識別技術(shù)的推行和取舍進行導(dǎo)航。

治理行動11項原則

治理行動原則第一版是多個利益相關(guān)方共同起草的結(jié)果，并認真參照了歐盟《通用數(shù)據(jù)保護條例》（GDPR）和警察與刑事司法法令，借鑒了其中的一些原則。治理行動原則第一版的制定還參照了為在整個歐盟范圍內(nèi)符合道德地使用人工智能技術(shù)鋪平道路至關(guān)重要的文件：歐盟委員會發(fā)布的由人工智能高級專家組編制的《人工智能道德準則》。

行動原則第一版的制定旨在確保負責任地使用面部識別技術(shù)，但DNA、指紋、虹膜或步態(tài)識別等其他生物特征并不包括在內(nèi)。這些原則的制定代表了本政策項目的第一個里程碑，應(yīng)參照政策試點的現(xiàn)場調(diào)查結(jié)果進行評審。測試階段我們將特別注意其有效實施的潛力、完整性和相關(guān)性。

偏見和歧視

使用面部識別系統(tǒng)的組織機構(gòu)應(yīng)采取適當步驟以確保避免產(chǎn)生不公平偏見的監(jiān)測結(jié)果，并盡可能減輕其不利影響。盡管完全消除偏見是人工智能研究中的最大挑戰(zhàn)之一，但各類組織機構(gòu)必須分配適當?shù)馁Y源用于實施工具和運作過程，以盡量減少不公平的偏見或結(jié)果。

合理使用面部識別系統(tǒng)

采用面部識別系統(tǒng)的組織機構(gòu)應(yīng)采取合理的步驟來評估其打算采用系統(tǒng)的性能和局限性，并確保系統(tǒng)的合理使用。面部識別系統(tǒng)應(yīng)根據(jù)預(yù)期用途進行高度定制。

系統(tǒng)設(shè)計中的隱私權(quán)問題

使用面部識別系統(tǒng)的組織機構(gòu)應(yīng)設(shè)計支持隱私的系統(tǒng)，包括系統(tǒng)安裝要求中的隱私考慮，在面部識別技術(shù)的設(shè)計、開發(fā)和測試以及支持業(yè)務(wù)實踐和持續(xù)的系統(tǒng)維護中貫徹隱私權(quán)支持政策。

問責制

使用面部識別系統(tǒng)的組織機構(gòu)應(yīng)確保內(nèi)部和跨第三方服務(wù)提供商或業(yè)務(wù)合作伙伴的問責制的實施。為此應(yīng)建立并公開披露指導(dǎo)其系統(tǒng)設(shè)計和使用的監(jiān)管原則。這一條不適用于系統(tǒng)在預(yù)防潛在網(wǎng)絡(luò)攻擊方面的技術(shù)規(guī)范。

風險評估與監(jiān)測

創(chuàng)建面部識別平臺或?qū)⒚娌孔R別作為系統(tǒng)一部分的組織機構(gòu)應(yīng)對其系統(tǒng)進行全面的風險評估，包括對隱私的影響、潛在的錯誤、易受到不公平的偏見、易受黑客攻擊和網(wǎng)絡(luò)攻擊的影響等。決策過程若缺乏透明度可能導(dǎo)致對公民權(quán)的侵犯。

性能評估

創(chuàng)建面部識別平臺或?qū)⒚娌孔R別作為某個系統(tǒng)一部分使用的組織機構(gòu)應(yīng)遵循其設(shè)計階段（實驗室測試）和實施階段（現(xiàn)場測試）的系統(tǒng)準確性和系統(tǒng)性能一致的評估標準。性能評估應(yīng)由有資質(zhì)的第三方組織進行審核，并向系統(tǒng)用戶提供評估報告。

知情權(quán)

應(yīng)采取措施，向?qū)γ娌孔R別系統(tǒng)使用存有疑問或有需要的最終用戶提供信息。終端用戶可應(yīng)要求獲得其個人生物特征數(shù)據(jù)。

知情同意書

個人應(yīng)就使用面部識別系統(tǒng)簽署已知情的、明確和肯定的同意書。任何時候數(shù)據(jù)用戶注冊一項由面部識別技術(shù)支持的新服務(wù)時，都對數(shù)據(jù)保留范圍表示明確的同意意見。

通告和同意書

在公共場所使用的面部識別系統(tǒng)，應(yīng)設(shè)置清晰的通告標牌，以確保與最終用戶就面部識別使用有明確溝通。使用面部識別系統(tǒng)的區(qū)域應(yīng)明確劃定并向個人提供相關(guān)提示以及系統(tǒng)運行時的視覺標志。

無障礙使用權(quán)和兒童權(quán)利

面部識別不應(yīng)排除任何人，應(yīng)始終能為包括老年人和殘疾人在內(nèi)的所有人所使用。在嬰兒和兒童等某些例外情況下，應(yīng)提供面部識別的替代辦法。

替代選項和人工監(jiān)督

對有可能導(dǎo)致某種后果的任何用途，如造成民事侵權(quán)的后果，應(yīng)介入人工審查（人工監(jiān)督）制度。為應(yīng)對和解決系統(tǒng)異常和意外錯誤，全自動運行系統(tǒng)的循環(huán)中應(yīng)始終有人工介入的后備系統(tǒng)。在面部識別系統(tǒng)中配置某種替代方案應(yīng)作為一個合理的選項。

流程管理政策試點

為支持負責任面部識別系統(tǒng)設(shè)計的最佳實踐，工作組決定將重點放在“流程管理”（面部識別作為訪問某種服務(wù)的一種手段）用例上，原因如下：首先，該用例可能在未來幾年內(nèi)予以開發(fā)。例如，東京奧運會的組織者已宣布使用面部識別來對運動員和工作人員進入體育場館和奧林匹克設(shè)施場館進行管理。此外，機場和航空公司也開始推行使用這項技術(shù)。其次，任何面部識別應(yīng)用都存在某些內(nèi)在風險，通過認識到這一挑戰(zhàn)以及面部識別用于流程管理的其他相關(guān)風險，項目成員可確定具體的風險，設(shè)計有針對性的緩解策略。此外，以上方法可作為面部識別技術(shù)的設(shè)計者和用戶的藍圖，說明如何將倫理道德考慮引入商業(yè)運作中。

為便于通過問卷調(diào)查評估面部識別技術(shù)在流程管理用例中負責任的使用，該技術(shù)的設(shè)計者和用戶在設(shè)計和部署面部識別系統(tǒng)時應(yīng)遵循以下最佳實踐。相關(guān)要求主要集中于四個方面：（1）明確選擇面部識別技術(shù)的理由；（2）設(shè)計與最終用戶特征相匹配的數(shù)據(jù)計劃；（3）減少偏見風險；（4）讓最終用戶擁有知情權(quán)并保持透明度。

通過最佳實踐，不僅可以為產(chǎn)品開發(fā)團隊的工作提供信息，還為技術(shù)提供者和使用者提供面部識別系統(tǒng)在整個組織機構(gòu)內(nèi)運作的信息。雖然一些要求與面部識別的各種應(yīng)用相關(guān)，但主要是針對流程管理用例專門設(shè)計的。此外，最佳實踐代表了一整套最低限度要求，可根據(jù)政策試點的結(jié)果加以審查和實施。

明確選擇面部識別技術(shù)的理由

確定要解決的問題，并就“與其他技術(shù)相比，面部識別技術(shù)能更好地解決某特定問題”的理由做出解釋，這對面部識別軟件的優(yōu)勢和劣勢進行評估并做出相應(yīng)決策是非常有價值的。此外，愿意使用該技術(shù)的組織機構(gòu)對假設(shè)數(shù)據(jù)須明確驗證，例如，可能的假陽性率和假陰性率、可能的性能效果等，以支持對面部識別軟件的價值評估。如果這些假設(shè)沒有得到驗證，應(yīng)收集數(shù)據(jù)來驗證它們。

設(shè)計與最終用戶特征相匹配的數(shù)據(jù)計劃

根據(jù)最終用戶確定的特性設(shè)計一個數(shù)據(jù)計劃，其中應(yīng)包括一定數(shù)量的樣本，并收集相應(yīng)的數(shù)據(jù)，這些數(shù)據(jù)應(yīng)反映出系統(tǒng)可能部署場所的情況。即使是經(jīng)過使用驗證的模式，也必須收集針對具體使用條件和最終用戶特征的測試數(shù)據(jù)集，以評估系統(tǒng)是否存在不公平偏見，這一點很重要。對收集的數(shù)據(jù)應(yīng)加以評估，以確保其與數(shù)據(jù)計劃相一致。

減少偏見風險

在開發(fā)用于流程管理用例的系統(tǒng)中，應(yīng)明確存在的不公平偏見風險。為此，提供或使用面部識別技術(shù)的組織機構(gòu)應(yīng)：評估運作過程中的每個步驟（例如，基于圖像捕獲的不公平偏見和基于模型性能的不公平偏見），考慮并記錄每種情況下的假陽性和假陰性錯誤的影響；記錄系統(tǒng)最終用戶的特征，包括年齡范圍、性別、出生國、種族和民族，并按使偏見最小化的方向進行優(yōu)先順序排列；并將對減少偏見和差異進行評估。記錄系統(tǒng)設(shè)計中不同人群的特征，例如，對坐輪椅或非常高的人如何識別，對于戴頭巾或其他頭飾的人又將如何識別；對已識別的每一種歧視風險，組織機構(gòu)應(yīng)對系統(tǒng)的這種偏見做出明確評估：將使用哪些衡量標準，如何測量，投入使用的系統(tǒng)必須滿足哪些標準；確定每種風險評估的環(huán)境，以及對周圍環(huán)境的反應(yīng)。

在整個開發(fā)過程中，應(yīng)多次評估系統(tǒng)是否存在不公平的偏見，以便有充分的時間來減少偏見，在系統(tǒng)部署之前和之后都應(yīng)進行評估。若仍存在可能對用戶造成損害的任何差距，在減輕損害或消除差距之前，不應(yīng)將系統(tǒng)投入使用。

最終用戶的知情權(quán)及信息透明

應(yīng)方便最終用戶訪問有關(guān)面部識別系統(tǒng)功能的相關(guān)信息，系統(tǒng)設(shè)計和使用的監(jiān)管原則應(yīng)轉(zhuǎn)換為非專家可理解的格式，告知包括重要條款摘要在內(nèi)的同意政策（如預(yù)期目的、數(shù)據(jù)保留期、數(shù)據(jù)保護和共享政策），必須以使用者能夠理解的方式且標記明確易讀的方式明示監(jiān)控系統(tǒng)拍攝的空間范圍。

結(jié)語

考慮到生物特征數(shù)據(jù)的敏感性，使用面部識別技術(shù)存在內(nèi)在風險。雖然其使用可為個人和社區(qū)帶來公認的好處，但風險的存在也是事實。因此，迫切需要建立某種強健的治理框架來減輕風險。設(shè)計這樣一個框架需要有可實現(xiàn)的原則，進行現(xiàn)場測試，并通過政策試點對使用結(jié)果進行評審。這一進程將確保治理框架是可靠的、保護性的，并得到各利益相關(guān)方的認可。

為實現(xiàn)這一目標，我們建立了一個包含多個利益相關(guān)方的社區(qū)，并提出了圍繞四個主要步驟的方法：（1）確定行動原則；（2）設(shè)計一整套最佳實踐來支持這些原則的實施；（3）通過評估問卷來評估組織機構(gòu)是否遵循了這些原則；（4）通過獨立審計對這些原則進行驗證。這四個步驟不僅有助于為負責任的流程管理用例的系統(tǒng)設(shè)計者提供信息，而且還可以確保其設(shè)計人員和用戶有效地遵循這些可實現(xiàn)的原則。

我們堅信，為了確保這些行動原則得到有效采納，必須與系統(tǒng)運作核心活動密切結(jié)合，才能將其付諸實施。這一過程的實施需要行業(yè)參與者、決策者、學術(shù)界和民間社會代表之間強有力的合作。如果能夠在各利益相關(guān)方之間建立起可持續(xù)的合作，將可為發(fā)展真正以人為本的技術(shù)奠定基礎(chǔ)。

下一步是現(xiàn)場測試政策框架，評估其相關(guān)性，并根據(jù)觀察結(jié)果對其進行審查。通過政策試點項目，法國標準化協(xié)會（AFNOR）將對相關(guān)的審計框架進行測試，并為設(shè)計負責任的面部識別應(yīng)用標準鋪平道路。一旦試點項目完成，我們將建立一個致力于尊重和促進這一治理框架的多方利益相關(guān)者聯(lián)盟。

考慮到項目計劃的開放性和實驗性原則，我們將鼓勵行業(yè)參與者、公眾行動者、民間社會代表、決策者和學術(shù)界人士與我們一起踏上這一征程，以強化我們的治理框架并確保其影響力。

資料來源 WEF