審核AI系統(tǒng)需注意的事項(xiàng)

家峻熙

大多數(shù)公司每年都對(duì)記錄數(shù)據(jù)系統(tǒng)進(jìn)行IT審核，但審核人工智能和大數(shù)據(jù)，同時(shí)確保它們符合足夠的安全和治理要求卻是一項(xiàng)有待完善的工作。

好消息是，許多公司已經(jīng)有諸多實(shí)踐成果可運(yùn)用于AI和大數(shù)據(jù)，這些實(shí)踐體現(xiàn)在可適用于AI和大數(shù)據(jù)的IT政策和程序中。在專(zhuān)業(yè)審核公司提供的AI和大數(shù)據(jù)服務(wù)很有限時(shí)，這一切極有幫助。以下是公司可以用來(lái)自我審核AI和大數(shù)據(jù)的問(wèn)題和方法。

1.數(shù)據(jù)來(lái)源

許多公司從業(yè)務(wù)運(yùn)營(yíng)獲取自己的數(shù)據(jù)，但也從外部供應(yīng)商處購(gòu)買(mǎi)和使用數(shù)據(jù)，用于AI和分析。在將數(shù)據(jù)用于AI和分析之前，應(yīng)評(píng)估來(lái)自外部的所有數(shù)據(jù)的可信度和數(shù)據(jù)質(zhì)量。審核來(lái)自第三方的數(shù)據(jù)應(yīng)該是每份采購(gòu)需求表（RFP）的一部分。

2.數(shù)據(jù)隱私

您可能與客戶(hù)談妥了自己的數(shù)據(jù)隱私規(guī)則和協(xié)議，但是面對(duì)可能沒(méi)有同樣數(shù)據(jù)隱私標(biāo)準(zhǔn)的外部業(yè)務(wù)合作伙伴時(shí)，這些數(shù)據(jù)隱私權(quán)會(huì)面臨問(wèn)題。在這種情況下，不僅IT部門(mén)應(yīng)該有確保數(shù)據(jù)隱私的政策和程序，公司法務(wù)和合規(guī)部門(mén)也應(yīng)該有這類(lèi)政策和程序，以確保其數(shù)據(jù)可能被使用、匿名或共享的客戶(hù)了解這一事實(shí)。

3.鎖定程序

物聯(lián)網(wǎng)和邊緣計(jì)算設(shè)備將日益為系統(tǒng)帶來(lái)非結(jié)構(gòu)化大數(shù)據(jù)。由于這些是移動(dòng)的分布式設(shè)備，它們很容易丟失、中招或放錯(cuò)地方。至少，IT部門(mén)應(yīng)該有一種方法來(lái)跟蹤這些設(shè)備及使用情況，一旦被報(bào)告丟失或放錯(cuò)地方就鎖起來(lái)。

4.所有IT系統(tǒng)是否都符合安全設(shè)置

許多邊緣計(jì)算和物聯(lián)網(wǎng)設(shè)備以及路由器和集線器都有廠商的默認(rèn)安全設(shè)置，它們不符合企業(yè)安全標(biāo)準(zhǔn)。作為安裝過(guò)程的一部分，IT部門(mén)應(yīng)添加這一步：檢查默認(rèn)安全設(shè)置，然后將其設(shè)為企業(yè)安全設(shè)置之后再部署。

5.數(shù)據(jù)篩選

適當(dāng)級(jí)別的數(shù)據(jù)清理應(yīng)落實(shí)到位，可能涉及數(shù)據(jù)丟棄、數(shù)據(jù)規(guī)范以及使用提取轉(zhuǎn)換加載（ETL）工具等。這是為了確保進(jìn)入您的分析和AI系統(tǒng)的數(shù)據(jù)盡可能“干凈”、準(zhǔn)確。

6. AI的確定性

AI系統(tǒng)中使用的算法和數(shù)據(jù)在不斷變化，因此對(duì)AI而言今天正確的假設(shè)明天可能不適用了。AI還可能含有無(wú)法立即檢測(cè)到的偏誤。因此，監(jiān)控和修改AI算法、查詢(xún)和數(shù)據(jù)的流程必須是持續(xù)不斷的。應(yīng)落實(shí)一套AI程序，用于定期調(diào)整AI數(shù)據(jù)和操作。

7.設(shè)置權(quán)限

所有大數(shù)據(jù)存儲(chǔ)庫(kù)以及AI和分析系統(tǒng)都應(yīng)進(jìn)行24×7全天候監(jiān)控，以確保只有授權(quán)使用數(shù)據(jù)和系統(tǒng)的用戶(hù)才能訪問(wèn)它們。

8.評(píng)估

至少應(yīng)每年評(píng)估一次AI系統(tǒng)，以確認(rèn)它們滿(mǎn)足業(yè)務(wù)的需求和使命。如果未滿(mǎn)足，應(yīng)修改或丟棄它們。

9.故障切換

如果您將AI操作嵌入到業(yè)務(wù)流程中，災(zāi)難恢復(fù)計(jì)劃應(yīng)考慮到這些系統(tǒng)無(wú)法運(yùn)行的情況。如果系統(tǒng)出現(xiàn)停機(jī)，您會(huì)怎么做？有快速上線的備份系統(tǒng)嗎？還是一套手動(dòng)程序（以及知道如何執(zhí)行這些程序的員工）可以接過(guò)任務(wù)，直至AI系統(tǒng)恢復(fù)過(guò)來(lái)？公司能否將AI做出的決策推遲到系統(tǒng)恢復(fù)正常？要為IT和業(yè)務(wù)部門(mén)明確列出停機(jī)后應(yīng)采取的一套程序。