略談圖書(shū)館智慧服務(wù)管理因應(yīng)之策
——從《生成式人工智能服務(wù)管理暫行辦法》頒行談起

許建業(yè)

人工智能作為引領(lǐng)新一輪科技革命和工業(yè)革命的重要驅(qū)動(dòng)力，正在深刻改變著人們的生產(chǎn)、生活、學(xué)習(xí)方式。隨著生成式人工智能技術(shù)的興起，其對(duì)公共文化領(lǐng)域各類服務(wù)、運(yùn)營(yíng)業(yè)務(wù)和用戶體驗(yàn)的潛在影響正逐漸顯現(xiàn)。作為社會(huì)記憶的知識(shí)存貯機(jī)制和公共文化服務(wù)重要組成部分的圖書(shū)館事業(yè)，在生成式AI 時(shí)代所面臨的挑戰(zhàn)與機(jī)遇不言而喻。根據(jù)第十屆海峽兩岸玄覽論壇的主題并結(jié)合工作實(shí)際，本人擬從國(guó)內(nèi)新近頒布的《生成式人工智能服務(wù)管理暫行辦法》[1]研習(xí)角度，略談圖書(shū)館智慧服務(wù)管理因應(yīng)之策，以就教于方家。

1 人工智能正在塑造人類的未來(lái)

人工智能（Artificial Intelligence，簡(jiǎn)稱AI）是指通過(guò)普通計(jì)算機(jī)程序來(lái)呈現(xiàn)人類智能的技術(shù)。AI 核心問(wèn)題包括建構(gòu)能夠跟人類相似甚至超越的推理、知識(shí)、規(guī)劃、學(xué)習(xí)、交流、感知、移物、使用工具和操控機(jī)械的能力等。經(jīng)過(guò)數(shù)十年來(lái)的探索實(shí)踐，人工智能已成為引領(lǐng)新一輪科技革命和產(chǎn)業(yè)革命的重要驅(qū)動(dòng)力，正深刻改變著人們的生產(chǎn)、生活、學(xué)習(xí)方式，推動(dòng)人類社會(huì)迎來(lái)人機(jī)協(xié)同、跨界融合、共創(chuàng)分享的智能時(shí)代。

盡管存在著道德、隱私、安全和偏見(jiàn)等多重社會(huì)問(wèn)題，然而作為歷史上最重要的技術(shù)進(jìn)步之一的人工智能，本質(zhì)上是一場(chǎng)挖掘人類潛能的運(yùn)動(dòng)。通過(guò)信息互聯(lián)、泛在感知、數(shù)據(jù)關(guān)聯(lián)、資源整合、網(wǎng)絡(luò)協(xié)同、個(gè)性定制、全媒體傳播及深度延展，人工智能必將推動(dòng)包括圖書(shū)館行業(yè)在內(nèi)的社會(huì)服務(wù)個(gè)性化、精準(zhǔn)化、智慧化。

1.1 人工智能技術(shù)在圖書(shū)館領(lǐng)域應(yīng)用之現(xiàn)況

圖書(shū)館作為社會(huì)記憶的知識(shí)存貯機(jī)制，履行著人類文明傳承與發(fā)展的重要職能。人工智能技術(shù)在圖書(shū)館領(lǐng)域的持續(xù)運(yùn)用，為圖書(shū)館的優(yōu)化管理和服務(wù)效能的提升累積了經(jīng)驗(yàn)。迄今，應(yīng)用研究熱點(diǎn)包括：人工智能在信息檢索中的應(yīng)用研究、人工智能在社交媒體用戶內(nèi)容分類及情感分析中的應(yīng)用研究，以及人工智能在知識(shí)問(wèn)答中的應(yīng)用研究等。

1.1.1 國(guó)外圖書(shū)館相關(guān)實(shí)踐

主要通過(guò)設(shè)立圖書(shū)館人工智能實(shí)驗(yàn)室、實(shí)施人工智能教育培訓(xùn)，為用戶提供3D 打印、虛擬現(xiàn)實(shí)等技術(shù)共享訪問(wèn)，定期舉辦人工智能程序設(shè)計(jì)、機(jī)器人技術(shù)改進(jìn)、智慧城市建設(shè)研討等開(kāi)展實(shí)踐。代表性案例有：1991 年美國(guó)加州州立大學(xué)北嶺校區(qū)率先使用圖書(shū)館立體書(shū)庫(kù)自動(dòng)存取系統(tǒng)（ASRS）；德國(guó)洪堡大學(xué)和日本大阪市立大學(xué)圖書(shū)館運(yùn)用AGV 創(chuàng)建的機(jī)器人，實(shí)現(xiàn)圖書(shū)搬運(yùn)和放置自動(dòng)化；新加坡國(guó)家圖書(shū)館與新加坡科技研究局合作研發(fā)的機(jī)器人AuRoSS 可實(shí)現(xiàn)在館內(nèi)自我導(dǎo)航，通過(guò)掃描圖書(shū)RFID 標(biāo)簽，自動(dòng)生成缺失的和不按順序擺放圖書(shū)的檢查報(bào)告等。

1.1.2 國(guó)內(nèi)圖書(shū)館實(shí)踐例證

國(guó)內(nèi)圖書(shū)館界較多集中在智能圖書(shū)館建設(shè)和智慧服務(wù)研究方面。據(jù)楊子帥等人曾對(duì)國(guó)內(nèi)96 所圖書(shū)館開(kāi)展的調(diào)查顯示，39%的館應(yīng)用了人工智能技術(shù)，其中虛擬參考咨詢機(jī)器人使用率為21%，圖像識(shí)別系統(tǒng)使用率為21%。部分圖書(shū)館逐步使用實(shí)體化智能機(jī)器人，如南京大學(xué)圖書(shū)館研發(fā)的“智能圖書(shū)盤點(diǎn)機(jī)器人”可自動(dòng)快速識(shí)別圖書(shū)信息及所在架位信息，并完成自動(dòng)上架;另一臺(tái)咨詢服務(wù)機(jī)器人“圖寶”可提供咨詢服務(wù)，包括迎賓引路、信息識(shí)別和中英文交流等。上海圖書(shū)館使用館員機(jī)器人“圖小靈”，主要在辦證處和中文書(shū)刊外借室接受讀者咨詢。國(guó)家圖書(shū)館智能機(jī)器人“小圖”擁有聽(tīng)、說(shuō)、視覺(jué)、運(yùn)動(dòng)和雙屏互動(dòng)顯示能力，具有人臉識(shí)別、迎賓講解、智能交互、書(shū)籍檢索、讀者卡信息查詢等功能。此外，湖北省圖書(shū)館、沈陽(yáng)市圖書(shū)館、浙江大學(xué)圖書(shū)館、南京圖書(shū)館等也在各自業(yè)務(wù)及相關(guān)服務(wù)中相繼使用了智能機(jī)器人。

1.2 生成式人工智能技術(shù)對(duì)圖書(shū)館發(fā)展將產(chǎn)生革新性影響

生成式人工智能作為一項(xiàng)基礎(chǔ)技術(shù)，未來(lái)將會(huì)影響各領(lǐng)域、各行業(yè)。與所有基礎(chǔ)技術(shù)運(yùn)動(dòng)一樣，人工智能工具也是建立在硬件基礎(chǔ)設(shè)施之上。隨著生成式人工智能技術(shù)的深度應(yīng)用，由此引發(fā)圖書(shū)館的文獻(xiàn)資源重整、人力資源優(yōu)配、服務(wù)空間再造、讀者需求細(xì)化、品牌活動(dòng)集聚、業(yè)務(wù)管理優(yōu)化、社會(huì)力量參與、辦館效益提升等系列變化也將陸續(xù)呈現(xiàn)。

據(jù)北美研究圖書(shū)館協(xié)會(huì)（ARL）于2023 年4 月開(kāi)展的一次內(nèi)部專題調(diào)查，參與調(diào)查的館長(zhǎng)們預(yù)計(jì)生成式AI 應(yīng)用對(duì)于包括元數(shù)據(jù)生成、研究發(fā)現(xiàn)工具和用戶服務(wù)等在內(nèi)的業(yè)務(wù)均有影響，生成式AI 還會(huì)在信息濫用、偏見(jiàn)和版權(quán)等方面產(chǎn)生潛在挑戰(zhàn)，其對(duì)于學(xué)術(shù)誠(chéng)信、出版發(fā)行、作者身份及科研活動(dòng)的影響將持續(xù)顯現(xiàn)[2]。調(diào)研顯示，圖書(shū)館可以加強(qiáng)其信息素養(yǎng)教育，以協(xié)助其用戶理解和評(píng)估AI 所生成的信息。為此，重視館員的AI 知識(shí)、開(kāi)發(fā)關(guān)于AI 的新型素養(yǎng)、對(duì)員工進(jìn)行再教育及相關(guān)研討，都是作為研究機(jī)構(gòu)的圖書(shū)館以AI 時(shí)代領(lǐng)航者身份發(fā)揮領(lǐng)導(dǎo)作用的機(jī)會(huì)[3-6]。

為促進(jìn)生成式 AI 成功整合進(jìn)圖書(shū)館業(yè)務(wù)，研究型圖書(shū)館啟動(dòng)了相關(guān)人力資源研究與評(píng)估計(jì)劃，其過(guò)程涉及技能評(píng)估、延聘人才、與館外專家合作，培訓(xùn)現(xiàn)有工作人員處理基于AI 的相關(guān)事務(wù)。通過(guò)將自身定位為其所在組織的資源提供者，圖書(shū)館在塑造校園的AI 政策和實(shí)踐方面扮演著關(guān)鍵角色。隨著研究型圖書(shū)館不斷圍繞生成式AI 開(kāi)展研究、試點(diǎn)運(yùn)行、發(fā)起新倡議及推出新服務(wù)，有助于其他圖書(shū)館運(yùn)用AI 方面做出明智的決策。

2 《生成式人工智能服務(wù)管理暫行辦法》要點(diǎn)解析

2022 年末，由OpenAI 研發(fā)的ChatGPT 一經(jīng)發(fā)布，瞬即引發(fā)全球?qū)τ谏墒饺斯ぶ悄茴I(lǐng)域的廣泛關(guān)注。生成式人工智能技術(shù)，是指具有文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù)。生成式AI 的異軍突起在催生新場(chǎng)景、新業(yè)態(tài)、新模式和新市場(chǎng)方面固然令人振奮，然而在為使用者提供便利與創(chuàng)新可能性之外，其所帶來(lái)的安全風(fēng)險(xiǎn)的確不容小覷。面對(duì)傳播虛假信息、侵害個(gè)人信息權(quán)益、數(shù)據(jù)安全和偏見(jiàn)歧視等社會(huì)問(wèn)題，意大利、德國(guó)、法國(guó)、西班牙等國(guó)數(shù)據(jù)保護(hù)監(jiān)管機(jī)構(gòu)對(duì)ChatGPT 表達(dá)了擔(dān)憂或發(fā)起調(diào)查。因此，適時(shí)界定生成式人工智能技術(shù)內(nèi)涵與外延、有效規(guī)定生成式人工智能服務(wù)提供者的制度要求，對(duì)于促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用是十分必要的。

2023 年4 月11 日，國(guó)家網(wǎng)信辦就《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》公開(kāi)征求意見(jiàn)。2023 年7 月13 日，該辦聯(lián)合與國(guó)家發(fā)改委、教育部、科技部、工信部、公安部、廣電總局正式發(fā)布《生成式人工智能服務(wù)管理暫行辦法》并于8月15日起施行。該辦法的頒行，標(biāo)志著國(guó)家層面對(duì)立法規(guī)制人工智能領(lǐng)域必要性和緊迫性的認(rèn)識(shí)，旨在促進(jìn)生成式人工智能的健康應(yīng)用與規(guī)范管理，維護(hù)國(guó)家安全和社會(huì)公共利益，保護(hù)公民、法人和其他組織合法權(quán)益。該辦法共五章（包括總則、技術(shù)發(fā)展與治理、服務(wù)規(guī)范、監(jiān)督檢查和法律責(zé)任、附則），計(jì)二十四條。強(qiáng)調(diào)堅(jiān)持發(fā)展與安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管，明確了提供和使用此類服務(wù)的總體要求，提出了促進(jìn)技術(shù)發(fā)展的具體措施，確認(rèn)訓(xùn)練數(shù)據(jù)處理活動(dòng)和數(shù)據(jù)標(biāo)注等要求；規(guī)定其服務(wù)規(guī)范，明確服務(wù)提供者在防范未成年人用戶過(guò)度依賴或者沉迷此服務(wù)的應(yīng)對(duì)措施。還規(guī)定了安全評(píng)估、算法備案、投訴舉報(bào)等制度，明確了法律責(zé)任。

該辦法從規(guī)范體系、適用范圍、價(jià)值立場(chǎng)、責(zé)任主體等方面搭建了生成式人工智能服務(wù)監(jiān)管框架。其要點(diǎn)體現(xiàn)在: （1）包容審慎和分類分級(jí)的監(jiān)管原則；（2）安全評(píng)估和算法備案流程；（3）服務(wù)提供者的責(zé)任和義務(wù)；（4）境外服務(wù)提供者及外商投資規(guī)定；（5）訓(xùn)練數(shù)據(jù)和模型改進(jìn)的相關(guān)要求。簡(jiǎn)言之，生成式人工智能服務(wù)的發(fā)展與治理需要政府、企業(yè)、社會(huì)、網(wǎng)民等多方參與，共同促進(jìn)生成式人工智能健康發(fā)展，讓生成式人工智能技術(shù)更好地服務(wù)大眾。

3 生成式人工智能時(shí)代圖書(shū)館智慧服務(wù)管理的因應(yīng)之策

人工智能技術(shù)的持續(xù)演進(jìn)，對(duì)于當(dāng)下智慧圖書(shū)館體系建設(shè)既是深刻的挑戰(zhàn)也是重要的機(jī)遇。除了在戰(zhàn)略層面上積極爭(zhēng)取國(guó)家及地方政府發(fā)展政策措施支持之外，更需要我們圖書(shū)館管理者、研究者和工作者以良好心態(tài)與職業(yè)素質(zhì)主動(dòng)融入人工智能時(shí)代。依據(jù)《生成式人工智能服務(wù)管理暫行辦法》，圍繞生成式AI 技術(shù)應(yīng)用，圖書(shū)館智慧服務(wù)管理似應(yīng)采取以下因應(yīng)之策。

3.1 關(guān)注具體業(yè)務(wù)場(chǎng)景下不同主體的合規(guī)義務(wù)

隨著生成式人工智能技術(shù)在各行業(yè)各領(lǐng)域的創(chuàng)新試用，將會(huì)產(chǎn)生多樣化的合作模式。實(shí)務(wù)中，AIGC的服務(wù)提供者可能引入第三方技術(shù)，以向服務(wù)使用者提供服務(wù)[3-4]。為此，圖書(shū)館應(yīng)系統(tǒng)梳理和明確相關(guān)合作模式，進(jìn)而對(duì)業(yè)務(wù)場(chǎng)景和數(shù)據(jù)流向進(jìn)行明確界定，對(duì)應(yīng)落實(shí)不同業(yè)務(wù)場(chǎng)景之下的主體義務(wù)。

3.2 加強(qiáng)對(duì)服務(wù)項(xiàng)目?jī)?nèi)容合規(guī)評(píng)估與風(fēng)險(xiǎn)管理

首先，對(duì)生成與傳播內(nèi)容進(jìn)行合規(guī)性評(píng)估。除了《暫行辦法》明確要求的合規(guī)性評(píng)估，圖書(shū)館應(yīng)盡可能避免依據(jù)生成式人工智能內(nèi)容直接進(jìn)行決策或采取行動(dòng)，重要事項(xiàng)上建議以對(duì)輸出內(nèi)容進(jìn)行人工審核，并采取有效措施提高生成內(nèi)容的準(zhǔn)確性和可靠性。其次，強(qiáng)化對(duì)信息服務(wù)中生成內(nèi)容的主動(dòng)標(biāo)識(shí)。提供者應(yīng)根據(jù)《深度合成規(guī)定》對(duì)生成的圖片、視頻等內(nèi)容進(jìn)行標(biāo)識(shí)，制定符合要求的清晰、具體、可操作的標(biāo)注規(guī)則；開(kāi)展數(shù)據(jù)標(biāo)注質(zhì)量評(píng)估，抽樣核驗(yàn)標(biāo)注內(nèi)容的準(zhǔn)確性；對(duì)標(biāo)注人員進(jìn)行必要培訓(xùn)，提升尊法守法意識(shí)，監(jiān)督指導(dǎo)標(biāo)注人員規(guī)范開(kāi)展標(biāo)注工作。對(duì)使用其服務(wù)生成或者編輯的信息內(nèi)容，應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶使用的標(biāo)識(shí)，并依法依規(guī)保存日志信息。提供智能對(duì)話、合成人聲、人臉生成、沉浸式擬真場(chǎng)景等具有生成或者顯著改變信息內(nèi)容功能服務(wù)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)；提供非前述深度合成服務(wù)的，應(yīng)當(dāng)提供顯著標(biāo)識(shí)功能，并提示使用者可以進(jìn)行顯著標(biāo)識(shí)。

3.3 注重圖書(shū)館用戶的信息權(quán)益保護(hù)

第一，建立切實(shí)可行的個(gè)人信息保護(hù)機(jī)制。嚴(yán)格履行對(duì)讀者用戶的輸入信息和使用記錄的依法保護(hù)義務(wù)與責(zé)任，依法及時(shí)受理和處理個(gè)人關(guān)于查閱、復(fù)制、更正、補(bǔ)充、刪除其個(gè)人信息等的請(qǐng)求。第二，設(shè)置未成年用戶防沉迷機(jī)制。圖書(shū)館就明確并公開(kāi)其服務(wù)的適用人群、場(chǎng)合、用途，指導(dǎo)使用者科學(xué)理性認(rèn)識(shí)和依法使用生成式人工智能技術(shù)，采取有效措施防范未成年人用戶過(guò)度依賴或者沉迷生成式人工智能服務(wù)。第三，設(shè)置用戶投訴、舉報(bào)通道，建立健全投訴舉報(bào)機(jī)制，設(shè)置便捷的投訴、舉報(bào)入口，公布處理流程和反饋時(shí)限，及時(shí)受理與處理公眾投訴舉報(bào)并反饋結(jié)果。

3.4 配合監(jiān)管機(jī)構(gòu)落實(shí)合規(guī)義務(wù)

首先，進(jìn)行安全評(píng)估與算法備案。圖書(shū)館針對(duì)具有輿論屬性或者社會(huì)動(dòng)員能力的生成式人工智能服務(wù)的，應(yīng)按國(guó)家有關(guān)規(guī)定開(kāi)展安全評(píng)估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。其次，建立違規(guī)行為響應(yīng)與報(bào)告機(jī)制。圖書(shū)館對(duì)于所提供服務(wù)中發(fā)現(xiàn)違法內(nèi)容的，應(yīng)當(dāng)及時(shí)采取停止生成、停止傳輸、消除等處置措施，采取模型優(yōu)化訓(xùn)練等措施進(jìn)行整改，并向有關(guān)主管部門報(bào)告。若發(fā)現(xiàn)讀者利用生成式人工智能服務(wù)從事違法活動(dòng)的，應(yīng)當(dāng)依法依約采取警示、限制功能、暫?；蛘呓K止向其提供服務(wù)等處置措施，保存有關(guān)記錄，并向有關(guān)主管部門報(bào)告。再次，配合監(jiān)管機(jī)構(gòu)的監(jiān)督檢查。針對(duì)主管部門依據(jù)職責(zé)對(duì)生成式人工智能服務(wù)開(kāi)展的監(jiān)督檢查，圖書(shū)館應(yīng)當(dāng)依法予以配合，按要求對(duì)訓(xùn)練數(shù)據(jù)來(lái)源、規(guī)模、類型、標(biāo)注規(guī)則、算法機(jī)制機(jī)理等予以說(shuō)明，并提供必要的技術(shù)、數(shù)據(jù)等支持和協(xié)助。

4 結(jié)語(yǔ)

具有文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù)，構(gòu)成了生成式人工智能技術(shù)服務(wù)基礎(chǔ)。在公共文化服務(wù)大數(shù)據(jù)應(yīng)用及特定場(chǎng)景方案運(yùn)用基礎(chǔ)上，其為圖書(shū)館智慧服務(wù)提供了諸多可行性及便利條件，但也不可否認(rèn)會(huì)帶來(lái)相關(guān)社會(huì)問(wèn)題。正確處理好人力、數(shù)據(jù)、算法、知識(shí)產(chǎn)權(quán)等方面的關(guān)系，對(duì)于促成人機(jī)融合的智慧服務(wù)體系、實(shí)現(xiàn)人工智能社會(huì)價(jià)值的理性回歸，顯然是極為重要的。隨著生成式人工智能技術(shù)不斷迭代，可以預(yù)見(jiàn)其服務(wù)應(yīng)用場(chǎng)景將更為豐富，后續(xù)的監(jiān)管挑戰(zhàn)與合規(guī)要求也將更為細(xì)化，圖書(shū)館智慧服務(wù)與管理必將與時(shí)俱進(jìn)。