生成式人工智能融入高等教育生態(tài)系統(tǒng)的風(fēng)險表征、預(yù)警及化解

黃蓓蓓 宋子昀 錢小龍

摘要：在生成式人工智能迅猛發(fā)展的背景下，認識、防范和化解生成式人工智能給高等教育生態(tài)系統(tǒng)帶來的教育風(fēng)險迫在眉睫。對此，文章首先剖析了生成式人工智能融入高等教育生態(tài)系統(tǒng)的風(fēng)險表征，主要表現(xiàn)為師生主權(quán)消解、知識內(nèi)容扭曲、安全包容破壞和人才培養(yǎng)異化。隨后，文章構(gòu)建了由風(fēng)險預(yù)警主體、風(fēng)險預(yù)警內(nèi)容、風(fēng)險預(yù)警保障、風(fēng)險預(yù)警流程四個模塊組成的生成式人工智能融入高等教育生態(tài)系統(tǒng)的風(fēng)險預(yù)警機制。最后，文章提出從激發(fā)主體意識、鑒別知識內(nèi)容、優(yōu)化數(shù)字環(huán)境、培養(yǎng)創(chuàng)新人才等方面入手，來化解生成式人工智能融入高等教育生態(tài)系統(tǒng)的風(fēng)險。文章的研究可為生成式人工智能教育風(fēng)險治理提供理論指導(dǎo)，并推動生成式人工智能在高等教育中的安全應(yīng)用，從而為高等教育數(shù)字化轉(zhuǎn)型和高質(zhì)量發(fā)展保駕護航。

關(guān)鍵詞：生成式人工智能；ChatGPT；高等教育生態(tài)系統(tǒng)；教育風(fēng)險；風(fēng)險預(yù)警

【中圖分類號】G40-057 【文獻標識碼】A 【論文編號】1009—8097（2024）05—0016—11 【DOI】10.3969/j.issn.1009-8097.2024.05.002

生成式人工智能（Generative Artificial Intelligence，GAI）的蓬勃發(fā)展，促進了互聯(lián)網(wǎng)時代知識生產(chǎn)模式的變革，也為教育創(chuàng)新與變革增添了新動力。生成式人工智能是一種人工智能技術(shù)，其利用深度學(xué)習(xí)模型生成類似人類的內(nèi)容，以響應(yīng)復(fù)雜多樣的提示^[1]。ChatGPT、Google Bard、文心一言、通義千問等，都屬于典型的生成式人工智能工具。以ChatGPT為代表的生成式人工智能粗暴、直接地融入教育生態(tài)系統(tǒng)中，引發(fā)了系統(tǒng)中不同要素間的“連鎖性反應(yīng)”^[2]，而高等教育生態(tài)系統(tǒng)更是首當(dāng)其沖，技術(shù)融入所導(dǎo)致的教育風(fēng)險已開始涌現(xiàn)。例如，《大西洋月刊》刊發(fā)的一篇文章直接用“大學(xué)論文已不復(fù)存在”作為標題^[3]，來表達對大學(xué)生課程論文作弊的擔(dān)憂。此外，ChatGPT會生成偽造的參考文獻^[4]、捏造的歷史事實等^[5]，容易誤導(dǎo)學(xué)生。隨著生成式人工智能在高等教育領(lǐng)域應(yīng)用的深入，認識、防范和化解其給高等教育生態(tài)系統(tǒng)帶來的教育風(fēng)險迫在眉睫。對此，本研究從風(fēng)險表征、風(fēng)險預(yù)警、風(fēng)險化解三個方面展開研究，重點回答生成式人工智能給高等教育生態(tài)系統(tǒng)帶來的教育風(fēng)險有哪些表現(xiàn)、如何提前防范風(fēng)險以及如何有效化解風(fēng)險這三個問題，以期實現(xiàn)新一代人工智能技術(shù)在高等教育生態(tài)系統(tǒng)中的安全應(yīng)用。

一 生成式人工智能融入高等教育生態(tài)系統(tǒng)的風(fēng)險表征

生態(tài)系統(tǒng)是生物之間以及生物與非生物環(huán)境之間通過物質(zhì)循環(huán)、能量流動、信息傳遞形成的統(tǒng)一體。而高等教育生態(tài)系統(tǒng)是高等教育系統(tǒng)內(nèi)部各要素之間及其與自然、社會環(huán)境之間交互所形成的開放性、非線性復(fù)雜系統(tǒng)^[6]。以生態(tài)系統(tǒng)的結(jié)構(gòu)和功能為分析維度，生成式人工智能融入高等教育生態(tài)系統(tǒng)的風(fēng)險主要表現(xiàn)為生態(tài)主體層面的師生主權(quán)消解風(fēng)險、生態(tài)介體層面的知識內(nèi)容扭曲風(fēng)險、生態(tài)環(huán)境層面的安全包容破壞風(fēng)險、生態(tài)功能層面的人才培養(yǎng)異化風(fēng)險。

1 師生主權(quán)消解，弱化高等教育生態(tài)主體

高等教育生態(tài)系統(tǒng)的核心主體是學(xué)生和教師，其中學(xué)生是消費者，教師是生產(chǎn)者。師生主權(quán)消解風(fēng)險是指生成式人工智能在教育領(lǐng)域的過度應(yīng)用，可能會使學(xué)生和教師過度依賴技術(shù)，從而消解其教育主體地位，讓學(xué)生和教師逐漸成為被技術(shù)支配的延伸客體，具體表現(xiàn)為：①學(xué)生學(xué)習(xí)主體性消解風(fēng)險。與基礎(chǔ)教育相比，高等教育更強調(diào)學(xué)生的自主學(xué)習(xí)。生成式人工智能采用便捷的對話問答方式，能簡化信息的獲取過程，技術(shù)的頻繁使用容易讓學(xué)生產(chǎn)生一定的依賴思想和惰性心理，繼而沉迷其中。這種沉迷會影響學(xué)生的學(xué)習(xí)自主性、批判性思維和問題解決能力，使其容易屈服于技術(shù)，逐漸喪失學(xué)習(xí)主權(quán)。此外，學(xué)生的身體還可能被技術(shù)控制并導(dǎo)致身體隱退^[7]。②教師教學(xué)主體性消解風(fēng)險。目前，高校的學(xué)術(shù)科研壓力可能會在一定程度上逼迫大學(xué)教師部分甚至完全借助生成式人工智能來撰寫課程方案、生成教學(xué)材料等。當(dāng)過度依賴生成式人工智能時，大學(xué)教師便容易失去教學(xué)實踐的主動性，成為智能技術(shù)的執(zhí)行者。此外，憑借快捷的智能響應(yīng)和廣泛的信息儲備，生成式人工智能可以實現(xiàn)評價、反饋等部分教育教學(xué)職能，這會在一定程度上沖擊教師的知識權(quán)威地位，使其逐漸喪失教學(xué)實踐主權(quán)。

2 知識內(nèi)容扭曲，影響高等教育生態(tài)介體

高等教育生態(tài)介體是指連接不同生態(tài)主體以及生態(tài)主體與環(huán)境之間的中介，其中以知識為代表的教育內(nèi)容是一種重要的介體。傳播專業(yè)化的知識是高等教育的重要使命，這就要求知識內(nèi)容必須科學(xué)、權(quán)威。知識內(nèi)容扭曲風(fēng)險是指生成式人工智能產(chǎn)生的知識內(nèi)容可能存在虛假信息，扭曲知識內(nèi)容的科學(xué)性和權(quán)威性，具體表現(xiàn)為：①知識內(nèi)容科學(xué)性存疑風(fēng)險。訓(xùn)練數(shù)據(jù)的失真，會讓生成式人工智能成為虛假信息的制造者。由于生成式人工智能生成的文本與人類生成的文本相似，故大學(xué)生很難區(qū)分真實的知識和未經(jīng)驗證的信息。在高等教育中，事實性錯誤、概念誤用、高深知識出錯等情況會誤導(dǎo)大學(xué)生^[8]，進而對其價值觀念造成負面影響。②知識內(nèi)容權(quán)威性受損風(fēng)險。生成式人工智能生產(chǎn)的知識是一種“組合式創(chuàng)新”，是對已有數(shù)據(jù)和信息的重組，并非實質(zhì)性的知識生成。這種知識內(nèi)容并不遵循“專家或教育行政部門開發(fā)、審定→學(xué)校傳授”的知識傳播邏輯^[9]，因而人機交互直接獲得的知識貌似“高大上”，但權(quán)威性卻難以保證。若認識不到這種幻象，就容易引發(fā)將生成式人工智能視為知識權(quán)威和道德權(quán)威的風(fēng)險^[10]。

3 安全包容破壞，侵害高等教育生態(tài)環(huán)境

高等教育生態(tài)環(huán)境既包括現(xiàn)實環(huán)境，也包括虛擬環(huán)境。伴隨高等教育數(shù)字化轉(zhuǎn)型的加快，數(shù)據(jù)日益成為數(shù)字化教學(xué)的核心資源。在此背景下，數(shù)字化的虛擬環(huán)境更加強調(diào)保障數(shù)據(jù)安全與實現(xiàn)數(shù)字包容。安全包容破壞風(fēng)險是指生成式人工智能破壞虛擬環(huán)境的安全性和包容性，具體表現(xiàn)為：①教育數(shù)據(jù)安全和隱私風(fēng)險，主要包括隱私泄露和隱私侵犯^[11]。一方面，開發(fā)商可能會從教師、學(xué)生等用戶與生成式人工智能的交互中收集數(shù)據(jù)并進行分析，以提高生成式人工智能的性能，至于交互留下的歷史數(shù)據(jù)將會被如何處理尚不明晰；另一方面，生成式人工智能可能會根據(jù)大學(xué)師生提供的輸入數(shù)據(jù)進行訓(xùn)練，輸入的部分隱私信息可能會以某種形式提供給后續(xù)用戶，以上均有可能造成師生個人隱私數(shù)據(jù)的泄露和隱私侵犯。②偏見歧視風(fēng)險。生成式人工智能使用來自互聯(lián)網(wǎng)的大量數(shù)據(jù)進行預(yù)訓(xùn)練，如果訓(xùn)練數(shù)據(jù)存在偏見，那么生成的結(jié)果也會存在偏見。這些偏見包括性別偏見、種族偏見、文化和語言偏見、意識形態(tài)偏見等^[12]，會強化先前存在的不平等和刻板印象，破壞高等教育生態(tài)環(huán)境的包容性。

4 人才培養(yǎng)異化，擾亂高等教育生態(tài)功能

除了具備生態(tài)系統(tǒng)的一般功能，高等教育生態(tài)系統(tǒng)還承載了人才培養(yǎng)、學(xué)術(shù)科研、社會服務(wù)三大重要功能，而生成式人工智能的融入給人才培養(yǎng)帶來了風(fēng)險。人才培養(yǎng)異化風(fēng)險是指生成式人工智能在高等教育生態(tài)系統(tǒng)中的融入會讓原本具有創(chuàng)造性、道德性、協(xié)同性的人才培養(yǎng)活動異化，具體表現(xiàn)為：①人才培養(yǎng)異化為同質(zhì)的標準生產(chǎn)。通過培養(yǎng)創(chuàng)新型人才來助推教育強國建設(shè)，是高等教育的重要使命。生成式人工智能使用深度學(xué)習(xí)算法，根據(jù)已有的訓(xùn)練數(shù)據(jù)生成內(nèi)容，這限制了生成內(nèi)容的創(chuàng)造性。當(dāng)完全依賴生成式人工智能進行教與學(xué)時，高等教育教學(xué)便會異化為標準化的工廠生產(chǎn)。②人才培養(yǎng)異化為泛濫的學(xué)業(yè)失信。培養(yǎng)有道德的數(shù)字公民，是高等教育人才培養(yǎng)的重要目標之一。若不進行技術(shù)檢測，將很難區(qū)分生成式人工智能產(chǎn)生的文本和人類產(chǎn)生的文本^[13]。當(dāng)大學(xué)生利用此類工具完成論文或作業(yè)、通過作弊或抄襲獲得更高的分數(shù)時，便會導(dǎo)致學(xué)業(yè)失信。③人才培養(yǎng)異化為惡性的人機博弈。伴隨機器的加入，實現(xiàn)人機協(xié)同的教育教學(xué)成為高等教育的重要追求。然而，當(dāng)大學(xué)生利用生成式人工智能進行學(xué)習(xí)時，若只關(guān)注機器反饋的結(jié)果而忽視知識本身及其價值，就有可能出現(xiàn)人機博弈^[14]。

二 生成式人工智能融入高等教育生態(tài)系統(tǒng)的風(fēng)險預(yù)警

生成式人工智能融入高等教育生態(tài)系統(tǒng)存在諸多風(fēng)險，需要進行風(fēng)險預(yù)警，以保障高等教育生態(tài)系統(tǒng)的安全運行與可持續(xù)發(fā)展。風(fēng)險預(yù)警旨在預(yù)測和警示生成式人工智能給高等教育生態(tài)系統(tǒng)帶來的教育風(fēng)險，重點回答“誰來預(yù)警”“預(yù)警什么”“怎樣保障”“如何預(yù)警”四個問題。對此，本研究構(gòu)建了由風(fēng)險預(yù)警主體、風(fēng)險預(yù)警內(nèi)容、風(fēng)險預(yù)警保障、風(fēng)險預(yù)警流程四個模塊組成的生成式人工智能融入高等教育生態(tài)系統(tǒng)的風(fēng)險預(yù)警機制，如圖1所示。具體來說，該機制是以高校為主和以政府、教育行政部門、家庭、社會為輔的風(fēng)險預(yù)警主體，針對生態(tài)主體、生態(tài)介體、生態(tài)環(huán)境、生態(tài)功能四個層面的風(fēng)險，通過組織建設(shè)、制度構(gòu)建、技術(shù)運用、人才培養(yǎng)等風(fēng)險預(yù)警保障，按照“風(fēng)險識別→風(fēng)險分析→風(fēng)險評價→風(fēng)險警示→風(fēng)險追蹤→風(fēng)險識別……”的風(fēng)險預(yù)警流程，對生成式人工智能帶來的教育風(fēng)險進行預(yù)警。

1 風(fēng)險預(yù)警主體：以高校為關(guān)鍵行動者的多元主體協(xié)同參與

結(jié)合風(fēng)險預(yù)警的功能實現(xiàn)，風(fēng)險預(yù)警主體包括政府、教育行政部門、高校、家庭、社會。其中，高校直接參與風(fēng)險預(yù)警行動，是風(fēng)險預(yù)警的關(guān)鍵行動者；其他主體通過與高校協(xié)作互動，間接參與風(fēng)險預(yù)警行動：①政府是“總體牽頭者”，主要負責(zé)對風(fēng)險預(yù)警工作進行統(tǒng)籌安排，包括構(gòu)建生成式人工智能教育風(fēng)險預(yù)警制度、推動制定生成式人工智能風(fēng)險預(yù)警防控標準文件、為高校教育風(fēng)險的預(yù)警和防控提供政策支持、調(diào)動各職能部門參與風(fēng)險預(yù)警并明確各部門的職責(zé)分工等。②教育行政部門是“直接管理者”，主要負責(zé)制定風(fēng)險預(yù)警的具體政策、規(guī)章、規(guī)劃等，確定風(fēng)險預(yù)警的基本流程，并對各高校的預(yù)警工作進行指導(dǎo)、管理等。③高校是“關(guān)鍵行動者”，主要根據(jù)政府和教育行政部門的要求開展具體的風(fēng)險預(yù)警工作，對教育風(fēng)險進行識別、分析、評估、警示、追蹤；同時，根據(jù)通用的教育風(fēng)險框架，結(jié)合本校的特點和實際，將教育教學(xué)實踐中具體的風(fēng)險預(yù)警情況及時反饋給上級教育主管部門。④家庭是“重要協(xié)助者”，其與高校聯(lián)系密切，主要配合高校開展相關(guān)的教育風(fēng)險調(diào)查或主動向高校反饋觀察到的教育風(fēng)險因素，輔助高校開展風(fēng)險預(yù)警工作。⑤社會是“有力支持者”，其中的行業(yè)協(xié)會、科技企業(yè)、各大媒體等都可為高校開展相關(guān)的風(fēng)險預(yù)警工作提供支持，如行業(yè)協(xié)會能為生成式人工智能標準規(guī)范的制定提供智力支持、科技企業(yè)能為教育風(fēng)險預(yù)警平臺的搭建提供技術(shù)支持、各大媒體能為教育風(fēng)險預(yù)警信息的廣泛發(fā)布提供宣傳支持等。

2 風(fēng)險預(yù)警內(nèi)容：技術(shù)引發(fā)生態(tài)系統(tǒng)結(jié)構(gòu)與功能的嬗變

生成式人工智能融入高等教育生態(tài)系統(tǒng)，引發(fā)了師生主權(quán)消解、知識內(nèi)容扭曲、安全包容破壞、人才培養(yǎng)異化等風(fēng)險，也引發(fā)了高等教育生態(tài)系統(tǒng)結(jié)構(gòu)（包括主體、介體、環(huán)境）與功能的嬗變。因此，風(fēng)險預(yù)警內(nèi)容不僅要聚焦微觀層面的四大風(fēng)險表征，更要從宏觀入手，關(guān)注以下四個層面的風(fēng)險：①生態(tài)主體層面的風(fēng)險，是指生成式人工智能給教育部門、高校及其管理者、教師、學(xué)生等主體帶來的風(fēng)險，包括教育權(quán)益、職能、角色方面的侵害、弱化與改變等。②生態(tài)介體層面的風(fēng)險，是指生成式人工智能對高等教育的內(nèi)容、方法、媒介等造成損害，影響生態(tài)主體之間以及生態(tài)主體與生態(tài)環(huán)境之間的互動。高校是教育、科技、人才的重要匯聚點^[15]，而知識是支撐高校擔(dān)當(dāng)使命的重要基礎(chǔ)。因此，高等教育生態(tài)系統(tǒng)中的知識內(nèi)容扭曲風(fēng)險需要得到重點關(guān)注。③生態(tài)環(huán)境層面的風(fēng)險，是指生成式人工智能破壞高等教育發(fā)展、產(chǎn)生制約和控制作用的多維空間與環(huán)境^[16]。生成式人工智能技術(shù)的發(fā)展不僅會導(dǎo)致安全包容破壞風(fēng)險，還有可能使教育環(huán)境被資本利益操控^[17]，讓商業(yè)化凌駕于公益性和人本價值之上。④生態(tài)功能層面的風(fēng)險，是指生成式人工智能擾亂高等教育生態(tài)系統(tǒng)的相關(guān)教育功能。除了異化人才培養(yǎng)功能，生成式人工智能還會給高等教育生態(tài)系統(tǒng)的學(xué)術(shù)科研功能帶來危害，包括分散學(xué)術(shù)責(zé)任、催生學(xué)術(shù)歧視等^[18]。整體而言，這些風(fēng)險均與高等教育密切相關(guān)，具有風(fēng)險來源復(fù)雜多樣、風(fēng)險類型動態(tài)變化、風(fēng)險影響持續(xù)深遠等特點。

3 風(fēng)險預(yù)警保障：整體智治助力生態(tài)系統(tǒng)安全穩(wěn)定運轉(zhuǎn)

針對生成式人工智能的教育風(fēng)險預(yù)警是一項系統(tǒng)工程，需要以智能的方式整體推進?！罢w智治”主張運用數(shù)字技術(shù)來推動整體性治理的升級，重點強調(diào)整合組織部門、重塑制度體系、應(yīng)用數(shù)字技術(shù)和提升主體能力^[19]?；诖?，可從組織建設(shè)、制度構(gòu)建、技術(shù)運用和人才培養(yǎng)四方面提供風(fēng)險預(yù)警保障：①組織建設(shè)，即政府、教育行政部門、高校都要建立專門負責(zé)或兼管教育風(fēng)險預(yù)警的管理、執(zhí)行、咨詢等機構(gòu)并組織實施。對此，高?？梢越梃b麻省理工學(xué)院的做法^[20]，包括成立風(fēng)險指導(dǎo)小組，為風(fēng)險預(yù)警提供戰(zhàn)略指導(dǎo)和方向；成立風(fēng)險咨詢團隊，調(diào)集多個領(lǐng)域的專家、學(xué)者來識別和評估風(fēng)險；成立風(fēng)險管理委員會，監(jiān)督和管理風(fēng)險預(yù)警工作，宣傳風(fēng)險管理文化。此外，高校還可以設(shè)立風(fēng)險預(yù)警研究中心，為預(yù)防數(shù)字技術(shù)帶來的教育風(fēng)險提供智力支持。②制度構(gòu)建，即構(gòu)建“國家（中央政府和教育部）-地方（地方各級政府和教育行政部門）-高?！憋L(fēng)險預(yù)警體系，重點建設(shè)部際聯(lián)席會議制度（國家各部委對教育風(fēng)險預(yù)警決策進行協(xié)商）、部門協(xié)同工作制度（多元主體對風(fēng)險預(yù)警工作進行統(tǒng)一執(zhí)行與有效落實）、風(fēng)險預(yù)警管理制度（明確各主體的風(fēng)險預(yù)警責(zé)任，規(guī)范風(fēng)險預(yù)警管理流程，建立風(fēng)險預(yù)警信息報告機制）、教育教學(xué)調(diào)查制度（定期調(diào)查生成式人工智能在高校教學(xué)中的應(yīng)用情況和潛在風(fēng)險）。③技術(shù)運用，即高校充分發(fā)揮科研的優(yōu)勢，與相關(guān)企業(yè)合作，應(yīng)用大數(shù)據(jù)、互聯(lián)網(wǎng)、云計算、人工智能等技術(shù)，建立教育風(fēng)險數(shù)據(jù)庫，打造教育風(fēng)險預(yù)警平臺。例如，應(yīng)用機器學(xué)習(xí)、智能統(tǒng)計引擎、圖像識別等技術(shù)，對教育數(shù)據(jù)方面的風(fēng)險進行捕捉、識別、定性、分析、評估^[21]。④人才培養(yǎng)，即高校和教育行政部門開展生成式人工智能風(fēng)險預(yù)警的相關(guān)教育和培訓(xùn)活動，通過開發(fā)風(fēng)險預(yù)警課程、采用場景式教學(xué)模式、搭建風(fēng)險預(yù)警實訓(xùn)平臺、組織風(fēng)險預(yù)警專題講座、實施風(fēng)險能力評估、深化校企協(xié)同育人機制等，激發(fā)學(xué)生、教師、教育管理者、技術(shù)人員等的風(fēng)險預(yù)警意識，夯實其風(fēng)險預(yù)警知識，不斷提高其風(fēng)險預(yù)警能力。

4 風(fēng)險預(yù)警流程：人機協(xié)同推動實現(xiàn)敏捷化的信息傳遞

風(fēng)險預(yù)警屬于風(fēng)險管理的一部分。國際標準化組織（International Organization for Standardization，ISO）在《2018風(fēng)險管理指南》中指出，風(fēng)險管理的過程包括溝通與咨詢、建立環(huán)境、風(fēng)險評估（包括風(fēng)險識別，風(fēng)險分析和風(fēng)險評價）、風(fēng)險應(yīng)對、追蹤和檢查、記錄和報告等活動^[22]。此外，風(fēng)險警示重在讓預(yù)警信息得到有效傳遞，其也是風(fēng)險預(yù)警的關(guān)鍵一環(huán)。基于此，本研究設(shè)計了“風(fēng)險識別→風(fēng)險分析→風(fēng)險評價→風(fēng)險警示→風(fēng)險追蹤→風(fēng)險識別……”的風(fēng)險預(yù)警流程，如圖2所示。這是一個循環(huán)往復(fù)的過程，多元主體相互聯(lián)動，以風(fēng)險保障為支持來實施風(fēng)險預(yù)警流程。其中，最核心的是運用人機協(xié)同的風(fēng)險預(yù)警方法與手段，將人對風(fēng)險的認識、研判和機器在風(fēng)險數(shù)據(jù)收集、分析、評價、監(jiān)測等方面的作用進行融合，實現(xiàn)對風(fēng)險預(yù)兆的敏捷響應(yīng)，促進風(fēng)險預(yù)警信息在高等教育生態(tài)系統(tǒng)中的敏捷傳遞。

（1）風(fēng)險識別

進行教育風(fēng)險預(yù)警的第一步是對教育風(fēng)險進行識別，即識別生成式人工智能帶來的教育問題中有哪些存在教育風(fēng)險，并分析判斷該教育風(fēng)險的類型。對此，教育部首先要發(fā)布通用的人工智能教育風(fēng)險指標體系（下文簡稱“通用指標體系”），為高校進行教育風(fēng)險識別提供抓手和依據(jù)。在此基礎(chǔ)上，高校要結(jié)合自身特點，依托通用指標體系，應(yīng)用大數(shù)據(jù)技術(shù)充分收集并分析相關(guān)信息來對教育風(fēng)險進行實時甄別與篩選^[23]；再結(jié)合訪談、問卷調(diào)查等傳統(tǒng)方法，了解潛在的教育風(fēng)險，最終以人機協(xié)同的方式進行教育風(fēng)險識別。風(fēng)險識別主要包括兩方面的工作：①識別是否存在教育風(fēng)險。高校可以通過審查相關(guān)文件、分析已有數(shù)據(jù)，來識別存在的風(fēng)險；也可以通過訪談、問卷調(diào)查等形式，定期從學(xué)生、教師、家長等相關(guān)人員中獲得反饋信息，了解其在應(yīng)用生成式人工智能過程中遇到的問題與挑戰(zhàn)，并識別出其中的教育風(fēng)險；還可以召開專家研討會，并結(jié)合技術(shù)預(yù)測，對可能出現(xiàn)的風(fēng)險進行提前預(yù)判與確定。②識別教育風(fēng)險的類型。高校以教育部發(fā)布的通用指標體系為基礎(chǔ)，對識別到的教育風(fēng)險進行分類。然而，通用指標體系并不能覆蓋所有高校的教育風(fēng)險類型。因此，不同層次水平、辦學(xué)類型、保密級別的高校需要進一步構(gòu)建適合本校的教育風(fēng)險指標體系，對個性化的教育風(fēng)險進行定位與識別。之后，高校還需將相應(yīng)的教育風(fēng)險記錄在風(fēng)險登記手冊中，并及時上傳至教育風(fēng)險數(shù)據(jù)庫。

（2）風(fēng)險分析

識別教育風(fēng)險之后，接下的一步便是分析教育風(fēng)險，具體包括：①教育風(fēng)險來源分析?？梢詮纳墒饺斯ぶ悄芗夹g(shù)本身、教育主體的數(shù)字素養(yǎng)、技術(shù)在教育教學(xué)中的應(yīng)用情況等方面，來分析教育風(fēng)險的成因。在此過程中，高?？梢耘c企業(yè)合作，借助技術(shù)測試平臺（如新華網(wǎng)聯(lián)合中國科學(xué)院計算技術(shù)研究所等行業(yè)機構(gòu)研發(fā)打造的“生成式人工智能內(nèi)容安全與模型安全檢測平臺”^[24]），對生成式人工智能進行測試、對教育主體開展訪談和調(diào)查、依托風(fēng)險咨詢團隊對風(fēng)險來源進行科學(xué)研判等。②教育風(fēng)險概率分析。一方面，高?？梢越柚?nèi)的風(fēng)險咨詢團隊和第三方風(fēng)險評估機構(gòu)，咨詢不同領(lǐng)域?qū)＜液图夹g(shù)人員的意見，從而預(yù)估教育風(fēng)險發(fā)生的可能性。另一方面，不同高校、教育部可以共同搭建教育風(fēng)險信息共享平臺，連接教育風(fēng)險數(shù)據(jù)庫，匯集相關(guān)數(shù)據(jù)，在大數(shù)據(jù)、人工智能等技術(shù)的支持下分析風(fēng)險概率。③教育風(fēng)險影響分析?？梢詮纳鷳B(tài)主體、生態(tài)介體、生態(tài)環(huán)境、生態(tài)功能等要素出發(fā)，分析生成式人工智能給高等教育生態(tài)系統(tǒng)帶來的潛在危害。在此基礎(chǔ)上，高?？梢砸劳酗L(fēng)險咨詢團隊，利用機器學(xué)習(xí)、深度學(xué)習(xí)等技術(shù)構(gòu)建教育風(fēng)險預(yù)測模型，來分析教育風(fēng)險的影響，并關(guān)注教育風(fēng)險影響的規(guī)模、范圍、時效性等。從長期來看，還可以重點關(guān)注生成式人工智能給教育倫理帶來的影響。

（3）風(fēng)險評價

教育風(fēng)險評價旨在根據(jù)教育風(fēng)險分析的結(jié)果來評價生成式人工智能的教育風(fēng)險等級，并評價其教育風(fēng)險偏好和容忍度，具體包括：①教育風(fēng)險等級評價。教育風(fēng)險等級反映的是教育風(fēng)險的嚴重程度，大致可以分為低風(fēng)險、一般風(fēng)險、較大風(fēng)險、重大風(fēng)險四個等級?？梢愿鶕?jù)教育風(fēng)險發(fā)生的概率及其影響，在專家咨詢的基礎(chǔ)上應(yīng)用風(fēng)險矩陣法，計算得到風(fēng)險的等級數(shù)值，之后與相應(yīng)的風(fēng)險標準進行比較，最終確定教育風(fēng)險的等級。目前，國內(nèi)尚未有針對生成式人工智能和教育風(fēng)險的統(tǒng)一評估標準。為科學(xué)評估教育風(fēng)險，政府和教育部亟需制定生成式人工智能教育風(fēng)險評估標準，明確風(fēng)險等級劃分，提供評價方法指導(dǎo)，為地方各級教育行政部門和高校開展教育風(fēng)險評估提供依據(jù)和支持。②教育風(fēng)險偏好和容忍度評價。風(fēng)險偏好（Risk Appetite）是高校愿意承擔(dān)和接受的風(fēng)險水平；而風(fēng)險容忍度（Risk Tolerance）是高校在管理風(fēng)險時愿意接受的結(jié)果的變化程度，是對風(fēng)險偏好的進一步量化。高校需要設(shè)置不同的風(fēng)險偏好聲明，明確本校為實現(xiàn)風(fēng)險預(yù)警目標而愿意接受的風(fēng)險等級，并界定相應(yīng)的風(fēng)險承受能力，以指導(dǎo)高校的風(fēng)險管理人員進行決策，使決策與風(fēng)險承受能力相一致。在生成式人工智能驅(qū)動的教學(xué)創(chuàng)新方面，高校需要聲明較高的風(fēng)險偏好；而在技術(shù)引發(fā)的數(shù)據(jù)隱私安全方面，高校需要聲明較低的風(fēng)險偏好，甚至聲明無風(fēng)險偏好。

（4）風(fēng)險警示

教育風(fēng)險警示是教育風(fēng)險預(yù)警的關(guān)鍵一環(huán)，主要通過層級化下達和網(wǎng)絡(luò)化傳播相結(jié)合的方式實現(xiàn)，警示的內(nèi)容包括教育風(fēng)險的發(fā)生概率、影響情況和嚴重等級。具體而言，各級教育行政部門、高校和相關(guān)媒體通過由上而下層級化的風(fēng)險預(yù)警信息報告制度，借助互聯(lián)網(wǎng)及時傳播教育風(fēng)險警示信息，以確保每個利益相關(guān)者知曉警示信息：①各級教育行政部門主要以通知、建議、公示、提醒等方式進行教育風(fēng)險警示。例如，教育部發(fā)布生成式人工智能教育風(fēng)險提示清單，對一定時間內(nèi)可能出現(xiàn)的普遍性教育風(fēng)險進行警示，并提醒各高校做好風(fēng)險防范工作。②高校借助網(wǎng)絡(luò)平臺發(fā)布預(yù)警信息，確保各學(xué)院、年級、專業(yè)、班級的相關(guān)師生及時獲知風(fēng)險預(yù)警信息，從而促使其在使用生成式人工智能進行教與學(xué)的過程中能夠防范教育風(fēng)險。除了在校內(nèi)發(fā)布生成式人工智能帶來的普遍性教育風(fēng)險，高校還要結(jié)合本校的具體情況，額外提醒本校所面臨的特殊風(fēng)險。③相關(guān)媒體應(yīng)積極轉(zhuǎn)發(fā)政府、教育行政部門等發(fā)布的教育風(fēng)險警示信息，進一步擴大教育風(fēng)險警示的范圍。各大媒體需重視信息來源的真實性和可靠性，避免傳播虛假信息。在此過程中，權(quán)威的官方教育媒體發(fā)揮著不可或缺的作用。

（5）風(fēng)險追蹤

隨著高等教育生態(tài)系統(tǒng)內(nèi)外部環(huán)境的變化和風(fēng)險應(yīng)對措施的實施，教育風(fēng)險可能會出現(xiàn)、改變或消失，因而需要對教育風(fēng)險進行動態(tài)追蹤，以增加、調(diào)整或取消相應(yīng)的教育風(fēng)險警示。在此之前，高校的風(fēng)險指導(dǎo)小組和風(fēng)險管理委員會需先建立教育風(fēng)險審查制度，實時記錄風(fēng)險，定期召開風(fēng)險審查會議，為風(fēng)險追蹤提供制度保障。風(fēng)險追蹤的內(nèi)容主要包括：①生成式人工智能技術(shù)及其應(yīng)用系統(tǒng)。繼發(fā)布ChatGPT-3.5之后，OpenAI公司又迅速發(fā)布了ChatGPT-4。生成式人工智能技術(shù)的迅猛發(fā)展，可能給高等教育生態(tài)系統(tǒng)帶來新的風(fēng)險。因此，高校需掌握生成式人工智能技術(shù)的發(fā)展情況，及時對技術(shù)性能進行測試。②相關(guān)的法律法規(guī)和監(jiān)管要求。2023年7月，國家互聯(lián)網(wǎng)信息辦公室等七部門聯(lián)合發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》^[25]。高校需結(jié)合此暫行辦法的規(guī)范要求來定位教育風(fēng)險，為重新確定風(fēng)險的性質(zhì)和等級提供依據(jù)。③生成式人工智能在教學(xué)中的應(yīng)用情況。高校需建立教育教學(xué)調(diào)查制度，監(jiān)測教育風(fēng)險的演變和發(fā)展情況，并監(jiān)測是否有新的教育風(fēng)險發(fā)生。在此過程中，高?？梢月?lián)合科技企業(yè)開發(fā)教育風(fēng)險監(jiān)測系統(tǒng)，借助大數(shù)據(jù)、人工智能等技術(shù)對教育風(fēng)險開展大規(guī)模的持續(xù)監(jiān)測和風(fēng)險重估。

三 生成式人工智能融入高等教育生態(tài)系統(tǒng)的風(fēng)險化解

面對師生主權(quán)消解、知識內(nèi)容扭曲、安全包容破壞、人才培養(yǎng)異化等風(fēng)險，不能僅限于通過風(fēng)險預(yù)警機制來防范，還需要高校這一關(guān)鍵主體聯(lián)合政府、教育行政部門等主體，從激發(fā)主體意識、鑒別知識內(nèi)容、優(yōu)化數(shù)字環(huán)境、創(chuàng)新人才培養(yǎng)等方面入手來有效管控和化解這些風(fēng)險。

1 激發(fā)主體意識：提高師生智能素養(yǎng)，制定技術(shù)應(yīng)用指南

防止生成式人工智能剝奪師生的教育主體身份、逐步消解師生的教育主體性地位，需要切實激發(fā)師生的主體意識，這一方面可從智能素養(yǎng)入手，在認知層面讓大學(xué)師生意識到生成式人工智能服務(wù)于高等教育的工具屬性；另一方面可從應(yīng)用指南入手，在應(yīng)用層面為大學(xué)師生合理使用生成式人工智能提供指導(dǎo)：①提高師生智能素養(yǎng)。按照“初步接納→增強認同→深度思考”的內(nèi)在邏輯^[26]，以開展人工智能素養(yǎng)通識教育和培訓(xùn)為抓手，幫助大學(xué)師生樹立正確的技術(shù)觀，掌握生成式人工智能的原理，發(fā)展生成式人工智能難以替代的批判性思維、創(chuàng)造力、倫理道德意識等，打破技術(shù)權(quán)威并建立教育主體自信。同時，將智能素養(yǎng)測評納入大學(xué)教師專業(yè)發(fā)展和大學(xué)生綜合素養(yǎng)評價的范疇。②高校要制定生成式人工智能技術(shù)應(yīng)用指南，說明如何在教學(xué)中正確使用這些工具和用其作弊的后果等^[27]。史翠珊效應(yīng)（Streisand Effect）顯示，全面禁止反而會增加ChatGPT的使用^[28]，而技術(shù)與教育的融合無法阻擋。因此，高校要制定應(yīng)用指南，促進生成式人工智能有效融入大學(xué)課堂并防止師生濫用技術(shù)。例如，美國羅切斯特大學(xué)制定了《藝術(shù)、科學(xué)和工程教師課堂使用ChatGPT/AI指南》^[29]，用于教師選擇是否、何時、如何在課堂上使用生成式人工智能；同時，規(guī)定了教師需要遵守的務(wù)實、透明、始終如一、負責(zé)等倫理原則。

2 鑒別知識內(nèi)容：實施教育提示工程，設(shè)計人機協(xié)作任務(wù)

知識內(nèi)容扭曲風(fēng)險源于生成式人工智能本身的缺陷，且與知識的傳遞方式密切相關(guān)。為此，可將生成式人工智能生成的知識內(nèi)容作為教學(xué)材料，讓大學(xué)生通過使用提示來實現(xiàn)知識的迭代傳遞，在人機交互的過程中有效鑒別知識內(nèi)容，具體包括：①實施教育提示工程，聚焦批判性思維培養(yǎng)，幫助大學(xué)生學(xué)會提問與反思。教育提示工程（Educational Prompt Engineering）聚焦教育領(lǐng)域提示的設(shè)計，旨在讓學(xué)習(xí)者和教育者能夠使用適合機器理解的自然語言來獲得準確的響應(yīng)^[30]。大學(xué)需要實施教育提示工程，具體可從傳播全面的內(nèi)容知識、培養(yǎng)批判性思維和運用迭代設(shè)計方法入手^[31]，來開發(fā)教育提示工程相關(guān)的課程，構(gòu)建深度對話學(xué)習(xí)模式，讓學(xué)生在問答過程中對技術(shù)生成的內(nèi)容進行批判性思考。②設(shè)計人機協(xié)作任務(wù)，運用評估驗證策略，實現(xiàn)對知識的科學(xué)建構(gòu)。大學(xué)教師可以設(shè)計學(xué)生與生成式人工智能共同參與的學(xué)習(xí)任務(wù)，讓學(xué)生批判性地評估這些工具的價值，并有效和負責(zé)任地使用這些工具。例如，教師可以要求學(xué)生與ChatGPT共同撰寫一篇文章，并反思共同寫作的過程和內(nèi)容。但需注意的是，任務(wù)結(jié)束后教師必須及時為學(xué)生提供反饋，評估生成式人工智能生成的內(nèi)容的可信度，以減少虛假信息的傳播。

3 優(yōu)化數(shù)字環(huán)境：加強數(shù)據(jù)安全治理，完善算法監(jiān)管機制

數(shù)字化轉(zhuǎn)型是撬動高等教育生態(tài)系統(tǒng)實現(xiàn)高質(zhì)量發(fā)展的重要杠桿，而這有賴于構(gòu)建安全包容的數(shù)字環(huán)境。安全包容破壞風(fēng)險大多由技術(shù)本身的數(shù)據(jù)和算法引起，因此加強對數(shù)據(jù)安全的治理和對算法的監(jiān)管十分重要，具體包括：①加強對數(shù)據(jù)安全的整體性治理和敏捷治理，提升高校數(shù)據(jù)安全治理能力。針對教育數(shù)據(jù)安全，需要構(gòu)建政府、教育行政部門、高校三位一體的數(shù)據(jù)安全治理體系，通過整體性治理來破解教育數(shù)據(jù)安全治理的碎片化難題，并通過敏捷治理來實現(xiàn)對教育數(shù)據(jù)安全風(fēng)險的快速識別與響應(yīng)。具體到高校，一要明確教育數(shù)據(jù)安全治理的目標和戰(zhàn)略愿景；二要建設(shè)教育數(shù)據(jù)安全的管理、執(zhí)行機構(gòu)，并明確其職責(zé)分工；三要制定高校教育數(shù)據(jù)安全政策文件、管理辦法等；四要采用數(shù)據(jù)脫敏技術(shù)、訪問控制等，以保障教育數(shù)據(jù)安全；五要提升大學(xué)教師、學(xué)生、管理人員的數(shù)據(jù)安全意識與能力。②完善算法監(jiān)管機制，構(gòu)建差異化、多主體、全周期的算法監(jiān)管機制，包括參考歐盟在《人工智能法案》中提出的基于風(fēng)險等級的監(jiān)管思路^[32]，針對不同等級的教育風(fēng)險采取不同的管控措施；調(diào)動政府、高校、社會等多元主體參與監(jiān)管的積極性，并明確各主體的監(jiān)管責(zé)任和權(quán)力，為社會組織和用戶群體參與人工智能治理創(chuàng)造條件^[33]；從輸入端與輸出端入手，強化對生成式人工智能的全周期監(jiān)管^[34]。

4 培養(yǎng)創(chuàng)新人才：開發(fā)交叉課程，打造大學(xué)融合課堂

為化解人才培養(yǎng)異化風(fēng)險，可以借助生成式人工智能技術(shù)創(chuàng)新人才培養(yǎng)的內(nèi)容和模式，具體包括：①利用生成式人工智能整合課程資源，開發(fā)跨學(xué)科的交叉課程。在生成式人工智能支持的人機互補式課程資源開發(fā)模式下^[35]，不同學(xué)科領(lǐng)域的大學(xué)教師和專家可以利用生成式人工智能整合課程資源，并對課程資源進行二次設(shè)計，開發(fā)出跨學(xué)科的交叉課程。在此基礎(chǔ)上，大學(xué)教師可以將相關(guān)的課程資源提供給學(xué)生，學(xué)生也可以根據(jù)自身的學(xué)習(xí)需求進一步定制課程。同時，大學(xué)教師要做好相應(yīng)的審查評估工作。此外，要按照常規(guī)的知識生產(chǎn)邏輯來開發(fā)體系化、權(quán)威化的專家課程，并注重技術(shù)生成課程與專家課程的互相補充^[36]，從而為開展規(guī)?；目鐚W(xué)科教學(xué)提供支持，并為應(yīng)用技術(shù)生成課程提供參考和依據(jù)。②構(gòu)建人機協(xié)同的教學(xué)模式，打造大學(xué)融合課堂。具體來說，一要分割教學(xué)責(zé)任，明確生成式人工智能機器與教師各自的角色、任務(wù)、責(zé)任^[37]；二要基于生成式人工智能支持的內(nèi)容生成和個性化輔導(dǎo)，通過設(shè)計人機協(xié)作學(xué)習(xí)任務(wù)，來提高學(xué)生的創(chuàng)造力和批判性思維，促進學(xué)生的高意識生成式學(xué)習(xí)^[38]；三要以現(xiàn)實社會交互中蘊含的情感來引導(dǎo)學(xué)生與生成式人工智能機器進行正確互動，構(gòu)建“學(xué)生-教師-機器”之間的良性關(guān)系；四要以元宇宙學(xué)校為抓手^[39]，構(gòu)建線上線下融合式學(xué)習(xí)空間，讓真實的人際互動與智能的人機互動相融合、讓現(xiàn)場的實踐操練與虛擬的仿真模擬相融合。

四 結(jié)語

生成式人工智能的融入，有望從教育教學(xué)、學(xué)術(shù)科研、社會服務(wù)、教育治理等方面重塑高等教育生態(tài)^[40]，但也給高等教育生態(tài)系統(tǒng)帶來了潛在的教育風(fēng)險。本研究從風(fēng)險表征、風(fēng)險預(yù)警、風(fēng)險化解三個方面，分析了生成式人工智能融入高等教育生態(tài)系統(tǒng)所產(chǎn)生的教育風(fēng)險，可為生成式人工智能教育風(fēng)險治理提供理論指導(dǎo)，并為高等教育生態(tài)系統(tǒng)的數(shù)字化轉(zhuǎn)型和高質(zhì)量發(fā)展夯實安全底座。為促進生成式人工智能深度融入高等教育生態(tài)系統(tǒng)，本研究建議從以下方面入手：①以安全為底線，遵循可信人工智能的基本框架，立足高等教育需求，面向高等教育應(yīng)用場景，以基礎(chǔ)能力層、專業(yè)能力層和應(yīng)用服務(wù)層為架構(gòu)^[41]，開發(fā)安全可信的教育大模型，服務(wù)于高等教育；②關(guān)注生成式人工智能給高等教育生態(tài)系統(tǒng)帶來的倫理風(fēng)險，制定生成式人工智能教育應(yīng)用的倫理原則，開展科技倫理教育，讓大學(xué)師生合乎道德地使用生成式人工智能工具；③將生成式人工智能與元宇宙相融合，構(gòu)建具身智能型的高等教育環(huán)境，開發(fā)動態(tài)適應(yīng)的沉浸式學(xué)習(xí)資源，探索構(gòu)建新型的人機協(xié)同學(xué)習(xí)模式^[42]，讓大學(xué)生在深度對話、具身體驗、有效移情的過程中掌握專業(yè)知識，培養(yǎng)高階思維，強化倫理道德意識，進而實現(xiàn)智慧成長。

參考文獻

[1][28]Lim W M， Gunasekara A， Pallant J L， et al. Generative AI and the future of education： Ragnar?k or reformation？ A paradoxical perspective from management educators[J]. The International Journal of Management Education， 2023，（2）：1-13.

[2][17]詹澤慧，季瑜，牛世婧，等.ChatGPT嵌入教育生態(tài)的內(nèi)在機理、表征形態(tài)及風(fēng)險化解[J].現(xiàn)代遠距離教育，2023，（4）：3-13.

[3]Stephen M. The college essay is dead[OL].

[4][7]周洪宇，李宇陽.ChatGPT對教育生態(tài)的沖擊及應(yīng)對策略[J].新疆師范大學(xué)學(xué)報（哲學(xué)社會科學(xué)版），2023，（4）：102-112.

[5]申麗萍，何朝帆，曹東旭，等.大語言模型在中學(xué)歷史學(xué)科中的應(yīng)用測評分析[J].現(xiàn)代教育技術(shù)，2024，（2）：62-71.

[6]胡涌，柳小玲，王玲，等.高等教育生態(tài)系統(tǒng)的基本構(gòu)架[J].中國林業(yè)教育，2009，（1）：1-5.

[8]鐘秉林，尚俊杰，王建華，等.ChatGPT對教育的挑戰(zhàn)（筆談）[J].重慶高教研究，2023，（3）：3-25.

[9][36]李會春.ChatGPT的智慧生成特征及對高等教育的挑戰(zhàn)[J].江蘇高教，2023，（8）：1-12.

[10]段偉文.積極應(yīng)對ChatGPT的倫理挑戰(zhàn)[N].中國社會科學(xué)報，2023-3-7（7）.

[11][37]王佑鎂，王旦，梁煒怡，等.ChatGPT教育應(yīng)用的倫理風(fēng)險與規(guī)避進路[J].開放教育研究，2023，（2）：26-35.

[12]Ray P P. ChatGPT： A comprehensive review on background， applications， key challenges， bias， ethics， limitations and future scope[J]. Internet of Things and Cyber-Physical Systems， 2023，（3）：121-154.

[13]Cotton D R， Cotton P A， Shipway J R. Chatting and cheating： Ensuring academic integrity in the era of ChatGPT[J]. Innovations in Education and Teaching International， 2024，（2）：228-239.

[14]張志禎，張玲玲，米天伊，等.大型語言模型會催生學(xué)校結(jié)構(gòu)性變革嗎？——基于ChatGPT的前瞻性分析[J].中國遠程教育，2023，（4）：32-41.

[15]許韜，李宇航，代東旭.高等教育數(shù)字化的理論檢視、現(xiàn)實挑戰(zhàn)與進階路徑[J].中國高等教育，2023，（23）：18-21.

[16]賀祖斌.中國高等教育系統(tǒng)的生態(tài)學(xué)分析[D].武漢：華中科技大學(xué)，2005：5.

[18]駱飛，馬雨璇.人工智能生成內(nèi)容對學(xué)術(shù)生態(tài)的影響與應(yīng)對——基于ChatGPT的討論與分析[J].現(xiàn)代教育技術(shù)，2023，（6）：15-25.

[19]趙玲玲.整體智治：基層治理模式創(chuàng)新的實踐邏輯與實現(xiàn)路徑——以浙江省“大綜合一體化”行政執(zhí)法改革為例[J].地方治理研究，2023，（1）：12-24、78.

[20]MIT Risk Management & Compliance Services. Risk management system[OL].

[21]趙磊磊，張黎，代蕊華.智能時代教育數(shù)據(jù)風(fēng)險治理：實然困境與實踐路徑[J].湖南師范大學(xué)教育科學(xué)學(xué)報，2021，（6）：94-102.

[22]ISO. ISO 31000： 2018-risk management guidelines[OL].

[23]付昌奎，曾文婧.強化風(fēng)險治理 護航教育改革[N].光明日報，2019-12-17（13）.

[24]新華網(wǎng).新華網(wǎng)舉行“生成式人工智能內(nèi)容安全與模型安全檢測平臺”（AIGC-Safe）邀請測試發(fā)布會[OL].

[25]國家互聯(lián)網(wǎng)信息辦公室等七部門.生成式人工智能服務(wù)管理暫行辦法[OL].

[26]錢小龍.面向高質(zhì)量發(fā)展的基礎(chǔ)教育數(shù)字化轉(zhuǎn)型行動[J].南通大學(xué)學(xué)報（社會科學(xué)版），2023，（5）：122-132.

[27]Rudolph J， Tan S， Tan S. ChatGPT： Bullshit spewer or the end of traditional assessments in higher education？[J]. Journal of Applied Learning & Teaching， 2023，（1）：342-363.

[29]University of Rochester. AS&E instructors guide to using ChatGPT/AI in the classroom[OL].

[30]趙曉偉，祝智庭，沈書生.教育提示語工程：構(gòu)建數(shù)智時代的認識論新話語[J].中國遠程教育，2023，（11）：22-31.

[31]Cain W. Prompting change： Exploring prompt engineering in large language model AI and its potential to transform education[J]. TechTrends， 2024，（1）：47-57.

[32]EU Artificial Intelligence Act. EU artificial intelligence act[OL].

[33]張欣.生成式人工智能的算法治理挑戰(zhàn)與治理型監(jiān)管[J].現(xiàn)代法學(xué)，2023，（3）：108-123.

[34]呂健，陸宣.ChatGPT為勞動者帶來的機遇、挑戰(zhàn)及其應(yīng)對[J].當(dāng)代經(jīng)濟管理，2023，（12）：1-8.

[35]苗逢春.生成式人工智能技術(shù)原理及其教育適用性考證[J].現(xiàn)代教育技術(shù)，2023，（11）：5-18.

[38]祝智庭，戴嶺，胡姣.高意識生成式學(xué)習(xí)：AIGC技術(shù)賦能的學(xué)習(xí)范式創(chuàng)新[J].電化教育研究，2023，（6）：5-14.

[39]錢小龍，張奕瀟，宋子昀，等.打開元宇宙學(xué)校之門：發(fā)端、現(xiàn)狀與走向[J].現(xiàn)代教育技術(shù)，2023，（3）：15-26.

[40]周洪宇，常順利.生成式人工智能嵌入高等教育的未來圖景、潛在風(fēng)險及其治理[J].現(xiàn)代教育管理，2023，（11）：1-12.

[41]曹培杰，謝陽斌，武卉紫，等.教育大模型的發(fā)展現(xiàn)狀、創(chuàng)新架構(gòu)及應(yīng)用展望[J].現(xiàn)代教育技術(shù)，2024，（2）：5-12.

[42]翟雪松，楚肖燕，焦麗珍，等.基于“生成式人工智能+元宇宙”的人機協(xié)同學(xué)習(xí)模式研究[J].開放教育研究，2023，（5）：26-36.

Risk Representation， Early Warning and Resolution of

Integrating GAI into the Higher Education Ecosystem

HUANG Bei-Bei??? SONG Zi-Yun??? QIAN Xiao-Long^{[Corresponding Author]}

（Institute of Future Education， Nantong University， Nantong， Jiangsu， China 226019）

Abstract： Under the backdrop of the rapid development of generative artificial intelligence （GAI）， it is urgent to recognize， prevent， and resolve the educational risks that GAI brings to the higher education ecosystem. Therefore， this paper firstly analyzed the risk representation of integrating GAI into the higher education ecosystem， which mainly manifested as the dissolution of teachers and students sovereignty， the distortion of knowledge content， the destruction of security inclusion， and the alienation of talent cultivation. Subsequently， the risk warning mechanism that integrating GAI into the higher education ecosystem was constructed， which consisted of four modules of risk warning subject， risk warning content， risk warning guarantee， and risk warning process. Finally， this paper proposed to address the risks of integrating GAI into the higher education ecosystem by stimulating subject awareness， identifying knowledge content， optimizing digital environment and cultivating innovative talents. The research in this paper could provide theoretical guidance for risk governance of GAI education， promote the safe application of GAI in higher education， and safeguard the digital transformation and high-quality development of higher education.

Keywords： generative artificial intelligence; ChatGPT; higher education ecosystem; educational risk; risk warning

*基金項目：本文為國家社科基金一般項目“全民終身學(xué)習(xí)視野下的國家在線教育體系發(fā)展研究”（項目編號：20BSH053）的階段性研究成果。

作者簡介：黃蓓蓓，研究員，博士，研究方向為高等教育信息化，郵箱為963326617@qq.com。

收稿日期：2023年10月9日

編輯：小米