教育人工智能應(yīng)用場景及其理性審視

婁方園 高振 王娟

摘 要：各國高度關(guān)注人工智能在教育領(lǐng)域的應(yīng)用研究，但更多的是從技術(shù)視角開展人工智能，忽略了教育本質(zhì)的培養(yǎng)。盡快設(shè)計(jì)出能夠有效應(yīng)對由教育人工智能應(yīng)用場景所引發(fā)的問題的策略，成為一個全新而重要的時代命題。文章首先界定了教育人工智能等相關(guān)概念，陳述了教育人工智能的相關(guān)應(yīng)用場景;其次對教育人工智能應(yīng)用場景進(jìn)行了理性審視;最后分別從政府、教育組織、產(chǎn)業(yè)組織以及個體四個層面提出審慎應(yīng)對的相關(guān)策略，以期為解決教育人工智能應(yīng)用場景所引發(fā)的問題提供思路。

關(guān)鍵詞：教育人工智能;應(yīng)用場景;倫理;審視策略

中圖分類號：G4 文獻(xiàn)標(biāo)志碼：A 文章編號：2096-0069（2022）03-0026-08

收稿日期：2021-10-08

基金項(xiàng)目：2020年教育部政策法規(guī)司課題“在線教育治理研究”（ JYBZFS2020107）;2021年江蘇高校哲學(xué)社會科學(xué)研究重大項(xiàng)目“人工智能視域下在線教育治理機(jī)制與路徑研究”（2021SJZDA161）;2021年江蘇師范大學(xué)項(xiàng)目“基于DoPBL模式的中學(xué)信息技術(shù)課程設(shè)計(jì)與實(shí)踐研究”（2021XKT1363）

作者簡介：婁方園（1995— ），女，河南商丘人，江蘇師范大學(xué)智慧教育學(xué)院，碩士研究生，研究方向?yàn)槿斯ぶ悄堋⒔逃卫?高振（1996— ），男，江蘇宿遷人，江蘇師范大學(xué)智慧教育學(xué)院，碩士研究生，研究方向?yàn)槿斯ぶ悄?、在線教育;王娟（1979— ），女，江蘇泗洪人，教授、碩士生導(dǎo)師，研究方向?yàn)榻逃碚撆c教育管理、在線教育。

引言

智能時代，教育人工智能是新一輪科技革命的重要驅(qū)動力。2021年4月，聯(lián)合國教科文組織制定了《人工智能與教育：政策制定者指南》，提出提升公民的人工智能素養(yǎng)，實(shí)現(xiàn)教育共同利益以及包容性和可持續(xù)性的未來教育。但人工智能賦能教育的同時也面臨著師資、課程、教材、人才培養(yǎng)質(zhì)量、教育結(jié)構(gòu)、倫理、安全、隱私、公平等多方面的挑戰(zhàn)。

教育人工智能政策制定者以及教育者如何能更好地利用人工智能為教育提供機(jī)遇？如何確保合理、公平地使用教育人工智能產(chǎn)品？如何實(shí)現(xiàn)教育與人工智能深度融合？如何應(yīng)對應(yīng)用教育人工智能時帶來的多重挑戰(zhàn)與風(fēng)險？如何明確權(quán)責(zé)擔(dān)當(dāng)？盡快設(shè)計(jì)出能夠有效應(yīng)對和解決由教育人工智能應(yīng)用所引發(fā)的問題的策略，成為學(xué)術(shù)界的重要課題。為此，本研究將理性審視教育人工智能，提出有針對性的解決方案，為促進(jìn)教育人工智能健康發(fā)展提供思路。

一、教育人工智能的內(nèi)涵及應(yīng)用場景

智能時代，教育的表征形態(tài)、理論基礎(chǔ)與研究范式正在發(fā)生改變，教育人工智能具備了時代新內(nèi)涵與新內(nèi)容。從教育人工智能的定義探究過程中發(fā)現(xiàn)，諸多學(xué)者更多是從技術(shù)視角定義教育人工智能，卻忽略了教育本質(zhì)的培養(yǎng)?；诖?，研究從人本主義視角探索教育人工智能的內(nèi)涵，以期對智能時代教育人工智能應(yīng)用能夠健康發(fā)展提供借鑒。

（一）人工智能

人工智能（AI）是指計(jì)算機(jī)對人類的智能進(jìn)行模擬、生產(chǎn)和擴(kuò)展，機(jī)器通過模仿人類的感知、學(xué)習(xí)、推理和決策能力，實(shí)現(xiàn)目前必須借助人類智慧才能完成的任務(wù)。人工智能經(jīng)歷了三個重要時期，如圖1所示。計(jì)算智能時代強(qiáng)調(diào)符號主義，重視邏輯卻忽視了知識。感知智能時代強(qiáng)調(diào)控制主義，重視知識卻無法實(shí)現(xiàn)自主學(xué)習(xí)。認(rèn)知智能時代強(qiáng)調(diào)聯(lián)結(jié)主義，開始具有自主學(xué)習(xí)能力，應(yīng)用場景的開發(fā)成為人工智能技術(shù)落地最核心的內(nèi)容。

（二）教育人工智能

人工智能的突出表現(xiàn)以及顛覆性潛力給教育帶來了極大的沖擊，國內(nèi)外研究者開始重視教育與人工智能的深度融合發(fā)展。將人工智能應(yīng)用在教育領(lǐng)域中的研究可以追溯到程序性教學(xué)[1]。有學(xué)者曾指出，人工智能可以根據(jù)特定的情境、需求，與個體進(jìn)行對話，進(jìn)而幫助其實(shí)現(xiàn)某個目標(biāo)[2]。在之后發(fā)展的過程中，漸漸出現(xiàn)了微格教學(xué)、沉浸學(xué)習(xí)、自動測評等領(lǐng)域的相關(guān)實(shí)踐，開始著眼于教育與人工智能的更深層次融合，實(shí)現(xiàn)1+1>2的效果。

教育人工智能能夠?qū)崿F(xiàn)人工智能與教育更深層次的融合，不僅僅是技術(shù)問題，也是教育理念和組織變革的問題，更需要有人的參與，教育人工智能具備跨越發(fā)展的能力，能夠提升師生素養(yǎng)和信息思維，創(chuàng)造新型學(xué)習(xí)條件，促進(jìn)教育人工智能從技術(shù)應(yīng)用向能力素質(zhì)的發(fā)展。

（三）教育人工智能應(yīng)用場景

只有當(dāng)人工智能應(yīng)用于教育人工智能、建構(gòu)教育場景、充足教育中的要素或者重構(gòu)教育過程時，才屬于教育人工智能的應(yīng)用場景[3]，其價值歸宿是為教育主體賦能，為教育系統(tǒng)賦能[4]。眾多學(xué)者根據(jù)目前初步應(yīng)用的教育人工智能應(yīng)用場景，將其分為面向系統(tǒng)、面向?qū)W生和面向教師的人工智能三大類，如圖2所示。

1.面向系統(tǒng)的教育人工智能應(yīng)用場景

面向系統(tǒng)的教育人工智能應(yīng)用場景基于教育管理信息系統(tǒng)，旨在實(shí)現(xiàn)學(xué)校管理自動化，為教師和管理員提供信息，為學(xué)生提供指導(dǎo)。從教育管理信息系統(tǒng)中提取的大數(shù)據(jù)也有助于制定教育教學(xué)決策。教育人工智能應(yīng)用場景還顯示出其基于學(xué)習(xí)者個性化需求和學(xué)習(xí)水平分析來策劃跨平臺學(xué)習(xí)內(nèi)容的潛力。

面向系統(tǒng)的教育人工智能應(yīng)用場景主要用于監(jiān)控學(xué)生在課堂上的注意力、跟蹤出勤率和預(yù)測教師表現(xiàn)。人工智能在教育管理和教學(xué)中的應(yīng)用主要有教育聊天機(jī)器人、學(xué)習(xí)分析應(yīng)用程序和自適應(yīng)學(xué)習(xí)平臺等。教育聊天機(jī)器人是使用云服務(wù)和人工智能技術(shù)與人進(jìn)行模擬對話的在線計(jì)算機(jī)程序，其教育應(yīng)用包括促進(jìn)學(xué)生入學(xué)、提供全天候信息、直接支持學(xué)習(xí);學(xué)習(xí)分析應(yīng)用程序是由英國開放大學(xué)設(shè)計(jì)的人工智能應(yīng)用程序，通過分析該大學(xué)教育管理信息系統(tǒng)的大數(shù)據(jù)來預(yù)測學(xué)生成績;自適應(yīng)學(xué)習(xí)平臺系統(tǒng)提供后端人工智能功能支持標(biāo)準(zhǔn)教育技術(shù)，分析用戶數(shù)據(jù)，并將其匯總，創(chuàng)建學(xué)生互動內(nèi)容、偏好和成就的心理測量檔案。

2.面向?qū)W生的教育人工智能應(yīng)用場景

面向?qū)W生的教育人工智能應(yīng)用場景被譽(yù)為“第四次教育革命”的組成部分，旨在為全世界的學(xué)習(xí)者提供高質(zhì)量、個性化和泛在的終身學(xué)習(xí)。主要包括智能輔導(dǎo)系統(tǒng)、基于對話的輔導(dǎo)系統(tǒng)、探索性學(xué)習(xí)環(huán)境、自動寫作評估、人工智能驅(qū)動的閱讀和語言學(xué)習(xí)、智能機(jī)器人、可教的代理，以及教育虛擬現(xiàn)實(shí)和增強(qiáng)現(xiàn)實(shí)等。

（1）智能輔導(dǎo)系統(tǒng)

教育人工智能最常見的應(yīng)用場景是智能輔導(dǎo)系統(tǒng)（Intelligent Tutoring Systems，簡稱ITS），其主要通過結(jié)構(gòu)化科目的主題為學(xué)生提供個性化的輔導(dǎo)。一些智能輔導(dǎo)系統(tǒng)雖有利于監(jiān)控學(xué)生學(xué)習(xí)情況，為教師提供采取行動的進(jìn)一步的信息，但其設(shè)計(jì)也引發(fā)了一些不良問題。目前，全球有60多個商業(yè)智能輔導(dǎo)系統(tǒng)可用。

（2）基于對話的輔導(dǎo)系統(tǒng)

基于對話的輔導(dǎo)系統(tǒng)（Dialogue-based Tutoring Systems，簡稱DBTS）利用自然語言處理和其他人工智能技術(shù)，模擬師生間的口語教學(xué)對話，完成在線學(xué)習(xí)任務(wù)。它采用蘇格拉底式教學(xué)方法，借助人工智能生成的問題，引導(dǎo)學(xué)生自己解決問題，旨在鼓勵學(xué)生參與闡述，達(dá)到對主題的深入理解。目前，基于對話的輔導(dǎo)系統(tǒng)有AutoTutor（自動輔導(dǎo)），以及Watson Tutor（沃森導(dǎo)師）商業(yè)系統(tǒng)。

（3）探索性學(xué)習(xí)環(huán)境

探索性學(xué)習(xí)環(huán)境（Exploratory Learning Environ-ments，簡稱ELEs）基于建構(gòu)主義理論，鼓勵學(xué)生通過探索學(xué)習(xí)環(huán)境與現(xiàn)有知識建立聯(lián)系，從而積極建構(gòu)個人知識，而非遵循諸如智能輔導(dǎo)系統(tǒng)所支持的循序漸進(jìn)的“知識傳遞”模式。人工智能在探索性學(xué)習(xí)環(huán)境中的作用是，通過知識跟蹤和機(jī)器學(xué)習(xí)，提供自動指導(dǎo)和反饋，最大限度地減少探索性學(xué)習(xí)的認(rèn)知負(fù)荷。這些反饋有助于消除誤解，促進(jìn)理解，支持學(xué)生探索。

（4）自動寫作評估

自動寫作評估（Automated Writing Evaluation，簡稱AWE）利用自然語言處理和其他人工智能技術(shù)，提供寫作的自動反饋。自動寫作評估方法包括形成性自動寫作評估和總結(jié)性自動寫作評估。目前，自動寫作評估教育應(yīng)用的示例主要有e-Rater（“寫作評分”系統(tǒng)）、Turnitin（“數(shù)字圖書館”平臺）和Smartmusic（“智能音樂”應(yīng)用程序）。

（5）人工智能驅(qū)動的閱讀和語言學(xué)習(xí)

閱讀和語言學(xué)習(xí)工具越來越多地使用人工智能來增強(qiáng)其方法，如人工智能驅(qū)動的語音識別。人工智能驅(qū)動的語音識別系統(tǒng)檢測并自動分析閱讀技能，通常用于將學(xué)生聲音與母語人士錄音樣本進(jìn)行比較，通過提供自動反饋來幫助學(xué)生改善發(fā)音。人工智能驅(qū)動的自動翻譯可幫助學(xué)生閱讀其他語言學(xué)習(xí)材料，并使受不同文化熏陶的學(xué)生能夠更容易地相互交流。人工智能支持的閱讀和語言學(xué)習(xí)應(yīng)用程序包括AI Teacher（人工智能教師）、Babbel（一款語言學(xué)習(xí)應(yīng)用的軟件）等。

（6）智能機(jī)器人

智能機(jī)器人在教育中的應(yīng)用也在探索中，尤其是在有學(xué)習(xí)障礙或?qū)W習(xí)困難的兒童環(huán)境中的應(yīng)用。例如，為自閉癥譜系障礙學(xué)習(xí)者創(chuàng)造了具有語音功能的類人機(jī)器人，提供可預(yù)測的機(jī)械交互，旨在發(fā)展自閉癥譜系障礙學(xué)習(xí)者的溝通和社交技能。再如，遠(yuǎn)程呈現(xiàn)機(jī)器人為可能因疾病而無法上學(xué)的學(xué)生提供進(jìn)入教室服務(wù)。

（7）可教的代理

通過教別人可以更深入、更好地記住一個話題。這種效應(yīng)已被各種人工智能方法所利用。

（8）教育虛擬現(xiàn)實(shí)和增強(qiáng)現(xiàn)實(shí)

虛擬現(xiàn)實(shí)和增強(qiáng)現(xiàn)實(shí)是教育環(huán)境應(yīng)用的兩個創(chuàng)新，經(jīng)常與機(jī)器學(xué)習(xí)和其他人工智能技術(shù)相結(jié)合，增強(qiáng)學(xué)生體驗(yàn)。虛擬現(xiàn)實(shí)可以為學(xué)生提供身臨其境的體驗(yàn)，使其感覺仿佛被帶入了現(xiàn)實(shí)世界或想象的環(huán)境。增強(qiáng)現(xiàn)實(shí)是基于用戶現(xiàn)實(shí)世界的視野，將計(jì)算機(jī)生成的圖像進(jìn)行疊加。

3.面向教師的教育人工智能應(yīng)用場景

盡管面向教師的教育人工智能應(yīng)用場景具有增強(qiáng)教師能力的潛力，但相比面向?qū)W生的教育人工智能應(yīng)用場景，面向教師的教育人工智能應(yīng)用場景的關(guān)注度要低得多，主要包括由人類教師和人工智能助教組成的“雙師模式”、人工智能驅(qū)動的教學(xué)助理和討論論壇監(jiān)控。

（1）人類教師組成和人工智能助教的“雙師模式”

許多教育人工智能都被設(shè)計(jì)用來取代一些教師任務(wù)，而非幫助教師更有效地教學(xué)。中國偏遠(yuǎn)農(nóng)村地區(qū)已采用“雙師模式”，即名師通過視頻給遠(yuǎn)程教室里的學(xué)生講課，學(xué)生則從當(dāng)?shù)亟處熌抢铽@得額外指導(dǎo)。未來，人工智能助教可能幫助人類教師完成許多任務(wù)，如提供專業(yè)知識或?qū)I(yè)發(fā)展資源等。教學(xué)生什么內(nèi)容和如何教學(xué)生仍然是教師的責(zé)任和特權(quán)。教育人工智能的作用只是讓教師的工作更簡單。

（2）人工智能驅(qū)動的教學(xué)助理

教育人工智能的設(shè)計(jì)旨在減輕教師費(fèi)時活動，如考勤、批改作業(yè)和回答相同問題。許多人工智能技術(shù)有效“接管”了大量教學(xué)活動，卻干擾了師生關(guān)系，使教師淪為“職能角色”。教育人工智能可能會開啟教學(xué)的新模式，而不僅僅是基于計(jì)算機(jī)的自動化教學(xué)。新的教學(xué)模式需要增加教師專業(yè)知識，這或許可以通過人工智能教學(xué)助理來實(shí)現(xiàn)。但若要在實(shí)際教育環(huán)境中應(yīng)用，許多人工智能技術(shù)和倫理問題仍需克服。

（3）人工智能驅(qū)動的討論論壇監(jiān)控

教育人工智能可以支持在線教育，特別是幫助教師或輔導(dǎo)員監(jiān)控異步討論論壇。學(xué)生在論壇上對布置的任務(wù)做出回應(yīng)，向教師詢問課程資料，并參與協(xié)作學(xué)習(xí)。這通常會產(chǎn)生大量帖子，所有這些帖子都必須進(jìn)行調(diào)整和處理。人工智能可能會在很多方面提供幫助，例如對帖子進(jìn)行分類、匯總引發(fā)重疊問題的帖子、使用情緒分析來識別消極情緒狀態(tài)的帖子。總之，人工智能可以讓人類教師隨時了解學(xué)生意見和共同擔(dān)憂。

二、教育人工智能應(yīng)用場景的理性審視

教育人工智能不僅僅是一場科技革命，更是引發(fā)教育、社會、生命、認(rèn)知和價值的巨大變革。人工智能賦能教育的同時也面臨著師資、課程、教材、人才培養(yǎng)質(zhì)量、倫理、安全等多方面的挑戰(zhàn)。因此，我們必須要理性審視教育人工智能應(yīng)用場景。如圖3所示。

有學(xué)者基于人本主義視角指出教育人工智能應(yīng)用場景忽視了教師和學(xué)生的真正訴求[5]，提出面對人工智能教育應(yīng)用所帶來的新的教育問題時應(yīng)保持教師的主導(dǎo)地位[6];也有學(xué)者提出在教育教學(xué)中，學(xué)生的發(fā)展才是目的，人工智能始終只是一種工具或手段，教師既要借助人工智能為學(xué)生自主發(fā)展提供多種途徑，又要更好地承擔(dān)起人工智能無法承擔(dān)的責(zé)任[7]。

基于已有研究，筆者有如下思考：（1）在開發(fā)應(yīng)用場景時究竟需要何種人工智能？（2）教育的意義和價值何在？（3）在教育人工智能應(yīng)用場景中必然會使用大量敏感數(shù)據(jù)，個人隱私如何保障？（4）在教育人工智能應(yīng)用場景中，誰應(yīng)該承擔(dān)責(zé)任？（5）教育人工智能應(yīng)用場景能否保障教育公平？

（一）在開發(fā)應(yīng)用場景時究竟需要何種人工智能？——訴求性審視

人工智能在教育領(lǐng)域引發(fā)各種連鎖反應(yīng)，造成一些教育現(xiàn)象的失衡。出現(xiàn)這種現(xiàn)象是因?yàn)闆]有充分考慮教育與技術(shù)的關(guān)系，是“以技制人”還是“為人謀技”？為解決這一問題，則需明確在開發(fā)應(yīng)用場景時究竟需要何種人工智能以及師生的真實(shí)訴求又是什么。

人工智能目前在教育中最大的應(yīng)用是大量取代人的活動，但在開發(fā)應(yīng)用場景時需要人工智能取代教師嗎？人工智能能夠取代教師嗎？學(xué)生又需要什么？很顯然，引導(dǎo)學(xué)生成功的絕不僅僅是技術(shù)環(huán)境，更重要的是教師本身獨(dú)特的人格，如情感、信念等。在低階思維層面，教師可以將教育教學(xué)的部分權(quán)利讓渡于人工智能;在高階思維層面，教師不僅可以激發(fā)學(xué)生更深入的思考，還能夠與學(xué)生產(chǎn)生情感共鳴。

（二）教育的意義和價值何在？——人本性審視

教育的指向即是人性的教育。教育人工智能的應(yīng)用應(yīng)以人的需要為根本，突出人本性的價值取向。任何一種教育的重點(diǎn)都應(yīng)在于人，教育不是只灌輸受教育者知識，更多的應(yīng)是對受教育者的道德和責(zé)任的培養(yǎng)。但隨著人工智能技術(shù)的使用，教育中的人卻越來越被物化，教育主體逐漸被人工智能技術(shù)改變，教師和學(xué)生作為人的屬性逐漸被忽略。人工智能在教育中并不能模擬出真實(shí)的情感和人性，很難實(shí)現(xiàn)對人的道德、責(zé)任的培養(yǎng)，只能作為促進(jìn)人發(fā)展的工具和手段。

（三）在教育人工智能應(yīng)用場景中個人隱私何以保障？——隱私性審視

人在享受人工智能技術(shù)帶來的各種便利與福利的同時，個人隱私空間也在不斷地被壓縮與暴露。在教育人工智能應(yīng)用場景中，人工智能使用大量數(shù)據(jù)對算法進(jìn)行訓(xùn)練，與此同時，師生隱私泄露風(fēng)險也將增加，個人隱私何以保障成為必須要面臨的挑戰(zhàn)。

為此，在采集和使用數(shù)據(jù)過程中，數(shù)據(jù)主體應(yīng)有權(quán)利知曉數(shù)據(jù)采集類型、方法以及數(shù)據(jù)安全保護(hù)措施;嚴(yán)禁捏造任何數(shù)據(jù)主體事件的發(fā)生，確保數(shù)據(jù)有效性;未經(jīng)數(shù)據(jù)主體允許，嚴(yán)禁將所得數(shù)據(jù)用于商業(yè)營利性目的，杜絕濫用數(shù)據(jù)現(xiàn)象;建立教育數(shù)據(jù)安全問責(zé)機(jī)制，強(qiáng)化數(shù)據(jù)安全保護(hù)意識。

（四）在教育人工智能應(yīng)用場景中誰應(yīng)該承擔(dān)責(zé)任？——責(zé)任性審視

人是承擔(dān)責(zé)任的主體。那么，人工智能是否充當(dāng)了教育角色？是否具有自由的意志？弱人工智能并未被賦予人的教育權(quán)利，并不需要承擔(dān)相應(yīng)的教育責(zé)任，當(dāng)其造成傷害時，應(yīng)在人工智能創(chuàng)建者、監(jiān)測者與使用者之間追責(zé)。創(chuàng)建者是否了解用戶的需求及差異并基于善良的動機(jī)設(shè)計(jì)教育人工智能產(chǎn)品？是否存在任何形式的傷害或歧視？是否具有安全性、可靠性和透明性？監(jiān)測者是否確保決策安全、合理、公平？是否能夠根據(jù)存在的問題提出相關(guān)的改進(jìn)策略及建議？是否具有其作為監(jiān)測者的職業(yè)修養(yǎng)及道德規(guī)范？使用者是否能夠?qū)⑵溆糜谏屏嫉哪康闹?？是否能夠做到及時反饋？

強(qiáng)人工智能以及超人工智能具有一定的思維能力，可以突破原有設(shè)置，學(xué)到新的規(guī)則。其創(chuàng)建者只是設(shè)置了學(xué)習(xí)規(guī)則但并不具有對其絕對的控制力，無法準(zhǔn)確判斷其產(chǎn)生的具體影響。那么，此時造成傷害的責(zé)任歸屬于誰呢？有學(xué)者指出，人工智能不是與人一樣的教育主體，對其施以懲罰意義不大[8]。也有學(xué)者指出人工智能可以作為像人一樣的教育主體，需要承擔(dān)一定的責(zé)任和義務(wù)。例如，“索菲亞”是歷史上首個獲得公民身份的機(jī)器人，機(jī)器人成為公民意味著擁有權(quán)利和義務(wù)，并承擔(dān)一定的道德責(zé)任[9]。

（五）教育人工智能應(yīng)用場景能否保障教育公平？——公平性審視

教育公平是人們不受各種因素的限制，享有同樣的受教育的權(quán)利。教育人工智能應(yīng)用場景的初衷是讓更多師生受益，避免教育不公平問題。首先，值得肯定的是，能夠通過人工智能技術(shù)獲得地理信息、教育背景等開放數(shù)據(jù)，實(shí)現(xiàn)教育資源精準(zhǔn)投放、按需分配，打破時空的限制，能夠?yàn)槠h(yuǎn)地區(qū)、教學(xué)資源不充足或有特殊需求的學(xué)生提供相對公平的教育機(jī)會，促進(jìn)優(yōu)質(zhì)教育資源全覆蓋。但是，值得我們思考的是，開發(fā)的教育人工智能應(yīng)用場景能否帶來更多的教育公平？算法的黑箱以及信息的不對等是否會加劇數(shù)字鴻溝等現(xiàn)象？

三、教育人工智能應(yīng)用場景的審慎應(yīng)對

教育人工智能應(yīng)用場景的本質(zhì)在于教育教學(xué)與人工智能進(jìn)行的深度融合，應(yīng)在重視教育本質(zhì)的基礎(chǔ)上抑制技術(shù)的“惡”，弘揚(yáng)技術(shù)的“善”。審慎應(yīng)對教育人工智能應(yīng)用場景需要多個層面協(xié)同完善，研究通過對教育人工智能應(yīng)用場景進(jìn)行審視，從政府、教育組織、產(chǎn)業(yè)組織以及個人四個層面，提出如下審慎應(yīng)對的策略。

（一）政府層面：強(qiáng)化頂層設(shè)計(jì)

教育人工智能應(yīng)用場景面臨著公平、隱私、透明和偏見等諸多問題，為解決教育人工智能應(yīng)用場景的現(xiàn)存問題，政府是強(qiáng)化頂層設(shè)計(jì)的重要推動力量，引領(lǐng)著教育人工智能應(yīng)用場景的發(fā)展方向。在制度層面，政府決策部門應(yīng)采取人文主義方法，制定教育人工智能政策的系統(tǒng)遠(yuǎn)景和戰(zhàn)略目標(biāo)，加強(qiáng)人工智能素養(yǎng)教育[10]，弘揚(yáng)技術(shù)的“善”，確保在教育中包容、公平地使用人工智能;在機(jī)制層面，教育人工智能技術(shù)存在信息繭房、算法偏見等現(xiàn)象，為提高人們對知識產(chǎn)權(quán)保護(hù)、侵權(quán)責(zé)任認(rèn)定以及數(shù)據(jù)財(cái)產(chǎn)保護(hù)的意識，應(yīng)設(shè)置公平、透明的研發(fā)機(jī)制，改善技術(shù)的評估標(biāo)準(zhǔn)，提高過程的主動性，建立符合倫理的行為規(guī)范。

（二）教育組織層面：明確教育需求

教育組織是教育能否得到落實(shí)的重要保障，是教育人工智能場景應(yīng)用與推行的實(shí)施者。將人工智能應(yīng)用于教育時，教育組織需要明確教育與技術(shù)的關(guān)系，明確教育現(xiàn)狀與教學(xué)需求，不盲目跟風(fēng)。教育者有必要在“允許人工智能技術(shù)進(jìn)入教育時，睜大眼睛看它的利弊”，受教育者需要樹立正確的技術(shù)觀，教育主體應(yīng)始終保持高度警惕，思想不被技術(shù)所裹挾，杜絕教育過程中出現(xiàn)人工智能歧視等現(xiàn)象。同時，教育人工智能應(yīng)用場景要回歸并堅(jiān)持教育的育人功能，遵循技術(shù)向善功能，并在教育人工智能應(yīng)用場景的全過程中凸顯人的主體性精神，彰顯人文價值[11]，避免因技術(shù)至上的侵蝕而造成教育目的的偏離，確保教育人工智能以學(xué)習(xí)者為中心，可通過圍繞教師的日常教學(xué)實(shí)踐開展試點(diǎn)研究，使教育人工智能應(yīng)用場景促進(jìn)教學(xué)，而非取代核心教師智能。

（三）產(chǎn)業(yè)組織層面：明確權(quán)責(zé)歸屬

在開發(fā)教育人工智能應(yīng)用場景中，產(chǎn)業(yè)組織作為重要的實(shí)施主體，為教育人工智能產(chǎn)品市場化和經(jīng)濟(jì)化做出了巨大貢獻(xiàn)。但產(chǎn)業(yè)組織在注重經(jīng)濟(jì)效益的同時，也須謹(jǐn)記自身的社會責(zé)任，明確自身的創(chuàng)新發(fā)展路徑，能夠了解用戶的需求及差異并基于善良的動機(jī)設(shè)計(jì)教育人工智能產(chǎn)品，避免任何形式的傷害或歧視，避免產(chǎn)權(quán)糾紛與權(quán)責(zé)交叉，落實(shí)信息安全主體責(zé)任，決不實(shí)施過度采集用戶信息、竊取與出賣用戶個人隱私等違法行為，確保教育人工智能產(chǎn)品具有安全性、可靠性和透明性。此外，各產(chǎn)業(yè)組織應(yīng)當(dāng)加強(qiáng)溝通和聯(lián)系，推進(jìn)信息的互聯(lián)、互通和共建、共治、共享，與教育組織積極合作，深入了解當(dāng)前教育人工智能產(chǎn)品的現(xiàn)實(shí)需求與技術(shù)難點(diǎn)，提高教育人工智能應(yīng)用場景水平，減少在應(yīng)用場景中可能引發(fā)的倫理問題，將更多有益于人們的“善的東西”“符合倫理道德的東西”賦予教育人工智能應(yīng)用中，以促進(jìn)其健康發(fā)展。

（四）個人層面：提高信息素養(yǎng)

在不遠(yuǎn)的將來，充分運(yùn)用人工智能，讓自我以及群體的學(xué)習(xí)能力提升變得非常重要。人工智能以自我學(xué)習(xí)、機(jī)器學(xué)習(xí)、深度學(xué)習(xí)的方式不斷完善，個人如果無法理解人工智能、算法和數(shù)據(jù)，將更加難以看懂未來社會發(fā)展趨勢，難以融入未來社會，進(jìn)而逐步失去對未來社會再創(chuàng)造的能力。因此，在應(yīng)用教育人工智能的同時，每個個體都需要具備一定的信息安全意識、良好的信息素養(yǎng)。第一，個人可通過正規(guī)渠道學(xué)習(xí)人工智能專業(yè)知識，提升人工智能素養(yǎng)教育，掌握人工智能基礎(chǔ)知識，提高計(jì)算思維能力，樹立人工智能社會責(zé)任意識;第二，個人在獲取教育人工智能服務(wù)時應(yīng)提高對知識產(chǎn)權(quán)保護(hù)、侵權(quán)責(zé)任認(rèn)定以及數(shù)據(jù)財(cái)產(chǎn)保護(hù)意識;第三，個人應(yīng)提高自身的法律意識，當(dāng)發(fā)現(xiàn)個人數(shù)據(jù)被用于非法情景時，要敢于拿起法律武器保護(hù)自己。

[1]BORKO H.Artificial Intelligence and Expert Systems Research and Their Possible Impact on Information Science Education[J].Education for Information，1985，3（2）：103-114.

[2]MINSKY M L，SINGH P，SLOMAN A.The St.Thomas Common Sense Symposium：Designing Architectures for Human-level Intelligence[J].Ai Magazine，2004，25（2）：113-124.

[3]張坤穎，張家年.人工智能教育應(yīng)用與研究中的新區(qū)、誤區(qū)、盲區(qū)與禁區(qū)[J].遠(yuǎn)程教育雜志，2017，35（5）：54-63.

[4]權(quán)國龍，顧小清，汪靜.人工智能教育應(yīng)用的視覺交互“賦能”效應(yīng)研究[J].開放教育研究，2021，27（4）：111-120.

[5]李芒，張華陽.對人工智能在教育中應(yīng)用的批判與主張[J].電化教育研究，2020，41（3）：29-39.

[6]譚維智.人工智能教育應(yīng)用的算法風(fēng)險[J].開放教育研究，2019，25（6）：20-30.

[7]王旦，張熙，侯浩翔.智能時代的教育倫理風(fēng)險及應(yīng)然向度[J].教育研究與實(shí)驗(yàn)，2021（4）：34-39，96.

[8]葉良芳.人工智能是適格的刑事責(zé)任主體嗎？[J].環(huán)球法律評論，2019，41（4）：67-82.

[9]謝洪明，陳亮，楊英楠.如何認(rèn)識人工智能的倫理沖突？——研究回顧與展望[J].外國經(jīng)濟(jì)與管理，2019，41（10）：109-124.

[10]徐蕊玥，梁昊楠，周琴.人工智能賦能教育變革：國際經(jīng)驗(yàn)與未來展望[J].數(shù)字教育，2021，7（3）：21-26.

[11]羅萬麗，王蕊，范榮.人工智能在教育領(lǐng)域的應(yīng)用探析[J].數(shù)字教育，2018，4（6）：79-82.

（責(zé)任編輯 孫興麗）

The Application Scene of Educational Artificial Intelligence and Its Rational Examination

LOU Fangyuan，GAO Zhen，WANG Juan

（School of Wisdom Education，Jiangsu Normal University，Xuzhou，Jiangsu，China 221116）

Abstract： Various countries pay high attention to the application research of artificial intelligence in the field of education，but most of them carry out artificial intelligence from the perspective of technology and neglect the cultivation of the essence of education.To design a strategy to effectively cope with the problem initiated by the application scene of educational artificial intelligence as soon as possible has become an entirely new and important proposition of times.Firstly，this article has defined related conceptions like educational artificial intelligence， etc.，stated related application scene of educational artificial intelligence;secondly，this article has done a rational examination to the application scene of educational artificial intelligence;at last，this article has put forward related strategy like prudent response from four levels like government，educational organizations，industrial organizations， and individuals，hoping to provide thoughts for the solving of problems initiated by the application scene of educational artificial intelligence.

Key words： educational artificial intelligence;application scene;ethic;examining strategy