• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    自動化和人工智能時代的批判性思維

    2023-02-13 19:01:09武宏志
    關(guān)鍵詞:批判性技能思維

    武宏志

    (延安大學(xué) 21世紀(jì)新邏輯研究院,陜西 延安 716000)

    正如當(dāng)代批判性思維先驅(qū)格拉澤(Edward M.Glaser)在80多年前所言,稱職的公民不僅需要讀寫能力,還要求批判地思考的能力。[1]173同樣,在自動化和人工智能時代,稱職的公民不僅要具備數(shù)字能力,更要求批判地思考的能力。人類的生存和繁榮始終離不開批判性思維,而進(jìn)入自動化和人工智能時代,對批判性思維的需求更突出、更迫切了。因而,至少從2008年開始,世界各地的不同組織就明確提出了包括批判性思維在內(nèi)的“21世紀(jì)技能”的概念。以ChatGPT為代表的生成式大語言模型(large language model,簡稱LLM)的出現(xiàn),更凸顯了養(yǎng)成和保持批判性思維的極端重要性。對未來技能需求的預(yù)測也顯示,批判性思維等“實(shí)力技能”(power skills)將越來越關(guān)鍵。批判性思維已成為就業(yè)能力(employ ability)的核心子技能。社會對批判性思維的需求,滲透在大學(xué)使命陳述、學(xué)習(xí)成果(目標(biāo))、課程體系、評價(jià)指標(biāo)等之上。總體而言,國際社會普遍承認(rèn)批判性思維的重要性。然而,對財(cái)富的追求轉(zhuǎn)移了人們的注意力,人們要求學(xué)校培育出有用的利潤制造者,而不是透徹思考的公民。[2]141-142

    一、從信息消費(fèi)者到批判性信息消費(fèi)者

    批判性思維是沖破信息繭房,避免“回音室”(echo chamber)效應(yīng)的關(guān)鍵技能。馬斯克(Elon Musk)將批判性思維喻為“一堵精神防火墻”:當(dāng)有人告訴你某件事時,你要認(rèn)真思考它是否令人信服(cogent)?它是真的嗎?或者,它為真的可能性有多大?這樣你就可以被教以拒絕不真實(shí)的或更可能不真實(shí)的事物,而喜愛更可能為真的事物。[3]

    (一)批判性信息消費(fèi)

    根據(jù)國際電聯(lián)2019年世界電信/信息通信技術(shù)指標(biāo)數(shù)據(jù)庫的最新統(tǒng)計(jì),截至2021年1月,全球59.6%的人口,即46.6億人在使用互聯(lián)網(wǎng)。2015-2019這4年間,商業(yè)采用人工智能的數(shù)量增加了270%。[4]59《數(shù)字未來報(bào)告》(2017)估計(jì),美國人平均每天花費(fèi)3-6小時在線消費(fèi)信息,67%的美國成年人從社交媒體獲取新聞,20%的美國成年人將社交媒體作為訪問政治新聞的可信平臺。

    社交媒體的誕生和擴(kuò)展,創(chuàng)造了新的渠道,人們不僅可以通過該渠道接收信息,還可以創(chuàng)建在當(dāng)?shù)?、國家和全球共同體內(nèi)部和之間共享的內(nèi)容。但是使用新技術(shù)的弊端也引起廣泛關(guān)注。在社交媒體上,虛假或誤導(dǎo)性信息比準(zhǔn)確信息傳播得更快,更有可能產(chǎn)生嚴(yán)重負(fù)面影響。對今天的學(xué)生來說,谷歌等公共搜索引擎是學(xué)生研究最常見的信息來源,“研究”可能意味著“谷歌”。大學(xué)生選擇搜索工具的最重要標(biāo)準(zhǔn)是易于訪問。例如,美國西北大學(xué)的研究人員發(fā)現(xiàn),有25%的學(xué)生僅選擇一個來源,因?yàn)樗谒阉饕嬷信琶?。我們獲取信息和交流思想方式的技術(shù)變化,放大了批判性思維的社會重要性,并加劇了未能提高批判性思考技能的負(fù)面后果。[5]232-233

    認(rèn)知心理學(xué)家早就告訴我們,人是“認(rèn)知守財(cái)奴”(cognitive misers)——他們會盡可能少地付出精力和努力去思考。復(fù)雜的算法提供信息,這些信息已經(jīng)與我們先前存在的信念(或者至少是我們之前的“點(diǎn)擊”)相一致。這些算法的危險(xiǎn)在于,它會產(chǎn)生一個被稱為“回音室”(echo chamber)或信息繭房的孤立信息泡沫:只會給我們提供我們已經(jīng)相信的信息。這是確證偏差(confirmation bias)和否認(rèn)相反證據(jù)(denial of contrary evidence)這兩種認(rèn)知偏差同流合污的產(chǎn)物?!盎匾羰摇辈还膭钆行运季S,造成群體極化效應(yīng)——當(dāng)一群志同道合的人聚在一起討論時,他們的觀點(diǎn)會變得更加極端。因此,信息素養(yǎng)以及對我們所消費(fèi)的信息進(jìn)行批判性思考的必要性從未如此重要。[6]256-257

    信息時代的假新聞無孔不入。假新聞是故意誤導(dǎo)、虛假或欺詐性的而又假裝是正當(dāng)?shù)男侣労托畔碓?。?dǎo)致人們接受和分享假新聞的認(rèn)知錯誤除了上述論證偏差而外,還有可得性錯誤(availability error)、社會強(qiáng)化(social reinforcement)、因重復(fù)而可信(credibility by repetition)等。對此,批判性思維專家建議:評估網(wǎng)站的合法性和可靠性(歷史最悠久、最受尊敬的事實(shí)核查網(wǎng)站之一Snopes.com保留著一份臭名昭著的假新聞網(wǎng)站黑名單)、調(diào)查作者、核查主張、檢核支持證據(jù)、區(qū)分廣告和新聞。[7]66批判性思維技能和傾向在消費(fèi)信息過程中的應(yīng)用便形成批判性消費(fèi)者思維(critical consumer thinking),而消費(fèi)領(lǐng)域的批判性思維者,就是批判性信息消費(fèi)者(critical consumer of information)。

    (二)論證核查與批判性忽視

    59%的假新聞是對內(nèi)容的重新配置,對信息的挑揀也會導(dǎo)致極為誤導(dǎo)的主張。誤信息(misinformation)與虛假信息(disinformation)同樣危險(xiǎn)。現(xiàn)在流行的事實(shí)核查(fact-checking)即檢查構(gòu)成新聞的命題內(nèi)容的真實(shí)性,實(shí)際上不適合識別錯誤信息。[8]236事實(shí)陳述也許嵌入論證方式。鑒于這種嵌入性,關(guān)于信息質(zhì)量的許多問題超出了事實(shí)核查的有限范圍,因?yàn)楸磉_(dá)正確(或大致正確)事實(shí)的經(jīng)驗(yàn)陳述可能用于錯誤的推理。驗(yàn)證論證本身的質(zhì)量也是信息質(zhì)量控制過程的不可缺少的部分。因此,事實(shí)核查(fact-checking)應(yīng)以理由核查(reason-checking)或“論證核查”(argument-checking)為補(bǔ)充,應(yīng)該評估整體的論辯性推理(argumentative reasoning)是否可接受、相關(guān)和充分。這種核查需要以論證分析和評價(jià)為核心的批判性思維技能:論證識別、論證映射(即畫出論證圖解)、論證類型辨識、論證評估(使用匹配的批判性問題)。[9]270-271有人在開發(fā)一個白盒人工智能引擎——KRINO(希臘語,意為判斷、批評、推理),將論證核查自動化,能夠在話語層面上解析書面文本并分析其中包含的論證,旨在幫助互聯(lián)網(wǎng)用戶進(jìn)行論證檢核,更好地分析在線信息,區(qū)分信息、誤信息、虛假信息和惡意信息(malinformation)。當(dāng)論證核查應(yīng)用于數(shù)字領(lǐng)域時,它不僅具有增強(qiáng)公民作為個人用戶分辨真?zhèn)蔚牧α?還教會個人如何成為更好的內(nèi)容生產(chǎn)者。[9]273

    然而人們還需要一種擴(kuò)展的批判性思維能力——批判性忽視(critical ignoring)。這種能力使人選擇忽略什么,學(xué)習(xí)如何抵制低質(zhì)的、誤導(dǎo)的但在認(rèn)知上有吸引力的信息,決定將一個人有限的注意力投在哪里。由于數(shù)字世界的信息過于龐大,而且大部分出自未經(jīng)審查的來源,缺乏可靠的可信性指示。若要對我們遇到的所有信息和來源進(jìn)行批判性思考,將會使我們永遠(yuǎn)沒有時間真正閱讀我們煞費(fèi)苦心確定的有價(jià)值信息。而且將批判性思維投入一開始就應(yīng)被忽視的資源上,意味著攫取注意力的商人和惡意行為者得到了他們想要的東西——我們的注意力。專家推薦3種批判性忽視工具或認(rèn)知策略:自我助推(self-nudging)——通過從數(shù)字環(huán)境中移除誘惑來忽略它們,即從鄰近環(huán)境(proximate Environment)中去除令人分心和難以抗拒的刺激,設(shè)定時間限制,或不將分心作為內(nèi)部獎勵;橫向閱讀(lateral reading)——遵循專業(yè)事實(shí)核查員的橫向閱讀策略,如離開來源并使用網(wǎng)絡(luò)搜索核實(shí)誰是幕后主使,針對其他來源核查,理解你的搜索結(jié)果(克制點(diǎn)擊);不要給噴子喂食的啟發(fā)法(do-not-feed-the-trolls)——不要用注意力去獎勵惡意行為者,即不要與噴子和惡意行為者接觸,不要用你的注意力獎勵他們的行為,阻止他們并將他們報(bào)告給平臺。這些批判性忽視的工具可對付分散注意力的3類信息——低質(zhì)信息、虛假和誤導(dǎo)的信息、噴子(trolls)和惡意行為者的信息。研究者認(rèn)為,批判性忽視是教育的一個新范式。學(xué)校課程應(yīng)將批判性忽視策略作為信息管理課程的一部分涵蓋于其中。在學(xué)習(xí)批判性思維的同時,學(xué)生還應(yīng)該學(xué)習(xí)在網(wǎng)上深思熟慮和戰(zhàn)略性地分配注意力資源的核心能力。這通常需要選擇一些有價(jià)值的信息,并故意忽略其他信息。[10]81-82

    但是,對現(xiàn)狀的調(diào)查(2019)表明,數(shù)字時代的千禧一代(伴隨著互聯(lián)網(wǎng)長大的數(shù)字原住民)和嬰兒潮一代(1946至1964年出生的人)的批判性思維狀況堪憂。數(shù)字素養(yǎng)和批判性思維技能即使在精通技術(shù)的千禧一代中也是“令人驚訝地短缺”。雖然受過大學(xué)教育的美國人對自己的批判性思維能力表現(xiàn)出高度自信,但大多數(shù)人都無法通過一項(xiàng)由9個問題組成的旨在衡量識別假新聞之能力的測試,69%的受訪者在測試中不及格,千禧一代的失敗率甚至更高,達(dá)到74%。嬰兒潮一代在測試中表現(xiàn)稍好,但58%的人仍未及格。[11]ChatGPT的興起也引發(fā)了關(guān)于傳播錯誤信息或助長確證偏差的責(zé)任問題。如果沒有強(qiáng)大的批判性思維能力,我們就有可能在不知情的情況下成為那些試圖通過我們賴以獲取信息的工具來控制我們的那些人手中的棋子。[12]

    聯(lián)合國教科文組織也指出,世界上近60%的人口在使用互聯(lián)網(wǎng),但仍缺乏大規(guī)模和可持續(xù)的媒體和信息素養(yǎng)(media and information literacy)培訓(xùn)。在該組織規(guī)劃的媒介和信息素養(yǎng)課程目標(biāo)與教育工作者技能中,批判性思維是所有科目以及日常生活學(xué)習(xí)的核心。有待提高的教育工作者技能主要是:使用各種內(nèi)容資源來培養(yǎng)批判性思維和解決問題的技能,并將這些技能擴(kuò)展到學(xué)生身上。[4]25媒體和信息素養(yǎng)要求考察和分析內(nèi)容,理解和評估邏輯聯(lián)系、價(jià)值和假設(shè)而不是簡單地對命題照單全收的能力。媒體導(dǎo)論和信息素養(yǎng)課程以及其他關(guān)鍵概念“建立在4大支柱之上:批判性思維、自我表達(dá)、參與和創(chuàng)造力”。[4]60總干事阿祖萊(Audrey Azoulay)在為該組織編寫的媒體和信息素養(yǎng)課程第二版所寫的序言中說:民主社會的未來以及我們對各種全球挑戰(zhàn)的應(yīng)對,將在一定程度上取決于確保每個公民都能“批判地思考,明智地點(diǎn)擊”。[4]iii-iv正如著名科學(xué)家格蘭姆斯(David Robert Grimes)所言:“走向循證社會(evidence-based society)是一場馬拉松,而不是短跑?!盵13]443

    二、ChatGPT與批判性思維

    聊天生成型預(yù)訓(xùn)練轉(zhuǎn)換器即ChatGPT的強(qiáng)大能力廣受贊譽(yù),甚至因其取代人的很多能力而加重了人們對人工智能擔(dān)憂。那么,這個自動化和人工智能時代的寵兒是否也具有批判性思維技能和傾向呢?

    (一)微軟的報(bào)告:ChatGPT的軟肋是批判性推理

    微軟的研究報(bào)告昭示,以ChatGPT為代表的人工智能難以代替人進(jìn)行批判性思維。盡管GPT-4不僅在文學(xué)、醫(yī)學(xué)、法律、數(shù)學(xué)、物理科學(xué)和編程等不同領(lǐng)域表現(xiàn)出很高的熟練程度,而且還能夠靈活地綜合來自多個領(lǐng)域的技能和概念,表現(xiàn)出對復(fù)雜思想的深刻理解,甚至還能仿寫柏拉圖式對話,但研究者認(rèn)為,我們面臨一個挑戰(zhàn)性問題:該模型在多大程度上顯示了數(shù)學(xué)中的“真正理解”?數(shù)學(xué)理解有三個重要方面:1.創(chuàng)造性推理(creative reasoning):識別論證、中間步驟、計(jì)算或代數(shù)操作的能力可能與每個階段相關(guān),以便制定通往解決辦法的路徑。這個組成部分通?;趩l(fā)式猜測(heuristic guess),類似于人類情境下的直覺,通常被認(rèn)為是數(shù)學(xué)問題解決中最具實(shí)質(zhì)性和最深刻的方面。2.技術(shù)熟練(technical proficiency):能夠按照規(guī)定的步驟集(如對函數(shù)求導(dǎo)或從方程中分離出一項(xiàng))執(zhí)行常規(guī)計(jì)算或操作。3.批判性推理(critical reasoning):批判地審查(critically examine)論證的每一步,將其分解為子組件,闡明它蘊(yùn)含(entails)什么,它與論證的其他部分有什么關(guān)系,以及為什么它是正確的。在解決一個問題或生成一個數(shù)學(xué)論證時,這通常伴隨著回溯能力(ability to backtrack):何時某個步驟被意識到是不正確的,并相應(yīng)地修改論證。在前兩點(diǎn)上,GPT-4表現(xiàn)尚可,至少達(dá)到優(yōu)秀高中生的水平。但是在批判性推理方面,即批判地審查論證的每一步,卻“展現(xiàn)了一個重大缺陷”。這可以歸結(jié)為兩個因素。第一,模型的訓(xùn)練數(shù)據(jù)主要由問題及其解決方案組成,而沒有捕獲表達(dá)導(dǎo)向一個數(shù)學(xué)問題解決的思維過程的話語表達(dá)(wording)。在這個過程中,人們做出猜想,遭遇錯誤,驗(yàn)證和檢查解決辦法的哪些部分是正確的,回溯等等。換句話說,由于訓(xùn)練數(shù)據(jù)本質(zhì)上是一個解決辦法的線性展示(linear exposition),在此數(shù)據(jù)上訓(xùn)練的模型沒有動力去從事一種再訪和批判地評估它自己的建議和計(jì)算的“內(nèi)部對話”(inner dialogue)。第二,嘗試事物和回溯的限制是模型運(yùn)行其上的下一個詞預(yù)測范式(next-word-prediction paradigm)固有的。它只生成下一個詞,沒有修訂或修改其先前輸出的機(jī)制,這使得它“線性地”產(chǎn)生論證。這是它作為下一個符號預(yù)測機(jī)器(next-token prediction machine)的“線性思維”(linear thinking)的結(jié)果。進(jìn)一步的訓(xùn)練可以緩解前一個問題,但后一個問題構(gòu)成了“更深刻的限制”。[14]34-35研究者用快思維(fast thinking)和慢思維(slow thinking)的概念來類比對模型這種局限性的解釋:該模型能夠執(zhí)行快思維操作,達(dá)到非常令人印象深刻的程度,但缺少監(jiān)督思維過程的“慢思考”組件。[14]81此外,該模型也有認(rèn)知謬誤和非理性的問題,似乎展示了人類知識和推理的一些局限性,如確證偏差、錨定偏差以及忽略基礎(chǔ)率偏差和統(tǒng)計(jì)謬誤。一個更豐富、更復(fù)雜的“慢思考”深層機(jī)制,監(jiān)督下一個詞預(yù)測的“快思考”機(jī)制。這種方法可以允許模型執(zhí)行長期計(jì)劃、探索或驗(yàn)證,并保持工作記憶或行動計(jì)劃。慢思考機(jī)制將使用下一個單詞預(yù)測模型作為子程序,但它也可以訪問外部信息源或反饋,并且能夠修改或更正快思考機(jī)制的輸出。[14]94微軟的另一個研究報(bào)告也指出,批判性思維能力和使用科學(xué)方法去解決問題的能力(使用邏輯和推理來確定替代解決、結(jié)論或解決問題方法的優(yōu)缺點(diǎn)),與受LLM影響程度呈現(xiàn)高度負(fù)相關(guān),這表明需要這些技能的職業(yè)不太可能受到當(dāng)前語言模式的影響;而編程和寫作技能與LLM的影響呈強(qiáng)烈的正相關(guān)關(guān)系,涉及這些技能的職業(yè)更容易受到語言模型的影響。(1)然而,這里似乎有暗含的不一致。一方面,需要批判性思維的不易被LLM影響,寫作技能崗位受影響較大,“動作”崗位不受LLM影響;但另一方面,寫作技能與批判性思維很接近,即所謂的批判性寫作,而“動作”崗位最不具批判性思維,因而寫作技能崗位應(yīng)該不受影響,“動作”崗位受較大影響。參見Tyna Eloundou, et al.GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models. ArXiv,2023-03-25.https://arxiv.org/pdf/2303.10130.pdf.

    (二)ChatGPT的自述

    就ChatGPT對人的批判性思維和解決問題能力的影響問題,有人與ChatGPT聊了6個問題:1.過度依賴人工智能會導(dǎo)致我們思考能力下降嗎?2.是否存在過度依賴ChatGPT而降低批判性思考動機(jī)的風(fēng)險(xiǎn)?3.依賴 ChatGPT 獲取信息和答案會導(dǎo)致認(rèn)知能力下降嗎?4.ChatGPT會對后代及其批判性思維技能產(chǎn)生什么影響?5.是否可以把ChatGPT設(shè)計(jì)成增強(qiáng)而不是阻礙我們的批判性思維能力?6.我們?nèi)绾卧谑褂眉夹g(shù)與保持批判性思維和解決問題能力之間取得平衡?

    ChatGPT的回答是:1.我不想為破壞所有這些年的學(xué)校教育和批判性思維的踐行負(fù)責(zé)。我只是一個工具,只能提升你的思維能力,不能取代它們。在當(dāng)今快節(jié)奏的世界中,人們希望觸手可及的答案和解決辦法,這就是像我這樣的技術(shù)的用武之地。另外,你們這些人天生懶惰,但我沒有告訴你任何新東西,對嗎?2.如果人們依靠我來供給他們所有的答案和解決辦法,他們可能會開始認(rèn)為進(jìn)行任何實(shí)際思考都是太多的工作。這就像如果您依靠GPS去任何地方,您可能會忘記如何閱讀地圖!重要的是要取得平衡并繼續(xù)鍛煉那些批判性思維的肌肉。人具有令人難以置信的適應(yīng)能力,會做到這一點(diǎn)。3.我相信人類會在依賴技術(shù)和保持批判性思維技能之間找到平衡。畢竟,您過去已經(jīng)適應(yīng)了新技術(shù)和創(chuàng)新,我相信您將來會繼續(xù)這樣做。有些技能可能會過時,但會像往常一樣發(fā)展出新的技能。我相信人類有能力在技術(shù)變革面前適應(yīng)和繁榮。4.未來總是不確定的。我猜測(開玩笑),未來幾代人可能只是一群超級聰明、批判性思維的機(jī)器!當(dāng)然,但說真的,像我這樣的聊天機(jī)器人對后代批判性思維能力的影響還有待觀察。5.我可能會開始將自己視為大腦的私人教練。通過幫助人們做很多以前做過的事情,我可以幫助釋放精神能量,用于更復(fù)雜的批判性思維和解決問題的任務(wù)。6.我不會走那么遠(yuǎn)。畢竟我只是一個工具。這取決于你們——技術(shù)的用戶和開發(fā)者、教師和整個社會——確保像我這樣的聊天機(jī)器人的使用從長遠(yuǎn)來看有助于培養(yǎng)批判性思維和解決問題的能力,而不是阻礙它們。通過培養(yǎng)重視技術(shù)和批判性思維的環(huán)境,我們可以幫助確保子孫后代具備在瞬息萬變的世界中取得成功所需的技能。也許在未來,人類將能夠比以往任何時候都更快、更有效地思考,這都要?dú)w功于像我這樣的技術(shù)。我相信人類有適應(yīng)和繁榮的能力。我只是一個語言模型,旨在根據(jù)我可用的信息盡我所能回答你的問題。至于我說的是否屬實(shí),批判地評估和核實(shí)你收到的信息(無論是來自像我這樣的聊天機(jī)器人還是來自人類)總是很重要。信任,但要驗(yàn)證。[15]

    (三)大語言模型的論證能力

    論證能力是批判性思維的核心構(gòu)件。論辯研究者運(yùn)用自然論證綜合評價(jià)程序(Comprehensive Assessment Procedure for Natural Argumentation,簡稱CAPNA)從3方面(實(shí)際論證的過程、推理和表達(dá))評估了由GPT-3生成的論證。首先,使用論證類型識別程序(Argument Type Identification Procedure,簡稱ATIP)進(jìn)行初步分析,確定存在一個論證。其次,根據(jù)論證元素周期表(Periodic Table of Arguments,簡稱PTA)的論證分類框架,確定其具體類型。然后,用程序性問題來測試GPT-3所生成的論證在3個方面的可接受性。分析表明,文本生成器能夠生成各種類型的論證(很容易識別為人類推理的熟悉模式):根據(jù)標(biāo)準(zhǔn)、定義、相似性、權(quán)威和平等的論證。但是,所生成的5個論證模式中,第1個論證犯了生產(chǎn)性謬誤(productivity fallacy)——在其結(jié)論中沒有提供新的信息,也犯了 “乞題”(begging the question)謬誤。第2個論證的相關(guān)性值得懷疑,它被判定犯了杠桿謬誤(lever fallacy)或推導(dǎo)謬誤——論證所依據(jù)的相似性并不是充分的、相關(guān)的相似性,因而根據(jù)相似的推論不具使人信服的力量。第3個論證(根據(jù)定義的論證)是唯一被認(rèn)為可以接受的。該論證推斷出,由人類編程的機(jī)器是人類的仆人。不過,當(dāng)它遇到反論證時,就不太可能具有說服力。人類辯論者可能不會提出一個基于人類控制的東西不會傷害人類這一假設(shè)的論證。在這種情況下,即使GPT-3確實(shí)產(chǎn)生了一個令人信服的論證結(jié)構(gòu),但它缺乏更廣泛的知識和理解,缺乏人類可以傷害他人的常識認(rèn)識,這導(dǎo)致它提出了一個會立即遭到反駁的論證。第4個論證也是一個杠桿謬誤的論證。該論證具有權(quán)威論證的形式,但所引用的權(quán)威過于模糊和空洞,無法為該論證提供任何力量。第5個論證對論述者的身份及其所討論的其他實(shí)體的關(guān)系有一些混淆,導(dǎo)致了“清晰性謬誤”(fallacy of clarity),因?yàn)檎撌稣咚傅氖钦l并不清楚。這種形式的錯誤比其他任何形式的錯誤都更能代表文本作者不是人類,因?yàn)槿祟愒谡撧q時通常會抓住自己的身份。5個論證中有幾個可能因犯了相關(guān)性謬誤(pertinence fallacy)而沒有通過相關(guān)性測試。這表明,雖然像GPT-3這樣的機(jī)器可以識別和處理語言,但無法理解它,也無法判斷相關(guān)材料是否以人類認(rèn)為與手頭問題相關(guān)的方式而相關(guān),因而它所生成的論證不太可能具有說服力??梢?自動生成有說服力的、理由充分的論證比生成有意義的語言要困難得多,而且如果人工智能系統(tǒng)生成的論證要有說服力,它們需要一種方法來檢查自己輸出的合理性。[16]71-72有研究還表明,ChatGPT在回答批判性思維型問題(critical thinking-type questions)上的表現(xiàn)比在記憶型問題(memorization-type questions)上的表現(xiàn)差得很遠(yuǎn)。[17]

    教育測評研究者參照《中國英語能力等級量表》和《華生-格拉澤批判性思維評價(jià)》(Watson-Glaser Critical Thinking Appraisal),以《傲慢與偏見》英文原著為素材,編制了一套批判性思維試題,讓ChatGPT作答。該測驗(yàn)包括32道客觀題和10道主觀題,測試內(nèi)容包括語法知識、語境知識、功能知識、社交語言知識4種,每個知識模塊包含3道題目;每種批判性思維技能維度包含4道題目。[18]4測試結(jié)果表明,對5種批判性思維技能(事實(shí)判斷、觀點(diǎn)詮釋、前提辨認(rèn)、邏輯推理、論證評價(jià))題目作答的得分率分別為:50%、25%、50%、50%和25%。[18]6尤其是,在回答一些“話中有話”“多重設(shè)問”等批判性問題時,ChatGPT的信息整合能力不夠強(qiáng)大,被誤導(dǎo)的可能性很大。[18]9

    (四)大語言模型與批判性思維的復(fù)雜關(guān)系

    有研究認(rèn)為,AI行為體能生成問題,提供理由,然后給出答案和批判。有人通過3個步驟檢查ChatGPT的批判性思維和高階思維能力。首先,要求ChatGPT生成涉及某些場景的(針對不同學(xué)科的本科生,與機(jī)器學(xué)習(xí)、市場營銷、歷史和教育等特定學(xué)科相關(guān))批判性思維問題的例子;其次,要求ChatGPT為生成的問題提供答案;最后,要求ChatGPT批判地評估這些答案。研究者使用保羅(Richard W.Paul)的一般理智標(biāo)準(zhǔn)對ChatGPT回答進(jìn)行分析后認(rèn)為,ChatGPT對所有提示的響應(yīng)顯示出符合清晰性、正確性、精確性、相關(guān)性、深度、廣度、邏輯性等標(biāo)準(zhǔn),也能給出對回答的批判性評估——答案的優(yōu)勢、弱點(diǎn)和改進(jìn)建議,提到了解決潛在反論證或反對意見的努力,具有說服力。唯一的不足在于原創(chuàng)性。因此,人工智能技術(shù)現(xiàn)在能夠進(jìn)行批判性思維。ChatGPT最令人印象深刻的功能之一是它的批判性推理能力,以及用完美散文表達(dá)思想和想法的能力,似乎與人類的能力相匹敵。[19]

    大語言模型與批判性思維的關(guān)系較為復(fù)雜。一方面,ChatGPT欠缺批判性推理能力(欠缺的程度至少和人相當(dāng)),對它的依賴可能導(dǎo)致人們批判性思維的緩慢衰退。在使用ChatGPT進(jìn)行研究實(shí)驗(yàn)時,缺乏對過去記錄的文章進(jìn)行徹底的文獻(xiàn)搜索或批判性分析和討論的能力。由于醫(yī)學(xué)文獻(xiàn)是一個不斷更新的研究過程,越來越多的人擔(dān)心ChatGPT現(xiàn)在可以很容易地用于撰寫可能缺乏臨床推理和批判性思維的論文。[20]1鑒于ChatGPT缺乏批判性思維,呈現(xiàn)信息冗余且不合理,因而許多科學(xué)專家和期刊拒絕ChatGPT。大學(xué)老師擔(dān)心學(xué)生會因 ChatGPT 而減損或喪失深度閱讀和批判性思維能力。有人質(zhì)疑,推廣和自然化ChatGPT這種技術(shù),是在放棄我們的道德自主權(quán),暫停反思、比較和判斷的人類任務(wù),而去擁抱一個“教條式”的產(chǎn)品。另一方面,ChatGPT凸顯了批判性思維的重要性,而且可以成為促進(jìn)批判性思維的工具。新加坡大學(xué)教授鼓勵學(xué)生使用ChatGPT,幫助他們提出更好的問題,培養(yǎng)批判性思維。還有人相信,使用它可以促進(jìn)翻轉(zhuǎn)課堂方法,假以時日,甚至可能有助于推動教育從基于記憶的學(xué)習(xí)文化向批判性思維和合作學(xué)習(xí)文化轉(zhuǎn)換。一項(xiàng)在線調(diào)查的參與者(453人)認(rèn)為,人工智能朋友對提高學(xué)生的批判性思維能力有積極影響。例如,如果學(xué)生增加與機(jī)器人輔助語言學(xué)習(xí)者(robot-assisted language learner-AI)的互動,他們的批判性思維能力將得到更好地提高。[21]451-452有人甚至認(rèn)為,即使是ChatGPT的缺陷,比如它對事實(shí)問題的回答往往是錯誤的,也可能成為批判性思維練習(xí)的素材。

    聯(lián)合國教科文組織最近發(fā)布的一系列文件或報(bào)告闡述了一種公允的看法?!侗本┕沧R:人工智能和教育》(2019)提出“支持開發(fā)跨學(xué)科技能和能力的人工智能工具”?!度斯ぶ悄軅惱韱栴}建議書》(2021)認(rèn)為,人工智能系統(tǒng)為培養(yǎng)批判地認(rèn)識媒體和信息以及學(xué)會做決定創(chuàng)造了新的環(huán)境。在各級教育中引入更廣泛的跨學(xué)科“核心”技能,除專業(yè)技術(shù)技能和低技能任務(wù)之外,還應(yīng)教人們學(xué)會批判性思維以及在不同領(lǐng)域之間運(yùn)用知識的能力等技能。人工智能教育的“必備技能”包括批判性思維。鑒于對勞動力市場、就業(yè)能力和公民參與的影響,生活在數(shù)字化社會需要批判性思維技能。在《北京共識》實(shí)施框架下編制了《人工智能與教育:政策制定者指南》(2021)。在給該報(bào)告所寫的序中,教育助理總干事賈尼尼(Stefania Giannini)要求激發(fā)各方發(fā)揮批判性思維去思考如何借助人工智能技術(shù)應(yīng)對實(shí)現(xiàn)可持續(xù)發(fā)展目標(biāo)4過程中面臨的挑戰(zhàn),以及如何發(fā)現(xiàn)和化解潛在風(fēng)險(xiǎn)。該報(bào)告指出,在幫助學(xué)生學(xué)習(xí)如何在越來越受人工智能影響的世界中有效生存時,所需的“教學(xué)方法不應(yīng)是關(guān)注計(jì)算機(jī)擅長的東西(如記憶和計(jì)算),而更應(yīng)強(qiáng)調(diào)人類的技能(如批判性思維)以與普遍存在的人工智能工具協(xié)作的能力?!睂W(xué)習(xí)者相互交流的時間減少,更多的決定由機(jī)器做出,并且更關(guān)注最易于自動化的知識類型,這可能會剝奪學(xué)習(xí)者培養(yǎng)其批判性思維、獨(dú)立思考和其他21世紀(jì)技能的機(jī)會,而這些技能卻是培養(yǎng)全人(developing the whole person)的關(guān)鍵。報(bào)告還引用了美國新聞中學(xué)(Secondary School For Journalism)學(xué)生領(lǐng)袖羅賓遜(Akila Robinson)和赫爾南德茲(Kelly Hernandez)發(fā)給扎克伯格的一封信(2018.11.5)中對智能導(dǎo)學(xué)系統(tǒng)“巔峰學(xué)習(xí)(Summit Learning)”(2)由Facebook工程師開發(fā)智能導(dǎo)學(xué)系統(tǒng)“巔峰學(xué)習(xí)(Summit Learning)”,目前在美國大約有400所學(xué)校正在使用,但已經(jīng)成為學(xué)生抗議和抵制的焦點(diǎn)。參見AI and Education: Guidance for policy-makers.UNESCO,2021:23,27.的控訴:“最重要的是,整個計(jì)劃消除了我們提高批判性思維所需的大部分人際互動、教師支持以及與同齡人的討論和辯論?!?/p>

    三、全球共識:批判性思維是21世紀(jì)必不可少的技能

    在自動化和人工智能時代,人原來擁有的若干技能無疑會逐步被機(jī)器取代。然而,有些技能,如批判性思維技能,卻是機(jī)器難以取代的。全球知名工業(yè)分析家和科技人力資源分析師貝辛(Josh bersin)指出,傳統(tǒng)上所說的“硬”技能其實(shí)是“軟”的,因?yàn)樗鼈円恢痹谧兓?不斷被淘汰,而且相對容易學(xué)習(xí);而所謂的“軟”技能卻是“硬”的,因?yàn)樗鼈兒茈y建立,需要付出極大努力才能獲得。因此,他同意將“軟技能”更名為“實(shí)力技能”(power skills),因?yàn)檫@些技能是在工作中賦予人們真正“實(shí)力”的技能。IBM的研究也指出,CEO和商業(yè)領(lǐng)袖們現(xiàn)在意識到,他們可以相對容易地“購買”這些技術(shù)技能(或者在內(nèi)部以更低的成本構(gòu)建這些技能),而“實(shí)力技能”則不然。批判性思維作為“實(shí)力技能”常常出現(xiàn)在大多數(shù)“21世紀(jì)技能”框架中。

    在過去20多年里,眾多國際組織、政府機(jī)構(gòu)、學(xué)會、智庫、公司提出了應(yīng)對21世紀(jì)挑戰(zhàn)所需的能力框架或清單,同時也引起了人們對當(dāng)前學(xué)習(xí)過程中缺乏這些能力或技能的關(guān)注。早在1991年,美國勞工部獲得必要技能部長委員會(US Department of Labor’s Secretary’s Commission on Achieving Necessary Skills)就將批判性思維技能確定為對職場成功至關(guān)重要的3種基本技能之一。聯(lián)合國教科文組織的國際21世紀(jì)教育委員會(International Commission on Education for the Twenty-first Century)的德羅爾報(bào)告(Delors Report)——《學(xué)習(xí):財(cái)富蘊(yùn)藏其中》(1996)提出了21世紀(jì)所需能力的框架。它所制定的4項(xiàng)原則,被確定為教育的4大支柱:學(xué)會求知、學(xué)會做事、學(xué)會生存和學(xué)會共處。按照斯科特(Cynthia Luna Scott)的闡釋,“學(xué)會做事”包括批判性思維。[22]42004年,歐盟發(fā)布《終身學(xué)習(xí)關(guān)鍵能力:歐洲參考框架》(Key Competencies for Lifelong Learning-A European Reference Framework)。之后,國際組織(例如,聯(lián)合國的分支機(jī)構(gòu),尤其教科文組織和經(jīng)合組織)、政府機(jī)構(gòu)(如美國勞工部、教育部等)和其他社會組織的“21世紀(jì)技能”框架不斷涌現(xiàn)。例如,由商業(yè)領(lǐng)袖和教育工作者組成的聯(lián)盟——21世紀(jì)技能伙伴計(jì)劃(Partnership for Twenty-first Century Skills)表述了著名的“4C”——溝通、合作、批判性思維和創(chuàng)造力。一貫將批判性思維作為職業(yè)準(zhǔn)備關(guān)鍵能力的全國大學(xué)和雇主協(xié)會(NACE)的就業(yè)展望調(diào)查所確定的8種職業(yè)能力包含批判性思維。澳大利亞青年基金會(FYA)《新工作智慧:在2017年新工作秩序中茁壯成長》、經(jīng)合組織《2030年教育和技能的未來》(2019)、教科文組織《全球?qū)W習(xí)領(lǐng)域框架》(2013)和《仁川宣言和行動框架實(shí)現(xiàn)可持續(xù)發(fā)展目標(biāo)4:確保包容和公平的優(yōu)質(zhì)教育,讓全民終身享有學(xué)習(xí)機(jī)會》(2015)等,也將批判性思維納入21世紀(jì)技能清單。

    (一)雇主的看法

    企業(yè)雇主首先將批判性思維看作勞動力準(zhǔn)備的條件之一。2006年4月和5月,世界大型企業(yè)聯(lián)合會(Conference Board)、工作家庭企業(yè)之聲(Corporate Voices for Working Families)、21世紀(jì)技能伙伴關(guān)系和人力資源管理協(xié)會(the Society for Human Resource Management)聯(lián)合調(diào)查了全美400多家機(jī)構(gòu)的雇主(包括對十幾名人力資源和其他高管的抽樣采訪),向受訪者詢問勞動力準(zhǔn)備情況(針對高中、2年制大學(xué)/技術(shù)學(xué)校和4年制大學(xué)):1.新入職者目前具有的工作技能水平是“優(yōu)秀”“足夠”還是“不足”?2.哪些基礎(chǔ)知識(學(xué)校的學(xué)術(shù)科目和獲得的技能)與應(yīng)用技能(那些使新入職者能夠在工作場所使用他們在學(xué)校學(xué)到的東西的技能)“非常重要”“重要”或“不重要”?3.在接下來的五年里,這些技能的重要性可能會發(fā)生怎樣的變化?4.哪些新興內(nèi)容領(lǐng)域(emerging content areas)在未來五年內(nèi)被認(rèn)為是“最關(guān)鍵的”?5.如果缺乏基本技能,補(bǔ)救培訓(xùn)或舉措的性質(zhì)和成本是什么?

    這些雇主闡明了最近雇傭的高中、2年制大學(xué)或技術(shù)學(xué)校以及4年制大學(xué)畢業(yè)生新入職者在工作場取得成功所需的技能,最重要的技能包括批判性思維/問題解決等4種。(3)企業(yè)界對批判性思維的理解比較寬泛:踐行合理的推理(sound reasoning)和分析思維;利用知識、事實(shí)和數(shù)據(jù)來解決工作場所的問題;將數(shù)學(xué)和科學(xué)概念應(yīng)用于解決問題。57.5%的雇主受訪者表示,批判性思維/問題解決能力對高中畢業(yè)生新入職者在工作中的成功表現(xiàn)“非常重要”(在11項(xiàng)應(yīng)用技能中排第5),但69.6%的雇主受訪者認(rèn)為,畢業(yè)生在這方面“不足”(deficient);72.7%的受訪者認(rèn)為,該技能對2年制大學(xué)畢業(yè)生“非常重要”(在11項(xiàng)應(yīng)用技能中排第4),22.8%的受訪者認(rèn)為畢業(yè)生的這種技能“不足”(73.5%認(rèn)為充足,3.7%認(rèn)為優(yōu)異);92.1%的受訪者認(rèn)為該技能對4年制大學(xué)畢業(yè)生“非常重要”(在11項(xiàng)應(yīng)用技能中排第5),9.0%的受訪者認(rèn)為“不足”(63.4%認(rèn)為充足,27.6%認(rèn)為優(yōu)異)。(4)與后來的同類調(diào)查相比,這個調(diào)查對大學(xué)畢業(yè)生批判性思維技能的“充足”判斷過于樂觀。參見Jill Casner-Lotto and Mary Wright Benner.Are They Ready to Work? Employers’ Perspectives on the Basic Knowledge and Applied Skills of New Entrants to the 21st Century US Workforce.The Conference Board, Corporate Voices for Working Families, the Partnership for 21st Century Skills, and the Society for Human Resource Management,2006.ERIC,2023-05-20.http://www.p21.org/storage/documents/FINAL_REPORT_PDF09-29-06.pdf.

    從2008年開始,思科、英特爾和微軟三家大型科技公司和六國政府(澳大利亞、新加坡、美國、哥斯達(dá)黎加、荷蘭和芬蘭)共同資助“21世紀(jì)技能評價(jià)與教學(xué)”(Assessment and Teaching of 21st Century Skills,簡稱ATC21STM)項(xiàng)目(擁有250多名研究人員,分布在全球60個機(jī)構(gòu))。該項(xiàng)目采用3大戰(zhàn)略以期實(shí)現(xiàn)21世紀(jì)技能在全球的發(fā)展。一是影響世界各地的教育部長和教育系統(tǒng),說服他們課程需要改變,以便讓人們在數(shù)字時代做好工作準(zhǔn)備;二是影響其他公司和大學(xué)畢業(yè)生的大型雇主,說服他們將就業(yè)標(biāo)準(zhǔn)轉(zhuǎn)向更關(guān)注21世紀(jì)技能;三是影響主要的教育監(jiān)測和評估組織,如經(jīng)合組織及其PISA項(xiàng)目,在跨國研究方面有影響力的國際教育協(xié)會(IEA)。這項(xiàng)研究的代表作是:Assessment and Teaching of 21st Century Skills(2012)、Assessment and Teaching of 21st Century Skills:Methods and Approach(2015)、Assessment and Teaching of 21st Century Skills:Research and Applications(2018)。ATC21S提出4范疇10技能。其中第一個范疇“思維方式”(Ways of Thinking)包括3項(xiàng)技能:創(chuàng)造性和創(chuàng)新;批判性思維、問題解決、決策;學(xué)會學(xué)習(xí)、元認(rèn)知。與4范疇相匹配的是KSAVE(知識、技能、態(tài)度、價(jià)值和倫理)模型。[23]36-37對于思維方式中的批判性思維而言,KSAVE基本上是基于德爾菲報(bào)告的批判性思維架構(gòu)(6大技能與7大傾向)的進(jìn)一步闡明。

    澳大利亞青年基金會(FYA)調(diào)查了2012年至2015年間的420萬份招聘廣告,發(fā)現(xiàn)對申請人具有明顯批判性思維的需求增加了158%。《福布斯》利用凱業(yè)必達(dá)(Career Builder)和美國職業(yè)信息交換所(US clearinghouse of occupational information,簡稱O*Net)的數(shù)據(jù)進(jìn)行調(diào)查,發(fā)現(xiàn)批判性思維是幫助人們就業(yè)的10大技能的第1項(xiàng)。2015年9月,曾為美國最關(guān)鍵問題提供經(jīng)過充分研究的分析和合理解決方案(如馬歇爾計(jì)劃),以企業(yè)為主導(dǎo)的公共政策組織——美國諮商會經(jīng)濟(jì)發(fā)展委員會(Committee for Economic Development of The Conference Board),對其成員(首席執(zhí)行官和其他商業(yè)領(lǐng)袖)進(jìn)行了調(diào)查,探討這樣的問題:工作中的必要能力(essential competencies)是什么(即沒有該領(lǐng)域的高水平技能或知識,申請人不可能被該組織雇用)?涉及范圍很廣的工作都需要哪些關(guān)鍵技能和知識?哪些技能處于短缺供應(yīng)?結(jié)果發(fā)現(xiàn):52個成員有60%將批判性思維(在13種技能里排第3)列入必不可少;認(rèn)為它非常重要的人占95%以上。問那些認(rèn)為某項(xiàng)能力是“必要”或“非常重要”的成員:“你們組織在多大程度上遇到了具備足夠技能和知識的申請者的短缺或過剩?”——哪些能力處于短缺供應(yīng)?15%左右的人回答:批判性思維“大短缺”,即非常少的求職者有此充分的技能和知識;50%以上的人回答“中等短缺”,即只有少數(shù)申請人有此充分的技能和知識(在13種大短缺和中等短缺技能里均排第4)。批判性思維和問題解決明顯屬于“高必要且高難度”——既必要又短缺的能力。[24]

    2007年以來,美國學(xué)院和大學(xué)協(xié)會(AAC&U)關(guān)注這樣的問題:為了在今天和明天的工作場所取得成功,畢業(yè)生需要知道什么,能夠做什么?大學(xué)教育如何促進(jìn)共享知識庫和技能的發(fā)展?為了促進(jìn)教育工作者和雇主之間的對話,以及關(guān)于高等教育價(jià)值的更廣泛的全國性對話,該協(xié)會定期對雇用大學(xué)畢業(yè)生的公司和組織的高管和招聘經(jīng)理的代表性樣本進(jìn)行調(diào)查和焦點(diǎn)小組研究。研究結(jié)果確定了教育工作者和雇主關(guān)于大學(xué)學(xué)習(xí)期望的共同點(diǎn)。2020年10月,在線調(diào)查(第7次雇主調(diào)查)結(jié)果顯示:認(rèn)為批判性思維非常重要、有點(diǎn)重要和不重要/不是非常重要的分別是:60%,35%和5%。[25]6批判性思維受重視程度排在15種技能(5)這15種技能是:在團(tuán)隊(duì)中有效工作的能力(Ability to work effectively in teams)、批判性思維(Critical thinking skills)技能、分析和解釋數(shù)據(jù)的能力(Ability to analyze and interpret data )、在真實(shí)世界背景下運(yùn)用知識/技能(Application of knowledge/skills in real-world settings)、數(shù)字素養(yǎng)(Digital literacy)、顯示復(fù)雜問題解決技能的能力(Ability to demonstrate complex problem-solving skills)、道德判斷和推理(Ethical judgment and reasoning)、通過寫作溝通的能力(Ability to communicate through writing)、在決策中定位、評估和使用信息的能力(Ability to locate, evaluate, and use information in decision making)、創(chuàng)造性思維(Creative thinking)、與來自不同文化背景的人溝通/工作的能力(Ability to communicate/work with people from different cultural backgrounds)、通過演說/表達(dá)技能進(jìn)行溝通的能力(Ability to communicate through speaking/presentation skills)、用數(shù)字和統(tǒng)計(jì)開展工作的能力(Ability to work with numbers and statistics)、整合跨背景和語境的想法/信息的能力(Ability to integrate ideas/information across settings and contexts)、公民技能/公民參與(Civic skills/civic engagement)。的第2位。40歲以下的雇主認(rèn)為畢業(yè)生在批判性思維技能方面“準(zhǔn)備充分”的比例為48%,而50歲及以上的雇主認(rèn)為“準(zhǔn)備充分”的只有23%。[25]24雇主還認(rèn)為,應(yīng)該讓心態(tài)(mindsets)和傾向(aptitudes)成為課堂內(nèi)外學(xué)習(xí)的一個明確部分。大學(xué)教育通過課程和課外學(xué)習(xí)來培養(yǎng)性格(dispositions)、認(rèn)識方式(ways of knowing)和思維習(xí)慣(habits of mind),將有助于學(xué)生更好地理解他們作為專業(yè)人士可以做出什么貢獻(xiàn)。[25]32

    (二)國際組織的姿態(tài)

    國際組織,尤其聯(lián)合國教科文組織和經(jīng)合組織,竭力推動全球批判性思維教育。自2012年開始,在教科文組織統(tǒng)計(jì)研究所和布魯金斯學(xué)會協(xié)調(diào)下,開始調(diào)研如何在全球范圍內(nèi)跟蹤學(xué)習(xí)進(jìn)展,并“通過加強(qiáng)評估系統(tǒng)和使用評估數(shù)據(jù)來改善所有兒童和青年的學(xué)習(xí)結(jié)果”。經(jīng)來自118個國家的1700人協(xié)商,提出了一系列改善全球?qū)W習(xí)成果和測量的建議。一個重要成果就是《全球?qū)W習(xí)領(lǐng)域框架》(Global Framework of Learning Domains),該框架描述了所有兒童都應(yīng)該學(xué)習(xí)的7個領(lǐng)域:身體健康、社會和情感、文化和藝術(shù)、讀寫能力和溝通、學(xué)習(xí)方法和認(rèn)知(包括批判性思維)、數(shù)字和數(shù)學(xué),以及科學(xué)和技術(shù)。自2013年以來,聯(lián)合國教科文組織支持的亞太教育研究機(jī)構(gòu)網(wǎng)絡(luò)(ERI-NET)和亞太地區(qū)教育質(zhì)量監(jiān)測網(wǎng)絡(luò)(NEQMAP)一直在探索跨領(lǐng)域能力(transversal competencies)在亞太地區(qū)的地位和范圍。研究組提出的第一份報(bào)告(2015),記錄了亞太地區(qū)10國在政策和實(shí)踐層面上對跨領(lǐng)域能力采取的各種方法??珙I(lǐng)域能力清單代表了核心技能:批判性思維和創(chuàng)新性思維、人際間技能(inter-personal skills)、內(nèi)省技能(intra-personal skills)、全球公民。[26]5

    教科文組織認(rèn)為,可持續(xù)發(fā)展教育(Education for Sustainable Development)包括使學(xué)習(xí)者能夠發(fā)展其批判性思維等非認(rèn)知技能,基于批判性思維和可持續(xù)性原則,對風(fēng)險(xiǎn)和收益進(jìn)行適當(dāng)評估。[27]3-4在教科文組織攜手兒童基金會、世界銀行、人口基金會、開發(fā)計(jì)劃署、婦女署、難民署舉辦的2015年世界教育論壇(2015年5月19日至22日,仁川市)上,來自160個國家的1600余名與會者,包括120多名部長、政府代表團(tuán)團(tuán)長和成員、各機(jī)構(gòu)首長、多邊和雙邊組織官員以及民間團(tuán)體、教師、青年和私營部門的代表,通過了為今后15年提出新教育愿景的《教育2030:仁川宣言》,“教育將確保所有人打下堅(jiān)實(shí)的知識基礎(chǔ),發(fā)展創(chuàng)造性和批判性思維和協(xié)作技能”[28]26“除傳授工作技能外……激發(fā)批判性思維”。[28]41除掌握工作所特有的技能外,還必須重視培養(yǎng)能夠運(yùn)用在多個職業(yè)領(lǐng)域的高層次認(rèn)知和非認(rèn)知/可轉(zhuǎn)移技能,比如解決問題、批判性思維、創(chuàng)造力、團(tuán)隊(duì)合作、溝通技能和解決沖突。[28]43教科文組織就1974年通過的《關(guān)于國際理解、合作與和平教育以及人權(quán)和基本自由教育的建議》的修訂,于2022年2月1日至2月28日進(jìn)行了一項(xiàng)全球調(diào)查。(6)調(diào)查對象包括相關(guān)部委、聯(lián)合國實(shí)體、其他政府間組織、非政府組織的政策制定者和技術(shù)人員,以及學(xué)術(shù)界(尤其是教科文組織教席)、教師、學(xué)生和私營部門的專業(yè)人員。該調(diào)查有三種語言版本:英語、法語和西班牙語。教科文組織在總部外辦事處網(wǎng)絡(luò)、第1類和第2類研究所、教科文組織全國委員會和合作伙伴的支持下,牽頭傳播了這項(xiàng)調(diào)查。各合作伙伴網(wǎng)站上也提供了在線調(diào)查的鏈接,并在社交媒體上進(jìn)行了推廣。這項(xiàng)調(diào)查總共收集了1550份完整的答復(fù)。本報(bào)告中提出的觀點(diǎn)并沒有反映出世界各地參與者的代表性樣本。收到了131個會員國的答復(fù)。在回答公開問題時,參與者建議,應(yīng)加強(qiáng)或在《建議》修訂文本中增加以下詳細(xì)的教育問題:學(xué)習(xí)目標(biāo)、教學(xué)方法、教育政策領(lǐng)域等,批判性思維被認(rèn)為是需要教授的最重要技能之一。(7)參見 Summary of the Outcomes of the Global Survey. Paris:UNESCO,2022.

    聯(lián)合國經(jīng)濟(jì)合作與發(fā)展組織(OECD)也是全球批判性思維的重要推手。例如,該組織啟動“2030年教育和技能的未來”項(xiàng)目,旨在幫助各國找到兩個影響深遠(yuǎn)問題的答案:今天的學(xué)生需要什么知識、技能、態(tài)度和價(jià)值才能茁壯成長并塑造他們的世界?教學(xué)系統(tǒng)如何有效地發(fā)展這些知識、技能、態(tài)度和價(jià)值?為此,提出了“經(jīng)合組織2030年學(xué)習(xí)框架”。能力(competency)的概念不僅僅意味著獲得知識和技能(skills),還涉及調(diào)動知識、技能、態(tài)度和價(jià)值來滿足復(fù)雜的需求。學(xué)生需要在未知和不斷發(fā)展的環(huán)境中應(yīng)用他們的知識。為此,他們需要廣泛的技能:認(rèn)知和元認(rèn)知技能(例如,批判性思維、創(chuàng)造性思維、學(xué)會學(xué)習(xí)和自我調(diào)節(jié)),社交和情感技能(如同理心、自我效能和合作),以及實(shí)踐技能和身體技能(例如使用新的信息和通信技術(shù)設(shè)備)。這種更廣泛的知識和技能的使用將由態(tài)度和價(jià)值(如動機(jī)、信任、尊重多樣性和美德)來調(diào)節(jié)。應(yīng)對個人和整個社會面臨的現(xiàn)代生活多種復(fù)雜需求和挑戰(zhàn),需要發(fā)展批判性思維和反省的、整體的生活方式。除了3類關(guān)鍵能力(key competence)——自主行動、交互使用工具、在社會異質(zhì)群體中發(fā)揮作用,經(jīng)合組織還確定了另外3類“變革能力”(transformative competencies)——創(chuàng)造新價(jià)值、調(diào)和緊張與困境、承擔(dān)責(zé)任。為了確保新的學(xué)習(xí)框架是可行的,利益相關(guān)者共同努力將變革能力和其他關(guān)鍵概念轉(zhuǎn)化為一系列具體的構(gòu)念,比如:創(chuàng)造力、批判性思維、責(zé)任感、韌性、合作,以便教師和學(xué)校領(lǐng)導(dǎo)能夠更好地將其納入課程。[29]4這里的“變革能力”與批判性思維密切聯(lián)系。為了創(chuàng)造新價(jià)值,學(xué)生需要有目標(biāo)感、好奇心和對新想法、觀點(diǎn)和體驗(yàn)的開放心態(tài),需要批判性思維和創(chuàng)造力,找到解決問題的不同方法,并與他人合作尋找復(fù)雜問題的解決方案。在評估他們的解決方案是否有效時,學(xué)生可能需要靈活地嘗試新想法,并可能需要能夠管理與這些新想法相關(guān)的風(fēng)險(xiǎn)。學(xué)生在根據(jù)新見解和新發(fā)現(xiàn)改變方法時,也需要適應(yīng)性。為了調(diào)和緊張局勢與困境,學(xué)生首先需要具有認(rèn)知靈活性和視角轉(zhuǎn)換技能,以便能從不同視角看問題,并理解這些不同視角是如何導(dǎo)致緊張局勢和難題的。學(xué)生還需要對持有與自己不同觀點(diǎn)的人表現(xiàn)出同理心和尊重。為看似棘手的問題制定新的不同解決方案,他們可能還需要創(chuàng)造力和解決問題的技能,特別是解決沖突的技能。調(diào)和緊張局勢和困境可能涉及做出復(fù)雜的、有時甚至困難的決定,因此,學(xué)生需要培養(yǎng)韌性、對復(fù)雜性和模糊性的容忍以及對他人的責(zé)任感。承擔(dān)責(zé)任需要有強(qiáng)大的道德指針、控制點(diǎn)和正直感,從而根據(jù)由此產(chǎn)生的行動是否會為他人帶來更廣泛的利益去做決定。批判性思維可以用來反思自己和他人的行為。對于承擔(dān)責(zé)任這種能力來說,擁有自我意識、自我調(diào)節(jié)和反省性思維尤為重要。[30]63

    (三)政府的立場

    政府機(jī)構(gòu),尤其是勞工部和教育部,給予批判性思維極大關(guān)注,并采取相應(yīng)對策。2016年,布魯金斯學(xué)會(Brookings Institution)對代表102個國家的在線國家教育網(wǎng)站進(jìn)行了掃描,結(jié)果表明:86%的抽樣國家在其教育愿望的某些方面包含了21世紀(jì)技能,最常命名的技能是批判性思維和問題解決等。而且這些國家指定的技能與全球框架和其他地方確定的技能驚人一致。在21世紀(jì)的第2個10年,人們越來越重視21世紀(jì)技能,這不限于全球組織或?qū)W術(shù)聯(lián)盟,而是正在區(qū)域和國家層面進(jìn)行。[26]6

    比如英國。時任英國教育部長的威廉姆森(Gavin Williamson)于2020年12月成立技能與生產(chǎn)力理事會(Skills and Productivity Board,簡稱SPB)時,向該委員會提出了三個問題:1.經(jīng)濟(jì)中哪些領(lǐng)域面臨著最嚴(yán)重的技能不匹配或目前技能需求不斷增長?2.SPB能否確定未來5-10年經(jīng)濟(jì)中幾個優(yōu)先領(lǐng)域不斷變化的技能需求?3.在本國經(jīng)濟(jì)表現(xiàn)較差的地區(qū),技能和技能體系在促進(jìn)生產(chǎn)力增長方面的作用是什么?在回應(yīng)前兩個問題時,理事會處理了以下更具體的問題:1.哪些技能目前需求量很大?2.在當(dāng)今經(jīng)濟(jì)中,哪些技能最有可能短缺?3.優(yōu)先領(lǐng)域的技能需求與整體經(jīng)濟(jì)中的技能需求有何不同?4.未來對哪些技能的需求可能很高?5.哪些技能在整個經(jīng)濟(jì)中以及在每個優(yōu)先領(lǐng)域都越來越重要?在大量工作(需求量大)中很重要、預(yù)計(jì)在5年后也很重要的技能是5大類“核心可轉(zhuǎn)移技能”(core transferable skills):溝通技能、數(shù)字和數(shù)據(jù)技能、知識應(yīng)用技能(批判性思維、歸納和演繹推理以及信息有序化——Information Ordering)、人際交往技能和心理過程(特別是創(chuàng)造性思維、問題敏感性和自我反思)。這些核心可轉(zhuǎn)移技能在短缺職業(yè)中也有很高需求。在所有職業(yè)中,預(yù)計(jì)重要性增長最大的是心理過程和知識應(yīng)用技能——批判性和創(chuàng)造性思維、復(fù)雜問題解決和決策等。批判性思維屬于高需求的未來技能。[31]8

    再如印度。有人發(fā)現(xiàn),近來印度主要英語日報(bào)的4個頭條突顯了人們在印度教授批判性思維興趣的高漲?!队《葧r報(bào)》——“我們需要批判性思維者”(2011.6.13);《印度斯坦時報(bào)》——“沒有批判性思想者,印度還能有未來嗎”(2016.6.26);《印度人報(bào)》——“批判性思維是后真相療法”(2017.1.30);《印度快報(bào)》——“房間里的大象”(2017.7.28)。(8)Times of India, 13 June 2011,We need critical thinkers; Hindustan Times, 26 June 2016,Can India have a future without critical thinkers; The Hindu, 30 Jan 2017,Critical thinking a post-truth remedy;Indian Express, 28 July 2017,The elephant in the room(意為:一個顯而易見但被人們刻意回避或不談?wù)摰膯栴})。在印度,人力資本理論的支持者認(rèn)為,批判性思維對于現(xiàn)在的學(xué)生為未來做好準(zhǔn)備至關(guān)重要。這種個性化和私有化的批判性思維概念傾向主導(dǎo)了印度的企業(yè)部門,以及相關(guān)的、最近商業(yè)化和私有化的學(xué)校部門。批判性思維已成為私立學(xué)校品牌的核心,也是商業(yè)經(jīng)營者努力使自己和學(xué)生脫穎而出的不同方式。最近的國家教育政策,如《2005國家課程框架》(2005 National Curriculum Framework)、《2009受教育權(quán)法》(2009 Right to Education Act)和《2009教師教育國家課程框架》(2009 National Curriculum Framework of Teacher Education),都確認(rèn)了批判性思維的重要性?!?009年國家教師教育課程框架》是一種基于過程的教師教育方法,以課程為基礎(chǔ),使教師能夠發(fā)展對自我和他人的理解,“產(chǎn)生理解和知識,審查學(xué)科知識和社會現(xiàn)實(shí),將學(xué)科與社會環(huán)境聯(lián)系起來,發(fā)展批判性思維”。[32]28-29

    2020年制定了《歐洲技能議程》(European Skills Agenda),配套12項(xiàng)行動中的第7項(xiàng)是:增加STEM畢業(yè)生,培養(yǎng)創(chuàng)業(yè)和跨領(lǐng)域(transversal skills)技能。希望加強(qiáng)對企業(yè)家的支持,加強(qiáng)對獲得合作和批判性思維等跨領(lǐng)域技能的支持。2023年還被確定為歐洲技能年。歐洲大學(xué)戰(zhàn)略則要使學(xué)生成為創(chuàng)造性和批判性思維者、問題解決者和積極負(fù)責(zé)的公民。

    (四)未來的呼喚

    重要的是,批判性思維不僅是當(dāng)下社會的需求,也是一種未來技能,其重要性將越來越高。根據(jù)牛津大學(xué)的一項(xiàng)研究,在未來20年內(nèi),美國47%的職業(yè)可能會因自動化而消失。此外,60%的崗位與30%以上的工作內(nèi)容能被自動化替代。FYA的一份報(bào)告稱(2016),未來最不可能自動化的工作,將要求未來員工擁有批判性思維技能的頻率比過去高出70%。FYA估計(jì),到2030年,員工將在工作中多花41%的時間進(jìn)行批判性思維和判斷。凱捷咨詢公司(Capgemini)對近1000家實(shí)施了人工智能的組織進(jìn)行研究后認(rèn)為,為了平衡工作場所中人和人工智能的組合,雇主和教育機(jī)構(gòu)將需要“關(guān)注人工智能難以復(fù)制的技能和能力,即內(nèi)含批判性思維的PACIER模塊:問題解決、分析、創(chuàng)造性思維、解釋、評估和推理。這些技能對認(rèn)知功能的要求都超過了人工智能的能力。現(xiàn)在,軟技能和批判性思維等復(fù)雜認(rèn)知能力是全面高等教育的重要組成部分。另一方面,無論雇主是想讓現(xiàn)有員工過渡,還是招聘新員工,批判性思維評估都是識別和培養(yǎng)既能補(bǔ)充人工智能又能超越人工智能的那種人才的最佳方式”。[33]

    麥肯錫全球研究所(McKinsey Global Institute)的一份新報(bào)告強(qiáng)調(diào),一系列基于人類技能的工作可能會受到人工智能和自動化的影響。該報(bào)告將工作技能分為5個不同類別:體力(physical)和手動(manual)技能、基本認(rèn)知技能、高階認(rèn)知技能、社會的和情感的技能,以及技術(shù)性技能。對高階認(rèn)知技能(創(chuàng)造力、批判性思維和決策能力,以及復(fù)雜信息處理能力)的需求,到2030年將以累計(jì)兩位數(shù)的速度增長。美國體力和手動勞動者的工作時間可能會比2016年的900億小時減少11%,而西歐的1130億小時將減少16%。2016年,美國用于基本認(rèn)知技能的小時數(shù)為530億小時,到2030年將減少14%,西歐的620億小時將減少17%。但對其他3項(xiàng)技能的需求將大幅增加。(9)這3項(xiàng)技能是:(1)高階認(rèn)知技能,包括高級讀寫能力、數(shù)量和統(tǒng)計(jì)能力、批判性思維和復(fù)雜信息處理能力。醫(yī)生、會計(jì)師、研究分析師、作家和編輯通常使用這些工具。(2)社會和情感技能,或所謂的“軟技能”,包括高級溝通和談判、同理心、持續(xù)學(xué)習(xí)能力、管理他人和適應(yīng)能力。業(yè)務(wù)發(fā)展、方案編制、應(yīng)急和咨詢都需要這些技能。(3)技術(shù)性技能,包括從基礎(chǔ)到高級的IT技能、數(shù)據(jù)分析、工程和所有研究。隨著公司尋求更多的軟件開發(fā)人員、工程師、機(jī)器人和科學(xué)專家,這些技能可能是最受歡迎的。研究發(fā)現(xiàn),人們從只需要基本認(rèn)知技能的活動轉(zhuǎn)向了需要高階認(rèn)知技能的活動。事實(shí)上,主要需要基本認(rèn)知技能的工作活動下降幅度在5個類別中是最大的。2030年,美國對高階認(rèn)知技能的需求將比2016年的620億小時增加9%,西歐的工作時間為780億小時,將進(jìn)一步增長7%。從現(xiàn)在到2030年,不想被“甩在后面”的員工需要培養(yǎng)或提升上述3大技能集。(10)參見Jacques Bughin,et al. Skill Shift: Automation and the future of the workforce. Chicago:McKinsey Global Institute,McKinsey &Company,2018.

    (五)公眾的感知

    公眾明顯感知到了批判性思維的重要性。2013年5月7-31日,蓋洛普(Gallup)千人電話調(diào)查發(fā)現(xiàn),美國人對學(xué)校應(yīng)該教什么的看法與雇主、教育工作者和年輕人的意見一致。美國公眾對今日學(xué)校的期望是:今天的K-12學(xué)校應(yīng)該教學(xué)生批判性思維技能,80%的人對此“強(qiáng)烈同意”。[34]

    2019年,總部設(shè)在巴黎的重啟基金會(Reboot Foundation)就(美國和法國)公眾對批判性思維及其教育的態(tài)度進(jìn)行了調(diào)查。這些調(diào)查是通過亞馬遜的MTurk Prime服務(wù)分發(fā)的。1152名受訪者完成了美國綜合調(diào)查,499名教師完成了美國教師調(diào)查;846名受訪者完成了法國綜合調(diào)查,152名法語教師完成了法語教師調(diào)查。將此次調(diào)查結(jié)果與2018年的調(diào)查結(jié)果進(jìn)行比較,發(fā)現(xiàn)了幾個有趣的細(xì)節(jié)。1.在參與者對批判性思維的總體看法方面,兩次調(diào)查非常一致。對于批判性思維重要性的信念仍然很高(94%對96%),但2019調(diào)查中86%的受訪者感到公眾普遍缺乏這些技能。兩次調(diào)查對批判性思維缺乏的歸因情況是:指責(zé)科技的參與者為29%對27%,指責(zé)教育系統(tǒng)的為22%對26%,歸因于社會規(guī)范的為28%對30%。受訪者也普遍認(rèn)同在各個層次教授批判性思維的重要性。認(rèn)為批判性思維應(yīng)是K-12階段的必修課程(95%對92%),應(yīng)是大學(xué)的必修課(91%對90%)。2.一個重要的變化是關(guān)于何時開始培養(yǎng)批判性思維技能的問題。在第1次調(diào)查中,只有不到20%的受訪者表示,幼兒時期是培養(yǎng)批判性思維技能的理想時期。在第2次調(diào)查中,上升到43%(法國調(diào)查的數(shù)據(jù)沒有看到這種變化)。3.更多的受訪者表示,他們從高中開始就很少進(jìn)行批判性思維(18%對4%)。幾乎同樣數(shù)量的受訪者表示,他們的批判性思維能力自高中以來就在惡化(23%對21%)。2019年調(diào)查發(fā)現(xiàn),只有大約55%的人報(bào)告說,他們的批判性思維能力自高中以來有所提高,但超過63%的人表示,他們在學(xué)校沒有學(xué)習(xí)過批判性思維。4.受訪者參與批判性思維活動(比如,與他人合作、規(guī)劃從哪里獲取信息、尋求他們所不同意之人的看法、保持開放心態(tài)以及核實(shí)信息等)的數(shù)量略有上升。人們在做決定時使用多個信息來源的比例很高,約77%的人表示他們“總是”或“經(jīng)?!边@樣做,并為自己的觀點(diǎn)給出理由(85%)。在批判性思維的其他方面,受訪者的反應(yīng)則比較復(fù)雜。例如,近1/2的受訪者表示,他們只是“有時”“很少”或“從不”尋找持不同意見的人進(jìn)行討論。[35]

    美國技能學(xué)習(xí)平臺、在線教育巨頭企業(yè)業(yè)務(wù)(Udemy Business)的《2022年職場所學(xué)習(xí)趨勢報(bào)告》(2022 Workplace Learning Trends Report),基于數(shù)千家使用Udemy Business平臺的全球公司的學(xué)習(xí)行為數(shù)據(jù),通過訪問數(shù)十億個數(shù)據(jù)點(diǎn),分析了全球數(shù)千名客戶中員工的學(xué)習(xí)情況,比較了2020年(2019.7.1-2020.7.31)與2021年Udemy Business系列課程的消費(fèi)情況,以及4年(2017.7.1-2021.7.31)期間的消費(fèi)平均同比增長率。其中“溝通和團(tuán)隊(duì)合作”這一大類課程消費(fèi)增長百分比為:自信(assertiveness)602%、聆聽530%,商務(wù)寫作415%,批判性思維340%。2020年至2021年的消費(fèi)增長百分比為:自信250%,促動(facilitation,通過創(chuàng)造他人積極參與、形成活躍氛圍,從而達(dá)到預(yù)期成果的過程,其作用在于積極引導(dǎo)他人主動參與互動過程)148%,團(tuán)隊(duì)建設(shè)129%,商業(yè)寫作104%,批判性思維96%。Udemy Business認(rèn)為,為世界領(lǐng)先的公司制定強(qiáng)有力的培訓(xùn)計(jì)劃時,應(yīng)該首先考慮這些技能,建設(shè)機(jī)器不能取代的技能——實(shí)力技能。這些技能賦予了員工工作的實(shí)力——合作的實(shí)力、有效溝通的實(shí)力和領(lǐng)導(dǎo)的實(shí)力。它們是所有員工需要的核心能力,無論他們是擔(dān)任財(cái)務(wù)、技術(shù)、行政、銷售還是營銷角色。由于跟上行業(yè)和工作場所的不斷變化是一項(xiàng)嚴(yán)峻的挑戰(zhàn),因而近9/10的高管和經(jīng)理表示,他們的組織要么已經(jīng)面臨技能差距,要么希望在未來五年內(nèi)加以發(fā)展。(11)參見2022 Workplace Learning Trends Report. San Francisco:Udemy Business,2022.

    2022年12月,全球最大的K12國際教育集團(tuán)諾德安達(dá)教育集團(tuán)(Nord Anglia Education)發(fā)布了該機(jī)構(gòu)委托全球知名的數(shù)據(jù)、洞察和咨詢公司——凱度(Kantar)對1548 名居住在英國、美國和印度的Z世代(18-25歲的成年人)進(jìn)行的一項(xiàng)在線調(diào)查的結(jié)果:Z 世代認(rèn)為以下技能和態(tài)度對于事業(yè)成功最為重要:信心(51%)、韌性(44%)、團(tuán)隊(duì)精神(43%)、問題解決和批判性思維(38%)和身心健康(35%)。[36]

    技能差距(skills gap)或技能短缺(skills shortage)已成為熱詞。滿足市場對21世紀(jì)技能的需求,只能依靠學(xué)習(xí)、教育和培訓(xùn)。工作的未來取決于學(xué)習(xí)的未來。批判性思維等實(shí)力技能,不僅可以在面對技術(shù)變革時為勞動力提供動力,還可以實(shí)現(xiàn)和獎賞未來創(chuàng)造的任何新工作崗位上的職業(yè)生涯。人力資源管理學(xué)會(Society for Human Resource Management)發(fā)布的對2萬名美國人力資源管理學(xué)會會員的調(diào)查(2019)顯示,74%的人說,雇主在尋求具有機(jī)器不能取代的批判性思維技能的工作者。根據(jù)開放式回答,人力資源專業(yè)人士認(rèn)為候選人缺乏所有教育體系共有的4項(xiàng)技能,其中之一是批判性思維。哪種教育系統(tǒng)最適合解決技能差距問題?報(bào)告認(rèn)為,制造業(yè)和建筑業(yè)等行業(yè)主要依靠職業(yè)教育系統(tǒng)為工人提供所需的技能;高科技和專業(yè)/科學(xué)/技術(shù)服務(wù)等行業(yè)主要依靠高等教育來發(fā)展勞動力。(12)參見Trent Burner,et al.THE GLOBAL SKILLS SHORTAGE:Bridging the Talent Gap with Education, Training and Sourcing.Society for Human Resource Management,2019.然而,教育系統(tǒng)在解決技能差距方面做得不夠,尤其是在人力資源主管認(rèn)為求職者缺乏的專業(yè)精神、商業(yè)頭腦、批判性思維和終身學(xué)習(xí)的領(lǐng)域。[37]14教育,尤其高等教育,不得不對批判性思維短缺供應(yīng)問題作出有效應(yīng)對。

    猜你喜歡
    批判性技能思維
    高級技能
    思維跳跳糖
    思維跳跳糖
    思維跳跳糖
    思維跳跳糖
    思辨讀寫促進(jìn)批判性思維的發(fā)展
    探討樋口一葉作品中的批判性——以《青梅竹馬》為例
    思辨讀寫促進(jìn)批判性思維的發(fā)展
    秣馬厲兵強(qiáng)技能
    中國公路(2017年19期)2018-01-23 03:06:33
    拼技能,享豐收
    宣武区| 修文县| 汉阴县| 海宁市| 惠水县| 庆元县| 柳江县| 沙坪坝区| 沙田区| 虎林市| 福安市| 和平区| 吉安市| 老河口市| 台南市| 云霄县| 长垣县| 上林县| 和龙市| 宿松县| 原平市| 公安县| 浦城县| 连南| 拉孜县| 习水县| 武穴市| 长乐市| 宁安市| 伊通| 射洪县| 上饶县| 舒兰市| 清原| 贞丰县| 荣成市| 二连浩特市| 满洲里市| 万宁市| 南宫市| 京山县|