數(shù)字教育應(yīng)用監(jiān)管如何“向善”而行

在我國(guó)深入推進(jìn)實(shí)施教育數(shù)字化轉(zhuǎn)型戰(zhàn)略的背景下，數(shù)字教育市場(chǎng)規(guī)模不斷攀高，產(chǎn)品形態(tài)加速升級(jí)。2022年在線教育、知識(shí)付費(fèi)、在線閱讀、智慧教育、教育硬件等數(shù)字教育類產(chǎn)品用戶規(guī)模達(dá)3.14億人、市場(chǎng)規(guī)模達(dá)3620億元，增幅分別達(dá)到了5.36%和12.42%。國(guó)內(nèi)僅教育類APP的數(shù)量就超過了15萬款。2023年ChatGPT火爆全球，百度（文心一言）、抖音（云雀大模型）、智譜AI（智譜清言）等國(guó)內(nèi)8家大模型產(chǎn)品成為新一代AIGC的弄潮者，其中也涵蓋了多種數(shù)字教育應(yīng)用內(nèi)容。

以人工智能為核心的數(shù)字教育，既是教育強(qiáng)國(guó)發(fā)展的重大機(jī)遇，也是一種挑戰(zhàn)，需要加強(qiáng)監(jiān)管。為此，國(guó)家相關(guān)部門出臺(tái)系列監(jiān)管政策，規(guī)范內(nèi)容使用邊界、平臺(tái)開發(fā)、行業(yè)應(yīng)用等。如國(guó)家網(wǎng)信辦發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》和中央網(wǎng)信辦發(fā)布的《全球人工智能治理倡議》。國(guó)際上，聯(lián)合國(guó)教科文組織在2023年初發(fā)布《數(shù)字平臺(tái)監(jiān)管指南》的基礎(chǔ)上，9月推出《教育與研究領(lǐng)域生成式人工智能指南》，呼吁各國(guó)政府通過制定法規(guī)、培訓(xùn)教師等，規(guī)范生成式人工智能在教育中的應(yīng)用。

在監(jiān)管政策落地推進(jìn)中，一些治理困境逐漸顯露：現(xiàn)有的備案制度難以全景展現(xiàn)數(shù)字教育產(chǎn)品的使用過程，惰化思維、超綱教學(xué)、商業(yè)算法逐利等問題還處于社群舉報(bào)為主的階段；其他業(yè)務(wù)關(guān)聯(lián)部委的監(jiān)管口徑對(duì)垂直行業(yè)應(yīng)用指導(dǎo)有限；數(shù)字教育產(chǎn)品本身的形態(tài)推陳出新，從教育APP、小程序、云平臺(tái)、資源庫到大模型，亟須對(duì)教育規(guī)律下的線上線下認(rèn)知發(fā)展進(jìn)行系統(tǒng)性研究，來適應(yīng)數(shù)字技術(shù)快速發(fā)展的時(shí)代帶來的監(jiān)管新挑戰(zhàn)，克服一管就死、一放就亂的兩極現(xiàn)象。

    1挑戰(zhàn)    數(shù)字教育應(yīng)用發(fā)展中的監(jiān)管挑戰(zhàn)

數(shù)字技術(shù)變革教育的大趨勢(shì)下，備案和通知整改的弱監(jiān)管被動(dòng)狀態(tài)，將越來越不適應(yīng)數(shù)字教育產(chǎn)品，在教學(xué)管評(píng)測(cè)全場(chǎng)景中復(fù)雜又深入的融合趨勢(shì)，更需要關(guān)注在服務(wù)過程中進(jìn)行實(shí)時(shí)監(jiān)管。當(dāng)前，推進(jìn)事前、事中、事后一體化監(jiān)管主要面臨四類挑戰(zhàn)。

第一，監(jiān)管類型不完備。在官方“教育移動(dòng)互聯(lián)網(wǎng)應(yīng)用程序備案管理”平臺(tái)上，僅對(duì)教育類APP、小程序進(jìn)行備案管理。校園在用的教學(xué)云平臺(tái)、各類學(xué)科數(shù)字資源庫以及教育類大模型都還未進(jìn)入監(jiān)管范疇。同時(shí)，備案級(jí)管理信息僅限于查閱產(chǎn)品名稱、版本及變更、開發(fā)應(yīng)用主體等信息，對(duì)數(shù)字教育產(chǎn)品中的過程性學(xué)情數(shù)據(jù)缺乏監(jiān)管技術(shù)手段和數(shù)據(jù)要素獲取渠道。

第二，鏈路溯源不完整。在廣告、虛假宣傳、引誘使用、價(jià)格欺詐和強(qiáng)制收費(fèi)等鏈接的自動(dòng)偵測(cè)方面已有較好的技術(shù)支撐，但對(duì)于數(shù)字教育產(chǎn)品中涉及未成年學(xué)生教育及成長(zhǎng)類數(shù)據(jù)的無序公開、隱私泄露等不當(dāng)情況的追蹤技術(shù)還需加快攻關(guān)跟進(jìn)，突破數(shù)據(jù)存儲(chǔ)分散、傳播環(huán)境復(fù)雜等現(xiàn)實(shí)痛點(diǎn)，才能保障線上學(xué)習(xí)環(huán)境的健康可持續(xù)發(fā)展。

第三，算法規(guī)則不科學(xué)。在商業(yè)算法重逐利和教育算法促認(rèn)知的對(duì)弈中，前者帶來的信息認(rèn)知繭房效應(yīng)已經(jīng)引起社會(huì)感知，但改進(jìn)效果還不明顯：追求學(xué)習(xí)者偏好的推薦算法可能引發(fā)過早偏科，迎合博流量心理的生成算法會(huì)分散學(xué)習(xí)者在線注意力等。同時(shí)，在對(duì)育人導(dǎo)向的算法實(shí)現(xiàn)中，分年齡、分學(xué)科的科學(xué)設(shè)計(jì)還需更多的教育研究者共同參與，才能回歸到數(shù)字教育應(yīng)用圍繞人才成長(zhǎng)規(guī)律的主線上來。

第四，認(rèn)知評(píng)估不全面。線下校園環(huán)境中的學(xué)業(yè)（含體質(zhì)心理等）評(píng)估已是較為成熟的體系。但在線學(xué)習(xí)環(huán)境下，學(xué)習(xí)者的思考學(xué)習(xí)過程是否真實(shí)發(fā)生、個(gè)性化與規(guī)?；绾渭骖?、學(xué)科內(nèi)的前序知識(shí)與接續(xù)內(nèi)容之間的關(guān)聯(lián)設(shè)計(jì)是否契合認(rèn)知規(guī)律、數(shù)字教育類應(yīng)用對(duì)學(xué)習(xí)者的社會(huì)情感等健全人格培養(yǎng)產(chǎn)生何種影響等領(lǐng)域的認(rèn)知評(píng)估工作還有很大的待研究空間。    

    2可能性    數(shù)字智能技術(shù)提供的新型監(jiān)管可能性

隨著分布式服務(wù)匯聚與編排、預(yù)訓(xùn)練大模型、多模態(tài)語義理解、認(rèn)知圖譜等數(shù)字智能技術(shù)的發(fā)展，為對(duì)數(shù)字教育服務(wù)進(jìn)行更為深入的監(jiān)管提供了新的可能。

一是，生成式語義挖掘技術(shù)的發(fā)展，將促進(jìn)內(nèi)容監(jiān)管顆粒度更精準(zhǔn)。傳統(tǒng)技術(shù)應(yīng)用對(duì)靜態(tài)圖文的語義解析較為成熟，但對(duì)新出現(xiàn)的音視頻數(shù)字教育資源及生成式智能內(nèi)容的篩查能力不足。數(shù)字智能技術(shù)在多粒度多模態(tài)表示技術(shù)的教育內(nèi)容審查模型等領(lǐng)域的發(fā)展，將突破線上學(xué)科資源繁多，不當(dāng)內(nèi)容、不良信息隱匿性強(qiáng)的瓶頸，在實(shí)現(xiàn)人工智能驅(qū)動(dòng)的數(shù)字教育內(nèi)容深度語義理解、構(gòu)建審查圖譜、增強(qiáng)審查依據(jù)的可解釋性方面有新的貢獻(xiàn)。

二是，污點(diǎn)傳播技術(shù)的發(fā)展，將促進(jìn)數(shù)字資源可追蹤性提高。數(shù)字教育平臺(tái)中編碼維度不全、各級(jí)規(guī)則不一致難以共享、數(shù)據(jù)擴(kuò)散路徑難以協(xié)同追溯的問題一直困擾著監(jiān)管機(jī)構(gòu)。在數(shù)字教育產(chǎn)品規(guī)模龐大、場(chǎng)景復(fù)雜，現(xiàn)有審查能力不足的現(xiàn)狀下，基于新的數(shù)據(jù)智能標(biāo)注技術(shù)、多標(biāo)簽圖片識(shí)別等的協(xié)同研究，將覆蓋提供者、使用者、監(jiān)管者構(gòu)建三維信息編碼庫，對(duì)未成年人數(shù)據(jù)使用不當(dāng)問題，不當(dāng)個(gè)人信息、學(xué)情傳播問題，異常頁面鏈接問題等動(dòng)態(tài)監(jiān)測(cè)需求，形成新的技術(shù)支撐力量，提升標(biāo)記率和自動(dòng)偵測(cè)率的精度升級(jí)。

三是，智能算法診斷技術(shù)的發(fā)展，將促進(jìn)虛實(shí)融合學(xué)習(xí)場(chǎng)景更符合認(rèn)知發(fā)展規(guī)律。由于數(shù)字教育應(yīng)用的開發(fā)主體實(shí)際掌握著產(chǎn)品的算法話語權(quán)，備案信息與市場(chǎng)服務(wù)重點(diǎn)之間的鴻溝長(zhǎng)期存在，監(jiān)管主體難以直接糾正算法設(shè)計(jì)理念，多以事后不當(dāng)行為約談、罰款、下架等方式治理，相對(duì)被動(dòng)。在算法透明度研究的支持下，從數(shù)據(jù)層、代碼層、產(chǎn)品層構(gòu)建算法透明度模型和自動(dòng)糾偏機(jī)制，將有效抑制算法歧視、偏見、沉迷等問題，面向在線學(xué)習(xí)行為軌跡，刻畫個(gè)體+群體學(xué)情畫像，分學(xué)段、分場(chǎng)景、自適應(yīng)地采集青少年認(rèn)知發(fā)展的動(dòng)態(tài)數(shù)據(jù)，提升認(rèn)知評(píng)估精度。    

    3治理    技術(shù)向善原則下的治理建議

數(shù)字教育應(yīng)當(dāng)是公平包容、更有質(zhì)量、適合人人、綠色發(fā)展、開放合作的教育。在以人工智能為代表的數(shù)字技術(shù)體系越來越深度融入教育教學(xué)活動(dòng)的進(jìn)程中，秉承技術(shù)向善、精準(zhǔn)適切的原則推動(dòng)數(shù)字教育應(yīng)用的發(fā)展與治理，筆者提出4個(gè)方面的治理建議。

第一，治理理念上，呼應(yīng)老百姓對(duì)個(gè)性化教育資源供給的需要，推動(dòng)數(shù)字教育服務(wù)供給轉(zhuǎn)型。教育理念上，越來越多的家長(zhǎng)在接受孩子的獨(dú)特性、培養(yǎng)路徑多元化方面有了共識(shí)。智能技術(shù)上，對(duì)學(xué)習(xí)者在感覺、知覺、記憶、思維、想象等能力方面不同學(xué)段、不同區(qū)域、不同學(xué)科中呈現(xiàn)出的認(rèn)知規(guī)律差異有了更多的探知手段支撐。由此建議，在數(shù)字教育應(yīng)用的治理理念上，回應(yīng)老百姓對(duì)個(gè)性化培養(yǎng)所追求的數(shù)字教育資源供給需要，統(tǒng)籌國(guó)家智慧教育公共服務(wù)平臺(tái)中的數(shù)字資源供給體系，構(gòu)建虛實(shí)融合的、開放的協(xié)作空間和靈活多元的協(xié)作機(jī)制；轉(zhuǎn)變教育供給模式，形成社會(huì)化協(xié)同的教育公共服務(wù)供給新形態(tài)，實(shí)現(xiàn)供給方式從面向群體的統(tǒng)一供給轉(zhuǎn)變?yōu)槊嫦騻€(gè)體的基于全學(xué)習(xí)過程軌跡的適應(yīng)性供給；供給形態(tài)從單一供給轉(zhuǎn)變?yōu)槿鐣?huì)協(xié)同供給。

第二，治理手段上，牢牢把握數(shù)字教育產(chǎn)品的算法話語權(quán)，推動(dòng)數(shù)字教育應(yīng)用設(shè)計(jì)的透明公平。數(shù)據(jù)、算法和算力是人工智能技術(shù)的核心三要素。其中，算法是數(shù)字教育應(yīng)用的設(shè)計(jì)靈魂。過往出現(xiàn)的一味迎合用戶使用偏好，導(dǎo)致學(xué)習(xí)者偏科現(xiàn)象、超綱超標(biāo)資源供給引發(fā)的家長(zhǎng)焦慮、拍照搜題引發(fā)的思維惰化趨勢(shì)等就是治理領(lǐng)域缺乏對(duì)算法話語權(quán)有效調(diào)節(jié)手段的后果。因此，治理的核心內(nèi)容重點(diǎn)為強(qiáng)化對(duì)算法設(shè)計(jì)邏輯的備案和巡檢；在當(dāng)前事后治理的現(xiàn)狀下，鼓勵(lì)研究團(tuán)隊(duì)加快對(duì)算法透明度模型的研究，減少算法歧視、偏見、沉迷等不當(dāng)現(xiàn)象的發(fā)生率；加快對(duì)數(shù)字教育應(yīng)用校園級(jí)使用的準(zhǔn)入標(biāo)準(zhǔn)研究，將治理周期推進(jìn)到事前有標(biāo)準(zhǔn)—事中有監(jiān)測(cè)—事后有策略的全周期治理模式。

第三，治理規(guī)范上，行政機(jī)關(guān)、各類學(xué)校、師生家長(zhǎng)和開發(fā)者團(tuán)隊(duì)規(guī)約使用，推動(dòng)數(shù)據(jù)要素有序流動(dòng)和溯源可控。在兩年來的教育數(shù)字化戰(zhàn)略實(shí)施行動(dòng)中，數(shù)據(jù)的采集工作已基本順暢，后續(xù)的數(shù)據(jù)要素治理工作將進(jìn)入到“加工—融通—維護(hù)”等環(huán)節(jié)。由此建議，在數(shù)字教育應(yīng)用的治理規(guī)范上，行政機(jī)關(guān)、各類學(xué)校、師生家長(zhǎng)和開發(fā)者團(tuán)隊(duì)四大類主體按照規(guī)約推進(jìn)數(shù)據(jù)加工、數(shù)據(jù)融通和數(shù)據(jù)維護(hù)工作。加工方面，對(duì)各主體產(chǎn)生的元數(shù)據(jù)進(jìn)行分類、命名、排序、匯總等步驟，以便于在不同類型的數(shù)據(jù)中進(jìn)行統(tǒng)一的檢索和可視化。融通方面，通過分析工具來對(duì)元數(shù)據(jù)進(jìn)行關(guān)聯(lián)分析、影響分析、統(tǒng)計(jì)分析等，以更好地理解數(shù)據(jù)之間的相互關(guān)系，發(fā)揮數(shù)據(jù)價(jià)值支撐治理決策。維護(hù)方面，由行政機(jī)關(guān)審批，開發(fā)者團(tuán)隊(duì)定期執(zhí)行數(shù)據(jù)的更新、安全監(jiān)測(cè)等工作。在此基礎(chǔ)上，形成數(shù)據(jù)要素有序流動(dòng)和溯源可控的良性局面。

第四，治理機(jī)制上，建立數(shù)字教育應(yīng)用審核責(zé)任體系，推動(dòng)分業(yè)務(wù)審核匯聚成多元共治的一盤棋保障格局。數(shù)字教育應(yīng)用的使用場(chǎng)景對(duì)應(yīng)線上學(xué)習(xí)環(huán)境或虛實(shí)融合環(huán)境。在網(wǎng)絡(luò)空間治理領(lǐng)域，涉及教學(xué)內(nèi)容—信息保護(hù)—風(fēng)險(xiǎn)監(jiān)管等多個(gè)分項(xiàng)業(yè)務(wù)范疇。在數(shù)字教育應(yīng)用類治理機(jī)制上建議：數(shù)字教學(xué)內(nèi)容監(jiān)管方面，按照誰上線誰負(fù)責(zé)原則，實(shí)施上線必審、更新必審、審必到位。重點(diǎn)對(duì)影響學(xué)生獨(dú)立思考、無效重復(fù)性作業(yè)等不當(dāng)學(xué)科教學(xué)內(nèi)容和低俗惡俗、教唆誘導(dǎo)、校園欺凌等不良信息進(jìn)行“技術(shù)監(jiān)測(cè)+社群舉報(bào)”治理。在信息保護(hù)領(lǐng)域，按照國(guó)家相關(guān)法律法規(guī)要求，重點(diǎn)對(duì)未成年學(xué)生教育及成長(zhǎng)類數(shù)據(jù)的無序公開、挖掘?yàn)E用、隱私泄露等不當(dāng)傳播行為進(jìn)行“標(biāo)注技術(shù)研發(fā)+溯源”治理。在建立了風(fēng)險(xiǎn)預(yù)警能力及動(dòng)態(tài)更新的數(shù)字教育應(yīng)用黑白名單庫的綜合監(jiān)管體系基礎(chǔ)上，積極鼓勵(lì)針對(duì)家庭、學(xué)校和社會(huì)場(chǎng)景，構(gòu)建數(shù)字教育產(chǎn)品對(duì)認(rèn)知發(fā)展的關(guān)鍵影響路徑識(shí)別庫，以客觀真實(shí)的在線學(xué)習(xí)行為軌跡和學(xué)情畫像，支撐推動(dòng)技術(shù)向善原則下數(shù)字教育應(yīng)用的健康可持續(xù)發(fā)展。

（作者系北京師范大學(xué)副教授、教育部教育信息化戰(zhàn)略研究基地[北京]副主任；本文系國(guó)家重點(diǎn)研發(fā)計(jì)劃項(xiàng)目“互聯(lián)網(wǎng)教育應(yīng)用的行為感知與風(fēng)險(xiǎn)監(jiān)測(cè)關(guān)鍵技術(shù)研究”[2022YFC3303500]課題成果）

《中國(guó)教育報(bào)》2024年01月08日第4版