生成式人工智能給教育帶來哪些挑戰(zhàn)

以ChatGPT為代表的生成式人工智能發(fā)展迅猛，為各行各業(yè)的創(chuàng)新和發(fā)展提供了新的工具和視角，教育行業(yè)也不例外。人們對于生成式人工智能的使用，生成式人工智能對教育、對學生影響的討論也有著不同的態(tài)度。的確，科技是發(fā)展的利器，也可能成為風險的源頭。生成式人工智能在教育應(yīng)用中潛力巨大，但其嵌入教育全過程的教學實踐也帶來前所未有的倫理風險。

首先，生成式人工智能的新知識生產(chǎn)形式有可能帶來教學主體地位的混淆。生成式人工智能憑借自主學習和知識遷移實現(xiàn)創(chuàng)造性的知識生產(chǎn)，其強大的知識儲備能夠直接呈現(xiàn)答案，消解傳統(tǒng)教師由知識所賦予的權(quán)威和聲望，造成教師的主體地位被質(zhì)疑。學生運用生成式人工智能快捷途徑獲取知識，雙向知識探索轉(zhuǎn)變?yōu)閱蜗蛑R灌輸，不利于學生創(chuàng)造性思維、批判性思維的培養(yǎng)，一定程度上有悖于“培養(yǎng)全面發(fā)展的人”的教育理念。

其次，生成式人工智能的語言模型依賴將暴露技術(shù)本身的缺陷。生成式人工智能技術(shù)依托海量的數(shù)據(jù)、先進的算法、強大的算力優(yōu)化教育內(nèi)容的供給，促進教學方式的創(chuàng)新。然而這種智能技術(shù)自身缺陷也引發(fā)一定技術(shù)風險。一方面，生成式人工智能受訓練數(shù)據(jù)集來源不確定的影響，可能會生成虛假或錯誤的內(nèi)容，導致學生將錯誤信息當作正確答案，長期下去可能擾亂學生的知識體系；另一方面，基于人類反饋的強化學習技術(shù)的模型訓練存在人的主觀價值滲透進算法設(shè)計的可能，導致算法偏見的產(chǎn)生，進一步強化教育不公平問題。

再其次，生成式人工智能的強人機交互技術(shù)將可能消解傳統(tǒng)師生的倫理關(guān)系。生成式人工智能可以賦能沉浸式教學環(huán)境的構(gòu)建，增強學生的學習體驗。然而這種賦能一旦過多地介入師生互動，將會使師生之間的直接溝通和情感交流大大減少，甚至產(chǎn)生能夠代替教師的錯覺，導致在教育過程中，生成式人工智能技術(shù)與人的關(guān)系更加緊密，而真實的人與人之間的關(guān)系難以建立，一定程度上影響師生關(guān)系，妨礙學生情感發(fā)展和健全人格的形成。

2022年中共中央辦公廳、國務(wù)院辦公廳印發(fā)《關(guān)于加強科技倫理治理的意見》，2023年7月國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委、教育部、科技部等六部門出臺《生成式人工智能服務(wù)管理暫行辦法》，從國家層面加強科技倫理治理、促進人工智能健康發(fā)展和規(guī)范應(yīng)用。對教育實踐來說，這既是把好人工智能技術(shù)在教育應(yīng)用中向善的核心點，更是主動應(yīng)對人工智能技術(shù)倫理挑戰(zhàn)的關(guān)鍵。

一是明確智能教育應(yīng)用限度，提升人工智能素養(yǎng)。一方面，要堅守人工智能技術(shù)教育應(yīng)用的倫理底線，讓其始終處在適合的閾值內(nèi)，最大限度釋放生成式人工智能賦能教育的活力。明確教育始終以人的自由全面發(fā)展為根本目的，生成式人工智能技術(shù)的應(yīng)用只是為了更好地服務(wù)教學實踐，不能為了技術(shù)而技術(shù)。另一方面，隨著教育場景中融入生成式人工智能技術(shù)，社會對教師和學生的角色也賦予更高的要求。對教師來說，由知識傳授者轉(zhuǎn)變?yōu)閮r值觀的引導者。對此，良好的人工智能素養(yǎng)不僅能消解和防范自我主體變化，還能夠更好地為學生提供更加優(yōu)質(zhì)的教學服務(wù)。對學生來說，提升人工智能素養(yǎng)關(guān)乎其適應(yīng)未來智能社會的能力，是激發(fā)其高階創(chuàng)造能力的重要基礎(chǔ)。這在一定程度上能夠防范單向知識灌輸造成的思維惰化和個性消弭風險。

二是規(guī)制人工智能生成內(nèi)容，實現(xiàn)智能技術(shù)旨歸。在生成式人工智能教育應(yīng)用的研發(fā)階段，不僅要構(gòu)建適用于教育領(lǐng)域的大模型訓練數(shù)據(jù)池，從源頭防止錯誤、虛假信息和不良內(nèi)容出現(xiàn)，還要提升語言模型算法的穩(wěn)定性，避免生成式人工智能造成的倫理傷害。在推進生成式人工智能教育倫理治理階段，要加強對智能技術(shù)的監(jiān)管，強化輸出信息的準確性，建立生成式人工智能問責機制，建立健全法規(guī)制度體系來規(guī)范生成式人工智能賦能教育，確保其透明性、安全性，加強其魯棒性，實現(xiàn)生成式人工智能技術(shù)向善賦能教育發(fā)展。

三是重設(shè)向善教育倫理規(guī)范，助推育人本質(zhì)回歸。生成式人工智能賦能教育全過程，使“人—人”交互轉(zhuǎn)變?yōu)椤叭恕獧C—人”交互，為了保持教育主體與生成式人工智能的和諧共生關(guān)系，必須重設(shè)向善教育倫理規(guī)范，把握好人機協(xié)同的倫理尺度，讓教育者和教育對象之間更加信任、從容接納智能技術(shù)，進而實現(xiàn)人智協(xié)同與共生。在這種良性發(fā)展軌道中，生成式人工智能將教師從重復性任務(wù)中解放出來，不斷凸顯教師的育人功能。而教師，也要不斷發(fā)揮生成式人工智能所不能替代的德育引導作用和價值，詮釋言傳身教、保持師道尊嚴，回歸育人本質(zhì)。

技術(shù)發(fā)展永遠在路上。從人類發(fā)展的歷史長河來看，技術(shù)對人類的革命性影響一直都在。面對智能技術(shù)的變遷和影響，我們要認識到倫理道德對技術(shù)發(fā)展的規(guī)約、引領(lǐng)和價值塑造的能動作用，在教育實踐中以“智能向善”為導向目標，積極識變、主動應(yīng)變、科學求變，進一步規(guī)范技術(shù)應(yīng)用過程，變革教育教學方式，完善人才培養(yǎng)體系，以期培養(yǎng)符合社會需求的時代新人。

（作者王國鵬系數(shù)字化學習技術(shù)集成與應(yīng)用教育部工程研究中心專職研究員、浙江師范大學教育學院特聘教授，余菲系浙江師范大學馬克思主義學院碩士研究生；本文系國家開放大學資助項目[課題號：Q23C0023-20220101]階段研究成果）

《中國教育報》2024年06月15日第4版