生成式人工智能如何規(guī)范應(yīng)用健康發(fā)展

7月，國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委、教育部、科技部等多部門公布《生成式人工智能服務(wù)管理暫行辦法》（以下簡稱《辦法》），自2023年8月15日起施行，旨在促進生成式人工智能規(guī)范應(yīng)用和健康發(fā)展。生成式人工智能技術(shù)是指具有文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù)。

技術(shù)發(fā)展與教育之需

5G、大數(shù)據(jù)、人工智能等新一代數(shù)字技術(shù)對教育產(chǎn)生了深遠的影響，同時也暴露了目前教育存在的一些弊端，如過于注重知識和技能的傳授導(dǎo)致學(xué)生個性化需求難以滿足、教育資源分配不均衡、師生互動反饋實效性低等。生成式人工智能作為人工智能的一個重要分支，具有較大潛力解決這些教育問題。通過深度學(xué)習(xí)和生成模型，為學(xué)生提供個性化的學(xué)習(xí)路徑，根據(jù)學(xué)生的學(xué)習(xí)進度和興趣生成相應(yīng)的內(nèi)容資源。此外，生成式人工智能還可以協(xié)助教師編制教案、創(chuàng)新教學(xué)活動設(shè)計、拓寬評估方式等，教育工作者充分利用智能工具，建設(shè)更智能、適應(yīng)性更強的教育系統(tǒng)，實現(xiàn)優(yōu)質(zhì)教育資源的共享與傳遞，推動教育向更高水平邁進。

從國際視角來看，多國相繼出臺有關(guān)生成式人工智能在教育領(lǐng)域應(yīng)用的政策。如英國發(fā)布《生成式人工智能在教育中的應(yīng)用》報告，強調(diào)學(xué)校須提供針對性的教學(xué)內(nèi)容，包括理解生成式人工智能的局限性、可靠性以及潛在偏見，互聯(lián)網(wǎng)所呈現(xiàn)的信息如何組織以及網(wǎng)絡(luò)安全相關(guān)知識等。日本發(fā)布《初等中等教育階段生成式人工智能利用暫行指南》，認為應(yīng)從有限利用生成式人工智能開始，檢查驗證利用過程的有效場景；學(xué)校要培養(yǎng)包含確認信息真?zhèn)卧趦?nèi)的信息利用能力，提高人工智能時代所需的素質(zhì)和能力。聯(lián)合國教科文組織發(fā)布《生成式人工智能與教育的未來》報告，對生成式人工智能在教育的影響進行了批判性反思，并呼吁在生成式人工智能整合到教育系統(tǒng)的過程中應(yīng)加強審查和監(jiān)管，以確保生成式人工智能與教育的融合符合教育目標(biāo)和人類價值觀?？v觀多國政策內(nèi)容，在闡述育人的基礎(chǔ)上均強調(diào)生成式人工智能在教育中應(yīng)用的規(guī)范性，即教育相關(guān)人員如何規(guī)范化、合理化、安全化應(yīng)用生成式人工智能。

人機融合與規(guī)范應(yīng)用

人機融合是人類與計算機或其他智能設(shè)備之間的協(xié)同合作，以實現(xiàn)更高效的信息處理、決策和創(chuàng)新。教育領(lǐng)域人機融合過程中，機器需要發(fā)揮計算智能，快速接收、存儲、分析數(shù)據(jù)信息，并為用戶高效提供解決方案。人類需要發(fā)揮主體特性，進行思考批判、融合創(chuàng)新和情感溝通等，來彌補機器的不足和缺陷。

在這一過程中，規(guī)范應(yīng)用生成式人工智能對教育管理者、教師和學(xué)生都至關(guān)重要。教育管理者：關(guān)注并跟進技術(shù)發(fā)展，有針對性制定明確的規(guī)范與準(zhǔn)則，指導(dǎo)生成式人工智能在教育中的應(yīng)用；應(yīng)投入相關(guān)教育資源，包括基礎(chǔ)設(shè)施和專業(yè)培訓(xùn)，確保教師和學(xué)生能夠充分利用生成式人工智能的教學(xué)工具和資源；定期審查和評估生成式人工智能生成的教學(xué)資源，確保其質(zhì)量和適用性，避免錯誤或有害內(nèi)容對學(xué)生產(chǎn)生負面影響。教師：主動接受相關(guān)培訓(xùn)，熟悉生成式人工智能的相關(guān)應(yīng)用，掌握其關(guān)鍵技術(shù)和使用技巧；根據(jù)學(xué)生的特點和需求，進行個性化的教學(xué)活動設(shè)計，讓人工智能技術(shù)更好地為學(xué)生服務(wù)；當(dāng)生成式人工智能提供的內(nèi)容不完全符合實際需求時，教師應(yīng)有能力進行干預(yù)和糾正。學(xué)生：在使用人工智能輔助學(xué)習(xí)時應(yīng)保持主動性和自主性，而不是完全依賴于人工智能系統(tǒng)；可以充分利用個性化學(xué)習(xí)輔導(dǎo)特性，根據(jù)自己的學(xué)習(xí)需求和進度，獲取量身定制的學(xué)習(xí)材料和練習(xí)題目；同時可利用相關(guān)應(yīng)用進行作業(yè)評估和獲取即時反饋。

風(fēng)險防范與健康發(fā)展

《辦法》的出臺，標(biāo)志著生成式人工智能服務(wù)在我國的應(yīng)用開始進入規(guī)范化和標(biāo)準(zhǔn)化的階段。因此，不僅要積極探索生成式人工智能技術(shù)在教育教學(xué)中的應(yīng)用，同時也需要對其潛在問題進行風(fēng)險防范。

目前，生成式人工智能應(yīng)用主要存在以下風(fēng)險。一是生成式人工智能自身模型存在缺陷，精確度低，推理能力一般，可解釋性和可信任性有待提高，并存在用戶隱私泄露隱患。二是無法滿足高層次教育需求，缺乏高階思維能力，不能提供人性化的互動。三是弱化師生思維能力，可能會引起師生對生成式人工智能應(yīng)用的依賴性，降低其獨立思考能力。四是可能會成為“作弊”工具，給一些學(xué)生帶來“走捷徑”的想法，甚至成為考試作弊的工具。

對生成式人工智能教育應(yīng)用的研究和監(jiān)管，需要重點考慮以下幾個方面：

第一，確定使用目的，教師、學(xué)生等教育相關(guān)人員要避免過度依賴工具而忽略了其他教學(xué)資源和方法。第二，思考應(yīng)用情境，生成式人工智能應(yīng)用可以在一些特定的情境下發(fā)揮作用，如內(nèi)容創(chuàng)作、數(shù)據(jù)分析、方案生成等。值得注意的是，教師需要有選擇性地將此類應(yīng)用融入教學(xué)環(huán)節(jié)中，并根據(jù)不同教學(xué)場景特點進行有針對性的管理和規(guī)范。第三，確保數(shù)據(jù)和師生隱私安全，應(yīng)用提供方需要遵循相關(guān)法律法規(guī)，確保數(shù)據(jù)的合法性和安全性，同時保護師生的隱私不受侵犯。第四，注意內(nèi)容質(zhì)量，生成式人工智能應(yīng)用的質(zhì)量取決于訓(xùn)練數(shù)據(jù)的質(zhì)量，用戶需要對其輸出的內(nèi)容進行二次辨別。第五，強化監(jiān)管和指導(dǎo)，教育領(lǐng)域的生成式人工智能技術(shù)需要加強監(jiān)管和指導(dǎo)，確保其應(yīng)用符合教育規(guī)律和學(xué)生成長規(guī)律。相關(guān)部門應(yīng)建立完善的監(jiān)管機制，對技術(shù)的應(yīng)用進行審批和監(jiān)督，同時為技術(shù)的應(yīng)用提供指導(dǎo)和支持。第六，促進技術(shù)創(chuàng)新，生成式人工智能技術(shù)的應(yīng)用需要不斷進行技術(shù)創(chuàng)新，以滿足教育的需求和發(fā)展的需要。需要鼓勵企業(yè)和研究機構(gòu)進行技術(shù)研發(fā)和創(chuàng)新，提高技術(shù)的質(zhì)量和水平，同時避免技術(shù)濫用和低水平重復(fù)。

（作者單位系北京郵電大學(xué)教育技術(shù)研究所）

《中國教育報》2023年09月04日第4版