2023年7月3日，聯合國教科文組織（UNESCO）教育助理總干事斯蒂芬妮亞·賈尼尼（Stefania Giannini）發表文章《生成式人工智能與教育的未來》（Generative AI and the future of education），高站位深入分析了生成式人工智能對教育的顛覆性影響，并提出了生成式人工智能在教育中的應用建議。賈尼尼認為，人工智能革命是一場顛覆性的技術革命，既充滿機遇，又潛藏危機。教育應發揮對技術的主觀引導作用，而非被動接受和適應。在人工智能技術快速發展趨勢下，應暫緩其在教育中的應用，反思現狀，在建立安全審查規范基礎上規劃未來發展路線。

一、生成式人工智能對人類的影響

數字革命顛覆了人們的生活方式和教學與學習方式，不斷豐富和改善人們的生活、人際關系，并為教育開辟新的視野。賈尼尼從語言、知識和教育三方面分析了人工智能如何顛覆人類生活，并引發人類對人工智能技術發展的反思。

（一）語言

語言是人類身份與文化多樣性的核心，也是人類核心技能。從生物學角度，語言使人類與其他動物區分開，人類通過教育達成了對高級語言的壟斷，通過語言學掌握語言的結構、形式、意義和力量。而人工智能在短期內通過改進的算力、合成神經網絡和大型語言模型掌握了人類語言，并跨越了多語言的門檻。這不得不引起人類的反思：生成式預訓練語言模型將如何改變“人類”這一基本概念？未來將如何重塑對“人類智能”的理解？它將如何影響人與人之間的關系？

此外，在沒有明確的指導情況下，人工智能生成語言的結果和方向是不可預測的。精通語言和學習的數字技術未來是否會發展出感知能力，并渴望更大的自主權？把人類幾千年的知識積淀交給似乎能夠超越人類能力邊界的機器，是否明智？同時，如何對待人工智能，并科學地與之互動，也是目前面臨的一個重要挑戰。

（二）知識

技術不是意識形態中立的，而是表達并推崇某些世界觀，反映出特定的思維和認知方式。大型語言模型聊天機器人生成單一的、看起來更權威的答案，然而，這些答案并沒有追溯人類思想，只是通過復雜的算法得出答案，即使是技術開發者也不盡理解，這顯然是缺乏人性的。

機器對一些知識性問題提供即時、簡潔和看似準確的答案，表面上提供了幫助，但也導致機器知識占據主導地位，使一些投射了某些世界觀和背景的人工智能模型成為“權威”。如果只有為數不多的幾個人工智能模型和平臺壟斷人類與知識的接口，或者占據主導地位，那么人類必須思考如何保護知識系統的多樣性，并通過擴展知識共享方式來開發人工智能。

（三）教育

生成式人工智能的發展對未來教育提出了根本性問題：教師將扮演什么角色？教育系統應該培養學生那些技能、觀念和能力？學校應對人工智能應該做出何種轉變？人工智能可能會在未來實現能力通用，不止停留在下棋等狹窄領域，并在更多領域超越人類，那么未來教育應該是什么樣？其目的和作用是什么？

教育通常會陷入理所當然的假設中，人類當前的學習系統旨在幫助人類培養駕馭世界的各種能力。人工智能的出現，迫使人類提出新的命題，使我們不得不思考，如何為人工智能世界做好準備。

二、減緩和規范人工智能在教育中的使用

賈尼尼認為，在技術主導的現狀下，應該適時停下來，反思和探尋人類發展的真正方向和目標。人工智能的發展速度將會不斷加快，當前技術領域尚未制定方向性的發展路線圖。人工智能最主要的風險之一是其對人類的“操縱力”，兒童和青少年尤其容易受到操縱。在未經檢查、未制定規則或法規的情況下，人們已經開始忽視生成式人工智能技術隱藏或潛在的風險，使之進入教育系統。

應該減緩、暫停或停止使用人類尚不充分了解的人工智能技術，同時增加對技術本身的理解，研究何時和如何安全使用這些技術，以及使用目的。必須高度關注安全問題，效仿教科書的審查和驗證過程，對大型語言模型類人工智能技術進行檢驗，至少應遵循四個主要檢驗標準：內容的準確性，年齡適宜性，教學方法的相關性，以及文化和社會適用性，包括算法偏見。

教育部門需要根據實際情況對人工智能模型進行“資格”檢驗，不能依賴于人工智能開發商，而應與政府和其他技術監管部門協作，在教育系統內部組建專家技術團隊，對人工智能應用進行安全性審核，防止技術濫用，制定相關應對舉措。

三、規劃人工智能技術在教育中應用的路線圖

聯合國教科文組織正在協助各國共同制定人工智能戰略、計劃和法規，以確保人工智能在教育中的安全和有益使用。2023年5月，UNECSO組織了第一次全球教育部長會議，分享有關生成式人工智能工具對教育影響的知識。《聯合國教科文組織關于人工智能倫理的建議》（2021）、《北京共識——人工智能與教育》（2019）和《人工智能與教育政策制定者指南》（2021）均提供了重要參考。

聯合國教科文組織鼓勵各國在使用人工智能工具時，優先考慮公平、質量、以及安全原則，在達到安全保障的基礎上，對人工智能持開放和樂觀的態度，使之成為支持、補充和豐富正規教育體系的重要學習方式。

四、數字技術在教育領域的新挑戰

人工智能會加速自動化進程，顯著提高生產力。新技術的使用應優先考慮縮小差距，因此，需要抵制人工智能對擴大社會不平等的影響。對教育而言，應考慮如何縮小現有的教育鴻溝，警惕技術對教師權威和地位的削弱作用，審慎看待“教育自動化”，比如：沒有教師的學校，沒有學校的教育，以及其他反烏托邦的愿景等，這種教育的自動化設想往往以效率的名義，首先對弱勢學習者產生不利影響。

賈尼尼指出，很多人呼吁使用生成式人工智能，為學校無法正常運轉、教師短缺或工資低的地區帶來“高質量”教育。在充滿挑戰的環境中，前沿技術只是一種途徑，并不是解決方案。管理良好的學校、充足的師資、必備的環境條件和資金支持，仍是主要的可持續性補救措施。

在教育投資領域，人工智能技術也面臨投資選擇困境，“教育”和“培訓”等人工智能技術的業務規模拓展也將引發新的國際競爭。并且，對技術的投資將擠壓對人的技能發展投資，對人工智能技能發展的投資有一天可能會多于對兒童和其他教育相關者的投資。即使人工智能在智力和能力上超過人類，對“人”的教育仍然很重要，而培養讀寫能力也是教育最重要的內容之一。

五、重新思考教育如何重塑未來

在人工智能加速發展和不確定的未來環境中，人類需要借助教育系統來構建對人工智能的認知、使用和規范。賈尼尼認為，人類的慣性思維一般只會思考一項新技術將如何改變教育；而更有趣的思考則是，教育如何促進人類接受新技術，并引導當前技術和未來技術的整合。

教育體系可以幫助人類理解技術革命，確定未來發展軌跡，并建立規范；幫助人們更清楚地了解何時、由誰、如何以及是否使用新技術。人工智能也促進教育參與者重新審視在教育中“做了什么”，“如何做”，以及“為何做”。

最后，賈尼尼表示，現在是迎接人工智能挑戰的時刻。在人類健康甚至生存可能受到威脅的時代，全球必須充滿緊迫感，共同努力，確保教育系統在人類正確過渡到人工智能世界的過程中發揮關鍵作用。

資料來源：

Stefania Giannini. Generative AI and the future of education[EB/OL].(2023-07-03).[2023-07-13]. https://unesdoc.unesco.org/ark:/48223/pf0000385877

（本文由中國教育科學研究院比較教育研究所吳云雁博士編譯，點擊左下角閱讀原文，可直接官網下載原文章。）