編者按

近日，國家網信辦聯合發改委、教育部、科技部、工信部、公安部、廣電總局公布《生成式人工智能服務管理暫行辦法》，對生成式人工智能的發展和應用首次做出了規定。規范生成式人工智能的應用也是當前一個重要的國際趨勢，例如據報道，7月13日，美國聯邦貿易委員會（FTC）正式開始對OpenAI調查，稱其將個人聲譽和數據置于危險之中，從而違反了消費者保護法。為此，我們在7月13日推出《》一文后，繼續推出這方面進展的國際動態。

7月4日，日本文部科學省初等中等教育局發布首份《初等中等教育階段生成式AI利用暫行指南》（以下簡稱“《指南》”），為生成式AI在教育現場的應用指明了方向。本文就指南主要內容編譯如下。

一、指南定位

本指南是結合政府有關生成式AI討論、G7教育大臣會議達成共識、有識者和中央教育審議會委員的意見總結而得，是學校相關者判斷生成式AI利用合適與否的參考依據，并不具備強制或義務性質，而且今后將進行靈活改訂。

二、生成式AI概要

《指南》強調，人們利用對話性生成式AI時，不僅要熟悉指示文，還應認識到所得回答也會包含錯誤，“不過是參考之一”，最終還是要依靠“自己判斷”。修改所得回答時，使用者應掌握一定的對象領域相關知識、自己的問題意識，以及判斷真偽的能力，并充分認識到“AI并無自我和人格，終究只是人類發明的工具”。

《指南》還指出，生成式AI存在兩種擔憂：一是，AI學習何種數據、如何制作學習數據、基于何種算法回答等“透明性擔憂”；二是，機密信息泄露、個人信息不正當利用、回答內容帶有偏見等“信任性擔憂”。

三、生成式AI教育利用的方向

（一）基本思考

《指南》認為，應從有限利用生成式AI開始，并檢證當前利用的有效場面。能夠應對生成式AI引發擔憂和風險的學校，應充分注意個人信息保護與安全、著作權等，同時推進先進舉措，充分檢證成果和課題，從而有利于今后更深層次的討論。所有學校應進一步豐富教育活動，培養包含確認信息真偽在內的信息利用能力，從而提高AI時代所需的素質和能力。學校還應推進措施，強化生成式AI在教師研修和校務中的合理利用，一體化推進教師AI素養提高和工作方式改革。

（二）生成式AI利用合適與否的判斷

《指南》指出，對于生成式AI利用合適與否，應基于孩子發展階段和實際情況，以遵守年齡限制和監護人同意等利用規約為前提，以實現教育活動和學習評價的目的為依據，以生成式AI利用是否有效為基本判斷。特別是，應慎重應對小學生對生成式AI的使用。

（三）強化培養“信息利用能力”（面向所有學校）

《指南》強調，所有學校在基于GIGA學校構想實現一人一機日?；瘯r，應考慮到生成式AI的未來普及，進一步培養包含信息道德在內的信息利用能力，并豐富包含信息發送對他人和社會影響、遵守網絡規則和禮節、信息自他權利、信息存在錯誤或危險、危害健康行為、促進理解網上發布信息基本都是公開的、記錄無法完全消除、信息和信息技術特性等的學習活動。

（四）先進舉措（面向部分學校）

《指南》指出，能夠采取措施應對生成式AI引發擔憂和風險的學校，應首先獲得監護人的理解，并確保利用過程透明，從而推進先進舉措和知識積累。在學習生成式AI的階段，使用者應了解生成式AI的框架、便利性與風險和注意點。在學習使用方法的階段，使用者應掌握與AI的對話技巧和事實檢查方法等。在各教科等學習中積極利用的階段，使用者能夠利用生成式AI，發現問題并設定課題，形成獨立思考，并將不同思考進行整理、比較和深化。在日常使用階段，使用者能夠如使用檢索引擎一樣使用生成式AI。

（五）生成式AI的校務利用（推進學校實證研究）

《指南》認為，學校應注意保護個人信息和機密信息，并將生成式AI利用納入工作方式改革當中，從而提高業務效率和質量。因而，學校應推進教師研修等的實證研究，創造出更多實踐案例。教師應熟習新技術，了解其便利性、風險點和好的使用技巧，并培養應對未來教育活動的素養。在工作中，教師可將生成式AI的回答作為“草稿”進行利用，但仍需要經過自行檢查、推敲并最終完成最終稿。

四、其他重要留意點

《指南》強調，生成式AI利用還應注意以下三點：一是，注意保護個人信息和隱私信息，在學校教育中切勿將個人信息和隱私信息輸入生成式AI，避免被AI生成回答利用，將賬號設置為不被機械學習利用；二是，維護教育信息安全，各學校及設置者應依據條款內容判斷利用ChatGPT和Bing Chat、Bard等生成式AI，并制定安全政策應對違反學校信息安全管理的行為；三是，保護著作權，在校利用AI生成的文章時，使用者應注意不侵害現有著作的相關權利。

資料來源：

文部科學省初等中等教育局. 「初等中等教育段階における生成 AI の利用に関する暫定的なガイドライン」の作成について（通知）[EB/OL].(2023-07-04)[2023-07-16]. https://www.mext.go.jp/content/20230704-mxt_shuukyo02-000003278_003.pdf

(本文由中國教育科學研究院比較教育研究所趙迎結博士編譯，點擊左下角“閱讀原文”可直接官網下載該文件)