生成式人工智能特殊的技术原理、特征与功能,使它为教育的系统性与颠覆性变革创造可能性。不同国家与组织因为文化背景、技术水平、教育需求、话语体系、社会条件等方面的差异,导致对待生成式人工智能教育应用的问题在某种程度上表现出不同的态度和举措。但总体上,仍有一些共性之处:应用谨慎、决策自主、态度乐观与指导细致。展望未来,生成式人工智能的教育应用,应在国家层面加强顶层设计,构建生成式人工智能教育应用的规范化体系;优先制定法规和指导方针,确保生成式人工智能技术开发的透明度和安全性;各利益相关者协作努力,最大限度地发挥生成式人工智能教育应用的潜力;加强人工智能素养与伦理教育,以应对快速发展的人工智能环境。
生成式人工智能教育应用的国际态势
(一) 国际动态
一些经济与科技较为发达的国家和组织对生成式人工智能的反应较为迅速。在此仅介绍部分典型国家与国际组织在教育领域应对生成式人工智能的发展动态。
1.美国
美国是世界上生成式人工智能技术发展的领导者之一,但在对待生成式人工智能教育应用上持谨慎态度,一些较大的学区最初选择禁止使用ChatGPT。早在2023年1月,纽约市就因担心ChatGPT可能被滥用于论文写作和作弊而禁止使用。然而,随着对生成式人工智能的熟悉和更彻底的检查,禁令在几个月后被解除。与此同时,越来越多的各级教育机构正在采取谨慎而积极的方法,提供指导方针以促进教育工作者和员工负责任地使用生成式人工智能。
2023年5月,美国教育部教育技术办公室发布政策报告《人工智能与教学的未来》给出建议:强调“人在回路中(Humans-in-the-Loop)”,将人工智能模型与共同的教育愿景结合起来。2023年9月,美国哈佛大学最大的学术学院——文理学院,发布第一份关于在课程中使用生成式人工智能的指南。同时,OpenAI发布教育版ChatGPT,面向全球教育工作者。2023年12月,美国教育部批准使用公共生成式人工智能系统,帮助教育部门更好地了解学生需求,提高教学质量。
2.欧盟与欧洲国家
欧盟认识到生成式人工智能的潜在好处,但也对相关风险持谨慎态度。2023年5月,欧洲议会内部的相关委员会通过新版《人工智能法案(草案)》;2023年6月中旬,欧盟议会成员提出禁止侵入性和歧视性人工智能应用的规则,尽管没有与在教学中使用生成式人工智能直接相关的具体政策,但限制在教育环境中使用人工智能系统进行情感识别,这是保护隐私和个人数据以防止潜在滥用的重要一步。
欧洲一些国家对生成式人工智能的教育应用也采取相应的措施。2023年3月底,英国政府发布人工智能新监管框架提案《一种支持创新的人工智能监管方法》;7月,罗素大学集团联合签署一系列指导原则,旨在指导学生和大学教职员工在使用生成式人工智能时需要注意的道德问题;2023年10月,英国教育部发布《生成式人工智能在教育中的应用》,阐述在教育领域中使用ChatGPT或Google Bard等大型语言模型的立场。
3.亚洲国家
亚洲国家对生成式人工智能反应最为迅速的当属日本。2023年3月起,日本多所大学提出针对生成式人工智能的限制措施。2023年7月,日本文部科学省初等中等教育局发布首份《初等中等教育阶段生成式人工智能利用暂行指南》,允许在中小学有限地使用生成式人工智能。2023年10月,文部科学省宣布已在38个自治团体中选择53所学校作为试点学校,以观测生成式人工智能在学校现场的实际应用情况。2023年12月,日本东京都内指定部分高中在日常教学中引进并使用生成式人工智能,在东京都立小岩高中,教师首次向媒体公开使用生成式人工智能技术授课的过程。
在韩国,生成式人工智能的使用正在迅速获得关注。一些大学允许学生使用生成式人工智能作为参考工具,但禁止使用此类工具撰写报告或作业。2023年6月,韩国教育部宣布,从2025年春季开始,韩国小学三、四年级以及初一和高一的学生,将使用国语、数学、英语、信息科技四门学科的智能教科书。同时,韩国教育部计划每年扩大应用科目和年级,计划在2028年以前实现全面覆盖。
与欧盟一样,中国对生成式人工智能的使用也采取谨慎而又积极的措施。2023年7月,国家互联网信息办公室联合其他多个部委发布《生成式人工智能服务管理暂行办法》这是中国首次针对生成式人工智能产业发布的规范性政策。在教育中使用生成式人工智能方面一些大学采取不同的初步立场。例如,2023年2月,香港大学实施临时禁令,禁止在任何学分活动中使用ChatGPT。同年8月初,香港大学解除该禁令,并发布接受生成式人工智能技术的新政策、香港理工大学于2023年8月1日起,为全体教职员工和学生免费提供生成式人工智能应用程序。
4.联合国教科文组织
在对待生成式人工智能教育应用的问题上,联合国教科文组织有着比一般国家和组织更为宏大与长远的眼光,力图以一种历史、全球性的思维理性地做出反应。2023年5月,联合国教科文组织首次就生成式人工智能议题举行全球教育部长会议。7月,联合国教科文组织发布《生成式人工智能与教育的未来》,深入分析生成式人工智能对教育的颠覆性影响,并对这种影响进行批判性反思。2023年9月,联合国教科文组织发布《教育与研究领域生成式人工智能指南》,呼吁各国政府通过制定法规、培训教师等,规范生成式人工智能在教育中的应用。
(二)基本特点
1.应用谨慎
作为一种新技术,包括美国在内的世界各国对生成式人工智能教育应用都持谨慎态度。这种谨慎态度源自生成式人工智能潜在的应用伦理风险。生成式人工智能超越了传统智能技术“能听会写”的功能局限,达到“能理解会创作”的水平,为进一步实现差异化教学、个性化学习与科学化管理提供技术支持。
生成式人工智能在功能泛化与内容生成等方面表现出传统教育技术无法比拟的先进性,在教育应用过程中具有更为深远的价值,但与此相伴随的是可能加剧或产生新的伦理问题。一方面,它可能会加剧教师的技术恐惧与技术崇拜、学生的技术沉溺、教育起点不公平与教育结果不公平等问题。另一方面,大模型系统的对抗性攻击风险可能使学生面临算法规制产生新的认知安全问题,模型能力的涌现性可能会让生成式人工智能在应用中失控,人机协同育人模式可能阻碍师生间情感与思想交流,使用者可能遭到生成式人工智能的不公平对待。
2.决策自主
世界范围内较少出现国家层面的禁令,给地区或学校留有较大的自主决策空间。在国家层面通常提供较为宏观的暂行管理办法以及应用指南,对生成式人工智能教育应用是采取禁止还是开放的态度,往往由地区或学校自主决定。
生成式人工智能具有特殊的技术原理与技术特征,极可能引发教育的系统性变革。生成式人工智能应用于教育是基于其自身功能,如理解特定任务并自主学习、知识概括和推理、自然语言处理、理解并解释图像和视频数据、个性化推荐、问题解决和决策支持、创造性表达和创新等。这些功能超越传统教育技术的机械性、单向性、专用性,可能给教育实践带来更为颠覆性的影响。生成式人工智能教育应用的风险性与价值性之间存在较大的张力,而地区和学校的自主决策能尽可能地降低风险并发挥应有的价值。
3.态度乐观
尽管多数国家对生成式人工智能教育应用表现出谨慎的态度,但总体而言,对生成式人工智能及其在教育应用方面的长远发展仍持积极乐观的态度。尽管生成式人工智能教育应用具有诸多潜在风险,但其价值性又不可忽视,且这种潜在风险具有一定程度的可控性。
4.指导细致
不少国家和国际组织出台生成式人工智能教育应用指南,通过“提供细致的应用指南”来代替“禁止使用”,以最大限度地保留生成式人工智能应用的教育价值。应用性探索面向的是应用领域,它主要回答“如何使用”的问题。具体的应用指导是应对伦理风险最直接的策略:一方面,相关主体尽可能确保生成式人工智能的规范化应用,以及更为全面地实现技术功能;另一方面,相关主体可有效规避部分生成式人工智能教育应用的伦理风险。以教育公平伦理风险为例,生成式人工智能教育应用可能加剧教育起点不公平与扩大教育结果不公平,这种不公平的伦理风险在很大程度上是由数字鸿沟造成的。为教育相关主体提供详细的应用指导能有效解决数字鸿沟问题,降低使用偏差,发挥更大的教育价值。
生成式人工智能教育应用的未来展望
(一)国家层面加强顶层设计,构建生成式人工智能教育应用的规范化体系
国家赋予地区和学校决策自主权,从短期来看是降低风险发挥价值的最佳选择,但从长远来看,却不利于生成式人工智能在教育领域的秩序化应用。
一是生成式人工智能作为一种教育资源,其本身能否被公平使用将可能引发教育公平危机。生成式人工智能作为一种先进的教育资源,可为教育活动的方法与方式、教育评价、教育内容等方面的系统性变革提供技术支持。如果只是部分地区和学校能使用生成式人工智能,那么将对无条件使用群体造成人为的不公平。二是可能扰乱教育秩序。一方面,生成式人工智能在教育领域的差异化应用本身就是一种非秩序化管理,这与同质性的评价体系不兼容。另一方面,对于降低应用伦理风险而言,缩小应用范围治标不治本,从根本上还需加强顶层设计,构建规范化体系。
首先,国家层面应出台有关生成式人工智能教育应用的政策和执行标准,明确教育行业的发展方向和标准化要求,具体内容应包括技术开发、数据保护、教学内容和课程设置等方面。决策自主、权力下放只是权宜之计,生成式人工智能教育应用的长远发展必须依赖于规范化体系。
其次,将生成式人工智能教育应用与现有教育体系有机融合,如有必要应对现有教育体系做出系统性与变革性调整。生成式人工智能有着超越传统教育技术的特殊原理与功能,与原有教育体系或许难以兼容,适当调整教育体系是应然也是必然,这就要求从更为宏观的政府层面做出统一部署。
最后,创建一批示范区或学校,以测验生成式人工智能教育应用的风险性,并为其他地区与学校提供示范。
(二) 优先制定法规和指导方针,确保生成式人工智能技术开发的透明度和安全性
一是数据窃取可能侵犯数据隐私。大模型的大数据和超强算法使置身于数字化世界中的人变得更加透明,人在网络空间的所有行为都会被平台所记录和监视,遭受着数字系统的凝视。二是超强算法可能带来更为严峻的算法规制。开发者可通过算法编程,植入利益集团的需求和价值取向,导致算法自动化决策带有偏见。三是数据的质量与价值取向将直接影响生成内容。生成式人工智能内容生成依赖于预训练的大数据,内容的真实性、客观性与准确性都取决于大数据。因此,有必要通过法规与指导方针确保生成式人工智能技术开发的透明度和安全性,从源头降低或规避潜在风险。
首先,通过一系列举措确保价值敏感性设计和参与式设计的落实。价值敏感性设计是从人类价值的角度出发来进行技术设计,从而规范设计者能在整个设计过程中,以道德信念将诸如正义、隐私、公平等伦理化要求“写入”生成式人工智能的算法之中。参与式设计是一种通过协议或制度确保所有利益相关者都能参与到技术设计当中的方法,它渗透民主化意识,保障弱势群体在技术设计中的话语权。
其次,建立合适的法律和政策框架。制定相关法律、准则和政策,防止因商业化导致的无序开发,以确保生成式人工智能开发与应用符合伦理和社会价值观,监管内容可涵盖数据隐私保护、安全性、公平性、透明度和责任等方面。
再次,加强对教育内容的智能化审核。不仅强化利用智能技术来审核由人类作者创作的内容,而且还要前瞻性地考虑对智能技术生成内容的审核。
最后,加大对生成式人工智能开发的财政支持。ChatGPT的出现点燃各国的科技热潮,生成式人工智能成为一个新的商业风口,商业竞争可能导致技术缺陷。国家政府可在教育领域的生成式人工智能开发与应用上提供更多的财政支持,并加强与各大高校和科研机构的合作,积极开发拥有自主知识产权的教育专用大模型。
(三) 各利益相关者协作努力,最大限度地发挥生成式人工智能教育应用的潜力
协作努力对于最大限度地发挥生成式人工智能在教育中的潜力至关重要。为创造一个生成式人工智能提高人类教师的独特素质、促进批判性思维和激发创造力的未来,人工智能专家、教育工作者、政策制定者等其他利益相关者必须加强合作。然而,随着生成式人工智能在教育环境中变得更加突出,生成内容的真实性和可信度成为主要问题。师生难以区分生成式人工智能产生的信息和人类作者的工作。技术沉溺、偏见性内容、数据保护和数据鸿沟等问题,都凸显构建一个谨慎而平衡的整合计划的必要性。
首先,生成式人工智能公司与传统教育机构之间应建立紧密的伙伴关系。教育工作者和人工智能专家必须合作设计与执行尖端方案,最大限度地发挥生成式人工智能的优势并降低可能风险。一个平衡的教育环境能顺利地整合人工智能工具,增强学生能力,改进教学方法,并使学习者为未来的挑战作好准备,而这需要持续的研究、试点项目和跨学科的对话。
其次,促进国际交流与合作。生成式人工智能的开发与应用是个国际性话题。一方面,大模型的预训练需要尽可能地输入更多数据,任何封闭式训练完成的大模型难免带有区域的偏见性和封闭性。只有加强国际交流与合作,才可能出现“融汇中西,学贯古今”的生成式人工智能。另一方面,大模型算法存在不透明等问题,一旦某些国家形成技术垄断,可能会使技术霸权转化为意识形态霸权。加强国际交流与合作,可在一定程度上破除技术霸权。
最后,推动生成式人工智能教育应用的标准化发展。明确生成式人工智能在教育场景中的使用范围,发挥技术优势,规避潜在问题,防范技术的过度使用。
(四)加强人工智能素养与伦理教育,以应对快速发展的人工智能环境
随着基于生成式人工智能的系统和应用的不断扩散,对人工智能原理、技术和潜在应用的基本理解变得越来越重要。教育工作者必须优先考虑将人工智能素养融入课程,确保学生掌握必要的知识和技能,以应对快速发展的人工智能环境。这将使学生在学习等教育活动中能更好地理解和利用生成式人工智能技术,并为他们在人工智能主导的未来就业市场中作好准备。
首先,应将智能素养融入课程标准和学科教学。一是修订现有的课程标准,将智能素养的核心维度融入课程要求;二是如条件允许可开设专门课程,进行专门教学;三是变革智能化教育评价,突出评价内容和评价方式的智能化。
其次,将伦理教育纳入人工智能相关课程。通过培养批判性思维平衡生成式人工智能教育应用的利弊,使学生在当下及未来都能负责任地使用生成式人工智能,以减轻不利的教育后果。拟议的方法将支持培养一代懂人工智能且有伦理意识的人,使他们有能力应对生成式人工智能所带来的复杂挑战。
最后,以积极乐观的态度拥抱生成式人工智能技术。正确的态度也是一种素养的体现。尽管生成式人工智能教育应用存在诸多潜在风险,但是其强大功能却不可忽视。从人类历史与技术发展的经验来看,人类历史的进程总是与先进技术息息相关,区隔先进技术只会造成落后局面。世界各国对生成式人工智能教育应用表现出的“应用谨慎、态度乐观”就是一种理性选择,确保未来教育发展的无限可能。
文章来源:吴河江,吴砥.生成式人工智能教育应用:发展历史、国际态势与未来展望[J].比较教育研究,2024,46(06):13-23.
扫码关注我们哦
微信公众号 | JSOU-JXJS