姜华,王春秀,杨暑东|生成式AI在教育领域的应用潜能、风险挑战及应对策略

发布时间:2024-01-20 14:23:34

姜华

大连理工大学高等教育研究院教授,大连理工大学学科评价中心主任,博士生导师


王春秀

辽宁师范大学教育学院博士生,辽宁对外经贸学院外国语学院副教授

杨暑东

大连理工大学高等教育研究院博士生

       作为一种技术,以ChatGPT为代表的大型语言模型是基于自然语言处理和机器学习技术的人工智能内容生成应用。以ChatGPT为代表的生成式AI正在掀起一场知识和技术革命,对包括教育在内的各行各业产生深刻影响。ChatGPT自2022年底上线以来,以其卓越的语言理解、生成、知识推理能力迅速成为一款“现象级”人工智能应用产品,几乎引发全领域的热议、探索和思考,甚至被认为是开启“通用人工智能时代”,即将引发“颠覆性变革”的革命性技术创新。在教育领域,ChatGPT作为一种变革的力量介入,可能推动和催生新一轮教育理念与实践的深度革新,并作为一把“双刃剑”给教育发展带来机遇和风险并存的双重影响。

一、应用潜能:作为一种变革的力量

作为一种技术,ChatGPT本质上是一种新型的自然语言处理和文本生成工具;作为一种变革力量,ChatGPT具有积极潜能,具体表现在:第一,赋能学生,促进研学效能提高,推动学习模式变革,提高学习和研究效能;第二,助力教师、重塑教育环境,ChatGPT还能为教师引入创新教学策略和创新性评价提供新契机;第三,营造环境,加快教育数字化进程,ChatGPT针对用户提问能够作出个性化、多样化、语境化的回应,其在不同领域的预训练和结果生成也可以促进学科间的互动与交叉,这将扩大经验的界限和教育的可能性。

、风险挑战:作为一把“双刃剑”

作为一把“双刃剑”,以ChatGPT为代表的生成式人工智能通常会伴随着“创造性毁灭”过程,由此带来一系列新的问题、挑战,甚至是风险。

第一,ChatGPT可能导致忽视技术本体危害,由于 ChatGPT 的内容生成过程仍是“黑箱”,其生成内容缺乏明确的依据和充分可解释性,故难以将其应用于专业领域的知识生产、主导性课程教学、重要考试等高利害教育实践中。第二,催生教育技术滥用,作为一种经过大型语言模型预训练的高级聊天机器人,ChatGPT在很多情况下可以生成与人类作者难以区分的文本,因此会引发抄袭、代写等学业与学术诚信危机。第三,引发教育异化危机,在学生方面,学生对ChatGPT的过度使用可能导致机器化、浅薄化与同质化危机。在教师方面,则应警惕替代危机、数字霸权与冷漠异化风险。第四,破坏教育生态平衡等问题。ChatGPT 因其操作上的便捷和内容获取上的高效,短时间内获取了大批师生的关注和使用。教师和学生对模型的过度依赖使得他们在各个环节都离不开信息技术,为了技术而技术,反而忽略了内容及价值启发的本真教育。

、应对之策:作为一种必然的趋势

针对 ChatGPT 在教育领域应用所可能带来的系列风险与挑战,教育主体应对其主动学习、合理应用;政府等监管方应确立规范、加强监督;教育相关行政部门应科学引导、推动转型。

第一,主动应用,紧跟智慧教育的时代步伐。要采取辩证分析的方法科学地看待 ChatGPT 等大型语言模型给教育领域带来的风险与挑战,同时要有机融合工具理性与价值理性,明确技术人性化的终极目标是推动人的全面发展,而不是获得生产的最大额度发展,或者为了技术而技术。第二,研制规范,引导智能工具的合理使用。相关政府、信息技术部门等监管方应在技术大范围开发与应用之前,强化对ChatGPT类人工智能的科技监管,以及时、高效地避免其超速发展带来的系统性风险。第三,科学引导,推动实现教育数字化转型。开展科学评估及顶层设计,建立数字教育保障机制从硬件和网络联通性、教师专业发展、数字化资源、学生考核等方面对高校教育数字化水平进行系统评估。

图文来源 |姜华,王春秀,杨暑东. 生成式AI在教育领域的应用潜能、风险挑战及应对策略[J]. 现代教育管理,2023(7):66-74.

校对审核 | 李星杰

图文编辑 | 张静、陈妮


>