半月谈 ｜ 风险！警惕在线教育钻入信息茧房

风险！警惕在线教育钻入信息茧房

半月谈

教育不强，大国不兴。新冠肺炎疫情发生以来，“停课不停学”，百万人同时在线学习场景频现，我国教育走向“线下线上融合”的新常态。

信息技术在改变教育的同时，也带来一些亟待关注的问题。如何破解算法给教育实践带来的风险，是值得各方思考的问题。

在线教育实践锻造中国“长板”

在数字技术的推动下，教育模式正以超乎想象的速度发生变革。中国互联网络信息中心发布的报告显示，截至2020年3月，我国在线教育用户规模达4.23亿，较2018年底增长2.22亿。

在线教育规模整体提升的同时，在线教育平台大规模“超时空教学”正在发生。

“以前在线上作教育讲座，一般几千人在听，现如今动辄几十万人。”新东方教育创始人俞敏洪说。学而思网校开通免费直播课，课堂在线人数峰值超过100万人——这在17年前的非典期间，根本不敢想象。

8月25日，翼鸥教育创始人兼CEO宋军波在闭幕式上作“在线教育技术的转型与发展”主题分享。新华社 刘莲芬 摄

数字技术在扩大教育覆盖面的同时，也在做大优质教育的蛋糕。语音识别、图像识别、虚拟现实等数字技术，不仅大大提升了教育的沉浸感、互动性，也以低成本、高效率的方式让个人定制式的教学得以普及。VIPKID创始人米雯娟谈到，人工智能技术现在已广泛应用于在线教育，AI老师可以同时和多人进行个性化互动，降低了家庭教育的负担，也提高了学生的获得感。

大数据的应用更让精准教学如虎添翼。大数据让学习效率更高，学习目标更精准。 小盒科技CEO贾晓明表示，学生写作业就是产生数据的过程，把作业数据搜集积累，可以精准研判学生对知识点的掌握程度，有针对性地给每个孩子布置作业，实现师生的双向减负。

大数据的深度挖掘、分析与应用，也为教学管理提供了依据。例如，作业帮在对北京、上海中小学生的数据进行分析后发现，上海初三学生课业负担比北京略重。

算法会否将教育带入“信息茧房”

大量以大数据和算法为驱动力的技术应用进入课堂，拓宽着教育管理的内涵和外延。而与此同时，众多业内人士也注意到，技术变革和应用给教育行业带来了新的风险和挑战。

一是算法简约化易导致教育被形式化。中国教育科学研究院研究员王小飞表示，算法和计算模型是高度简约化的，没有模型能囊括现实世界的所有复杂因素或人类交流中的所有细微差别，包括学生对知识的好奇心和神秘感、对教师的崇拜感等。

“算法过度简约化，其结果就是机器越来越像人，而人越来越像机器，教育活动可能丧失最根本的人格和人性，教育变得越来越没有灵魂和情感。”王小飞说，学生按照算法设定的程序进行操作，使需要智慧融合、思想碰撞的学习变成一种套路固定的“游戏”，可能导致学生常识性知识碎片化、缄默性知识缺失，独立思考、逻辑推理、信息加工等高阶思维得不到发展。

二是算法大规模应用可能导致学生同质化发展。天津大学教育学院教授肖凤翔认为，各种个性化的教育应用本意是通过算法，从学习者的思考方式、兴趣爱好、学习特点等方面出发，为学生提供个性化、定制化的学习内容和方法，从知识关联和群体分层层面向学生推送学习建议和学习策略，力图做到因材施教。但当所有学生都面对同一个计算模型和算法时，可能形成一种算法“教育流水线”，实际的结果反而是同质化的。“即使是再优质的教育算法，一旦大规模使用，也可能带来湮灭学生个性的风险。”肖凤翔说。

三是算法“黑箱”可能导致教育被算法控制。算法是“技术对人类的理解越来越深刻，而人类却无法理解”的技术。中国教育大数据研究院副院长谭维智说，算法输入的数据与输出的结果之间，存在着我们无法洞悉的“黑箱”。尤其是机器学习算法本身脱离人类表达能力，不仅其基于大数据的自我学习、自我训练过程不为人所知，甚至最终形成的规则集也往往不能转换为能被人理解的自然语言。

四是算法偏见或导致教育弊端被放大。各种计算模型为了让教育过程、教育对象、教师行为便于量化分析，要对其进行提炼，去除各种无法处理的复杂因素，再赋予看似合理的某些数值，以便将其纳入算法公式中，很可能造成教育内容窄化和教育方法狭隘化等问题。“技术目前只能解决教育外壳，还没有办法触及到教育的核心。”华图教育总裁李曼卿说。

五是过度依赖算法可能导致教师专业技能逐步退化。算法利用收集到的教学数据，代替教师对教育过程进行分析判断、决定传递何种教育内容、采取何种教育方式。“学校教育还是以教师为主服务学生，算法为教学赋能，不要破坏原有生态体系。”作业帮创始人侯建彬说，如果过度依赖算法，将使教师逐渐失去认识学生、了解学生、因材施教的能力，丧失对教育情境、教育问题的独立思考和自主判断能力，必然导致教师教学技能的退化。

六是算法“鸿沟”使教育风险难以及时被化解。在算法的设计者和使用者之间、算法技术和教育方法之间存在巨大的算法“鸿沟”。在“编程猫”教育创始人李天驰看来，由于算法设计人员可能缺乏相关的教育本质、教育需求、教育过程、教育方法等背景知识，不了解学生和教师真正的技术需求，因此算法很有可能会被植入各种误解、臆断或错误观念。基于错误的教育认识会产生错误的数据收集模型，进而收集不准确的数据，这样的算法应用于教育蕴藏着误判风险。

监管要与技术革新并跑

对于大数据、人工智能等新技术教育应用，监管能力、监管机制的提升速度远远慢于技术革新速度，要保证算法和模型良性运转，必须对其进行有效的审查和监管，及时进行风险评估和管理。

谭维智认为，要建立算法教育应用风险评估和风险管理机制，确保算法的使用透明且可审查。要从制度上防范算法不透明以及大范围应用可能导致的算法开发人员权力过大问题，通过立法划定算法开发者的权力范围。

要制定人工智能教育应用道德伦理准则、技术标准，实施教育算法和模型准入制度，没有经过审查的教育模型和教学系统禁止在学校使用。

对在线教育、人工智能的应用也不能因噎废食。“开展大规模的在线教育，相关部门要以开放、包容、务实的态度，及早制定在线教育相关规则，鼓励各级各类学校和社会参与者兴利避害，共同构建具有中国特色的在线开放课程体系和课程平台，促进其在更新教育观念、优化教学方式、提高教育质量、推动教育改革等方面发挥积极作用。”中国科技评估与成果管理研究会副会长兼学术委员会主任、教育部科技发展中心原主任李志民说。

李志民提出，教育科研人员要及早研究如何检验网课的学习效果和真实性，如何防止考试作弊等；教育行政主管部门应及早推出网课与面授课成绩之间的转换，不同学校授课老师获得学习成绩及学分学历认可等。从国家战略高度、人才培养角度、国家文化等软实力增强角度，重视此次信息技术与教育融合带来的在线教育发展机会，适应教育形态变革，适应人类文明发展。

(完)