原标题：警觉AI在教育训练工作中运用的道德危险
图片来历：unsplash
当时，AI现已进入社会的方方面面，在教育范畴中的运用也在不断遍及和深化，尤其是在紧扣年代前进潮流、敏锐洞悉商场改变、快速呼应科技前沿的教育训练工作，AI更是大显神通，遭到了火热追捧和广泛运用，给教育训练工作带来了蓬勃生机和旺盛生机。
“小荷才露尖尖角”，AI在教育训练工作中的运用场景还有待进一步拓宽，其价值百科体现方法亦不甚明晰，相同，AI运用引发的道德问题也才初露端倪，许多潜在危险还没有彻底凸显出来。那么，在这样一个时机和应战并存、要害与危险同在的要害时期，对AI在教育训练工作中的运用秉持一种既非辩解也非对立的理性审慎情绪，在达观中保有一份慎重，对AI热进行道德层面的冷考虑，是咱们有必要面临的一项重要而急迫的年代课题。
回忆技能开展史不难发现，任何技能在闪烁耀眼光辉时，也或多或少存在一些黑暗面，正如操控论之父诺伯特·维纳所指出：“技能开展，对善和恶都带来无限的或许性。”和其他技能相同，AI也是一柄双刃剑，它一方面为教育训练工作的立异开展带来了可贵时机和巨大价值百科，另一方面也或许诱发负面影响和道德危险。和校园“自愿求公益”的旨归不同，教育训练工作“自愿逐私益”的实质特色使其功利性更强、标准性更弱、监管难度更大、道德负载性更低，因而更简略繁殖多方面的道德问题。
首要，悖离教育的道德诉求。
在利益唆使下，一些教育科技公司倾向于炒作时尚概念和时兴技能，大都训练组织为获取眼球，也变得急于求成，盲目追风，其成果是AI运用违背教育的常识和本真，悖离教育内涵的道德诉求。处于AI监控下的教育，扮演多于实在，方法优于内容，分配高于自主。
- 榜首，AI监控在某种程度上伤害了师生的品格尊严，是对学生自主学习才能和教师授课才能的不信任，在一开始就走向了教育的对立面。并且，某些教育软件开发者为牟取利益或出于其他意图，往往会将特定的算法和技能天然地植入用户设备中，以一种不易发觉的方法把新的行为代码强加给学生，学生不知不觉中遭到智能体系的调整、操控乃至诱导，这是不道德的教育；
- 第二，当学生认识到全部行为都逃不过AI法眼时，其讲堂体现是假装的，教育反应是失真的，这简略滋长学生构成扮演性品格，阻碍学生养成心口如一的道德品质，这是虚伪的教育；
- 第三，长时间运用AI教育辅佐体系，会阻碍教师的专业开展，好像离开了技能辨认和体系反应，教师就无法把握讲堂体现和教育情况，这是不负责任的教育；
- 第四，单靠AI手法来进步讲堂功率，而不是凭仗先进的教育理念、鲜活的教育内容、高明的教育艺术、一起的品格魅力来进步学生的昂首率、参加度和取得感，这是舍本求末、违背常识的教育；
- 第五，无节制地运用AI技能来寻求教育的“精度”，将有血有肉的学生及其行为简化为严寒的数据，罔顾人的不确定性和多样性，忽视教育的复杂性和情境性，会让教育沦为情感和魂灵缺场的荒漠，这是缺少温度的教育。
其次，蹂躏学生的隐私权力。
全体上说，AI运用对学生隐私的侵略首要体现在三个方面：
- 一是较为显着的全面监控，即在线学习途径、可穿戴设备、万物互联、遍及的摄像头和数字化生存方法一起构筑起来的“数字圆形监狱”随时随地都在窥视、盯梢和剖析学生的一言一行；
- 二是在利益的唆使下，训练组织及其人员有或许盗取、贩卖和乱用学生的灵敏数据和私家信息；
- 三是不易发觉的数据发掘，大数据是AI由弱变强的要害营养，没有数据发掘作为根底，AI的开展好像无源之水、无本之木。
正因为此，大数据本身的海量、多样、相关、易提取和穿插查验等特征让数据走漏和隐私侵略愈加简略和荫蔽，损害成果更严峻。一些小的、简略的、孤立的数据或许安全可靠，不会要挟到个人隐私，可是经过自动化技能积累整组成一个信息全体后，各式各样的数据就能够互相叠加、联动发掘、复合运算、互相佐证，看似不相干的碎片数据变成了有价值百科的信息相关，很简略打破传统的安全维护屏障而追溯到个人。并且大多时分，互相相关整合的数据对隐私的穿透力是1+1>2的。当时，隐私问题现已成为学生、家长乃至全社会的灵敏神经和重视焦点，实在维护好数据安全和用户隐私，构建一个互相信任的调和环境，是AI在教育训练工作完成可继续开展的要害行动。
再次，腐蚀学生的考虑才能。
依据大数据算法的智能体系比方一盏有求必应的阿拉丁神灯，能够依据用户的爱好、需求、特征和常识根底量身定制个性化的学习计划。更可怕的是，智能体系一直在源源不断地罗致和剖析用户的各项数据，从而使决议计划的功率和质量越来越高，一旦挨近人脑水平乃至比用户自己还了解自己的时分，他们极有或许抛弃自主权力，毫不勉强地让体系代为挑选。久而久之，不免构成智能依赖症，随之而来的是学生智力缓慢、好奇心萎缩、深度考虑才能缺失。
在算法盛行的AI范畴，学生或许逐步损失反思和批评的才能，而遵从比方智能Agent或AI帮手替代自己做出挑选。比方，AI能够为学生推送绝无仅有的文章、视频或网站，其成果是学生的阅览品尝受潮流和惯习威胁而呈现去我化和同质化倾向，影响学生批评性思维的开展。
再如，AI个性化服务尽管能够为学生供给最优化的学业计划和工作开展规划，让他们少走弯路，少冒危险，但当学生乐意承受其诱导走向“规则未来”（fixed future）的时分，他们变得服服帖帖，无形之中遭到捆绑，彻底损失了自我，其主体认识、立异精力、探究勇气、考虑才能已消磨殆尽。试想，假如学生不需求自己考虑、挑选就能取得最佳开展，却因而损失了自主挑选和深度感触生命进程的权力，他们的夸姣安在？
最终，拘囿学生的常识视界。
AI年代是均匀完结、个别科学鼓起的簇新年代，个性化技能是AI的集大成者，也是教育训练工作的杀手锏。说到底，AI教育便是一种能够让“对症下药”的夸姣夙愿落地生根的个性化教育服务。
经过聚类剖析，AI体系能够向细分的用户精准推送符合其实在需求的学习资源，为每位学生呈现不相同的学习界面，这极大进步了信息传达的有用性和针对性。但另一方面，精准推送或许间隔学生触摸更多资源的时机，让学生的常识视界变得狭窄。
为了更好满意细分集体的需求，智能引荐体系会对丰厚多样的资源进行漏斗式的层层过滤，成果传递到学生手中的资源高度同质化，他们正蜗居于自己的小“文明地带”，观念主意相似的人在此集合沟通，无形之中关闭了异质思维的传达途径，斩断了学生“日新又新”的时机。
如此一来，学生的观念变得关闭，思维逐步死板，视界不断窄化。精准推送构筑起来的观念“隔离墙”和思维“同温层”会构成信息茧房效应，学生很或许成为孔子眼中的“三季人”。也便是说，学生往往被牵着鼻子走，绝大大都时分是依据本身爱好挑选信息资源和学习内容，倾向于阅览与自己观念相似的信息，其成果是学生就像春蚕吐丝相同，把自己裹得结结实实。更糟糕的是，继续不断地为学生推送支撑其本身观念的信息和材料，长时间浸泡在同质化的信息海洋中，会让他们越来越顽固，越来越排斥异己思维，呈现叔本华所指出的那种现象：“人们会把自己视界的约束，当作国际的极限。” 可见，精准推送是碎片化阅览和表浅化考虑的温床，也是导致学生缺少主意、随声附和、一叶障意图重要诱因。
总归，AI和教育交融不只是技能层面的问题，归根到底仍是道德问题，教育训练工作中的AI运用有必要从道德维度加以了解和审视。要想完成AI科学有用、安全合理的运用，让其真实谋福于教育训练工作，除了要充分肯定和开释AI的强壮功用和巨大价值百科外，还要对AI的教育运用有所约束，建立“禁区”，构建相应的道德准则标准AI的运用行为，警觉和防备AI运用或许给教育训练工作带来的晦气影响和道德危险。
本文转载自微信大众号“京师飞渡 FEdu”，作者为湖北民族大学教育学院邹太龙（未来教育研究中心特约研究员），修改甘霖，审稿陈超凡。
责任修改：
