来源：北京商报
原标题：人工智能进校园风险何在
新学期伊始，利用人工智能监控学生在课堂一举一动的话题引发关注。其实，随着科技的进步，“AI+教育”概念已席卷教育行业的多个场景。例如在课堂教学中，通过采集学生学习数据帮助老师完成学情分析；在校园管理中打通多场景数据，助力智慧校园发展。多家行业巨头均已涉及此业务。但是，日益火热的技术，却因隐私和数据安全问题惹来不少担忧。9月5日，教育部科技司司长雷朝滋表示，AI进校园要慎重，将对带有人脸识别、肢体分析等的教育应用加以规范和限制。有业内专家表示，技术是双刃剑，学校应以学生为本，不能把学生拆解成零件去研究；相反，教育面向的是心智，在此基础上才能实现“因材施教”。学校也不能执着于技术所带来的教育革新。
双刃剑效应显现
据悉，新学期开学后，中国药科大学在校门口、学生宿舍、图书馆及部分教室等场所安装了人脸识别系统。学生们出勤不仅能被自动识别，连是否认真听讲、是否打瞌睡等情况也能被监测。该校图书与信息中心主任许建真谈道：“之前有同学点完名就跑掉了或者请别的同学代点名，有了人脸识别就没这个问题了。从进教室那一刻起，学生低头时间、玩手机等系统都能感知到。”
其实，安装“人脸识别”系统中国药科大学并非首创。国内多所高校和中学都已在尝试进入“刷脸时代”，大多用于门禁刷卡、食堂支付等场景。据了解，北京理工大学的课堂上，人脸识别被应用在学生的学情分析上，系统精准捕捉学生课堂表现的过程数据，为教师教学做信息化分析。
近年来，利用人工智能解决教育质量提升和现代化发展中的问题，推动教育变革已成为共识。“教育核心的变革实际上是课堂的变革，而课堂变革的核心是在课堂的反馈和评价。如何拥有好的反馈评价机制，就需要把所有的课堂都变成数据，这也是符合教育信息化2.0以‘数据’为基础的要义”，资深从业人士张文表示。课堂上由于人力成本高、客观性难以保障等原因，自动化、规模化的教学信息采集和分析已成为阻碍教学评价和教学研究工作高效开展的长久痛点。随着智能教育的逐步推进，实现对学生日常学习情况的数据采集和行为、知识及情感分析，实现高效率精准化教学无疑是智慧课堂发展的重点。
但同时，这也意味着，要实现数据采集，从动作分析到表情、情绪及肢体分析、眼球追踪等，学生的一举一动都将暴露在人脸识别系统之下。一时间，AI进校园究竟是“校园信息化还是校园监狱化”、“数据收集是否侵犯学生隐私”、“利用人工智能技术是否真能提高教学质量”等话题讨论不断。
涉及隐私及数据安全
事实上，为抓住教育信息化2.0所带来的智慧校园、智慧课堂的风口，包括腾讯在内的多家企业均已深度布局AI+教育。据了解，2017年，威创股份就与百度合作，将人脸识别、情绪识别等技术应用在儿童教育场景中。2018年，海风教育推出“好望角”AI系统，通过追踪眼球焦点来分析学生视线。近日，旷视科技由于将其研发的人脸识别、行为识别、表情识别等技术，集成在考勤及行为分析摄像机和服务器中，从而精准标示出学生举手、趴桌子、阅读的次数而被质疑。
腾讯公司高级执行副总裁、云与智慧产业事业群总裁汤道生曾表示，在教学内容方面，人工智能极大地推动教学评价变革，AI把过去的“结果评价”变成了“过程评价”，把考核从一次考试，变成了持续不断的行为分析，从而实现个性化的“教”和“学”；在校园管理方面，人工智能打通校园全场景，比如人脸作为校园系统ID，用统一身份，打通了多场景数据，帮助老师更系统地关注学生成长状况，让管理更加高效、便捷。
在从业者刘健看来，AI进校园的数据信息安全确实存在隐患，一些小公司中标学校的智慧校园项目后可能会交由第三方服务商操作，这中间的数据安全就易出问题。北京大学法学院教授张平曾表示，大部分学生作为未成年群体，其心理健康和人格尊严应当得到严格的保护，学校使用人脸识别监测学生行为有严重滥用和过度收集个人隐私的嫌疑，使用个人电子信息需要遵循合法、正当、必要原则，并经得学生同意。
而雷朝滋表示，“（对于人脸识别技术应用）我们要加以限制和管理。希望学校非常慎重地使用这些技术软件”。他指出，“人脸识别进校园，既有数据安全也有个人隐私问题，能不采集就不采集。能少采集就少采集，尤其涉及到个人生物信息的”。
规范在即
说到底，AI进校园的根本还是要回到保护学生隐私和人格发展上。二十一世纪教育研究院副院长熊丙奇认为，学生在监控镜头下的表现和没有监控环境下的表现是不一样的，长期容易导致学生形成表演型人格。为什么有一些大学生“混学”，关键是有的教师“混教”，而导致教师“混教”是因为其进行教学研究、创新课堂教学不足。在这种情况下，引入各种技术手段，对提高课堂教学质量帮助有限。此外，他还提醒，资本也看准了学校“重技术”的办学现实，难免对AI+教育进行过多包装，加快了学校采用所谓的智能课堂行为分析系统的步伐。
近日，为促进“互联网+教育”的健康发展，全面规范教育App，教育部等八部门联合印发《关于引导规范教育移动互联网应用有序健康发展的意见》（以下简称《意见》）。
在数据安全上，《意见》特别要求，教育移动应用应当建立数据保障机制。收集使用个人信息应当明示收集使用信息的目的、方式和范围，并经用户同意。收集使用未成年人信息应当取得监护人同意、授权。不得以默认、捆绑、停止安装使用等手段变相强迫用户授权，不得收集与其提供服务无关的个人信息，不得违反法律法规与用户约定，不得泄露、非法出售或非法向他人提供个人信息。
AI+教育已成为大趋势，除了人脸识别的应用，还能如何更好地完成赋能呢？刘健认为，我国的教育资源分布不均，AI进校园该注重把优质课程资源输送给贫困地区，实现教育公平；同时通过技术，给老师的校务管理做增效减负，并提升家校互通的效率。在洋葱数学联合创始人兼CEO杨临风看来，现在人工智能教育在蓬勃发展，但变革目前主要停留在辅助阶段，还需要时间才能触及到教育的核心。如果让人工智能真的在教育核心上发挥作用，方向就是AI赋能的自适应学习能够真正帮助学生实现自主学习，从而提升效率。
北京商报记者刘斯文/文CFP/图
