新的教育机构开始将AI技术应用在更深领域,比如识别和分析课堂上学生的表现和情绪。2017年,威创集团也与百度合作,将人脸识别、情绪识别等技术应用在儿童教育场景中。2018年,海风教育推出“好望角”AI系统,通过追踪眼球焦点来分析学生视线。好未来也开发了WISROOM智慧课堂解决方案和MAGIC MIRROR魔镜系统,通过人脸、表情和姿态识别等技术,了解学生的课堂参与度。
尽管在课堂中引入人脸识别技术的初衷是为提升教学质量,但依然引起了不小的争议。
弘成教育董事长黄波曾对未来网表示,人脸识别技术对于提高教育质量并没有太大的帮助。人工智能应做好课堂个性化服务等落地产品,在此之前监测学生的面部表情属于无用功。“人的面部表情是非常复杂的,通过面部表情转移到情感,这些技术要想解决教育的根本问题差距还很大。”她说道。
更多的担忧集中在对学生隐私权的保护上。北京大学法学院教授张平曾在接受《南方都市报》采访时表示,大部分学生作为未成年群体,其心理健康和人格尊严应当得到严格的保护。她还指出,学校使用人脸识别监测学生行为有严重滥用和过度收集个人隐私的嫌疑,使用个人电子信息需要遵循合法、正当、必要原则,并经得学生同意。
澎湃新闻称,面对隐私保护的质疑,中国药科大学图书与信息中心主任许建真表示,校方已向公安部门和法务部门咨询,教室属于公开场所,因此不存在侵犯隐私的说法。
目前,人脸识别技术已逐渐在全球教育圈得到关注和应用,但与之而来的隐私争议持续不断。
8月22日,欧洲数据保护局(EDPA)发布公告称,因发现位于瑞典北部城市斯凯尔莱夫特的一所学校使用了人脸识别技术监测学生的出勤情况,对市政当局处以超过2万美元(20万瑞典克朗)的罚款。尽管得到了学生和家长的知情同意,但EDPA仍认为这项计划中数据的收集者和被收集者间存在着明确的不平等关系。