AI监控下,他们被迫“扮演”好学生

IT时报 | 这里是《IT时报》新知号 2021/02/08 14:26

新知达人, AI监控下,他们被迫“扮演”好学生

图源:东方IC

30秒快读

1

监控学生,到底是为了抓住那个坏学生,还是强迫每个学生都“饰演”好学生。

2

从表情到动作,从头环、手表到校服,学生一走进校园,就仿佛走进了一座“AI牢笼”,一举一动无处遁形。据《IT时报》调查,曾经一度招来非议的监控头环,已经相对普遍的智能校服,还有布下天罗地网的智慧校园,都还在狂奔推广中,那么界限在哪里?

“突然,温斯顿转过身来,表情祥和而乐观。他是迫使自己这么做的,他认为这是面对电子屏幕时的最好表情。”英国作家奥威尔在1949年出版的长篇小说《1984》中如是写道。

时时被“看着”或许在2021年成为现实。

1月27日,“鹤壁高中2021届”微信公众号发布的一则《1月18日至1月24日违纪情况通报》引发热议,文中通报了95条高三学生违纪行为,除睡觉、玩手机外,还有“X班XXX哈欠不断”“X班XXX腿上放棉袄”“X班XXX在抹护手霜”等细节动作,令人细思极恐。

新知达人, AI监控下,他们被迫“扮演”好学生

图源:网络

随着舆论发酵,1月28日,该公众号删除了文章并注销账号,鹤壁高中官方微信公众号发布通报称,该校高三年级在此事上存在方法不当、管理不规范问题,责成年级主任做出深刻检讨,对涉及学生及家长公开致歉。

然而,鹤壁高中并不是个案。近年来,广东广雅中学、浙江金华金东区孝顺镇中心小学等学校也纷纷被曝使用智能设备监控学生,又迫于压力做出说明或撤销使用。

愈演愈烈的“智慧校园”中,AI究竟是老师的助手,还是学生的牢笼?

01

课堂表情分析有用吗?

1月30日,鹤壁高中校长冯喜亮回应媒体称,学校的出发点是希望将下一代培养得更好,但方法欠妥。2月1日,《IT时报》记者致电鹤壁高中,一位负责人表示,智能监控仅针对高三年级,目前已经停用。

据多位业内人士透露,这样的“AI监控”智慧课堂在校园已经是普遍现象。在鹤壁高中的贴吧,家长已经见怪不怪,“这次只不过是放在公众号上,我们那届家长群里每次都发,楼下也一直贴”。

“智慧课堂”的背后,隐藏着巨大的市场,在教育峰会、论坛上,“AI+教育”、人脸识别、表情分析等均是行业人士探讨的热词。

新知达人, AI监控下,他们被迫“扮演”好学生

图源:Pixabay

希亚思(上海)信息技术有限公司(以下简称希亚思)是一家专门从事的“微表情识别”的公司,官网显示,“AI+教育解决方案”采用了世界顶尖微表情识别AI公司的技术,目前已在上海十几所实验小学、重点中学的教研公开课上应用。

这套“微表情识别”核心技术包括表情、人脸、肢体、声纹识别和呼吸心跳监测。只需在教室装上一个摄像头,就能同时识别多张人脸,分析7种情绪及21种表情,用于学生的坐姿管理、专注度分析等。

“它能实现学生个体评价和课堂整体评价,学生个体评价能帮助老师了解学生,改变结果评价的导向,填补过程评价的空白;课堂整体评价能检测学生各时段对课堂的情绪反应,反过来检验老师。系统每月会形成月报,可以进行横向、纵向对比。”希亚思相关人士告诉记者,“从幼儿园到大学都有使用,每个阶段的方案不一样。”

课堂专注度分析真的有用吗?

曾经试点过“AI监控”智慧课堂系统的另一所高中,半年后就停用了这套系统,该学校负责人对记者表示:“试点下来发现课堂专注度和学生成绩没有必然联系,争议也较大,所以我们没有继续使用。”他否认并坚决反对将课堂专注度作为评价学生的标准,“课堂专注度只能是辅助参考,决不能作为评价学生的工具”。

21世纪教育研究院院长熊丙奇是“AI监控”智慧课堂的坚决反对者。他表示, 学生长期在监控环境下学习,会养成“表演型人格” ,同时也容易造成老师“离了技术不会教学”的现象,应该叫停这种所谓技术创新。监控只能在两种情况下使用,一是用于考场监控,二是在得到教师和学生的同意情况下,直播课堂教学,与其他学校、课堂共享教育资源。

02

“从外到内”的监控

不仅是“AI监控”,这些年,智能头箍、智能手环、智能校服等打着“智慧校园”旗号的产品层出不穷。

2019年,浙江金华金东区孝顺镇中心小学的学生上课戴上了孙悟空的“金箍”。这是一个脑机接口头环,通过收集和分析脑电波将学生专注力统计为0~100的分数,这些分数会记录在老师的电脑中,甚至被发送到家长群里。

新知达人, AI监控下,他们被迫“扮演”好学生

图源:网络

随后,头环创始公司BrainCo(强脑科技)发布声明称,赋思头环是一款训练学生提升专注力的仪器,并非用来监控学生。

一年多过去,情况怎么样?近日,记者拨打了BrainCo的电话,对方表示, 头环仍在学校和培训机构大量使用,不过进入学校需要政府统一采购。

“头环主要是用于专注力训练课,也可以用来检测学生上课的专注度。”BrainCo客服表示,“一般认为70~80分属于高专注度,60分以下的专注度就较低”。而记者的同事曾体验过此产品,称需要特别专注,才能用“意念”驱动实验小车。

戴头环时需要告诉学生正在被监测吗?客服表示,可以以训练的名义。

相比价格不菲的智能头箍,智能手环与手表的成本和便捷程度使它更便于普及。

深圳吾控健康科技有限公司(以下简称吾控健康)工作人员告诉记者,可以实时查看学生的考勤、定位、体温、心率、课堂互动等数据,解决学生安全、健康等方面的问题。“比如,学生通过教学平台参与答题,课后生成统计报告;老师根据学生心率、步数统计出不同运动量的孩子,给出对应策略。这些技术都可以拓展应用,比如谁和谁经常在一起的聚集性分析、行为轨迹大数据分析、运动风险管控等。”相关负责人表示,“近期,我们在一所幼儿园到高中的全日制寄宿学校安装了1000多个蓝牙网关,学生进入教室和回到宿舍都能被看到。”

这些数据通过App、小程序、公众号就能实时查询,例如,吾控健康的手环数据分为家长端、教师端和学校端,家长端数据可以嵌入学校自己的公众号。

2018年,贵州11所中小学的学生穿上了由贵州冠宇科技有限公司研发的“智能校服”。这件校服外表看似普通,但在左右肩膀下缝制了可以记录生物数据和随时定位的芯片。学生每次经过门禁系统,系统都会自动拍摄10秒短视频,20秒钟后,这段视频便会自动上传到家长手机上,家长即可了解孩子每天进校、离校的情况。

如今,智能校服被推广到更多地区和学校。 上海钦轩网络科技有限公司(以下简称钦家)的智能校服通过智能码与RFID将独立加密成像与个人身份绑定,用于学生考勤、安防, 目前已与全国300多家校服企业合作

至于智能校服是否侵犯隐私,钦家表示,校服只在校门口记录学生考勤情况,不会实时跟踪。家长也可以先不激活服务,如果觉得有价值,再进行开通。

03

“智慧校园”应有边界

随着AI的发展,“智慧校园”一直是一个巨大的市场,关于它的争议也从未停止。

据统计,2019年我国智慧校园行业产值为584.46亿元,预计2020年,这一数字将达到614.82亿元。智慧校园产品市场可分为智慧校园系统和智慧校园硬件市场,其中,2019年智慧校园硬件规模为402.25亿元,占智慧校园市场规模的71.33%。

新知达人, AI监控下,他们被迫“扮演”好学生

图源:Pixabay

无论是互联网巨头,还是像希亚思之类的AI垂直企业,都想在市场中分一杯羹。

但在巨大的利益面前,无论是学校还是企业,把握住“智慧校园”的边界,才能守住学生人格的底线。

一位高中语文老师表示,鹤壁高中对学生课堂行为的监控,体现的是学校对教学质量的过度追求,但作为同行,她看到了大背景下学校的苦衷和无奈。如果“智慧课堂”观察的重点不是对于学生行为的评价,而在于让教师反思和提高自己的教学行为,就不存在涉及学生隐私的问题。事实上,数据与隐私始终是一对对立的矛盾,这不仅是学校的问题,而是整个现代文明社会的问题。

北京至普律师事务所李圣认为,智慧校园、智慧课堂在教学信息化发挥的作用是值得肯定的,但需要注意对学生隐私和个人信息的保护。学校安装监控,只能安装到教室、走廊等公共场所,不能安装到厕所、宿舍。对于使用手环、头箍等技术监控,学校需要征得学生和家长的同意,保障其知情权。未经本人及其法定监护人同意,学校不得将所获信息外传,否则将承担包括但不限于侵犯隐私权、肖像权、个人信息安全的侵权责任。“规范AI在教育中的运用,需要从社会、政府和公众的角度来考虑在人工智能的发展道路上什么是应该做的、什么是不应该做的,及早进行规范和预判,加快人工智能伦理原则落地,让人工智能提供的信息和服务帮助学生成长和发展。”李圣表示。

作者/IT时报记者 钱奕昀

编辑/挨踢妹

排版/冯诚杰

图片/东方IC Pixabay网络

更多“AI”相关内容

更多“AI”相关内容

新知精选

更多新知精选