合江资讯
当前位置:合江资讯 > 家居 > 西方博彩_毒手伸向课堂!人脸识别监视学生举动,作恶的AI到底有多可怕?

西方博彩_毒手伸向课堂!人脸识别监视学生举动,作恶的AI到底有多可怕?

发布时间:2020-01-09 16:35:02

西方博彩_毒手伸向课堂!人脸识别监视学生举动,作恶的AI到底有多可怕?

西方博彩,编 辑:正风

来 源:正和岛

这几天,一张人工智能监控学生课堂一举一动图片着实引发了一波舆论热议。

起因是在这张图片中,人工智能系统可以自动识别学生举手、玩手机、睡觉、听讲等行为,而图片上明显印有“megvii旷视”的logo,因此该系统也被认定是旷视的视觉ai系统。

随后,顶不住舆论压力的旷视科技发布了一则声明,称网络上出现的一幅课堂行为分析图片,为技术场景化概念演示,旷视在教育领域的产品专注于保护孩子在校园的安全。

可让人不禁心生疑问的是,保护孩子的在校安全,真的需要把学生们在上课期间的一举一动,甚至一个表情、一个眼神都用识别系统记录下来吗?这样的做法又是不是在侵犯学生的隐私呢?

在不能真正解决问题之前,还请别带来更多的问题。

01.

保证校园安全,改善教学质量要靠监控?

我们看到在这份声明中,旷视给出的一个关键词是“安全”,而最具争议的讨论点之一,也恰恰是“安全”。

因为大家不解的是,为了保证孩子的人身安全,我们就需要安装具有人脸识别系统的课堂监控,然后去分析他睡了多少次觉,举了多少次手以及瞟了同桌多少眼吗?

要知道,国内各省的平安校园建设已经持续了多年,其出发点是预防各类侵害学生权益的事件发生,譬如阻止社会人员滋扰在校师生,再有就是让人痛恨的校园霸凌。

而且,真正的校园安全问题往往也不是发生在校内,而是校外。

据统计,2015-2017年,我国校园意外伤亡事件平均每天发生四十余起,其中事故灾害和社会安全事件占比最大。而在事故灾难中,溺水、落水,交通事故的数量又是最多的。

另外,按照旷视科技的介绍,“在智慧课堂应用中,校方可以通过api或sdk的形式将旷视的表情识别和注意力检测等技术集成到自有的教育系统中,对上课时学生的表情、动作等进行分析,辅助教师判断学生课堂知识接受程度,进而优化教学方案。”

但从实践来看,这套系统无异于安防监控的升级版,在教学中对学生应用类似于监控的设备真的合理吗?

对此,一些教育专家和高校的看法或许更值得我们认真思考一番。

中国教育科学研究院研究员储朝晖认为,教室虽然是公共场所,但是监控下的教师和学生都不是真实的状态,大家从专业角度得出共同结论,在教室里是不能装监控的。首先保护学生的隐私。

中国农业大学本科生院综合处处长韦笑称,从考勤和抬头率上来讲,学校并不打算采用,因为我们觉得学生的抬头率不能判断他的学习效果,可能更多的还是要抓老师的授课。

还有一个更严重的问题是,当学生意识到自己的不用心听讲,开小差等行为可能会被定量统计被事后清算时,他们可能会克制自己的惰性让自己看起来更为用心更积极。

可引发的后果却是,学生们为了呈现出时刻认真听讲的样子,不得不始终将自己表演成一个个奋笔疾书的学霸,而课堂也很容易从他们成长的平台变为表演的舞台,至于旷视所提到的上课效果,反而是最不容易能得到改善的。

02.

教室装监控到底是不是侵犯了隐私?

再来看我们之前提到的隐私问题。

何为隐私,隐私指的是一种与公共利益、群体利益无关,当事人不愿他人知道或他人不便知道的个人信息,(只能公开于有保密义务的人)当事人不愿他人干涉或他人不便干涉的个人私事,以及当事人不愿他人侵入或他人不便侵入的个人领域,即隐私是个人的自然权利。

而国内大中院校在安装摄像头时,能征求学生意见的可能真的寥寥无几,校方往往就是以某种名义为由头,直接开展安装工作,而学生们在新学期开学后才会发现,自己的教室里多了一个摄像头。

此前也曾有学生在微博上控诉类似的事情,但并没有引起多少关注。

在这次在旷视所引发的讨论中,不少人对“这种做法是否真的侵犯了隐私”再次提出了质疑。

而在这方面我们就不得不提一提欧盟的gdpr条例了。

2018年5月,欧盟全面实施了号称史上最严的数据监管条例——gdpr (general data protection regulation,通用数据保护条例 )。

该条例极为严苛,从数据收集、数据存储、数据处理、数据跨境传输(向欧盟境外的传输)等各个环节都进行了系统的规范,只要一家企业向欧盟境内的个人提供了商品或服务、并收集或处理了个人数据,不管该企业是否在欧盟境内设有机构,都适用于gdpr 。

举例而言,如果一家中国在线销售公司的网站上,使用“面向欧洲的特惠产品”、“欧洲区包邮”的字样,或者标注了商品的欧元价格,就可以被视为在欧盟市场提供商品或服务,并受到管辖,那些以安全、便利为由的公司想要打开欧洲的市场会非常难。

该法案重点保护的是自然人的“个人数据”,例如姓名、地址、电子邮件地址、电话号码、生日、银行账户、汽车牌照、ip地址以及cookies等。

对于违法者,条例也有详细的规定,轻者处以1000万欧元或者上一年度全球营收的2%(两者取其高)的罚款;重者处以2000万欧元或者企业上一年度全球营收的4%(两者取其高)的罚款。

此外,gdpr强调数据所有者的知情权,规定数据使用必须事先征得数据主体的同意,而且“同意”必须是具体的、清晰的,是用户在充分知情的前提下自由做出的。

所以,无论是以保护学生安全还是改善教学质量为由,这种未经多数学生同意而随意安装监控设备的行为,本质上就是不尊重个人隐私权的表现,当然,这也与我们个人保护隐私的意识不强有关。

不过,在保护隐私这条路上,我们确实还有很长的一段路要走。

03.

结语

当ai产业进入到场景落地阶段时,必然会牵扯到方方面面的问题,但我们要清楚是,无论其再怎么发展,人工智能都应该是为人类服务的,它可以是提高效率的机器,但不能用作随意监控他人的工具。

至少在教育层面上,相信不会有人希望自己的学生时代是在被监视中度过的,毕竟,那是一个可以在课堂上偷看自己曾暗恋的那个他/她;学习累了的时可以躲在课桌高高的书堆后打会儿盹;肚子饿的咕咕叫时可以使用各种障眼法偷吃零食的时光。

最后,我们引用知乎上一位回答“如何看待旷视科技新产品监视学生上课?”得到最高赞的匿名人士的一段感概作为结语:

这不是产品经理或者程序员的问题,不是一家公司的问题,甚至不是一个技术问题,这是我们社会的价值观的问题,是我们怎么看待自身权益的问题。

上一篇:他将小自己18岁娇妻“雪藏”数年,竟是因为自己婴儿时的遭遇
下一篇:分享36款拉菲纸草刺绣手提包,附针法教程!送人自用都可以