追踪自杀欺凌关键词美国学校开始用这个办法监控学生一举一动

这个月底，超过5000万的美国K-12学生将重返校园，开启新一季的学习。对大多数使用学校电脑的他们来说，他们在网上输入的每一个单词，都将被校方跟踪记录。（K-12是美国基础教育的统称，是指从幼儿园到12年级的教育。其中K代表的是幼儿园，12代表的是12年级，相当于中国高三。）

据美国财经网站Quartz报道，根据美国《儿童互联网保护法》（简称CIPA），任何由联邦供资的美国学校都被要求制定互联网安全政策。而随着学校发放的平板电脑及Chromebook笔记本电脑变得越来越普及，为保障学生的安全，学校必须安装一定的技术保护装置。

对部分学校来说，这很简单，只需阻止学生访问不合适的网站即可。然而，其他学校则因此求助于一些科技公司，将潜在的令人不安的交流信息，上报给校方管理人员。

美国一个学生一台电脑意味着巨大的监控市场

据报道，这些安全管理平台（SMPs）使用人工智能系统中的自然语言处理技术，扫描学校电脑中输入的数百万计的单词。如果有一个单词或短语和欺凌或自我伤害类行为相关，这些单词或短语就会浮出表面，供专门的人工团队复审。

在大规模枪击案和学生自杀案件不断增多的美国当下，SMPs在预防伤害事件发生上，的确起到了重要作用。每一家这样的公司都有案例研究，证明拦截信息真正帮助拯救了人们的性命。但这类软件同时也引发了道德上的担忧，事关如何在保护学生安全和他们的隐私间做到平衡。

“对学生出自善意的监控会不断上升标准，直到教室里达到某种监视状态。”呼吁推动儿童互联网安全教育的非盈利机构Common Sense Media总监吉拉德·凯利说道，“现在学校已经不仅仅是金属探测器和摄像头了，就连他们的学习目标和邮件，都要受到追踪和监控。”

不论是保护学校，还是保护数据，这两大主题都深深牵扯到美国人的神经，而关于SMPs的讨论恰好建立在这两大主题的交汇之处。

如今，美国越来越多的学校正在实现给每位学生分配属于自己的一台电脑的目标，保护学生网上生活的需求只会与日俱增。据美国Freckle教育公司2017年的一份调查显示，50%以上的教师称，他们所在的学校已经实现一名学生一台电脑的配置，这意味着这里面有巨大的市场。

据悉，这些最受欢迎的SMPs工作原理大同小异，只有略微的差别。比如Gaggle，每位学生每年的收费大约为5美元，是一款安装在类似Google Docs和Gmail上的过滤器。当Gaggle的智能算法将一个短语或单词浮出水面，比如像提到毒品或有网上欺凌迹象的词汇等，这起“事件”会立即呈报至人工评审员那里进行审核，随后才会传至学校。

Securly则超过了教室内教学用工具的范畴，可以让学校对学生的公开社交媒体发文进行情绪分析。运用AI人工智能技术，这一软件能够对学生成千上万的网络发文以及状态更新等内容进行处理，寻找可疑的伤害迹象。

凯利认为，这些安全管理平台可帮助正常化对低龄儿童的监控措施，教会学生保护自己网上数据安全的重要性。

斯坦福大学网络与社会中心主任达芙妮·凯勒则认为，“对于这类软件该如何运作，应该有一整套分级标准。”她认为，“我们应该在保证安全和监视之间做出好的平衡，选择介于两者之间的某种方式，而非迫使孩子们在毫无控制的情况下暴露他们所有的数据。”

值得肯定的是，学校有义务和责任保护学生们的安全，但保护孩子们的个人隐私，同样是他们安全的一部分。

Securly公司CEO维纳伊（Vinay Mahadik）称，“并非所有人都感到高兴，因为我们谈论的是如何监控孩子。但从整体来看，每个人都赞同必须想出一个办法来保障学生们的安全。这正是我们所选择走的道路。”

担心出现“寒蝉效应”最大的担忧是牺牲学生个人隐私

凯勒对此表示批评，她认为网上监视可能会对学生们产生“寒蝉效应”。如果学生们知道他们被监视，他们可能会审查自己，不愿说出心中所想。当然，这种情况只会发生在学生知道他们被监视了。

虽然大多数学校会要求家长签署知情同意书，允许他们在教室里使用相关科技，但部分学校认为，如果学生对此不知情，他们就能得到一张更具代表性的学生行为全貌图。换言之，部分学校根本不会让学生知道他们被网上追踪和监视了。

“对这类服务和平台的兜售者来说，家长的知情同意书，无异成为他们的免除牢狱之灾卡。”为学校提供咨询服务的技术总监比尔·费茨吉拉德说道，“只要家长在开学季的时候签署同意书，第三方机构就可以运作了。”

SMPs赖以生存的市场，正是基于家长们和学校们的最大担忧。Securly网站上指出，“只要能避免一起年轻人伤害自己或他人的事件，就值得上（该平台）数千倍的订购价格。”

Gaggle公司对此做得更为深远。它不仅能让学校监控学生，同样的软件还可以用于监控老师。“想想此前发生在西维吉尼亚州的教师罢工事件吧，”一位网友在Gaggle公司的博客中暗示道，“如果校方领导要求按照‘医疗保险’或‘罢工’等字眼，在一个月前就在网上对此展开搜索，那么事情是否会变得截然不同？”

避免负面舆论和阻止教师罢工，和保护学生安全毫无关系，但这条博客传递出来的信息是：Gaggle的客户是校方管理人员，并非学生或老师。