Facebook 将人工智慧技术用于自杀预防

正文
Facebook 将人工智慧技术用于自杀预防

许多有自杀倾向的人都会社群平台上发表相关的言论,这给了外界进行自杀干预的机会,Facebook 正在利用人工智慧系统对用户在社群平台上的自杀倾向言论进行分析,并向救援机构及时发出预警。

纽约 Chautauqua 郡的主管 Joseph Gerace 在其任职期间经历许多自杀事件,但在最近面对这些事件时,他有了一个新的帮手,就是 Facebook 的安全团队。2017 年 7 月,Facebook 爱尔兰安全团队告知 Chautauqua 郡的 911 中心关注某名可能存在自杀倾向的居民。已经在该地区任职 39 年的 Joseph Gerace 在接受採访时表示,对于用户在社群平台上的言论进行分析,并不会侵犯用户隐私,只是希望能够在发生危机时及时干预。据报导称,Facebook 在 2017 年 8 月首次对外公开 Chautauqua 郡的这起事件,该公司透过演算法的分析,被告知一名女用户曾在 Facebook 页面上发表过伤害自己的言论。

长期以来,Facebook 会对用户在该平台上的自杀倾向言论进行分析,将涉及此类内容的言论提交到人工审查,并判断是否需要向自杀干预热线提供帮助,或者在一些极端状况下 Facebook 的专业团队进行干预。

对用户言论的分析是基于人工智慧系统和演算法,大约在一年前,Facebook 在该公司的社群平台上加入了一项技术,这项技术可以自动辨识和标记带有自杀倾向的内容,供 Facebook 的工作人员审查。2017 年 11 月Facebook 发表报告称该内容辨识和分析系统已经开始发挥作用,在一个月的时间内,与紧急救援机构进行了 100 多次合作,均是基于该公司的主动检查系统。启动这一机制后 Facebook 的自杀防御支持资料的使用人数比之前成长了两倍多。该公司还在使用更多语言来升级系统,并加入 Instagram 的平台中。

Facebook 软体工程师 Dan Muriello 透露负责该团队成立于 2015 年,主要是分析负面的言论,比如社交分手和死亡等,虽然在 Facebook 平台上涉及自杀的讯息非常少,可能只有百万分之一,但自杀已经成为公共健康的一个严重威胁,据美国疾病控制与预防中心的报告显示,自杀已经成为了美国前十大死因之一,在 15 岁到 34 岁的年龄段,自杀是第二大死因,仅次于意外伤害。对于月活跃用户超过 21 亿的 Facebook 平台来说,在预防和干预自杀方面可以发挥更大作用。

Facebook 在 2013 年成立了人工智慧技术团队,并建立了人工智慧实验室,并招募了知名的人工智慧专家 Yann LeCun 做为主管,该实验室基于人工智慧技术研发了多项功能并应用到 Facebook 的平台上,包括辨识用户的泳照、辨识翻译文字、辨识影片中的对话等。

AI 需做到準确理解用户并发出预警

包括 Amazon、苹果、Google、微软在内的科技公司都在投资和发展人工智慧技术,并应用在各种不同的平台和服务上,但将人工智慧应用到自杀预防还非常少见。Facebook 科学家 Umut Ozertem 表示,他在该领域研究多年,曾在 Yahoo 和微软的人工智慧实验室工作,但从来没有从外部听到有人提到自杀预防方面的研究,他个人对此非常感兴趣。

Facebook 在自杀预防方面的研究已经超过了 10 年,推出了社群平台的线上帮助中心,在帮助中心用户可以找到需要的资源,Facebook 下一步就是利用平台的资料,对用户的讯息进行分析,并对特殊的讯息发出预警供专业人员审查。

微软和 Google 也在各种平台提供了类似的服务,比如在 Google 搜寻中查询自杀相关资讯,就会显示预防自杀的救助热线号码,微软则在 Xbox Live 的搜寻结果中加入了预防自杀中心的讯息。对于 Facebook 而言,这仅仅只是一个开始,目前已经有超过 7,500 名工作人员进行自杀和其他自我伤害的讯息审查,Facebook 全球策略管理负责人 Monika Bickert 表示,任何与人身安全有关的讯息,比如自杀、自我伤害等,都必须是优先考虑的,必须参与措施进行干预。 Facebook 的工作人员还会与专业的救助机构合作,据自杀干预救助机构 SAVE 的执行总监 Dan Reidenberg 表示,Facebook 每两年会举办一次技术峰会,邀请各大公司和机构的代表来讨论这一议题,科技公司的服务是全球性的,他们需要持续关注用户。

2017 年年初专业的自杀干预救助团队与 Facebook 公司的研发团队在硅谷进行会面,讨论如何利用人工智慧技术预防自杀,这次会议讨论了一个多小时,目标是创建一个能够理解用户言论的自动系统,因为在文字的表达中有许多奇妙之处,比如用户发文称,「如果再让我看一遍这样的电影,我就自杀」,显然这名用户并不是在发表负面的自杀倾向,这正是人工智慧技术需要应对的挑战,如何準确地理解用户并及时发出预警。

Dan Reidenberg 对于 Facebook 利用人工智慧技术进行自杀干预的前景感到乐观,人工智慧能帮助救助人员快速地找到处于危机中的人,就意味着可以挽救更多人的生命,但 Facebook 的应用推广也可能面临更新的挑战,因为当用户知道 Facebook 能够辨识出负面的讯息并做出反馈,他们就可能不会在 Facebook 上发表这些内容。


上一篇: 下一篇:

相关文章:

最近发表
内容甄选