AI成为防自杀“守门人”
2019-08-19来源:36氪
        预防自杀的文献认为,社区里会有这么一类人,当有社区成员表达自杀的想法时,他们可能会提供帮助,他们被称作“守门人”。这个名词没有一个十分严谨的定义范围,通常情况下,“守门人”包括教师、家长、教练和年长的同事——当他们看到身边人出现心理问题时,具有某种形式的权威和干预能力。



       “守门人”是否也包括谷歌?

       当用户搜索自杀方法相关的关键词时,谷歌会突出显示全美预防自杀生命线(National Suicide Prevention Lifeline)的电话。但这绝不是万无一失的方法。谷歌可不能编辑具体的网页,它只能编辑搜索结果,这意味着当有人想找自杀方法时,他可以很轻易地通过链接、论坛等方式找到,压根儿不用搜索引擎。与此同时,在现如今的互联网上,“碾压”更可能是粉圈的拉踩表达,而不是真正的呼救,但机器可能无法理解其中的细微差别。当人们不使用英语、使用其他语言搜索时,谷歌的人工智能在检测自杀意念方面的效率也要低得多。

       总的来说,搜索结果是一个有用但过于泛泛的干预方法,可以作为预防策略应用起来。毕竟,任何人都可以以任何理由搜索任何东西。谷歌对算法预防自杀的最新尝试更有针对性——针对那些正在寻求帮助的人。

       “发生了什么事?”

       今年5月,这家科技巨头向非营利组织Trevor Project捐款150万美元,Trevor Project总部位于加州,通过电话热线(TrevorLifeline)、短信服务(TrevorText)和即时通讯平台(TrevorChat)向LGBTQ青少年提供心理咨询。该项目的领导者希望通过使用机器学习自动评估来信者的自杀风险,从而改进TrevorText和TrevorChat的服务。一切的一切都从Trevor咨询师的第一个问题开始:“发生了什么事?”

       Trevor Project的办公室主任山姆·多里森(Sam Dorison)说:“如果他们有自杀的想法,我们想确保我们会以一种不带偏见的方式跟他们谈谈,让他们来引导整个对话过程。他们想讨论出柜吗?他们需要自己社区内LGBT社群的资源支持吗?我们真正让他们来引导对话,这可能最有帮助。”

       目前,那些想得到自杀援助的人需要排队等待。Trevor的平均等待时间很短,不会超过五分钟,但在某些紧急情况下,一秒都耽搁不得。Trevor的领导团队希望,随着对人工智能的开发,它最终能够通过分析来电者对第一个问题的回答,识别出自杀风险高的来电者,并立即把这个电话转接给人工咨询师。

       谷歌将使用两个数据点进行人工智能训练:青少年与咨询师对话的初始阶段,以及咨询师与他们交谈后完成的自杀风险评估。其理念是,通过对初始阶段与最终风险评估的数据进行对比,人工智能能够根据最早的反应预测自杀风险。

       Trevor Project的技术总监John Callery说:“我们认为,如果我们能够根据最初的几条信息和最终的风险评估来训练算法,那么就会发现很多人类无法察觉但机器却能够识别的东西,这可能会帮助我们了解更多相关知识。” Callery补充说,咨询师们将继续做出自己的评估。

beautiful-boardwalk-dawn-247314

       算法具有识别未知模式的惊人潜力,但要成为一名优秀的“守门人”,关键是当出现问题时,要向前推进并进行干预。尽管在某些方面,我们已经做到了,但这究竟是不是我们真正想要融入技术的那些方面还尚不可知。加拿大和英国的公共卫生计划挖掘社交媒体数据来预测自杀风险。在Facebook,一旦算法检测到视频中出现自残或暴力行为,就会迅速标记该直播视频,发送给警方。

       我们在谷歌搜索“怎么缓解宿醉”,也搜索医疗建议,更搜索“如何从失恋中恢复过来”,我们用谷歌了解一切。搜索结果可能是混合了不相关信息的,甚至可能是误导性的,但是搜索本身并不会对此做出判断。

       得克萨斯大学奥斯汀分校(University of Texas at Austin)人类发展与家庭科学系主任斯蒂芬·罗素(Stephen Russell)表示:“(学生们)回家后上网,他们可以向全世界任何人披露这些信息。”几十年来,Russell一直在对LGBTQ群体进行研究,他的研究颇具开创性,他表示,尽管有心理问题的学生确实“不应该用谷歌解决这些问题”,但是,让现实生活中的所有守门人们对LGBTQ人群的看法变得开放、积极确实很难,因为几十年来,人们一直对这些群体抱有污名和偏见。他说:“ 即使是当今,我也能听到有些管理者说,‘我们这里没有这样的孩子。’这一直是现实中的一个窘境。”

       而Trevor Project的作用就在于此。最终,这个非营利组织的领导团队希望设计出这样一个人工智能系统:它能够预测LGBTQ年轻人们将需要什么资源——住房、出柜帮助、心理治疗——所有这些都是通过分析聊天中头几条信息来实现的。长期来看,他们希望人工智能能够进化,能够识别元数据中的模式,而不仅仅是扫描初始消息。例如,如果人工智能能够从消息中确定来信者的教育水平等信息,那么它能否推断出这些结构性因素对自杀风险的影响?

       一堆令人眼花缭乱的“如果,那么”语句看上去不可能挽救一个人的生命,但相信很快,它就可以了。
【郑重声明】公益中国刊载此文章不代表同意其说法或描述,仅为提供更多信息,也不构成任何投资或其他建议。转载需经公益中国同意并注明出处。本网站文章是由网友自由上传。对于此类文章本站仅提供交流平台,不为其版权负责。如果您发现本网站上有侵犯您的知识产权的文章请发信至 [公益中国服务中心邮箱]。
0条 [查看全部]  相关评论
项目推荐
三大语系佛教高僧为香港祈福
壹基金壹乐园项目“益谱匠心”优秀教师支持计划
“起澄”中国舞 民族文化传承公益项目
陪你1000次
健康快车光明行
黄手环行动
百特中国·蓝色听诊器计划
GOblue向蓝
女童保护
寒门学子(助学项目))
农民创业接力棒计划(农村扶贫项目)
儿童快乐家园
扬帆计划
小鹰计划2019(乡村振兴项目)
企业邮箱 |  隐私保护 |  客户反馈 |  广告合作 |  关于我们 |  联系我们 |  服务条款 |  网站地图
© Copyright 2005-2015 Mass Media Corporation
京ICP证060160号 京公网安备110102000421号
版权所有:公益中国网