南方网> 经济频道>财发生

答题答非所问?知乎将用AI机器人识别和清理

2018-07-01 09:50 来源:南方网 全媒体记者/叶丹

  南方网讯(全媒体记者/叶丹)互联网创造了公共讨论的空间,但随之也带来了大量网络暴力,甚至酿成如“北京90后女孩与父母两次自杀”等人间悲剧。

  在网络上,很多人常常忘记社交礼仪的重要性,不再讲究语言的分寸,不认同别人的发言时,就用“脑回路真奇特”“你是村里来的没见过高楼大厦吧”这样阴阳怪气的语言攻击对方。

  因为文化背景、生活经历的不同导致的看法不同,通过破坏性的方式表达时,损害了网络社区文明秩序,降低公共讨论的质量和体验。如今,互联网企业也已经行动了起来,尝试用技术的手段来解决这个问题。

  日前,互联网问答平台知乎就举办了一场“阴阳怪气”主题书法展,和用户分享了知乎在识别阴阳怪气类内容上的探索和决心。这场不寻常的书法展览实际是一场对于语言力量的展示。这些作品的创作者都来源于知乎,活跃于知乎的书法领域;每一位作者书写的内容,都是关于“隐形的网络言语暴力”的主题,参展的所有作品的内容都是当下最火(也可以说是网民最反感)的网络潮流语言,却用书法的形式向大家展示出来,这种传统文化与时尚潮流结合的创意新鲜感十足,吸引到近5000名观众到场,在线上更是引来大批网友的围观。

  据知乎方面介绍,除了通过书法的方式来传播正能量外,其平台也正通过AI技术尝试处理阴阳怪气的言论,以创新思路引导文明新风。

  根据知乎内容质量团队技术负责人刘兆来的介绍,“瓦力”是负责知乎社区治理的算法机器人之一,可以实时识别和处理不友善、答非所问和垃圾广告导流信息。这一次,“瓦力”挑战的是困扰世界情感分析领域的前沿问题:“阴阳怪气”内容识别。

  据介绍,所谓阴阳怪气,是用户以反讽的方式攻击他人,影响正常的讨论秩序。比如现实社会里大家正认真讨论问题,突然出现一个人讽刺大家多管闲事,气氛马上就会尴尬甚至紧张起来。“阴阳怪气”言论的判定非常依赖个人感受,每个人的情绪阈值不同,且同样的语料在不同讨论语境下也会引发不同情绪,这更为算法识别带来了极大挑战。

  知乎在过去7年中所累积的“举报”等带有用户筛查性质的行为语料和丰富的社区管理经验,使得知乎得以迈出关键一步:用社区最大公约数作为判定尺度。

  “我们基于对于用户切实体验的累积观察,与算法团队一起,从情感倾向性、亲密关系、文本特征三方面入手,训练出能够识别阴阳怪气的算法模型。目前‘瓦力’对阴阳怪气评论文本的识别准确率,已非常接近社区最大公约数,比很多人工判断都更准。”知乎运营总监孙达云表示。知乎近期会让用户自由选择是否开启“瓦力”智能过滤,真正让阴阳怪气识别技术进入产品化尝试。

编辑: 邓德崇

相关新闻

微信
QQ空间 微博 0
回到首页 回到顶部

网站简介- 网站地图- 广告服务- 诚聘英才- 联系我们- 法律声明- 友情链接

本网站由南方新闻网版权所有,未经授权禁止复制或建立镜像 广东南方网络信息科技有限公司负责制作维护

违法和不良信息举报电话:87373397 18122015068

ICP备案号:粤B-20050235