打击假消息!YouTube如何处理疑似有害的不实信息?

社群平台上经常充斥着不实信息,这些假消息越来越以假乱真,让人们难以在第一时间发现异状。YouTube产品经理Neal Mohan 17日在官方博客发布文章,深入探讨YouTube如何处理该平台上疑似有害的不实信息,包括假消息在被快速传播前抢先掌握、降低跨平台分享假消息的设计、以及更能以英语以外的语言结合文化于全球加强对付假消息,以限制有害的不实信息不易在网络上传播。

在过去5年里,YouTube一直投入大量资源,用以构建称为“4R”(Remove─移除、Raise─优先显示、Reduce─减少推荐、Reward─奖励创作者)的平台责任架构。借由机器学习与人工审查,YouTube得以快速移除各种违规内容、提供可靠的消息来源、并且阻止有疑虑的内容继续传播。除了减少有害内容的传播,YouTube系统也会通过搜索结果或推荐机制,将观众引跳转至内容可靠的视频。然而随着不实信息扩散的速度与范围远远超过以往,YouTube也与时俱进做出应对。

YouTube面对的一大挑战在于,游走在违规边缘的视频在外传播。这些视频没有明确违反YouTube社群规范,但也不会是YouTube系统想要推荐给观众的内容。实际上违规边缘的视频通过推荐系统被看到的比率,目前大幅降至不到1%,然而即使YouTube不推荐,这些视频仍然可能因为其他网站的连接导流或嵌入视频而获得观看次数。应对这个问题的可能做法是停用视频“分享”按钮,或者针对YouTube已经限制推荐的视频,使其连接失效。还有一种可能做法是在观众观看嵌入或连接到违规边缘的视频之前,YouTube自动显示一则插页式内容,让观众知道可能包含不实信息,这样具有缓冲作用,能让观众在观看或分享之前思考一下。

另一方面,对于自然灾害这类重大的新闻事件,YouTube会提供相关报道的新闻面板,引导观众到新闻报道进一步了解详情;而对新闻媒体较少报道的特定内容,YouTube也会在页面上提供事实核实区块。不过,事实核实需要时间,而且并非所有内容都有即时核实,这也是为什么YouTube持续运用不同类型的标签添加到视频或搜索结果中,以警告观众相关内容可能缺乏可靠消息来源;与此同时,还要权衡显示标签是否会在无意中让原本乏人问津的议题反倒变成焦点。

被认定为违规边缘的视频在不同国家和地区的定义可能截然不同,为此YouTube持续思考如何在不同的语言与文化中,对YouTube内容评估人员的规范指引作出不同诠释,同时也寻求更多与世界各地的专家以及非政府组织合作的机会。

Neal Mohan也强调,YouTube需要谨慎地在限制疑似不实消息传播的同时,也要为敏感和有争议的议题保留讨论与教育的空间。

(首图来源:科技新报)

发表评论