Facebook筛选优先审查内容3大指标判断

Facebook今天举行线上说明会,介绍如何运用人工智能(AI)处理平台上的有害内容,目前Facebook会依照传播性、严重性和违反内容政策的可能性,来筛选需要优先审查的内容。

Facebook表示,十多年前开始审查Facebook上的内容时,依赖用户举报他们认为不适当的内容,这些内容将交由Facebook的全球运营团队审查,若有发现违反规定的内容就会移除。目前Facebook在全球约拥有1万5,000名内容审查员,负责审查超过50种语言的内容。

然而,Facebook的运营规模不断增长,依赖社群举报已不是有效率且永续的方式。随着科技不断演进,Facebook的内容审查方法也不断转变。Facebook指出,近年来科技在内容审查逐渐扮演更重要的角色,会在违反社群守则的内容被任何人看到前自动移除。

随着技术不断进步,现在Facebook能够依照几个因素来判断内容审查的优先次序,包括传播性、严重性、违反内容政策的可能性。

以传播性为例,Facebook表示,目前正被快速分享且可能违反社群守则的内容,审查优先次序将高于无人分享或点击的内容。

在严重性方面,可能导致实际伤害的内容例如自杀、自残或儿童性剥削,Facebook审查优先次序将高于伤害性较低的内容,例如垃圾消息。

此外,如果有迹象显示,某些内容可能与违反Facebook政策的内容相似,审查优先次序将高于看似从未违反Facebook政策的内容。

Facebook指出,内容经过优先次序筛选后,就能优先处理严重性最高的内容。这也代表Facebook全球运营团队的审查员能有更多时间处理需要人员判断的复杂内容,而非科技就能判别的低严重性举报内容。

不过,Facebook也强调,虽然科技在内容审查上的角色越来越吃重,Facebook仍然运用“科技+社群举报+人员审查”的方式,来侦测及审查可能违反社群守则的内容,这是因为传统上科技对于内容的理解能力不如人类。

(首图来源:pixabay)

发表评论