避免网络霸凌,IG将在用户下标前提出警告

脸书于本周宣布,即日起,若Instagram(IG)用户在发布照片或视频时,所使用的标题含有攻击性,那么就会先跳出警告,请用户三思而后行。

这是因为脸书早就开发了可在IG上侦测多种霸凌格式的人工智能系统,今年7月便率先于留言上激活了该功能,假设用户打算发布内置冒犯言语的留言,系统就会跳出提醒,让用户有回心转意的机会;现在则是将该功能延伸到标题上,例如发布一张照片,并写下“you’re stupid”时,由于它与其他用户曾举报的霸凌语言相似,因此系统便会跳出提醒。

脸书表示,此举除了可用来限称霸凌言论的曝光之外,也能顺道教育用户,哪些言论可能违反IG的社群守则。

该机制将在未来几个月陆续部署至全球市场。