Instagram被控导致女童自杀 算法向用户展示自杀及自残等意识不良内容

先前英国一名14岁女童在生日前自杀,其父亲向法庭提诉,指社交媒体Instagram长期向用户展示意识不良的内容,促成女儿自杀。调查指出,Instagram算法向Molly推荐476个账户中,有34个含有悲伤或抑郁内容,而她曾触及的16,300个帖子中,有2,100个与自杀、抑郁或自残有关。

Russell代表律师Oliver Sanders KC在北伦敦死因庭上表示,Molly在Instagram上观看了以自杀、毒品、酒精、抑郁症和自残为题的照片及视频,要求验尸报告就Instagram算法是否试图让用户上瘾,最终导致Molly在15岁生日前夕死亡而进行调查,称Instagram的内容将自残想法浪漫化。

Meta健康与福利部门主管Elizabeth Lagone否认Instagram允许用户发布有关自杀及自残内容的指控,称有关内容也是用户的求救声,压制或删除用户上传照片或会对他们造成难以置信的伤害。

高级验尸官Andrew Walker在庭上播放17条Molly曾观看的视频前严重警告在场人士,视频内容或会对庭内人士心理造成影响,建议未能承受的人离开。

伦敦警察局在检阅Molly手机后表示,Instagram算法将476个账户推荐给Molly,其中34个含有悲伤或抑郁内容。而在Molly自杀前半年期间,她曾触及的16,300个帖子中,有2,100个与自杀、抑郁或自残有关,并分别对它们点赞、收藏及分享约130次。随后Lagone也承认Molly观看了违反Instagram内容政策的帖子,并就此道歉。

数据源:Campaign Asia