微软发布线上聊天扫描工具打击儿童诱拐行为

微软发布了一个称为Artemis的项目,目的是要针对诱拐孩童的常用渠道,利用系统自动标记出诱拐儿童特定的对话模式,并交由管理员进行人工审查,以便执法单位进一步介入处理,这项技术被用来监控Xbox平台上的聊天,从1月10日开始,该技术将交由合作的非盈利组织Thorn处理技术授权。

打击线上儿童剥削(child Exploitation)是社会共识,微软现在对其他线上聊天服务,共享新研发的诱拐侦测技术,以侦测、解决并回应试图引诱孩童的恶意行为,这项技术是由微软、The Meet Group、Roblox、Kik和Thorn合作开发,创建在微软的专利技术基础上,这项专利应用在文本聊天对话上,能够评估对话特征并给出可能性评分,用户可以设置评分阈值,决定什么样的受标记对话,要交给管理员审核,并将具有立即危险性的案件,转介给执法部门和其他儿童保护组织。

Artemis项目是于2018年,在微软、WePROTECT全球联盟和儿童尊严联盟,合办的一场跨产业黑客马拉松中起始,这场黑客马拉松是多面向的活动,之中发起的项目除了注重技术与功能之外,同时也专注于法律、政策以及其执行面,Artemis项目由PhotoDNA发明人Hany Farid带领,PhotoDNA是Hany Farid在达特茅斯学院时,与微软合作开发的免费工具,可用来侦测、破坏并回应儿童性剥削图像,被全球150多家组织使用。

这个新的儿童诱拐侦测技术已经被应用在Xbox平台,未来可能还会用在Skype等其他聊天服务。微软表示,Artemis项目将通过Thorn,免费提供给其他具有聊天功能的合格线上服务公司使用,Thorn本身是一个专门抵御儿童性虐待的非盈利技术组织。

微软提到,Artemis项目是打击线上儿童性剥削的一大步,但不是万灵丹,侦测儿童性剥削、性滥用以及线上儿童诱拐是复杂的问题,因此微软共享工具助其他企业打击儿童性剥削,并希望有更多的科技公司参与贡献,以持续改进与完善系统。

发表评论