UCSF发展零信任技术,不共享资料和算法也能完成AI模型训练

UCSF接受微软、英特尔和Fortanix的支持,开发了一个名为BeeKeeperAI的平台,该平台让资料管理员和算法开发人员,能够以更安全的方式协作,不需要移动或是共享资料和算法,就能安全地验证和测试人工智能模型。

人工智能已经被证实,能够应用在医疗领域,有效地提升病患治疗结果,但事实上,人工智能目前却难以实际的应用到临床上,FDA核准的算法不到35种,甚至其中只有2种被认为是真正创新的发明。而其中的问题在于,要获取具通用性、透明性,并能减少偏差的大型资料集,既困难又耗时,而这很大程度的原因,在于为了保护病患资料隐私而制定的监管限制。

BeeKeeperAI则是试图要突破该限制的研究,通过在信任环境,实现算法开发者和资料管理员间的安全协作,使得人工智能能够被更广泛地应用在医疗保健领域中。BeeKeeperAI依赖Azure机密运算解决方案,该解决方案虚拟机使用支持英特尔SGX(Software Guard Extensions)技术的处理器,SGX能够创造一个安全的内存和处理器安全区,加密并隔离内部程序代码和资料。而Fortanix则提供软件,处理加密、密钥管理和工作流程。

微软进一步解释,资料方上传加密的资料到他们的云计算环境,并以加密连接发送至SGX安全区,而算法开发者则通过提交加密的容器化人工智能模型到SGX安全区,两个组件都不会离开安全区,即便是恶意的管理员,或是遭到恶意软件破坏的系统组件,也都无法访问算法和资料。

在模型执行后,开发人员会收到一份算法性能报告以及资料特征摘要,并且可以请求存储包含验证结果信息的加密构件,以符合法规要求。当所有工作完成,资料和算法便会被平台系统抹除。

BeeKeeperAI已经在2021年6月的时候经过验证,能够通过Azure机密运算环境,让算法模型使用到资料,模型和资料会进入英特尔SGX安全区运算,模型者看不到资料,而资料拥有者也看不到算法模型,甚至连BeeKeeperAI也无法看到模型和资料。目前该平台已经通过第三方HIPAA审核,第一个产品版本EscrowAI,预计将在2022年3月于Azure市场上商用。

目前微软正在与总部位于法国的合作伙伴aiScreenings合作,测试该平台,以证明该平台具有全球适用性,aiScreenings首席执行官提到,符合欧盟通用资料保护法规的资料安全标准,是BeeKeeperAI零信任环境的优势。