OpenAI采用PyTorch作为主要深度学习框架

OpenAI宣布开始大量在项目上使用深度学习函数库PyTorch,以标准化项目,使团队间更容易创建和共享优化模型实例。过去的OpenAI做法,则是根据项目的需求,挑选适合的框架来实例项目,而未来尽可能所有项目都会使用PyTorch。

PyTorch是以Torch作为基础的深度学习函数库,Torch则是一种科学计算框架与脚本语言,脸书在2018年11月发布PyTorch 1.0正式版本,目标是要加速整个人工智能研究以及开发的过程,目前PyTorch支持的程序语言除了Python和C++之外,在1月发布的PyTorch 1.4开始支持Java。PyTorch不只受到各大硬件厂商IBM、英特尔、Arm、Nvidia及Qualcomm等的支持,三大云计算企业也都在各种服务中集成了PyTorch。

OpenAI提到,之所以会选择PyTorch,是因为能够提高他们在GPU上大规模研究的效率,而且在PyTorch中测试新的研究想法很容易,在改用PyTorch之后,创建模型的时间从数周缩短至数天。

OpenAI刚发布的深度增强学习教育资源Spinning Up in Deep RL,也发布了PyTorch的版本,而OpenAI也正在为高度优化的Block-Sparse GPU核心,编写PyTorch绑定(Binding),会在接下来几个月内开源这些绑定。未来PyTorch会成为OpenAI主要使用的深度学习框架,但在必要的时候仍会采用其他框架,目前OpenAI已经有许多团队转换使用PyTorch。

OpenAI是位于旧金山的人工智能研究公司,由Tesla创办人Elon Musk、LinkedIn与PayPal公司创办人Reid Hoffman及Peter Thiel等人合资创立,并且还找来了机器学习专家Ilya Sutskever,与前Stripe首席技术官Greg Brockman,分别担任首席科学家与首席技术官的职位。

OpenAI最近发布许多改良增强学习的研究,像是可惨电《Dota 2》专业玩家的人工智能机器人OpenAI Five,和避免人工智能做出不安全行为的工具Safety Gym,另外,OpenAI也利用深度神经网络作曲,而且其开发的文本产生模型GPT-2,还能进行问答、阅读理解和总结等语文工作。