OpenAI指AI模型效率进展远超摩尔定律

AI开发近年相当快速,OpenAI调查后,最近表示将关注机器学习模型的效率,并公布算法发展研究报告,让业界更了解情况。

OpenAI的研究报告表示,近年算法效率改善远远超过摩尔定律,自从2012年以来,当训练AI模型进行ImageNet图像分类基准测试时,需要的算力每16个月就会减半,因此与2012年AlexNet相比,现在的神经网络要达到同样运算只需四十四分之一算力。OpenAI表示,算法进步是推动AI发展的重要因素,而他们目标是要找到更清楚说明算法演进过程的方式,衡量AI模型效率。

OpenAI表示,测量算法效率提升的趋势可让整个进程量化,进一步推动产业发展。他们会公开测试目前最先进的AI模型效率,除了ImageNet和WMT14测试,也鼓励学术界和业界提交更多测量结果。他们表示,目前结果显示随着AI研发,研究人员投入更多时间和计算能力,算法演进效率可能会超过硬件效率。