ChatGPT之父提出新“摩尔定律” 每18个月AI运算量提升1倍

自半导体出现,为电子产品定下重要基石,也为科技和文明带来飞跃的进步。而半导体行业有一金科玉律在近60年前由Intel创办人Gordon Moore所提出的摩尔定律Moore’s law 。时至今日, ChatGPT之父Sam Altman又持另一想法,就住AI时代提出了新版摩尔定律。

OpenAI CEO Sam Altman“ChatGPT之父”在twitter发文提出新版摩尔定律,指全球AI的运算量每隔18个月就会提升一倍。虽然内文并无详细解释,但仍有已引起不少网民留言及过千个retweet 。

a new version of moore’s law that could start soon:

the amount of intelligence in the universe doubles every 18 months

— Sam Altman (@sama)February 26, 2023

回到1965年,当时身为快捷半导体工程师的Gordon Moore的文章在电子学杂志发布,文章预言每隔18个月,半导体芯片上的晶体管和电阻数量就会以倍数增长,后来被称为摩尔定律Moore’s law。后续在1975年又再提交论文,将时间间隔修正为24个月,即是每两年半导体芯片密度增加一倍,同时成本降低一半。

而ChatGPT目前正使用GPT-3 Model ,有过万亿的参数,并积累了1亿用户,每日活动超过1300万。训练阶段时总算力消耗大约3640 PF-days(即1PetaFLOP/s效率运行3640天),成本预计在每次500万美元。

未来若提升到GPT-4 Model将会有100万亿参数, 但运算性能需要进一步的指数级提升。

数据源:Twitter