吴恩达看AI的下一步趋势:小数据、方法论和后设增强式学习

国际知名线上教育平台Coursera共同创办人、曾带领Google Brain和百度首席科学家的AI大神吴恩达(Andrew Ng)日前首度来台公开演讲,分享最新AI趋势,也提出对企业拥抱AI的建议。

趋势一:需要创建AI方法论

吴恩达指出,AI将成为一门有系统的工程学科,但它还缺乏一套方法论,例如没有一套标准的开发流程,“现在正处于创建扎根用的AI方法论的过渡期。”

像吴恩达的机器学习团队就采用了改良版的敏捷式AI开发流程,将多数人惯用的2周冲刺期缩短为1天冲刺期。“利用白天写程序,搭配晚上几个小时来测试,隔天早上召开团队会议,审查前一晚实验结果,再决定下一步方向,如此周而复始。”吴恩达说,比起传统软件开发,短期ML开发流程是他实行过最有效率的方法。

趋势二:小数据将成为显学

早期的AI应用多依赖大数据,这是因为早期开发AI应用的多为大型网络公司,拥有数十亿笔巨量数据。“但现今,开发AI的企业不再只是软件业,”但这些企业的数据量少,以小数据来开发AI的趋势越来越明显。因此,吴恩达点出,这几年也产生许多新技术,比如单样本学习(One-shot Learning)、小样本学习(Few-shot Learning)、自我监督式学习(Self-supervised Learning),甚至他在Landing AI的团队,也执行不少关于小数据的研究。

趋势三:RL商业价值将因新方法而大幅提高

“深度学习和监督式学习创造的经济效益,占所有AI技术的99%,而增强式学习(RL)的占比非常小。”但吴恩达观察,近两年兴起了一种后设增强式学习(Meta RL),将能改写RL的商业价值。这是将用来训练自我学习能力的后设学习(Meta Learning)理论,用于优化RL的奖励机制,让RL模型不只加快训练速度,也能让模型直接可用于非原本训练数据范围的新应用任务。

11年前,吴恩达在史丹福大学任教时,曾利用RL开发一套不须人为遥控、可自行飞行的小型直升机,利用RL技术,创建了一个虚拟的操控仿真器(Simulator),在虚拟场景中学习如何操控直升机,再用训练完成的操控仿真器,来控制真正的直升机。不过,他说,当时没人知道自己训练的RL仿真器能否100%正确飞行。

但是,现在有了后设学习方法,可以从利用数百种不同的操控仿真器,在虚拟场景中,控制各种不同参数的虚拟飞机(比如大小、推力强弱),让RL模型找出一套自己学会操控虚拟飞机的自学方法,“研究显示,就算最后用于虚拟场景中没见过的实体直升机,Meta RL创建的虚拟仿真器依然能快速适应,且表现比RL更好。”吴恩达指出,所以,“这几年,连OpenAI、DeepMind等组织都争相研究Meta RL。”目前,吴恩达已正在研发Meta RL农业应用,但他认为,也可用于制造业。

企业拥抱AI,先从小项目开始

对于想拥抱AI的企业,吴恩达给了不少建议,首先是从小型项目着手,先取得成就和内部信任。他以自己为例,一开始,Google同事和主管大多对深度学习抱持怀疑态度,有些高层甚至认为深度学习不可行。吴恩达先锁定Google Speech的语音识别,成功优化识别率后,才转向规模稍大的Google Maps,利用计算机视觉来提高地图上的建筑定位精准度。有了这些成绩,吴恩达才有机会说服规模更大的Google Ads团队,引进AI来改善广告投放精准度。“先从小型项目开始累积成就,很重要。”他强调。

一旦要开始执行AI项目,吴恩达建议,“至少先想6个题目。”再从技术面和业务面影响来评估这些题目(如下图)。技术面问题如AI系统是否完成所需性能、需要多少数据量、软件开发进程,业务面则如降低成本、提高营收、创造新产品或新业务。他在选定AI项目前,通常会花上数周,和团队共同分析技术面和业务面需求,最后再挑出最可行的2个题目来执行。

从试验项目累积动能,进一步将AI推广至整个企业

从小项目累积出经验,企业若决定进一步全面拥抱AI时,吴恩达也从自身经验归纳出5个原则。首先,通过试验项目来累积动能,“不一定是最有商业价值的项目​​,而要找容易成功的项目,才能累积企业内部动能。”他指出,AI试验项目期可维持6至12个月,外包或内部团队自己执行都可以。

但是,当这些AI项目发展到一定程度后,吴恩达建议,企业就必须构建集中式的内部AI团队。可比照业务单位的设计,以一个独立AI单位<

来协助不同业务单位,可由首席执行官管辖,或由CIO、CTO或CDO管理(如下图)。“Google和百度的AI团队,就是如此运行。”

另一方面,AI项目推动过程,吴恩达建议,企业必须进行提醒全公司的内部AI教育训练,可按职务分成三类来培训。第一类包括决策者和资深业务主管,他们必须了解AI能为企业做什么、如何制定AI策略、如何分配资源;第二类是参与AI项目的部门主管,要让他们了解如何制定AI项目的方向(包括技术面和业务面考量)、资源分配,以及监管项目流程。最后一类则是AI工程师新手。他们不只要学会AI软件开发,还要能搜集数据、执行特定的AI项目等。不过,他提醒,企业不用从无到有设计新教材,而要懂得从YouTube、Coursera等平台,选择合适的教材。

在AI策略上,吴恩达指出,许多企业的首席执行官容易制定不切实际的AI策略,比如要求属下尽可能收集各种数据、越多越好。但他认为,企业应该等到试验项目成功、累积基础后,再来订定AI策略制定应。一是创建数据策略,包括如何取得数据、构建统一的数据存储,其次是从网络效益和平台优势来思考策略。

吴恩达建议的最后一项AI导入原则是,要发展内外部交流渠道,如与投资者和政府之间的沟通渠道,也要兼顾用户、人才招募和内部的交流渠道。

不只企业要发展AI,吴恩达认为,长远看来,各国也该积极创建AI中心。他有感而发地坦言:“我们这类专家所犯最大的错,就是在互联网崛起的年代,替硅谷和北京赚了大笔财富。”他希望,这次在AI崛起的时代,要让AI跨出硅谷和北京,在各个城市发展,而且AI发展权不应只握于软件公司手中,而是要让各产业都能做到。他建议,台湾要发展AI,可自身成熟的产业强项如半导体、制造业切入。