AWS明年AI三大战略,主打无ML专业知识也能上手

今年的re:Invent 全球用户大会上,AWS进一步披露明年云计算AI战略布局,将锁定三大AI策略,不只要抢推能够大规模部局的专用推论服务,还要提供更方便好用的AI自动构建及部局工具,更要瞄准特定行业的无人载运与移动用途,抢攻企业市场。

AWS首席执行官Andy Jassy在首日开场近3个小时的演讲,对于AI人工智能介绍,花了最多时间。讲到AWS过去一年来推出机器学习服务的表现,他更自豪地说,光是去年,就有10万个活跃用户在AWS上执行他们的机器学习(ML)模型,远远超出他们原先预期,而且遍及各行各业。

机器学习推论成为今年AWS抢攻AI另一大主轴,不只有推论用的EC2运算实例,明年还要推出一个低价且高性能的机器学习推论专用芯片Inferentia,这也是继ARM芯片推出后,AWS最新发布的第2款自制芯片,颇有要和Google的机器学习芯片TPU打对台的意味。

但是,有别于往年,Andy Jassy今年更看好机器学习服务在推论市场的发展,甚至他认为,未来将近9成的机器学习运算工作,都会发生在推论端,而不是训练端。

但是在部局或执行环境上,不像训练时要喂大量数据来训练模型,需要有很强的运算处理能力,反观在进行推论预测时,对于运算力要求就不用太高,甚至只需很少运算力,就能执行ML模型。因此,企业反而需要的机器学习服务,是要能以更低成本,来提供他们进行大量推论执行部局。但一直以来,并没有专用推论服务。

对于AWS来说,显然,这是一个庞大商机,也成为了明年抢进AI的一大主轴。所以,AWS今年正式推出第一个专用推论服务Amazon Elastic Inference,就是要让企业能够用更低成本的方式,来使用推论的VM,不需要付担高额运算力费用,来降低企业大量部局的推论成本。在使用上,单以租用一个推论VM来说,就可以提供最多36 TFLOPS浮点运算能力,换作是对照片进行推论,等于是1小时可以识别36万张照片。而且每小时租用最低只要0.22美元。

专用机器学习推论服务只是第一步。 AWS明年还要推出一个机器学习推论专用芯片Inferentia,同时兼具备低成本与高性能推论特性,并且是由AWS自行设计完成,不仅在推论吞吐量可以达到数百个TOPS (每秒执行万亿次) ,可以用于执行复杂度更高的推论需求,而且远比采用传统的CPU实例来进行推论时,还要更省下75%的推理成本。

自去年推出一套ML自动构建和部局工具SageMake以后,大获好评,AWS今年在这个基础之上,更针对各个构建、训练阶段,都有推出相应的优化功能与工具,来降低机器学习门槛。

如AWS在SageMaker上添加一个功能,就是针对训练前推出的数据标记辅助服务Ground Truth,通过机器学习技术,来自动学习标记输入数据,来提高训练数据标记品质,以减少后续因为数据品质不佳,而导致直接影响模型训练成效,或要花比原本更长的时间投入训练。

另外,对于如果想要采用增强式学习(Reinforcement Learning)的机器学习方式,来创建、训练和部局ML模型的话,开发人员现在也有增强学习专用的SageMaker RL服务能够使用了。

AWS还推出了一个轻量ML模型编译工具SageMaker Neo,能够重新优化ML模型的性能,至少提升多达2倍,不仅不会降低准确性,而且容量变更小,占用计算资源也变少。 AWS还以Apache软件授权方式开源,让硬件厂商可以将它放进自己的处理器和设备。也因为可以在云计算和边缘执行,也意味着,未来通过这套服务,可以让轻量化后的ML模型,能够跑在更多小型边缘设备上,如树莓派单板计算机等。

有了许多方便好用的AI自动化工具,来降低AI应用门槛,就连在AI服务上,AWS今年都主推免机器学习经验就能用的AI服务,要替企业解决AI人才荒。一共3款新AI服务,包括了Textract、Personalize及Forecast,分别是用在实体文件数字化、个性化推荐与时间性预测的使用。

不像过去要开发这方面的AI应用,企业得先找到专业AI人才,现在,通过这些现成的AI服务组件,可以大大地降低AI应用门槛,即使是不具备AI背景的开发人员,也能够很快速用它打造企业需要的各种AI应用。甚至,其中一项Forecast服务,还是原本Amazon内部使用的ML分析预测技术,现在也全面开放企业来用。目前除了Textract仍是预览版,其余两款皆已正式推出。

AWS今年还在AWS Marketplace上添加算法市场,它是一个可以提供AI应用买卖交易的平台,让企业不需要自行开发,直接购买别人现成的AI算法或ML模型来套用,就能变成自己的AI应用,而且免AI或ML专业知识与技术就能用。目前已有至少150种算法与ML模型上架。

AWS今年有又有惊人之举,向大家介绍一台AI驱动的DeepRacer迷你自动驾驶汽车,大小跟玩具遥控车差不多大,但不用通过无线控制器,而是借助AI与计算机视觉技术,让这台车自己学会开车。甚至AWS还举办首届DeepRacer杯自动驾驶汽车大赛,比得是看谁可以在最短的时间内绕完一整圈迷你赛道,并广邀各路开发好手来参赛,还在第2天主题演讲开场前进行总决赛。硬件配置上, 除了内置英特尔Atom双核心处理器,具备Wi-Fi能力,还有颗400万像素HD摄影镜头,每一次充电完,能持续使用2小时。

不只要提供简单好用的AI工具,来吸引更多企业用户,AWS今年又有惊人之举,推出一台AI驱动的迷你自驾遥控车DeepRacer,瞄准的正是这些有着自动载运,或移动需求的行业AI用途,如制造业等,就能用它打造出适合智能工厂各式场景使用的无人搬运车,解决如人力或生产流程上遇到的难题。甚至AWS还要通过办自动驾驶汽车竞赛,来吸引更多AI与机器学习人才参与,想办法要拉拢这些行业积极加入。

这台车的外型,虽然只有真车的1/18大,跟一台玩具模型车差不多,而且一台要价399美元。但不同的是,不用通过无线控制器,这台车就会自己开车,不需要有人远处遥控。靠的是使用AWS机器学习服务,如SageMaker RL等,先在云计算进行训练,再将训练完成的ML模型,套用到DeepRacer车上来验证其模型推论的成效,并反复优化,让车子可以学会自己开。而且不只开放场景,未来这台车也能运用在更多封闭场景,如物流仓储、工厂、医院及卖场等,帮助企业打造属于自身场景的无人车应用。