Google机器学习平台Vertex AI现提供低延迟高安全性的私有端点

Google宣布在其机器学习平台Vertex AI上提供私有端点(Private Endpoints),这是Vertex Predictions中的一项新功能,借由VPC对等连接,用户可以配置专用的连接与端点通信,因此用户的资料就不需要经过互联网,不只提高安全性,也可以降低线上预测的延迟。

Vertex AI是Google在2021年开发者大会Google I/O,所发布的全托管机器学习平台,该平台由一系列机器学习工具组合而成,简化企业部署和维护机器学习模型的工作。Vertex AI解决机器学习工具过于破碎,使得开发流程不顺畅的问题,Vertex AI提供一致的UI和API,供用户简单地操作Google云计算服务,来简化构建、训练和部署大规模模型的任务。

Google提到,要即时提供机器学习模型预测是一大挑战,能够低延迟提供结果,对各产业的机器学习应用都非常重要。而这也就是Google推出Vertex AI私有端点的原因,应用VPC对等连接提供低延迟的网络连接。

VPC网络是一种全局资源,由数据中心的地区虚拟子网所构成,所有子网都通过全局网络连接,借由VPC网络对等连接,用户可以跨两个VPC网络连接内部IP地址,无论IP地址是否属于同一项目或是同一组织,最终使得所有流量都能留在Google网络中。

Vertex AI供用户使用Vertex Predictions,以无服务器的方式提供机器学习模型服务,用户可以在云中托管模型,并且通过REST API进行预测。当用户要在线上进行模型预测,则需要将模型部署到端点,用户能选择端点机器类型和自动缩放等参数,提供低延迟的预测服务。

而现在用户还可以选择创建私有端点,限制资料永不穿过互联网,所以私有端点除了能降低系统收到请求的时间,还具有安全性优势,Google提到,部署模型至私有端点的额外开销很小,而且实现的性能几乎与在GKE或GCE自己提供服务相同。

发表评论