谷歌在Android的神经网络API中添加了对PyTorch的支持,这将使开发人员能够在设备上运行计算密集型AI模型

2020-11-13 19:04:13

谷歌有限责任公司(Google LLC)的安卓(Android)团队今天增加了对一项新原型功能的支持,开发者可以使用PyTorch的人工智能框架在移动设备上执行“硬件加速推理”。

谷歌表示,增加对最先由Facebook Inc.开发的PyTorch的支持,意味着将有数千名开发人员能够利用Android神经网络应用编程接口的能力,在设备上运行计算密集型人工智能模型。

产品经理Oli Gaymond在一篇博客文章中表示,神经网络API是由谷歌开发的,目的是让Android设备能够自己进行推理,而不是将数据传输到远程服务器进行处理。盖蒙德说,在设备上处理数据有很大的好处,比如更低的延迟,更多的隐私,以及某些功能能够在没有互联网连接的情况下工作。

盖蒙德说,设备上处理能力最常见的用例是计算机视觉和音频增强等任务。一个例子可能是在用户进行视频呼叫时将其与后台分开。这类任务显然对延迟非常敏感,所以最好能用设备自己的硬件来完成,而不是在遥远的数据中心。这就是Android神经网络API的用武之地。

盖蒙德说,它已经可以与谷歌自己的人工智能框架TensorFlow和TensorFlow Lite合作,但增加对PyTorch Mobile的支持,让成千上万更有经验的开发人员可以使用它。

Facebook已经使用了Android神经网络API的原型,该API支持PyTorch,在Messenger视频通话中支持身临其境的360度背景。盖蒙德说,结果相当令人印象深刻,Facebook的速度提高了两倍,电量减少了两倍,同时也减轻了手机中央处理器的部分处理工作,并将其腾出用于其他关键任务。

盖蒙德说:“今天的初始版本包括在安卓10和更高版本上支持众所周知的线性卷积和多层感知器模型。”使用MobileNetV2模型进行的性能测试显示,与单线程CPU相比,速度提高了10倍。作为向完全稳定版本发展的一部分,未来的更新将包括对更多操作员和模型架构的支持,其中包括一种流行的目标检测和实例分割模型--MASK R-CNN。“。

通过一键订阅我们的YouTube频道(如下所示),显示您对我们使命的支持。我们的订阅者越多,YouTube向您推荐的相关企业和新兴技术内容就越多。谢谢!

…。我们还想告诉你们我们的使命,以及你们如何帮助我们完成这一使命。SiliconANGLE Media Inc.的商业模式是基于内容的内在价值,而不是广告。与许多在线出版物不同的是,我们没有付费墙或横幅广告,因为我们想让我们的新闻保持开放,不受影响,也不需要追逐流量。关于硅谷的新闻、报道和评论-以及我们硅谷演播室和CUBE的环球旅行视频团队提供的现场无脚本视频-需要大量的辛勤工作、时间和金钱。要保持高质量,需要赞助商的支持,这些赞助商与我们对无广告新闻内容的愿景保持一致。

如果你喜欢这里的报道、视频采访和其他无广告内容,请花一点时间查看一下我们赞助商支持的视频内容样本,然后发推文表示支持,然后继续回到SiliconANGLE。