“黄定律”在人工智能芯片性能上的提升甚至比摩尔定律更快,它是如何将数据处理从云端转移到边缘的,并可能解释NVIDIA与ARM的交易

2020-09-21 00:17:53

在现代计算的第一个时代,有一种趋势占据主导地位:摩尔定律。

实际上,摩尔定律是英特尔(Intel)联合创始人戈登·摩尔(Gordon Moore)的预测,而不是任何形式的物理定律。摩尔定律认为,芯片上的晶体管数量大约每两年翻一番。这也意味着,这些芯片-以及它们所驱动的计算机-的性能在大致相同的时间表上有了实质性的提高。这就形成了该行业的核心,这座发光的熔炉孕育了数万亿美元的技术,几乎颠覆了我们日常生活的方方面面。

由于芯片制造商已经达到了原子级电路和电子物理的极限,摩尔定律已经放缓,有人说它已经结束了。但一条不同的定律已经出现,它对计算机未来半个世纪的潜在影响并不逊色。

我称其为黄氏定律,以NVIDIA首席执行官兼联合创始人黄延森(Jensen Huang)的名字命名。它描述了驱动人工智能的硅芯片如何每两年性能翻一番以上。虽然增长可以归功于硬件和软件,但它的稳步发展使其成为从自动驾驶汽车、卡车和船舶到我们个人设备中的人脸、语音和对象识别的独特推动者。

NVIDIA首席科学家兼研究高级副总裁比尔·达利(Bill Dally)表示,从2012年11月到今年5月,NVIDIA芯片在一类重要的人工智能计算中的性能增长了317倍。换句话说,平均而言,这些芯片的性能每年都会翻一番以上,这一进步速度让摩尔定律相形见绌。

长期以来,NVIDIA的专长一直是图形处理单元(GPU),当有许多独立的任务需要同时完成时,它们可以高效地运行。另一方面,像英特尔所擅长的那样的中央处理器(CPU)效率要低得多,但在快速执行单个串行任务方面做得更好。你不可能把每个计算过程都砍掉,这样GPU就可以有效地处理它,但对于那些你可以做到的-包括许多人工智能应用程序-你可以在消耗同样的电力的情况下,执行速度提高很多倍。

英特尔是摩尔定律的主要推动者,但它不是唯一的推动者。要使其永久化,需要数万名工程师和全球数百家公司数十亿美元的投资。同样,NVIDIA并不是唯一一个遵循黄定律的公司-事实上,在一些应用程序中,它自己类型的人工智能处理可能正在失去吸引力。这可能是该公司本月以400亿美元收购芯片架构师ARM控股公司的一个主要原因,ARM控股公司是另一家持续提高人工智能速度的关键公司。

人工智能专用硬件的改进速度将使一系列乌托邦和反乌托邦的应用成为可能,从结束车祸到无处不在的监控。但现在,它也正在催生一种不那么奇幻的应用程序,它对我们的购物方式和数百万零售业工作的命运有着巨大的影响:无收银员结账。

总部位于旧金山的科技公司Standard最近宣布与Circle K达成一项协议,将其部分门店转变为亚马逊(Amazon.com Inc.)亚马逊Go门店的“即抢即走”体验。这家成立三年的初创公司在各家门店安装摄像头,然后将来自这些摄像头的视频路由到后面由NVIDIA供电的系统,该系统每秒执行数十万亿次计算。当购物者从商店货架上抓起物品时,系统会将其全部清点出来,并在他们走出货架时通过移动设备对其进行计费。

相比之下,一个每秒执行这么多操作的系统比2012年世界上最强大的超级计算机还要快,至少在人工智能推理任务方面是这样。

标准银行创始人兼首席执行官乔丹·费舍尔(Jordan Fisher)表示:“老实说,我们无能为力,只能等待,NVIDIA每年都会降价。”

另一个受黄定律影响的类别是自动驾驶汽车。在圣地亚哥的TuSimple,一家迅速扩张的自动卡车初创公司,面临的挑战是制造一种能够满足柴油动力半挂车的功率和空间限制的自动驾驶系统。在一辆典型的TuSimple汽车上,这意味着将整个系统(不能吸引超过5千瓦的电力)塞进卧铺驾驶室的风冷柜。

考虑到这样的功率限制,最重要的是每瓦性能。TuSimple的联合创始人兼首席技术官侯晓迪表示,其NVIDIA驱动的系统的性能每年都会翻一番。

自本世纪头十年中期以来,在人工智能的另一个非常不同的领域-我们的移动电话-也出现了类似的性能提升。

2017年,苹果推出了iPhone8,其中包括其神经引擎。苹果公司专门设计了这种芯片来运行机器学习任务,这对许多类型的人工智能都很重要。(其芯片制造合作伙伴是台积电)。

人工智能的进步速度最让你兴奋的是什么?是什么吓到你了?加入下面的对话。

Nexar联合创始人兼首席技术官布鲁诺·费尔南德斯-鲁伊斯(Bruno Fernandez-Ruiz)表示,苹果决定让手机上的任何应用都可以访问该芯片,以及在Android手机上推出类似的芯片和软件,这为新型的人工智能业务提供了条件。Nexar是一家为汽车生产人工智能仪表盘摄像头的公司。通过在用户手机上处理仪表盘摄像头捕获的视频流,Nexar的技术可以提醒司机注意迫在眉睫的危险。

移动人工智能的使用正在成倍增加,在从洗碗机到门锁再到灯泡的手机和智能设备中,以及数百万传感器正在进入城市、工厂和工业设施。芯片设计公司ARM控股公司(ARM Holdings)-在许多大大小小的科技公司中,苹果公司(Apple)的专利-其iPhone芯片的许可-处于这场革命的中心。

ARM机器学习集团市场副总裁丹尼斯·劳迪克(Dennis Laudick)表示,在过去的三到五年里,机器学习网络的效率一直在以数量级的速度增长。“现在更多的是让事情在越来越小的环境中运作,”他补充道。ARM的最小和最耗电的芯片,小到可以由手表电池供电,现在可以让相机实时识别物体。

Nexar联合创始人兼首席执行官埃兰·希尔(Eran Shir)表示,人工智能处理从云到“边缘”-即在设备本身-的这种移动解释了NVIDIA收购ARM的愿望。NVIDIA几乎垄断了云中的AI处理。但两年前,Nexar 40%的数据处理是在云中进行的,而基于ARM的芯片使其能够在移动设备上完成更多、更快的处理,因为它不必首先通过互联网传输。今天,云只完成了15%的工作。此外,一些功能,如基于视觉的停车助手,甚至直到最近才可能实现,当时手机中的芯片功能变得更加强大。

专家们一致认为,我贴上黄氏定律标签的现象正在以惊人的速度发展。然而,它的确切节奏可能很难确定。非营利组织Open AI表示,基于经典的AI图像识别测试,性能大约每一年半翻一番。但是,即使在“表现”的定义上达成一致也是一个挑战。来自谷歌、百度、哈佛、斯坦福和几乎所有其他主要科技公司的研究人员组成的财团正在合作,努力更好、更客观地测量它。

对黄氏定律的另一个警告是,它描述了不能在每个申请中都使用的处理能力。TuSimple的侯伟说,即使是在自动驾驶等典型的以人工智能为中心的任务中,系统运行的大多数代码也需要CPU。NVIDIA的戴利博士承认这个问题,他说,当工程师从根本上加速计算的一部分时,剩下的不能加速的自然就会成为瓶颈。

也有可能,就像之前的摩尔定律一样,黄定律也会失去动力。ARM机器学习集团负责产品营销的副总裁史蒂夫·罗迪(Steve Roddy)表示,这可能会在十年内实现。但它可以在相对较短的时间内实现很多东西,从无人驾驶汽车到感知和响应环境的工厂和家庭。

发表在2020年9月19日纸质版上的“摩尔定律已死”(Moore‘s Law is Dead)。黄氏定律万岁…';