谷歌正在使用AI设计下一代AI芯片

2021-06-11 00:55:11

谷歌正在使用机器学习,帮助设计其下一代机器学习芯片。谷歌的工程师表示,算法的设计与人类创造的那些“可比或优越”是“相当的或优越”,但可以产生很大的生成。据科技巨头介绍,六个小时内的AI可能会完成几个月的工作。

谷歌一直在努力如何使用机器学习多年来创建筹码,但最近的努力 - 本周在本周在杂志中描述了本文的论文 - 似乎是其研究已应用于商业产品:即将到来的谷歌自己的TPU(张量处理单元)芯片的版本,可针对AI计算进行优化。

“我们的方法已被用于生产下一代Google TPU,”写下论文的作者,由Google的ML主管领导,为系统,Azalia Mirhoseini。

在论文中,谷歌的工程师注意到这项工作对芯片行业具有“重大影响”。它应该允许公司更快地探索即将到来的设计的可能的架构空间,并更轻松地自定义特定工作负载的芯片。

自然界中的一个社论称之为“重要成就”,并指出,这些工作可以帮助抵消摩尔法的预测结束 - 从20世纪70年代的芯片设计的一个公理,这指出芯片上的晶体管数量每两年加倍。 AI不一定解决将越来越多的晶体管挤压到芯片上的身体挑战,但它可以帮助找到以相同速率提高性能的其他路径。

谷歌的算法解决的具体任务被称为“平面图”。这通常需要借助计算机工具工作的人类设计师在芯片的子系统中找到硅模具上的最佳布局。这些组件包括CPU,GPU和内存核等的内容,其使用数十公里的微型布线连接在一起。决定将每个组件放置在模具上影响芯片的最终速度和效率。并且,鉴于芯片制造和计算周期的规模,放置的纳米变化最终可能具有巨大的影响。

谷歌的工程师注意到,设计平面图为人类带来“几个月的强烈努力”,但从机器学习的角度来看,有一种熟悉的方法来解决这个问题:作为一场比赛。

AI经过验证的时间和时间再次它可以在棋盘和棋盘等棋盘游戏中表达人类,而谷歌的工程师则注意到平面图是类似于此类挑战。而不是游戏板,你有硅模具。而不是像骑士和车一样的碎片,你有像CPU和GPU这样的组件。那么,任务是简单地找到每个董事会的“胜利条件”。在可能会检查的国际象棋中,芯片设计它是计算效率。

谷歌的工程师在10,000芯片地板模式的数据集上培训了加固了学习算法的不同质量,其中一些是随机产生的。每个设计都以特定的“奖励”功能标记为基于其不同指标的成功,如所需的电线长度和电源使用。然后,算法使用此数据来区分良好和坏地板计划并依次生成自己的设计。

正如我们所看到的,当AI系统在董事会游戏中占据人类时,机器不一定像人类一样思考,并且经常到达意外解决熟悉的问题。当DeepMind的alphago播放人冠军李塞托赛时,这种动态导致了臭名昭着的“举动37” - 这是一个看似不合逻辑的AI榜样,仍然导致胜利。

谷歌的芯片设计算法发生了很大的戏剧性,但它的地板计划仍然看起来与人类创造的那些完全不同。而不是在模具上布置的整齐的组件,子系统看起来像随机散落在硅上。自然界中的一个插图显示了差异,在左边的人类设计和机器学习设计右侧。您还可以看到谷歌纸张图片中的图像中的一般差异(左侧有序的人类;右边的混乱Ai),尽管布局被模糊,因为它是保密的:

本文是值得注意的,特别是因为它的研究现在正在由谷歌商业上使用。但它远非AI辅助芯片设计的唯一方面。谷歌本身已经在像“架构探索”这样的过程中使用AI探索,如nvidia这样的竞争对手正在调查其他方法来加快工作流程。 AI为AI设计芯片的良性周期看起来像是才刚刚开始。