谷歌新研究:AI可以在6小时内设计出计算机芯片
图片来源@视觉中国
文丨学术头条
现代计算的革命在很大程度上是由计算机系统和硬件的显著进步促成的。随着摩尔定律的放缓和Dennard标度的扩大,世界正朝着专用硬件发展,以满足指数级增长的计算需求。
然而,今天的芯片需要几年的时间来设计,因此大大缩短芯片设计周期,使硬件适应快速发展的机器学习领域是当前的一个发展趋势。
如果使用机器学习算法代替人为设计工作来尝试设计芯片,同时其本身能够提供缩短芯片设计周期的方法,从而在硬件和机器学习之间创建一个更加集成的关系来促进彼此的发展,那又会怎么样呢?
近日,由谷歌AI的首席科学家Jeff Dean领导的团队共同撰写了一份预印论文,该论文描述了一种基于学习的芯片设计方法。
他们将芯片放置视为强化学习(RL)问题,用RL策略来优化芯片放置的质量。与以前方法不同的是,该方法可以从过去的经验中学习,并随着时间的推移不断改进。特别是,当训练更多的芯片块时,该方法更擅长为先前未见过的芯片块快速生成优化的布局。
他们声称,该方法完成芯片设计的平均时间不到6个小时,这比人类专家花数周时间完成设计要快得多。
芯片布局规划困局
在传统的 “布局布线” 任务中,芯片设计人员使用软件来确定芯片电路在芯片中的布局,类似于设计建筑物的平面图。
计算机芯片被分成许多块,每一块都是一个单独的模块,如内存子系统、计算单元或控制逻辑系统。这些模块可以用网表、电路组件和标准单元 (如 NAND、NOR 和 XOR 等逻辑门) 的图形来描述,所有这些组件都是通过导线连接。
确定一块芯片的布局是一个称为芯片布局规划的过程,它是芯片设计过程中最复杂、最耗时的阶段之一,涉及到将网表放置在一个芯片画布 (2d 网格) 上,从而提升功率、性能以及区域 (PPA) 最小化,同时遵守对密度和路由拥塞的限制。为了找到满足多个目标的最佳布局,需要考虑许多变量。
尽管这方面的研究已经进行了几十年,但是人类专家仍然需要花上几周的时间来迭代,以生成满足多方面设计标准的解决方案。这个问题的复杂性源自网表图的大小,这些图的大小范围从数百万到数十亿个节点组成数千个集群,通常,评估目标指标需要花费数小时到一天的时间。
“基本上,在设计过程中,你可以使用一些设计工具来进行一些布局,但仍需要人工布局和布线专家同这些设计工具一起进行很多次重复的迭代,”Dean说道,“从你想要的设计到实际将其物理布局到芯片上,并在面积、功率和导线长度上有适当的限制,而且也要满足所有的设计角色或任何正在进行的制造过程,这是一个数周的过程。而通过建立一个机器学习模型,可以让它学会玩特定芯片的组件放置游戏。”
深度强化学习模型
研究人员设计了一个深度强化模型,该模型可以尝试各种步骤来查看哪些步骤可以带来更好的结果,这些步骤不是在游戏板上放置零件,而是研究如何在整个芯片中设计放置正确的电路布局。
该模型可以指导经过强化学习训练的RL策略来优化芯片放置。其输入是芯片网表 (节点类型和图邻接信息)、要放置的当前节点的ID,以及一些网表元数据,如连接总数、宏和标准单元集群。网表图和当前节点通过一个基于边缘的图神经网络传递,该神经网络是为编码输入状态而开发的,嵌入生成部分放置的图和候选节点。
图神经网络生成的嵌入与元数据嵌入串联在一起,形成对策略和价值网络的输入
然后将边缘、宏和网表元数据嵌入连接起来,以形成单个状态嵌入,并将其传递给前馈神经网络。前馈网络的输出是一种学习表示,它捕获有用的特征并作为策略和价值网络的输入。策略网络在所有可能的网格单元上生成一个概率分布,当前节点可以放置在这些网格单元上。
在每次训练的迭代中,宏均根据RL策略依次放置,然后通过力导向方法放置标准单元簇,该方法将电路建模为一个弹簧系统,以最大程度减少导线长度。RL训练的指导原则是使用近似线长(即半周线长,HPWL)的加权平均值和近似拥塞(路由资源消耗的比例),为每个实行RL策略的芯片位置计算一个快速但近似的奖励信号放置的网表。
在每次训练迭代期间,一次将一个宏放置一次策略,并通过强制定向方法放置标准单元簇。奖励是根据近似导线长度和拥塞的加权组合计算得出的。
在实践中,RL策略从空的芯片开始,按顺序依次放置组件,直到它完成网格为止,并且直到最后代理波长 (与功率和性能相关) 的负加权总和和拥塞为零,才获得奖励。为了指导代理选择先放置哪些组件,组件按大小降序排序,首先放置较大的组件,降低了以后没有合适位置的可能性。
训练 RL 策略需要创建一个包含10,000 个芯片放置的数据集,其中输入是与给定放置相关的状态,标签是放置的奖励 (即线长和拥塞)。研究人员首先选择了5个不同的芯片网表,然后应用AI算法为每个网表创建2000个不同的位置。
训练数据大小与微调性能
尽管这项工作并不完全是新颖的,它是基于谷歌工程师在3月份发表的一篇论文中提出的一项技术,但该工作推进了这项技术的发展,因为它意味着芯片上晶体管的放置可以在很大程度上实现自动化。一旦公开发布,谷歌研究人员的技术可以让资金紧张的初创公司开发出自己的芯片,用于人工智能和其他特殊用途。此外,它可以帮助缩短芯片设计周期,使硬件更好地适应快速发展的科学研究。
研究人员表示,当他们在更多的芯片上训练框架时,能够加快训练过程,并更快地产生高质量的结果。实际上,他们声称与领先的基准相比,它在生产中的谷歌张量处理单元 (TPUs)(一款谷歌定制设计的人工智能加速芯片)上实现了优于领先基线的PPA。
研究人员总结道:“与现有的从头开始优化每个新芯片的位置方法不同,我们的工作利用从放置以前的芯片中获得的知识,来使其随着时间的推移变得更好。此外,我们的方法可以直接优化目标指标、线长、密度和拥塞,而不必像其他方法那样定义这些功能的近似值。我们的方法不仅使新的成本函数在可用时易于整合,而且还使我们能够根据给定芯片块的需求,例如,时序关键或功耗受限,来权衡它们的相对重要性。”
而在Reddit上,这则消息也引发了网友热议。有网友说,当他看到这则消息,他觉得非常酷。因为放置数以亿计的晶体管,使其可以连接并正常工作是一项艰巨的任务,其中布局和布线非常重要的,信号沿导线移动需要花费时间,而布局目标是使导线长度最小,减少组件之间的等待时间,这很难做到。但是仍然会存在一些问题,例如接线不合适,这就需要人工来解决。而减少设计芯片所需的时间,就可以设计更多的芯片来加快迭代速度。
也有网友表示,它可以帮助设计人员轻松设计用于神经网络、机器学习、深度学习的芯片,加速AI的发展。
软件与硬件的发展相辅相成,深度学习三巨头Bengio、Hinton、LeCun就曾在AAAI 2020大会上共同探讨未来深度学习神经网络的前景,他们均表示用于加速神经网络训练和推理的新型硬件可以生成更大的模型,也许有一天有可能使数万亿突触神经网络成为可能,而谷歌的快速设计计算机芯片更是助力了其发展。
参考来源:
https://venturebeat.com/2020/04/23/google-claims-its-ai-can-design-computer-chips-in-under-6-hours/
https://ai.googleblog.com/2020/04/chip-design-with-deep-reinforcement.html
https://www.zdnet.com/google-amp/article/google-experiments-with-ai-to-design-its-in-house-computer-chips/
https://www.reddit.com/r/artificial/comments/g7ov49/googles_ai_can_design_computer_chips_in_under_6/
https://www.zdnet.com/article/ai-on-steroids-much-bigger-neural-nets-to-come-with-new-hardware-say-bengio-hinton-lecun/#ftag=CAD-00-10aag7e
敬原创,有钛度,得赞赏
-
钛粉74782 赞赏了
专访伐木累谢帆:赚快钱的机会没了,平台与电竞俱乐部...
昨天 -
钛粉69591 赞赏了
特斯拉连续三个季度盈利,国产Model 3将降至3...
约2天以前 -
钛粉50499 赞赏了
随手记爆雷,波及金蝶,出借人赴金蝶软件园讨血汗钱
约2天以前 -
钛a3A0Q4 赞赏了
北京文化被举报财务造假,我们梳理了一下举报信上的“...
约2天以前 -
钛粉51141 赞赏了
下沉市场里,10亿人口的生活与消费
约3天以前 -
h5g0QF 赞赏了
关于 Pandownload 和百度网盘,你想知道...
2020-04-25 11:03 -
钛粉10659 赞赏了
“数据”首次被中央纳入生产要素,数字政务建设2.0...
2020-04-24 12:06 -
钛粉70135 赞赏了
老板们的「独立书店」保卫战
2020-04-23 12:38 -
苑晶 赞赏了
全网独家!新基建 35 问:2020年最火概念背后...
2020-04-23 08:59 -
刘政言 赞赏了
《余欢水》无关男女权,只是苦学的兴起
2020-04-22 22:25 -
钛粉37723 赞赏了
为什么高性价比会成为新品牌的噩梦?
2020-04-17 11:44 -
钛粉86386 赞赏了
Feature Story:Wuhan Comes...
2020-04-15 11:26 -
钛a71C64 赞赏了
字节跳动只剩下小米这一个朋友了
2020-04-15 10:20 -
钛粉13418 赞赏了
疫情的危与机下,Zoom的下一步是什么?
2020-04-14 14:09 -
赚赚 赞赏了
避重就轻的美团:高额抽佣将由谁来埋单?
2020-04-14 11:50 -
钛粉12864 赞赏了
这位UP主吃了100颗以上米其林星星,我们和他聊了...
2020-04-13 12:33 -
钛粉33078 赞赏了
卫龙:一根辣条的逆袭与隐忧
2020-04-13 10:21 -
钛粉41305 赞赏了
狂奔与乱象齐飞,在线教育还值得资本宠爱吗?
2020-04-13 07:19 -
钛九 赞赏了
报复性涨价之后,餐饮行业更难了
2020-04-11 09:53 -
钛粉54038 赞赏了
放开“摊贩经济”刻不容缓
2020-04-11 08:19 -
hM5FcG 赞赏了
华为余承东:品牌高端化不能仅靠比拼硬件参数,客户满...
2020-04-10 21:17 -
钛粉51925 赞赏了
【产业互联网周报】Zoom曝重大安全漏洞,深陷信任...
2020-04-10 20:57 -
钛ijzF5J 赞赏了
谁来保卫我们的白衣天使?| 钛媒体深度
2020-04-10 19:44 -
金木心 赞赏了
瑞幸为何自曝?
2020-04-10 18:45 -
钛粉94386 赞赏了
WTO预测全球贸易缩水可达32%;中俄陆路边境口岸...
2020-04-09 20:13 -
钛粉77786 赞赏了
做电商难,做C2M电商更难
2020-04-09 10:21 -
钛哥儿 赞赏了
瑞幸之后,好未来也自曝财务造假,中概股或面临做空潮
2020-04-08 15:19 -
蒙MYH 赞赏了
半个互联网都在直播带货,但真的都能带得动吗?
2020-04-07 14:39 -
钛粉72866 赞赏了
瑞幸继承了贾跃亭的衣钵
2020-04-04 09:59 -
钛粉06838 赞赏了
直播带货,罗永浩、抖音、快手都输不起
2020-04-02 21:32 -
百灵鸟 赞赏了
有了这件神器,赶走家里的搅屎棍|钛空好物推荐
2020-04-01 15:25 -
钛粉63994 赞赏了
华裔教授AI解码脑电波,上演现实版“读脑术”
2020-04-01 10:01 -
钛粉63039 赞赏了
华裔教授AI解码脑电波,上演现实版“读脑术”
2020-04-01 10:01 -
钛粉90660 赞赏了
京东数科并购金融IT服务商,填补固收版图
2020-03-31 21:33 -
钛粉74150 赞赏了
韩国总统宣布向七成家庭发钱;全球新冠肺炎死亡病例超...
2020-03-30 20:51 -
钛粉03414 赞赏了
韩国总统宣布向七成家庭发钱;全球新冠肺炎死亡病例超...
2020-03-30 19:27 -
钛粉37732 赞赏了
年初悬疑剧再集结,IP宇宙试水、女性向、题材创新成...
2020-03-30 15:42 -
钛粉47422 赞赏了
马斯克卫星事业最强对手倒下:上周六还在发卫星,这周...
2020-03-29 21:04 -
百灵鸟 赞赏了
当人造肉上了中国餐桌 | 消研所盘点
2020-03-28 11:28 -
钛粉58360 赞赏了
当人造肉上了中国餐桌 | 消研所盘点
2020-03-28 11:26 -
钛粉39859 赞赏了
56年前,奥运如何“挽救”了日本国运?
2020-03-27 21:34 -
钛粉58105 赞赏了
用户变现能力弱,金山办公未来要去哪里寻增长?
2020-03-27 21:32 -
钛粉39889 赞赏了
56年前,奥运如何“挽救”了日本国运?
2020-03-27 21:30 -
钛粉39577 赞赏了
56年前,奥运如何“挽救”了日本国运?
2020-03-27 21:26 -
钛粉58180 赞赏了
武汉封城的第61—63天 |《非常日记》漫画连载
2020-03-27 21:11 -
钛粉58379 赞赏了
武汉封城的第61—63天 |《非常日记》漫画连载
2020-03-27 21:10 -
钛粉58569 赞赏了
武汉封城的第61—63天 |《非常日记》漫画连载
2020-03-27 21:10 -
钛粉63726 赞赏了
武汉封城的第61—63天 |《非常日记》漫画连载
2020-03-27 21:06 -
钛粉63154 赞赏了
武汉封城的第61—63天 |《非常日记》漫画连载
2020-03-27 21:05 -
百灵鸟 赞赏了
国际证监会组织发布稳定币报告,最强监管要来了?| ...
2020-03-27 20:12 - 查看精彩文章,打开钛媒体客户端
挺钛度,加点码!
- ¥ 5
- ¥ 10
- ¥ 20
- ¥ 50
- ¥ 100
支付方式
支付
支付金额:¥6
赞赏金额:¥ 6
赞赏时间:2020.02.11 17:32
账户【未登录】提示!
个人中心将无法记录并同步您的赞赏记录,
是否进行登录
更多精彩内容,关注钛媒体微信号(ID:taimeiti),或者下载钛媒体App