老男人
首页 时尚 玩车 保健 情感
更多
腕表 饮食 视频 美女 百科
0
老男人 > 科技 > 正文

谷歌“AI 6小时设计芯片”遭打脸?大神Jeff Dean论文被官方调查

2023-09-29 14:52:30 发布人:hao333 阅读( 8503)

原标题:登Nature两年,谷歌「AI 6小时设计芯片」遭打脸?大神Jeff Dean论文被官方调查,疑似隐藏源代码在2021年9月,由Jeff Dean领衔的...

原标题:登Nature两年,谷歌「AI 6小时设计芯片」遭打脸?大神Jeff Dean论文被官方调查,疑似隐藏源代码

在2021年9月,由Jeff Dean领衔的谷歌大脑团队发表了一篇AI设计芯片的论文,曾引起业界轰动。然而,随后有多人发现这项工作并不能被复现,而且关键数据和代码被隐藏了,Nature也对此展开了调查。

近日,一篇由谷歌大神Jeff Dean领衔的「AI自主设计芯片」研究,被曝正式接受Nature调查!

谷歌发表这篇论文后,又在GitHub上开源了具体的Circuit Training代码,直接引起了整个EDA和IC设计社区的轰动。

然而,这项工作却在此后不断遭受质疑。

就在9月20日,Nature终于在这篇论文下面附上了一则声明:

编者按:请读者注意,本文中的性能声明已受到质疑,编辑们正在对这些问题进行调查,一旦调查结束,将酌情采取行动。

谷歌“AI 6小时设计芯片”遭打脸?大神Jeff Dean论文被官方调查

论文地址:https://www.nature.com/articles/s41586-021-03544-w

同时,一向给AI大模型泼冷水的马库斯也发现,与这篇Nature论文相关的评论文章,也被作者撤回了。

马库斯在推特上这样描述道:「又一个被炒得沸沸扬扬的人工智能成果要落空了?」

谷歌“AI 6小时设计芯片”遭打脸?大神Jeff Dean论文被官方调查

现在,相关的Nature评论文章前面,已经被贴上了大写的「retracted article」。

谷歌“AI 6小时设计芯片”遭打脸?大神Jeff Dean论文被官方调查

评论文章:https://www.nature.com/articles/d41586-021-01515-9

因为原本的那篇论文受到了质疑,因此写作相关评论文章的作者也将其撤回。

作者已撤回这篇文章,因为自文章发表以来,关于所报道论文所用方法,已出现了新信息,因此作者对于该论文贡献的结论发生了改变。而Nature也在对论文中的结论进行独立调查。

谷歌“AI 6小时设计芯片”遭打脸?大神Jeff Dean论文被官方调查

另外,马库斯还挖出了这样一则猛料:对于Jeff Dean团队的论文,前谷歌研究人员Satrajit Chatterjee早就提出了质疑。

他写出一篇反驳的论文,但谷歌表示这篇论文不会被发表,随后,43岁的Chatterjee被谷歌解雇。

谷歌“AI 6小时设计芯片”遭打脸?大神Jeff Dean论文被官方调查

对于此事,纽约时报在2022年5月发文进行了报道

01

代码和论文不符

针对谷歌的这篇Nature和相关代码,一组来自UCSD的学者进行了非常深入的研究。

他们将质疑写成论文,并于今年3月收录在国际顶尖的集成电路物理设计学术会议ISPD 2023中。

谷歌“AI 6小时设计芯片”遭打脸?大神Jeff Dean论文被官方调查

论文地址:https://arxiv.org/abs/2302.11014

在GitHub上,谷歌和斯坦福的联合团队公开了代码,而就是在这段代码中,UCSD团队发现了「华点」。

UCSD团队以开源的方式实现了「Circuit Training」项目中的关键「黑盒」元素,然后发现,CT与Nature论文中存在差异,并不能被复现!

谷歌“AI 6小时设计芯片”遭打脸?大神Jeff Dean论文被官方调查

项目地址:https://github.com/google-research/circuit_training#circuit-training-an-open-source-framework-for-generating-chip-floor-plans-with-distributed-deep-reinforcement-learning

在Nature论文中,谷歌表示,不到六个小时,他们的方法就自动生成了芯片布局图,而该布局图在所有关键指标上都优于人类生成的布局图,或与之相当。

而UCSD团队发现,这篇论文中的数据和代码都不是完全可用的。在此期间,他们也得到了谷歌工程师就相关问题的回复。

此外,一篇名为「Stronger Baselines for Evaluating Deep Reinforcement Learning in Chip Placement」的论文声称,更强的模拟退火基线优于Nature论文,但显然使用了谷歌内部版本的CT,以及不同的基准和评估指标。

总之,Nature中的方法和结果,都无法被复现。

谷歌“AI 6小时设计芯片”遭打脸?大神Jeff Dean论文被官方调查

UCSD团队使用了CT、CMP、SA、ReP1Ace和AutoDMP生成了宏布局解决方案,还包括由人类专家生成的宏布局解决方案。在谷歌工程师的指导下,他们使用了0.5作为密度权重,而不是1

文中,UCSD团队描述了CT关键「黑盒」元素的逆向工程一一强制定向放置和智能体成本计算。

这两个部分,在Nature论文中既没有被明确记录,也没有开源。

另外,UCSD团队还实现了基于网格的模拟退火宏放置,用于比较Nature论文和更强的基线。

谷歌“AI 6小时设计芯片”遭打脸?大神Jeff Dean论文被官方调查

由不同宏放置器生成的Ariane-NG45宏放置

UCSD团队出具了一份实验评估报告,揭示了CT的以下几个方面——

使用商业物理合成工具的初始放置信息会如何影响CT结果

CT的稳定性

CT智能体的成本与商业EDA工具的「真实情况」输出之间的相关性

更强基线手稿中研究的ICCADO4测试用例的性能

总的来说,UCSD团队发现,CT和Nature论文所述有几个显著的不匹配之处。

CT假设输入netlist中的所有实例都有位置,也就是说,netlist在输入到CT之前,就已经被放置了。

CT的分组、网格化和聚类过程,都使用了位置信息。

谷歌“AI 6小时设计芯片”遭打脸?大神Jeff Dean论文被官方调查

力导向放置

然而,这些信息在review中并不明显,在Nature论文中也未被提及。

同样,解释CT的两个关键「黑盒」元素——强制定向放置和智能体成本计算,也都没有在Nature论文中明确记录,也在CT中也不可见。

这些示例代表了理解和重新实现方法所需的逆向工程,这些方法迄今为止只能通过某些API可见。

谷歌“AI 6小时设计芯片”遭打脸?大神Jeff Dean论文被官方调查

拥塞成本计算

谷歌“AI 6小时设计芯片”遭打脸?大神Jeff Dean论文被官方调查

NG45中Ariane的CT训练曲线,由UCSD团队和谷歌工程师生成

除了这篇论文外,UCSD团队还有一个更加详细的项目主页,全面记录了他们针对谷歌这篇Nature论文的研究。

谷歌“AI 6小时设计芯片”遭打脸?大神Jeff Dean论文被官方调查

项目地址:https://tilos-ai-institute.github.io/MacroPlacement/Docs/OurProgress/

概括来说,共有十八个「灵魂拷问」。

谷歌“AI 6小时设计芯片”遭打脸?大神Jeff Dean论文被官方调查

02

Nature共同一作长文回应

对此,谷歌和斯坦福联合团队的共同一作给出了一份非常详尽的声明:

「我们认为,这篇最近在ISPD上发表的特邀论文,对我们的工作进行了错误的描述。」

谷歌“AI 6小时设计芯片”遭打脸?大神Jeff Dean论文被官方调查

声明地址:https://www.annagoldie.com/home/statement

首先,介绍一些重要背景:

论文提出的RL方法已经用在了多代谷歌旗舰AI加速器的生产上。也就是说,基于该方法生成的芯片,已经被制造了出来,并正在谷歌数据中心运行。

亚10纳米的验证程度,远远超出了几乎所有论文的水平。

ML生成的布局必须明显优于谷歌工程师生成的布局,否则不值得冒险。

Nature进行了长达7个月的同行评审,其中,审稿人包括2名物理设计专家和1名强化学习专家。

TF-Agents团队独立复现了Nature论文的结果。

谷歌“AI 6小时设计芯片”遭打脸?大神Jeff Dean论文被官方调查

团队于2022年1月18日开源了代码。

截至2023年3月18日,已有100多个fork和500多颗星。

开发并开源这个高度优化的分布式RL框架是一个巨大的工程,其应用范围已经超出了芯片布局,甚至电子设计自动化领域。

值得注意的是,在商业EDA领域,开源项目代码的做法并不常见。

在团队的方法发布之后,有很多基于其工作的论文在ML和EDA会议上发表,此外,英伟达、新思科技、Cadence和三星等公司也纷纷宣布,自己在芯片设计中使用了强化学习。

谷歌“AI 6小时设计芯片”遭打脸?大神Jeff Dean论文被官方调查

接着,是针对ISPD论文技术方面的回应:

ISPD论文并没有为「电路训练」进行任何预训练,这意味着RL智能体每次看到一个新的芯片时都会被重置。

基于学习的方法如果从未见过芯片,学习时间当然会更长,性能也会更差!

团队则先是对20个块进行了预训练,然后才评估了表1中的测试案例。

谷歌“AI 6小时设计芯片”遭打脸?大神Jeff Dean论文被官方调查

训练CT的计算资源远远少于Nature论文中所用到的。

ISPD论文附带的图表表明,CT没有得到正确的训练,RL智能体还在学习时就被中断了。

在发表Nature论文时,RePlAce是最先进的。此外,即使忽略上述所有问题,团队的方法不管是在当时还是在现在,表现都比它更加出色。

虽然这项研究标题是「对基于强化学习的宏布局的学习评估」,但它并没有与任何基于该工作的RL方法进行比较,甚至都没有承认这些方法。

ISPD论文将CT与AutoDMP和CMP的最新版本进行了比较。当团队在2020年发表论文时,这两种方法都还没有问世。

ISPD论文的重点是使用物理合成的初始位置来聚类标准单元,但这与实际情况无关。

物理合成必须在运行任何放置方法之前执行。这是芯片设计的标准做法,这也反映在ISPD论文的图2中。

谷歌“AI 6小时设计芯片”遭打脸?大神Jeff Dean论文被官方调查

作为预处理步骤,团队会重复使用物理合成的输出来对标准单元进行聚类。需要说明的是,团队的方法不会放置标准单元,因为之前的方法已经很好地对它们进行了处理。

在每个RL事件中,团队都会向RL智能提供一个未放置宏和未放置的标准单元簇,然后RL智能体会将这些宏逐一放置到空白画布上。

九个月前,团队在开源存储库中记录了这些细节,并提供了执行此预处理步骤的API。然而,这与论文中的实验结果或结论没有任何关系。

最后,团队表示,目前的方法并不完美,并且肯定会存在效果不太好的情况。

但这只是一个开始,基于学习的芯片设计方法必将对硬件和机器学习本身产生深远的影响。

03

用AI,6小时就能设计一款芯片?

回到Nature的这篇文章,2021年,由Jeff Dean领衔的谷歌大脑团队以及斯坦福大学的科学家们表示:

「一种基于深度强化学习的芯片布局规划方法,能够生成可行的芯片设计方案。」

谷歌“AI 6小时设计芯片”遭打脸?大神Jeff Dean论文被官方调查

为了训练AI干活儿,谷歌研究员可真花了不少心思。

与棋盘游戏,如象棋或围棋,的解决方案相比较,芯片布局问题更为复杂。

谷歌“AI 6小时设计芯片”遭打脸?大神Jeff Dean论文被官方调查

在不到6小时的时间内,谷歌研究人员利用「基于深度强化学习的芯片布局规划方法」生成芯片平面图,且所有关键指标都优于或与人类专家的设计图效果相当。

要知道,我们人类工程师往往需要「数月的努力」才能达到如此效果。

谷歌“AI 6小时设计芯片”遭打脸?大神Jeff Dean论文被官方调查

人类设计的微芯片平面图与机器学习系统设计

在论文中,谷歌研究人员将芯片布局规划方法当做一个「学习问题」。

潜在问题设计高维contextual bandits problem,结合谷歌此前的研究,研究人员选择将其重新制定为一个顺序马可夫决策过程,这样就能更容易包含以下几个约束条件:

状态编码关于部分放置的信息,包括netlist、节点特征、边缘特征、当前节点以及netlist图的元数据。

动作是所有可能的位置 ,当前宏可以放置在不违反任何硬约束的密度或拥塞。

给定一个状态和一个动作,「状态转换」定义下一个状态的概率分布。

奖励:除最后一个动作外,所有动作的奖励为0,其中奖励是智能体线长、拥塞和密度的负加权。

研究人员训练了一个由神经网络建模的策略,通过重复的事件,学会采取将「累积奖励最大化」的动作。

然后,研究人员使用邻近策略优化来更新策略网络的参数,给定每个放置的累积奖励。

谷歌“AI 6小时设计芯片”遭打脸?大神Jeff Dean论文被官方调查

研究人员将目标函数定义如下:

谷歌“AI 6小时设计芯片”遭打脸?大神Jeff Dean论文被官方调查

如前所述,针对芯片布局规划问题开发领域自适应策略极具挑战性,因为这个问题类似于一个具有不同棋子、棋盘和赢条件的博弈,并且具有巨大的状态动作空间。

为了应对这个挑战,研究人员首先集中学习状态空间的丰富表示。

谷歌研究人员表示,我们的直觉是,能够处理芯片放置的一般任务的策略也应该能够在推理时将与新的未见芯片相关的状态编码为有意义的信号。

因此,研究人员训练了一个「神经网络架构」,能够预测新的netlist位置的奖励,最终目标是使用这个架构作为策略的编码层。

谷歌“AI 6小时设计芯片”遭打脸?大神Jeff Dean论文被官方调查

为了训练这个有监督的模型,就需要一个大型的芯片放置数据集以及相应的奖励标签。

因此,研究人员创建了一个包含10000个芯片位置的数据集,其中输入是与给定位置相关联的状态,标签是该位置的奖励。

为了准确地预测奖励标签并将其推广到未知数据,研究人员提出了一种基于边的图神经网络结构,称之为Edge-GNN。

在Edge-GNN中,研究人员通过连接每个节点的特征来创建每个节点的初始表示。

然后再迭代执行以下更新:

每个边通过应用一个完全连通的网络连接它连接的两个节点更新其表示;

每个节点通过传递所有的平均进出边到另一个完全连通的网络更新其表示。

谷歌“AI 6小时设计芯片”遭打脸?大神Jeff Dean论文被官方调查

Edge-GNN的作用是嵌入netlist,提取有关节点类型和连通性的信息到一个低维向量表示,可用于下游任务。

谷歌“AI 6小时设计芯片”遭打脸?大神Jeff Dean论文被官方调查

基于边的神经结构对泛化的影响

研究人员首先选择了5个不同的芯片净网表,并用AI算法为每个网表创建2000个不同的布局位置。

该系统花了48个小时在「英伟达Volta显卡」和10个CPU上「预训练」,每个CPU都有2GB的RAM。

谷歌“AI 6小时设计芯片”遭打脸?大神Jeff Dean论文被官方调查

左边,策略正在从头开始训练,右边,一个预训练的策略正在为这个芯片进行微调。每个矩形代表一个单独的宏放置

在一项测试中,研究人员将他们的系统建议与手动基线——谷歌TPU物理设计团队创建的上一代TPU芯片设计——进行比较。

结果显示,系统和人类专家均生成符合时间和阻塞要求的可行位置,而AI系统在面积、功率和电线长度方面优于或媲美手动布局,同时满足设计标准所需的时间要少得多。

但现在,这篇曾引起整个EDA和IC设计社区的轰动的论文,如今在被Nature重新调查,不知后续会如何发展。

          
  • 上一篇:运行FBI定制ROM的谷歌Pixel 6a手机曝光

相关阅读

RelatedReading
  • 新能源驱动力:比亚迪走进欧洲市场蓄势待发 新能源驱动力:比亚迪走进欧洲市场蓄势待发
  • 夏日轻松行 三星Galaxy Tab S8系列开启别样办公体验 夏日轻松行 三星Galaxy Tab S8系列开启别样办公体验
  • 热爱、坚持、赢!从WPLC的爆火解读掠夺者电竞文化 热爱、坚持、赢!从WPLC的爆火解读掠夺者电竞文化
  • 特斯拉首席执行官马斯克质疑福特F 特斯拉首席执行官马斯克质疑福特F
  • 阿里文娱法定代表人变更 李巍卸任执行董事 阿里文娱法定代表人变更 李巍卸任执行董事
  • 618换电视首推这款“国产旗舰” 别再让洋品牌割韭菜了 618换电视首推这款“国产旗舰” 别再让洋品牌割韭菜了

猜你喜欢

Guessyoulike
扩增iPhone产能,鸿海印度厂目标三年内翻五倍扩编至20万人

扩增iPhone产能,鸿海印度厂目标三年内翻五倍扩编至20万人

hao333 9929次阅读2023-09-25 17:51
主板游戏板块股票有哪些(主板游戏板块股票名单)

主板游戏板块股票有哪些(主板游戏板块股票名单)

hao333 3697次阅读2023-09-24 06:36
节能概念股名单一览,哪些是节能龙头股(9/21)

节能概念股名单一览,哪些是节能龙头股(9/21)

hao333 9484次阅读2023-09-22 06:31
金融机具排名靠前的股票有哪些?(第二季度净利率榜)

金融机具排名靠前的股票有哪些?(第二季度净利率榜)

hao333 9539次阅读2023-09-19 09:17
专题页

HOT榜单

  • 如何申请电子医保卡(如何申请电子社保卡养老认证)

  • 多晶硅十强公司是哪几家_二季度概念股票毛利率排行榜

  • NFC十大相关公司排名_2023年9月22日市盈率排行榜

  • 基金经理改行当健身教练?回应!有人送外卖、考公…基金经理跨界五花八门

  • 加油一样的充电体验 合创V09为你呈现

  • 龙江银行7宗违规被罚585万 贷后管理严重缺失等

  • 《极限竞速8》实机画面泄露!目前正进行测试

  • 丰倍生物业绩负债率齐升 实控人夫妇5年"套现"5200万

  • 1500万玩家在Epic白嫖《消光》 同时在线人数破76万

  • 城建发展跌停 机构净卖出1.48亿元

换一组看看

频道最IN
>创新技术成就艺术享受,三星Big Screen TV Pop

创新技术成就艺术享受,三星Big Screen TV Pop

>美媒曝Neuralink猴子惨死内幕,马斯克脑机接口的人体实验靠谱吗?

美媒曝Neuralink猴子惨死内幕,马斯克脑机接口的人体实验靠谱吗?

>华为申请“华为全车智能”商标 加速智能汽车布局

华为申请“华为全车智能”商标 加速智能汽车布局

关于我们 法律声明 联系我们 广告服务 隐私条款
@老男人网 版权所有/信息产业部备案号:蜀ICP备13015099号-1