“祛魅”英伟达：华为昇腾与谷歌TPU
【人工智能和多大模型的迅猛开展带动算力需求日益激增，AI芯片运用远景更加宽广。面临美国高端AI芯片对华封闭禁运，国产AI芯片正在加快包围。日前，美国D2D Advisory咨询公司CEO杰·葛德伯格（Jay Goldberg）访问调查者网，就美国“芯片法案”的施行，英伟达在华事务以及我国AI芯片的远景等一系列问题，与心智调查所首席经济学家李波展开了一场深化对话。】
李波：欢迎葛德伯格先生——D2D Advisory咨询公司首席执行官。此外，你仍是Sovereign Technology Partners（主权技能协作伙伴）的办理合伙人。第一个问题，给公司起“主权技能协作伙伴”这个名的主意是什么？
葛德伯格：其时每个人都在议论数据和技能，可是咱们想向客户传达的主意是，你个人的确具有一切权，对你的技能和数据具有主权——这是咱们企图传达的一个重要概念，这是实在与这些客户发生共鸣的东西。
李波：在咱们开端严厉问题之前，我想问，5年之后你从头看到的我国有什么形象？这依然是一个你之前了解的我国吗？或许你看到了有一些新的元素参加？
葛德伯格：两者都有。这是我第一次实在体会我国高铁，并且凶猛的是你只需用一个运用程序订票即可，是在我上车前10分钟订的票！这太棒了，这很简单、太便利了，可以去任何你想去的当地。这是我国现代化和前进的有力标志！
但与此同时，我依然可以很便利的下车。我下火车去找到一家面馆，在那里我可以花10元买到一碗很好米线或水饺，就像从前相同，我很喜爱这儿的食物。十分令人兴奋的是，价格和食物的质量都不错。
李波：关于网络衔接问题，当你来到我国后，你依然可以衔接到你境外的WhatsApp运用是吧？由于你运用的是美国手机号码，并不会和本来的网络脱离。
葛德伯格：是的。这对我来说有一种很古怪的感觉。当我仍是个学生的时分，我在1991年至1992年去了北京大学一年。那是在互联网和手机电话呈现之前，我从前不得不手写函件与家人联络，函件交流时刻很长，常常来回要几个星期。
现在我每天都可以和我的孩子们说话，即便我在出差游览中。我其时底子没想到过，有朝一日来到一个不同的国际，数字交流真的简单多了，很美好。
美国“芯片法案”难达预期
李波：咱们进入主题。最近咱们看到数百亿美元规划的现金以付出拨款赠款的方法供给给了如英特尔、台积电、和三星这样的公司。你判别美国政府用这样力度来推动《芯片法案》，预期的成果会是什么？
葛德伯格：我以为芯片的效果有必要结合实践状况来了解，“芯片法案”资金总额超越500亿美元，分五年拨付。假如你看看我国台湾的大型半导体公司，比方台积电，他们一年的本钱开支就现已到达了400亿美元。
因而在5年时刻内向几十家芯片制作公司分期付出500亿美元并不是一个很大的数字。我以为“芯片法案”含义在于向美国公司宣告信号，标明他们将得到美国政府的某些支撑、特别是监管方面的支撑，其效果是政府供认半导体工业对美国很重要。我以为这种信号乃至比实践的拨款更为重要，由于资金并不多。
美国“芯片法案”资金流向（截止到2024年4月）
李波：带有很强的标志性含义，但这笔钱是实实在在的现金。这是一种直接补助。而不是那种政府经过减税许诺来协助的项目，对吧？
葛德伯格：这是真金白银，真的现金。但这很古怪，由于这对美国来说并不常见。据我所知在曩昔的五六十年里，美国政府都不曾想这样做。美国的政治精英以及咱们的美国政府它并不拿手供给直接补助，曩昔整个国家也一向在长时刻防止呈现这种状况。
李波：所以我不以为会再有另一部“芯片法案”。
葛德伯格：但现在的方针力度满意大、至少可掩盖5年。然后，咱们将或许调查到政府引进一种所谓的工业方针，用来约束商场力气的天然运作。
李波：对此，首要的批判的声响是什么？
葛德伯格：现在猜测美国政治中的任何作业都是十分困难的。所以我不知道4个月后会发生什么，更甭说5年了。但现在，感觉并没有很大的支撑动力去推动“芯片法案2.0”或许环绕半导体树立实在的工业方针结构。美国曩昔并没有国家工业方针规划的经历。或许未来或许会改动，但我感觉周边的人们现在并不想把它放在重要的方位。所以我不以为会有更多这样相似的法案出台。
英特尔代工的窘境
李波：当你在我国游览的时分，你有没有传闻过英特尔代工服务（IFS）想要进入我国商场竞赛的传言？您对英特尔所谓的IFS的这一举动有何点评？
葛德伯格：英特尔作为一家公司的确面临着实在的应战。依照他们的经济模型中，他们需求具有更多的客户，以支撑不断推动其制作流程所需的研制投入。多年来，他们以为只需现在这样多的客户就满意了。可现在现已不是这样了。他们事实上需求再加上另一个平等规划的外部收入，将自己收入规划增加一倍，才干坚持在摩尔定律的轨道上继续前进。
对我来说，他们到处在寻觅客户，这是彻底合理的。他们需求和每个或许的潜在客户介绍自己的服务。我不只传闻他们正在向我国的客户推销，他们也正在向国际各地的客户推销。
但代工的舞台中现已有了台积电和我国大陆的中芯国际。那么他们会怎么做呢？他们需求下降价格。
假如你和英特尔议论他们的代工计划，他们喜爱着重的一件事是，在进入新的下一代制程时分，他们会筛选旧的。相比之下，台积电的形式不相同的，每逢他们增加了一个新的制程工艺，他们依然继续出售旧的产品，你可以在台积电得到8代、10代等不同的工艺制程。这使得生意模型十分有利可图：由于你现已在账面上折旧了一切的设备，而实际中它依然在继续工作。英特尔现已意识到他们也需求这样做。
所以我以为他们的许多事务都是树立在英特尔16纳米工艺上的。他们依然有许多这样的才能。尽管你们的个人电脑不需求这些旧工艺。他们不需求将其用于数据中心，但还有许多其他当地，许多其他客户可以很好有利地势用它。所以我以为他们的重点是要填满这些以往的节点。
英伟达代替计划的茁壮成长
李波：依据你最新的播客，你谈到了NPU在AI运用场景中的广泛选用。是咱们关于人工智能才能极限的探究激发了NPU和DSP的热度吗？
葛德伯格：我在这儿有必要要准确表述一下，NPU或神经处理单元是集成到另一个芯片中的一组电路。
而这些NPU是专门为做人工智能的作业负载而构建的。我想咱们现已看到了许多设备厂家都在往这个方向开展，比方iPhone便是如此，可是苹果不称它为NPU，而称为神经引擎，他们现已在iPhone中运用了5到6年了。
我以为这会变得越来越遍及。咱们现已看到高通和联发科都推出了内置NPU的手机。咱们看到一切笔记本电脑的CPU制作商都开端这样做。现在这些AI PC，其实他们仅仅将NPU以某种方法放入CPU中。
李波：NPU的运用将怎么影响大模型的练习？
葛德伯格：我以为大模型练习依然会在大芯片如GPU上进行。但假如你把NPU的界说扩大到包含AI加快器，由于我有必要如此准确表述，即以为AI加快器将是一个用于模型练习重要的、且独立的类别。
但现在，今日真的只要两家公司有着老练的芯片研制系统来练习人工智能模型。英伟达的H100，还有谷歌的TPU，TPU仅仅另一种描绘NPU的方法，然后还有阿里巴巴，Facebook，Meta，微软。他们都在制作自己的AI练习加快器。
Trillium，谷歌第六代TPUs
但这些加快器都不是那么先进有用，大多都仍是第一代的容貌。谷歌现在正在开发的是第七代TPU，连他们也只要一个版别用于模型练习。我以为Facebook和微软很乐意用他们自己的芯片进行练习，但我不以为他们现在能做到，这还需求许多年的时刻。
李波：是的，我从前传闻过，假如你改动模型，你有必要运用GPU，由于你做了浮点运算。一旦你扫除了依据人工智能的云，那么实践上你不需求太多的GPU来增强核算才能。
葛德伯格：关于这个我的确可以说一说的。谷歌在大约七八年前推出了他们的TPU。当他们宣告时，危险出资界就开端争相出资那些人工智能加快器或NPU公司。有一大堆公司都是从那时分冒出来的。他们中的大多数现在现已不存在了。他们花了一年时刻的确开发了一种新的AI芯片。可当芯片出来的时分，软件现已改动了，模型也变了。咱们实践上现已看到了这样的作业正在重复发生。
许多草创公司公司急于具有NPU规划才能，他们制作了一些很棒的芯片，在今日的作业负载下体现得十分好，但需求一年的时刻才干将芯片在出产中完结落地，而此时，软件生态系统和人工智能模型开展得又如此敏捷。
终究将会呈现的状况是，假如你制作了一个芯片意图是规划ASIC（专用芯片），服务特别意图的人工智能加快器，这的确比GPU更好，对那个共同的模型来说是功率会很高，但你一旦改动了模型，哪怕仅仅改一点点，这些功能提高就或许忽然消失。在这种环境下，任何购买GPU来练习他们模型的人就或许在冒一些危险。但假如略微改动一下，这种功率的差异就会消失，这很杂乱。现在我只想购买英伟达的芯片。这是相对安全的解决计划。
我以为谷歌的不同之处在于，他们之所以有这么好的芯片，是由于他们可以控制自己的软件。他们的芯片规划团队，可以与他们的软件团队十分严密地协作——他们具有规划芯片自身的软件人员。将来对软件的任何更改，芯片团队可以提早知道。
正在赶超中的华为
李波：假如咱们用谷歌的比方，咱们可以给华为最新发布的昇腾910芯片的未来一种点评吗？由于关于给定的某些方针和基准，关于某些核算使命，关于某些核算集群，它们的功能现已可以对抗上英伟达的H20。华为也有才能用最近发布的鸿蒙操作渠道来构建软件生态系统，所以它与谷歌的TPU芯片是否具有可比性？
华为昇腾910b
葛德伯格：让我先给出技能方面的答案，然后或许还有一个政治方面的答案。
技能上的答案是，咱们有必要十分慎重地对待所谓的衡量基准。每个人都理解关于核算机、尤其是人工智能时不存在完美基准，特别是每个人都有自己的基准，这取决于你的意图。
可以有一个基准点评我是否容颜帅气身段很好等等，但这是一个适当片面的方针，所以要很当心。所以我倾向于看低基准参数的说服力。一般来说，这在很大程度上取决于你要做什么。
第二，是关于政治上的答案，美国约束英伟达可以出售到我国的GPU以及其它什么AI加快器，这将为华为这样的公司发明更多商场。关于华为的才能，我一点都不想轻视。多年来，他们具有十分十分强壮的工程人才，具有好的芯片规划规划师，他们真的是在许多范畴都很先进。
我一向以为，考虑到华为遭到的种种约束与困难，他们取得的成果令人形象深入，真的无法在技能上轻视华为做出的尽力。所以我以为美国的约束这的确给了华为的AI芯片一个很好商场时机。
李波：详细到英伟达的H20，英伟达为进入我国大陆商场而专门规划的这款产品，契合了美国的监管规则要求。你以为这是一个好的营销或出售战略吗？由于英伟达想要到达100万的出售方针。
葛德伯格：现在整个国际都想要更多的GPU。每个软件公司都期望具有GPU来树立他们的人工智能模型，包含阿里、百度和腾讯。
所以他们假如现在能得到的较大规划数量的芯片，那么他们就会去企图获取。不过我不知道英伟达这一战略的可继续性有多大，由于美国政府说他们会继续举动，他们会继续不断地检查出口约束规则的有用性，因而这必定会与英伟达想完结的出售方针发生冲突。
“AI泡沫”是否正在到来？
李波：当你访问这些我国公司时，是否看到这种趋势，他们会寻求购买额定数量的英伟达芯片吗？
葛德伯格：可不只仅是我国公司,国际上每个人都想买更多的英伟达AI芯片。现在没有满意的GPU来满意全球的需求。因而，这种心情正在推高价格
李波：这样高的股价可继续2到3年吗？假如咱们发现，模型练习需求改动了，模型进入到推行习惯阶段，或许不再需求这么多的核算才能。咱们对AI的等待太高了。
葛德伯格：所以咱们需求个什么东西来满意一切人对AI的更高等待。有几种视角可以答复关于英伟达股价是否过高问题。我以为，一方面，咱们不应该忘掉调查长时刻的商场走向。我调查了很长时刻，半导体职业永远是周期性的。有昌盛时期，也有泡沫决裂时分，许多人还没有看到过泡沫决裂时的各种场景。以为从2020开端，一切的半导体股票都是向上一路挺立,其实不是这样。
李波：这是个很长的周期了。
葛德伯格：对的，所以这现已是一个很长的周期。终究，它会掉头下降。但我以为有必要供认人工智能是实在的，重要的。因而，即便有一天咱们具有的GPU超越了人们现在的需求，但咱们依然需求许多额定的GPU，所以,周期将会改变，但关于AI的看好这个根本趋势将依然在那里。
现在，我以为软件带来的不确定性这个问题很风趣，我几个月前在我的播客上谈到这个。软件的法力之一是，假如你是一个十分聪明的软件工程师，你可以找到更好的方法来做一些作业，然后你实践上可以大大削减对硬件和CPU的GPU的依托。历史上，咱们现已看到了许屡次这样的作业。
李波：云核算实践上是依据软件的，它不必定需求最好的硬件。
葛德伯格：对的。由于谷歌创业起步并没有钱。亚马逊起先也没多少钱，阿里巴巴那时分也没钱去买高装备的硬件。
我再回忆一下30年前一个事例。那时分你制作核算机图形，你需求购买一台高装备的Silicon Graphics芯片图形公司的作业站，那个时分这是十分贵重的。然后有个游戏开发工程师想出了十分聪明的方法，这个立异直接削减了两个数量级的三维图形所需的核算量。所以忽然之间，人们不再需求贵重的作业站来处理图形。你可以在你的笔记本上工作核算。像一个闻名的游戏雷神之锤，它做得太好了，但这个软件立异干掉了一切其他搞图形核算的硬件公司。
李波：所以不能扫除这种或许性的再次发生。
葛德伯格：但在这样的改变之前，英伟达仍将是一切这一切的主角。并且他们十分聪明。英伟达的CEO黄仁勋很聪明，也很有远见。所以他或许会预见到这一点，并找到一些新的战略。
我国“产能过剩”的特殊叙事
李波：但另一方面，美国政府也在评价从我国进口的老练半导体元器件，由于我国在老练加工部分是具有显着优势的。你以为这种忧虑建立吗？
葛德伯格：我以为美国的方针拟定者乃至没有意识到我国行将上线的老练制作工艺产能的数量，他们不太知道这事。到现在为止，美国现已施行的大多数方针都是针对半导体制作抢先技能的。
拟定这些方针的人瞄准的实践上是16纳米以下的先进制程。关于16纳米以上的东西，就像一句英国谚语，谷仓的门早现已打开了，意思是企图困住的那匹马现已逃跑了，咱们对此力不从心。但在美国和欧洲，人们的确越来越意识到，我国所谓的产能过剩是一个大论题。当你看到我国的半导体的不同标准的“后尾产能”（trailing）和制作才能时，有太多很老练的产品标准的产能上线。所以这是一个从质量、本钱、价格三方面我国大陆的竞赛优势。
上一年10月份美国新的出口控制决议出台，开端主意是环绕国家安全的，至少美国当局他们是这么说的。可是当咱们开端议论老练工艺的“后尾产能”时，这是一个交易问题。所要做的便是拿出旧的术语，比方推销和反竞赛。
李波：业界也不能轻易地在我国以外的当地取得这些老练制程的芯片吧？ 就连欧洲也依托进口我国老练的半导体组件。
葛德伯格：依据我大略的数学核算，考虑到时刻，老练制成的组件制作商场或许依然有平衡的或许，忧虑的问题时我国有如此多的产能行将投产。在今日的美国政治舞台上，这不是一个首要问题，当然或许再过几年就会了。
东南亚与半导体供应链
李波：咱们看到半导体职业越来越积极地走向东南亚。传统上马来西亚是该工业最受欢迎的目地址。那么，东南亚国家的共同优势是什么呢？他们真的能代替我国吗？
国际半导体大厂在东南亚的工业布局（Digitimes,2021）
葛德伯格：一个简略的答复是他们很难代替我国。我国在制作业方面的特长是现在国际上其他国家所没有的。假如你想制作任何电子产品，任何硬件，在我国以外的当地做都是困难的。
从我的第一手经历中了解到，我曾与一位客户协作，他想在美国制作一台设备，想进入到政府事务中。然后，这个进程的每一步都很苦楚，他们有必要找到一个制作商，然后他们有必要向制作商展现这个进程会是什么姿态。
然后他们不得不让他人来做规划，让他人来做零配件。然后制作商找到了一些设备，他们不知道怎么运用。所以我的客户有必要租借设备，把它运到工厂，训练他们的职工怎么运用。光是完结第一个原型就花了9个月。假如咱们去深圳，咱们可以在6周、8周内从规划到原型再到出产。国际上其他任何当地都无法做到这一点。
将出产搬运到马来西亚、菲律宾或泰国时，这些国家中的每个都只能完结一小部分。所以，这会是个十分杂乱的运营战略，把10个或12个国家组合在一起，把半成品搬运到各个当地处理，但这触及到到很杂乱的流程。我以为现在美国公司以及欧洲公司，现已认识到他们对我国有十分高的依托度。从政治上讲，这对他们来说并不抱负，但实践上也没有人乐意彻底依托一个供货商。
供应链有一些搬运的痕迹，某些公司将开端寻觅代替供应链，并在某些当地移动小块事务。
我国花了40年才建成今日的成果。我以为把供应链搬运到其他当地至少要花相同长的时刻。关于马来西亚政府和泰国政府以及一切这些南亚和东南亚国家来说，当然这是一个好时机，他们会得到一些搬运曩昔的制作环节。
李波：但这种行为是否对职业的人力本钱投入也有特定的要求呢？
葛德伯格：这是一个十分重要的观念。没有当地可以像我国那样供给如此多有优质教育布景的工程人才，我国每年都有许多的STEM工程师走出校门。国际上没有一个当地有那么多工程师。在许多当地，即便能找到一些，质量也不高。所以这很难仿制。
李波：这是一个十分有见地的定论。所以咱们需求和政客交流，坚持供应链的顺利运作，咱们知道美国国家自己需求维护一些灵敏的安全区域，但关于正常的商业部分来说，不需求再打交易战。咱们依然想要一个正常工作的国际。所以这也是你这次游览的使命，来我国调研，然后去其他国家看看。
葛德伯格：这儿有许多风趣的公司，我很快乐我来此地观赏。
李波：祝你在我国的游览成功。感谢来到咱们调查者网的演播室。
告发/反应
相关文章
最新吃瓜网友科普：TPU是什么材料及其应用解析
最新吃瓜网友科普：TPU是什么材料及其应用解析随着科技的飞速发展，许多新材料逐渐进入我们的生活。其中，TPU（热塑性聚氨酯）材料以其优异的性能和广泛的应用引起了众多网友的关注和讨论。今天，我们就来深入...