今日一些信息05.05

tt

微信号

功能介绍

Nvidia专家会议纪要

1. 目前NVIDIA主推的是NV36还是NV72? 36x2或单36也有但是我们sales主推的都是72或是36x2 2. CSP的价格计算方式? CSP买的都是定价，但是CSP以外的价格我们就不知道 3. 一颗晶片是3万还是4万? 们B200或B100比H200或H100贵XX~XX%以上。整个NV72会比这个价格还高，至少XXX万美金以上。我们公司是这样看得，我们家高速运算大概400亿美金，但我觉得不会这么少。 4. 可以跟我讲一下目前B跟H的方向吗?感觉很像是会大量? 现在B跟H都有人买，出比较多的当然是H200，H100会慢慢减少。B100在生成式AI的训练是很快的，但是要做到深度学习训练的话并没有H100快。如果是做Transformer的话就没有必要换到B。 5. GB卖那么贵，他们对CSP来说Nvidia的主要吸引力在哪? 众所周知现在大家都是要用inference来赚钱，你要应用这些软体或服务的话还是要建inference的server。现在大家都在拚inference，因为投入这么多资源和资本支出下相对inference就变得很重要。我们针对inference有推荐的产品，比方说L10或L4。这些inference是用在地端像是制造业的inference。可是有些应用他的inference方式可能更不一样，他可能就会比较适合这一代的比方说B系列去做生成式AI的训练和推论，这是他们目前的需求。我们要对每个客户做产品的细分才能把所有的Supply到正确的客户端。B现在还没出，出可能要到Q4了，GB可能要到明年，今年都还是H系列。目前H100比较快到货，交期也在缩短。 6. 以你们的角度会需要知道最下游的产品卖到哪里吗? 目前卖货都要填表，美国政府要知道你的产品的用途、卖到哪个国家等。但是现在还是很多偷渡到其他中东国家的案件发生。Supermicro本次财报不敢给预期就是因为怕被查出来他的货卖到其他国家，所以其实他的生意没有不好，甚至是非常好，他们只是怕揭露之后会被质疑出货地区。每个国家都有AI需求，但是美国需要对AI做管制，甚至近期巴西也有AI需求来寻求Nvidia的协助。这种布建跟Demand都是一直存在，你们不用担心需求，今年预估有1000亿美金的营收，去年是600亿美金，预计成长70%。预估2027年sever营收可达4000亿美金。同样的需求下GB价格贵60%，即使量一样都能成长60%以上，我们会开发更多需求出来，CSP买很多了可是还有潜在的需求存在。我觉得军备竞赛是不会停的，比方说中国自驾车也希望自建AI系统而非使用特斯拉的FSD。另外一个部分是inference，inference目前炒的就是AI PC嘛，我们认为年中或下半年会有很多真正的应用和转折出现。比方说QCOM的笔电先出接下来各家笔电厂也会跟进，下半年应该会出现很多AI PC相关的投资出现。因为现在进入训练的市场竞争太累了，大家都转向inference的市场，就像AMD在北京的发布会只讲AI PC并没有讲MI300。Copilot如果可以被广泛使用的话她的客户基础是几亿台，我觉得MSFT会是inference的大赢家。我认为他的渗透率2年Copilot可以到5%。但是消费者不会付钱只有企业会买单。我们针对NB来说的话，当然MSFT还是针对inference，他的模型很简单，所以真正能做到的帮助很少。MSFT说要到4~5年后才有收入，现在都还在技术建设期，不会投资马上就赚到钱，只要投资的力道都还在的话NVIDIA股价不太会有什么改变。只要有投资大家就会开始竞争，从这阵子的财报就可以看的出来，AMD股价也会上去，4、5月本来就不会很好因为这本来就没什么话题 7. 现在H100的交期再向下?H100的量怎么样?H100供需状况如何? 交期以前是一年，这2~3个月变成1~2个月。有急需的人才会买H100，可以等的都在等B系列，因此量就被释放出来就变得比较好买。基本上要换单我们都会评估一下，我们会算好一个G100全部出完再让人家换单的量。我们可以不让别人换单，有的人要换单他可以等到B100出来之后再做，如果适合的话我再让她换。因为不是每个人都是用生成式AI在做模型，比方说如果你是用深度学习在做你就不用换B100，用H100还比较快。H100需求还是高于供给，多出来的需求量我们可以让他们换单到B使B的需求能被确保。去年底今年初的时候还有转单的状况出现，当时还有机会可以屯货，但现在市面上大家的想法是H100拿到就快点出掉，因为现在交期短，拿到也没办法再转。 8. H200的主要市场?H200是不是一个过渡产品? H200主要市场是训练，他是比H100高记忆体的版本。过渡期产品的部分的话，我们是让对手没有机会，刚开始H100被清光后我们出一个记忆体空间

Nvidia GB200产品架构说明及出货预期、液冷散热架构及产值分析

TW科技股产业展望：Nvidia GB200产品架构说明及出货预期、液冷散热架构及产值分析、台厂供应鍊受惠程度剖析 ● GB200产品主要三种分为DGX NVL72/NVL36、HGX B200三种。HGX B200可以跑x86，NVL72是纯解决方案，任何东西都无法变动，NVL36只有在Compute tray或机匮外部连结端口可以客制化，其馀必须使用GB200主板和NVLink交换器。 ● GPU佔NVL72/NVL36分别80%/70%，加上Switch tray将达到90-95%，预计明年出货量40K，其中72为10K/36为30K，大约挹注NVDA 500亿美金，台湾供应链都可受惠。 ● ODM目前首推鸿海、广达，鸿海会做NVL72 100%，NVL36会做前面的Switch tray，纬创与英业达有做部分。 ● NVL72热功耗较高，预期采液冷散热为主，但受限资料中心的管道建制渗透率待观察；NVL36运算层空间较大利于散热运作，预估主流为CSP业者加挂机匮后之气冷方案，可在现有资料中心直接部署。散热组件cold plate 约200-400美金，CDU为高单价产品上看上万，整匮NVL36 液冷产值33k-70k美金，气冷约5k-10k。资料中心散热为客制化设计以CSP/ODM业者决定，CDU软体控制沿用Vertiv，台湾厂商在cold plate等零组件较有优势，首选为奇鋐。 ● 2024年液体冷却解决方案在台湾供应商的销售额中所占比重不到10%。但预期液体冷却在数据中心的渗透率将从2025年开始急速提升，由于其高产值特性，将成为相关制造商销售额的主要驱动力。 ● CCL GB200规格较H100大幅提升，同时包含Compute tray和Switch tray，且部分材料用到M8等级，提升CCL产值，但不像传统伺服器到H100的幅度。以往供应链台光电掌握大多数订单，GB200有较大变化，除设计架构改变，也希望分散供应。斗山抢到OAM订单为主要受益者，联茂在配板也部分受惠，材料受市场肯定。 ● GB200 NVL72搭载6个电源机箱，每个机箱搭载6颗PSU，每颗5.5kW，主要供应商除台达电、纬创子公司还有光宝科。DC/DC 转换器主要供应商为台达电、MPS，台达电为GB200电源供应器、转换器主要受惠厂商，预估整体AI Server佔比可达6%。 ● CPO模组中光学元件等零件约佔35%，60-70%为DSP/雷射晶片，现所需要之雷射成本皆较高，目前NVL36 800G光通讯模组成本430-450美元，1.6T版本模块至少1500美金以上，光通讯模组制造成本维持高档。 ＱＡ ● ODM部分，SMCI在GB200的定位，若无，是否有其他方式切入？ 目前第一批名单没有，技嘉和SMCI可能会在第二批，最快要到明年下半年才有小量份额可以出货。 ● NVL72+NVL36明年估4-5万，Vertiv能供应那么多CDU吗？ Vertiv产能还需确认，现在CSP还是以Vertiv为主，其最有经验。散热厂多数都在对CDU最后测试，包含奇鋐、双鸿，日电产前日也宣布会扩产，超众会有部分份额。研发速度上，有风扇经验之奇鋐和日电产进度会较快。 ● Side car 技术难关是否可以突破？ 要求包含RDHX冷却背板，但是是属于NVDA 设计，实际散热背板是否需放在Side car还非一定。现行日电产、双鸿都表示气冷解热瓦数都可以150-250千瓦，目前设计上大致上没问题。 ● 如果switch tray那两个switch 晶片要用2片cold plate是不是代表compute tray里面的switch 晶片也要用到cold plate，这样整个compute tray是不是会用到7片cold plate？ 一个compute tray会有4个GPU，都会需要cold plate，只是cold plate原则上是2-3作为一组来出货。 ● 请问GB200 4万匮的推算方式？明年B/H系列各自佔比,里面GH200 B100 B200 GB200佔比？ 与下游ODM厂讨论，对比明年台积开出CoWoS产出和CSP资本支出推估。B200 需要1.8m，明年台积CoWoS 估2.4-2.5m，B100约0.8m，H系列Wafer使用量比较少约0.6m。

AI芯片

【AI芯片】核心要点 国内产品布局：1）国产产品目前最好的是寒武纪，MLU590 和 MLU370 是核心产品。590 的单精度算力是 80T, 超过了 H100。2）寒武纪有自己的 MLU Link,双向带宽在300G 左右。NV Link 已经演进到了 4.0，双向带宽已经达到了 900G。3）燧原的训练卡是 T20 和 T21，T21 是OAM 的模块，单精度算力是 40T。 下游客户：1）字节之前采购了一万多张的 A100，裸卡可以按 7 万元人民币一张来算，采购额将近 10 个亿。2）字节目前有 20 万张算力板卡，大概 10 万张是高规格的算力板卡，比如 A100、A800、H800。3）国内企业中，H、寒武纪的确在给字节送样，产品规格比 H20 强，价格和服务也有优势。阿里以英伟达的板卡为主，跟寒武纪有联系。腾讯采用燧原的板卡。

房地产去库存

4月30号zzj会议通稿提到“统筹研究消化存量房产和优化增量住房的政策措施，抓紧构建房地产发展新模式，” 5月1日，自然资源部：商品住宅去化周期超36个月的城市暂停新增用地出让。

Optimus新视频

事件：5月5日，特斯拉发布最新机器人视频，其显示： Optimus正在工厂中学习实用技能，端到端算法可以帮助降低电池能耗，该算法实时运转于bot的自动驾驶电脑； 其用双脚保持平衡，上半身采用网络算法控制； 传感器方面采用了2D摄像头、手部触觉传感器和力传感器； 在摆放物料视频中，其手部动作非常精准流畅且动作空白很少，可以自动复位位置错误的物体； Optimus正在特斯拉的一个工厂中被测试，且需要人工干预的概率逐步下降，他也会在办公室以非常自然顺畅的姿势行走，且可行走的距离持续提升。 边际变化： 1.续航能力可持续提升，可行走的距离持续提升，系算法能力提升所致； 2.此次视频展示共12个Gen机器人左右，每个机器人都由一名远程操作员操作，以收集数据； 3.采用2D摄像头完成传统3D摄像头的物料摆盘任务。

关节续标2号文出台

政策点评：关节续标2号文出台，价格规则设置更科学合理，关注骨科投资机会 续标品种：初次置换人工髋关节、初次置换人工膝关节、含增材制造技术（即 3D 打印）类产品。定制化增材制造技术产品可自愿参加。采购周期：3年。（首轮集采是2年）。开标时间5月21日。采购需求量：本次续标全国采购需求量58.2万套，其中，髋关节28.6万个，陶瓷-陶瓷类10.2万个，陶瓷-聚乙烯类17.3万个，合金-聚乙烯类1.0万个；膝关节29.6万个。膝关节占比有所提升，髋关节中陶瓷-聚乙烯类占比进一步提升，而合金-聚乙烯类需求量明显下滑。国产企业报量份额进一步提升。 续标规则：1）拟中选规则一明确价格线，同竞价单位价格差距从1.5倍缩小为1.2倍。2）规则一中选企业的协议采购量分配比例相比首次集采更高。3）设置复活线。复活线价格均高于首轮集采中标的最低价格。相关企业：春立医疗、爱康医疗、威高骨科、大博医疗等

美国FEOC细则落地

【东吴电新】美国FEOC细则落地与初版基本一致，放宽对锂电材料本土化考核，好于预期 事件：当地时间5月3日美国能源部发布FEOC最终版指引，并针对84条意见作出回答，最终版指引与初版指引基本一致，仅有细微变化，同时财政部联合国税局放宽石墨等关键矿物FEOC要求至27年，且不考核隔膜基膜、未涂炭铜箔等，好于预期。 #变化1：“外国政府”定义包含了国家一级以下的政府，即省、市等下一级别的政府也算外国政府，受其持有、控制或管辖权内的企业算FEOC #变化2：FEOC变严、“外国政府”包含高层政治人物，中国包括1）现任及前任中国中央及地方高级官员、2）现任及前任中国共产党及下属实体、委员会的高级官员、3）现任及前任中国共产党中央委员会、中央政治局、全国人大、全国政协、省一级共产党委员会成员、4）现任省/地方一级政协委员；及上述四类人员的直系亲属。 #变化3:石墨及电解液中锂盐、添加剂、粘结剂FEOC放宽。美国财政部联合国税局5月3日发布税收抵免额度指引终稿，新增定义部分矿物为impracticable-to-trace，包括负极中的石墨、电解液的锂盐和添加剂、粘结剂中含有的关键矿物（如锂、氟、磷、萤石等），以上矿物在2027年1月1日前可免除考察FOEC规定，电池组件本土化考核及FEOC考核不变。 #变化四：电池组件及关键矿物本土化考核范围放宽。新增“电池材料”，定义为“经处理而非制造的”构成电池组件的部分，包括隔膜基膜、未涂炭的铜箔、电解液中的溶剂等，不考核本土化。关键矿物考核范围不包括PVDF、CMC等粘结剂。

高铁涨价

【申万交运】#从部分高铁线路票价调整，看高铁票价市场化对行业影响的点评：高铁票价市场化机制变革持续推进，高铁运营企业及高铁资产所有企业有望受益 本期投资提示： 5月2日，12306网站集中发布武广、沪杭、杭长、杭甬等4条高铁的调价公告。自2024年6月15日起，相关高铁线路投资运营主体针对其高铁线路上运行的时速300公里及以上动车组列车公布票价进行优化调整。 高铁票价市场化是我国高铁产业长足发展的重要举措。一方面可以有效利用“价格”的杠杆作用，市场化的实现多种运输方式之间的有效分工，另一方面结合国家鼓励社会资本投资铁路并促进铁路投资主体多元化的相关政策，市场化定价是实现铁路投融资体制完善的重要举措 以杭甬客专调价方案为例，二等座公布票价较现行票价涨幅达到20%左右。杭州东站至宁波站二等座/一等座/商务座公布票价涨幅分别为19.7%/13.3%/32.7%。 高铁票价市场化机制逐步完善，利好高铁运营企业及高铁线路资产拥有企业。推荐京沪高铁，关注广深铁路。

一些报道

【OpenAI下周将发布ChatGPT搜索引擎】  5月3日，前Mila研究员、麻省理工讲师Lior S消息，根据OpenAI最新的SSL证书日志显示，已经创建了search.chatgpt.com子域名（目前无法访问），将会进军搜索引擎全面挑战该领域的全球霸主谷歌。目前，多方位消息证实，OpenAI将会在5月9日上午10点公布该消息，大约是北京时间周五的凌晨2点。OpenAI抢在5月9日发布这个消息也挺有意思，因为5月14日谷歌将举行一年一度的“Google I/O”大会，OpenAI不希望谷歌的技术大会抢了该产品的风头。早在今年2月14日，著名科技媒体theinformation独家消息显示，OpenAI会联手微软的Bing研发一款网络搜索引擎来挑战谷歌。目前，全球前五搜索引擎分别是谷歌、Bing、雅虎、百度和Yandex，而谷歌的市场份额占到了90%左右，几乎垄断了整个市场，出道即巅峰至今几十年从未遇到过对手。但OpenAI进军搜索引擎的消息放出后，不少人认为，谷歌这次是碰到硬茬了。 【彭博社报道称苹果将在6月WWDC大会上发布生成式AI战略。】 苹果CEO库克预计下周预告新的人工智能功能，并于6月的全球开发者大会上公布。 【普京访华】 彭博：俄罗斯总统普京计划在新任期开始一周多后访问中国，一位熟悉克里姆林宫计划的人士表示，此次访问定于 5 月 15 日至 16 日进行。该消息人士表示，日期可能还会略有变化。