【文章】硬刚英伟达!高通连夜剧透轿车超算芯片,组合算力2000TOPS
【文章】漆远获新融资,阿里云参投;芯原创始人直言百模大战便是“群模乱舞”,是在浪费电;英伟达本年在华将交给超100万颗芯片丨AI情报局
【文章】超恩推出EAC-2000系列NVIDIA Jetson Xavier NX无电扇嵌入式体系 可改进车辆间的通讯
有奖直播报名中依据英飞凌AIROC CYW20829低功耗蓝牙芯片的无线组网解决方案
Arrow&allegro有奖直播:下一代磁感应解决方案:XtremeSense TMR 技能怎么促进高效运用
Qorvo® 首先推出面向 DOCSIS 4.0 的 24V 功率倍增器
Bourns 扩展契合 AEC-Q200 规范的车规级 BMS 信号变压器产品线
Nordic Semiconductor 赋能Matter 1.3 认证的智能烟雾和一氧化碳探测器模块
安全性成数字原生企业挑选云服务首要考量,87%企业优先注重安全再议本钱及可扩展性
BlackBerry QNX凭仗全新功用安全认证文件体系强化轿车软件产品组合
议程揭晓!RT-Thread议题:在嵌入式低资源体系中完成高效音视频播映
喜报 瑞萨电子荣获2023“冷暖智造 · 金智奖”及供应链产品双料大奖
SIGGRAPH 2023 NVIDIA 发布支撑生成式 AI 与 OpenUSD 的严重 Omniverse 晋级
英飞凌推出适用于低功耗设备的高度集成的 iMOTION™ IMI110 系列模块
掩盖四大热门运用领域,慕尼黑上海电子展现场五款demo总有你心水的一款~
依据CEVA最新一代图画和视觉DSP渠道,酷芯微电子新一代Edge AI
从分析师估量到首席执行官黄仁勋的谈论,Nvidia 的 Blackwell 渠道的定价现已连续出炉。简而言之,布置这些功用强壮的产品将花费买家昂扬的本钱。摩根士丹利估量,Nvidia 将在 2025 年出货 60,000 到 70,000 台 B200 服务器机柜,相当于每年至少 2100 亿美元的收入。虽然本钱昂扬,但对这些强壮的 AI 服务器的需求依然很激烈。
据报道,Nvidia 已出资约 100 亿美元开发 Blackwell 渠道,约有 25,000 人去参加了。因为一切功用都集成在单个 Blackwell GPU 中,因而这一些产品的价格昂扬也就家常便饭了。
据汇丰银行分析师称,Nvidia 的 GB200 NVL36 服务器机架体系价格为 180 万美元,NVL72 价格为 300 万美元(约2175万人民币)。功用更强壮的GB200 超级芯片结合了 CPU 和 GPU,估量每颗价格为 6 万至 7 万美元。这些超级芯片包含两个 GB100 GPU 和单个 Grace Hopper 芯片,并配有一个大型体系内存池(HBM3E)。
本年早一点的时分,首席执行官黄仁勋告知 CNBC,Blackwell GPU 的价格为 3 万至 4 万美元,摩根士丹利依据此信息核算了买家的总本钱。每台 AI 服务器机柜的价格约为 200 万至 300 万美元,而 Nvidia 方案出货 6 万至 7 万台 B200 服务器机柜,估量年收入至少为 2100 亿美元。
但客户支出在某个时分会证明这是合理的吗?红杉本钱分析师戴维·卡恩估量,付出其出资所需的年度人工智能收入已攀升至每年 6000 亿美元。
但现在,毫无疑问,不管价值有多大,公司都会付出价值。B200 具有 2080 亿个晶体管,可供给高达 20 petaflops 的 FP4 核算才能。练习一个 1.8 万亿参数模型需求 8,000 个 Hopper GPU,耗费 15 兆瓦的功率。
这项使命需求 2,000 个 Blackwell GPU,功耗仅为 4 兆瓦。关于大型言语模型推理作业负载,GB200 超级芯片的功用是 H100 GPU 的 30 倍,而且显着降低了功耗。
据摩根士丹利称,因为需求旺盛,Nvidia 将台积电的订单量增加了约 25%。能够毫不夸大地说,Blackwell 将成为AI 练习和许多推理作业负载的事实规范,它旨在为一系列下一代运用供给支撑,包含机器人、无人驾驭轿车、工程模仿和医疗保健产品。
Grace Blackwell GB200 节点反面有用于衔接 NVLink 背板的接口。这些节点为半宽节点,因而两个节点能够并排安装在 1U 机架式机箱中。
中心是用于衔接体系的 NVLink 交换机。底部是别的八个双 GB200 节点。十八个 1U 机箱,每个机箱有两个 GB200 组件,每个组件有两个 Blackwell GPU,总共有 72 个 GPU。
这是一个与咱们在 Supermicro 定制液体冷却机架中看到的规划相似的 CDU。
这个机架是一个集群,每小时运用约 120kW 的电量,大约相当于每小时的电量,这些电量存储在 123kWh 的特斯拉 Cybertruck 电池中。在视频中,咱们评论了 GB200 NVL72 机架怎么像驾驭一辆约 7000 磅重的货车行进 300 英里。咱们估量未来几个月内,更高功率的数据中心将运用这一些 GB200 NVL72 解决方案。考虑到咱们在液体冷却方面所做的尽力,这是咱们想要重视功率方面的原因之一。