• 热点研报
  • 精选研报
  • 知名分析师
  • 经济数据库
  • 个人中心
  • 用户管理
  • 我的收藏
  • 我要上传
  • 云文档管理
  • 我的云笔记
  • 光大证券-海外TMT行业英伟达GTC 2024大会点评:Blackwell平台实现AI性能跃升,软硬协同助力英伟达转型AI全链条平台-240320

    日期:2024-03-21 07:37:29 研报出处:光大证券
    股票名称:TMT行业 股票代码:
    研报栏目:港美研究 付天姿,王贇  (PDF) 12 页 749 KB 分享者:youx******002 推荐评级:买入
    请阅读并同意免责条款

    【免责条款】

    1. 用户直接或通过各类方式间接使用慧博投研资讯所提供的服务和数据的行为,都将被视作已无条件接受本声明所涉全部内容;若用户对本声明的任何条款有异议,请停止使用慧博投研资讯所提供的全部服务。

    2. 用户需知,研报资料由网友上传,所有权归上传网友所有,慧博投研资讯仅提供存放服务,慧博投研资讯不保证资料内容的合法性、正确性、完整性、真实性或品质;

    3. 任何单位或个人若认为慧博投研资讯所提供内容可能存在侵犯第三人著作权的情形,应该及时向慧博投研资讯提出书面权利通知,并提供身份证明、权属证明及详细侵权情况证明。慧博投研资讯将遵循"版权保护投诉指引"处理该信息内容;

    4.本条款是本站免责条款的附则,其他更多内容详见本站底部《免责声明》

    研究报告内容
    分享至:      

      事件:美国时间3月18日-3月21日期间,英伟达举行GTC 2024大会。http://www.hibor.com.cn【慧博投研资讯】其中美国时间3月18日下午1:00-3:00,英伟达CEO黄仁勋发表了《见证AI的变革时刻》的主题演讲,分享在芯片迭代、软件生态和机器人等应用上的进展。http://www.hibor.com.cn(慧博投研资讯)

      Blackwell新架构:多芯片封装、Transformer引擎和互联传输升级,助力单芯片性能和整体算力集群性能提升。1)4NP制程+双芯片设计,将2颗GPU以10 TB/s通信速率融合成一颗芯片,晶体管数量由H100的800亿提升至2080亿,大幅提升单芯片处理能力;2)第二代Transformer引擎,使Blackwell具备在FP4精度的AI推理能力,能在将性能和效率翻倍的同时保持混合专家模型的高精度;3)互联传输方面,NVLink + NVLink Switch + X800系列交换机提升集群通信连接速率;4)内嵌解压引擎、RAS引擎和加密协议。

      通信互联:推出第五代NVLink、NVLink Switch和X800系列交换机,增强大规模AI算力网络传输速度。1)第五代NVLink:带宽突破1.8TB/s,相比第四代提升一倍;2)NVLink Switch:支持576颗GPU组成计算集群,上一代仅支持256颗GPU连接;3)X800系列交换机:成为全球首款具备端到端800Gb/s吞吐量的网络平台,相比上代产品带宽容量提高5倍,网络计算能力提高9倍。

      英伟达推出B200 GPU、超级芯片、服务器到大型算力集群等全套算力硬件组合。1)B200:搭载8颗HBM3e,内存容量达192GB,FP4精度下算力高达20 PFLOPS,预计2024年晚些时间上市;2)超级芯片GB200:2颗Blackwell GPU +1颗Grace CPU,FP4精度下算力高达40PFLOPS;3)超级计算机GB200 NVL72:72颗BlackwellGPU+36颗Grace CPU,训练和推理性能相比等同数量的H100 GPU表现提升4倍和30倍;4)DGXSuper POD:一站式AI超算解决方案,搭载8套DGXGB200 NVL72系统,有望成为未来重要基础设施。

      软件工具链:NIM打通软硬件、降低客户软件开发难度,NeMo帮助企业采用专用数据开发定制大模型,英伟达将逐步转型成类苹果/微软的平台提供商。1)NIM推理微服务:集成数十个企业级生成式AI模型,可提供从最浅层的应用软件到最深层的硬件编程体系CUDA的直接通路,帮助开发者在CUDAGPU上创建和部署生成式AI应用;2)NeMo Retriever:挖掘企业“数据金矿”价值,客户可以使用其他公司或英伟达提供的行业基础NeMo并添加自己的数据来生成专用大模型;3)NIM已在半导体、医药等多领域落地。

      软件应用:英伟达拓展AI应用发展方向,积极在机器人和自动驾驶等领域开展合作。1)机器人:英伟达看好AI+机器人领域前景,发布机器人基础大模型Project GR00T,推出Jetson Thor计算机、Isaac软件开发工具和库等,并与众多公司在机器人开发领域达成合作关系;2)自动驾驶:自动驾驶芯片采用Blackwell新架构,英伟达与比亚迪等车企加强合作。

      硬件迭代+软件协同+拓展应用领域,我们看好AI算力产业链维持高景气度,建议关注:1)英伟达:AI芯片性能强劲,软硬件协同服务打开想象空间;2)其他AI芯片:AMD、英特尔;3)服务器:超微电脑、联想集团、工业富联、戴尔科技、慧与;4)HBM:三星电子、SK海力士、美光科技;5)ASIC芯片设计:Marvell科技、博通;6)CoWoS:台积电、日月光、Amkor科技;7)CoWoS设备:ASMPT;8)云技术服务商:Oracle;9)光模块:中际旭创。

      风险分析:1)下游应用程序开发和场景拓展较慢,导致AI商业化进度不及预期;2)B200等新品产能扩张受限,数据中心业务出货量不及预期;3)若AIGC进展不及预期,大模型训练和推理的算力需求高速增长的可持续性或降低。

      

    我要报错
    点击浏览报告原文
    数据加工,数据接口
    我要给此报告打分: (带*号为必填)
    相关阅读
    2024-04-28 港美研究 作者:付天姿,赵越 4 页 分享者:1862******177 买入
    2024-04-28 港美研究 作者:付天姿 3 页 分享者:lin****85 增持
    2024-04-28 港美研究 作者:付天姿,赵越 5 页 分享者:厌**和 买入
    关闭
    如果觉得报告不错,扫描二维码可分享给好友哦!
     将此篇报告分享给好友阅读(微信朋友圈,微信好友)
    小提示:分享到朋友圈可获赠积分哦!
    操作方法:打开微信,点击底部“发现”,使用“扫一扫”即可分享到微信朋友圈或发送给微信好友。
    *我要评分:

    为了完善报告评分体系,请在看完报告后理性打个分,以便我们以后为您展示更优质的报告。

    您也可以对自己点评与评分的报告在“我的云笔记”里进行复盘管理,方便您的研究与思考,培养良好的思维习惯。

    当前终端的在线人数: 76306
    温馨提示
    扫一扫,慧博手机终端下载!

    正在加载,请稍候...