• 热点研报
  • 精选研报
  • 知名分析师
  • 经济数据库
  • 个人中心
  • 用户管理
  • 我的收藏
  • 我要上传
  • 云文档管理
  • 我的云笔记
  • 财通证券-AI行业跟踪报告(一):光铜共进,通讯带宽是AI重要迭代方向-240408

    日期:2024-04-08 19:38:33 研报出处:财通证券
    行业名称:电子行业
    研报栏目:行业分析 张益敏  (PDF) 6 页 1,140 KB 分享者:fj***7 推荐评级:看好
    请阅读并同意免责条款

    【免责条款】

    1. 用户直接或通过各类方式间接使用慧博投研资讯所提供的服务和数据的行为,都将被视作已无条件接受本声明所涉全部内容;若用户对本声明的任何条款有异议,请停止使用慧博投研资讯所提供的全部服务。

    2. 用户需知,研报资料由网友上传,所有权归上传网友所有,慧博投研资讯仅提供存放服务,慧博投研资讯不保证资料内容的合法性、正确性、完整性、真实性或品质;

    3. 任何单位或个人若认为慧博投研资讯所提供内容可能存在侵犯第三人著作权的情形,应该及时向慧博投研资讯提出书面权利通知,并提供身份证明、权属证明及详细侵权情况证明。慧博投研资讯将遵循"版权保护投诉指引"处理该信息内容;

    4.本条款是本站免责条款的附则,其他更多内容详见本站底部《免责声明》

    研究报告内容
    分享至:      

      AI大模型对带宽提出更高要求。http://www.hibor.com.cn【慧博投研资讯】算术强度(Arithemtic Intensity)代表模型计算过程中,从内存中读取的每个字节进行浮点计算的次数。http://www.hibor.com.cn(慧博投研资讯)以TransformerDecoder为基础的模型如GPT,其算术强度显著低于CNN模型和以Transformer Encoder架构为基础的模型(如BERT),对访存带宽提出了更高要求。

      英伟达新架构通讯带宽再上台阶。英伟达最新数据中心GPU架构Blackwell,相比上一代的Hopper架构,带宽在多个维度显著提升:1)HBM迭代至HBM3e(带宽8TB/s),相比H100的HBM3(带宽3TB/s)实现翻倍以上提升;2)NVLink带宽提升至1.8TB/s,相比Hopper架构翻倍;3)支持PCIe 6.0,带宽提升至256GB/s,相比Hopper(PCIe5.0128GB/s)翻倍。

       AI拉动光模块需求,重视技术迭代增量。数据中心GPU放量拉动光模块需求,LPO、CPO、硅光等是数据中心光模块技术重要迭代方向,包括:1)LPO/CPO不采用DSP芯片,降低系统损耗(LPO相比可插拔光模块功耗下降约50%)和成本(800GLPO总成本下降约8%);2)CPO缩短光引擎和芯片之间距离,减小尺寸、降低功耗、提高效率;3)硅光结合CMOS工艺超大规模、超高精度和光子技术超高速率、超低功耗(CPO/LPO架构下)的优势等。

       GB200拓展Scale up边界,降低客户TCO水平,拉动铜连接需求。英伟达最新机架解决方案GB200性能大幅提升,相同GPU数量下,训练速度可达H100的4倍;GB200 NVL36可实现万亿大模型推理,吞吐量达H100集群的30倍以上。相比GH200,GB200的CPU:GPU配比由1:1降低至1:2,客户TCO(Total Cost of Ownership,总拥有成本)得以进一步降低。随着GB200在下游放量,背板连接器、铜缆等核心零部件有望受益增长。

      建议关注:参考正文。

      风险提示:AI需求不及预期、新技术迭代不及预期、份额不及预期等。

      

    我要报错
    点击浏览报告原文
    数据加工,数据接口
    我要给此报告打分: (带*号为必填)
    相关阅读
    2024-03-27 行业分析 作者:张益敏 5 页 分享者:gut****ue 看好
    2024-03-07 行业分析 作者:张益敏,白宇 31 页 分享者:083****30 看好
    2024-03-06 行业分析 作者:张益敏,白宇 65 页 分享者:wg***1 看好
    2024-02-22 行业分析 作者:张益敏 27 页 分享者:尐*** 看好
    2024-01-19 行业分析 作者:张益敏 29 页 分享者:jin****ee 看好
    关闭
    如果觉得报告不错,扫描二维码可分享给好友哦!
     将此篇报告分享给好友阅读(微信朋友圈,微信好友)
    小提示:分享到朋友圈可获赠积分哦!
    操作方法:打开微信,点击底部“发现”,使用“扫一扫”即可分享到微信朋友圈或发送给微信好友。
    *我要评分:

    为了完善报告评分体系,请在看完报告后理性打个分,以便我们以后为您展示更优质的报告。

    您也可以对自己点评与评分的报告在“我的云笔记”里进行复盘管理,方便您的研究与思考,培养良好的思维习惯。

    当前终端的在线人数: 114511
    温馨提示
    扫一扫,慧博手机终端下载!

    正在加载,请稍候...