• 热点研报
  • 精选研报
  • 知名分析师
  • 经济数据库
  • 个人中心
  • 用户管理
  • 我的收藏
  • 我要上传
  • 云文档管理
  • 我的云笔记
  • 东方证券-计算机行业动态跟踪:阶跃星辰发布万亿参数MoE模型,大模型混战进入新阶段-240323

    日期:2024-03-23 19:05:12 研报出处:东方证券
    行业名称:计算机行业
    研报栏目:行业分析 浦俊懿,陈超  (PDF) 10 页 707 KB 分享者:纵横***z 推荐评级:看好
    请阅读并同意免责条款

    【免责条款】

    1. 用户直接或通过各类方式间接使用慧博投研资讯所提供的服务和数据的行为,都将被视作已无条件接受本声明所涉全部内容;若用户对本声明的任何条款有异议,请停止使用慧博投研资讯所提供的全部服务。

    2. 用户需知,研报资料由网友上传,所有权归上传网友所有,慧博投研资讯仅提供存放服务,慧博投研资讯不保证资料内容的合法性、正确性、完整性、真实性或品质;

    3. 任何单位或个人若认为慧博投研资讯所提供内容可能存在侵犯第三人著作权的情形,应该及时向慧博投研资讯提出书面权利通知,并提供身份证明、权属证明及详细侵权情况证明。慧博投研资讯将遵循"版权保护投诉指引"处理该信息内容;

    4.本条款是本站免责条款的附则,其他更多内容详见本站底部《免责声明》

    研究报告内容
    分享至:      

      3月23日,阶跃星辰发布了Step-2万亿参数MoE语言大模型预览版。http://www.hibor.com.cn【慧博投研资讯】Step-2模型采用了MoE架构,聚焦深度智能的探索,并提供API接口给部分合作伙伴试用。http://www.hibor.com.cn(慧博投研资讯)训练万亿参数模型体现了阶跃星辰的核心技术能力,也表明阶跃星辰在通用人工智能领域追赶OpenAI的实力和决心。

      模型规模提升到万亿对算力、系统、数据和算法都提出了新要求。在过去的一年,一些国内领先的大模型基本达到了GPT-3.5的水平,业内也开始不断向着GPT-4的能力去突破。但GPT-3.5只是一个千亿参数的模型,要达到GPT-4的万亿规模参数,各个维度的要求都上了一个台阶,对算力、系统、数据和算法四大要素都有着极高要求。根据阶跃星辰数据,至少需要等效A800万卡单一集群,高效稳定的训练,十万亿tokens高质量的数据,加上驾驭新颖的MoE架构,任何一环出现短板,就很难将模型Scale Up至万亿参数。阶跃星辰具备打造万亿参数模型的坚实基础,经过一年沉淀,才能实现万亿级参数模型的成功。

      阶跃星辰的Step系列模型已经开放试用。截至目前,阶跃星辰已经推出了Step-1千亿参数语言大模型、Step-1V千亿参数多模态大模型,以及Step-2万亿参数MoE语言大模型的预览版。Step系列模型在图像理解、多轮指令跟随、数学能力、逻辑推理、文本创作等方面性能达到业界领先水平。基于Step系列模型,阶跃星辰推出了名为“跃问”的聊天机器人平台和“冒泡鸭”AI智能体平台,目前均可免费试用,用户可以自由和机器人聊天,也可以自己定制个性化的智能体。

      大模型领域竞争日益激烈,长文本和多模态技术是重点。近期随着月之暗面Kimi模型的热度高涨,大模型领域竞争又重新激烈起来,进入了“卷”长文本的阶段。而多模态模型可能是下一个新战场。多模理解和生成的统一是通往AGI的必经之路,当前正处于多种模态走向融合的阶段,无论是语言、视觉还是声音,现在都可以映射到同一个空间加以表征。在未来阶段,有了理解和生成的统一,就可以进一步和具身智能结合起来,形成一个世界模型。再进一步,在世界模型的基础上加入复杂任务的规划能力和抽象概念的归纳能力,就真正演化到了AGI的阶段。

      AI应用落地的曙光初现,算力需求预计将持续提升。长文本、多模态等技术可以通过提供更多上下文信息、视觉信息等,来辅助模型进一步减少歧义,并且基于所提供事实基础上的归纳、推理也更加准确,进一步推进AI产业的应用落地。同时,上下文长度的提升和多模态信息的加入必然会带来算力消耗的提升,即使在业界不断优化的情况下,对于算力的需求仍会有较大程度的增长。我们认为,随着各大模型厂商对于模型能力的“内卷”进入新阶段,对AI算力的需求将会进一步提升。

      投资建议与投资标的

      我们认为,近期大模型领域进展突破不断,有望加速AI相关应用落地,同时对于算力的需求也会随之大幅提升。

      AI应用:建议关注金山办公(688111,增持)、新致软件(688590,未评级)、科大讯飞(002230,买入)、同花顺(300033,未评级)、彩讯股份(300634,未评级)、上海钢联(300226,增持)等公司

      AI算力:建议关注云赛智联(600602,未评级)、中科曙光(603019,买入)、海光信息(688041,买入)、寒武纪-U(688256,未评级)、润泽科技(300442,未评级)、华铁应急(603300,买入)等公司

      其他工具:星环科技-U(688031,未评级)

      风险提示

      技术落地不及预期;政策监管风险

    我要报错
    点击浏览报告原文
    数据加工,数据接口
    我要给此报告打分: (带*号为必填)
    相关阅读
    2024-04-14 行业分析 作者:浦俊懿,陈超 12 页 分享者:m4a****08 看好
    2024-04-09 行业分析 作者:浦俊懿,陈超 4 页 分享者:sunz******eng 看好
    2024-04-07 行业分析 作者:浦俊懿,陈超 12 页 分享者:liu****31 看好
    2024-04-01 行业分析 作者:丁昊,王天一,浦俊懿 30 页 分享者:ext****10 看好
    2024-03-31 行业分析 作者:浦俊懿,陈超 13 页 分享者:123****8s 看好
    关闭
    如果觉得报告不错,扫描二维码可分享给好友哦!
     将此篇报告分享给好友阅读(微信朋友圈,微信好友)
    小提示:分享到朋友圈可获赠积分哦!
    操作方法:打开微信,点击底部“发现”,使用“扫一扫”即可分享到微信朋友圈或发送给微信好友。
    *我要评分:

    为了完善报告评分体系,请在看完报告后理性打个分,以便我们以后为您展示更优质的报告。

    您也可以对自己点评与评分的报告在“我的云笔记”里进行复盘管理,方便您的研究与思考,培养良好的思维习惯。

    当前终端的在线人数: 96292
    温馨提示
    扫一扫,慧博手机终端下载!

    正在加载,请稍候...