• 热点研报
  • 精选研报
  • 知名分析师
  • 经济数据库
  • 个人中心
  • 用户管理
  • 我的收藏
  • 我要上传
  • 云文档管理
  • 我的云笔记
  • 平安证券-计算机行业点评:无损长文本长度达200万字,Kimi打开大模型应用新世界-240322

    日期:2024-03-22 13:52:33 研报出处:平安证券
    行业名称:计算机行业
    研报栏目:行业分析 付强,闫磊,黄韦涵  (PDF) 3 页 513 KB 分享者:面对***活 推荐评级:强于大市
    请阅读并同意免责条款

    【免责条款】

    1. 用户直接或通过各类方式间接使用慧博投研资讯所提供的服务和数据的行为,都将被视作已无条件接受本声明所涉全部内容;若用户对本声明的任何条款有异议,请停止使用慧博投研资讯所提供的全部服务。

    2. 用户需知,研报资料由网友上传,所有权归上传网友所有,慧博投研资讯仅提供存放服务,慧博投研资讯不保证资料内容的合法性、正确性、完整性、真实性或品质;

    3. 任何单位或个人若认为慧博投研资讯所提供内容可能存在侵犯第三人著作权的情形,应该及时向慧博投研资讯提出书面权利通知,并提供身份证明、权属证明及详细侵权情况证明。慧博投研资讯将遵循"版权保护投诉指引"处理该信息内容;

    4.本条款是本站免责条款的附则,其他更多内容详见本站底部《免责声明》

    研究报告内容
    分享至:      

      事项:

      近日,国内人工智能公司月之暗面( Moonshot AI )在其微信公众号“Moonshot AI”宣布,该公司的Kimi智能助手在长上下文窗口技术上取得突破,无损上下文长度可以到200万字。http://www.hibor.com.cn【慧博投研资讯】此前,在2023年10月公司的智能助手可以实现20万无损上下文长度,最新能力提升了一个数量级。http://www.hibor.com.cn(慧博投研资讯)

      平安观点:

      Kimi智能助手短期内能力得到了大幅提升,在国内热度快速提高。此次发布的无损上下文长度达到200万字,较此前的20万字,中间仅相隔了5个月左右。而公司月之暗面也是在2023年4月份才成立,成立时间也不足一年。Kimi智能助手又称Kimi Chat,是月之暗面基于自研千亿参数大模型打造的对话式AI助手产品,于2023年11月正式面向市场应用。该产品最强的能力在于长上下文处理,包括长文总结和生成、联网搜索、数据处理、编写代码、用户交互和翻译等。上线之后,该工具的热度快速提升。根据Similarweb数据显示,近几周Kimi的访问量上升趋势非常明显,该网站统计的最近四周(2.20-2.26、2.27-3.4、3.5-3.11、3.12-3.18)的访问量分别是100.3万、112.8万、152.0万和225.0万。虽然公司对服务器持续进行了扩容,但是面对快速的用户增长,压力已经开始显现。

      长文本有望打开大模型应用新世界。大模型的参数量决定了其能够支持多复杂的“计算”,而能够接收多少文本输入(即长文本技术)则决定了大模型有多大的“内存”,两者共同决定模型的应用效果。当前大模型输入长度普遍较低的现状对其技术落地产生了极大制约,比如虚拟角色会“忘记”部分重要信息,Agent无法获得全面的输入信息可能出现运行失败,部分游戏产品由于无法处理长文本能力而被迫简化剧情等。Kimi支持更长的上下文意味着大模型拥有更大的“内存”,从而使得大模型的应用更加深入和广泛,公司官方公众号显示,Kimi可以通过多篇财报进行市场分析、处理超长的法务合同、快速梳理多篇文章或多个网页的关键信息、基于长篇小说设定进行角色扮演等等。大模型无损上下文长度的数量级提升,未来会帮助用户打开对AI应用场景的想象力,包括完整代码库的分析理解、可以自主完成多步骤复杂任务的智能体Agent、不会遗忘关键信息的终身助理、真正统一架构的多模态模型等。

      “无损压缩”和文本长度提升是长文本技术需要兼顾的要求。公司创始人表示,如果要实现通用人工智能,无损的长上下文将会是一个很关键的基础技术。历史上所有的模型架构演进,本质上都是在提升有效的、无损的上下文长度。上下文长度在提升的过程中,需要兼顾长度和无损压缩水平两个指标,这样才能有意义的规模化。从此次升级的间隔来看,时间非常短,可见公司并没有走渐进式的迭代路线,当然面临的技术难度应该也更大。公司的研发和技术团队从模型预训练到对齐、推理环节均进行了原生的重新设计和开发,在千亿参数下实现了无损的长程注意力机制,不依赖于滑动窗口、降采样、小模型等对性能损害较大的“捷径”方案,兼顾了对长度和“无损”的两项指标。

      投资建议:Kimi的火热,是国内在大模型基础技术研究方面的突破的一个缩影。无损长文本模型的出现,也解决了很多大模型在应用中的痛点,打开了大模型的应用空间。AIGC最终的落地,还是要找到合适的场景。Kimi作为千亿大模型,能够支持复杂运算,同时还能接受和处理大文本,解决了很多大模型实际应用中的难题,后续商业化潜力将凸显。目前,Kimi智能助手已在苹果iOS应用、Android应用、小程序、网页Web等多端平台上线。我们继续看好AIGC产业链,尤其是大模型的应用潜力。在标的方面:1)算力方面,推荐浪潮信息、中科曙光、紫光股份、神州数码、海光信息、龙芯中科,建议关注工业富联、寒武纪、景嘉微、高新发展、拓维信息、软通动力;2)算法方面,推荐科大讯飞;3)应用场景方面,强烈推荐中科创达、恒生电子、盛视科技,推荐金山办公,建议关注万兴科技、同花顺、彩讯股份;4)网络安全方面,强烈推荐启明星辰。

      风险提示:1)国内算力提升速度不及预期的风险;2)版权等合规监管风险;3)技术演进风险

    我要报错
    点击浏览报告原文
    数据加工,数据接口
    我要给此报告打分: (带*号为必填)
    *我要评分:
    暂无评价
    相关阅读
    2024-04-28 行业分析 作者:付强,徐碧云 13 页 分享者:x**c 强于大市
    2024-04-28 行业分析 作者:闫磊,付强,黄韦涵 11 页 分享者:gdp****03 强于大市
    2024-04-26 行业分析 作者:付强,闫磊,黄韦涵 3 页 分享者:wi***1 强于大市
    2024-04-23 行业分析 作者:闫磊,付强,黄韦涵 36 页 分享者:lel****04 强于大市
    2024-04-22 行业分析 作者:闫磊,付强,黄韦涵 11 页 分享者:409****56 强于大市
    关闭
    如果觉得报告不错,扫描二维码可分享给好友哦!
     将此篇报告分享给好友阅读(微信朋友圈,微信好友)
    小提示:分享到朋友圈可获赠积分哦!
    操作方法:打开微信,点击底部“发现”,使用“扫一扫”即可分享到微信朋友圈或发送给微信好友。
    *我要评分:

    为了完善报告评分体系,请在看完报告后理性打个分,以便我们以后为您展示更优质的报告。

    您也可以对自己点评与评分的报告在“我的云笔记”里进行复盘管理,方便您的研究与思考,培养良好的思维习惯。

    当前终端的在线人数: 67112
    温馨提示
    扫一扫,慧博手机终端下载!

    正在加载,请稍候...