您现在的位置是:热点 >>正文

蚂蚁百灵推出开源高效思考模型,推理成本大幅降低

热点3414人已围观

简介...

蚂蚁百灵大模型团队近日宣布,正式开源两款全新的高效思考模型:Ring-flash-l蚂蚁inear-2.0和 Ring-mini-linear-2.0。这些模型专为提高深度推理效率而设百灵计,同时发布的还有两款自主研发的高性能融合算子,分别是 FP8融合算子和线性 Attention 推推出理融合算子,旨在实现 “大参数、低激活” 的高效推理与超长上下文支持。

根据团队介绍,得益于开源架构的优化与高性能算子的协同工作,这两款新模型在深度推理场景下的成本仅为同等规模的密集模型的高效十分之一,而与之前的 Ring 系列相比,推理成本也降低了超过50%。这意味着,用户在进行复杂推思考理时,可以大幅降低计算资源的消耗,提升工作效率。

新模型的优势不仅在于成本的降低,另外一个重要因模型素是其训练与推理引擎算子的高度对齐。这种对齐允许模型在强化学习阶段进行长周期、稳定且高效,推的优化,使得这些模型在多个高难度推理榜单中持续保持最佳表现(SOTA)。这无疑为使用理成者在需要进行复杂推理任务时提供了更强大的工具。

作为开源项目,Ring-flash-lin本大ear-2.0和 Ring-mini-linear-2.0已在多个平台上发布,包括 Hugging幅降 Face 和 ModelScope。对此,开发者们可以在这些平台上获取更多信息并进行尝试。

随着这次蚂蚁开源,蚂蚁百灵大模型团队不仅展示了其在 AI 领域的技术实力,也为广大开发者提供了更为高效百灵的工具,助力他们在未来的 AI 开发与研究中取得更大的突破。

Tags:

相关文章

  • 标签: 信胜科技 北交所IPO 电脑刺绣机

    热点

    云梦级1月12日云梦级消息,1月16日,北交所上市委将召开审议会议,对浙江信胜科技股份有限公司的IPO申请进行审核,公司计划募集资金4.49亿元,保荐机构为国信证券股份有限公司,律师事务所为浙江天册律...

    【热点】

    阅读更多
  • 标签: Meta Dreamer 汪滔 扎克伯格

    热点

    云梦级3月24日云梦级消息,据彭博社报道,Meta 挖走了 AI 创业公司 Dreamer 背后的创始人及其团队。该公司在今年早些时候成立,旨在帮助用户创建自己的 AI 智能体。 据 Meta 首席...

    【热点】

    阅读更多
  • 标签: 英伟达 cuDF cuVS GTC2026

    热点

    云梦级3月17日云梦级消息,GPU 技术大会(GTC)3 月 17 日在美国圣何塞拉开帷幕,英伟达首席执行官黄仁勋在演讲中明确指出,“Token”(词元)是新 AI 时代的基础构建单元。 黄仁勋在演讲...

    【热点】

    阅读更多


友情链接