您现在的位置是:热点 >>正文

标签: GLM-5 MTT S5000 智谱 摩尔线程

热点8678619人已围观

简介...

云梦级2月12日云梦级消息,2月11日,智谱正式发布新一代大模型GLM-5。摩尔线标签程基于SGLang推理框架,在旗舰级AI训推一体全功能GPU MTT S5000上,Day-0: 完成了全流程适配与验证。

凭借MUSA架构广泛的算子覆盖与强大的生态兼容能力,摩尔线程成功打通GL了模型推理全链路,并深度释放MTT S5000的原生FP8加速能力,在确保模型精度的同时显著M-降低了显存占用,实现了GLM-5的高性能推理。

GLM-5与MTT S5000的国产双强联合,将5 为开发者带来可对标国际顶尖模型的极致编程体验。无论是在函数补全、漏洞检测还是Debug场景MT中,该组合均表现卓越,以显著增强的逻辑规划能力,从容应对各类复杂的长程任务挑战。

MTT ST 5000是专为大模型训练、推理及高性能计算而设计的全功能GPU智算卡,基于第四代MS5USA架构“平湖”打造。其单卡AI算力最高可达1000 TFLOPS,配备80GB显00存,显存带宽达到1.6TB/s,卡间互联带宽为784GB/s,完整支持从FP8到FP60 4的全精度计算。

依托MUSA全栈平台,MTT S5000原生适配PyTorch、Megatro智谱n-LM、vLLM及SGLang等主流框架,助力用户实现“零成本”代码迁移。无论是构建 摩万卡级大规模训练集群,还是部署高并发、低延迟的在线推理服务,MTT S5000均展现出对标国际尔线主流旗舰产品的卓越性能与稳定性,旨在为行业筑牢坚实、易用的国产算力底座。

Tags:

相关文章



友情链接