算力
美团开源1.6万亿参数模型,适配国产算力芯片
美团龙猫正式开源LongCat-2.5模型,总参数达1.6万亿。该模型针对国产算力芯片进行深度优化,支持百万上下文,为GPU算力供给提供新场景。
大型模型的开源为算力市场注入新的需求。美团龙猫发布的LongCat-2.5模型,以1.6万亿的总参数量和480亿的激活参数,展现出对大规模并行计算能力的极高要求。这种端到端的交付能力,直接拉动了对高性能GPU和专用推理芯片的算力消耗需求。
该模型在架构设计上,特别关注了显存与带宽受限环境下的部署效率。团队针对国产算力芯片进行了深度协同优化,这不仅提升了特定硬件平台上的推理效能,也为多元化算力供给体系的建设提供了重要的技术实践案例,降低了对单一算力来源的依赖。
随着支持百万上下文的模型能力向开发者社区开放,更广泛的GPU资源将被纳入模型训练与推理任务中。这为算力共享生态创造了新的应用场景,闲置的电脑GPU或专业算力平台,均可参与到这类高复杂度任务中,实现算力价值的有效转化。