Kimi K3 开源多项核心组件支撑大规模智能体训练

source··23:30 编辑

比推消息,Kimi.ai 团队在开放 Kimi K3 模型权重和技术报告的同时,陆续开源多项底层基础设施:包括用于分布式 MoE 训练的高性能通信库 MoonEP、面向大规模智能体工作流的分布式环境系统 AgentENV(与 kvcache-ai 合作),以及基于 CUTLASS 的 Kimi Delta Attention 高性能内核 FlashKDA。

官方称,这些组件可降低大规模 MoE 与智能体强化学习训练中的通信与推理开销,并作为 flash-linear-attention 的即插即用后端使用。

原文链接
说明: Bitpush 所有文章只代表作者观点,不构成投资建议

相关推荐

加载中...