新万博体育

　　猫眼电影记者 高嘉阳 报道Q8X2R7L1T4J5M9B6W3

智东西作者 程茜编辑 心缘

智东西10月31日消息，今天凌晨，大模型独角兽月之暗面开源混合线性注意力架构Kimi Linear，该架构首次在短上下文、长上下文、强化学习扩展机制等各种场景中超越了Transformer架构的全注意力机制（Full Attention）。

Kimi Linear的核心是线性注意力模块Kimi Delta Attention（KDA），通过更细粒度的门控机制扩展了Gated DeltaNet，从而能够更有效地利用有限状态RNN内存。论文中指出，Kimi Linear既可以满足Agent对效率和测试时扩展的需求，同时也不会牺牲模型质量。Kimi在社交平台X发布帖子称，Kimi Linear随时可以作为全注意力的直接替代品。

研究人员基于KDA和多头潜在注意力（MLA）的逐层混合，预训练了具有30亿个激活参数和480亿个总参数的Kimi Linear模型。

其实验表明，在相同的训练方案下，Kimi Linear在所有评估任务中均显著优于全注意力机制，同时将KV缓存使用率降低75%，并在100万个Token的上下文中解码吞吐量提升6倍。

论文提到，这些结果表明，Kimi Linear可以作为全注意力架构的直接替代方案，并具有更优异的性能和效率。

Kimi开源了KDA内核和vLLM的实现，并发布了预训练和指令调优的模型检查点。

▲Kimi Linear的Hugging Face开源主页

GitHub：https://github.com/fla-org/flash-linear-attention/tree/main/fla/ops/kda

Hugging Face：https://huggingface.co/moonshotai/Kimi-Linear-48B-A3B-Instruct

一、剑指标准注意力机制两大瓶颈，解码吞吐量最高提升6倍

随着Agent热潮涌起，尤其是在长时域和强化学习场景下的推理计算需求正成为核心瓶颈。这种向强化学习测试时扩展的转变，使得模型必须在推理时处理扩展轨迹、工具使用交互以及复杂的决策空间，从而暴露了标准注意力机制的根本性缺陷。

传统Transformer架构的softmax注意力机制，存在计算复杂度高、KV缓存占用大两大瓶颈。

在此基础上，Kimi提出了混合线性注意力架构Kimi Linear，可以满足Agent的效率需求和测试时间扩展性，同时又不牺牲模型质量。

其核心是Kimi Delta Attention（KDA），这是一个硬件高效的线性注意力模块，它在Gated DeltaNet的基础上扩展了一种更细粒度的门控机制。与GDN采用粗粒度的头部遗忘门控不同，KDA引入通道级对角门控，其中每个特征维度都保持着独立的遗忘率。

这种细粒度设计能够更精确地控制有限状态RNN的记忆，从而释放混合架构中RNN类模型的潜力。

至关重要的是，KDA使用Diagonal-Plus-LowRank（DPLR）矩阵的特殊变体对其转移动态进行参数化，从而实现定制的分块并行算法，该算法相对于一般的DPLR公式大幅减少了计算量，同时保持与经典delta规则的一致性。

Kimi Linear将KDA与周期性的全注意力层以3:1的均匀比例交错排列。这种混合结构在生成长序列时，通过全注意力层保持全局信息流，同时将内存和键值缓存的使用量降低高达75%。

通过匹配规模的预训练和评估，Kimi Linear在短上下文、长上下文和强化学习风格的后训练任务中，始终能够达到或超越强大的全注意力基线模型的性能，同时在100万上下文长度下，解码吞吐量最高可提升到完整MLA的6倍。

Kimi研究团队的主要贡献包括：

1、线性注意力机制KDA，改进了门控delta规则，提高了循环内存管理和硬件效率；

2、Kimi线性架构采用3:1 KDA与全局注意力比率的混合设计，在减少内存占用的同时超越了完全注意力质量；

3、大规模的公平经验验证：通过1.4T个token的训练运行，Kimi Linear在短、长上下文和RL风格的评估中优于完整的注意力机制和其他基线，并完全开源了内核、vLLM集成和检查点。

二、通过细粒度门控改进Delta规则，多个组件提升表达能力

论文中介绍了KDA的分块并行化，展示了如何在对角门控下保持稳定性的同时，将一系列秩为1的矩阵变换压缩成稠密表示，在输出阶段，研究人员采用块间递归和块内并行策略来最大化矩阵乘法吞吐量，从而充分利用张量核心的计算潜力。

▲输出阶段

在表达能力方面，KDA与广义DPLR公式一致，两者都表现出细粒度的衰减行为，然而这种细粒度的衰减会在除法运算期间引入数值精度问题。

通过将变量a和b都绑定到k，KDA有效地缓解了这一瓶颈，将二级分块矩阵计算的次数从四次减少到两次，并进一步消除了三次额外的矩阵乘法。因此，与DPLR公式相比，KDA的算子效率提高了约100%。

▲KDA算子效率情况

此外，KDA模型架构主要基于Moonlight，除了细粒度的门控之外，研究人员还利用了多个组件来进一步提升Kimi Linear的表达能力。

神经参数化：输出门采用类似于遗忘门的低秩参数化方法，以确保参数比较的公平性，同时保持与全秩门控相当的性能，并缓解注意力陷阱问题；

▲Kimi Linear模型架构示意图

混合模型架构：研究人员将KDA与少量全局注意力层混合。经验表明，3:1的统一比例，即3个KDA层对应1个全MLA层，能够提供最佳的质量-吞吐量平衡。

MLA层不采用位置编码（NoPE）：研究人员对所有MLA层应用了NoPE。其发现与先前的研究结果一致，用专门的位置感知机制来补充全局NoPE注意力机制，可以获得具有竞争力的长上下文性能。

▲Kimi Linear合成任务的结果

三、性能评估整体优于MLA，通用知识、推理、中文任务得分第一

研究人员评估了Kimi Linear模型与全注意力MLA基线、混合门控DeltaNet（GDN-H）基线的性能，所有基线均采用相同的架构、参数数量和训练设置。

研究人员使用1.4T预训练语料库将Kimi Linear模型与两个基线模型（MLA和混合GDN-H）进行了比较，评估主要集中在三个方面：通用知识、推理（数学和编程）以及中文任务，Kimi Linear在几乎所有类别中都始终优于两个基线模型。

在常识方面：Kimi Linear在BBH、MMLU和HellaSwag等所有关键基准测试中得分最高；推理能力方面：Kimi Linear在数学和大多数编程任务方面领先，与GDN-H相比，其在EvalPlus上的得分略低；中文任务上：Kimi Linear在CEval和CMMLU上取得了最高分。

▲Kimi Linear与全注意力MLA基线、混合GDN基线的性能比较

研究人员称，Kimi Linear可以成为短上下文预训练中全注意力架构的有力替代方案。

在经过相同的监督式微调流程后，研究人员测试发现，Kimi Linear在通用任务和数学与代码任务中均表现出色，始终优于MLA和GDN-H。

在通用任务中，Kimi Linear在各种MMLU基准测试、BBH和GPQA-Diamond上均取得了最高分。

在数学与编程任务中，它在AIME 2025、HMMT 2025、PolyMath-en和LiveCodeBench等高难度基准测试中超越了所有基线模型。

▲Kimi Linear与MLA、GDN-H在长上下文基准测试中的比较

总体结果总结：在预训练和SFT阶段，Kimi Linear优于GDN-H，GDN-H又优于MLA；在长上下文评估中，这一层级发生了变化，Kimi Linear保持领先地位，GDN-H的性能下降落后于MLA；在强化学习阶段，Kimi Linear性能优于MLA。

效率方面，随着序列长度的增加，混合Kimi Linear模型在较短的序列长度（4k–16k）下，性能与MLA相当，从128k开始速度显著提升。对于512k个序列，Kimi Linear的性能是MLA的2.3倍；对于1M个序列，其性能是MLA的2.9倍。在100万个Token上下文长度的解码效率方面，Kimi Linear的速度是全注意力机制的6倍。

▲Kimi Linear与MLA、GDN-H在效率方面的比较

结语：攻克全注意力机制瓶颈，Kimi Linear实现性能、效率双超越

Kimi Linear通过KDA的细粒度门控与高效分块算法、3:1混合注意力架构，首次实现性能超越全注意力以及效率大幅提升的突破，且在100万个token长上下文、强化学习等场景中表现突出，使得其可以兼顾效率和可扩展性，为下一代Agent发展、解码密集型大模型提供了高效解决方案。

同时，Kimi Linear可以作为全注意力架构的直接替代品，这意味着在实际应用中，开发者可以直接采用Kimi Linear架构来改进现有模型，而无需进行大规模的重新设计和训练，有效降低开发成本和计算资源成本。

??时事1：亚洲A级黄片

??10月27日,外媒：俄美代表在联合国就叙利亚局势针锋相对,　　“现在终于考完了，有种如释重负的感觉。”李龙说，“过去这三天精神压力很大，对体力和精神都是很大的挑战，通过这次考试对自己也有了新的认识。”,xnxnxxx。

??10月27日,保障“鲲鹏”的荣耀与责任,

共青团发言 篇1

,52pao国产成视频永久免费,一级毛片免费看看,雷电将军疯狂喷水。

??时事2：老女人在线观看午夜伊人黄视频

??10月27日,云南昭通市镇雄县山体滑坡已致4人遇难,

　　二、校园文化建设

,中文字幕 第 页,特黄片一级,草久视频。

??10月27日,雄安北斗技术应用大赛决赛开赛,

　　家长朋友们，感谢您对信任，让我们携起手来，共同为孩子营造一个理想的、和谐的成长环境，我很愿意成为家长的朋友，实际上从您孩子入学之际，我们就已经是朋友了。

,一级黄片视频在线,性交动态图在线观看,成年网站未满十八禁止看。

??时事3：三级乱轮黄片

??10月27日,江西新干上演箱包T台秀 当地民众演绎时尚新风潮,

　　三、加强领导，精心组织，确保培训任务的顺利完成 全县村干部培训班是我县干部培训工作的重点班次之一，各乡镇党委都派了领导干部带队参训，希望能配合党校加强对参训人员的管理，确保培训任务顺利完成。针对这期培训班，我再提以下几点要求：

,星野涩涩同人,真人A黄,色色 .com。

??10月27日,今年1-10月份，系统农产品批发市场交易额同比增长7.6%,

　　把错题用红色笔改的仔细，少讲闲话重视考纲，增强复习的有效性和针对性。 第四 注意饮食安全和交通安全

,亚洲熟女乱综合一区二区,又粗又黄又猛又爽大片APP,欧美性爱a片4色。

??时事4：实践 拍击 视频

??10月27日,德总理朔尔茨与乌总统泽连斯基通电话 就乌军事和人道主义局势交流,

　　第一个M是道德。还记得三年前你们拿到录取通知书吗，上面有两段英文。第二段的意思是，当你为你的'成功庆贺时别忘了含辛茹苦的父母和所有帮助过你的人。这是入学的第一课，百善孝为先，常怀感恩之心。曾经有位母亲在女儿进入一中学习后告诉我，孩子变得懂事了。那是一个周末的中午，母亲在厨房做饭，女儿看着她忙碌的身影，轻轻地说了句妈妈您好辛苦！母亲感慨落泪。同学们，请别吝啬自己的语言，多给父母一点温暖吧。我也不例外。5月21日下午，我的电话铃声响起。电话那头是你们的声音：“老师，6月9日是我们的毕业典礼，您可要回来呀！”离高考只剩半个月的你们，还惦念着这事，让我感动不已！谢谢你们！即将远行的你们，请记得“临行密密缝，意恐迟迟归”中的“密密缝”岂止是母亲的针线！常给父母多一声问候，多一份惦记吧。请记住千万不要让父母担心。这届同学遇到了前所未有的“高考移民”问题。你们为了阻止父母去省厅了解情况，冲着父母嚷叫“你们若去，我就不读书了！”也许你们的出发点是好的，但这样着实不妥。有诗云“由爱固生忧，由爱固生怖”，正是因为父母对孩子有无私的爱，才会为孩子无端生出各种担忧与害怕。你们已经长大了，希望你们懂得父母的不易，对父母孝敬有加。谢谢！

,色中色无吗AⅤ,人成在线免费观看,午夜福利av电影。

??10月27日,“新”人接力 续写北大荒希望之旅,

　　所有这一切都发生在电火石花间，两大族长一个被击杀，一个被俘，而另外的两处攻击也仅是刚发生而已。

,国产一级片操逼视频,heyzo黄片污视频在线观看,小红莓直播。