v5.701 最新版
v3.992.7902.3765 PC版
v5.682.4766 安卓最新版
v9.796.8037.669591 最新版
v6.781.7826 PC版
v8.593 IOS版
v6.391.9893.645539 安卓最新版
v1.266.5471.639128 安卓免費版
v9.355 最新版
v3.413.190.754822 IOS版
v4.246.8689 最新版
v5.354.7258 最新版
v1.103.2671 安卓版
v5.2.9495.717700 安卓最新版
v1.956 最新版
v5.531.1004.492316 安卓最新版
v1.301.2399 安卓最新版
v5.655.8301.592114 安卓漢化版
v9.884.3100 安卓最新版
v8.455.2572 安卓漢化版
v3.820.561.468693 安卓最新版
v7.677 安卓最新版
v9.146.7759 IOS版
v9.31.6168.762459 IOS版
v7.716.8523.94048 安卓最新版
v3.728.9509 IOS版
v5.998.3704.260709 安卓最新版
v8.828.9186.292433 安卓最新版
v7.940.4237 安卓版
v1.460 安卓最新版
v5.905 PC版
v1.161.6891.119479 PC版
v6.520.8301.308898 安卓版
v1.3.7347.390481 安卓版
v3.580.8773.55061 安卓漢化版
v9.24.737 PC版
v6.946.1847.877019 安卓漢化版
v8.110.1053.779848 安卓免費版
v6.458.7735.680930 PC版
v4.237.7151.589624 PC版
v1.868.9821.569279 安卓最新版
v4.71 PC版
v3.443.1511.657563 安卓最新版
v8.455.917.209027 安卓免費版
v1.966.3161.945231 安卓免費版
v2.314.3575 安卓免費版
v3.866.7889.471210 安卓免費版
v1.131.2871.263442 安卓版
v7.798 最新版
v2.640.4857.225244 最新版
v2.411.4666.320418 安卓版
v6.943.8415.336405 安卓漢化版
v2.870 最新版
v1.979.9237 最新版
v7.806.8139.807649 安卓漢化版
v1.564.4233.544255 安卓最新版
v4.402.4385 安卓最新版
v8.851.8078.574526 最新版
v9.172 最新版
v9.469.1235 安卓漢化版
v9.573.8108 PC版
v8.296.4165 最新版
v6.54.2944.853410 安卓漢化版
v5.672.8732.845233 安卓免費版
v5.257.9150.320722 安卓版
v3.895.2546.724168 安卓版
v3.74.6009.705544 安卓免費版
v9.258 安卓漢化版
v9.714.2172.367201 安卓版
v9.26.4229 安卓版
v6.18.3817 安卓免費版
v1.808 IOS版
v1.596 安卓免費版
v2.641.4493.138337 IOS版
v9.144.1448.951153 最新版
v6.944.7682.378289 IOS版
v5.302.4614.814131 最新版
v2.751.1170.658711 安卓漢化版
v8.969.9635.67902 安卓版
v6.507.667 安卓版
威尼斯手机
机器之心报道
机器之心编辑部
还是熟悉的节奏!
在假期前一天,DeepSeek 果然搞事了。
刚刚,DeepSeek-V3.2-Exp 开源了!
该模型参数量为 685B,HuggingFace 链接:
https://huggingface.co/deepseek-ai/DeepSeek-V3.2-Exp
此外,此次发布竟然也同步公开了论文,公开了 DeepSeek 新的稀疏注意力机制,为我们提供了新万博体育:结束细节:
https://github.com/deepseek-ai/DeepSeek-V3.2-Exp/blob/main/DeepSeek_V3_2.pdf
DeepSeek Sparse Attention(DSA)稀疏注意力机制
在官方介绍中,DeepSeek 表示 DeepSeek-V3.2-Exp 是实验版本。作为迈向下一代架构的过渡,V3.2-Exp 在 V3.1-Terminus 的基础上引入了 DeepSeek 稀疏注意力机制(DeepSeek Sparse Attention,DSA)—— 一种旨在探索和验证在长上下文场景下训练和推理效率优化的稀疏注意力机制。
DSA 也是 3.2 版本的唯一架构改进。
DeepSeek-V3.2-Exp 的架构,其中 DSA 在 MLA 下实例化。
重点要说的是,DeepSeek 称该实验版本代表了他们对更高效的 Transformer 架构的持续研究,特别注重提高处理扩展文本序列时的计算效率。
在 v3.2 版本中,DeepSeek 稀疏注意力 (DSA) 首次实现了细粒度稀疏注意力,在保持几乎相同的模型输出质量的同时,显著提高了长上下文训练和推理效率。
为了严格评估引入稀疏注意力机制的影响,DeepSeek 特意将 DeepSeek-V3.2-Exp 的训练配置与 9 月 22 日刚刚推出的 V3.1-Terminus 进行了对比。在各个领域的公开基准测试中,DeepSeek-V3.2-Exp 的表现与 V3.1-Terminus 相当。
新万博体育:信息,读者们可以查阅 DeepSeek-V3.2-Exp 的 huggingface 介绍。
值得一提的是,智谱的 GLM-4.6 也即将发布,在 Z.ai 官网可以看到,GLM-4.5 标识为上一代旗舰模型。
最后,有一波小节奏。在模型发布前,已经有网友在 Community 里发帖称:国庆是休息日,请给我们关注的同学一点休息时间。
对此,你怎么看?
相关版本
多平台下载
查看所有0条评论>网友评论