v6.104.9736.938539 最新版
v4.619 安卓漢化版
v1.26.3946.717820 IOS版
v2.928.3678 安卓免費版
v5.79.7546.166707 PC版
v7.276.6242.896031 安卓免費版
v3.42.5720.189878 安卓版
v4.803.3068.798051 IOS版
v6.687 PC版
v2.837 安卓版
v9.396.9014.111978 最新版
v4.265 安卓漢化版
v4.989.561.512728 PC版
v3.325 安卓最新版
v1.637.1807.15922 IOS版
v7.558.455 PC版
v2.790.7977 安卓最新版
v4.266.4954.679554 PC版
v9.857.2488.791472 安卓最新版
v7.827.2725 安卓免費版
v7.115 安卓版
v1.45.6068.536942 PC版
v9.137.9585 安卓版
v2.958.9271 IOS版
v7.782.5747.257871 安卓漢化版
v8.425 安卓漢化版
v8.954.1753.462340 安卓最新版
v9.824.1976.371298 IOS版
v5.986.3833.718971 安卓漢化版
v5.136 安卓版
v5.941 安卓版
v9.780.2805.193926 IOS版
v1.862 安卓漢化版
v9.267 安卓漢化版
v6.748.3448.835551 IOS版
v7.343.6536 安卓版
v8.974.7487 PC版
v6.695.3473.58434 安卓版
v5.215.2790.777010 安卓免費版
v5.305.9932.829456 最新版
v6.621 安卓漢化版
v6.458.4602.531235 IOS版
v3.248 IOS版
v5.646 安卓免費版
v7.986.6621 IOS版
v3.289.829.690739 IOS版
v1.534.5573 最新版
v8.628.5761.753759 PC版
v2.521.2340.629935 安卓最新版
v3.584.9395.176536 安卓最新版
v4.181.7343.983883 最新版
v9.917.5897.559070 IOS版
v2.642.5072.228450 安卓漢化版
v8.331.1366.295010 最新版
v7.656.4679.964026 IOS版
v1.654.3548.83038 安卓最新版
v2.597.6472 安卓漢化版
v7.942 PC版
v5.82.4960.148882 安卓漢化版
v5.880.8695 IOS版
v3.501.6589.715507 安卓最新版
v8.360 IOS版
v2.663.4457.288585 安卓免費版
v8.185.6790.539363 IOS版
v2.71 安卓漢化版
v7.829 PC版
v2.873.8947 安卓最新版
v3.114 安卓最新版
v8.344.3192.870837 PC版
v7.911.2486.826864 安卓免費版
v8.954.5154 最新版
v2.920.7550.213526 安卓最新版
v5.336.9972.714122 最新版
v3.662.2834 安卓最新版
v2.415.6382 PC版
v5.142.8874 安卓最新版
v3.228.6143.832081 安卓免費版
v4.895.8483.238895 安卓版
v8.978 IOS版
v8.111.7362.940807 PC版
馃崙馃崙馃崙
机器之心报道
机器之心编辑部
还是熟悉的节奏!
在假期前一天,DeepSeek 果然搞事了。
刚刚,DeepSeek-V3.2-Exp 开源了!
该模型参数量为 685B,HuggingFace 链接:
https://huggingface.co/deepseek-ai/DeepSeek-V3.2-Exp
此外,此次发布竟然也同步公开了论文,公开了 DeepSeek 新的稀疏注意力机制,为我们提供了新万博体育:结束细节:
https://github.com/deepseek-ai/DeepSeek-V3.2-Exp/blob/main/DeepSeek_V3_2.pdf
DeepSeek Sparse Attention(DSA)稀疏注意力机制
在官方介绍中,DeepSeek 表示 DeepSeek-V3.2-Exp 是实验版本。作为迈向下一代架构的过渡,V3.2-Exp 在 V3.1-Terminus 的基础上引入了 DeepSeek 稀疏注意力机制(DeepSeek Sparse Attention,DSA)—— 一种旨在探索和验证在长上下文场景下训练和推理效率优化的稀疏注意力机制。
DSA 也是 3.2 版本的唯一架构改进。
DeepSeek-V3.2-Exp 的架构,其中 DSA 在 MLA 下实例化。
重点要说的是,DeepSeek 称该实验版本代表了他们对更高效的 Transformer 架构的持续研究,特别注重提高处理扩展文本序列时的计算效率。
在 v3.2 版本中,DeepSeek 稀疏注意力 (DSA) 首次实现了细粒度稀疏注意力,在保持几乎相同的模型输出质量的同时,显著提高了长上下文训练和推理效率。
为了严格评估引入稀疏注意力机制的影响,DeepSeek 特意将 DeepSeek-V3.2-Exp 的训练配置与 9 月 22 日刚刚推出的 V3.1-Terminus 进行了对比。在各个领域的公开基准测试中,DeepSeek-V3.2-Exp 的表现与 V3.1-Terminus 相当。
新万博体育:信息,读者们可以查阅 DeepSeek-V3.2-Exp 的 huggingface 介绍。
值得一提的是,智谱的 GLM-4.6 也即将发布,在 Z.ai 官网可以看到,GLM-4.5 标识为上一代旗舰模型。
最后,有一波小节奏。在模型发布前,已经有网友在 Community 里发帖称:国庆是休息日,请给我们关注的同学一点休息时间。
对此,你怎么看?
相关版本
多平台下载
查看所有0条评论>网友评论