即时比分app下载 官方“版下载 下载地”址_新万博体育
即时比分app下载 最近更新|更新列表|字母检索|下载排行|苹果专区|分类导航
网络游戏 单机游戏 手机应用 电脑软件 专题 热门排行榜
澳门金沙城官方网址 足彩大赢家 免费领取彩金娱乐 AG真人平台 必赢平台官方网址

当前位置：首页 → 电脑软件 → 全网刷屏的“教育专家”赵菊英是谁 → 即时比分app下载 v3.401.8822.973739 最新版

即时比分app下载

即时比分app下载

  • 电脑版下载
猜你喜欢
标签： 即时比分app下载 平博电子竞技
详情
介绍
猜你喜欢
相关版本

内容详情

即时比分app下载

新智元报道

编辑：LRST

【新智元导读】杜克大学团队发现，扩散大语言模型只需关注少量「中奖」token，就能在推理时把速度提升61-97倍，还能让模型更懂格式、更听话。新策略DPad不训练也能零成本挑出关键信息，实现「少算多准」的双赢。

在大型语言模型的优化中，业界通常认为计算量与模型性能正相关。

然而，杜克大学陈怡然教授团队的一项最新研究DPad，却揭示了一个反直觉的现象：对于扩散大语言模型（dLLMs），通过一种「先验丢弃」策略，主动减少其计算量，不仅能带来高达61倍的推理加速，还能意外地增强模型语境学习的能力。

这一发现源于对dLLM内部一种「中奖彩票」（Lottery Ticket）现象的洞察。模型在生成文本时，其庞大的注意力网络中似乎隐藏着一个极度稀疏但高效的「中奖组合」。

DPad的核心贡献就在于，它无需训练，便能在推理时动态地、近乎零成本地找出这个组合，从而实现速度与精度的双重飞跃。

论文地址：https://arxiv.org/abs/2508.14148

代码地址：https://github.com/Crys-Chen/DPad

论文作者团队来自杜克大学CEI中心，由实习生陈欣骅、黄思韬及郭聪博士共同完成，指导教师为李海教授、陈怡然教授，其他作者还包括魏迟越、何银涛、张健一。

独特的注意力机制

dLLM的草稿纸

团队发现，dLLM的独特之处在于双向注意力，这使得它在生成文本时，会关注所有待生成的后文词元（Suffix Token），并将它们用作规划全文的「草稿纸」。

「草稿纸」机制使得模型能在Transformer的第n层往后文写入信息，然后在第n+1层读取后文信息，用于辅助前文的解码。

图1 「草稿纸机制」示意图，左下角为前文往后文写入信息，右上角为前文从后文读取信息

反直觉的实验

随手一抓，都能中奖？

前文提到，dLLM在解码前文时，会将大段的后文词元作为草稿纸。

团队进一步分析了模型对后文词元的注意力分数，发现模型对后文词元的注意力随着距离快速衰减，但还是会有一些零星「尖峰」。

说明后文词元有强烈的稀疏性，仅存在少量比较重要的词元。

这个发现完美契合了深度学习中著名的「彩票假说」（Lottery Ticket Hypothesis）。

受此启发，团队提出了「扩散彩票假说」（Diffusion Lottery Tickets Hypothesis）：在dLLM的后缀token中，存在一个稀疏的「中奖彩票」子集，只要能「抽中」它们，就能在大幅降低计算成本的同时，达到甚至超越完整模型的性能。

图2 当前块对后缀token的注意力分数图。可以看到，后文token存在部分尖峰

这也是正常词元剪枝(Token Pruning)的逻辑——统计注意力分数，确定不重要的词元，然后将其删除。

然而，DPad团队并不满足于此，他们进行了一项颠覆性的实验：强行删除那些距离很远、但注意力得分很高的「尖峰」词元。

结果出乎意料——模型的准确率几乎毫无损失！

不同于自回归模型，dLLM展现出了惊人的「自愈能力」，仿佛后文词元的信息可以自由流动，当一个关键路径被阻断时，注意力会立刻转移到邻近的词元上，形成新的信息通路。

图3 「注意力迁移」现象，删除「关键词元」后，模型的注意力尖峰转移到附近词元

这个「注意力迁移」现象有力地证明：dLLM的全局规划能力并非依赖于某些特定位置的「明星词元」，而更像是一种分布式的、可替代的冗余系统。

研究人员并没有必要花费大量的计算去确定「关键词元」，直接先验地剪枝，最终保有一套系统就行。

DPad的核心

从「事后剪枝」到「事前筛选」

基于上述发现，DPad提出了一套全新的「事前筛选」逻辑。

不再让模型「全力计算后才发现浪费」，而是在计算开始前就果断地丢弃掉绝大部分冗余部分。

实现该目标的核心是两大策略：

1.滑动窗口 (Sliding Window)：将模型的「目光」强制聚焦在当前解码位置附近的一个固定长度窗口内，从根本上杜绝了对遥远未来的无效关注。

这好比作家在写当前章节时，只详细规划紧邻的几章，而不是构思最后一章的具体措辞。

2.距离衰减丢弃 (Distance-decay Dropout)：在窗口内部，也并非一视同仁。DPad采用一种随距离递减的概率来保留词元，即「越近的草稿越详细，越远的草稿越潦草」。

这两招简单而有效，共同构成了一个动态的「中奖彩票」筛选器，让模型在每一解码步都只使用一个极度稀疏但高效的注意力子集。

图4 (a)自回归模型；(b) 传统dLLM，需要关注所有后缀token；(c) DPad，仅关注附近少数经过筛选的后缀token

颠覆性的成果

速度与精确度的意外双赢

DPad带来的并非传统意义上「牺牲精度换速度」的权衡，而是一场双赢。

「严格匹配」准确率的大幅提升

在常规评测中，「灵活匹配」（Flexible-Match）只要求答案数值正确，而「严格匹配」（Strict-Match）则要求模型严格遵循范例的格式与推理步骤，是衡量模型「语境学习能力」的关键指标。

图5 「灵活匹配」得分和「严格匹配」得分。原始模型（左）没能按照「####」的格式输出答案，没能通过「严格匹配」；使用DPad（右）后模型成功「记得」按「####」输出答案，通过「严格匹配」

图6 DPad在LLaDA-Instruct上的效果

实验显示，原始的LLaDA-Instruct模型在GSM8K任务上严格匹配率仅为37.38%，因为它虽然能算对答案，却无法很好地复刻范例格式。

而应用DPad后，通过滤除大量无关后文词元的干扰，模型能更专注于学习prompt中的有效信息，严格匹配率跃升至63.84%。

这表明，DPad让模型变得更「专注」，更能领会并执行复杂指令。

图7 DPad在LLaDA-1.5上的效果

图8 DPad在Dream-Base上的效果

意料之中的惊人加速比

当模型不再需要为海量冗余信息耗费算力后，其推理速度得到了指数级解放。在短示例、长文本生成场景下，DPad的优势被发挥到极致：

图9 在GSM8K(1024 tokens, 1-shot)任务上，LLaDA-1.5+Fast-dLLM+DPad实现了61.39倍的加速

图10 在HumanEval(2048 tokens, 0-shot)任务上，Dream-Base+Fast-dLLM+DPad实现了97.32倍的加速

在LLaDA-1.5模型（1024 词元输出）上，DPad结合并行解码等优化后，实现了61.39倍的综合加速。

在Dream模型（2048 词元输出）上，这一数字更是达到了97.32倍。

总结

DPad证明，对于dLLM而言，「少即是多」。

它通过一种巧妙的、免训练的「事前筛选」机制，揭示并利用了dLLM中潜在的稀疏结构。

其带来的不仅是接近两个数量级的推理加速，更有对模型深层能力的意外增强。

这项工作为我们开辟了一条全新的优化思路：未来的模型设计或许可以更大胆地探究稀疏性，让dLLM在「化繁为简」的道路上走得更远。

参考资料：

https://arxiv.org/abs/2508.14148

相关版本

    多平台下载

    查看所有0条评论>网友评论

    发表评论

    (您的评论需要经过审核才能显示) 网友粉丝QQ群号:766969941

    查看所有0条评论>>

    相关软件
    菲律宾AG平台 188体育平台首页 伯爵彩票官网下载 线上赌钱直营网 易博体育平台手机版 手机上怎么投注体彩 百老汇平台首页 森林舞会游戏打法 亚娱体育平台下载 狗万体育 申搏官网下载安装 新网代理 英皇体育买球 打鱼机吐分规律图 yabo体育外围 乐动体育投注网 海洋之神8590cc手机版 澳门皇冠360 新际国际网站 ayxapp官方 bbin手机登录 伟德体育真人百家乐 bwin备用网址 新宝2平台注册 m5彩票官方注册 爱赢体育app登录 百丽宫网页版 AG捕鱼王3D有什么诀窍吗 九游官网网站是多少 澳门十三第现在改网站 乐博娱乐 ag8亚洲游戏集团 亚新体育在哪玩 bg娱乐是黑平台吗 万博网投 bet356体育官网平台 澳门真人娱乐游戏 mg官方下载 全天上下分捕鱼 必威在线客服 大发体育快速开户 TVT体育 2020欧洲杯小组 杏彩官方登录 凤凰在线登录 优博官网买球 财神棋牌 官方网站 御匾会平台 欧宝体育APP 永乐软件安装 必赢亚洲网站 贝博918天堂体育登录 澳博体育开户网址 万利游戏棋牌游戏下载 ag厅真的吗 365足球软件 必赢亚洲平台网页版登录 九州体育app网站 必威手机官网登入 澳门葡京俱乐部app MG电子官网APP 威尼斯人009324COM 优众网官网 澳门永利皇宫充值 乐动体育网站多少 大发体育外围 体彩彩票下载官方网站 新香江赌经B 永利皇宫app可以提现吗 韦德投注网址 AYX爱游戏app体育官网 乐虎国际APP安卓下载 mobile体育 凯时赞助 ManBetX万博登录官网 球类体育app下载 沙巴体育亚盘 亚美体育app官方下载最新版 千赢国际在线登录 太阳城电子游戏网站 万喜国际真人赌博 金利来真人国际赌场 hth华体会最新版APP CQ9传奇电子游戏官网 线上银河游戏 杏彩手机版网页 sbf888注册 美高梅充值中心 真人实体网投平台 历届世界杯八强比分 金沙登陆网址 世博体育是真的吗 好玩的体育平台 多宝下载地址 九州体育官方 12bet最新登录网址 彩神彩票新登录网址 和记娱乐在哪玩 濠江精选A 尊龙网站下载 宝博游戏官网网址 伟德体育最新网站 伟德BV下载 曾女士铁板神数B 果博APP安卓 e世博足球 足球网上直播 怎么找到AG官方 w88优德手机版 足球滚球app 优信彩票登录大厅 沙巴怎么开户 手机买球的正规app ayx投注登录 新濠天地怎么注册 在线真人国际娱乐圈 千亿综合体育 美高梅集团登录 江南娱乐jn平台下载 鸿博体育app下载苹果
    热门网络工具
    新万博体育：我们 | 意见反馈 | 版权声明 | 合作伙伴 | 友情连接 | 联系我们 | 网站地图
    copyright 2022-2025 2265软件园.All Right Reserved