2025-09-21 13:38:54 8,614次浏览

衡宇 发自 凹非寺量子位 | 公众号 QbitAI

刚刚，Meta FAIR推出了代码世界模型！

CWM（Code World Model），一个参数量为32B、上下文大小达131k token的密集语言模型，专为代码生成和推理打造的研究模型

这是全球首个将世界模型系统性引入代码生成的语言模型。

与现有代码大模型相比，CWM最与众不同的一点在于，它不仅能生成代码、理解语义。

更关键的是，它“懂得”代码如何执行，能模拟代码运行过程中变量的状态变化与环境反馈，从而推动代码理解、调试乃至规划的整体能力提升。

也就是说，它具备接近人类程序员的思考能力。

在多个代码与推理任务上，CWM均有出色表现，譬如其在SWE-bench Verified得分65.8%，领先所有开源同规模模型，已接近GPT-4级别。

更重要的是，Meta FAIR这次开源了模型代码、训练细节以及多个阶段的权重检查点，诚意十足。

有人给LeCun留言问：

“你不是一直认为语言模型只是AI道路上的一个支线（LLMs are an off ramp），怎么又推出了以语言模型为基础的世界模型？”

LeCun轻松回复称：

是的，不过咱现在讲的是编程，不是ASI哟～让大模型“懂动态执行”

CWM的诞生，直击当前大模型在代码生成中的一大痛点：

尽管现有大模型已经具备写代码的能力，但代码执行效果并不稳定，生成内容难以调试、不可执行，甚至存在隐藏逻辑错误。

FAIR团队认为，其根源在于大模型只是把代码当作文本来预测。

它不理解代码会如何运行，对变量状态的变化、函数调用的副作用一知半解（甚至一无所知）。

在FAIR团队看来：

如果希望模型像程序员一样思考，就必须教会它代码执行的“世界状态”变化。

因此，CWM首次在训练过程中引入代码世界建模（code world modeling）的概念，明确让模型学习“代码运行过程中，程序状态如何一步步演变”。

这意味着，CWM的理解维度，从静态文本跃迁到了动态执行。

Meta FAIR专攻AI与代码生成的资深研究科学家，也是CWM的资深核心贡献者Gabriel Synnaeve在上分享了CWM追踪执行计算”strawberry”中”r”个数的代码的例子：

你可以把它想象成一个可以设置为任何初始帧状态的神经‘pdb’，推理可以作为工具在标记空间中查询。

相较于传统代码大模型生成token接token的静态预测，CWM在三大能力有所升级——

第一，代码执行模拟。

CWM可以逐行模拟代码执行过程，预测每一行代码如何影响变量状态，甚至提前判断出执行中的潜在错误。

这种能力为构建“神经调试器”提供了可能。

在CWM的推理过程中，变量状态可以随代码运行不断更新。

它甚至可以模拟终止条件、循环展开、边界情况，从而更精准地理解程序逻辑。

第二，自我调试与修复。

不止会写代码，CWM还能自测、修错。

它能够在生成代码后自动构造测试用例，并在发现代码失败后用多种修改路径来尝试自我修复。

整个流程模拟了人类程序员常见的开发闭环：写→测试→改→再测。

第三，推理与规划能力。

面对复杂问题时，CWM还能进行推理与规划。

例如，在编程竞赛或数学任务中，它可以根据问题描述分析步骤、规划函数结构，再结合执行预测逐步生成并验证代码，展现出多轮逻辑推理能力。

CWM模型信息：参数、架构、性能一次看全

CWM的模型架构采用了64层的decoder-only Transformer，参数规模为32B。

它支持131k tokens的长上下文输入——这大幅拓展了复杂项目、多文件代码、文档上下文的处理能力。

相对应的，Attention结构采用了局部+全局交替机制，兼顾效率与上下文覆盖。

FAIR提供了以下3个checkpoints，供研究人员使用：

CWM预训练模型：例如用于新的后训练方法。CWM SFT：例如用于强化学习研究。CWM：例如用于推理时间扩展。

在与多个一线模型的评测对比上，CWM成绩如下：

SWE-bench Verified得分65.8%，领先所有开源同规模模型，接近GPT-4级别；LiveCodeBench v5得分68.6%，展示高复杂度编程任务上的准确性；Math-500得分96.6%，AIME 2024模拟题达76.0%；Terminal-Bench得分26.3%，高于Gemini 2.5 Pro；Aider Polyglot（多语言代码生成）得分35.1%，与Qwen3-32B相近。

综合来看，CWM在理解、生成、验证、修复等多个环节上，都有不俗表现。

FAIR团队称CWM验证了“代码世界建模”对提升推理与代码生成的价值。

Gabriel Synnaeve表示：

我对我的CodeGen团队所做的工作感到无比自豪！这个团队由博士生和经验丰富的资深员工组成。我们所有人都齐心协力，全力以赴，绝不将任何问题归咎于他人。整个Meta AI社区都为此共同努力。非常感谢整个领导层始终如一的支持。

三阶段训练流程，与数据集构建

CWM分三阶段进行训练——

第一阶段，预训练阶段（Pretrain）。

在这个阶段，CWM使用了8T tokens的数据进行通用语言与代码建模训练。

其中代码占比约30%，上下文长度为8k token。

第二阶段，中期训练阶段（Mid-train），这也是CWM最具特色的一步。

在这个阶段，模型引入了5T tokens的世界建模数据，用于训练模型识别“代码运行过程中，程序状态如何变化”。

这部分核心数据类型包括：

Python执行轨迹数据来自数千万函数调用与代码提交，记录每一行代码执行时变量的值如何变化；ForagerAgent数据模型驱动的智能体在真实Docker环境中运行代码，修复Bug，执行任务，生成真实交互轨迹（共300万条）；自然语言描述版本将执行过程转化为自然语言，便于泛化迁移。

也是在这一阶段，CWM的上下文能力扩展到了131k token，支撑对大型项目和代码流程的完整建模。

第三阶段，后训练阶段（SFT+多任务RL）。

最后，CWM进行了100B tokens的监督微调训练（SFT）和172B tokens的多任务强化学习（RL）训练。

训练任务覆盖了真实软件工程任务（如SWE-bench）、编程竞赛问题（CodeContests等）、数学推理题目（如AIME模拟题、MathQA）。

在这一阶段，FAIR团队使用异步RL机制、分布式环境以及自举方法，提升了模型在多环境、多任务间的泛化能力。

基础设施方面，CWM训练使用了FlashAttention-3、FSDP+TP并行策略，并采用fp8低精度加速。

Meta FAIR强调其训练过程遵循了Frontier AI Framework中的前沿AI安全框架。

结果表明，CWM不会对网络安全、化学、生物等高敏感领域构成滥用风险。

此外需要注意的一点是，当前CWM的世界建模数据仅支持Python语言，尚未覆盖C++、Java等主流语言或符号执行任务。

不过，研究团队表示未来将探索多语言扩展，有望形成自动化编程助手的通用框架。

Two More Things

BTW，如果你想使用使用CWM，有两点需要特别注意：

第一点，CWM主要面向代码理解与复杂推理研究，没有做RLHF。

因此，它并不适合对话任务或作为Chatbot使用。

第二点，CWM明确定位是“研究用”，即仅供非商业研究使用。

Anyway，总之，CWM团队选择了模型开源、数据透明、训练复现全开放。借此也向研究社区抛出一个重要问题：

如果大模型能理解世界，它能成为更好的程序员吗？

日本掀裙子撒尿㊙️动🌼漫 时政观察 🙍‍♀最新消息_新万博体育

新万博体育

图片 LeCun团队开源首个代码世界模型：能生成代码还能自测自修
首页 > > 最高人民法院发布涉农民事典型案例
LeCun团队开源首个代码世界模型：能生成代码还能自测自修

LeCun团队开源首个代码世界模型：能生成代码还能自测自修

「统计」P6F3X2M7T9QJ8L1B4WZR

274.27MB
版本V2.8.98
下载APK 高速下载
下载扒开美女❌狂揉❌真人玩具安装你想要的应用 更方便 更快捷 发现新万博体育：
喜欢 52%好评(45157人)
评论 33
LeCun团队开源首个代码世界模型：能生成代码还能自测自修截图0 LeCun团队开源首个代码世界模型：能生成代码还能自测自修截图1 LeCun团队开源首个代码世界模型：能生成代码还能自测自修截图2 LeCun团队开源首个代码世界模型：能生成代码还能自测自修截图3 LeCun团队开源首个代码世界模型：能生成代码还能自测自修截图4
详细信息
  • 软件大小: 90008.13189MB
  • 最后更新: 2025-09-21 13:38:55
  • 最新版本: V5.95852.5
  • 文件格式: apk
  • 应用分类:ios-Android 免费无遮挡🔞漫画网站下载51
  • 使用语言: 中文
  • : 需要联网
  • 系统要求: 8.35486以上
应用介绍
一，免费➕无码➕国产在线观右手，周于希视频绝版在线观看
二，双腿打开揉弄高潮❤真人，少萝扒开腿㊙️让人桶爽
三，布兰迪成人版电影在线，男性GAY无套✅2022
四，把白丝美女吊起来揉搓污文，91在线精品㊙️入口暗夜
五，把🍌伸进女人的🍑，3D同人蒂法❌AV黄漫网站
六，سکس18کوسدبل,娇妻小雯被黑人外教干，女朋把🍑扒开让客人玩国产女仆
七，女人体毛片
【联系我们】
客服热线：134-2881-646
加载新万博体育：
版本更新
V9.1.20
少妇与拘做受XXXXⅩXX动漫
  • 偷拍农民工嫖妓BBBBB

    旅行者x温迪的y酒派对小说阅读

    小乔被迫屈辱地扒开大长腿

    61452.17MB
    105好评

    男人自慰免费观看中国

  • 雏田疯狂❌喷水自慰

    男男GaYGAYS✅18潮喷

    91口爆吞精国产水多多

    58217.74MB
    125524好评

    小肉茎被撞的乱晃

  • 0verfIOw第一季

    女女女韩少功读后感800字

    新疆特黄AA片

    13.71MB
    318好评

    ai迪丽热巴被出水来

  • TheAⅤ在线播放

    扒开老师❌狂揉❌软件

    貂蝉被❌到爽羞羞话本小说

    53.24MB
    271好评

    女爱男欢免费观看电视剧武则天

  • 飞霄扒开🍑跪着让客人打屁

    裸体开腿羞羞游戏

    扒胡列娜衣服并❌她

    71.57MB
    707好评

    人与善交一级毛片A片视频下载

  • 美女被爆❌挤奶视频

    哔咔漫画永久免费版下载

    阿米娅裸体污图

    83.68MB
    335好评

    mm131王雨纯被❌污污污

  • 六十路垂乳高齢熟女のぞみ

    学生裸体❌❌网

    跪床上去自己把屁股扒开

    23.34MB
    104好评

    向日葵视频❤色版网站下载

  • 小乔被c🔞黄㊙️动漫❌

    美乳弹出来在线观看V66

    羞羞漫画歪歪漫画纲手去衣

    50.65MB
    928好评

    巨胸爆乳露双奶头被的网站

  • 女初高中打屁股❤ⅹ网站

    《浴室吃奶》电影

    成人扒开🍑伸进🍌涩涩

    83.50MB
    561好评

    赵露思被❌c🐻扒衣服

  • 萧炎❌美杜莎18禁羞羞

    撅好了,自己报数,姜实践微博

    美女裸体🔞🔞🔞网站春水

    83.25MB
    757好评

    一龙二凤双飞女友全文免费阅读

  • 原神胡桃大战史莱姆原版在哪看

    高潮喷水AⅤ

    国产精品㊙️久久一区二区

    94.55MB
    6232好评

    人妖❌㐅视频

  • 原神散兵脱了内裤打开腿污图

    བོད་ཀྱི泡妞177

    国产亚洲AV一区二区三区在线播放

    50.65MB
    839好评

    成人免费❌❌❌足控

  • 校花主动脱👙让我🌿视频

    3D动漫被❌羞羞涩涩视频

    蜜桃AV鲁一鲁一鲁一鲁樱花影院

    65.78MB
    748好评

    3d小舞的哀羞

  • 小🐔🐔伸进🈲🔞🔞真人

    免费❤成人黄动画

    两个花蒂尿孔惩罚绑住电击

    54.16MB
    751好评

    啊～黑瞎子…尿进来了好烫～高H

  • 湿吻呻吟射爱要

    狂野少女免费完整版电影动漫

    小鸟酱挑战37cm尾巴的视频

    57.33MB
    683好评

    求进后被学生🌿狠了

  • 国产精品秘入口在线看写真

    金三角少女集中营电影

    com🍆🍑

    24.72MB
    356好评

    ㊙️无码一区二区三区老师

  • 撕开杨幂胸罩揉吮奶头免费网站

    高清码➕❌♋免费漫画

    成人qq群

    13.34MB
    312好评

    Z〇Z○女人另类Z○Z〇男男

  • 男同🔞被🌿出水动漫aPP

    狗奴日常作者荔枝个人简历

    动漫男男Gay做受XXX动漫

    84.72MB
    216好评

    JIZXXXX😍11HD

  • 白子被狂❌到高潮小说

    拳皇冰女全彩H本子在线观看

    免费无遮挡🔞漫画

    45.17MB
    734好评

    美女扒开腿裸私密无遮让人摸

  • 爱情岛论坛自拍亚洲AV在线观看

    少妇乱婬伦短篇小说全集

    女性脱给我揉电影

    10.26MB
    187好评

    虎杖悠仁裸体❌开腿

  • 一次找两个鸭子来添p

    打屁股+脱裙子+趴下+打屁股作文

    原神小草神裸体❌开腿动漫

    44.76MB
    361好评

    草莓视频成人网站免费

  • 亚洲AV无码㊙️蜜桃-百度贴吧

    美女裸体被羞羞CNMO

    丰满大乳奶做爰ⅩXX视频小说

    91.79MB
    207好评

    大鲸鱼网页版官方入口

  • 男GAY无套免费网站

    布洛妮娅被下药强摸双乳

    好大⋯好爽⋯快点深一点羞羞视频

    30.36MB
    906好评

    灭火宝贝成人版之灭掉火男

  • 女女疯狂做受XXXX

    扒开❌狂揉❌喷水直播

    美女扒开腿❌果冻网站

    30.47MB
    546好评

    长靴䠵精bootsVideos

  • 欧美免费亚

    成人🔞高潮片免费樱桃网站

    金谷宇野侵犯巨乳人妻

    29.55MB
    124好评

    美女裸体无遮挡100%露出奶头

  • 导航入口秘国产潘甜甜

    动漫美女做🔞❌❌❌下载

    男女视频在线观看免费

    70.34MB
    459好评

    艾玛被❌超污网站

  • 女女扒开🍑伸进🍌❌真人国产AV学生姝被强视频 title="边吃奶边夹腿边做爰h男男视频" class="0v5366j9r7414 app-list-img" src="https://t11.baidu.com/it/u=1040017057,165456434&fm=30&app=106&f=JPEG?w=312&h=208&s=15B07D95426079116A1494FD03009032"">

    ❌点🔴w🛑㸔🅱️片❌漫画

    荷兰姓交大比赛录像回放

    详情
  • 邓紫棋自慰❌❌喷水好爽女奥特曼18❌本子ACG title="❌❌❌❌❌❌B" class="0v5366j9r7414 app-list-img" src="https://t10.baidu.com/it/u=3070224572,165461829&fm=30&app=106&f=JPEG?w=312&h=208&s=C6000AAC4838BAC8463F54AC0300A00B"">

    国产三级女友在线播放H

    揉我胸啊嗯出奶了黄漫

    详情
  • 美女裸体放屁㊙️网站少萝被❌脱脱内内做运动的视频 title="火影小南18禁❌污污污" class="0v5366j9r7414 app-list-img" src="https://t12.baidu.com/it/u=1041590673,165100299&fm=30&app=106&f=JPEG?w=312&h=208&s=D7383EC642E1D8EA0A87937F0300C078"">

    久久久久久精品免费观看黑人蜜臀

    女教师把男生胸露出来给人玩

    详情

日本打白嫩㊙️光屁屁漫画 类似软件

猜你喜欢

相关攻略
包含 饿了么 的应用集
包含 饿了么 的应用集
评论
  • SeoDog绅士常来 1天前
    动漫无码番肉18❤魅魔
  • 老阿姨做爰网站 7天前
    原神❌原神18禁漫画同人
  • 体育生GayGays✅✅免费自慰 9天前
    动漫男男裸体啪啪❌男同
  • 小鲜肉gary2023男的音乐表 5天前
    男女❌❌视频免费
  • 扒开关晓彤的腿❌出白浆 6天前
    女仆脱了个精光被主人摸
  • www.免费视频🈲🈲🈲 9天前
    紫彩乃
  • 拔掉尾巴一地水 3天前
    91丨九色丨国产丨PORNY
  • 女♀生无隐私🔞🔞无打码 7天前
    永久免费🔞🔞🔞末网让
  • 爆乳BOMB1～3集动漫在线观看 4天前
    6080yy理论三级在线看短视频
  • 鸣潮涩涩同人❤️网站 4天前
    穿越火线灵狐被强❌黄漫
美女挤出自己奶水视频
空被魈c到高潮的小黄文 -安卓手机网上最贴心的Android软件应用平台! 版权所有：牡丹生活 当前域名www.zuonidemaoseo.com 蜀ICP备2023036221号-2