(1秒深度分析)BOB下载电脑版v36.78.6.87.44.24.77-2265安卓网_新万博体育

新万博体育

图片
搜索
猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

Meta「分割一切」进入3D时代!图像分割结果直出3D,有遮挡也能复原

2025-11-19 01:34:13
来源:

猫眼电影

作者:

阿道弗·坎比亚索

手机查看

  猫眼电影记者 陈忧子 报道Q8X2R7L1T4J5M9B6W3

克雷西 发自 凹非寺量子位 | 公众号 QbitAI

Meta的“分割一切”,这回给3D建模带来了新的范式——

现在,图像分割得到的切片,可以直接转换成3D模型了。

只要一张图,就能对里面的每个物体进行单独重建,有遮挡也不用怕。

这就是Meta MSL实验室刚刚发布的三维重建模型SAM 3D。

与此同时,MSL实验室之前投稿ICLR 2026的分割模型SAM 3,也终于露出了真容。

之前SAM 3就在一般图像分割的基础上增强了语义理解,论文一公布就备受关注。

现在又上新SAM 3D,许久不见出成果的Meta AI,总算是打出了一组王炸。

分割结果生成3D模型

SAM 3D家族包含两个新模型——SAM 3D Objects,用于物体和场景重建;以及SAM 3D Body,专注于人体,这两个模型均能够将静态2D图像转换为精细的3D重建模型。

SAM 3D Objects能够从单张自然图像中实现基于视觉的3D重建和物体姿态估计。

即使存在小物体、间接视角和遮挡现象等障碍,依然可以进行重建,弥补了仅凭像素不足以完成重建的不足。

SAM 3D Objects的性能显著优于现有方法,能够很好地泛化到多种类型的图像,并支持密集场景重建。

在与人类用户进行的直接对比测试中,其胜率至少达到其他领先模型的5倍。

类似地,SAM 3D Body在涉及不寻常姿态、图像部分被遮挡或多人等复杂情况下也依然能对人物进行建模。

相比其他人物重建模型,SAM 3D Body同样取得了SOTA成绩。

同时,Meta还与艺术家合作构建了SAM 3D艺术家物体数据集SA-3DAO,用于评估基于视觉的物理世界图像三维重建能力。

不只分割,还更懂语义

再来看SAM 3。

传统模型通常专注于使用固定的文本标签集进行对象分割,这限制了它们处理用户请求的能力,因为用户请求往往涉及分割预定义列表中不存在的概念。

这意味着现有模型可以分割像“人”这样常见的概念,但难以处理像“红色条纹伞”这样更细微的概念。

SAM 3则通过引入可提示概念分割功能克服了这些局限。

它能够查找并分割由文本或示例提示定义的概念的所有物体,消除了固定标签集的限制。

你可以直接通过文本指令,让SAM 3从图像中找到符合描述的物体。

也可以处理稍复杂的提升,例如输入“条纹猫”,SAM 3自己就能找出并分割图中所有带条纹的猫猫。

除了文本,还可以直接在图中选中某个物体,让SAM 3找到所有同类。

为了评估大词汇量检测和分割性能,Meta还创建了“基于概念的任意分割”(SA-Co)基准测试,用于图像和视频中的可提示概念分割。

与之前的基准测试相比,SA-Co要求模型识别更大的概念词汇量。

实验结果表明,SAM 3在可提示分割任务中刷新了SOTA。

在LVIS数据集的零样本分割任务中,SAM 3的准确率达到了47.0,比此前的SOTA 38.5提升不少。

在新的SA-Co基准测试中,SAM 3的表现至少比基线方法强2倍。

另外,在针对视频的PVS(Promptable Visual Segmentation)任务中,SAM 3的性能也优于SAM 2。

SAM如何实现?

SAM 3的核心架构建立在一个共享的Perception Encoder视觉骨干网络之上。

该骨干网络同时服务于检测器和追踪器两个模块,确保了图像特征提取的一致性与高效性。

其检测器部分基于DETR架构进行了改进,引入了包含文本提示和图像示例的提示Token。

这些Token与图像特征在融合编码器中通过交叉注意力机制进行交互,随后输入到解码器中生成对象查询。

为了解决开放词汇检测中常见的幻觉问题(即模型在目标不存在时仍强制预测出物体),SAM 3创新性地设计了一个Presence Head来解耦识别与定位任务。

该模块引入了一个可学习的全局存在Token,专门负责预测目标概念在当前图像中出现的概率,而原本的对象查询则专注于在假设目标存在的前提下计算局部匹配概率,最终的置信度得分为两者的乘积。

在视频处理方面,SAM 3继承并扩展了SAM 2的记忆机制,即通过追踪器利用记忆库存储过去帧的空间特征,将上一帧的掩码传播到当前帧。

为了处理新出现的物体,系统使用一种匹配函数,基于IoU等指标将追踪器预测的掩码与检测器在当前帧新发现的对象进行关联和更新,从而实现跨帧的身份保持与新目标的自动捕获。

SAM 3D Objects的核心则是通过两阶段的生成模型来实现几何与纹理的逐步构建。

首先,系统使用DINOv2编码器分别提取裁剪后的物体特征和全图上下文特征作为条件输入。

第一阶段的几何模型采用了一个参数量达12亿的流匹配Transformer,并结合了Mixture-of-Transformers(MoT)架构,主要用于预测物体的粗糙体素形状以及其在相机坐标系下的旋转、平移和缩放等6D布局参数。

当粗糙的几何结构确定后,第二阶段的纹理与精细化模型接手工作。

该模型基于稀疏潜在流匹配架构,仅从第一阶段预测的粗糙形状中提取活跃体素进行处理。

这种稀疏化处理极大地提高了计算效率,它可以细化几何细节并合成高保真的物体纹理,最终通过一对VAE解码器将潜在表示解码为网格(Mesh)或3D高斯溅射以适应不同的渲染需求。

为了支撑这一生成过程,Meta构建了一个独特的model-in-the-loop(MITL)数据引擎。

由于人类难以直接标注3D形状,该引擎让模型生成多个3D候选结果,利用Best-of-N搜索策略由人类标注员从8个候选中选择最佳匹配项。

然后,基于点云参考对齐物体在场景中的位姿,从而低成本地获取了大规模且精准的图像-3D配对数据。

针对人体结构的SAM 3D Body模型,其核心在于摒弃了传统的Skinned Multi-Person Linear模型,转而采用Momentum Human Rig表示法。

这种表示法将骨骼姿态与身体形状参数显式解耦,避免了传统模型中骨肉粘连导致的调整失真问题。

在模型架构上,SAM 3D Body采用了一种可提示的编码器-解码器设计,支持输入二维关键点或掩码作为提示Token,与图像特征一起指导推理过程。

为了解决全身模型往往难以兼顾手部细节的痛点,SAM 3D Body设计了独特的双路解码器结构。

虽然身体和手部共享同一个图像编码器,但在解码阶段分流——

身体解码器利用全局特征和Momentum Human Rig Token预测全身的姿态、形状及相机参数;手部解码器则专门关注手部裁剪图像的特征,利用交叉注意力机制处理手部细节。

这种设计通过在Token层面融合全身与手部信息,使得模型既能通过身体解码器输出连贯的全身网格,又能利用手部解码器的输出来修正末端细节。

网友评价其精妙之处在于它并非凭空臆造几何图形,而是像人类一样,利用日常经验推断几何形状,这意味着混合场景理解从此普及开来,是真正意义上的基础模型具身化。

现在,成为开发者的最好时机已经来临了。

项目主页SAM 3:https://ai.meta.com/sam3SAM 3D:https://ai.meta.com/sam3dGitHubSAM 3:https://github.com/facebookresearch/sam3SAM 3D Objects:https://github.com/facebookresearch/sam-3d-objectsSAM 3D Body:https://github.com/facebookresearch/sam-3d-body论文地址SAM 3:https://ai.meta.com/research/publications/sam-3-segment-anything-with-concepts/SAM 3D Objects:https://ai.meta.com/research/publications/sam-3d-3dfy-anything-in-images/SAM 3D Body:https://ai.meta.com/research/publications/sam-3d-body-robust-full-body-human-mesh-recovery/

??时事1:亚美体育公司

??11月19日,凡人善举温暖人心 危急时刻他们为城市注入正能量,

  三是要切实加强基层管理力量。做好农村低保工作,关键在基层。当前我区各乡镇只有1到2名民政助理,管理力量十分薄弱,难以适应农村低保工作的需要。各乡镇要高度重视基层管理力量建设,整合乡镇行政资源,充实管理力量,努力提高管理水平,确保低保工作落到实处。各乡镇要落实专职或兼职人员,将工作职责落实到位到人。要合理安排必要的工作经费,给予农村低保工作人员提供必要的工作条件。要配备低保专用设施设备,将农村低保对象的所有信息全部录入计算机,实行数据库管理。要加强对农村低保工作人员的培训教育,增强低保工作人员特别是基层干部做好民政工作的责任意识和业务素质。广大低保工作者要加强学习,准确把握农村低保工作的政策要求,熟练掌握工作程序,提高工作能力和水平,扎扎实实为低保对象服务。

,赢钱一经。

??11月19日,第十届“文荣奖”颁奖典礼红毯仪式在浙江横店举行,

  在过去的学年里我院涌现出一大批优秀学生,他们刻苦学习,认真工作,大胆创新,在激烈的竞争中脱颖而出。其中,共有2名同学荣获国家奖学金,各获得8000元奖励;1名同学荣获省政府奖学金,获得6000元的奖励;14名同学荣获国家励志奖学金,各获得5000元的奖励;有16名同学荣获潍坊学院一等奖学金,有38名同学荣获潍坊学院二等奖学金,有61名同学荣获潍坊学院三等奖学金。

,葡京软件app下载,葡京线上开户,乐博苹果版。

??时事2:爆码料A(新)

??11月19日,(新春见闻)传统民俗迎新春 北京小年庙会年味儿浓,

  石云峰与几位族老都是一呆,闻讯而来的石飞蛟等人也是一惊,全都为小不点捏了一把汗,那是怎样的一个地方?!竟然可与穷奇、毕方、椒图等兽的幼崽战斗,甚至会遇到重瞳者石毅,听起来有些惊人。

,牛宝体育真人百家乐,2026投注世界杯,亚美体育官方网。

??11月19日,河北改革,以“关键之招”聚焦靶心,

  凶禽猛兽暴动,遵从号令,血洗十方。

,九州平台娱乐网站,皇冠体育365官网app下载,wwwg。

??时事3:2026世界杯投注抚fc3_tv

??11月19日,2024年1—9月我国规模以上工业企业实现利润超5万亿元,

  谨向刚从领导岗位上退下来的雷主席、李主任、龚主任表达我诚挚的谢意!这些年来,雷主席、李主任、龚主任在各自的领导岗位上,为学校的发展呕心沥血,励精图治。对此,我校全体教职工感谢你们!正是你们的开拓进取,锐意改革,才增添了学校的发展活力;正是你们的真抓实干,注重实效,才夯实了学校的发展根基;正是你们的以身作则,率先垂范,才带来了领导班子好的党风和作风,学校的发展,我们的这三位老领导可说是功不可没,对此,学校不会忘记,全体教职工不会忘记!希望你们在今后的 工作和生活中,退线不退志,退岗不退心,充分发挥自己的余热,一如既往地支持学校工作,为学校发展出谋划策,为学校建设的发展添砖加瓦。如此,则是学校之幸!

,皇冠比分Vs90,棋牌游戏在线玩,杏耀平台地址。

??11月19日,广西桂林发布暴雨红色预警 漓江游览排筏再次全线封航,

  这种宝具让人心惊,杀敌于无形间,防不胜防,却又这般的玲珑剔透,初看没有一丝大杀器的样子。

,新宝官网导航,千亿国际登入,银河全站APP。

??时事4:365体育投注英超

??11月19日,推动高质量发展·权威发布|广西:持续擦亮“山清水秀生态美”金字招牌,

  金色光芒暴涌,如闪电横空,隆隆而鸣,令各方噤若寒蝉,这一刻整座皇都都宁静了下来,没有了议论声。

,欧冠篮赛程,沙巴体育客户,体验金官网平台。

??11月19日,八旬老人被噎倒地 浙江嘉兴老板娘“教科书级”施救,

  “呀!”

,亚傅体育app官方下载,AOA真人投注,开运体育官网app。

责编:方文辉

审核:列夫-库兹涅佐夫

责编:欧阳进

相关推荐 换一换