新万博体育

　　猫眼电影记者 刘传勇 报道Q8X2R7L1T4J5M9B6W3

投稿作者：OnePiece 团队

生成式推荐无疑是当前推荐系统领域最热门的方向，也是互联网应用中最前沿的研究主题之一。

从技术路径来看，生成式推荐主要沿着两大方向展开：一是基于大语言模型的推荐方法（LLM as Recommender），二是以生成式方式训练推荐模型（Generative Recommender）。

然而，在真实业务场景中，由于线上服务对成本极为敏感，LLM as Recommender 的落地仍面临显著挑战。这主要源于大语言模型在推理时通常需要大量显卡资源，且响应延迟较高，难以满足大规模推荐系统对高并发和低延时的严格要求。

另一方面，生成式推荐模型虽然在效率上更具优势，却难以具备类似大语言模型的推理能力。这主要是因为典型的生成式推荐模型通常基于用户历史行为序列进行训练，而该序列往往表示为一组物品 ID 序列：[item-1, item-2, item-3, …]。可以说，物品 ID 构成了推荐系统特有的“语言体系”。大语言模型之所以能够模仿人类的推理过程，很大程度上依赖于文本作为信息媒介，从而逐步解决问题。但在仅由 ID 构成的语义空间中，我们难以构造类似的“思维链条”来引导模型执行复杂推理，更无法像大语言模型那样实施上下文工程。

此外，传统生成式推荐模型（如 SasRec）通常仅接受物品 ID 或语义 ID 作为输入，不支持多模态或手工特征的引入。这一限制使得推荐系统长期积累的“特征工程”经验难以发挥价值，同时也制约了模型效果的进一步提升。

在这一背景下，来自 Shopee 的傅聪技术团队联合人大高瓴学院提出了一种全新的生成式推荐模型——OnePiece 范式，这是业内首个融合上下文工程、隐式推理和多目标训练策略的生成式搜推建模框架！

论文链接：http://arxiv.org/abs/2509.18091

该范式的核心创新包括三个方面：针对物品 ID 序列特点专门设计的上下文工程策略；基于隐式推理的块状推理（block-wise reasoning）技术；以及通过渐进式多目标训练强化推理过程监督的学习机制。

目前，OnePiece 已在 Shopee 个性化主搜索场景上线，并取得效果提升。这一实践不仅验证了生成式推荐在工业场景的可行性，更为构建通用生成式推荐模型迈出了关键性的第一步。

核心方法

LLM 的成功不仅仅源于其优秀的 scaling law，也源于上下文工程、推理能力。从真实系统应用角度思考，推荐模型需要实现极致的“性价比”，也就是实现一个大小适中，但能尽可能吸收 LLM 领域成功经验的模型。因此，生成式推荐模型不能过度依赖 scaling law，即膨胀模型参数来获取增量收益，也需要迁移上下文工程、推理等相关成功经验到推荐领域。

首先，从上下文工程角度看，研究团队主要利用的是 LLM 基于上下文工程的指令（prompt）做（test-time）few shot learning的能力。而 few shot learning 用大白话讲就是举例子，希望模型能获得举一反三的能力。而这种数据，后来也逐渐被固化到训练数据中，被称为 Instruct Following SFT。放到以 “item ID” 为语言体系的推荐数据上，可以举出的“例子”，就是一些用户可能会交互的“锚点物品序列”来实现。例如，在 Shopee Search 场景，他们把用户们在某个关键词下面的高频点击商品序列、高频下单商品序列，作为“样例”拼接在用户自己的交互序列之后，通过引入 domain expert knowledge 的方式引入一些特殊的 inductive bias。

他们提出了上下文工程框架不只有“锚点序列”，新万博体育：细节如下图：

其中：

Interation History（IH）：就是常规理解的用户行为历史。

Preference Anchors（PA）：根据工程师的领域知识，构造的锚点序列，辅助引导预测和思考方向。

Situational Descriptor（SD）：一些表达场景或其它异构信息的特殊 token，一般放在序列末尾聚合信息，例如在搜索场用到的 user token、query token 等。

Candidate Item Set（CIS）：潜在目标候选物品的集合，这个是 ranking 模式下特有的，也是相对于召回模式的优势所在，ranking 模式下，候选物品对模型可见，可提供新万博体育：上下文信息。

为了能够自然融合“特征工程”的知识，他们在每个 token 位置上叠加了 item ID 以外特征信息，用简单的 adapter（MLP）来压缩到一个 token 位置上：

其次，新万博体育：推理，他们参考了近期在 LLM 领域开始有关注度的一个话题“隐式推理”。顾名思义，这种推理方式不是在文本上将思考过程描述出来，而是在隐藏表征空间（latent space）内进行推理。具体来说，就是每一步推理的时候，都直接把上一步输出的 item latent embedding 信息直接复制，放到输入序列后面，让 transformer 继续运算：

这样的推理技术的好处是，可以用极少的 token 完成思考过程，对在线服务几乎不增加负担。

最后，他们也发现隐式推理的一个明显的短板，那就是推理过程不受监督。因为隐式推理是直接将模型的输出和输入循环对接到一起，他们就没办法控制中间的推理过程，也就不知道模型在想什么，所以，他们定义了一种渐进式的监督训练方式。通过利用推荐系统丰富的用户反馈来为隐式推理提供过程监督，例如用户的点击、加购物车、下单行为：

值得注意的是，在推理的过程中，他们要求“前面的思考步骤”看不到“后面的思考步骤”，所以形成了上图中的 attention mask。同时，为了增加推理的信息处理带宽，避免出现单 token 推理的信息瓶颈，他们同时选择前文中的多个 token 向后进行“推理”。

实验效果

为了深度分析 OnePiece 的效果，研究团队进行了详细的对比和 Ablation。

从 Table2 中可以看到，Shopee 的 DLRM 基线（传统深度学习推荐模型）是一个很强的 baseline，naive 的生成式推荐是难以 PK 的。

进一步地，PA 是通过上下文工程引入额外的 domain knowledge，这种手法是模型backbone 无关的，HSTU 和 ReaRec 都可以从中受益。

OnePiece 相对于ReaRec+PA 的提升，主要来源于 block-wise reasoning 带来的信息带宽收益和渐进式的训练策略。

从 Table3 中可以看出，side info 对模型效果有巨大影响。此外，延长、优化 PA 序列呈现了一定程度的 scaling law，SD token 对收拢、聚合全局信息有重要作用，上下文工程框架中的每个组分都能够提升效果。

表 4 和 5 说明双向注意力在搜推广范式下更有优势。这其实比较容易理解，目前主流的搜推系统的用户交互模式依然是“一次请求返回一个页面”的方式，GR 模型不会依赖自己生成的 token 逐步解码，每次请求来了以后，生成的过程都是“一锤子买卖”。因此，不存在解码性能压力的前提下，对 pre-filling 部分的序列施加双向注意力可以更好的聚合信息。

此外，多步推理有 scaling 的效果，但效果逐渐收敛。渐进式引导相比于只监督最后一步更有效。值得注意的是，对于 ranking 模式下，candidate item 在attention mask 内互相“可见”非常重要。

研究团队在 Shopee 主搜场景进行了实验，在召回阶段和 prerank 阶段两个正交的实验层进行了在线 AB 实验。

在召回阶段，他们将 OnePiece 召回替代了原有的 DeepU2I 召回，取得了 1.08% 的 GMV/user 增长；在 prerank 阶段，他们用 OnePiece ranking model 替换了原有的 DLRM model，取得了 1.12% 的 GMV/user 增长和 2.9% 的广告收入增长，可以说是相当大幅度的提升。

值得注意的是，他们对 OnePiece 召回进行了深度数据分析拆解：

“新上马”的 OnePiece 召回，相对于其它召回路来说，可以说是碾压式覆盖。通过优化、平衡上下文工程中的 IH 和 PA 序列，OnePiece 在覆盖了文本召回曝光的 60%+ 商品的同时，覆盖了个性化导向召回（如 SwingI2I）的 70%+。这在以往的召回迭代的经验下是几乎不可能的事情，以前要么是侧重个性化但相关性不足、损伤体验，要么是侧重相关性但个性化不足，损伤效率指标。相比于DLRM 的 U2I 召回，OnePiece 贡献了 10% 的独立曝光和 5.7% 的独立点击：

这说明 OnePiece 选出来的内容，通过了下游粗排、精排、重排的重重考验，获得了用户的认可，在 Explore&Exploit 这个推荐经典问题上实现了难以置信的平衡，证明了推理模型的强大外推能力。

未来工作

研究团队表示，OnePiece 是他们在 One For All 的通用推荐模型上的一次初步探索，证明了可以通过特殊的上下文工程和推理模式，引导模型的预测方向。OnePiece 1.0 证明，“提示词优化”可能会成为搜推广技术栈下的一个全新方向，OnePiece 2.0 将会在 General Recommender Model 的探索上更进一步，尝试用一个模型来建模多场景和多召回策略：

此外，OnePiece 1.0 虽然挖掘出了生成式推荐 style 的新型推理框架，但它也有着显而易见的劣势，即推理步骤和渐进多任务系统的绑定，研究团队会探索可变长的推理形态，充分挖掘序列推荐下真正的 test time scaling law。

新万博体育：详细内容，请查看原论文。

??时事1：12bet外围官网

??10月29日,中国驻韩大使邢海明：期待与韩方一道推动两国战略合作伙伴关系向前发展,

　　老师们、同学们，早上好!

,lol在哪买外围。

??10月29日,中国北疆最繁忙机场一月份运送旅客229万人次 创历史新高,

　　一声金属颤音发出，像是被封的古老宝具洗尽尘埃而再次出世般，铿锵作响，光辉圣洁。

,bv伟德体育,高校体育官网版入口,优博在线注册。

??时事2：天亚娱乐平台

??10月29日,我国造船三大指标国际市场份额首次全部超过50%,

　　这一刻，中年人通体发光，整个人嘶吼了起来，叫道：“祭灵，请赐我力量。”

,188体育体育下载,亚美下载,棋牌真金。

??10月29日,上海昆虫爱好者“总动员”：为昆虫“写家谱”、做城市记录者,

　　1、课间不追逐、不打闹，上下楼梯靠右行，互相礼让不得拥挤，不从楼梯的扶手上下滑，行至拐弯处，要放慢脚步，预防相撞;

,赌神牛报,银河手机版网址,炸金花游戏厅大全。

??时事3：世界杯买球倍数

??10月29日,东西问｜徐少华：武王墩墓与楚文化有何渊源？,

　　二是国有林区林场改革取得重大突破。20xx年2月，内蒙古大兴安岭重点国有林管理局正式挂牌成立，标志着内蒙古国有林区改革取得重大阶段性成果，走在了全国的前列。实现了汪洋副总理提出的“先行一步，作出表率，成为全国林区改革示范”的要求。自治区党委、政府对大兴安岭林区经济社会发展高度重视，从20xx年起，出台《内蒙古森工集团有限责任公司剥离办社会职能改革总体》，全面启动了内蒙古森工集团剥离教育、广电、卫生、森林等社会职能，共计约3万名林业职工交由呼伦贝尔市、兴安盟属地管理。自治区财政千方百计筹集资金，支持森工集团剥离办社会职能改革，每年投入在10亿元以上。森工集团承担的社会管理和公共服务职能剥离移交属地政府，所属78户经营性企业全部进行了分类划转，基础设施建设逐步纳入属地规划。从20xx年4月1日开始，全面停止天然林商业性采伐，同时将与木材生产相关的1.3万名职工转岗安置到森林管护、抚育、防火等岗位。目前，林区剥离办社会职能已全部完成，企业划转工作有序推进，“三供一业”(供电、供水、供暖和物业以及市政环卫)全部移交属地政府，林区社会保持基本和谐稳定。20xx年初，汪洋副总理在视察大兴安岭林区时，对我区解决森工企业剥离办社会改革给予了充分肯定和赞扬。20xx年12月，内蒙古自治区党委、政府印发了《内蒙古自治区国有林场改革》，将全区国有林场主要功能定位于保护培育森林资源、维护生态安全。按照国家和自治区部署，我区国有林场改革稳步推进。

,可以赢真钱的app,国际户外真人秀的发展,AG官方网站地址。

??10月29日,十四届全国人大二次会议在京闭幕,

　　不久前，他傲气凌人，冷酷而霸道，现在却成为了阶下囚，披头撒发，浑身是血，一语不发，反差太大了。

,球探比分 网球,最新凯时首页,世界杯买球的app中心。

??时事4：M6app链接

??10月29日,中国外交部官员谈美国总统国家安全事务助理沙利文访华,

　　那个好心的少女解释，道：“我的意思是，不用写下真实姓名，只以平日最喜爱的宝具、或者神禽猛兽代替就行，我在这里的名字就是彩鸾。”

,澳门威尼在线视频,大发体育APP,奥博集团网址是多少。

??10月29日,如何避免部分留守老人陷入“数字沉迷”？,

　　他有足够的底气，因为族中那头金色的神狼来了，这是五万里内最强大的一头祭灵，活了很漫长的岁月。族主也许不是这片土地上的第一高手，但是这头金色的神狼却可以在各大族的祭灵中称尊！

,欧宝免费试玩,亚星登录官网,KU游娱乐登录入口。