澳门818126C0m,界面清爽、功能强大,专为极致体验而生_新万博体育

新万博体育

图片
搜索
猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

谷歌Dreamer大神离职!「辛顿门徒」自曝错过Transformer

2025-11-03 01:15:00
来源:

猫眼电影

作者:

海明威

手机查看

  猫眼电影记者 文靖 报道Q8X2R7L1T4J5M9B6W3

新智元报道

编辑:元宇

【新智元导读】谷歌世界模型大牛Danijar Hafner宣布离任!他自2016年起开始在Google Brain实习,后又在DeepMind、Brain Team工作。他的经历颇具传奇色彩,曾获辛顿指导,还与?ukasz Kaiser、Ashish Vaswani等Transformer大佬有过交集。

刚刚,「Dreamer」大神Danijar Hafner,宣布离开他曾工作近十年的谷歌。

离职前Danijar担任Google DeepMind旧金山分部的资深研究科学家(Staff Research Scientist)。

他的研究目标是「构建能够理解世界并与世界互动的通用智能体」。

作为谷歌世界模型大牛,Danijar曾主导/联合主导了Dreamer系列(Dreamer、DreamerV3、Dreamer4 等)的开发。

Danijar Hafner

他在推文中写道:「今天是我在DeepMind的最后一天」。

回顾了在Google和DeepMind将近10年的工作经历,Danijar认为「一个重要的篇章走到了终点」。

Danijar在谷歌的早期经历,多是以研究员的身份参与谷歌研究院、DeepMind、Brain Team等团队的工作。

从他的教育经历中,也能清晰看出他的职业发展轨迹。

从2016年起,他就开始参与Brain团队的实习。

据Danijar回忆,2016年他第一次在山景城参与谷歌Brain团队的实习,与James Davidson以及Vincent Vanhoucke一起共事。

因为当时尚无可运行的PPO实现,团队就在TensorFlow的静态图框架下进行调试和实验。

2017-2018年,Danijar在伦敦大学读硕士,期间他就在伦敦的DeepMind工作;

2018-2023年,Danijar在多伦多大学读博士,因此他就在多伦多的Brain Team工作了相当长一段时间。

他与该团队另一位资深研究科学家Mohammad Norouzi共同开发了多个版本的Dreamer。

初识Transformer

但「并未在意」

Danijar还记得?ukasz Kaiser第一次向他们展示一个由「大型」LSTM 生成的维基百科页面时的情形。

?ukasz Kaiser

?ukasz是一位机器学习研究员,他最初在Google Brain团队工作,后来加入OpenAI。

Google Brain团队曾于2018年发表《Generating Wikipedia by Summarizing Long Sequences》,?ukasz Kaiser是作者之一,主题就是端到端生成维基百科条目。

https://arxiv.org/abs/1801.10198?utm_source=chatgpt.com

Danijar还提到他「错过」Transformer的一段插曲。

当时,Ashish Vaswani曾经兴奋地向他介绍一种新架构在计算效率上的优势,并建议他将其应用在强化学习上,但那时Danijar却并未在意(我当时没试)。

后来这种架构被命名为Transformer。

Ashish Vaswani

https://arxiv.org/abs/1706.03762?utm_source=chatgpt.com

Ashish Vaswani是一位在AI领域颇具影响力的科学家与创业者。

他是Essential AI的联合创始人,但更为人熟知的是参与提出了那篇著名的《Attention Is All You Need》的开创性论文。

该论文提出了一种「彻底摒弃循环和卷积结构,仅用注意力机制」的全新简单网络架构Transformer,可以实现更强的并行性和更快的训练速度。

前面提到的?ukasz Kaiser也是这篇开创性论文的主要作者之一。

深度学习研究

2017-2018年,Danijar在伦敦大学攻读硕士。

这段时间他在伦敦的DeepMind工作,有机会参与到深度强化学习和生成式模型的研究,并与Timothy Lillicrap(DeepMind)以及Ian Fischer(Google Research)合作。

这段经历促成了他们共同完成了PlaNet(一种基于模型的强化学习算法,能从像素观测学习潜在世界模型,并在潜空间中进行规划与动作选择)。

Timothy Lillicrap

随后,Danijar与Nicolas Heess、DeepMind的Adaptive Agents团队长期交流,系统梳理并实践Karl Friston的自由能原理(Free Energy Principle, FEP)。

开发Dreamer

曾获辛顿指导

2018-2023年,Danijar在多伦多大学读博士,这段时期他还在加州大学伯克利分校以联合培养博士生的身份开展研究。

在多伦多大学读博期间,Danijar的主要导师是Jimmy Ba,同时还获得了辛顿(Jeffrey Hinton)的指导。

在此期间,Danijar还在多伦多的Brain Team工作了相当长一段时间。

Mohammad Norouzi

他与Google Brain多伦多分部的资深研究科学家Mohammad Norouzi共同开发了多个版本的Dreamer。

他们参与各种合作项目,还一起庆祝了辛顿获得获得图灵奖的时刻。

2018年的图灵奖授予Yoshua Bengio、Geoffrey Hinton和Yann LeCun

过去几年,Danijar一直在伯克利和旧金山之间,与Wilson Yan合作深入研究世界模型。

在Count Zero和Koray Kavukcuoglu的大力支持下,他得以充分利用顶级的算力与资源,推动了一系列前沿探索。

从Dreamer到DreamerV3,再到能够在想象中自主学习、甚至在纯离线环境下完成复杂任务的Dreamer4,这一系列成果令Danijar激动。

在Danijar的个人官网主页上,他的个人愿景十分醒目:「构建能够自主理解世界并与世界互动的智能机器。」

对他而言,世界模型不仅是技术突破,更是理解智能本质的一扇窗口。

如今,Danijar即将结束他在Google/DeepMind的十年旅程,带着复杂的心情和满怀期待,迎接新的篇章。

参考资料:

https://x.com/danijarh/status/1985436821405516031%20

https://danijar.com/?utm_source=chatgpt.com

??时事1:pg电子爆超级大奖

??11月03日,收录近500幅优秀作品 《你好,插画》新书在广州首发,

  黑暗中,弓弦的颤动声响起,几只发光、带着符文的箭羽飞出,命中那几头庞大的黑影,兽吼声当即止住了,几头巨兽倒地身亡。

,永利总站网址是多少。

??11月03日,聚焦全球教师教育共同体建设 第五届全球教师教育峰会开幕,  国家防灾减灾救灾委员会办公室、应急管理部会同国家粮食和物资储备局向河北、山西、内蒙古、山东、河南5省(区)调拨3万件中央救灾物资,支持地方做好抗旱救灾各项工作。,九五至尊正版,大发888全站APP,澳门游戏在线。

??时事2:百老汇世界杯买球

??11月03日,高压锅长满按钮 热水器没事说话:别让“聪明家电”困住老人,

  总之,我镇这次干部培训会议的举办,让广大镇村干部理论政策水平得到进一步提高,能力得到了提升,党性获得了锤炼,进一步激发了工作的责任感和使命感,不但经受了知识上的洗礼,也经受了精神上的洗礼。我们也对这次培训进行了有益的探索,积累了好的经验。经过这次学习培训,相信同志们也都已从放假的情绪中走出来,能够以更佳的精神状态投入到新一年的各项工作中去。我们也将以此为契机,不断创新形式,丰富内容,使我镇的干部培训工作不断取得新成效。

,天博com体育,yabo平台首页,mg官方平台官网。

??11月03日,倪永杰:岛内不满民进党的声音不会削弱 大陆应保持战略定力,

  今天能够参加公司组织召开的“班组建设”动员会并进行发言,我感到莫大的荣幸和鼓舞,特别是在聆听了《实施》后,给我的感触很大,深受教育和启发,让我认识到了开展“班组建设”的必要性和重要意义,进一步坚定了信心和决心。

,天博官方下载链接安装,九州娱app,开奖爆料(新图推荐)。

??时事3:捷报足球比分手机网

??11月03日,斯巴达勇士赛上海站开启 超8000名勇士共度挑战周末,

  “是我回来了,一别多年,爷爷,你还好吗,我向你请安了。”雨幕中一个人走来,从容不迫,无比的沉稳,他身体没有光辉,也无护体符文,但是却没有一滴雨落在身上。

,澳门新葡亰官方APP,精装彩霸王,m6米乐登录入口。

??11月03日,美国波音公司称罢工后需数周才能全面恢复生产,

  什么是祭灵?代表了神秘与强大,需要部落去礼敬与朝拜,虔诚祭祀,极其难惹,谁都不愿与祭灵结仇。

,捕鱼大作战下载地址,365bet体育专业娱乐网站,手机上怎么投注世界杯。

??时事4:伟德体育app官网

??11月03日,习言道|锻造忠诚干净担当的新时代政法铁军,

  5.室外着火时,如果门已发烫,千万不可开门,以防大火蹿入室内。

,彩6官方,澳门正规网站有几个,世界杯买球安全网站。

??11月03日,美媒:美国人月度信用卡债务达190亿美元 经济重压下凸显民众对借贷愈发依赖,

  令人吃惊的是,这条紫金蛇速度极快,竟人立而起,尾巴一弹,迅速飞跃出去二十几米远,避过了这一击。

,篮球世界杯2026买球,英皇娱乐快速开户,贝博体育平台官网首页入口。

责编:胡谨系

审核:卡雷拉

责编:葛兰尼

相关推荐 换一换