(9分钟带你发现更多)4001澳门老百汇网址最新版v38.43.370.03.89.82-2265安卓网_新万博体育

新万博体育

图片
搜索
猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

谷歌Dreamer大神离职!「辛顿门徒」自曝错过Transformer

2025-11-02 18:20:13
来源:

猫眼电影

作者:

戴金发

手机查看

  猫眼电影记者 海玥 报道Q8X2R7L1T4J5M9B6W3

新智元报道

编辑:元宇

【新智元导读】谷歌世界模型大牛Danijar Hafner宣布离任!他自2016年起开始在Google Brain实习,后又在DeepMind、Brain Team工作。他的经历颇具传奇色彩,曾获辛顿指导,还与?ukasz Kaiser、Ashish Vaswani等Transformer大佬有过交集。

刚刚,「Dreamer」大神Danijar Hafner,宣布离开他曾工作近十年的谷歌。

离职前Danijar担任Google DeepMind旧金山分部的资深研究科学家(Staff Research Scientist)。

他的研究目标是「构建能够理解世界并与世界互动的通用智能体」。

作为谷歌世界模型大牛,Danijar曾主导/联合主导了Dreamer系列(Dreamer、DreamerV3、Dreamer4 等)的开发。

Danijar Hafner

他在推文中写道:「今天是我在DeepMind的最后一天」。

回顾了在Google和DeepMind将近10年的工作经历,Danijar认为「一个重要的篇章走到了终点」。

Danijar在谷歌的早期经历,多是以研究员的身份参与谷歌研究院、DeepMind、Brain Team等团队的工作。

从他的教育经历中,也能清晰看出他的职业发展轨迹。

从2016年起,他就开始参与Brain团队的实习。

据Danijar回忆,2016年他第一次在山景城参与谷歌Brain团队的实习,与James Davidson以及Vincent Vanhoucke一起共事。

因为当时尚无可运行的PPO实现,团队就在TensorFlow的静态图框架下进行调试和实验。

2017-2018年,Danijar在伦敦大学读硕士,期间他就在伦敦的DeepMind工作;

2018-2023年,Danijar在多伦多大学读博士,因此他就在多伦多的Brain Team工作了相当长一段时间。

他与该团队另一位资深研究科学家Mohammad Norouzi共同开发了多个版本的Dreamer。

初识Transformer

但「并未在意」

Danijar还记得?ukasz Kaiser第一次向他们展示一个由「大型」LSTM 生成的维基百科页面时的情形。

?ukasz Kaiser

?ukasz是一位机器学习研究员,他最初在Google Brain团队工作,后来加入OpenAI。

Google Brain团队曾于2018年发表《Generating Wikipedia by Summarizing Long Sequences》,?ukasz Kaiser是作者之一,主题就是端到端生成维基百科条目。

https://arxiv.org/abs/1801.10198?utm_source=chatgpt.com

Danijar还提到他「错过」Transformer的一段插曲。

当时,Ashish Vaswani曾经兴奋地向他介绍一种新架构在计算效率上的优势,并建议他将其应用在强化学习上,但那时Danijar却并未在意(我当时没试)。

后来这种架构被命名为Transformer。

Ashish Vaswani

https://arxiv.org/abs/1706.03762?utm_source=chatgpt.com

Ashish Vaswani是一位在AI领域颇具影响力的科学家与创业者。

他是Essential AI的联合创始人,但更为人熟知的是参与提出了那篇著名的《Attention Is All You Need》的开创性论文。

该论文提出了一种「彻底摒弃循环和卷积结构,仅用注意力机制」的全新简单网络架构Transformer,可以实现更强的并行性和更快的训练速度。

前面提到的?ukasz Kaiser也是这篇开创性论文的主要作者之一。

深度学习研究

2017-2018年,Danijar在伦敦大学攻读硕士。

这段时间他在伦敦的DeepMind工作,有机会参与到深度强化学习和生成式模型的研究,并与Timothy Lillicrap(DeepMind)以及Ian Fischer(Google Research)合作。

这段经历促成了他们共同完成了PlaNet(一种基于模型的强化学习算法,能从像素观测学习潜在世界模型,并在潜空间中进行规划与动作选择)。

Timothy Lillicrap

随后,Danijar与Nicolas Heess、DeepMind的Adaptive Agents团队长期交流,系统梳理并实践Karl Friston的自由能原理(Free Energy Principle, FEP)。

开发Dreamer

曾获辛顿指导

2018-2023年,Danijar在多伦多大学读博士,这段时期他还在加州大学伯克利分校以联合培养博士生的身份开展研究。

在多伦多大学读博期间,Danijar的主要导师是Jimmy Ba,同时还获得了辛顿(Jeffrey Hinton)的指导。

在此期间,Danijar还在多伦多的Brain Team工作了相当长一段时间。

Mohammad Norouzi

他与Google Brain多伦多分部的资深研究科学家Mohammad Norouzi共同开发了多个版本的Dreamer。

他们参与各种合作项目,还一起庆祝了辛顿获得获得图灵奖的时刻。

2018年的图灵奖授予Yoshua Bengio、Geoffrey Hinton和Yann LeCun

过去几年,Danijar一直在伯克利和旧金山之间,与Wilson Yan合作深入研究世界模型。

在Count Zero和Koray Kavukcuoglu的大力支持下,他得以充分利用顶级的算力与资源,推动了一系列前沿探索。

从Dreamer到DreamerV3,再到能够在想象中自主学习、甚至在纯离线环境下完成复杂任务的Dreamer4,这一系列成果令Danijar激动。

在Danijar的个人官网主页上,他的个人愿景十分醒目:「构建能够自主理解世界并与世界互动的智能机器。」

对他而言,世界模型不仅是技术突破,更是理解智能本质的一扇窗口。

如今,Danijar即将结束他在Google/DeepMind的十年旅程,带着复杂的心情和满怀期待,迎接新的篇章。

参考资料:

https://x.com/danijarh/status/1985436821405516031%20

https://danijar.com/?utm_source=chatgpt.com

??时事1:推荐正规买球网站

??11月02日,24岁舞蹈生在圆明园兼职“安陵容”:仙气飘飘再现皇家冰嬉,

  石村众人急速奔行,迅疾来到山林较深处,这里参天巨树折断,千年藤蔓被毁,还有各种兽血,一片狼藉。

,葡京体育手机版注册。

??11月02日,跟随文物普查员的脚步 摸清文物资源“家底”,

  一个须发皆白的老人好心提醒,道:“孩子,能拎起或者举起一件武器,并不代表能很好的舞动起来,因为需要费十几倍的力气才行,你得小心点,别伤到自己。”

,网上体育博开户,2026世界杯投注驻fc3,ag真人游戏正规。

??时事2:188金博网app下载

??11月02日,大学工程新专利如何为制造业升级“添把火”——聚焦高校传统工程专业成果转化,

  三是:开学后我们在第2周升旗仪式上开展了“敬奉贤人,见贤思齐,爱心传递,共迎特奥,全力创建上海市文明城区”签名承诺活动,大家一定还记忆犹新。横幅就在塑胶跑道上,全校老师和同学们700多人牌着队伍,共同参与了此项活动。

,澳门永利是干嘛的,天博注册彩金,大三元游戏。

??11月02日,第一届银耳产业发展大会在福建古田举行,

  首先,很高兴今天可以参加学生会竞选演讲比赛,今天,站在这里的我,恰如在站台等候上车的旅客,手中的车票已经攒出了汗渍,但是,我相信沿着在座各位开辟的绿色通道,自己一定能够搭上今天的幸运快车!

,九五至尊正版,世界杯直播网站有哪些,环球登陆。

??时事3:AG真人平台

??11月02日,台湾大学生中华文化研习营在川开营,

  我们学校上学期不定期开展了推门课、观摩课、优质课等教研活动,借此推动备课管理。我们知道,要想给学生一碗水,自己必须有一桶水,巧妇难为无米之炊,不备课不进入课堂。

,AG视讯网址,bet体育在线登陆,世界杯投注微信有吗。

??11月02日,中国队包揽金银!陈芋汐夺得跳水世界杯女子10米跳台冠军,

  数日后,少妇将石昊接到自己的住处,看到儿子双眼内神光隐现,一瞬不瞬的盯着那个小婴儿,不解的问道:“毅儿,你为什么总是盯着弟弟看。”

,云鼎真人,世界杯买胜负网站,注册就送28元现金。

??时事4:世界杯手机在哪里投注

??11月02日,国家发改委:银发经济蕴含着巨大的发展机遇,

  “依照这个速度,想血洗这片大地不知道要用几日,太慢了。”那头凶禽如乌云一般横空而过,血月般的眸子散发着滔天的戾气。

,BOB全站登录手机网页版,太阳2在线登录,澳门国际娱乐网址网站。

??11月02日,习声回响|良田良种良机良法 绘就当代春耕图,

  二、立足长远发展需要,通过学习培训带动全面工作

,ub8用户登录,bwin皇马,彩票吧。

责编:赵忠平

审核:陈婉婉

责编:晏老描

相关推荐 换一换