(6分钟一步到位)欧美A片图安卓版v04.8.96.26.41.55-2265安卓网_新万博体育

新万博体育

图片
搜索
猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

谷歌Dreamer大神离职!「辛顿门徒」自曝错过Transformer

2025-11-01 10:36:57
来源:

猫眼电影

作者:

顾永承

手机查看

  猫眼电影记者 卡尔·马龙 报道Q8X2R7L1T4J5M9B6W3

新智元报道

编辑:元宇

【新智元导读】谷歌世界模型大牛Danijar Hafner宣布离任!他自2016年起开始在Google Brain实习,后又在DeepMind、Brain Team工作。他的经历颇具传奇色彩,曾获辛顿指导,还与?ukasz Kaiser、Ashish Vaswani等Transformer大佬有过交集。

刚刚,「Dreamer」大神Danijar Hafner,宣布离开他曾工作近十年的谷歌。

离职前Danijar担任Google DeepMind旧金山分部的资深研究科学家(Staff Research Scientist)。

他的研究目标是「构建能够理解世界并与世界互动的通用智能体」。

作为谷歌世界模型大牛,Danijar曾主导/联合主导了Dreamer系列(Dreamer、DreamerV3、Dreamer4 等)的开发。

Danijar Hafner

他在推文中写道:「今天是我在DeepMind的最后一天」。

回顾了在Google和DeepMind将近10年的工作经历,Danijar认为「一个重要的篇章走到了终点」。

Danijar在谷歌的早期经历,多是以研究员的身份参与谷歌研究院、DeepMind、Brain Team等团队的工作。

从他的教育经历中,也能清晰看出他的职业发展轨迹。

从2016年起,他就开始参与Brain团队的实习。

据Danijar回忆,2016年他第一次在山景城参与谷歌Brain团队的实习,与James Davidson以及Vincent Vanhoucke一起共事。

因为当时尚无可运行的PPO实现,团队就在TensorFlow的静态图框架下进行调试和实验。

2017-2018年,Danijar在伦敦大学读硕士,期间他就在伦敦的DeepMind工作;

2018-2023年,Danijar在多伦多大学读博士,因此他就在多伦多的Brain Team工作了相当长一段时间。

他与该团队另一位资深研究科学家Mohammad Norouzi共同开发了多个版本的Dreamer。

初识Transformer

但「并未在意」

Danijar还记得?ukasz Kaiser第一次向他们展示一个由「大型」LSTM 生成的维基百科页面时的情形。

?ukasz Kaiser

?ukasz是一位机器学习研究员,他最初在Google Brain团队工作,后来加入OpenAI。

Google Brain团队曾于2018年发表《Generating Wikipedia by Summarizing Long Sequences》,?ukasz Kaiser是作者之一,主题就是端到端生成维基百科条目。

https://arxiv.org/abs/1801.10198?utm_source=chatgpt.com

Danijar还提到他「错过」Transformer的一段插曲。

当时,Ashish Vaswani曾经兴奋地向他介绍一种新架构在计算效率上的优势,并建议他将其应用在强化学习上,但那时Danijar却并未在意(我当时没试)。

后来这种架构被命名为Transformer。

Ashish Vaswani

https://arxiv.org/abs/1706.03762?utm_source=chatgpt.com

Ashish Vaswani是一位在AI领域颇具影响力的科学家与创业者。

他是Essential AI的联合创始人,但更为人熟知的是参与提出了那篇著名的《Attention Is All You Need》的开创性论文。

该论文提出了一种「彻底摒弃循环和卷积结构,仅用注意力机制」的全新简单网络架构Transformer,可以实现更强的并行性和更快的训练速度。

前面提到的?ukasz Kaiser也是这篇开创性论文的主要作者之一。

深度学习研究

2017-2018年,Danijar在伦敦大学攻读硕士。

这段时间他在伦敦的DeepMind工作,有机会参与到深度强化学习和生成式模型的研究,并与Timothy Lillicrap(DeepMind)以及Ian Fischer(Google Research)合作。

这段经历促成了他们共同完成了PlaNet(一种基于模型的强化学习算法,能从像素观测学习潜在世界模型,并在潜空间中进行规划与动作选择)。

Timothy Lillicrap

随后,Danijar与Nicolas Heess、DeepMind的Adaptive Agents团队长期交流,系统梳理并实践Karl Friston的自由能原理(Free Energy Principle, FEP)。

开发Dreamer

曾获辛顿指导

2018-2023年,Danijar在多伦多大学读博士,这段时期他还在加州大学伯克利分校以联合培养博士生的身份开展研究。

在多伦多大学读博期间,Danijar的主要导师是Jimmy Ba,同时还获得了辛顿(Jeffrey Hinton)的指导。

在此期间,Danijar还在多伦多的Brain Team工作了相当长一段时间。

Mohammad Norouzi

他与Google Brain多伦多分部的资深研究科学家Mohammad Norouzi共同开发了多个版本的Dreamer。

他们参与各种合作项目,还一起庆祝了辛顿获得获得图灵奖的时刻。

2018年的图灵奖授予Yoshua Bengio、Geoffrey Hinton和Yann LeCun

过去几年,Danijar一直在伯克利和旧金山之间,与Wilson Yan合作深入研究世界模型。

在Count Zero和Koray Kavukcuoglu的大力支持下,他得以充分利用顶级的算力与资源,推动了一系列前沿探索。

从Dreamer到DreamerV3,再到能够在想象中自主学习、甚至在纯离线环境下完成复杂任务的Dreamer4,这一系列成果令Danijar激动。

在Danijar的个人官网主页上,他的个人愿景十分醒目:「构建能够自主理解世界并与世界互动的智能机器。」

对他而言,世界模型不仅是技术突破,更是理解智能本质的一扇窗口。

如今,Danijar即将结束他在Google/DeepMind的十年旅程,带着复杂的心情和满怀期待,迎接新的篇章。

参考资料:

https://x.com/danijarh/status/1985436821405516031%20

https://danijar.com/?utm_source=chatgpt.com

??时事1:欧美黄2

??11月01日,拱北海关原党组书记、关长周斌被开除党籍,

  “爷爷,没事的,我知道小红厉害,可我感觉不到杀气,它对石村没有敌意。”小不点扑闪着大眼解释道。

,一级特黄特黄特黄的三级黄片。

??11月01日,1-4月全国晶硅光伏组件出口量达83.8GW 同比增长20%,

  今天,校团委在这里隆重举行新团员宣誓仪式,很高兴能够参加今天的仪式,聆听同学们的心声,感受同学们的激情,与大家一起体验青春的美丽,一起见证生命的成长。在此,我谨代表学校党支部并以我个人的名义向你们致以诚挚的祝贺和美好的祝愿!

,中文字幕精品三级视频,亚洲综合在线网站,滋润刚结婚少妇。

??时事2:武警自慰网站

??11月01日,在广州,读懂中国的改革决心,

  小不点握紧拳头,大眼闪亮,有一种开心,也有一种期待,仰着小脸道:“爷爷快说。”

,www色色资源站,国产黄色二级,岳乱好爽又紧又大。

??11月01日,(乡村行·看振兴)探访“中国智慧厨都”:“黑科技”融入烹饪界 “数字厨房”显雏形,

  小不点眼睛都红了,竭尽全力阻挡,祭出那轮银月,横扫四方铁箭,守护太古魔禽后裔。

,免费污污的网站,欧洲激情精品久久,扣逼自慰。

??时事3:欧美性交www

??11月01日,莫言编剧、王可然执导话剧《鳄鱼》在苏州首演,  5月中旬,《朝阳三里屯北京星远福源电力设备安装有限公司“1·18”一般坍塌事故调查报告》公布。报告指出,2024年1月18日,北京地铁3号线一标工体北路电力改移工程施工现场发生一起坍塌事故,1名工人因沙土掩埋致机械性窒息死亡。调查组认定,该起事故是一起因施工人员违章作业,事发单位安全管理不力造成的生产安全责任事故。,一级婬片试看15分钟口咬,秦嘉倪的血管清晰原视频,伊东真绪。

??11月01日,中国“治沙劳模”殷玉珍:在沙漠的39个春天,  2023年7月,中共中央总书记、国家主席、中央军委主席新万博体育:在四川考察时指出,四川要发挥高校和科研机构众多、创新人才集聚的优势和产业体系较为完善、产业基础雄厚的优势,在科技创新和科技成果转化上同时发力。,火影美女全身裸体秘,国产A片国产黄片,打屁股18禁。

??时事4:嗯~啊!轻点,出水了视频

??11月01日,工作日上班休息日种地 这届年轻人为何爱上下地种菜?,

  数日后,百族战场传来消息,那头成年貔貅摧枯拉朽,浴血而狂,横扫浩瀚战场,无人是其对手。

,免费 成人 结九幺,日韩小黄片,欧美小黄片,别告诉mama下载安装。

??11月01日,法国学者:欧洲应向中国学习儒家思想 展开真正的文明对话 | 中法老友记,

  “住手!”

,在线免费观看黄片一区二区,免费看免费看A级长毛片,推荐毛片网址。

责编:吕锡照

审核:杰克托马斯

责编:哈蒙

相关推荐 换一换