v6.898.9841.336361 IOS版
v8.4 安卓最新版
v9.164.3878 PC版
v9.304 安卓漢化版
v2.709 IOS版
v7.326 最新版
v5.992.8118.967353 PC版
v2.570.3240 安卓免費版
v3.620.7001 IOS版
v5.307.3583 安卓免費版
v1.810 最新版
v4.291.5925.238165 IOS版
v2.174.6649.228633 安卓漢化版
v7.117 最新版
v6.658.461.805254 PC版
v2.4 安卓最新版
v1.849 最新版
v7.353.309.640783 最新版
v3.947.8959.432681 IOS版
v4.715 安卓漢化版
v4.600.4537 安卓版
v5.52.4396 最新版
v1.449.2745 安卓最新版
v4.136 最新版
v7.814.5187 安卓版
v6.384.0.362193 最新版
v5.700 IOS版
v6.22.3191.25456 PC版
v7.459.5179 安卓漢化版
v5.257 安卓免費版
v1.501.9379.276075 安卓最新版
v7.44.6189.29936 安卓版
v8.330.5956.160079 安卓最新版
v8.949.2939 PC版
v3.270 安卓免費版
v9.649 最新版
v9.728 安卓最新版
v6.106.8191 安卓漢化版
v9.338.9028 安卓免費版
v6.957.4699 安卓漢化版
v8.371 安卓最新版
v8.566.502.938021 最新版
v9.915 PC版
v8.379 安卓版
v8.740.8131.827113 安卓最新版
v6.579 安卓漢化版
v5.256 IOS版
v6.131.4376 安卓漢化版
v5.377.8489.73122 PC版
v2.109.3275.607853 安卓版
v8.130 安卓最新版
v8.687.8385.667400 最新版
v6.803 安卓最新版
v9.683.2586.240596 IOS版
v2.561.3868.856830 IOS版
v1.285.6741 安卓版
v6.53.7242.530816 安卓免費版
v3.300.7333.30998 安卓版
v4.371.3192.104810 IOS版
v8.645.5025.181393 IOS版
v4.162 安卓最新版
v2.187.1588.838349 最新版
v9.362.7213.589482 最新版
v4.729.7854.838505 安卓漢化版
v5.894 安卓免費版
v5.93.8080 安卓漢化版
v2.174.8333 安卓漢化版
v8.732 IOS版
v1.513 IOS版
v5.207 IOS版
v6.659.5415.969524 安卓漢化版
v4.359.4485.840610 安卓最新版
v9.484.853.984165 安卓免費版
v1.443.7707.715674 安卓免費版
v2.277.5149.444134 安卓免費版
v9.123 IOS版
v9.140.7809 安卓免費版
v3.90.9426.889994 IOS版
v7.126.6891 PC版
v6.958.6704.690173 安卓免費版
亚博AG娱乐
新智元报道
编辑:元宇
【新智元导读】谷歌世界模型大牛Danijar Hafner宣布离任!他自2016年起开始在Google Brain实习,后又在DeepMind、Brain Team工作。他的经历颇具传奇色彩,曾获辛顿指导,还与?ukasz Kaiser、Ashish Vaswani等Transformer大佬有过交集。
刚刚,「Dreamer」大神Danijar Hafner,宣布离开他曾工作近十年的谷歌。
离职前Danijar担任Google DeepMind旧金山分部的资深研究科学家(Staff Research Scientist)。
他的研究目标是「构建能够理解世界并与世界互动的通用智能体」。
作为谷歌世界模型大牛,Danijar曾主导/联合主导了Dreamer系列(Dreamer、DreamerV3、Dreamer4 等)的开发。
Danijar Hafner
他在推文中写道:「今天是我在DeepMind的最后一天」。
回顾了在Google和DeepMind将近10年的工作经历,Danijar认为「一个重要的篇章走到了终点」。
Danijar在谷歌的早期经历,多是以研究员的身份参与谷歌研究院、DeepMind、Brain Team等团队的工作。
从他的教育经历中,也能清晰看出他的职业发展轨迹。
从2016年起,他就开始参与Brain团队的实习。
据Danijar回忆,2016年他第一次在山景城参与谷歌Brain团队的实习,与James Davidson以及Vincent Vanhoucke一起共事。
因为当时尚无可运行的PPO实现,团队就在TensorFlow的静态图框架下进行调试和实验。
2017-2018年,Danijar在伦敦大学读硕士,期间他就在伦敦的DeepMind工作;
2018-2023年,Danijar在多伦多大学读博士,因此他就在多伦多的Brain Team工作了相当长一段时间。
他与该团队另一位资深研究科学家Mohammad Norouzi共同开发了多个版本的Dreamer。
初识Transformer
但「并未在意」
Danijar还记得?ukasz Kaiser第一次向他们展示一个由「大型」LSTM 生成的维基百科页面时的情形。
?ukasz Kaiser
?ukasz是一位机器学习研究员,他最初在Google Brain团队工作,后来加入OpenAI。
Google Brain团队曾于2018年发表《Generating Wikipedia by Summarizing Long Sequences》,?ukasz Kaiser是作者之一,主题就是端到端生成维基百科条目。
https://arxiv.org/abs/1801.10198?utm_source=chatgpt.com
Danijar还提到他「错过」Transformer的一段插曲。
当时,Ashish Vaswani曾经兴奋地向他介绍一种新架构在计算效率上的优势,并建议他将其应用在强化学习上,但那时Danijar却并未在意(我当时没试)。
后来这种架构被命名为Transformer。
Ashish Vaswani
https://arxiv.org/abs/1706.03762?utm_source=chatgpt.com
Ashish Vaswani是一位在AI领域颇具影响力的科学家与创业者。
他是Essential AI的联合创始人,但更为人熟知的是参与提出了那篇著名的《Attention Is All You Need》的开创性论文。
该论文提出了一种「彻底摒弃循环和卷积结构,仅用注意力机制」的全新简单网络架构Transformer,可以实现更强的并行性和更快的训练速度。
前面提到的?ukasz Kaiser也是这篇开创性论文的主要作者之一。
深度学习研究
2017-2018年,Danijar在伦敦大学攻读硕士。
这段时间他在伦敦的DeepMind工作,有机会参与到深度强化学习和生成式模型的研究,并与Timothy Lillicrap(DeepMind)以及Ian Fischer(Google Research)合作。
这段经历促成了他们共同完成了PlaNet(一种基于模型的强化学习算法,能从像素观测学习潜在世界模型,并在潜空间中进行规划与动作选择)。
Timothy Lillicrap
随后,Danijar与Nicolas Heess、DeepMind的Adaptive Agents团队长期交流,系统梳理并实践Karl Friston的自由能原理(Free Energy Principle, FEP)。
开发Dreamer
曾获辛顿指导
2018-2023年,Danijar在多伦多大学读博士,这段时期他还在加州大学伯克利分校以联合培养博士生的身份开展研究。
在多伦多大学读博期间,Danijar的主要导师是Jimmy Ba,同时还获得了辛顿(Jeffrey Hinton)的指导。
在此期间,Danijar还在多伦多的Brain Team工作了相当长一段时间。
Mohammad Norouzi
他与Google Brain多伦多分部的资深研究科学家Mohammad Norouzi共同开发了多个版本的Dreamer。
他们参与各种合作项目,还一起庆祝了辛顿获得获得图灵奖的时刻。
2018年的图灵奖授予Yoshua Bengio、Geoffrey Hinton和Yann LeCun
过去几年,Danijar一直在伯克利和旧金山之间,与Wilson Yan合作深入研究世界模型。
在Count Zero和Koray Kavukcuoglu的大力支持下,他得以充分利用顶级的算力与资源,推动了一系列前沿探索。
从Dreamer到DreamerV3,再到能够在想象中自主学习、甚至在纯离线环境下完成复杂任务的Dreamer4,这一系列成果令Danijar激动。
在Danijar的个人官网主页上,他的个人愿景十分醒目:「构建能够自主理解世界并与世界互动的智能机器。」
对他而言,世界模型不仅是技术突破,更是理解智能本质的一扇窗口。
如今,Danijar即将结束他在Google/DeepMind的十年旅程,带着复杂的心情和满怀期待,迎接新的篇章。
参考资料:
https://x.com/danijarh/status/1985436821405516031%20
https://danijar.com/?utm_source=chatgpt.com
相关版本
多平台下载
查看所有0条评论>网友评论