(5分钟一步到位)365体育网址安卓版v24.07.86.33.14.5.80.39-2265安卓网_新万博体育

新万博体育

图片
搜索
猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

“AI让我夜不能寐!”AI教父本吉奥,亲手为自己创造的“巨兽”踩下刹车

2025-11-11 02:56:48
来源:

猫眼电影

作者:

于小伟

手机查看

  猫眼电影记者 王友祥 报道Q8X2R7L1T4J5M9B6W3

深夜,加拿大蒙特利尔,世界顶尖的计算机科学家、被誉为“AI教父”之一的约书亚·本吉奥(Yoshua Bengio),又一次从睡梦中惊醒。

窗外月色宁静,但他的内心却波涛汹涌。

一个由他亲手参与“哺育”、壮大的“智慧巨兽”——人工智能(AI),正让他感到前所未有的忧虑,甚至“夜不能寐”。

这位2019年的图灵奖得主,这位论文被引用超百万次的学术巨擘,曾像一位骄傲的父亲,看着自己培育的深度学习技术长成参天大树。?然而,自2022年11月ChatGPT横空出世后,这份喜悦在短短数月内,便转为一股深入骨髓的“寒意”。

他开始意识到,事情的发展方向可能远远超出了他们的预期和控制。

“我们正走在一条可能极其危险的道路上。”?他在一次采访中坦言。这不仅仅是一位科学家的理性忧虑,更是一位祖父对未来的深沉关切。

从“欣喜”到“恐惧”:一个祖父的“噩梦”

本吉奥的转变,始于他对ChatGPT及其背后技术的深入观察。他意识到,这些日益强大的AI系统,其内部决策过程如同一个“黑箱”,就连他们这些创造者,也无法完全理解或预测它们的行为,“我们不知道如何确保它们会按照我们期望的方式行事。”

这份担忧,很快从一个抽象的学术问题,变成了一个具象的、关乎血脉的情感。他想到了自己的小孙子。

“我开始想我的孙子,20年后,他将22岁;他会有正常的生活吗?他会生活在一个正常国家吗?”

“我开始想我的孙子,20年后,他将22岁;他会有正常的生活吗?他会生活在一个正常国家吗?”

这个念头像一根针,刺破了他作为科学家的理性外壳,露出了一个普通人最柔软的担忧。

他的思绪飞向了未来。他看到一个可能的图景:掌控最先进AI的少数实体,将拥有前所未有的巨大权力。AI,这本该是中立的工具,却可能成为颠覆社会根基的杠杆。

更可怕的噩梦还在后面。他想到了那些由于意识形态偏执或心理健康问题,可能“按下红色按钮”的人,他们完全可以命令一个高度智能的AI,去执行一些足以毁灭世界的任务——例如,设计一种超强病毒,甚至是一种能“杀死这个星球上所有动物生命”的“镜像细菌”。

从“造梦者”到“守望者”:一场自我救赎

这种对“人类灭绝”可能性的恐惧,最终促使本吉奥做出了一个重大的决定:他必须转身,将自己的学术声望和智慧,投入到防范AI风险这项更为紧迫的事业中。?他从一个AI技术的“造梦者”,转型为一名AI安全的“守望者”。

他不再仅仅思考如何让AI更强大,而是开始追问:“我们如何构建从设计上就不会伤害人类的AI?”

不过,他对此感到乐观得多,因为他现在认为这是可能做到的。?他牵头组建了一个由30多个国家及国际组织代表组成的国际顾问小组,并在今年早些时候,发布了具有里程碑意义的《先进AI安全国际科学报告》(International Scientific Report on the Safety of Advanced AI)。

这份报告系统地梳理了AI带来的三大风险:意外故障、恶意使用(如深度伪造和网络攻击)、以及系统性风险(如大规模失业)。在他看来,恶意使用是当下最迫在眉睫的威胁,但让他深夜无眠的,始终是那个终极的、关乎物种存亡的风险。

“科学家AI”:为失控的引擎装上“刹车”

在寻找解决方案的道路上,本吉奥和他的团队提出了一个充满希望的概念——“科学家AI”。这个构想的灵感,来源于人类科学家探索世界的方式。

这种AI被设计成“非代理性的”(non-agentic)——它没有自己的目标和意图,不会主动去“做”什么,它的核心任务是像科学家一样,去理解世界的因果规律,进行纯粹的预测和分析。

“因此,我们可以相信它所说的话,”本吉奥解释道,“如果我们遵循这条路径,我们就能构建出具有理想可信度的系统。”

这就像给一个可能失控的引擎,安装上一个绝对可靠、没有自身动机的“仪表盘”和“预警系统”。

当然,他也知道,现实世界中,公司和研究者们迫切需要的是能“做事”的AI智能体。但好消息是,“科学家AI”可以作为强大的“防护栏”:在让一个AI行动之前,先让“科学家AI”进行预测,判断这个行动会不会导致不良后果以及概率有多大。

令他感到欣慰的是,他的呼吁和报告已开始产生回响。世界各国政府纷纷成立AI安全研究所,一个全球性的AI安全治理网络正在初步形成。这份报告,成了各国政策制定者和新入行科学家的“知识宝典”,而且它是用每一位公民都应该能理解的语言写成的。

一个智者的警醒:财富、想象力与未来

在最新一次采访中,当被问及AI对经济的长远影响时,这位科学家展现出了社会学家的洞察。

·?新万博体育:经济:他承认AI会推动GDP增长,但立刻提醒,关键问题在于财富如何分配。“如果你看中位数财富,它和平均财富不是一回事。”

·?新万博体育:想象力:他认为目前社会对AI普遍“过度乐观”,因为我们缺乏对未来的想象力。“五年前,没人能预料到今天的AI水平,大家都觉得那是科幻小说。“所以,如果我们只是做同样的思维练习,并投射到未来,我认为我们缺乏想象力——而这,是非常人性化的特点。”

记者最后问了教授一个触及灵魂的问题:您是否希望AI从未被发明过?

教授没有直接回答是或否。他沉思后说:

“这是一个难题。我更希望的是,我们当初能集体预见到这些灾难性的可能性,那样我们就能以更谨慎、更稳妥的方式,走到今天。”

“这是一个难题。我更希望的是,我们当初能集体预见到这些灾难性的可能性,那样我们就能以更谨慎、更稳妥的方式,走到今天。”

他的答案,不是一个创造者的悔恨,更像是一位智者的警醒。他并未否定自己毕生的事业,但他呼吁人类,在面对自己创造的这股科技洪流时,必须抱持最大的谦卑、最审慎的态度和最深刻的伦理思考。

他的故事,从一个构建智能的梦想家,转变为一位守护人类的守望者。他的“夜不能寐”,不再是个人的焦虑,而是对一个时代、对整个人类文明的深沉关切。在AI的黎明时分,他选择成为那个敲响警钟的人,提醒沉醉于技术狂欢的人们,抬头看看远方的风暴,并开始合力建造方舟。前方的路,依然迷雾重重,但至少,已经有人点亮了第一盏灯。(刘春)

??时事1:真钱赌钱手机版

??11月11日,山西古建筑100问——双林寺何以被称为“东方彩塑艺术宝库”?,

  这些日子以来,小不点将骨书都快翻烂了,彻底精通与掌握了这些符文,没什么可学的了,只能自己摸索与钻研。

,线上彩票正规渠道。

??11月11日,长三角一体化示范区未来三年将推进124个项目建设,

  (四)开展村干部培训工作,是实现强区富民的迫切要求。 强区富民,是全区上下共同的追求,是 33 万雨山人民共同的梦想,也是包括广大村干部在内的全区各级干部价值取向和至关重要的任务。区强,农村必须要强;民富,农民必须要富。近几年,我们打造四个强区、建设美好雨山取得了可喜成绩,随着宏观环境的不断变化以及人民群众对美好生活的新期待,四个强区建设进入了新阶段,迫切需要各级干部坚持改革创新,破除思想观念束缚,通过持续不断的学习培训,特别是要加强市场经济、产业政策、实用技术、社会治理、法律法规的学习,并运用到具体实践之中,努力提高发展农村经济、带领农民致富的能力,不断提升服务基层群众、维护和谐稳定的水平。

,世界杯投注倍率怎么看,英亚y6,万赢体育官网首页。

??时事2:万博max手机登录版

??11月11日,山东培育创新型中小企业 打造“群峰耸立”产业格局,

  令人吃惊的是,这条紫金蛇速度极快,竟人立而起,尾巴一弹,迅速飞跃出去二十几米远,避过了这一击。

,博狗比分网址,万博manxbet官网登录,PG电子游戏官方网站。

??11月11日,冰天雪地也是金山银山|乘势而上打造冰雪经济高地,

网站董事长致辞 篇10

,国际体育注册,im电竞网站,365bet体育在线数据比对。

??时事3:真人游戏手机版

??11月11日,浙江温州乡村艺术团探索城乡文化融合“新版本”,

  独角兽遭受了重创,几乎被冻裂了,若非小不点用尽浑身的神曦滋养其肉身,它必然死在了河中,根本不可能活下来。

,威尼斯人安卓版下载,体育平台怎么赚钱,lol比赛怎么买外围。

??11月11日,交通运输部启动Ⅲ级应急响应 全力做好新疆乌什县7.1级地震抗震救灾工作,

  “唔,不要冒险,带上几个小家伙走上一趟,去见见世面,没有我的命令不得出手!”老者告诫道,眸子中的金光慑人之极。

,万博手机端,九州bet9登陆,体球即寸比分网手机版app。

??时事4:手机真钱的棋牌游戏

??11月11日,财经观察:“国潮”风涌 解暑“老字号”迎新机中国铁路北京局端午假期运输收官 共计发送旅客636.6万人次,

  而这条灰蛟亦横舞乾坤,上下翻腾,喷薄出一片又一片炽光,附近的树木还有山石不断发出喀嚓喀嚓声,相继崩碎。

,天娱乐平台注册,那个网站能看世界杯,ayxapp官方。

??11月11日,抖音发起精品短剧“辰星计划” 好立意和好故事成就好作品,

  “补天阁?”小石昊迷惑,不知道那是怎样的一个地方。

,快打三,火狐体育官网在线网站,亚美体育哪个国家的。

责编:冯灵生

审核:高恩峰

责编:普拉多

相关推荐 换一换