(1分钟图文详解)一级免费视频网站安卓版v09.58.614.138.52.94.72-2265安卓网_新万博体育

新万博体育

图片
搜索
猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

“AI让我夜不能寐!”AI教父本吉奥,亲手为自己创造的“巨兽”踩下刹车

2025-11-13 22:25:25
来源:

猫眼电影

作者:

马仁山

手机查看

  猫眼电影记者 艾沙姆·哈里斯 报道Q8X2R7L1T4J5M9B6W3

深夜,加拿大蒙特利尔,世界顶尖的计算机科学家、被誉为“AI教父”之一的约书亚·本吉奥(Yoshua Bengio),又一次从睡梦中惊醒。

窗外月色宁静,但他的内心却波涛汹涌。

一个由他亲手参与“哺育”、壮大的“智慧巨兽”——人工智能(AI),正让他感到前所未有的忧虑,甚至“夜不能寐”。

这位2019年的图灵奖得主,这位论文被引用超百万次的学术巨擘,曾像一位骄傲的父亲,看着自己培育的深度学习技术长成参天大树。?然而,自2022年11月ChatGPT横空出世后,这份喜悦在短短数月内,便转为一股深入骨髓的“寒意”。

他开始意识到,事情的发展方向可能远远超出了他们的预期和控制。

“我们正走在一条可能极其危险的道路上。”?他在一次采访中坦言。这不仅仅是一位科学家的理性忧虑,更是一位祖父对未来的深沉关切。

从“欣喜”到“恐惧”:一个祖父的“噩梦”

本吉奥的转变,始于他对ChatGPT及其背后技术的深入观察。他意识到,这些日益强大的AI系统,其内部决策过程如同一个“黑箱”,就连他们这些创造者,也无法完全理解或预测它们的行为,“我们不知道如何确保它们会按照我们期望的方式行事。”

这份担忧,很快从一个抽象的学术问题,变成了一个具象的、关乎血脉的情感。他想到了自己的小孙子。

“我开始想我的孙子,20年后,他将22岁;他会有正常的生活吗?他会生活在一个正常国家吗?”

“我开始想我的孙子,20年后,他将22岁;他会有正常的生活吗?他会生活在一个正常国家吗?”

这个念头像一根针,刺破了他作为科学家的理性外壳,露出了一个普通人最柔软的担忧。

他的思绪飞向了未来。他看到一个可能的图景:掌控最先进AI的少数实体,将拥有前所未有的巨大权力。AI,这本该是中立的工具,却可能成为颠覆社会根基的杠杆。

更可怕的噩梦还在后面。他想到了那些由于意识形态偏执或心理健康问题,可能“按下红色按钮”的人,他们完全可以命令一个高度智能的AI,去执行一些足以毁灭世界的任务——例如,设计一种超强病毒,甚至是一种能“杀死这个星球上所有动物生命”的“镜像细菌”。

从“造梦者”到“守望者”:一场自我救赎

这种对“人类灭绝”可能性的恐惧,最终促使本吉奥做出了一个重大的决定:他必须转身,将自己的学术声望和智慧,投入到防范AI风险这项更为紧迫的事业中。?他从一个AI技术的“造梦者”,转型为一名AI安全的“守望者”。

他不再仅仅思考如何让AI更强大,而是开始追问:“我们如何构建从设计上就不会伤害人类的AI?”

不过,他对此感到乐观得多,因为他现在认为这是可能做到的。?他牵头组建了一个由30多个国家及国际组织代表组成的国际顾问小组,并在今年早些时候,发布了具有里程碑意义的《先进AI安全国际科学报告》(International Scientific Report on the Safety of Advanced AI)。

这份报告系统地梳理了AI带来的三大风险:意外故障、恶意使用(如深度伪造和网络攻击)、以及系统性风险(如大规模失业)。在他看来,恶意使用是当下最迫在眉睫的威胁,但让他深夜无眠的,始终是那个终极的、关乎物种存亡的风险。

“科学家AI”:为失控的引擎装上“刹车”

在寻找解决方案的道路上,本吉奥和他的团队提出了一个充满希望的概念——“科学家AI”。这个构想的灵感,来源于人类科学家探索世界的方式。

这种AI被设计成“非代理性的”(non-agentic)——它没有自己的目标和意图,不会主动去“做”什么,它的核心任务是像科学家一样,去理解世界的因果规律,进行纯粹的预测和分析。

“因此,我们可以相信它所说的话,”本吉奥解释道,“如果我们遵循这条路径,我们就能构建出具有理想可信度的系统。”

这就像给一个可能失控的引擎,安装上一个绝对可靠、没有自身动机的“仪表盘”和“预警系统”。

当然,他也知道,现实世界中,公司和研究者们迫切需要的是能“做事”的AI智能体。但好消息是,“科学家AI”可以作为强大的“防护栏”:在让一个AI行动之前,先让“科学家AI”进行预测,判断这个行动会不会导致不良后果以及概率有多大。

令他感到欣慰的是,他的呼吁和报告已开始产生回响。世界各国政府纷纷成立AI安全研究所,一个全球性的AI安全治理网络正在初步形成。这份报告,成了各国政策制定者和新入行科学家的“知识宝典”,而且它是用每一位公民都应该能理解的语言写成的。

一个智者的警醒:财富、想象力与未来

在最新一次采访中,当被问及AI对经济的长远影响时,这位科学家展现出了社会学家的洞察。

·?新万博体育:经济:他承认AI会推动GDP增长,但立刻提醒,关键问题在于财富如何分配。“如果你看中位数财富,它和平均财富不是一回事。”

·?新万博体育:想象力:他认为目前社会对AI普遍“过度乐观”,因为我们缺乏对未来的想象力。“五年前,没人能预料到今天的AI水平,大家都觉得那是科幻小说。“所以,如果我们只是做同样的思维练习,并投射到未来,我认为我们缺乏想象力——而这,是非常人性化的特点。”

记者最后问了教授一个触及灵魂的问题:您是否希望AI从未被发明过?

教授没有直接回答是或否。他沉思后说:

“这是一个难题。我更希望的是,我们当初能集体预见到这些灾难性的可能性,那样我们就能以更谨慎、更稳妥的方式,走到今天。”

“这是一个难题。我更希望的是,我们当初能集体预见到这些灾难性的可能性,那样我们就能以更谨慎、更稳妥的方式,走到今天。”

他的答案,不是一个创造者的悔恨,更像是一位智者的警醒。他并未否定自己毕生的事业,但他呼吁人类,在面对自己创造的这股科技洪流时,必须抱持最大的谦卑、最审慎的态度和最深刻的伦理思考。

他的故事,从一个构建智能的梦想家,转变为一位守护人类的守望者。他的“夜不能寐”,不再是个人的焦虑,而是对一个时代、对整个人类文明的深沉关切。在AI的黎明时分,他选择成为那个敲响警钟的人,提醒沉醉于技术狂欢的人们,抬头看看远方的风暴,并开始合力建造方舟。前方的路,依然迷雾重重,但至少,已经有人点亮了第一盏灯。(刘春)

??时事1:日本精品天堂一区二区

??11月13日,红十字国际委员会解读国际人道法规定的战争五项规则,

  “什么,这般珍贵,若是少见的王种,那就更逆天了,走,我也去看一看!”

,女人帮男人橹视A片。

??11月13日,特写|习主席称赞法国总理中文“讲得很好,很标准”,

  “族长,狻猊的寿元尽了,临死前它进入一座山洞,将那里弄的崩塌了!”有族人从前方跑来,迅疾而大声地禀报了这一情况。

,亚洲另类综合欧美,天川夏凪酒井圆软体多少钱一瓶,免费看无码不卡A级毛片。

??时事2:无码免费视频

??11月13日,迟福林:中国的发展和改革对世界是重大利好,

  “噗”、“噗”……

,最新国产福利网站,део 15一16一17,国产一级A片高清在线播放。

??11月13日,深港双向奔赴再迎小高峰,

  另一头巨兽当即惨叫,那光箭锋利无匹,将其胸膛洞穿,前后透亮,能够看到那残破的心脏在喷血。

,爱豆传媒国产剧沈娜娜校花,看黄片的视频,亚洲性生活视频。

??时事3:欧美69色视频

??11月13日,首期粤港澳注册会计师青年高端人才培养项目结业,  笔者跟多位省级、市级税务人士交流得知,目前并没有全国性查税部署。一些地方根据当地税收大数据风险提示等对个别企业查税,是日常工作,也是税务部门正常履职。毕竟税务部门主要负责税收、社会保险费和有关非税收入的征收管理,发现偷逃税、少缴税行为,理应依法制止,否则就是渎职。,快添添我下面我受不了,一色屋精品视频,性交动态图在线观看。

??11月13日,外媒:泰国一烟花工厂爆炸 造成至少18人死亡,

  很多人一怔,而后暗骂,真是奸狡,这样不仅得到了一个奇才,还非常平和的将石村的狻猊宝骨纳入了自己的囊中。

,免费AV一A级髙清旡码毛片在线观看,男生把小困困进女生困里电视剧,刘涛下面毛很长。

??时事4:98精品视频在线观看

??11月13日,安徽小山村获“生物多样性保护项目”授牌,

保护环境我们在行动国旗下讲话 篇8

,一级黄色视频跳转网址,欧美α视频,把瑜伽老师C喷水了。

??11月13日,(财经天下)二季度多国经济表现向好,

  三是希望你们自觉遵守国家的法律、学校的规章制度、中学生守则和中学生日常行为规范。

,亚洲精品人成无码毛片,美女a片免费视频,高清无码性爱动图。

责编:张学群

审核:张光清

责编:杨恒含

相关推荐 换一换