猫眼电影
猫眼电影记者 谢胜权 报道Q8X2R7L1T4J5M9B6W3
机器之心报道
编辑:Panda
今天,谷歌有点忙。
一方面,他们与耶鲁大学合作基于 Gemma 研发的 Cell2Sentence-Scale 27B (C2S-Scale) 首次预测了一种新的潜在癌症疗法,引发世界广泛关注。另一方面,他们又更新上线了 Veo 3.1,为用户带来了大幅提升的视频生成能力,参阅报道《刚刚,谷歌 Veo 3.1 迎来重大更新,硬刚 Sora 2》。
再一方面,他们又推出了Coral NPU,可用于构建在低功率设备上持续运行的 AI。具体来说,其可在可穿戴设备上运行小型 Transformer 模型和 LLM,并可通过 IREE 和 TFLM 编译器支持 TensorFlow、JAX 和 PyTorch。
和前两个新闻一样,这也同样引起了开发者的广泛热议。
Coral NPU:一个为边缘设备打造的全栈开源 AI 平台
谷歌给 Coral NPU 的定位是「一个全栈、开源的平台,旨在解决性能、碎片化和隐私这三大核心挑战,而这些挑战限制了功能强大、始终在线的 AI 技术在低功耗边缘设备和可穿戴设备上的应用。」
也就是说,使用 Coral NPU,未来我们有望打造出能在智能手表等设备上本地持续运行的好用 AI,让智能直接嵌入到用户的个人环境中。
然而,要做到这一点却并非易事。谷歌总结了三大方面的挑战:
性能差距:复杂且先进的机器学习模型需要新万博体育:的计算资源,这远超边缘设备有限的功率、散热和内存预算。碎片化成本:为多样化的专有处理器编译和优化机器学习模型既困难又昂贵,这阻碍了跨设备实现一致的性能。用户信任缺失:要想真正发挥作用,个人 AI 必须优先保障个人数据和情境的隐私与安全。
而谷歌今天推出的 Coral NPU 基于其最初的 Coral 项目,「可为硬件设计者和机器学习开发者提供了构建下一代私密、高效边缘 AI 设备所需的工具。」
具体来说,Coral NPU 是与 Google Research 和 Google DeepMind 合作设计的成果,乃是一个 AI 优先的硬件架构,可用于支持下一代超低功耗、始终在线的边缘 AI。
它提供了统一的开发者体验,使部署环境感知等应用变得更加容易。它专为在可穿戴设备上实现全天候 AI 而设计,同时能最大限度地减少电池消耗,并且可通过适当配置来适应更高性能的应用场景。
谷歌已经发布了相关文档和工具,以便开发者和设计者可以立即开始构建。
项目主页:https://developers.google.com/coral代码库:https://github.com/google-coral/coralnpu
技术细节
顾名思义,Coral NPU 采用了 NPU(神经处理单元 /neural processing unit)架构,其为下一代高能效、针对机器学习优化的片上系统 (SoC) 提供了构建模块。
该架构基于一套符合 RISC-V 指令集架构 (RISC-V ISA) 的 IP 模块,专为最低功耗而设计,使其成为始终在线的环境感知的理想选择。
其基础设计可在仅消耗几毫瓦功率的情况下,提供512 GOPS(每秒十亿次操作) 级别的性能,从而可为边缘设备、耳戴式设备、AR 眼镜和智能手表带来强大的端侧 AI 能力。
Coral NPU 生态系统统一视图,展示了为 SoC 设计者和机器学习开发者提供的端到端技术栈。
这种基于 RISC-V 的开放且可扩展的架构为 SoC 设计者提供了灵活性,让他们可以修改基础设计,或将其用作一个预配置的 NPU。
Coral NPU 架构包含以下组件:
一个标量核心(scalar core): 一个轻量级、可用 C 语言编程的 RISC-V 前端,负责管理流向后端核心的数据流。它采用简单的「运行到完成」 (run-to-completion) 模型,以实现超低功耗和传统的 CPU 功能。一个向量执行单元(vector execution unit): 一个强大的单指令多数据 (SIMD) 协处理器,符合 RISC-V 向量指令集 (RVV) v1.0 规范,能够对大型数据集进行同步操作。一个矩阵执行单元(matrix execution unit): 一个高效的量化外积乘积累加 (MAC) 引擎,专为加速神经网络的基本运算而构建。请注意,该矩阵执行单元仍在开发中,将于今年晚些时候在 GitHub 上发布。
从传统设计到 Coral NPU 的架构转变示意图。
统一的开发者体验
Coral NPU 架构是一个简单的、可用 C 语言编程的目标平台,可以与 IREE 和 TFLM 等现代编译器无缝集成。这使得它能够轻松支持 TensorFlow、JAX 和 PyTorch 等机器学习框架。
Coral NPU 包含一个全面的软件工具链,其中包括针对 TensorFlow 的 TFLM 编译器等专用解决方案,以及一个通用的 MLIR 编译器、C 编译器、自定义内核和一个模拟器。这可为开发者提供了灵活的路径。
例如,一个来自 JAX 等框架的模型首先会使用 StableHLO 方言 (dialect) 导入为 MLIR 格式。这个中间文件随后被送入 IREE 编译器,该编译器会应用一个硬件特定的插件来识别 Coral NPU 的架构。之后,编译器会执行渐进式降低 (progressive lowering)—— 这是一个关键的优化步骤,在此过程中代码会通过一系列方言被系统地翻译,逐步接近机器的本地语言。优化后,工具链会生成一个最终的、紧凑的二进制文件,以便在边缘设备上高效执行。
下表展示了 Coral NPU 的软件开发优势:
这套行业标准的开发者工具有助于简化机器学习模型的编程,并能在各种硬件目标上提供一致的体验。
Coral NPU 编译器工具链,展示了从机器学习模型创建、优化、编译到设备端部署的完整流程。
Coral NPU 的协同设计过程聚焦于两个关键领域。
首先,该架构能高效加速当今设备端视觉和音频应用中领先的、基于编码器的架构。其次,谷歌正与 Gemma 团队紧密合作,针对小型 Transformer 模型优化 Coral NPU,以确保该加速器架构能够支持下一代边缘生成式 AI。
这种双重关注意味着 Coral NPU 有望成为首个开放、基于标准、专为将大语言模型 (LLM) 引入可穿戴设备而设计的低功耗 NPU。
对于开发者而言,这可提供一条单一且经过验证的路径,可以用最低的功耗和最高的性能来部署当前和未来的模型。
目标应用
Coral NPU 旨在支持超低功耗、始终在线的边缘 AI 应用,尤其侧重于环境感知系统。其主要目标是在可穿戴设备、手机和物联网 (IoT) 设备上实现全天候的 AI 体验,同时最大限度地减少电池消耗。
潜在用例包括:
情境感知:检测用户活动(如步行、跑步)、距离或环境(如室内 / 室外、移动中),以启用「免打扰」模式或其他情境感知功能。音频处理:语音和声音检测、关键词识别、实时翻译、转录以及基于音频的无障碍功能。图像处理:人物和物体检测、面部识别、手势识别以及低功耗视觉搜索。用户交互: 通过手势、音频提示或其他传感器驱动的输入进行设备控制。
硬件强制的隐私保护
Coral NPU 的一个核心原则是通过硬件强制的安全性来建立用户信任。
谷歌表示:「我们的架构正在被设计用来支持 CHERI 等新兴技术,该技术提供细粒度的内存级安全和可扩展的软件分区。我们希望通过这种方法,将敏感的 AI 模型和个人数据隔离在硬件强制的沙箱中,以抵御基于内存的攻击。」
构建生态系统
开源硬件项目的成功依赖于强大的合作伙伴关系。
为此,谷歌宣布了与 Synaptics 的合作关系,这也是其「第一个战略芯片合作伙伴」,同时也是物联网领域嵌入式计算、无线连接和多模态传感的领导者。
今天,Synaptics 在其技术日活动上宣布了其新的 Astra SL2610 系列 AI 原生物联网处理器。该产品线采用了他们的 Torq NPU 子系统,这是业界首个 Coral NPU 架构的量产实现。该 NPU 的设计支持 Transformer 并支持动态算子,使开发者能够为消费和工业物联网构建面向未来的边缘 AI 系统。
Astra SL2610,来自 X 用户 @TekStrategist
结语
谷歌表示 Coral NPU 有望「解决边缘计算的核心危机」:「借助 Coral NPU,我们正在为个人 AI 的未来构建一个基础层。我们的目标是通过提供一个通用的、开源的、安全的平台供业界在此基础上发展,从而催生出一个充满活力的生态系统。」
对此,你怎么看?有兴趣尝试基于这个平台进行开发吗?
https://x.com/GoogleResearch/status/1978449643437539378
https://research.google/blog/coral-npu-a-full-stack-platform-for-edge-ai
??时事1:线上博狗正网
??10月15日,国务院安委会对秦皇岛重大观光游览船侧翻事故查处挂牌督办, 中国地震台网正式测定:06月08日11时16分在福建三明市尤溪县(北纬26.30度,东经118.15度)发生3.5级地震,震源深度8千米。,泰达足球俱乐部。
??10月15日,鼓浪屿上的时尚秀:多元文化泛起“潮流浪花”, 根据排名,日本、伊朗和韩国队位列18强赛第一档。亚足联官网12日高度赞扬日本队:“在36强小组赛阶段6战全胜,打进24球未失一球。”日本队在最后一轮小组赛以5∶0轻取叙利亚队。此外,亚足联官网认为,伊朗和韩国队都在36强赛中表现出强大竞争力。而第二档的澳大利亚、卡塔尔和沙特队同样实力不俗。澳大利亚队以打进22球不丢一球的战绩拿下6连胜,卡塔尔队保持不败,沙特队在最后一场小组赛中以1∶2不敌约旦队。伊拉克队以全胜战绩领衔第三档球队,而乌兹别克斯坦和阿联酋队也在36强赛中保持不败,约旦、阿曼和巴林队这三支第四档球队都提前从36强中突围。,AOA网站是什么,天博注册彩金,华纳公司。
??时事2:体育app官网登录
??10月15日,卡塔尔促成向人质供药协议 以军在汗尤尼斯发动针对性袭击,
清明时节阳光媚,祭奠先人思祖恩。自粱素卿老人全家投资修建的宗祠落成以来,整整走过了五个年头。这里成了宗亲怀念之地,向往之所。徙居在外的宗亲怀着对故土桑梓的热爱,对家族温情的缅怀,对惠泽子孙后代的愿望,把这里看成是圣地,因为他们知道:家人是一生一次的缘分。一家,上至父辈,下至孙辈把家族看得很重。他在结识了一批族(东西支)后裔;每年祭祀都要为先祖献上一个花篮,每年都要为家族捐款。他的堂姐赵霞关心家族的事业,来此祭过祖,也为烫伤的小钧钧两次捐款近3000元。他的堂弟赵经敏在广州前天为联谊会捐了款。家居大连市的赵焕成宗亲是局级离休老干部,带着三个姑娘前来祭祖,家居青岛的'90多岁的赵传芳日前带着两个儿子、一个姑娘、一个孙子,探访了离别七十多年的老家,他们要告诉后代:我们的根在这里,使我们家族历史代代相传。
,世界杯买球比例是多少,宝马会官方网站,e乐彩登录。??10月15日,全国首例球罐型LNG运输船变身“海上天然气气站”,
突然,嗡的一声,一种恐怖的波动震开,漫天金色光雨出现,气息可怕的吓人,让人惊悚与颤栗。
,体育BBIN体育网,伟德苹果版,嘉年华捕鱼。??时事3:贝博在线充值
??10月15日,日媒:日本高滨核电站发生水蒸气泄漏 ,
狈村人的祭灵是一只狈,该族的姓都是藉此而来的。
,BBIN体育网,葡京娱乐开户,有没有注册就送钱的。??10月15日,“五一”假期中老铁路磨憨口岸出入境旅客同比增长101%,
“记住,只有二十天的时间,不然你们等着灭族吧!”一个头领喝道,而后用力抽了一鞭。
,下载炸金花免费板,bet9九州体育信誉,黄大仙灵码A。??时事4:365bet体育在线滚球正规
??10月15日,期待吗?无BGM沉浸感受夏天氛围,
(五)加强宣传教育,切实营造良好的社会氛围。要坚持正确的舆论导向,采取多种形式,广泛宣传建立和实施农村低保制度的重要意义,宣传党和政府对农村困难群众的关心,宣传农村低保制度的政策、规定,让这一惠民工程进村入户、家喻户晓,要积极动员社会各界关注农村困难群众,支持农村低保工作。要把农村低保工作作为政务公开和村务公开的重要内容,定期公布农村低保工作实施情况,公开保障标准、审批程序和补差金额,主动接受社会监督和群众监督,为农村低保工作的顺利开展创造良好的舆论氛围和社会环境。
,真人代替国际象棋视频,金沙新加坡澳门线上网址,维尼斯人网址。??10月15日,学习进行时·快来学习丨如何更好“读懂中国”?习近平主席提供重要指引,
在村干部培训班上的讲话 篇20
,365速发官网链接,世界杯哪个网站可以买球,威尼斯人登录和注册。责编:王小燕
审核:霍纳桑-法布罗
责编:梁静