(4分钟带你了解)乐博在线登录苹果版v4.19.1.35.8.45-2265安卓网_新万博体育
乐博在线登录 最近更新|更新列表|字母检索|下载排行|苹果专区|分类导航

当前位置:首页电脑软件2023年中国汽车出口居全球第一 → 乐博在线登录 v5.350.5312 安卓漢化版

乐博在线登录

乐博在线登录

  • 电脑版下载
猜你喜欢
标签: 乐博在线登录 澳门太阳赌城网站
详情
介绍
猜你喜欢
相关版本

内容详情

乐博在线登录

机器之心报道

编辑:Panda

今天,谷歌有点忙。

一方面,他们与耶鲁大学合作基于 Gemma 研发的 Cell2Sentence-Scale 27B (C2S-Scale) 首次预测了一种新的潜在癌症疗法,引发世界广泛关注。另一方面,他们又更新上线了 Veo 3.1,为用户带来了大幅提升的视频生成能力,参阅报道《刚刚,谷歌 Veo 3.1 迎来重大更新,硬刚 Sora 2》。

再一方面,他们又推出了Coral NPU,可用于构建在低功率设备上持续运行的 AI。具体来说,其可在可穿戴设备上运行小型 Transformer 模型和 LLM,并可通过 IREE 和 TFLM 编译器支持 TensorFlow、JAX 和 PyTorch。

和前两个新闻一样,这也同样引起了开发者的广泛热议。

Coral NPU:一个为边缘设备打造的全栈开源 AI 平台

谷歌给 Coral NPU 的定位是「一个全栈、开源的平台,旨在解决性能、碎片化和隐私这三大核心挑战,而这些挑战限制了功能强大、始终在线的 AI 技术在低功耗边缘设备和可穿戴设备上的应用。」

也就是说,使用 Coral NPU,未来我们有望打造出能在智能手表等设备上本地持续运行的好用 AI,让智能直接嵌入到用户的个人环境中。

然而,要做到这一点却并非易事。谷歌总结了三大方面的挑战:

性能差距:复杂且先进的机器学习模型需要新万博体育:的计算资源,这远超边缘设备有限的功率、散热和内存预算。碎片化成本:为多样化的专有处理器编译和优化机器学习模型既困难又昂贵,这阻碍了跨设备实现一致的性能。用户信任缺失:要想真正发挥作用,个人 AI 必须优先保障个人数据和情境的隐私与安全。

而谷歌今天推出的 Coral NPU 基于其最初的 Coral 项目,「可为硬件设计者和机器学习开发者提供了构建下一代私密、高效边缘 AI 设备所需的工具。」

具体来说,Coral NPU 是与 Google Research 和 Google DeepMind 合作设计的成果,乃是一个 AI 优先的硬件架构,可用于支持下一代超低功耗、始终在线的边缘 AI。

它提供了统一的开发者体验,使部署环境感知等应用变得更加容易。它专为在可穿戴设备上实现全天候 AI 而设计,同时能最大限度地减少电池消耗,并且可通过适当配置来适应更高性能的应用场景。

谷歌已经发布了相关文档和工具,以便开发者和设计者可以立即开始构建。

项目主页:https://developers.google.com/coral代码库:https://github.com/google-coral/coralnpu

技术细节

顾名思义,Coral NPU 采用了 NPU(神经处理单元 /neural processing unit)架构,其为下一代高能效、针对机器学习优化的片上系统 (SoC) 提供了构建模块。

该架构基于一套符合 RISC-V 指令集架构 (RISC-V ISA) 的 IP 模块,专为最低功耗而设计,使其成为始终在线的环境感知的理想选择。

其基础设计可在仅消耗几毫瓦功率的情况下,提供512 GOPS(每秒十亿次操作) 级别的性能,从而可为边缘设备、耳戴式设备、AR 眼镜和智能手表带来强大的端侧 AI 能力。

Coral NPU 生态系统统一视图,展示了为 SoC 设计者和机器学习开发者提供的端到端技术栈。

这种基于 RISC-V 的开放且可扩展的架构为 SoC 设计者提供了灵活性,让他们可以修改基础设计,或将其用作一个预配置的 NPU。

Coral NPU 架构包含以下组件:

一个标量核心(scalar core): 一个轻量级、可用 C 语言编程的 RISC-V 前端,负责管理流向后端核心的数据流。它采用简单的「运行到完成」 (run-to-completion) 模型,以实现超低功耗和传统的 CPU 功能。一个向量执行单元(vector execution unit): 一个强大的单指令多数据 (SIMD) 协处理器,符合 RISC-V 向量指令集 (RVV) v1.0 规范,能够对大型数据集进行同步操作。一个矩阵执行单元(matrix execution unit): 一个高效的量化外积乘积累加 (MAC) 引擎,专为加速神经网络的基本运算而构建。请注意,该矩阵执行单元仍在开发中,将于今年晚些时候在 GitHub 上发布。

从传统设计到 Coral NPU 的架构转变示意图。

统一的开发者体验

Coral NPU 架构是一个简单的、可用 C 语言编程的目标平台,可以与 IREE 和 TFLM 等现代编译器无缝集成。这使得它能够轻松支持 TensorFlow、JAX 和 PyTorch 等机器学习框架。

Coral NPU 包含一个全面的软件工具链,其中包括针对 TensorFlow 的 TFLM 编译器等专用解决方案,以及一个通用的 MLIR 编译器、C 编译器、自定义内核和一个模拟器。这可为开发者提供了灵活的路径。

例如,一个来自 JAX 等框架的模型首先会使用 StableHLO 方言 (dialect) 导入为 MLIR 格式。这个中间文件随后被送入 IREE 编译器,该编译器会应用一个硬件特定的插件来识别 Coral NPU 的架构。之后,编译器会执行渐进式降低 (progressive lowering)—— 这是一个关键的优化步骤,在此过程中代码会通过一系列方言被系统地翻译,逐步接近机器的本地语言。优化后,工具链会生成一个最终的、紧凑的二进制文件,以便在边缘设备上高效执行。

下表展示了 Coral NPU 的软件开发优势:

这套行业标准的开发者工具有助于简化机器学习模型的编程,并能在各种硬件目标上提供一致的体验。

Coral NPU 编译器工具链,展示了从机器学习模型创建、优化、编译到设备端部署的完整流程。

Coral NPU 的协同设计过程聚焦于两个关键领域。

首先,该架构能高效加速当今设备端视觉和音频应用中领先的、基于编码器的架构。其次,谷歌正与 Gemma 团队紧密合作,针对小型 Transformer 模型优化 Coral NPU,以确保该加速器架构能够支持下一代边缘生成式 AI。

这种双重关注意味着 Coral NPU 有望成为首个开放、基于标准、专为将大语言模型 (LLM) 引入可穿戴设备而设计的低功耗 NPU。

对于开发者而言,这可提供一条单一且经过验证的路径,可以用最低的功耗和最高的性能来部署当前和未来的模型。

目标应用

Coral NPU 旨在支持超低功耗、始终在线的边缘 AI 应用,尤其侧重于环境感知系统。其主要目标是在可穿戴设备、手机和物联网 (IoT) 设备上实现全天候的 AI 体验,同时最大限度地减少电池消耗。

潜在用例包括:

情境感知:检测用户活动(如步行、跑步)、距离或环境(如室内 / 室外、移动中),以启用「免打扰」模式或其他情境感知功能。音频处理:语音和声音检测、关键词识别、实时翻译、转录以及基于音频的无障碍功能。图像处理:人物和物体检测、面部识别、手势识别以及低功耗视觉搜索。用户交互: 通过手势、音频提示或其他传感器驱动的输入进行设备控制。

硬件强制的隐私保护

Coral NPU 的一个核心原则是通过硬件强制的安全性来建立用户信任。

谷歌表示:「我们的架构正在被设计用来支持 CHERI 等新兴技术,该技术提供细粒度的内存级安全和可扩展的软件分区。我们希望通过这种方法,将敏感的 AI 模型和个人数据隔离在硬件强制的沙箱中,以抵御基于内存的攻击。」

构建生态系统

开源硬件项目的成功依赖于强大的合作伙伴关系。

为此,谷歌宣布了与 Synaptics 的合作关系,这也是其「第一个战略芯片合作伙伴」,同时也是物联网领域嵌入式计算、无线连接和多模态传感的领导者。

今天,Synaptics 在其技术日活动上宣布了其新的 Astra SL2610 系列 AI 原生物联网处理器。该产品线采用了他们的 Torq NPU 子系统,这是业界首个 Coral NPU 架构的量产实现。该 NPU 的设计支持 Transformer 并支持动态算子,使开发者能够为消费和工业物联网构建面向未来的边缘 AI 系统。

Astra SL2610,来自 X 用户 @TekStrategist

结语

谷歌表示 Coral NPU 有望「解决边缘计算的核心危机」:「借助 Coral NPU,我们正在为个人 AI 的未来构建一个基础层。我们的目标是通过提供一个通用的、开源的、安全的平台供业界在此基础上发展,从而催生出一个充满活力的生态系统。」

对此,你怎么看?有兴趣尝试基于这个平台进行开发吗?

https://x.com/GoogleResearch/status/1978449643437539378

https://research.google/blog/coral-npu-a-full-stack-platform-for-edge-ai

相关版本

    多平台下载

    查看所有0条评论>网友评论

    发表评论

    (您的评论需要经过审核才能显示) 网友粉丝QQ群号:766969941

    查看所有0条评论>>

    相关软件
    皇冠国际网站正规 2021自助领取体验 aoa体育平台网址 体育BOB 杏彩新版APP 开元棋盘牌游戏官网版 下载皇冠体育365app 中欧体育APP网站 皇冠手机体育网下载 酷游平台地址ku111登录 888集团电子网址最新 bob体育官网入口在线 九游会个人登录中心 牛游戏网 诺亚传说官网手游 伟德网站是多少 凯发娱乐手机版注册 缅甸真人国际网上娱乐 千赢国际免费试玩 奥门新甫京娱乐 ob体育app官网下载 世界杯买球appga68椣me屎 世博体育官方网站app 梅高美最新下载地址 ManBetX万博网站是什么 葡京平台提现 华纳游戏平台 澳门皇冠下载 多盈娱乐 华纳游戏网址注册 bbin游戏官方 老版寻秦ol官网 疯狂斗牛安卓版 飞五棋牌游戏中心 杏彩app下载链接 世界杯投注上限是多少 德扑圈吧 泰国看世界杯网站 AG捕鱼游戏 吉祥坊登录不了 真人斗牛的下载地址 百老汇体育官方 betway什么公司 皇冠最新版APP 彩神争霸登陆网址 和记娱乐世界杯内幕 爱游戏app体育怎么样 九游会老哥 排球比分即时比分 2019英皇国际官方版 现金线上平台 新锦江网址 澳门真钱安卓版app下载 ope体育电竞官方网站 天博综合官网登录 火狐在线开户 e星体育最新官网 亚博电竞 365体育直播 OPE体育官方网站 必威赌场网站 乐享彩票官网 捕鱼大亨安卓版下载 斗地主在线玩 赌博门户网站 手机上彩票怎么购买 新宝5注册测速地址 福彩快三网平台 沙巴体育官方网站体 AG登录大厅 体育官网登录 凯时体育 168网页登陆 体育投注网有哪些 赌场游戏软件 pg电子平台试玩体验 足彩外围网址app 皇冠手机登录版官网网址 百老汇 ag8游戏网址 下载纬来体育 卡塔尔世界杯买球入口 威廉体育APP 365bet娱乐在线娱乐 庄闲游戏下载安装 欢乐捕鱼人技巧 威尼斯账号 乐鱼体育怎么进不去 三亿体育app客服 体彩世界杯投注时间 太阳2平台网址 E世博在线登录 mg4377可以用的线路 鸿博体育投注登录 永利体育体育 鸿博体育网页版 9州娱乐 ope体育f客户端 永利网站的网址是多少 名豪棋牌 世界杯指定投注网站 m6米乐足球为什么提不了现 mg娱乐游戏 万赢国际网站 银河国际城注册下载 百老汇棋牌网址 188体育官网APP 完美竞技平台卡顿 杏彩网页登录地址 巴黎人网络排行 bet9是九州吗 BOB网站是什么 免费赠送彩金网 龙头报 威尼斯人旧版下载安装 足球巴巴新地址 英皇娱乐世界杯内幕 2020年欧洲杯德国队阵容 立体真人国际象棋 188体育备用网址
    热门网络工具