9月30日,国产大模型“六小龙”之一的智谱发布GLM-4.6新模型。
作为GLM系列最新版本,GLM-4.6在真实编程、长上下文处理、推理能力、信息搜索、写作能力与智能体应用等多个方面能力有所提升。
官方信息显示,此次升级表现在公开基准与真实编程任务中,GLM-4.6代码能力对齐Claude Sonnet 4;上下文窗口由128K提升至200K,适应更长的代码和智能体任务;新模型提升推理能力,并支持在推理过程中调用工具;搜索方面增强模型的工具调用和搜索智能体。
另外,“模芯联动”是此次新模型发布的重点,GLM-4.6已在寒武纪国产芯片上实现FP8+Int4混合量化部署,这也是行业首次在国产芯片上投产的FP8+Int4模型芯片一体解决方案,在保持精度不变的前提下,降低推理成本,为国产芯片在大模型本地化运行上探索可行路径。
FP8是8位浮点数(Floating-Point 8)数据类型,动态范围广、精度损失小;Int4是4 位整数(Integer 4)数据类型,压缩比极高,内存占用最少,适配低算力硬件但精度损失相对明显。此次尝试的“FP8+Int4 混合” 模式,并非简单将两种格式叠加,而是根据大模型的“模块功能差异”,针对性分配量化格式,让该省内存的地方用Int4压到极致,该保精度的地方用FP8守住底线,实现合理资源分配。
具体到模型适配过程中,占总内存的60%-80%的大模型核心参数通过Int4量化后,可将权重体积直接压缩为FP16的1/4,大幅降低芯片显存的占用压力;推理环节积累的临时对话数据可以通过Int4压缩内存的同时,将精度损失控制在 “轻微”范围。而FP8可重点针对模型中“数值敏感、影响推理准确性”的模块,降低精度损失、保留精细语义信息。
除了寒武纪,摩尔线程已基于vLLM推理框架完成对GLM-4.6 的适配,新一代GPU可在原生FP8精度下稳定运行模型,验证MUSA架构及全功能GPU在生态兼容性和快速适配能力方面的优势。
寒武纪与摩尔线程此番完成对GLM-4.6的适配,标志着国产GPU已具备与前沿大模型协同迭代的能力,加速构建自主可控的 AI 技术生态。接下来,GLM-4.6搭配国产芯片的组合将率先通过智谱MaaS平台面向企业与公众提供服务。
本文系观察者网独家稿件,未经授权,不得转载。
《中国无码特黄免费看片》,《P6F3X2M7T9QJ8L1B4WZR》丰满人妻无码AⅤ一区二区
“特级AAAAAAA毛片在线视频”
男人天堂一级黄色网站
……
09月27日
“在线视频入口色”“月壤砖”将赴太空
↓↓↓
09月27日,收获大批年轻顾客 “最听劝老板”靠刷评论区救活伞厂,欧美性爱网站有哪些,沈 樵国产,作爱av,99久久国产精品无码黄色麻豆
09月27日,AI能代替诗人写诗吗?听听诗人怎么说,久久久一本精品99久久精品88AV,女人被日视频,国产精品一二三区私人网站,外国黄色外国黄色外国黄色外国黄色外国黄色外国
09月27日,有这4种症状 要警惕骨质疏松症,多人伦精品一区二区三区视频,黄色毛占6S,人人上人人操人人射,欧美日韩国产在线va
09月27日|赏山城夜景 “五一”假期重庆两江夜游人气旺|黄色三级人妇|欧美性生活视频A片移动网络|先锋资源无码|亚洲成Aⅴ人片久久青草影院
09月27日|第96届奥斯卡奖揭晓 《奥本海默》夺7奖成最大赢家|久久偷拍影音|河北乱×门视频观看|直接免费观看黄色网站|91免费国产在线
09月27日|文化中国行 | 2024“新疆是个好地方”对口援疆非遗展在库尔勒开幕|天天澡人人玩人人添|99re6在线观看国产精品软件|国产精品久久久久7777按摩|在线观看网站毛片……
09月27日,2023年新疆新增新能源装机突破2000万千瓦,国产一级在线视频,国产全黄A级A片一免费,免费观看播放人成在线视频,欧美日韩精品黄
09月27日,青海循化黄河岸畔迎来成群候鸟结伴越冬,国产视频永久在线,97在线观看操视频,无码日韩三及啪啪,久久首页
09月27日|昆仑万维2024年半年报:实现营收25亿,AI应用加速落地|www.曰曰干.com|午夜人妻三级片大全|欧美日韩精品一区二区视频|性生一级录像20分钟免费
09月27日,外方人士看中国航展 了解最新技术进步,群交无码中文字幕视频,欧美骚逼,免費的黃片啊www,人人操 人人舔 人人摸
09月27日,郑州加快“国际郑”文旅强市建设步伐,色综合自拍,九九A片,亚洲一级AV毛片在线播放,免费看AAA黄片
09月27日,2024年世界城市日中国主场活动在威海开幕,人人操,人人干,人人摸,男人插女人到高潮视频,玖玖玖在线视频免费播放,欧美性图在线
09月27日|云南独龙江公路全线进行临时性全封闭交通管制|播色屋精品视频在线播放|人妖色偷偷福利网站|十二以下岁女子洗澡网站|在线看的黄色av网站
09月27日|法国童声合唱团:“如果我去中国”梦成真|美利坚18禁止观看网站|麻豆一级黄片|国产精品|原版高清偷拍视频无码
09月27日|呼吁行业多些耐心 中国科技精英共话AI如何转化为新质生产力|免费视频AA毛片|国产黄网站在线观看|91网站永久域名|国产黄色av网络
中国00后要强又真强,乒乓世界|多国青年学子分享“书趣”:众乐乐不如“读”乐乐|www.手机看片|99re视频这里只有精品|国产精品自拍5页|国产精品无码国模私拍视频
监制:邓金木
策划:赖晗
主创:唐征宇 林箴贺 陈佛烘 颜亦阳 陈林韵
编辑:王家菁、段圣祺