v8.333 安卓版
v3.420.1255.510159 安卓最新版
v3.873 安卓免費版
v7.500.2978.857881 PC版
v3.572.1153.293987 安卓最新版
v6.424 安卓免費版
v9.198 最新版
v1.407.906.158480 IOS版
v5.434.8389.131840 安卓免費版
v8.340.5557.437404 安卓版
v4.131.8597.951891 安卓版
v3.891.4056 安卓免費版
v1.784.8781 安卓最新版
v3.543.9314.372560 安卓最新版
v5.281.6218 安卓最新版
v1.870.2372.253205 PC版
v6.63.3193.779048 IOS版
v3.657.295.560526 最新版
v4.729.2530.164872 IOS版
v5.910 安卓免費版
v3.306.8883.619848 最新版
v2.415 安卓免費版
v6.892 安卓最新版
v6.392.1558 安卓免費版
v5.987 IOS版
v4.979.5008 安卓版
v4.818.7361.765302 IOS版
v6.19 安卓免費版
v3.900.8520 安卓免費版
v4.479.5870.54328 安卓最新版
v3.202 IOS版
v9.854.7350 PC版
v7.402.1106.945900 安卓版
v4.859.9285.420579 IOS版
v6.671.761.398779 IOS版
v5.763.5540.227724 安卓免費版
v3.259.5715 安卓漢化版
v2.440 PC版
v9.296.4605 IOS版
v9.882 IOS版
v9.727 安卓免費版
v1.517.9758.200687 PC版
v8.860.1448.514472 PC版
v6.497 安卓最新版
v2.961.3494.134931 安卓漢化版
v3.516 安卓免費版
v8.255 安卓漢化版
v1.184.9033 IOS版
v2.531 安卓漢化版
v6.871 安卓免費版
v2.813.1728.742680 安卓免費版
v6.133 安卓最新版
v2.697 最新版
v6.200.7445.8788 安卓版
v1.217.7246 安卓最新版
v9.508.6589.300154 IOS版
v7.962 安卓版
v6.150.5834.878920 安卓免費版
v5.908.4826 安卓最新版
v8.557 安卓最新版
v5.254.7651.792156 安卓免費版
v4.783.6464.117610 安卓最新版
v5.201.868 安卓漢化版
v3.826.3045.123198 IOS版
v7.833.4097 安卓漢化版
v2.627 安卓免費版
v5.698 安卓免費版
v2.820.6608.610713 安卓漢化版
v8.561.5990.642617 最新版
v1.142.9595.570356 安卓漢化版
v8.947.7262.24476 安卓版
v8.586.8570 安卓漢化版
v9.818.2310.101349 安卓最新版
v6.926.2463 安卓版
v9.660.8470.295394 安卓版
v9.973.1017.761293 最新版
v9.169.7253 安卓漢化版
v2.774.9780.448102 安卓版
v3.861.3400 安卓免費版
v4.584.927.137832 PC版
足球世界杯投注软件
9月30日,国产大模型“六小龙”之一的智谱发布GLM-4.6新模型。
作为GLM系列最新版本,GLM-4.6在真实编程、长上下文处理、推理能力、信息搜索、写作能力与智能体应用等多个方面能力有所提升。
官方信息显示,此次升级表现在公开基准与真实编程任务中,GLM-4.6代码能力对齐Claude Sonnet 4;上下文窗口由128K提升至200K,适应更长的代码和智能体任务;新模型提升推理能力,并支持在推理过程中调用工具;搜索方面增强模型的工具调用和搜索智能体。
另外,“模芯联动”是此次新模型发布的重点,GLM-4.6已在寒武纪国产芯片上实现FP8+Int4混合量化部署,这也是行业首次在国产芯片上投产的FP8+Int4模型芯片一体解决方案,在保持精度不变的前提下,降低推理成本,为国产芯片在大模型本地化运行上探索可行路径。
FP8是8位浮点数(Floating-Point 8)数据类型,动态范围广、精度损失小;Int4是4 位整数(Integer 4)数据类型,压缩比极高,内存占用最少,适配低算力硬件但精度损失相对明显。此次尝试的“FP8+Int4 混合” 模式,并非简单将两种格式叠加,而是根据大模型的“模块功能差异”,针对性分配量化格式,让该省内存的地方用Int4压到极致,该保精度的地方用FP8守住底线,实现合理资源分配。
具体到模型适配过程中,占总内存的60%-80%的大模型核心参数通过Int4量化后,可将权重体积直接压缩为FP16的1/4,大幅降低芯片显存的占用压力;推理环节积累的临时对话数据可以通过Int4压缩内存的同时,将精度损失控制在 “轻微”范围。而FP8可重点针对模型中“数值敏感、影响推理准确性”的模块,降低精度损失、保留精细语义信息。
除了寒武纪,摩尔线程已基于vLLM推理框架完成对GLM-4.6 的适配,新一代GPU可在原生FP8精度下稳定运行模型,验证MUSA架构及全功能GPU在生态兼容性和快速适配能力方面的优势。
寒武纪与摩尔线程此番完成对GLM-4.6的适配,标志着国产GPU已具备与前沿大模型协同迭代的能力,加速构建自主可控的 AI 技术生态。接下来,GLM-4.6搭配国产芯片的组合将率先通过智谱MaaS平台面向企业与公众提供服务。
本文系观察者网独家稿件,未经授权,不得转载。
相关版本
多平台下载
查看所有0条评论>网友评论