栏目分类
新闻资讯 你的位置:开云官网kaiyun皇马赞助商 (中国)官方网站 登录入口 > 新闻资讯 > 体育游戏app平台公司推理优化还在进一步加快-开云官网kaiyun皇马赞助商 (中国)官方网站 登录入口
体育游戏app平台公司推理优化还在进一步加快-开云官网kaiyun皇马赞助商 (中国)官方网站 登录入口
发布日期:2026-05-05 06:30 点击次数:149


智通财经APP获悉,智谱(02513)早盘涨近5%,禁止发稿,涨2.88%,报839.5港元,成交额1.32亿港元。
音问面上,4月30日,智谱公众号发文,初度系统显露GLM-5系列模子在超大畛域Coding Agent调用场景下的底层推理时间冲破。包括两个关节Bug的定位及设立、一项性能优化转换、以及一个不测的监控机制冲破。针对Context Parallel政策中的KV Cache冗孑遗储问题,智谱盘算达成了KV Cache分层存储决议 LayerSplit,这一优化径直大幅提高智谱在Coding场景下的管事能力上限。此外,公司推理优化还在进一步加快,大幅提高单元算力token隐隐效果,裁减推理老本。
本次显露的工程冲破具备明确的时间深度——团队不仅在自有推理链路中定位并设立了PD差别架构下的KV Cache跨节点复用竞态,更进一步在主流开源推理框架SGLang的源代码层面发现并设立了HiCache模块的加载时序缺失(read-before-ready)问题,设立决议被SGLang开源社区接管体育游戏app平台,其底层基础当作能力不仅管事于本身模子,也正在成为大模子行业的民众基础当作之一。
