GTC 解读:当我们谈论 AI 推理的 KV Cache,我们在做什么?
2026年3月,在全球人工智能与GPU计算领域最具影响力的技术盛会——NVIDIA GTC 2026大会上,阿里云资深技术总监张为受邀发表演讲,带来了《基于全局KV Cache存储系统的高效LLM推理加速方案》的深度分享。
看不懂华为韬定律?拆解中国芯片换道超车的底牌
来源:市场资讯(来源:商界观察)2026年5月25日,上海IEEE国际电路与系统研讨会的现场,一张写着“韬(τ)定律”的幻灯片,瞬间引爆全球半导体圈。这是华为首次以自家名义,为半导体行业定下全新法则。消息传开,A股半导体板块应声走强,科创50指数创下历史新高。
卡加了,吞吐为何没跟上?大模型推理中的等待,有了新解法
沿着这个目标,团队进一步分析负载随时间的变化并把预测重点放在近期哪些请求会结束上,形成短期预测与路由策略,并在真实系统中验证了收益。
阿里千问提出TRACE,Rollout最高加速5.4倍
在 Qwen3.5-35B-A3B、Qwen3.5-122B-A10B、Qwen3.8-Flash-Next 以及 Qwen3.8-2.4T-A95B 四个 MoE 模型上,TRACE 可以在联合 FP4 W/A 与 FP4 KV Cache Rollout 的设置下,将最终性能拉回到 BF16 Rollout 附近,同时在 128K 输出长度下 rollout 获得最高 5.4× 的解码吞吐提升。
英伟达详解CPO,光芯片闪耀Hotchips
公众号记得加星标⭐️,第一时间看推送不会错过。昨日,我们分享了Hot chips2025首日的重磅分享,详情可参考文章。到今天,来自英伟达、Ayar Labs、Lightmatter 、Celestial等传统巨头和新贵做光芯片上也做了详细的分享。我们整合如下,以飨读者。
Linux内核被挖出948个漏洞,OpenAI花120万美元找到的
刚刚,Linux内核,被GPT挖出了948个漏洞😭。对,948个。。。要知道,这可不是什么犄角旮旯的小软件,这是Linux Kernel,是安卓、是全世界无数云服务器、是几乎所有超算背后共同的心脏。超过4000万行代码,几十年来全世界最顶尖的一批程序员在上面添砖加瓦。
壁仞科技推出NPO光互连、分布式解耦架构、最大1024卡超节点方案
IT之家 7 月 19 日消息,在 2026 世界人工智能大会上,壁仞科技推出下一代 NPO 光互连、分布式解耦架构超节点方案,支持单个超节点 1024 卡 Scale-up 扩展。