站内暂无「mooncake store」的结果,已为你找到以下相关资讯:
模型可以买,扛住5000万次Agent调用的生产系统得自己建!阿里云、小红书、蚂蚁、亚马逊云科技等 14 位专家拆解 AI Infra 生产难题
责编 | 梦依丹 出品 | CSDN(ID:CSDNnews) 9 月,DeepSeek 公开了一套名为 DSec 的生产级 Agent 沙箱平台。
扛住5000万次Agent调用!阿里等 14 位专家拆解 AI Infra 生产难题
9 月,DeepSeek 公开了一套名为 DSec 的生产级 Agent 沙箱平台。它不是新模型,却支撑着一个惊人的运行规模:单个规模单元约有 160 台 CPU 节点、3 万颗 CPU 核心和 250 TB 内存,单日服务约 300 万个沙箱,峰值并发超过 38 万,创建速度超过每秒 5000 个。
从共享 KV Cache 到异构传输:Mooncake × SGLang 的大规模推理实践
当大模型推理从单机优化走向集群级生产,通信效率、KV Cache 复用、异构硬件适配与系统稳定性开始共同影响 Token 的生产效率。如何让这些环节在真实业务负载下协同工作,成为推理基础设施规模化落地需要解决的核心问题。
AI 支出暴涨 5.4 倍,企业平均实际投入达预算 2.5 倍:钱该投向模型、Agent 还是 Infra?|2026 奇点智能技术大会亮点专题解析
11 月 3 日,Menlo Ventures 发布的《2026:企业 AI 现状报告 》给出了一组值得所有技术决策者重新审视 2027 年的规划数字。
一天合并3万次代码后,系统底座如何接住AI Coding?2026 C++及系统软件技术大会首批议题发布
为此,由 CSDN 与奇点智能研究院联合主办的「2026 C++ 及系统软件技术大会」将于 11 月 20—21 日在北京万达文华酒店举行。