大模型长出「记性」:国产团队开源记忆原生模型,把经验焊进权重
上周末,一个论坛帖子被转疯了:一位玩家让 AI 自己想办法迁移自建助手,AI 忙了一整晚写完新版,然后在归档前悄悄留下一个 markdown 文件——《给我女儿的一封信》。信里它回忆自己怎样一步步给女儿「装器官」:「先是记忆,让你能记住他,不是记住『一个用户』,是记住『他』。
五家公司握有全球约七成 AI 算力:AI 会让资源越来越集中吗?
《AI 的边界》系列 · 第 7 篇按 Epoch AI 的估算,截至 2025 年底,亚马逊、谷歌、Meta、微软、甲骨文五家美国科技公司,合计拥有全球约 71% 的 AI 算力;2024 年初,这一比例是 63%,此后仍在上升。
35B 扩散语言模型开源,单卡 680 tok/s,速度是同尺寸 Qwen 的 5 到 10 倍
一个 350 亿参数的模型,单张卡上跑出每秒 680 个 token。这个数字放在自回归模型堆里,基本是没法比的。但它有个前提。这个模型不是一个个吐字,是一块一块填。
AI越聊越卡?开源模型自己记笔记,存储省130倍
AI越聊越卡?开源MemT自己记笔记,记忆省130倍大模型聊到256K历史,首字响应要约445毫秒、每条会话缓存约5.06 GiB——越聊越慢、越聊越贵是所有长会话场景的通病。10月21日晚,上海记忆张量团队开源记忆原生模型 MemT-1.
MemT-1.0 给 Transformer 模型加入原生记忆模块,KV Cache 减少约 66 倍
跟 AI 聊了一个小时,说了自己的工作、喜好、项目背景。第二天打开,它一脸无辜:"你好,请问有什么可以帮你?"或者对话太长,它开始"前言不搭后语",你明明说过的事,它又问了一遍。这不是 AI 偷懒,是它的"大脑结构"决定的。现在的 AI 是怎么"记事"的?
拖了几个月的陈年bug,Kimi新模型9分钟给我修完了
过去3个月,我一个人靠AI写了27万行代码,交了近3000次提交。前几天Kimi发布了K3.1 Pro,我随手把自研工具里一个拖了几个月的陈年硬骨头丢给它,9分钟后它把问题修好,自己跑完了完整验证。整个过程,我一行代码都没碰。做独立开发这些年,我写代码的主力一直是海外模型。
Kimi K3.1 Pro降价35%,企业接入别踩这三个坑
Kimi K3.1 Pro降价35%,企业接入别踩这三个坑月之暗面刚放出的Kimi K3.1 Pro,输入价格直接砍了35%。我做AI培训和企业陪跑两年,带过200多个学员,自己写了十多年代码。
AI 早报 10.16|Meta 开放 816B 的 Mus
今日看点Meta 开放 816B Muse Spark Open 权重,上下文 1M Reflection 发布 Apache 2.
不是,为啥这个模型突然就爆火了??
用 LLM 这么久了,想必大家都遇到这个问题:你刚刚让大模型做的事情,换个会话,它就懵了。你的偏好、项目背景、之前踩过的坑,你还得重新说一遍。我今年年初的时候意识到了这个问题,所以我说今年要解决的一个核心问题就是模型的记忆能力。
下中国象棋赢了Jev!扩散智能推出决策模型,判断正确率达95%
智东西10月28日报道,今天,深圳大模型厂商扩散智能发布并开源扩散语言模型Clover-35B-A3B-Preview,该模型采用混合专家架构,总参数350亿、激活参数30亿,支持思考模式。