128GB 电脑也能跑 MiniMax:Maya 自研量化 XS
本地推理项目 Project Maya 更新到了 v1.1.30。版本大约在 10 月 27 日下午 3 点 28 分放出。这一版最抓眼球的,是给 MiniMax-M3.1-Flash 做了 Maya 自己的量化档位,把大模型往「家用大内存电脑也能塞下」又推了一步。
DeepSeek4.1Flash本地72tps,老卡2.7倍
本地跑大模型这条路上,这两天冒出两组挺扎眼的数字:一组把解码速度推到每秒 72 token,另一组显卡一张没换,只换了运行引擎,速度照样往上蹿一大截。两条路子完全不同,一个靠堆机器,一个靠抠细节。
8 月 GitHub 上最火开源项目出炉了,AI Agent 确实占了大半。
01T3 Code:手机上接管电脑里的 Agent我理解 T3 Code 是给本地电脑 Agent 做了一套控制界面。
爆火GitHub!《生化危机》女主打造免费“AI记忆系统”
起猛了,在GitHub刷到《生化危机》女主角的项目了!Milla Jovovich,这位曾饰演爱丽丝的知名女星,最近和程序员老友及Claude一起,合造了一个AI记忆系统。
Blender+Maya+Substance Painter联动,3D建模效率翻倍还少踩坑
一、3D建模人必看!越学越累的真相,90%的人都踩错了做3D建模的你,是不是也有这样的困境?
3210亿参数塞进4张4090:显存不够,SSD来凑
GitHub 上一个只有 498 星的新项目 Project Maya,把智谱 321B 的 GLM-5.3-Flash 压进普通工作站:按使用频率把专家权重分层放进显存、内存和 NVMe,四张 RTX 4090 实测 118 token/秒,全程不联网。
500 份源码合集——GitHub 热点速览 v.21.02
作者:HelloGitHub-小鱼干GitHub 项目名,如同变量命名,一个好的项目名能让你一眼就知道它是什么。
Strata如何部署GLM-5.3-Flash?Project Maya
项目简介Project Maya 是一个开源的本地大模型推理加速与部署项目。它专门针对 GLM-5.3-Flash(一个拥有 3210 亿参数、激活参数约 180 亿的 MoE 混合专家模型)进行了全栈定制化优化。
DeepSeek V4.1 Flash单卡硬扛276GB
一张 RTX 3090,24GB 显存,把一个 276GB 的模型扛了起来。这不是厂商通稿,是玩家昨晚刚跑出来的实测。旧时王谢堂前燕,飞入寻常百姓家。这种体量的模型,过去只有多卡机房才敢想,如今一张游戏卡加一块固态就能跑起来。
砍掉一半专家:341GB 的 GLM-5.3-Flash 压到 71GB,48 次实测全过
一、一台 2017 年的旧电脑,跑起了 3200 亿参数一台 2017 年的机器:RX 7900 XTX 显卡、32GB DDR4-2133 内存、i7-7700K、PCIe 3.0 通道,内存还是慢速那一档。