llama.cpp 的正式版，下载包里只有一个编号
# llama.cpp发了正式版，下载包里没有一个文件11 月 4 日晚，llama.cpp 在 GitHub 上打了一个新标签，v0.9.0。这是它第一次跳出 b 开头的每日构建编号，用上小版本的正式版号。消息在社区里传得不慢。
把 GitHub 网址改几个字母，再庞大的开源项目也能看懂
于是团队内部开发了 Devin Wiki 和 Devin Search 两套核心组件，专门用来帮 AI 快速吃透复杂项目。
llama.cpp为什么那么火？如何使用？
很多人听说DeepSeek开源、Qwen开源了，想下载下来免费用一下。但第一次下载本地大模型，会遇到一个很奇怪的问题：下了一个AI大模型文件，双击打不开。因为模型文件本身，只是训练好的参数数据。说白了就是 AI 的“大脑”，它没有界面，也不会自己运行。
llama.cpp v0.9.0 塞进四样新东西，本地跑模型的老牌狠人又出手了
先说结论：这版最狠的不是又多了几款新模型，而是 OCP FP8 E4M3 量化和多机张量并行（NCCL）正式落地。前者让你用更少的显存塞下更大的模型，后者第一次让 llama.cpp 能"串机器"干活。但先别急着高兴——官方这次没有给出任何具体的提速百分比数字。
语音识别领域的 llama.cpp
语音识别领域的 llama.cpptranscribe.
弃用Ollama换llama.cpp：体积小20倍，模型加载快了6倍
一、你花一个晚上装好的 Ollama，壳比芯还重很多人第一次跑本地大模型，都是从一行命令开始的：两分钟后模型跑起来了，体验很好。但如果你翻过 Ollama 的源码仓库，会发现一个尴尬的事实：它的推理核心不是自己写的，而是直接内嵌了 llama.
Ollama换掉之后：vLLM和llama.cpp该选哪个？两个默认值差出13%
一、同一个模型文件，两个默认值就能改变结论同一台电脑、同一份 2.5GB 的 GGUF、同一个 llama.cpp，只把启动参数从默认改成 -c 4096 --parallel 1，单个用户的出词速度就从 37.3 tok/s 变成 42.7 tok/s。
llama.cpp 悄悄换了地基，多数人还在数模型名单
上周刷技术圈，满屏都在喊"320B模型来了""解码快1.5倍"，热闹是真热闹。但我翻完整个更新日志，觉得大家可能把重点搞反了。llama.cpp v0.6.0 这版，表面上最抢眼的是模型阵容。GLM-5.
llama.cpp、Ollama、Docker：一行命令跑起本地模型
一个让人兴奋又心虚的命令你在网上看到有人推荐本地 AI 工具，说“一行命令就能跑起来”。于是你打开 CMD，输入： ollama run qwen2.5:7b 回车。屏幕开始滚动，下载进度条一点点往前走。几分钟后，光标变成了一个输入框。