私有AI实战20:Agent接入本地RAG,让知识库真正参与任务执行
跟着前面的文章,其实我们已经做了不少工作。本地大模型可以运行了,RAG知识库可以检索文档了,BM25和向量混合检索也有了,Reranker能够重新排列候选资料,Ragas可以评测知识库效果,LangGraph还解决了Agent多步骤执行、人工审批和状态恢复的问题。
RAG 从原理到实战:让大模型先查资料,再回答问题
RAG 从原理到实战:让大模型先查资料,再回答问题大模型能写代码、做总结,也能回答很多常识问题。但它通常不知道刚更新的内部制度、某个产品的私有参数,或者一份刚上传的 PDF 写了什么。把问题直接交给模型,答案可能听起来很顺,却没有资料依据。
系列5之「超体」知识库与 RAG 接入:让智能体基于事实说话
上一篇,我们给智能体装上了「双手」——它现在能搜、能算、能写文件、能查天气。但一个尴尬的问题马上就冒出来了:你问它「我之前是怎么分析 AB 实验的?」,它只能一本正经地瞎编。因为它搜来的是公网信息,算的是通用逻辑,它根本不知道"你"是谁。
从 OCR 到 Context Engineering:用 MinerU 搭一个可复现文档解析评测
今年最火的不是“读 PDF”,而是“让 Agent 可靠地读懂 PDF”过去我们说文档解析,很多人脑子里想的是 OCR:把图片里的字识别出来就行。但到了 Agent 和 RAG 的场景,这个标准已经不够了。
私有AI实战17:完整本地AI知识库Web应用开发实战
在这个系列的前序文章中,我们已经陆续解决了本地大模型部署、文档解析、向量检索、BM25混合检索、Reranker重排序、引用溯源,以及Ragas自动评测等一系列问题。但说实话,做到这里,我们的知识库还算不上一个真正完整的应用。为什么这么说呢?
MOSS-Transcribe-Diarize 0.9B 私有化部署实战
以前搭建一套多人会议语音处理系统,往往需要部署三个相互独立的模型。ASR 负责语音转文字,Speaker Diarization 负责判断谁在什么时候发言,Forced Aligner 负责把文本重新对齐到原始音频。