开源 RAG 知识库本地部署横向评测：RAGFlow、Dify、AnythingLLM、Ollama 选型指南

评测背景

本地 / 私有化知识库成为数据敏感企业的刚需。本文对比 4 款主流开源方案：RAGFlow、Dify、AnythingLLM、Ollama，覆盖从检索增强平台到本地模型运行层。

代表工具对比表

注：版本与功能细节以各官方仓库实时页面为准。

关键维度解读

• 检索质量：RAGFlow 主打深度文档理解与可解释切分，官方自称"Quality in, quality out"。
• 上手成本：AnythingLLM 最轻，单机可跑；Ollama 只做模型层，需自己组装 RAG。
• 平台化：Dify 更适合把知识库与 Agent / 工作流一起交付。
• 硬件要求：RAGFlow 官方要求 CPU≥4 核、内存≥16GB、磁盘≥50GB；轻量场景 AnythingLLM 门槛更低。

选型建议

• 追求检索准确率、有复杂文档：RAGFlow。
• 要知识库 + Agent 应用一站式交付：Dify。
• 个人 / 小团队快速落地、资源有限：AnythingLLM。
• 已有技术栈、只想要本地模型底座：Ollama。

适用人群

• 数据敏感企业 IT 团队：RAGFlow / Dify
• 个人知识管理爱好者：AnythingLLM / Ollama
• 集成到既有系统的开发者：Ollama + 自建 RAG 或 RAGFlow API

避坑提醒

• 切分策略决定检索质量，先小规模跑通再扩大数据量。
• 本地部署不等于数据绝对安全，仍需做好访问控制与备份。
• 中文场景优先验证对中文分块与召回的效果，不同方案差异明显。

参考来源

• RAGFlow：https://github.com/infiniflow/ragflow
• Dify：https://github.com/langgenius/dify
• AnythingLLM：https://github.com/Mintplex-Labs/anything-llm
• Ollama：https://github.com/ollama/ollama