职贝云数AI新零售门户

标题: 必看!AnythingLLM+DeepSeek 疾速构建公有知识库! [打印本页]

作者: WYW6u9 时间: 2025-11-19 09:18
标题: 必看!AnythingLLM+DeepSeek 疾速构建公有知识库!
点击上方🔺公众号🔺关注我✅

往期文章：

1、DeepSeek R1，本地部署才是霸道！支持WebUI

2、DeepSeek 本地部署后如何联网搜索，小白必看秘籍！

3、一篇文章，让你秒懂DeepSeek推理模型差异！

4、🤩本地 DeepSeek 搭档 Chatbox，超棒的 AI 客户端！

5、2025DeepSeek完全指南，99%的人都不知道的10个隐藏技巧（建议收藏）

6、炸裂！CherryStudio&DeepSeek 带来大模型客户端超强体验！

7、🤩必看！Cherry Studio + DeepSeek 搭建本地公有知识库！

8、DeepSeek服务器繁忙？别慌，试试这几个方法！

你好，我是阮小贰，

还是一样，老规矩，

我们先来看看知识库搭建完的效果。

比如，我想了解“如何做抖音运营?”，

那么我可以先去度娘搜索“抖音运营”这个关键词，

这个时分会搜出来很多跟抖音运营相关的知识文章。

然后，我们找到一些我们以为不错的文章作为我们的知识库来源，

(, 下载次数: 0)

最后，验证知识库即可。

(, 下载次数: 0)

OK，这就是验证后的效果，看起来其实还不错。

(, 下载次数: 0)
一、为什么要搭建知识库？

日常工作中，我们常常需求处理大量文档和材料：

“

产品文档、技术文档散落在各处，查找费时费力

新人入职培训需求反复讲解相反的内容

客户咨询的成绩高度反复，但每次都要人工回答

公司外部知识难以沉淀和复用

各类参考材料缺乏一致管理和疾速检索的方案

普通传统的文档管理系统只能按目录存储和搜索关键词，而商业AI助手又无法导入公有数据。

那这个时分，一个能将文档智能化并支持对话的系统就显得尤为重要。

而知识库正是为处理这些痛点成绩应运而生。

接上去，我以AnythingLLM为例，

重点教一下大家如何运用DeepSeek + AnythingLLM搭建本地公有知识库。
二、什么是AnythingLLM？

(, 下载次数: 0)

简单来说，AnythingLLM 可以把各种文档、材料或者内容转换成一种格式，让LLM（如ChatGPT）在聊地利可以援用这些内容。

然后你就可以用它来和各种文档、内容、材料聊天，支持多个用户同时运用，还可以设置谁能看或改哪些内容。

并且还支持多种LLM、嵌入器和向量数据库。
三、关于AnythingLLM

文档管理

智能检索

界面+API

四、AnythingLLM灵敏的文档处理才能

AnythingLLM支持处理多种类型的文档和内容：

“

多格式支持：可以导入PDF、Word、TXT等常见文档格式

网页抓取：直接输入URL即可抓取网页内容

智能分割：自动将长文档分割成合适向量化的片段

元数据提取：自动提取文档的标题、作者等信息

增量更新：支持文档的增量更新，无需重新处理全部内容

大规模处理：能高效处理GB级别的文档集合

五、个人AI知识库的搭建方案

运用 AnythingLLM + DeepSeek 是简单且知识检索效果不错的方案

“

AnythingLLM：开源收费的知识库管理前端工具，支持上传知识、向量化数据、检索加强（RAG）等服务。

DeepSeek：（简称DS）幻方量化推出的大模型，功能与Claude 3.5相当，Token价格较低，本次方案运用DS作为推理模型。

为了让大家更好地了解知识库的工作流程，我这边画了一张简易流程图。

大家随意看看就好。

(, 下载次数: 0)
六、AnythingLLM + DeepSeek实战

6.1、本地部署DeepSeek

假如之前曾经部署过，这里可以直接跳过忽略。

假如还没有部署或者不知道怎样部署的，可以去看看我之前这篇文章：

DeepSeek R1，本地部署才是霸道！支持WebUI
6.2、下载AnythingLLM桌面版

6.2.1、AnythingLLM 的引荐配置

这是运转 AnythingLLM 的最小值。

这足以让您存储一些文档、发送聊天记录并运用 AnythingLLM 功能。

(, 下载次数: 0)
6.2.2、AnythingLLM官网：

https://anythingllm.com/desktop

(, 下载次数: 0)

为了方便大家下载，我专门将一切运用下载到网盘，进入即可保存或者下载
DeepSeek相关安装包——夸克网盘
链接：https://pan.quark.cn/s/fd9135fc7cd9
提取码：8KxZ
6.3、安装AnythingLLM桌面版

下载安装包

(, 下载次数: 0)

双击打开安装包

(, 下载次数: 0)

普通状况下会出现这个提示，

点开【更多信息】

(, 下载次数: 0)

(, 下载次数: 0)

选择【仍要运转】即可

(, 下载次数: 0)

之后，就是正常的下一步了。

(, 下载次数: 0)

(, 下载次数: 0)

(, 下载次数: 0)

这个时分末尾安装一些依赖库（为本地LLM做支持用）了。

(, 下载次数: 0)

安装完成

(, 下载次数: 0)

桌面上可以看到AnythingLLM的图标

(, 下载次数: 0)
6.4、AnythingLLM 配置

双击桌面AnythingLLM图标打开，初次启动会出现【Get started】，点击即可。

(, 下载次数: 0)

这里可以不做配置，直接点击右侧箭头往右滑。

(, 下载次数: 0)

OK，到这里就算正式进入到工作界面了。

但是，在搭建知识库之前，我们需求给AnythingLLM做一些配置
6.4.1、配置LLM首选项

点击左下方【扳手】按钮进入设置界面。

(, 下载次数: 0)

“

点击 LLM首选项

选择ollama作为模型提供商

选择已安装的deepsek 模型

留意下地址

(, 下载次数: 0)
6.4.2、配置向量数据库

向量数据库不用动保持默许即可，运用自带的（ps:假如没有选择安装目录，默许在c盘，假如后续有需求可以挪走）

(, 下载次数: 0)
6.4.3、配置嵌入模型

这里的嵌入模型配置，可以运用默许自带的，也可以运用ollama安装好的（假如本地有安装的话）

(, 下载次数: 0)

配置完点击【保存更改】再点击左下角的【前往】即可

(, 下载次数: 0)
6.5、配置工作区

点击【+新工作区】创建一个新的工作区

(, 下载次数: 0)

随意起一个工作区称号

(, 下载次数: 0)
6.6、上传文档

点击【upload a document】上传文件

(, 下载次数: 0)

点击按钮末尾添加文档

(, 下载次数: 0)

并将文档 Move to Workspace，意思是加载到AnythingLLM的本地知识库中。

(, 下载次数: 0)

然后点击【Save and Embed】即可。

(, 下载次数: 0)

稍微等待一会儿

(, 下载次数: 0)

出现 Workspace updated successfully 就表示知识库配置曾经完成。

(, 下载次数: 0)
6.7、验证知识库效果

6.7.1、知识检索问答

“

开启对话：

在工作区点击 New Thread 开启新的对话。

发问后，AI会根据知识库中的内容停止回答。

查看援用来源：

假如想确认AI回答的知识来源，可以在回答底部点击 Show Citations 查看援用的知识。

(, 下载次数: 0)

然后我在群里看到不少兄弟安装AnythingLLM的时分常常出现以下报错，

这个时分可以参考官方这篇文章去了解下如何手动安装依赖项：
https://docs.anythingllm.com/installation-desktop/manual-install

(, 下载次数: 0)

OK，到这里关于AnythingLLM的知识库搭建就曾经算是基本完成了。

然后，能够有些小伙伴会问，我的知识库数据都保存到哪里去了？

别焦急，都在你的电脑外面，数据不会丢。
6.7.2、我的数据位于哪里？

一切与 AnythingLLM Desktop 有关的数据将位于以下地位。请将其交换为您的设备用户名。
在Mac上： /Users/<usr>/Library/Application Support/anythingllm-desktop/storage

在 Linux 上： /Users/<usr>/.config/anythingllm-desktop/storage/

在 Windows 上： C:\Users\<usr>\AppData\Roaming\anythingllm-desktop\storage

(, 下载次数: 0)
6.7.3、每个文件夹是什么？

“

lancedb：这是存储您的本地矢量数据库及其表的地方。

documents：这是任何上传文件的解析文档内容。

vector-cache：此文件夹是之前上传并嵌入的文件的缓存和嵌入表示。其文件名经过哈希处理。

models：系统运用的任何本地存储的 LLM 或 Embedder 模型都存储在此处。通常是 GGUF 文件。

anythingllm.db：这是 AnythingLLM SQLite 数据库。

plugins：这是存储您的自定义代理技能的文件夹。

(, 下载次数: 0)

好了，能够又有小伙伴说了，我看到网上搭建知识库的工具有很多种，

比如：像AnythingLLM、Dify、MaxKB等都可以搭建本地知识库，

那么成绩来了，哪一个最好？

他们之间有什么区别？

我们到底应该要怎样选择？

其实，没有所谓的最好的，

只要合适本人的才是最好的。

七、三大知识库工具大PK？

OK，我带着以上这些成绩，去问了一下DeepSeek，来看看他给我的答案。

(, 下载次数: 0)

(, 下载次数: 0)
八、如何选择知识库工具？

1. 选AnythingLLM：

“

需求：数据相对本地化，避免任何云端传输。

技术才能：有运维团队，能自主管理本地模型（如Llama 3）。

场景：金融、医疗等敏感行业，或外部知识库需严厉管控。

2. 选Dify：

“

需求：构建复杂AI运用（如知识库+客服+自动化流程）。

技术才能：具有API集成阅历，希望低代码开发。

场景：企业需求灵敏扩展功能，整合现有系统（如CRM、ERP）。

3. 选MaxKB：

“

需求：疾速搭建轻量级问答系统，无复杂功能需求。

技术才能：非技术人员主导，追求简单配置。

场景：中小企业知识库、教育机构FAQ、个人学习助手。

九、成本与资源考量

“

硬件成本：AnythingLLM需本地GPU运转大模型，成本较高；Dify和MaxKB若运用云端API，按调用量计费。

维护成本：AnythingLLM需技术维护；Dify和MaxKB更易托管。

开源协议：三者均开源，但企业版功能或需付费（如Dify的团队协作功能）。

所以，详细还得根据团队规模、技术才能及场景复杂度权衡选择，必要时可结合工具试用（如Dify的在线Demo、MaxKB的一键安装）进一步验证。
十、写在最后

AnythingLLM为知识管理和智能问答提供了一个开源的全体处理方案。

它不只能协助个人和团队更好地管理和应用知识资产，还能大幅提升工作效率。

虽然部署和配置需求一定技术基础，但投入的工夫和精神是值得的。

经过一段工夫的运用，你会发现它能极大地改善团队的知识管理和信息获取效率。

特别是对于需求常常查阅大量文档的团队来说，AnythingLLM可以成为一个弱小的助手。

以上就是本期一切啦，

基本上能看到这里的都是人中龙凤！

假如觉得不错，随手点个赞、“在看”、转发三连吧！

也可以转发到冤家圈，祝你发财！

谢谢你耐烦看完我的文章~❤️❤️❤️

然后，之前我创建了两个关于DeepSeek的交流群，

(, 下载次数: 0)

(, 下载次数: 0)

然后收到一些反馈，很多小伙伴都想进群交流，

但是由于群的200人限制如今进不去，只能经过约请，

所以，假如大家有兴味想进群，这里贴一下我的码。

❤️：feizi1566，大家加的时分请备注来意~

欢迎光临职贝云数AI新零售门户 (https://www.taojin168.com/cloud/)