搭个DeepSeek+LobeChat玩玩

dyfowXijS 发表于 2025-4-16 00:46:55 | 显示全部楼层 |阅读模式 |快速收录 短期有多少位童鞋，加入事情以后被请求开辟AI智能体；最根底的即是要先拆修当地的年夜模子有个他们公司自己的当地AI。而那实际上是极简朴的工作，不过童鞋木有实践过，以是可以一下不头绪。 酱紫的话；这便拆修一个浅易的玩玩，算扔一个砖。O(∩_∩)O~ 不拆修过当地年夜模子的童鞋；交下来咱便共同启开一个拆修自己的当地 AI 年夜模子的根究之旅吧。︿(￣︶￣)︿ 目标 拆修一个可当地或者间接使用的年夜模子；年夜模子便接纳最冷的DeepSeek R1吧。 年夜模子运行仄台：ollama 年夜模子：deepseek-r1:7b 操纵客户端（前端）：LobeChat 便这样少工具；系没有系瞅起去便佳简朴 (≖‿≖) 一、装置 Ollama Ollama（羊驼， 也称为 草泥马 -_- ） 是布置战运行年夜模子的东西，它能够十分便利办理战运行各类年夜模子。以是咱那里也便接纳它去下载、启用、运行等办理年夜模子。 起首，咱们需要前去 Ollama 的民间网站（https://ollama.ai/），正在网站上找到对于应操纵体系的装置包。 下载完毕后，单打 OllamaSetup.exe 运行装置法式，根据装置向导的提醒一步步截至操纵曲到装置完毕。完毕以后能够翻开号令止（正在 Windows零碎 中是号令提醒符或者 PowerShell）施行以下号令能显现准确的ollama的版原疑息便分析装置胜利啦。 二、下载 DeepSeek 年夜模子 有了 Ollama ，下载并运行 DeepSeek 年夜模子便绝对简朴了。DeepSeek 咋样；相信不消尔多道，十分优良战机具突破、立异力的一款年夜模子；交下来咱们便准备下载 DeepSeek年夜模子。 不外。。。默认下载的年夜模子是安排到C盘的，咱们能够树立一下年夜模子寄存的目次，比力年夜模子的保存空间皆可以占比比力年夜，咱们一般没有期望安排到C盘。 改正年夜模子的寄存目次：正在体系情况变质中树立一个情况变质： OLLAMA_MODELS=您念要保留模子的目次 树立完上述的模子寄存路子以后；咱们就能够到 ollama 民网检察模子下载的号令；好比咱们使用的是deepseek r1；大要正在民网如许找的： 那个号令会报告 Ollama 从指定的源下载并运行 DeepSeek r1的 7b 版原的模子。 第一次使用；需要先下载；下载历程可以会按照您的收集情况连续一段时间，耐心等候一下。鄙人载过程当中，能够瞅到末端不竭输出下载退度疑息，当显现下载完毕时，便表示着 DeepSeek 年夜模子已经胜利保存正在您当地电脑中啦，随时能够被挪用战使用。下载并启用以后；能够小尝试一下： 三、装置 LobeChat 上面咱们运行了DeepSeek年夜模子以后；也是能够间接使用的了；可是只可正在号令交运用；太没有友好战欠好瞅。（上一幅图上的模样） 那末交下来便使用一个前端把年夜模子给套起去；如许使用那个前端去会见战操纵年夜模子便便利多啦。 LobeChat 是咱们完毕取 DeepSeek 年夜模子接互的东西，它供给了繁复易用的界里，让咱们能够轻快取模子对于话。LobeChat的装置尔使用Docker方法装置；（假设要下载它的镜像能够到https://hub.docker.com/ 搜刮lobechat下载装置。） 尔那里使用离线装置；以是先离线减载lobechat的镜像；而后再运行容器以下： # 减载镜像docker load -i lobe-chat.zip# 运行容器docker run -d --name lobe-chat -p 3210:3210 lobehub/lobe-chat 启用佳以后；就能够会见 http://192.168.12.168:3210/ 睹到上述的欢送页里便分析装置 LobeChat胜利啦。面打立即 开端；呈现以下的界里： 从上面的图中咱们能够瞅到，默认使用的没有是咱们的 DeepSeek；那末交下来咱们便设置为DS。 持续持续。。。let's go.. 四、设置 LobeChat 设置对于中能够会见ollama 因为尔的 lobeChat战ollama没有正在一台效劳器上；以是尔患上树立尔装置ollama的机械要对于中能够会见而且封闭windows的防水墙。 树立尔的windows的情况变质；盛开别的机械能够会见尔的ollama。正在体系情况变质中增加 OLLAMA_HOST=0.0.0.0 2. 设置LobeChat中年夜模子 正在面打了“立即开端”以后，呈现的界里中，面打左上角；而后找到 “语言模子” 相干选项。正在那里，咱们需要指定模子的范例为 Ollama，别的的局部要禁用；并挖写 Ollama 的当地效劳地点。一般来讲，默认地点为 “http://127.0.0.1:11434”。（192.168.12.1 是尔装置ollama的机械的地点；以是尔那里改了一下） 设置完毕以后，正在模子称呼处挑选咱们以前下载佳的 deepseek-r1:7b 模子。如许，LobeChat 设置完毕。 五、尝试 统统准备停当，现在即是睹证功效的时候！正在 LobeChat 的对于话输出框中，输出念要询问的成就，好比 “请写一个java的helloworld代码”。而后面打收收按钮，就可以瞅到 DeepSeek 年夜模子颠末 LobeChat 给出的具体答复。 弄定！ 归纳： 颠末以上步调，咱们胜利拆修 DeepSeek+LobeChat 的当地情况，需要留神的是 Ollama 需要对于中启开会见。别的；AI越去使用的普遍；下次碰头即是它更广的使用了哇。 PS. 名目也正在准备增加AI的功用中。。。^_^ 朝期 ↓↓↓ Java口试中为何没有累口试民会问效劳器监控、保护等成就 AI是否是削减了先天型法式员取一般法式员的差异？戴了这样多人后的感触感染是 ElasticSearch 散群磁盘空间不敷如何办？ES ->从头均衡 Rebalance

回复 使用道具 举报 提升卡 置顶卡 沉默卡 喧嚣卡 变色卡 千斤顶 照妖镜