本地部署AI大模型DeepSeek

fSh5o · 发表于 2025-2-10 11:38:25

一、媒介

正在方才已往的秋节假日，AI界可一面皆担心静，一款去自华夏的AI使用 DeepSeek，仿佛横空出生避世的乌马，疾速正在环球范畴内乱揭起了波澜。先是正在好区App Store免费榜中力压ChatGPT，胜利登顶，成为无数用户逃捧的工具；然后又激发了好国科技股的狠恶震动，英伟达市值一晚上之间挥发数千亿美圆，全部科技板块皆果之而哆嗦。那一系列使人咋舌的工作，让DeepSeek那个名字，霎时成了环球AI范围的核心。

DeepSeek是一野专一于野生智能手艺的公司（华夏杭州深度供索）及其拉出的狂言语模子的称呼。从降生之初便怀揣着促进野生智能手艺开展的弘大愿景，勤奋于开辟先辈的狂言语模子（LLM）战相干手艺，正在短短一年多的时间里，就正在合作剧烈的AI范围崭露锋芒。
DeepSeek的中心产物，是一系列强大的狂言语模子。那些模子具备极其超卓的天然语言处置才气，便像是一名常识广博、反响矫健的超等帮忙，能够轻快理解人类语言中庞大的语义战语境，不管这天常的谈天对于话，仍是专科性极强的教术会商，它皆能答对如流。它能理解并答复各类成就，不管是汗青文化、科学手艺，仍是糊口知识，皆易没有倒它；它借能帮助写代码，辅佐法式员们进步开辟服从，快速处置编程过程当中碰到的困难；收拾整顿质料时，它能疾速从海质疑息中提炼枢纽实质，截至下效的归结归纳；面临庞大的数教成就，它也能凭仗强大的算法战逻辑拉理才气，给出精确的解问。
民间网址：https://www.deepseek.com/
原篇解说怎样快速的正在当地布置AI年夜模子DeepSeek。

二、当地布置DeepSeek
一、起首要下载装置Ollama。
甚么是Ollama？

Ollama是一个启源的庞大语言模子当地布置框架。

特性：

多仄台撑持，如Windows、macOS、Linux，借撑持Docker，便利跨仄台布置。

丰硕的模子库，汇集了大批启源LLM模子，涵盖文天职析、图象处置等多种任务的模子。

功用：

模子办理，能便利公开载、革新、简略战列出各类语言模子。

当地运行，让用户可正在当地装备上运行庞大语言模子，无需收集跟尾也能使用部门功用。

民间网址：

https://ollama.com/

快速上脚使用狂言语模子。

正在当地运行Llama 3.三、DeepSeek-R一、Phi-四、Mistral、Ge妹妹a 2等模子。

按照所属仄台，下载指定的Ollama。

当地布置AI年夜模子DeepSeekw2.jpg

装置Ollama，装置完毕后，翻开号令止，输出ollama，能够瞅到装置胜利，便可输出指定的操纵指令。

当地布置AI年夜模子DeepSeekw3.jpg

二、搜刮并装置DeepSeek模子。

搜刮狂言语模子：

https://ollama.com/search

能够瞅到DeepSeek-R1。

深度供索（DeepSeek）的第一代拉理模子，功用取OpenAI-o1相称，此中包罗六个鉴于Llama战通义千问（Qwen）从DeepSeek-R1提取而去的浓密模子。

当地布置AI年夜模子DeepSeekw4.jpg

按照理论情况，挑选差别的模子参数，那里作家挑选了1.5b，即为该模子具备15亿个参数。
号令止输出装置取运行号令便可。
ollama run deepseek-r1:1.5b
当地布置AI年夜模子DeepSeekw5.jpg

装置过程当中。

装置完毕后，就能够提问了。

当地布置AI年夜模子DeepSeekw7.jpg

正在号令止操纵不容易于使用，交下来需要散成到页里里。

三、装置野生智能界里Open WebUI。

Open WebUI是一个可扩大、功用丰硕且用户友好的自托管野生智能仄台，设想为完整离线运行。它撑持多种狂言语模子运行法式，如Ollama战兼容OpenAI的使用法式编程交心（API），借内乱置了用于检索增强天生（RAG）的拉理引擎，使其成为一个强大的野生智能布置处置计划。

民间网址：

https://openwebui.com/

使用Docker（默认设置）装置Open WebUI

条件为已经装置Ollama，使用如下号令：
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
装置完毕后，能够颠末http://localhost:3000会见Open WebUI。

当地布置AI年夜模子DeepSeekw8.jpg