职贝云数AI新零售门户

标题: DeepSeek 本地部署安装指南,让数据安全与 AI 体验双丰收 [打印本页]

作者: IMeYQk    时间: 2025-4-21 08:38
标题: DeepSeek 本地部署安装指南,让数据安全与 AI 体验双丰收
(, 下载次数: 0)
点击上方蓝字关注我们
(, 下载次数: 0)

在 AI 大言语模型的激烈竞争中,DeepSeek 锋芒毕露,以其弱小的自然言语处理才能、出色的代码生成效果和流利的多轮对话表现,成为众多 AI 爱好者和开发者的心头好。但用户在线运用时频繁遭遇到服务器繁忙的成绩,而本地部署能有效处理这一困扰。接上去,让我们一同来探求DeepSeek如何停止本地部署,对比网络版又有什么差别。

本地版本和网络版本的优缺陷对比

优缺陷本地版本网络版本
优点1. 数据隐公有保障,一切数据在本地处理,避免泄露,如企业处理机密文件更安全
2. 呼应速度快,不依赖网络,在网络不佳或无网络时也能流利运用
3. 灵敏可定制,用户可根据硬件功能调整参数,开发者能优化模型满足个性化需求
1. 便捷易用,经过阅读器或运用程序即可访问,无需复杂安拆卸置,普通用户易上手
2. 无需硬件晋级,只需有网络,无论设备配置高低都能运用
缺陷1. 硬件成本高,显卡需 GTX 1060(6GB)及以上等较高配置,能够需投入资金晋级硬件
2. 技术门槛不低,部署触及环境配置和模型调试,新手操作困难
1. 受网络限制,网络不波动或拥堵时会出现加载缓慢、衔接中缀等成绩,影响效率
2. 数据隐私存在隐患,数据上传云端处理,有隐私泄露风险


可以看得出DeepSeek 的本地版本和网络版各有优劣。假如你对数据隐私、离线运用和定制化有较高要求,且有一定的硬件和技术支持,那么本地部署更合适你;假如你希望疾速运用、操作简单,且对数据隐私和定制化要求不高,网络版则是不错的选择。

DeepSeek本地部署的安装教程

预备工作:确保设备满足硬件要求,显卡GTX 1060 ( 6GB ) 及以上,引荐RTX 3060及以上;内存容量为8GB,引荐16GB及更高,C盘剩余存储空间20GB,引荐运用Nvme固态硬盘。

首先,前往Ollama官网中下载对应系统的程序。( Ollama 是一款开源的大言语模型本地部署工具,官网地址:https://ollama.com)

(, 下载次数: 0)

接着,在上方的搜索框中搜索到DeepSeek-r1。根据用户电脑配置去选择模型精度,随后复制右侧的代码。(以1.5b模型精度为例,代码则是ollama run deepseek-r1:1.5b)

(, 下载次数: 0)

DeepSeek模型有多个版本:1.5b、7b、8b、14b、32b、70b、671b,版本越高对GPU要求越高。不同模型精度适配不同的配置,概况可看下图:

模型版本显卡配置
1.5B非必需,若需 GPU 加速可选 4GB 显存的如 GTX 1650
7B引荐 8GB + 显存,如 RTX 3070/4060
8B引荐 8GB + 显存,略高于 7B 版本需求,如 RTX 3070/4060 也可满足基本需求
14B16GB + 显存,如 RTX 4090 或 A5000
32B24GB + 显存,如 A100 40GB 或双卡 RTX 3090
70B32GB + 显存或多卡并行方案,如 2x A100 80GB 或 4x RTX 4090
671B多节点分布式训练,如 8x A100/H100 或 AMD MI300X(192G,8 块)


然后,按下“Win+R”打开运转窗口,输入“cmd”打开终端,可先输入“ollama -v”命令查看Ollama程序能否曾经安装好。

(, 下载次数: 0)

确认好已安装好程序后,再粘贴刚复制的命令,回车即可末尾下载模型。

(, 下载次数: 0)

(注:不同的模型,大小不同,下载的工夫也不同,后续若想卸载模型,只需将命令中的run改成rm即可)

部分用户能够会遇到模型下载速度缓慢的状况,此时有个小技巧,只需按下“Ctrl+C”中止下载,再粘贴上方的命令即可重新下载,且保持已下载的进度条。

(, 下载次数: 0)

部署安装完成后,即可在本地运转停止运用DeepSeek。

(, 下载次数: 0)

一些用户能够会觉得没有UI,运用起来不太方便,想要像网络版一样在阅读器上运用,可以下载一个名为Pageassist的阅读器插件。

(, 下载次数: 0)

(图片来源于Google商店)

以Edge阅读器为例,找到右上角选择扩展-管理扩展,开启左侧的“开发人员形式”,把刚下载的插件拖入其中,在弹出的窗口中,点击“添加扩展”。

(, 下载次数: 0)

此时,点击插件图标,选择下载好的模型,即可末尾运用。

(, 下载次数: 0)

最后,再点击右上角的设置,将言语设置和语音辨认言语都设置为中文即可。

(, 下载次数: 0)

至此,DeepSeek的本地部署安装曾经顺利完成,拥有了DeepSeek本地部署环境后,我们可以在享用其弱小功能的同时,获得更好的数据隐私保护和运用体验。希望这篇教程能协助大家顺利完成本地部署,开启属于本人的 AI 探求之旅!

本文图片/材料来源:

1)图片/材料来源网络/AI

2)  DeepSeek

3)Google商店


点击上方蓝字关注我们


(, 下载次数: 0)

感激您的阅读与支持!

(, 下载次数: 0)

▼延伸阅读▼

企业数字化转型思绪、方法与案例

企业数字化途径与将来工厂想象

企业数字化转型-这些软件分开不了!!!

工信部印发《制造业质量管理数字化实施指南(试行)》(全文+解读)

它不只是MES,更是一个协同制造平台!

QMS-质量管理系统简介

智能工厂知识系列|PLM系统能为企业带来什么?

智能工厂知识系列|CRM如何发掘和留住客户

智能工厂知识系列|SCM智慧供应链管理

ERP系统经典培训教材

智能工厂知识系列|ERP是信息化的先锋

你必须知道的MES成功实施要领

CRM、PLM、SCM、ERP、MES的联络与区别

再添13家!全球103座灯塔工厂大全

将来50年中国智能制造产业全景前瞻

可怕的德国自动化!

三张图了解工业互联网安全

近百页PPT,自动化非标设计各标准件选型知识

一文看懂 14 种自动化物流分拣系统运转形式!

世界十大工业自动化公司,你知道几家?






欢迎光临 职贝云数AI新零售门户 (https://www.taojin168.com/cloud/) Powered by Discuz! X3.5