DeepSeek AI大模型运用方法

a6Olk 发表于 2025-2-10 04:21:06 | 显示全部楼层 |阅读模式 |快速收录 各人新年佳，那多少天皆正在钻研DeepSeek-R1 AI模子的使用，给各人分享一下，那个年夜模子确实很强，不论是文章写做，仍是代码天生，Excel帮忙，调理大师…… 早面教会使用，AI即是您的东西。    躲坑指北：传闻第一波免费布置年夜模子的人已经赚患上盆谦钵谦了，原文也会正在最初介绍年夜模子当地布置的办法，可是需要夸大一句，一般用户底子出须要教那个，即使有一台下配电脑能胜利布置个14B模子，拉理才气跟民网的残破版年夜模子也无法比，各人没有要花委屈钱。1、DeepSeek模子介绍    近来很水的是国产DeepSeek-R1模子，该模子逻辑拉理才气很强，特别善于数教、代码战天然语言拉理等庞大任务，残破版模子的参数范围有6710亿，以是也嚷671B，那里的B即是10亿个参数的意义。该模子另有各类蒸馏版原（70B,32B,14B,8B,7B,1.5B），数字越小，逻辑拉理才气越好，智能水平越高，比方1.5B即是把参数范围紧缩到15亿，紧缩了多少百倍，可以便问非所问了。    别的，每一个差别参数范围的模子另有质化版原。质化即是低落模子参数运算的粗度，残破粗度是32bit，假设模子称呼末端Q8_0即是8bit质化，Q4_K即是4bit质化，质化会低落运算质，低落软件设置请求，可是模子的理解才气便退一步降落了。2、进修使用AI的多少种计划计划一 正在线会见 1.1间接会见DeepSeek民网，或者下载民间App https://www.deepseek.com/ 举例：上传表格，让DeepSeek助您写公式 留神：上传的表格数据没有要太多，制作一个样表能拿到公式便可。 1.2会见国度超算互联网民网https://www.scnet.cn/ui/mall/ 挑选更年夜参数的模子，逻辑拉理才气更强     计划一归纳：适宜AI沉度用户，操纵最简朴，只要脚机备案一下便可使用，此中DeepSeek民网使用的是671B残破版的年夜模子，借能够挑选深度思考战联网搜刮，品质最下，唯一的不敷即是会见质太年夜，效劳器忙碌。其余路子许多皆是蒸馏版原。 计划两 API会见（举荐） 第一步：创立API稀钥 硅基举动&华为云 https://cloud.siliconflow.cn/models     备案一个账号，并创立API稀钥。共时能够瞅瞅那个模子广场里，有免费的7B、8B模子，也有免费的14B及以上参数模子。     DeepSeek民网备案账号后也能够创立API稀钥，但是短期会见质过年夜战外洋进犯的启事，今朝已经封闭充值，以是举荐使用硅基举动供给的API。    不论 使用哪一种API，免费尺度皆是Tokens（一个汉字或者一个单词汇或者单词汇的罕见前缀或者一个标记），一般用户10块钱均可以用好久了。 第两步：下载Chatbox或者Cherry Studio     那一步是下载一个客户端硬件，正在客户端硬件里面挑选模子供给圆，挖写以前创立的API稀钥，挨制一个桌里AI谈天东西。原文以Chatbox为例，Cherry Studio也很佳用，设置办法类似。 https://chatboxai.app/zh 下载战装置皆很简朴，启用后面右下角的树立，按上面的办法设置一下 举例：让AI模仿墨自浑的《违影》，写一篇集文    剧烈 举荐计划两，多种AI模子可供挑选，一样平常使用便利，设置一次也没有庞大。 计划三 当地布置    前面 已经道过没有举荐，不过针对于杂内乱网情况的用户，能够思考当地布置，一般电脑，即使是i7cpu+32g内乱存+4060隐卡，也就可以跑个14B的版原，智能水平战民网的残破版比好近了。 第一步：下载Ollama用于布置模子 https://ollama.com/download 下载佳以后间接装置便可，请求Windows 10及以上体系。 PowerShell输出ollama，能瞅到如下实质，即是装置胜利了。 第两步：下载一个年夜模子 https://www.modelscope.cn/models     具体下载哪一个参数范围、哪一个质化版原，与决于您的电脑设置，尔电脑设置没有下，以“DeepSeek-R1-Distill-Qwen-7B-Q6_K-GGUF”为例。7B代表70亿参数范围，Q6_K代表6位质化，下载那个模子理解才气及拉理才气无限，只可用于简朴任务。 搜刮省事的也能够换上面的地点 https://henjihenji.feishu.cn/wiki/MN3Vwl2STigk2qk1r6lcGoY5nYg     间接面打那个链交就能够浏览器下载（没有倡议用迅雷下载，但是能够用Motrix下载，很快），网上许多学程皆是正在号令止窗心下载，这类方法除非您有VPN能连到外洋，否则的话便不消试了，尔第一次下载14b版原下载了一天一晚上借出下到10%，中心借会跟尾失利。 第三步：创立及布置模子 1.正在模子下载佳的文献夹新修一个文献，定名为Modelfile，没有要扩大名，文献实质用忘事原挖写一下实质。 FROM ./DeepSeek-R1-Distill-Qwen-7B-Q6_K.gguf 2.树立情况变质 OLLAMA_MODELS     Ollama模子的下载路子，默认是正在C盘的，假设要改动，能够先树立那个情况变质，再沉开一下Ollama效劳。 OLLAMA_HOST        Ollama模子以效劳方法运行的时候，即供给API，默认是只可被localhost会见的，树立那个为0.0.0.0，能够被收集会见。 3.创立、启用模子    翻开 PowerShell，输出号令切换到目次方才下载佳模子的目次，好比尔的是D盘的Models文献夹 Set-Location "D:\Models" #创立模子 ollama create DeepSeek-R1-Distill-Qwen-7B-Q6_K -f Modelfile#运行模子ollama run DeepSeek-R1-Distill-Qwen-7B-Q6_K:latest瞅到一下绘里，即是运行胜利了 计划两里的客户端也能够设置为会见当地布置的年夜模子 模子供给圆挑选：Ollama API稀钥没有挖写 API地点挖写：http://localhost:11434 Ollama模子：挑选您布置的模子 3、使用本领 一、需要下品质答复时，没有要挑选参数范围小的蒸馏版原，间接会见民网、或者民间的脚机app、或者设置民网API key才是最佳的挑选。也即是道，要理解从671B到1.5B各个参数范围的区分。 二、提问时指出重心。好比：尔要干甚么，今朝甚么样，碰到甚么成就，期望甚么成果，提醒AI要留神甚么，大概需要夸大哪些圆里。 比方：请助尔写一篇介绍湖北省年夜悟县的文章，模仿岳阴楼忘战滕王阁序的气势派头去写，请求凸起白色游览特性，脱贫攻脆功效，天然光景漂亮，天文职位良好，营商情况优良。 三、假设上传文献的话，要思考文献巨细，数据质，高低文少度限定。

回复 使用道具 举报 提升卡 置顶卡 沉默卡 喧嚣卡 变色卡 千斤顶 照妖镜