能够是最简单 DeepSeek 本地部署方法

QrO8sdW4Wh 发表于 4 天前 | 显示全部楼层 |阅读模式 |快速收录 念要正在当地布置 DeepSeek 的模子，以前给各人分享受 LM Studio、Ollama 等东西，不外关于一点儿老手小利剑来讲仍是比力省事。来日诰日给各人举荐那款「Jan」启源的当地AI模子运行东西，撑持正在 Windows、macOS、Linux体系上离线布置战运行狂言语模子，比方：LLaMA、Mistral、DeepSeek 等。 使用介绍 固然「Jan」今朝不供给中文言语界里，可是使用很简朴，面启下载模子的界里，搜刮 DeepSeek，能够瞅到会显现 1.5B、7B、14B、32B、70B 各类质化版原。按照您的电脑软件战需要下载模子，比方 16GB+ 内乱存能够挑选 7B/8B 版原、32GB+ 内乱存挑选 14B 版原。 挑选佳后，会从 Hugging Face中止 下载模子，下载佳后间接面打 USE中止 使用。 前去谈天界里，挑选您方才下载的情势便可使用。功用圆里撑持树立：Max Tokens、Temperature、Context Length、Number of GPU layers (ngl) 等，按照情况去树立便可。没有明白参数啥意义的，自己搜刮下。 假设您的隐卡给力的话，借能够正在树立里面的，软件- 开端颠末使用装备的 GPU中止 加快去进步模子功用。 布置佳的当地模子，您也启开 API效劳 ，以让别的电脑会见使用。假设是小我私家用没有倡议启开，制止有保守危急。 除当地布置 AI 模子中，借撑持长途 API 交心模子，今朝供给包罗有：Anthropic、Cohere、Deepseek、GoogleGroq、Martian、Mistral、Nvidia、OpenAl、OpenRouter。挑选您要用的模子，而后挖写 API Key，和正在初级选项里面借供给了模子列表URL、恳求格局变换、照应格局变换等选项。 归纳 那款「Jan」撑持多种支流的 AI 模子，当地布置十分简朴，具备可扩大性，能够按照自己的需要截至定造战扩大。唯一缺点即是临时不简体中文言语。 别的更多撑持 DeepSeek 的 AI 模子客户端，能够到 DeepSeek 导航网检察： 会见地点： https://deepseek404.com/favorites/deepseek-llm/ 下载地点 民间网站： https://jan.ai/ 网盘下载： https://pan.quark.cn/s/80af071496cc

回复 使用道具 举报 提升卡 置顶卡 沉默卡 喧嚣卡 变色卡 千斤顶 照妖镜