[AI探索] DeepSeek R1 本地部署看这篇

实干、实践、积累、思考、创新。

在我们发布第一篇API部署DeepSeek R1 （ 本地API 召唤满血DeepSeek R1 ）之后，很多热心的小伙伴和我们建议考虑使用完全本地部署DeepSeek R1，这样回答速度更快、更体现隐私性、更能检验你的电脑配置。

在正式开始之前我们先来看看你是否真的想要完全本地部署。

Step 0 思辨：我是否需要本地部署DeepSeek R1 ？

本地部署的优缺点

在开始前先和大家唠叨两句。相较于API调用，本地部署的意思就是把DeepSeek R1（下文简称DS）模型下载到本地，再通过本地工具访问DS进行对话，这种情况下DS不会上传用户语料，包括提问、知识库、智能体等。信息安全大概是本地部署的最大好处。其余的优缺点对比请各位小伙伴看下图体会：

（大模型本地部署的优缺点）

本地部署的模型差异

目前网络公开的DS 模型有6个蒸馏版+1个完整版（俗称满血版）：

蒸馏版有：1.5B, 7B, 8B, 14B, 32B, 70B；

完整版：671B。

首先版本号的B是模型参数的单位Billion（十亿）；然后解释下蒸馏，蒸馏Distillation是一种模型压缩技术，其核心是通过知识迁移（Knowledge Transfer）将复杂教师模型（Teacher Model）中的函数映射能力/隐式知识，高效转移到更轻量的学生模型（Student Model）中。

满血版和蒸馏版可以简单理解为名师和高徒的关系，名师（671B）将自身的知识传授给学生，其中比较出色的几位是高徒（1.5B, 7B, 8B, 14B, 32B, 70B），官方给出了名师和各位高徒的各科考试成绩，从Figure1和Table5可见，名师671B成绩更优异，高徒32B在各位徒弟中较为出色。

Figure 1 | Benchmark performance of DeepSeek-R1^【1】

Table 5 | Comparison of DeepSeek-R1 distilled models and other comparable models on reasoning-related benchmarks^【1】

本地部署的配置建议

这里结合DeepSeek回答和网络测评拉个表给大家参考，以下配置均未考虑模型量化作用，仅供粗略参考。

上面提到的32B模型作为满血版671B模型的平替，对设备的要求依然不低。

版本	模型大小	CPU	内存	硬盘	显卡
1.5B	1.1 GB	4核	8GB+	5 GB+	4GB+显存（如GTX 1650）
7B	4.7 GB	8核+	16GB+	10 GB+	8GB+显存（如RTX 3070/4060）
8B	4.9 GB	8核+	16GB+	10 GB+	8GB+显存（如RTX 3070/4060）
14B	9.0 GB	12核+	32GB+	20 GB+	16GB+显存（如RTX 4090或A5000）
32B	20 GB	16核+	64GB+	40 GB+	24GB+显存（如A100 40GB或双卡RTX 3090）
70B	43 GB	32核+	128GB+	80 GB+	多卡并行（如2xA100 80GB或4xRTX 4090）
671B	404 GB	64核+	512GB+	1 T +	多节点分布式训练（如8xA100/H100）