一、部署前环境准备

1.1 系统要求验证

Windows 10/11 64位系统需满足：

• CPU：支持AVX2指令集（第四代酷睿及以上）
• 内存：建议16GB+（运行7B模型最低要求）
• 存储：NVMe SSD预留50GB+空间
• 显卡：NVIDIA GPU（可选，CUDA 11.x+）

通过任务管理器查看”处理器”属性确认AVX2支持，使用wmic cpu get l2cachesize命令验证缓存配置。

1.2 依赖环境安装

1.2.1 Python环境配置

推荐使用Python 3.10.x版本：

1. 从Python官网下载Windows安装包
2. 勾选”Add Python to PATH”选项
3. 验证安装：命令行执行python --version

1.2.2 CUDA工具包（GPU加速）

NVIDIA用户需安装对应版本的CUDA：

• 访问NVIDIA CUDA Toolkit Archive
• 选择与显卡驱动兼容的版本（如RTX 30系列需11.8）
• 安装后验证：nvcc --version

二、Ollama框架部署

2.1 安装包获取

从Ollama官方GitHub仓库下载Windows版安装包：

• 访问releases页面
• 下载ollama-windows-amd64.zip
• 解压至C:\Program Files\Ollama

2.2 系统路径配置

1. 右键”此电脑”→属性→高级系统设置
2. 在”环境变量”中添加：
   • 变量名：OLLAMA_HOME
   • 变量值：C:\Program Files\Ollama
3. 修改PATH变量，添加%OLLAMA_HOME%\bin

2.3 首次启动配置

命令行执行初始化命令：

ollama serve --log-level debug

观察控制台输出，确认以下信息：

• GPU设备检测（如Found 1 devices）
• 模型存储路径（默认%APPDATA%\Ollama\models）
• Web服务端口（默认11434）

三、Deepseek-r1模型部署

3.1 模型文件获取

通过Ollama命令行拉取模型：

ollama pull deepseek-r1:7b

支持参数说明：

• :7b：70亿参数版本（推荐）
• :13b：130亿参数版本（需32GB+内存）
• :33b：330亿参数版本（需专业GPU）

3.2 模型参数优化

创建自定义配置文件custom.yaml：

template: "{{.Prompt}} <|endoftext|>"
parameters:
  temperature: 0.7
  top_p: 0.9
  max_tokens: 2048

应用配置：

ollama create deepseek-r1-custom -f custom.yaml --from deepseek-r1:7b

3.3 本地API服务

启动带API的Ollama服务：

ollama serve --api-port 8080

测试API连接：

import requests
response = requests.post(
    "http://localhost:8080/api/generate",
    json={"model": "deepseek-r1:7b", "prompt": "解释量子计算"}
)
print(response.json())

四、性能优化方案

4.1 内存管理技巧

• 使用--num-gpu参数限制GPU内存使用：

  ollama run deepseek-r1:7b --num-gpu 1

• 启用交换空间（Swap）：
  1. 创建虚拟内存文件C:\swapfile.sys
  2. 修改注册表HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Control\Session Manager\Memory Management
  3. 设置PagingFiles值为C:\swapfile.sys 0 4096（4GB示例）

4.2 量化压缩方案

使用GGUF格式进行模型量化：

ollama export deepseek-r1:7b deepseek-r1-7b.gguf
# 转换为4位量化
python convert.py --input deepseek-r1-7b.gguf --output q4_0.gguf --quantize q4_0

五、故障排查指南

5.1 常见错误处理

错误现象	解决方案
CUDA out of memory	降低--num-gpu参数或切换CPU模式
Model not found	执行ollama list确认模型存在
Connection refused	检查防火墙设置，开放11434端口

5.2 日志分析技巧

Ollama日志文件位于：
%APPDATA%\Ollama\logs\ollama.log

关键日志字段解析：

• [GPU]：显存使用情况
• [MODEL]：模型加载进度
• [API]：请求处理时间

六、进阶应用场景

6.1 结合Gradio创建UI

import gradio as gr
from ollama import generate
def chat(prompt):
    return generate("deepseek-r1:7b", prompt)["response"]
demo = gr.Interface(fn=chat, inputs="text", outputs="text")
demo.launch()

6.2 企业级部署建议

• 使用Docker容器化部署：

  FROM python:3.10-slim
  RUN pip install ollama
  COPY models /models
  CMD ["ollama", "serve", "--model-path", "/models"]

• 配置Nginx反向代理：

  location /api/ {
      proxy_pass http://localhost:11434;
      proxy_set_header Host $host;
  }

本手册通过分步骤指导、参数详解和故障案例，帮助Windows用户在本地环境高效部署Deepseek-r1模型。实际部署中建议先使用7B版本验证流程，再逐步升级至更大模型。对于生产环境，推荐结合Kubernetes进行容器化编排，实现资源的弹性调度。