一、部署前准备：环境与工具配置

1.1 系统要求与硬件评估

Windows部署需满足以下基础条件：操作系统建议Windows 10/11 64位专业版或企业版，内存最低16GB（推荐32GB+），NVIDIA显卡（CUDA 11.8+支持），硬盘剩余空间至少50GB（模型文件约25GB）。通过任务管理器检查系统信息，使用GPU-Z验证显卡CUDA核心数，确保硬件满足模型运行需求。

1.2 开发工具链安装

安装Python 3.10.x版本（通过Microsoft Store或官网安装），配置环境变量时勾选”Add Python to PATH”。安装Git for Windows 2.40+版本，在安装向导中选择”Use Git from the Windows Command Prompt”选项。安装NVIDIA CUDA Toolkit 11.8（需与显卡驱动版本匹配），通过nvcc —version验证安装成功。

二、Ollama框架安装与配置

2.1 Ollama Windows版安装

访问Ollama官方GitHub仓库，下载最新Windows安装包（ollama-windows-amd64.msi）。右键选择”以管理员身份运行”，安装路径建议选择非系统盘（如D:\Ollama）。安装完成后，在命令提示符执行ollama version验证安装，正常应返回版本号（如v0.1.15）。

2.2 环境变量配置

在系统环境变量中添加：OLLAMA_MODELS（值为模型存储路径，如D:\Ollama\models），OLLAMA_HOST（值为0.0.0.0以允许局域网访问）。通过PowerShell执行$env:OLLAMA_MODELS测试变量是否生效，返回设置路径即为成功。

2.3 服务启动与验证

执行ollama serve启动服务，观察控制台输出是否包含”Listening on port 11434”。使用浏览器访问http://localhost:11434/api/tags，应返回JSON格式的模型列表。若遇到端口占用，通过`netstat -ano | findstr 11434`查找进程ID后终止。

三、Deepseek-r1模型部署

3.1 模型文件获取

通过Ollama命令行拉取模型：ollama pull deepseek-r1:7b（7B参数版本），或从Hugging Face下载完整模型文件（需注册账号）。对于离线环境，先在有网络机器下载模型包，再通过U盘传输至部署机。

3.2 模型参数配置

创建自定义配置文件my-deepseek.yaml，内容示例：

FROM deepseek-r1:7b
PARAMETER temperature 0.7
PARAMETER top_p 0.9
PARAMETER max_tokens 2048
SYSTEM """
你是一个专业的AI助手，回答需简洁准确。
"""

通过ollama create my-deepseek -f my-deepseek.yaml应用配置。

3.3 模型加载测试

执行ollama run my-deepseek启动交互界面，输入测试问题：”解释量子计算的基本原理”，正常应返回结构化回答。使用ollama show my-deepseek查看模型详细参数，确认配置已生效。

四、性能优化与问题排查

4.1 显存优化技巧

对于16GB显存机器，在配置文件中添加：

PARAMETER gpu_layers 20  # 根据实际显存调整
PARAMETER rope_scaling none

通过nvidia-smi监控显存使用，确保不超过90%占用。

4.2 常见问题解决方案

问题1：CUDA内存不足错误
解决：降低gpu_layers数值，或使用--cpu参数强制CPU运行（性能下降约5倍）。

问题2：模型加载超时
解决：在配置文件中增加PARAMETER timeout 300（单位秒），检查网络连接是否正常。

问题3：中文回答乱码
解决：在系统区域设置中启用”Beta: 使用Unicode UTF-8提供全球语言支持”，重启后生效。

五、高级功能扩展

5.1 API服务搭建

创建api-server.py文件：

from fastapi import FastAPI
import requests
app = FastAPI()
OLLAMA_API = "http://localhost:11434"
@app.post("/chat")
async def chat(prompt: str):
    resp = requests.post(f"{OLLAMA_API}/api/generate",
                         json={"model": "my-deepseek", "prompt": prompt})
    return resp.json()["response"]

安装依赖pip install fastapi uvicorn requests，运行uvicorn api-server:app --reload启动服务。

5.2 多模型管理

创建models目录，分别放置不同参数版本模型。通过ollama tag deepseek-r1:7b my-deepseek-7b创建别名，使用ollama list查看所有可用模型。

六、维护与更新

6.1 定期更新机制

设置Windows任务计划，每周执行：

@echo off
cd C:\Program Files\Ollama
git pull origin main
ollama pull deepseek-r1:7b

更新前建议备份模型文件（copy D:\Ollama\models D:\Backup\）。

6.2 日志分析方法

Ollama日志存储在%APPDATA%\Ollama\logs，使用PowerShell命令分析错误频率：

Select-String -Path "$env:APPDATA\Ollama\logs\*.log" -Pattern "ERROR" | Group-Object -NoElement | Sort-Object Count -Descending

本手册覆盖了Windows环境下Ollama+Deepseek-r1部署的全生命周期管理，从基础安装到高级优化均提供可复制的解决方案。实际部署时建议先在虚拟机测试，再迁移至生产环境。对于企业级部署，可考虑使用Docker Desktop for Windows实现容器化管理，进一步提升部署可靠性。