一、安装前环境准备

1.1 系统兼容性检查

Deepseek官方推荐使用Ubuntu 20.04 LTS/22.04 LTS或CentOS 8/RHEL 8及以上版本。可通过lsb_release -a（Ubuntu）或cat /etc/redhat-release（CentOS）确认系统版本。对于低版本系统，建议升级内核至5.4+版本以获得最佳兼容性。

1.2 依赖项安装

基础依赖包括：

# Ubuntu/Debian
sudo apt update && sudo apt install -y \
    build-essential cmake git wget \
    libopenblas-dev liblapack-dev \
    libboost-all-dev libprotobuf-dev protobuf-compiler
# CentOS/RHEL
sudo yum install -y epel-release
sudo yum groupinstall -y "Development Tools"
sudo yum install -y cmake git wget \
    openblas-devel lapack-devel \
    boost-devel protobuf-devel protobuf-compiler

GPU加速支持需额外安装CUDA（NVIDIA）或ROCm（AMD）：

# CUDA 11.x安装示例（Ubuntu）
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2004/x86_64/cuda-ubuntu2004.pin
sudo mv cuda-ubuntu2004.pin /etc/apt/preferences.d/cuda-repository-pin-600
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2004/x86_64/3bf863cc.pub
sudo add-apt-repository "deb https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2004/x86_64/ /"
sudo apt update && sudo apt install -y cuda-11-8

二、源码编译安装

2.1 代码获取与版本管理

推荐使用Git克隆最新稳定版：

git clone --recursive https://github.com/deepseek-ai/Deepseek.git
cd Deepseek
git checkout v1.4.2  # 指定版本
git submodule update --init --recursive

对于生产环境，建议将代码仓库固定在特定版本标签，避免自动更新导致的兼容性问题。

2.2 CMake编译配置

创建构建目录并生成Makefile：

mkdir build && cd build
cmake .. \
    -DCMAKE_BUILD_TYPE=Release \
    -DENABLE_CUDA=ON \
    -DCUDA_ARCH_BIN="7.5;8.0"  # 根据GPU型号调整

关键编译选项说明：

• -DENABLE_CUDA=ON：启用GPU加速
• -DCMAKE_INSTALL_PREFIX=/opt/deepseek：自定义安装路径
• -DBUILD_SHARED_LIBS=OFF：静态链接库（适合容器部署）

2.3 编译与安装

使用多核编译加速（如16核服务器）：

make -j$(nproc)  # 自动检测CPU核心数
sudo make install

编译完成后，验证安装文件：

ls /opt/deepseek/bin/deepseek_*  # 检查可执行文件
ldd /opt/deepseek/bin/deepseek_server  # 检查动态库依赖

三、配置与优化

3.1 主配置文件解析

配置文件/etc/deepseek/config.yaml核心参数：

server:
  port: 8080
  worker_threads: 8
  max_batch_size: 32
model:
  path: "/models/deepseek-6.7b"
  device: "cuda:0"  # 或"cpu"
  precision: "fp16"  # 可选fp32/bf16
logging:
  level: "info"
  path: "/var/log/deepseek/"

3.2 性能调优建议

• 内存优化：对于大模型（如6.7B参数），建议设置swap空间至少为模型大小的1.5倍
• GPU配置：通过nvidia-smi监控显存使用，调整max_batch_size避免OOM
• 多实例部署：使用taskset绑定CPU核心，减少上下文切换开销

四、服务管理

4.1 Systemd服务配置

创建服务文件/etc/systemd/system/deepseek.service：

[Unit]
Description=Deepseek AI Service
After=network.target
[Service]
Type=simple
User=deepseek
Group=deepseek
WorkingDirectory=/opt/deepseek
ExecStart=/opt/deepseek/bin/deepseek_server --config /etc/deepseek/config.yaml
Restart=on-failure
RestartSec=5s
[Install]
WantedBy=multi-user.target

启用并启动服务：

sudo systemctl daemon-reload
sudo systemctl enable deepseek
sudo systemctl start deepseek

4.2 日志与监控

实时日志查看：

journalctl -u deepseek -f

关键指标监控：

# GPU使用率
watch -n 1 nvidia-smi
# CPU负载
top -H -p $(pgrep -f deepseek_server)

五、常见问题解决方案

5.1 编译错误处理

• CUDA版本不匹配：确保nvcc --version与cmake指定的版本一致
• Boost库冲突：使用ldd检查依赖路径，必要时设置LD_LIBRARY_PATH
• 内存不足：增加交换空间或减少-j编译线程数

5.2 运行时错误

• 模型加载失败：检查文件权限和路径是否存在特殊字符
• 端口冲突：使用netstat -tulnp | grep 8080确认端口占用
• 性能下降：通过strace跟踪系统调用，定位瓶颈

六、进阶部署方案

6.1 容器化部署

Dockerfile示例：

FROM nvidia/cuda:11.8.0-base-ubuntu22.04
RUN apt update && apt install -y libopenblas-dev
COPY --from=builder /opt/deepseek /opt/deepseek
WORKDIR /opt/deepseek
CMD ["./bin/deepseek_server", "--config", "/config/config.yaml"]

6.2 分布式集群配置

使用Kubernetes部署时，需配置：

• 资源限制：resources.limits.nvidia.com/gpu: 1
• 亲和性规则：确保模型副本分散在不同节点
• 健康检查：配置livenessProbe执行API调用测试

七、验证与测试

7.1 功能验证

使用cURL进行简单测试：

curl -X POST http://localhost:8080/v1/completions \
    -H "Content-Type: application/json" \
    -d '{"prompt": "Explain quantum computing", "max_tokens": 50}'

7.2 基准测试

使用官方测试工具：

/opt/deepseek/tools/benchmark.py \
    --model_path /models/deepseek-6.7b \
    --batch_size 16 \
    --sequence_length 2048

本教程覆盖了从环境准备到生产部署的全流程，特别针对Linux系统特性进行了优化。实际部署时，建议先在测试环境验证配置，再逐步迁移到生产环境。对于企业级应用，可考虑结合Prometheus+Grafana构建监控体系，实现自动化运维。