Spring AI + Ollama 实现 DeepSeek-R1 的API服务和调用

一、技术背景与核心价值

DeepSeek-R1作为一款高性能的大语言模型，其本地化部署需求日益增长。Spring AI作为Spring生态的AI扩展框架，通过简化模型加载、推理流程和API服务化，显著降低了AI应用的开发门槛。Ollama则提供了轻量级的模型运行环境，支持多种大模型（包括DeepSeek-R1）的本地化部署，无需依赖云端服务，保障数据隐私与低延迟响应。

核心价值：

1. 数据主权：模型运行在本地环境，避免敏感数据外泄。
2. 成本优化：无需支付云端API调用费用，长期使用成本更低。
3. 灵活定制：支持模型微调、参数调整，适配特定业务场景。
4. 高可用性：结合Spring Boot的容器化部署能力，实现服务的高可用与弹性扩展。

二、环境准备与工具链配置

1. 硬件与软件要求

• 硬件：推荐NVIDIA GPU（如A100/H100）或支持ROCm的AMD GPU，显存≥16GB。
• 软件：
  • Ubuntu 22.04 LTS/CentOS 8+
  • Docker 24.0+（用于Ollama容器化部署）
  • Java 17+（Spring AI依赖）
  • Maven 3.8+（项目构建）

2. Ollama安装与模型加载

步骤1：安装Ollama

curl -fsSL https://ollama.ai/install.sh | sh

步骤2：拉取DeepSeek-R1模型

ollama pull deepseek-r1:7b  # 7B参数版本，可根据需求选择13b/33b

验证：

ollama run deepseek-r1:7b "Hello, DeepSeek-R1!"

输出应包含模型生成的文本响应。

3. Spring AI项目初始化

步骤1：创建Spring Boot项目
使用Spring Initializr（https://start.spring.io/）生成项目，添加以下依赖：

• Spring Web（REST API）
• Spring AI（核心AI支持）
• Lombok（简化代码）

步骤2：配置pom.xml

<dependencies>
    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-web</artifactId>
    </dependency>
    <dependency>
        <groupId>org.springframework.ai</groupId>
        <artifactId>spring-ai-ollama</artifactId>
        <version>0.8.0</version>
    </dependency>
    <dependency>
        <groupId>org.projectlombok</groupId>
        <artifactId>lombok</artifactId>
        <optional>true</optional>
    </dependency>
</dependencies>

三、Spring AI与Ollama集成实现

1. 配置Ollama客户端

在application.yml中配置Ollama服务地址：

spring:
  ai:
    ollama:
      base-url: http://localhost:11434  # Ollama默认端口
      model-id: deepseek-r1:7b

2. 创建AI服务类

@Service
@RequiredArgsConstructor
public class DeepSeekService {
    private final OllamaAiClient aiClient;
    public String generateText(String prompt) {
        ChatRequest request = ChatRequest.builder()
                .messages(Collections.singletonList(AiMessage.fromText(prompt)))
                .build();
        ChatResponse response = aiClient.chat(request);
        return response.getChoices().get(0).getMessage().getContent();
    }
}

3. 封装REST API接口

@RestController
@RequestMapping("/api/deepseek")
@RequiredArgsConstructor
public class DeepSeekController {
    private final DeepSeekService deepSeekService;
    @PostMapping("/generate")
    public ResponseEntity<String> generateText(@RequestBody String prompt) {
        String result = deepSeekService.generateText(prompt);
        return ResponseEntity.ok(result);
    }
}

四、API调用与测试

1. 使用cURL测试

curl -X POST -H "Content-Type: text/plain" -d "解释量子计算的基本原理" http://localhost:8080/api/deepseek/generate

预期响应：

{
    "response": "量子计算是一种基于量子力学原理的计算模式..."
}

2. 集成到前端应用

示例（React调用）：

async function callDeepSeek(prompt) {
    const response = await fetch('http://localhost:8080/api/deepseek/generate', {
        method: 'POST',
        body: prompt,
        headers: { 'Content-Type': 'text/plain' }
    });
    return await response.text();
}

五、性能优化与扩展

1. 批处理优化

通过Spring AI的ChatRequest支持多轮对话上下文管理：

public String multiTurnChat(List<String> history, String newPrompt) {
    List<AiMessage> messages = history.stream()
            .map(AiMessage::fromText)
            .collect(Collectors.toList());
    messages.add(AiMessage.fromText(newPrompt));
    ChatRequest request = ChatRequest.builder().messages(messages).build();
    return aiClient.chat(request).getChoices().get(0).getMessage().getContent();
}

2. 异步处理

使用Spring的@Async注解实现非阻塞调用：

@Async
public CompletableFuture<String> asyncGenerate(String prompt) {
    return CompletableFuture.completedFuture(generateText(prompt));
}

3. 模型热更新

通过Ollama的模型管理API实现动态切换：

public void switchModel(String newModelId) {
    // 需结合Ollama的REST API或命令行实现
    // 示例：重启服务并加载新模型
}

六、安全与监控

1. API认证

集成Spring Security实现JWT认证：

@Configuration
@EnableWebSecurity
public class SecurityConfig {
    @Bean
    public SecurityFilterChain securityFilterChain(HttpSecurity http) throws Exception {
        http.authorizeHttpRequests(auth -> auth
                .requestMatchers("/api/deepseek/**").authenticated()
                .anyRequest().permitAll())
            .oauth2ResourceServer(OAuth2ResourceServerConfigurer::jwt);
        return http.build();
    }
}

2. 日志与监控

使用Spring Boot Actuator暴露健康端点：

management:
  endpoints:
    web:
      exposure:
        include: health,metrics

七、常见问题与解决方案

1. Ollama启动失败：

   • 检查端口冲突（默认11434）。
   • 确保GPU驱动和CUDA版本兼容。

2. 模型加载超时：

   • 增加JVM内存参数：-Xmx4g。
   • 使用ollama serve --loglevel debug调试。

3. Spring AI版本冲突：

   • 统一使用Maven依赖管理，避免手动下载JAR。

八、总结与展望

通过Spring AI与Ollama的深度集成，开发者可以快速构建高性能的DeepSeek-R1本地化API服务。未来可探索：

• 模型量化（如4bit/8bit）以降低显存占用。
• 结合Kubernetes实现弹性伸缩。
• 集成向量数据库（如Chroma）支持RAG应用。

完整代码示例：https://github.com/example/spring-ai-ollama-demo

此方案不仅适用于DeepSeek-R1，还可扩展至Llama 3、Mistral等主流模型，为AI工程化提供标准化路径。