Windows上Ollama的本地与外网配置全攻略

Ollama作为一款开创性的人工智能（AI）和机器学习（ML）工具平台，极大地简化了AI模型的开发和使用过程。它不仅提供了一系列直观且高效的工具，还支持通过开源模型完成不同的任务，推动了AI技术的普及。本文将在Windows系统环境下，全面介绍如何配置Ollama以实现本地及外网访问。

一、Ollama的本地配置

1. 下载与安装

首先，需要从Ollama的官方网站或相关页面下载适用于Windows的安装程序（如OllamaSetup.exe）。下载完成后，双击安装程序并按照提示完成安装。

2. 启动与获取模型

安装完成后，通过“开始”菜单启动Ollama。启动后，在任务栏托盘中找到Ollama的图标，右键点击并选择“View log”以打开命令行窗口。在命令行中，使用以下命令加载所需的AI模型：

ollamarun[modelname]

将[modelname]替换为所需的模型名称，例如llama3.1:8b。

3. 设置环境变量（实现局域网访问）

为了让局域网内的其他设备能够访问Ollama服务，需要设置环境变量OLLAMA_HOST，使其监听局域网的IP地址。具体步骤如下：

• 右键点击“此电脑”或“计算机”，选择“属性”。
• 在左侧点击“高级系统设置”。
• 在弹出的窗口中，点击“环境变量”。
• 在“系统变量”部分，点击“新建”。
• 在“变量名”输入框中输入OLLAMA_HOST，在“变量值”输入框中输入0.0.0.0，然后点击“确定”。
• 设置完成后，关闭并重新打开命令行窗口，使新的环境变量生效。

4. 开放防火墙端口

为了使其他设备能够访问Ollama服务，还需要在Windows防火墙中开放Ollama服务使用的端口（例如11434）。可以通过图形界面或命令行来完成设置。图形界面设置步骤如下：

• 打开“控制面板”，搜索并选择“Windows Defender 防火墙”。
• 在左侧点击“高级设置”，进入高级防火墙设置页面。
• 在左侧菜单中，点击“入站规则”，然后在右侧点击“新建规则”。
• 选择“端口”作为规则类型，然后点击“下一步”。
• 选择“TCP”，并在“特定本地端口”一栏中输入11434，然后点击“下一步”。
• 选择“允许连接”，点击“下一步”。
• 根据需求选择应用的网络类型（域、专用或公用），点击“下一步”。
• 为这条规则命名（如“Allow Ollama Port 11434”），然后点击“完成”。

完成上述设置后，Ollama服务应该可以通过局域网中的其他设备访问。

二、Ollama的外网配置

1. 安装Cpolar

要实现Ollama的外网访问，可以使用Cpolar进行内网穿透。首先，从Cpolar的官方网站注册一个账号，并下载最新版本的Cpolar安装程序。安装完成后，使用Cpolar账号登录。

2. 配置Cpolar隧道

登录Cpolar后，在Web配置界面中创建一个新的隧道。具体步骤如下：

• 登录Cpolar的Web UI管理界面。
• 点击左侧仪表盘的“隧道管理”——“创建隧道”。
• 填写隧道名称（可自定义），选择协议，并设置本地地址为Ollama服务的端口（例如11434）。
• 选择域名类型为二级子域名，并设置地区为中国VIP。
• 复制并保留生成的二级子域名。

3. 配置Ollama服务

在Windows上，还需要配置Ollama服务以支持外网访问。具体步骤如下：

• 点击“控制面板”，进入编辑系统环境变量。
• 在系统变量下新建名为OLLAMA_ORIGINS的环境变量，值为*。
• 确保OLLAMA_HOST环境变量的值仍为0.0.0.0。
• 重启Ollama服务。

4. 测试外网访问

完成上述配置后，可以通过Cpolar生成的公网地址访问Ollama服务。在浏览器中输入公网地址和端口号（如http://<cpolar生成的二级子域名>:11434），如果服务成功启动，页面应显示Ollama API的相关信息。

三、应用场景与注意事项

Ollama的配置完成后，可以应用于多种场景，如本地AI开发、团队协作、远程访问等。在使用过程中，需要注意以下几点：

• 确保Windows系统的防火墙设置正确，以允许Ollama服务的访问。
• 定期更新Ollama和Cpolar到最新版本，以确保安全性和稳定性。
• 在使用Cpolar进行外网访问时，需要遵守相关法律法规和隐私政策。

综上所述，通过详细的步骤和示例，本文介绍了在Windows系统上如何配置Ollama以实现本地及外网访问。希望本文能为AI开发者和爱好者提供实用指南和参考。