Ollama在Docker下的安装与配置详细教程

1. 前提条件

在开始之前，请确保您的系统满足以下要求： - 已安装Docker（版本20.10.0或更高） - 具有足够的硬件资源（建议至少4GB RAM） - 操作系统支持（Linux/macOS/Windows）

2. 安装步骤

2.1 拉取Ollama Docker镜像

docker pull ollama/ollama

2.2 运行Ollama容器

基本运行命令：

docker run -d --name ollama -p 11434:11434 ollama/ollama

推荐的生产环境配置（包含数据持久化和GPU支持）：

docker run -d \
  --name ollama \
  --gpus all \
  -v ollama_data:/root/.ollama \
  -p 11434:11434 \
  ollama/ollama

2.3 验证安装

检查容器是否正常运行：

docker ps

查看日志：

docker logs ollama

3. 配置选项

3.1 数据持久化

为了确保模型数据在容器重启后不丢失，建议挂载数据卷：

docker run -d \
  --name ollama \
  -v ollama_data:/root/.ollama \
  -p 11434:11434 \
  ollama/ollama

3.2 GPU支持

如果您的系统有NVIDIA GPU，可以启用GPU加速：

docker run -d \
  --name ollama \
  --gpus all \
  -v ollama_data:/root/.ollama \
  -p 11434:11434 \
  ollama/ollama

3.3 环境变量配置

可以通过环境变量配置Ollama：

docker run -d \
  --name ollama \
  -e OLLAMA_HOST=0.0.0.0 \
  -e OLLAMA_MODELS=/path/to/models \
  -v ollama_data:/root/.ollama \
  -p 11434:11434 \
  ollama/ollama

4. 使用Ollama

4.1 拉取模型

docker exec ollama ollama pull llama2

4.2 运行模型

docker exec ollama ollama run llama2

4.3 通过API访问

Ollama提供REST API，可以通过以下方式访问：

curl http://localhost:11434/api/generate -d '{
  "model": "llama2",
  "prompt":"Why is the sky blue?"
}'

5. 常见问题解决

5.1 端口冲突

如果11434端口已被占用，可以修改映射端口：

docker run -d --name ollama -p 11435:11434 ollama/ollama

5.2 权限问题

如果遇到权限错误，可以尝试：

docker run -d --name ollama -p 11434:11434 --user $(id -u):$(id -g) -v ollama_data:/root/.ollama ollama/ollama

5.3 内存不足

对于大型模型，可能需要增加Docker内存限制： - 在Docker Desktop设置中调整资源限制 - 或使用--memory参数：

docker run -d --name ollama -p 11434:11434 --memory 8g ollama/ollama

6. 更新与维护

6.1 更新Ollama

docker pull ollama/ollama
docker stop ollama
docker rm ollama
# 然后使用之前的run命令重新创建容器

6.2 备份模型数据

docker run --rm --volumes-from ollama -v $(pwd):/backup busybox tar cvf /backup/ollama_backup.tar /root/.ollama

6.3 恢复数据

docker run --rm --volumes-from ollama -v $(pwd):/backup busybox tar xvf /backup/ollama_backup.tar

通过以上步骤，您应该已经成功在Docker环境中安装并配置了Ollama。根据您的具体需求，可以调整配置参数以获得最佳性能。