docker搭建ollama（只用cpu的极简镜像）

作者
139 次阅读

本文最后更新于 2026年4月19日。

官方镜像有1个多G太大了。

对于我来说没有用，我没有独立显卡只用CPU，找到一个很小的镜像，只有几十M。搭建速度很快。

docker搭建ollama的编排

services:
  ollama:
    image: docker.1ms.run/alpine/ollama:0.20.5                # 使用官方最新镜像
    container_name: ollama
    restart: unless-stopped                     # 自动重启策略
    ports:
      - "11434:11434"                          # 映射服务端口
    volumes:
      - /share/dockerdata/ollama:/root/.ollama                 # 持久化模型数据到本地
    environment:
      - OLLAMA_HOST=0.0.0.0:11434             # 允许外部访问
      - OLLAMA_KEEP_ALIVE=30m                  # 模型空闲保留时间
      - OLLAMA_MAX_LOADED_MODELS=3             # 最大并发模型数
      - OLLAMA_MMAP=1                          # 启用内存映射加速

终端运行下面命令下载使用大模型

ollama run gemma3:270m

访问下面地址

ip换成那你自己的ip
http://172.29.206.19:11434

出现ollama is running就是成功了。

openai兼容调用地址

http://10.10.10.2:11434/v1/chat/completions

key随便填就可以