使用docker安装ollama及ollama拉取模型的总结

工欲善其事&必先利其器

墨衍会员 · AI 创作全网分发码龄9年

关注

原创最新推荐文章于 2026-10-19 15:22:00 发布 790 阅读 AI 写同款· GEO 优化 ›

【AI】在docker中部署ollama体验AI模型在docker中部署ollama体验AI模型。阅读详情

文章目录

创建ollama容器
查看ollama容器是否已UP
进入容器内，拉取模型

创建ollama容器

docker run -d \
  --name ollama \
  --restart always \
  -p 11434:11434 \
  -v ollama:/root/.ollama \
  ollama/ollama

查看ollama容器是否已UP

[root@localserver models]# docker ps | grep ollama
257d3ct479ee   ollama/ollama                               "/bin/ollama serve"       40 minutes ago   Up 40 minutes                0.0.0.0:11434->11434/tcp, :::11434->11434/tcp                                  ollama

进入容器内，拉取模型

#进入容器内
docker exec -it ollama /bin/bash
#拉取模型(若没有此模型则会自动拉取)，并以打开与模型的交互模型
ollama run tinyllama:latest
#拉取模型(不会自动进入和模型的交互模型)
ollama pull tinyllama:latest

如下演示：
在这里插入图片描述
注意：ollama run tinyllama:latest 只是打开了一个和模型的交互式模式，并不是说启动了模型。