阿里云服务器如何过户 一、前提准备服务器已安装 Docker 引擎(建议版本 20.10+)。已通过 Docker 成功部署 Ollama(未部署可先执行 docker run -d -v ollama:/root/.ollam···
阿里云服务器如何过户
一、前提准备
服务器已安装 Docker 引擎(建议版本 20.10+)。已通过 Docker 成功部署 Ollama(未部署可先执行 docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama 快速部署)。服务器具备基础命令行操作权限(root 或 sudo 权限)。二、核心实现原理 Docker
国内的云服务器有哪些
自带容器重启策略,通过配置 --restart 参数或 docker-compose 中的 restart 字段,可让 Ollama 容器在服务器重启、Docker 服务重启或容器意外停止时自动启动。
核心策略优先级:always > unless-stopped > on-failure,推荐使用 unless-stopped(除非手动停止容器,否则均自动重启)。
三、两种自动启动配置方案
方案 1:已创建 Ollama 容器(修改现有容器配置)
先停止当前 Ollama 容器:docker stop ollama。修改容器重启策略:docker update --restart unless-stopped ollama。重启容器使配置生效:docker start ollama。方案 2:未创建 Ollama 容器(创建时直接配置)
服务器阿里云国际
执行带重启策略的部署命令,一次性完成容器创建和自动启动配置,说明:--restart unless-stopped 是核心配置,确保服务器重启后容器自动拉起。
docker run -d -v ollama:/root/.ollama -p11434:11434 --name ollama --restartunless-stopped ollama/ollama四、Docker Compose 方案(重点推荐,更易维护)
新建 docker-compose.yml 文件:vim docker-compose.yml。写入以下配置,此配置我一直在使用(可直接复制):services: ollama:image: ollama/ollama:latest 使用官方最新镜像 [1,5](@ref)container_name: ollama_gpu 为容器指定一个明确的名称,便于管理 [4,5](@ref)ports:-"11434:11434" 将容器内部的 11434 端口(Ollama API 端口)映射到宿主机的同一端口 [1,2,4,5](@ref)environment:-OLLAMA_HOST=0.0.0.0:11434 可选:明确指定服务监听地址 [5](@ref)- CUDA_VISIBLE_DEVICES=0,1 可选:如果需要指定使用哪几块GPU,取消注释并修改设备ID [1](@ref)volumes:核心配置:将宿主机的目录挂载到容器内,实现模型持久化-/mnt/data/ollama_model:/root/.ollama 请确保宿主机路径 /mnt/data/ollama_model 存在且有权访问 [1,5](@ref)deploy: 关键配置:声明GPU资源预留 [1,3,5,6](@ref)resources:reservations:devices:-driver: nvidia 使用NVIDIA驱动 [2,5,6](@ref)count: all 使用所有可用的GPU [1,3,6,8](@ref);可改为具体数字(如1)或使用device_ids指定特定GPU [6](@ref)capabilities: [gpu] 申请GPU能力 [1,2,4,5,6](@ref)restart: unless-stopped 关键配置:确保容器自动重启 [5](@ref)3.启动容器:docker-compose up -d(后续重启服务器后无需额外操作,容器自动启动)。
五、验证自动启动是否生效
手动重启服务器:reboot(或通过云服务器控制台重启)。
云南代理服务器云服务器
您好:云优数据云计算 www.yunyoushuju.cn 2核2G6M最低19.9元/月 欢迎开机

发表评论
最近发表
标签列表