Ollama for rx580显卡windows环境部署
ollama-for-amd-rx580显卡windows环境下部署教程¶
博主配置¶
cpu: Intel(R) Xeon(R) CPU E3-1246 v3 @ 3.50GHz
显卡:Rx580 魔改16G (AMD Radeon RX 580 2048SP )
内存:16G
硬盘: Fanxiang S500 256GB
系统:windows10-22h专业版
安装windows环境的rx580驱动¶
访问 https://www.amd.com/zh-cn/support/download/drivers.html ,下载并安装
下载ollama¶
要在 AMD RX 580 显卡上成功运行 Ollama,你需要进行一些特殊的配置,因为官方版本的 Ollama 主要针对 NVIDIA 显卡(CUDA)或苹果芯片优化,对 AMD 显卡(ROCm)的支持需要手动调整。 RX 580(代号 gfx803)属于较老的架构,最新的 ROCm 版本已经不再支持它,因此必须使用特定的旧版本软件。
| 组件 | 必须使用的版本 | 说明 |
|---|---|---|
| Ollama 主程序 | v0.3.2 或 v0.5.4 | 推荐 v0.3.2 稳定性较好;若用 v0.5.4 需配合 ROCm 5.7 |
| ROCm 库版本 | ROCm 5.7 | 最新版(如 6.x)已移除对 RX 580 的支持 |
| 显卡驱动 | AMD Adrenalin 24.9.1 或最新版 | 旧版驱动可能导致 DLL 丢失或无法调用显存 |
访问 https://github.com/likelovewant/ollama-for-amd/releases ,下载v0.5.4版本 https://github.com/likelovewant/ollama-for-amd/releases/download/v0.5.4/ollama-windows-amd64-rocm5.7-v2.7z
配置到环境变量可在任意终端位置使用命令:
#启动命令
ollama serve
#查看模型
ollama list
...
替换 ROCm 库文件(关键步骤)¶
这是让 RX 580 能跑起来的核心。因为 RX 580 对应的代号是 gfx803,你需要用 ROCm 5.7 的文件替换掉原目录下的文件: 下载 ROCm 5.7 的库文件(通常包含 rocblas.dll 和 library 文件夹)。 找到 Ollama 的安装目录。
复制 rocblas.dll 到 Ollama\lib\ollama 目录下进行替换。
复制 library 文件夹 到 Ollama\lib\ollama\rocblas 目录下(注意:替换前建议删除该目录下原有的 library 文件夹内容)。
这是一个专门针对老款 AMD 显卡(包括 RX 580)维护的库文件项目。 访问下载页面: 打开浏览器访问 GitHub 的这个发布页面: https://github.com/likelovewant/ROCmLibs-for-gfx1103-AMD780M-APU/releases/tag/v0.5.7
查找并下载文件:
在页面下方的 Assets 列表中,寻找包含 gfx803 字样的压缩包。通常有两个选择,推荐下载第一个:
推荐: rocblas.for.gfx803.override.with.vega10.7z (这是目前最通用的 RX 580 补丁)
备选: rocm.gfx803.optic.test.version.7z (这个版本修复了某些内存报错,如果上面那个不行,再试这个)
配置环境变量(重要)¶
设置环境变量
# 修改模型存放路径,例如存放到D盘
OLLAMA_MODELS=D:\Ollama\Models
# 允许局域网下访问(不对外开放访问可跳过)
OLLAMA_HOST=0.0.0.0:11434
注意:环境变量需要关闭ollama服务、终端,再打开才会生效
设置防火墙(不对外开放访问可跳过)¶
关闭/增加全部tcp端口入站、出站
使用模型¶
下载模型
ollama pull xxx
运行
ollama run deepseek-r1:1.5b
对外访问¶
搭建并使用open-webui,部署好后需要在 管理员面板>设置>外部连接>Ollama API 中配置ollama服务地址 ,例如:http://hongkong.gpg123.vip:11434