Skip to content

Ollama for rx580显卡windows环境部署

ollama-for-amd-rx580显卡windows环境下部署教程

博主配置

cpu: Intel(R) Xeon(R) CPU E3-1246 v3 @ 3.50GHz

显卡:Rx580 魔改16G (AMD Radeon RX 580 2048SP )

内存:16G

硬盘: Fanxiang S500 256GB

系统:windows10-22h专业版

安装windows环境的rx580驱动

访问 https://www.amd.com/zh-cn/support/download/drivers.html ,下载并安装 Alt text

下载ollama

要在 AMD RX 580 显卡上成功运行 Ollama,你需要进行一些特殊的配置,因为官方版本的 Ollama 主要针对 NVIDIA 显卡(CUDA)或苹果芯片优化,对 AMD 显卡(ROCm)的支持需要手动调整。 RX 580(代号 gfx803)属于较老的架构,最新的 ROCm 版本已经不再支持它,因此必须使用特定的旧版本软件。

组件 必须使用的版本 说明
Ollama 主程序 v0.3.2 或 v0.5.4 推荐 v0.3.2 稳定性较好;若用 v0.5.4 需配合 ROCm 5.7
ROCm 库版本 ROCm 5.7 最新版(如 6.x)已移除对 RX 580 的支持
显卡驱动 AMD Adrenalin 24.9.1 或最新版 旧版驱动可能导致 DLL 丢失或无法调用显存

访问 https://github.com/likelovewant/ollama-for-amd/releases ,下载v0.5.4版本 https://github.com/likelovewant/ollama-for-amd/releases/download/v0.5.4/ollama-windows-amd64-rocm5.7-v2.7z

配置到环境变量可在任意终端位置使用命令:

#启动命令
ollama serve
#查看模型
ollama list
...

替换 ROCm 库文件(关键步骤)

这是让 RX 580 能跑起来的核心。因为 RX 580 对应的代号是 gfx803,你需要用 ROCm 5.7 的文件替换掉原目录下的文件: 下载 ROCm 5.7 的库文件(通常包含 rocblas.dll 和 library 文件夹)。 找到 Ollama 的安装目录。

复制 rocblas.dll 到 Ollama\lib\ollama 目录下进行替换。

复制 library 文件夹 到 Ollama\lib\ollama\rocblas 目录下(注意:替换前建议删除该目录下原有的 library 文件夹内容)。

这是一个专门针对老款 AMD 显卡(包括 RX 580)维护的库文件项目。 访问下载页面: 打开浏览器访问 GitHub 的这个发布页面: https://github.com/likelovewant/ROCmLibs-for-gfx1103-AMD780M-APU/releases/tag/v0.5.7

查找并下载文件:
在页面下方的 Assets 列表中,寻找包含 gfx803 字样的压缩包。通常有两个选择,推荐下载第一个:
推荐: rocblas.for.gfx803.override.with.vega10.7z (这是目前最通用的 RX 580 补丁)
备选: rocm.gfx803.optic.test.version.7z (这个版本修复了某些内存报错,如果上面那个不行,再试这个)

配置环境变量(重要)

设置环境变量

# 修改模型存放路径,例如存放到D盘
OLLAMA_MODELS=D:\Ollama\Models
# 允许局域网下访问(不对外开放访问可跳过)
OLLAMA_HOST=0.0.0.0:11434

Alt text

注意:环境变量需要关闭ollama服务、终端,再打开才会生效

设置防火墙(不对外开放访问可跳过)

关闭/增加全部tcp端口入站、出站

使用模型

下载模型

ollama pull xxx

运行

ollama run deepseek-r1:1.5b

Alt text

对外访问

搭建并使用open-webui,部署好后需要在 管理员面板>设置>外部连接>Ollama API 中配置ollama服务地址 ,例如:http://hongkong.gpg123.vip:11434