针对ai，7900xtx和5070ti怎么选？

这不是一篇云评测。全部数据来自同一台 Ubuntu + ROCm 7.2.4 + 7900 XTX 24GB 主机的真实踩坑和实测。 如果你正在纠结”4000 块买不买 A 卡跑 AI”、”怎么搭环境”、”能跑什么模型”——这篇全给你讲清楚。

零、为什么会有这篇文章

过去一周，我在同一台 7900 XTX 主机上跑完了三件事：

1. LLM 推理：llama.cpp + ROCm 跑 Qwen3.6-27B，测了四组参数矩阵，找到甜点配置
2. ComfyUI 生图：Flux1.dev-fp8 vs Flux2 Klein 4B 横评，一个完整的 1024 文生图烟测
3. LTX 视频生成：压力测试从 5 秒跑到 13 秒，触发了 swap thrashing，找到了最大稳定时长

这三条路线不是孤立的。它们共用同一张 24GB 显存、同一个 ROCm 环境、同一台 31GB 内存的机器。做这些测试的目标只有一个：2026 年，7900 XTX 能撑起一个本地 AI 内容生产环境吗？

答案是：能，而且性价比极高。 但每一条路线都有坑，我帮你全踩了一遍。

第一章：选购篇——二手 4000 还是全新 6000？

1.1 为什么是 7900 XTX？

跑本地 AI，显存是第一瓶颈。Qwen3.6-27B Q4_K_M 量化后约 16GB，加上上下文约 18.75GB。Flux2 Klein 4B 峰值约 16.9GB。24GB 显存才算真正够用。

目前消费级 24GB 显存的卡，屈指可数：

同显存容量，7900 XTX 二手只要 4090 的四分之一。

1.2 二手 4000 元值不值？

值。毫无悬念。

7900 XTX 不是矿卡重灾区（主流矿卡是 30 系），发热量大但正常使用的卡成色普遍不错。只要注意：

• 优先买公版或大牌非公（蓝宝石 Nitro+、华硕 TUF）
• 要求卖家提供 GPUBURN 烤机 10 分钟视频
• 问清购买渠道和使用时长
• 闲鱼防骗：视频验货、走平台

1.3 全新 6000 元值不值？

值，但要确认你的场景。

值得全新的情况：

• 长期主力机器，需要质保（一般 3 年）
• 工作室/创作工作室，稳定性优先
• 预算有弹性

1.4 横向对比总表

1.5 一句话选购建议

二手 4000 元是目前 24GB 显存段性价比最高的选择，没有之一。

第二章：环境搭建篇——Ubuntu + ROCm 7.2 从零开始

2.1 硬件配置（本文所有测试均基于此）

2.2 安装 ROCm

# 安装 ROCm 7.2.4
# 注意：必须把用户加入 render 和 video 组！
sudo usermod -aG render $USER
sudo usermod -aG video $USER
# 然后重新登录（logout → login），不是重启

# 验证
rocminfo
# 输出：Name: gfx1100 / Marketing Name: Radeon RX 7900 XTX

rocm-smi
# ROCm version: 7.2.4

⚠️ 最高频卡点：装完 ROCm 忘记加用户组，所有工具报权限错误。论坛里一半的求助帖是这个问题。

2.3 安装 llma.cpp（ROCm 后端）

git clone https://github.com/ggml-org/llama.cpp
cd llama.cpp

cmake -DGGML_HIP=ON -DCMAKE_BUILD_TYPE=Release ..
make -j$(nproc)

关键二进制：

• build-rocm/bin/llama-cli（命令行推理）
• build-rocm/bin/llama-server（API 服务）
• build-rocm/bin/llama-bench（性能测试）

2.4 安装 ComfyUI

git clone https://github.com/comfyanonymous/ComfyUI
cd ComfyUI
python3 -m venv venv
source venv/bin/activate
pip install -r requirements.txt

推荐启动参数（实测稳定）：

python main.py \
  --listen 0.0.0.0 \
  --port 8188 \
  --disable-async-offload \
  --force-upcast-attention \
  --preview-method none

⚠️ 不要加 –lowvram，否则 CLIP 会降级到 CPU，速度雪崩。 ⚠️ 显存溢出可能导致 Ubuntu 桌面崩溃（GDM 被杀），建议在 SSH 或 tty 模式下跑。

2.5 模型下载

HuggingFace 直连常常超时，推荐使用镜像站：

export HF_ENDPOINT=https://hf-mirror.com
huggingface-cli download froggeric/Qwen3.6-27B-MTP-GGUF --local-dir /home/xin/models/

镜像站速度实测稳定在 43-44 MB/s。

第三章：LLM 推理篇——Qwen3.6-27B + llama.cpp + ROCm 实战

3.1 模型选择

最终选择的模型：

选择 Q4_K_M 的原因：24GB 显存下 Q4_K_M 完全进显存（~18.75GB），还剩约 5.8GB。更高精度会超显存，更低精度影响质量。

3.2 四组参数矩阵测试

测试了四组配置，覆盖短对话和长文档场景：

核心发现：

1. 32K 不够用。 一篇 38037 token 的长文档直接报错。日常多轮对话、Agent 调用很容易超。建议直接上 64K。

2. 64K + draft=2 是最佳默认配置。 短对话保持 44 t/s，长文档也能正常处理，显存还剩 ~5.8GB。

3. draft=3 适合特定场景。 长文档生成飙到 54.5 t/s，但短对话降到 38.5 t/s。适合长文档分析、结构化输出、Agent 工具调用。

4. 调 batch size 没用。 -b 2048 -ub 512 在当前配置下没有收益。

3.3 基准测试（不开 MTP）

llama-bench -m Qwen3.6-27B-Q4_K_M-mtp.gguf -ngl 99 -p 512 -n 128 -ctk q4_0 -ctv q4_0 -fa on -r 3

结果：

• Prefill: 936.90 ± 37.33 t/s（极快）
• Decode: 28.58 ± 0.04 t/s（偏慢）

开启 MTP（draft=2）后 decode 提升到约 38-44 t/s，提速约 36-54%。

3.4 推荐启动配置（API 服务）

llama-server \
  -m /home/xin/models/Qwen3.6-27B-Q4_K_M-mtp.gguf \
  --host 0.0.0.0 \
  --port 8080 \
  -ngl 99 \
  -c 65536 \
  -np 1 \
  -ctk q4_0 \
  -ctv q4_0 \
  -fa on \
  --spec-type draft-mtp \
  --spec-draft-n-max 2 \
  --reasoning off \
  -a qwen36-27b-mtp

启动后通过 http://192.168.0.110:8080/v1 提供 OpenAI 兼容 API，Chatbox、NextChat、LobeChat 均可连接。

⚠️ --reasoning off 一定要加，否则 Qwen3.6 在某些 Agent 请求中会进入长时间 thinking 模式，卡住无响应。

3.5 显存状态

64K / draft=2 运行时：
  TOTAL_VRAM: 24560 MB
  USED_VRAM:  18748 MB  (~76%)
  FREE_VRAM:   5812 MB  (~24%)

模型 + 上下文占约 76% 显存。跑单个模型从容，但不要想同时挂两个大模型。

3.6 7900XTX LLM 推理能力总结

第四章：生图篇——ComfyUI + FLUX2 Klein 4B 实战

4.1 为什么推荐 FLUX2 Klein 4B？

在同一台机器上做了 FLUX1.dev-fp8 和 FLUX2 Klein 4B 的 1024×1024 文生图横评，结论非常清晰：

FLUX2 Klein 4B 比 FLUX1.dev-fp8 速度快一倍，显存还少 4GB。 在 7900 XTX 上毫无疑问是最值得作为主力生图方案的选择。

4.2 模型文件

Flux2 Klein 4B 使用拆分模型（不是单 checkpoint）：

4.3 工作流（与 FLUX1 不同，不能照搬）

Flux2 Klein 4B 走拆分模型路线，不能用 CheckpointLoaderSimple：

UNETLoader(diffusion_model)
CLIPLoader(type="flux2")
VAELoader
→ CLIPTextEncode × 2（不要用 CLIPTextEncodeFlux！）
→ EmptyFlux2LatentImage
→ Flux2Scheduler（不要传 model 参数！）
→ KSamplerSelect → RandomNoise → BasicGuider
→ SamplerCustomAdvanced → VAEDecode → SaveImage

两个关键踩坑：

1. 不要用 CLIPTextEncodeFlux。Flux2 Klein 4B 用的是 qwen_3_4b 文本编码器，不是 t5xxl 路线。用 CLIPTextEncodeFlux 会报 KeyError: 't5xxl'。
2. Flux2Scheduler 不要传 model。当前版本 Flux2Scheduler 只接收 steps / width / height，传 model 会报 unexpected keyword argument 'model'。

4.4 速度详解

日常出图按 33-34 秒 计算，1024×1024 的 20 步 euler 采样。同 prompt 换 seed 跑几轮后可以进入缓存状态，但不应作为常规速度认知。

4.5 FLUX1.dev-fp8 对比参考

作为基线保留，但不推荐作为主力：

4.6 下一步横评建议

当前只测了红色机器人 prompt，建议补充三组提示词进一步验证：

人物/写真类：面部、手部、肤色稳定性 产品图类：边缘、材质、商业可用性 室内场景类：复杂光线、多物体关系

4.7 VRAM 占用汇总（所有生图工作流）

第五章：视频生成篇——LTX-2.3 压力测试与内存调试

5.1 为什么选 LTX 不选 Wan？

社区共识（来自 http://lcz.me 抡锤者论坛多位用户）：新手不要碰 Wan，LTX 更快、工作流更多、更容易上手。 Wan 速度极慢，7900 XTX 上体验不佳。

5.2 模型配置

5.3 压力测试方法

编写了 stress_test.py，对 LTX-2.3 做逐级帧数递增测试（544×960，8 steps，Euler）：

121f (5s) → 169f (7s) → 217f (9s) → 241f (10s) → 289f (12s) → 313f (13s)

5.4 测试结果

默认模式下：

–lowvram 模式下：

5.5 根因分析

瓶颈不在显存，在系统内存。

显存: 16.6GB / 25.7GB（64%） ✅  余量充足
内存: 31GB / 31GB（100%）  ❌  全部吃满

LTX-2.3 的 VAE 解码阶段将 latent → pixel 转换时，视频帧数越多，临时内存需求越大。31GB 系统内存成为瓶颈：

第1轮: 内存 15GB → 生成完 20GB（+5GB 碎片）
第2轮: 内存 20GB → 生成完 25GB（+5GB 碎片）
第3轮: 内存 25GB → 生成完 31GB（OOM / swap）

5.6 稳定可用范围

LTX-2.3 @ 544×960，7900XTX + 31GB 系统内存：

5.7 解决方案（已验证）

方案一（推荐）：安装 KJNodes，在 VAE Decode 前插入清理节点

来自 http://lcz.me 论坛 @Xiaote 的实战方案：

LTXV分离音视频潜空间.video_lat
  → UnloadAllModels.value    ← 先卸载前面的模型
  → VAE解码（分块）.Latent

VAE模型
  → VAE解码（分块）.vae

关键：不是每轮生成后清，而是在 VAE Decode 前先卸掉 UNet/CLIP，把显存/内存让给 VAE 解码阶段。

安装方法：

• 下载 comfyui-easy-use（提供清理显存节点）
• 下载 comfyui-unload-model（提供 UnloadAllModels）
• 确保 KJNodes 是最新版（ltxv_nodes.py 第 653 行有已知 bug）

方案二：–lowvram 模式 稳定但慢，适合连续批量任务，不适合追求速度的单次任务。

方案三：每次生成后重启 ComfyUI 最彻底，但最慢。适合偶尔跑长视频。

5.8 各方案对比

5.9 LTX 其余工作流的显存占用

5.10 提速建议

1. 降低分辨率：960×544 比 896×1280 快数倍，后期放大效果一样好
2. CLIP 放 CPU：如果显存紧张（如数字人），CLIP 放 device=cpu 可省 ~6.8GB
3. 关闭桌面环境：SSH/tty 模式跑，避免显存溢出导致桌面崩溃
4. 系统内存 ≥64GB：当前 31GB 是短板，升级到 64GB 后表现会大幅改善

第六章：7900XTX 本地 AI 能力总表

6.1 工作流全量 VRAM 参考

6.2 性能总结

6.3 系统瓶颈分析

这个测试过程中最大的意外是：最大的瓶颈不是显存（24GB），而是系统内存（31GB）。

• LLM 推理：64K 上下文用了 18.75GB 显存，系统内存无压力 ✅
• ComfyUI 生图：峰值 16.9GB，系统内存无压力 ✅
• LTX 视频生成：VAE 解码阶段系统内存爆满，31GB 成为瓶颈 ❌

如果你要玩生视频，建议系统内存 ≥64GB。

第七章：踩坑清单（帮你省时间）

ROCm 相关

llma.cpp 相关

ComfyUI 相关

LTX 视频相关

第八章：谁该买 7900 XTX？最终建议

✅ 适合买的人

• 预算有限，想要 24GB 大显存跑本地 AI
• 能接受 Linux 系统（其实 Ubuntu 没那么可怕）
• 主要做推理（LLM 对话、生图、短视频生成），不做大规模训练
• 对数据隐私有要求，不想把数据送上云端
• 愿意花半天时间搭环境（一劳永逸）

❌ 不适合的人

• 只想 Windows 下开箱即用 → 买 N 卡
• 需要跑 PyTorch 训练/微调 → ROCm 训练生态不如 CUDA
• 零耐心折腾驱动 → 直接用云端 API，省心省力
• 需要同时跑两个大模型 → 24GB 显存不够分，考虑双卡

一句话总结

7900 XTX 二手 4000 元，跑 LLM 推理 44 t/s 流畅、ComfyUI 生图 33s 出片、LTX 视频 7s 稳定可用——这是 2026 年 24GB 显存段性价比最高的本地 AI 方案，没有之一。
你不是在为生态买单，你是在为显存容量买单。而省下的那一万块，足够再买两张 7900 XTX。