跳到正文
Hugging Face 社区博客·· 2026-05-08AI 评分58

MedQA:基于AMD ROCm与LoRA微调Qwen3-1.7B的临床问答模型

MedQA: Fine-Tuning a Clinical AI on AMD ROCm — No CUDA Required

AI 导读

该项目使用AMD Instinct MI300X(192 GB HBM3显存)和ROCm,通过LoRA微调Qwen3-1.7B模型实现医学问答。训练仅用2000条MedMCQA样本,约5分钟完成,仅更新约220万参数(占模型总参数的0.1443%),全程采用fp16精度,无需量化。HuggingFace生态(Transformers、PEFT、TRL、Accelerate)在ROCm上无缝运行,无需修改代码即可直接替代CUDA。模型已上传至HuggingFace Hub并提供在线Demo。

来源:Hugging Face 社区博客 · huggingface.co