# MOSS-Image-heal base(训练底模)
把 [KBlueLeaf/MOSS-Image-heal](https://huggingface.co/KBlueLeaf/MOSS-Image-heal) 的 transformer 权重,
装进 [openmoss/MOSS-Image-Base](https://www.modelscope.cn/models/openmoss/MOSS-Image-Base) 的完整
diffusers 结构里,得到一个**可以直接当 MOSS-Image LoRA 训练底模**的仓库。
## 它是什么 / 不是什么
| | 说明 |
|---|---|
| transformer | heal 的权重(对 Base 做全量微调,修复了残差流离群:峰值 58,411 → 3,083,RMS 降 7.5×) |
| vae / text_encoder / tokenizer / scheduler / pipeline | 官方 MOSS-Image-Base 原件,逐字节未改 |
| 与 MOSS-Image-SFT 的关系 | 组件相同,transformer 不同:SFT 是官方后训练版,本仓库是社区 heal 版(数值更稳,画质取向偏 danbooru) |
heal 与官方权重的 transformer 键名完全一致(463 个张量、5.082B 参数),所以**在任一版本上训的 LoRA 结构上都能互换**。
## 用法
```python
import torch
from diffusers import DiffusionPipeline
pipe = DiffusionPipeline.from_pretrained(
"kcone1/MOSS-Image-heal-base",
custom_pipeline="pipeline_moss_image",
trust_remote_code=True,
torch_dtype={"default": torch.bfloat16, "vae": torch.float32},
)
pipe.scheduler = type(pipe.scheduler).from_config(pipe.scheduler.config)
pipe.to("cuda")
prompt = "a wide view of a kitchen counter with a fruit bowl"
image = pipe(prompt, height=1024, width=1024,
num_inference_steps=50, guidance_scale=3.0,
uncond_skip_layers=[22],
generator=torch.Generator("cpu").manual_seed(42)).images[0]
image.save("out.png")
```
**推荐采样参数**:50 步 / CFG 3 / shift 5 / `uncond_skip_layers=[22]` / 空负向 / VAE fp32。
heal 的 README 示例用 16 步 CFG 3 也能出图,但先按 50 步确认底模正常。
需要 `diffusers >= 0.38`、`transformers >= 5.3`(`Qwen3_5Model`)。
## 目录结构
```
model_index.json MOSSImagePipeline
pipeline_moss_image.py MOSSImagePipeline / MOSSImageScheduler / MOSSImageTransformer
transformer/ 3 分片,463 张量(heal 权重)
text_encoder/ Qwen3_5Model,4 分片
tokenizer/ scheduler/ vae/
```
## 许可
权重与推理代码遵循 Apache-2.0(与官方 MOSS-Image 一致)。heal 权重由 KBlueLeaf 训练并发布。
