魔搭社区上线MOSS-Image推理训练与量化加速工具

某开源社区 2026-10-25 18:10 浙江

围绕图像生成模型MOSS-Image，相关社区提供了多维度工具支持，覆盖在线与本地、基础功能与定制扩展等多个场景。

模型发布概况

10月16日，开源团队OpenMOSS推出图像生成模型MOSS-Image，同步发布Base和SFT两个版本。该模型采用5B参数的DiT主干，支持最长4096 Token的文本条件输入与结构化JSON布局控制，可满足中英文文字渲染和复杂版面生成需求。

多场景工具支持

围绕该模型，相关社区开放了在线推理与LoRA训练功能，开发者可通过在线平台体验模型能力并开展微调。同时，某开发团队推出了本地推理与训练工具，配套提供了EntroPack量化、Pipeline编译加速及OPD蒸馏LoRA等技术方案，适配不同使用场景的需求。

降低显存需求的量化方案

针对部署时的显存占用问题，相关社区基于通用量化框架推出了多精度模型版本：最低3.5 bit的量化模型仅需4GB显存即可运行，6 bit与7 bit的量化模型在生成质量上与非量化版本基本一致，还能获得INT8推理加速的优势，兼顾部署成本与生成效果。

高效的推理加速技术

为缩短生成耗时，采用两类优化思路：一是通过量化计算减少单步运算量，基于INT8量化后端和编译技术可实现近两倍推理速度提升；二是通过蒸馏训练减少采样步数，利用On-Policy Distillation技术训练的LoRA模型，仅需8步推理就能达到原模型50步的生成效果，大幅提升生成效率。

本地部署支持

为满足本地部署、模型微调及工作流集成需求，某开发团队提供了完整的本地推理和训练工具，开发者可通过对应文档获取使用指南，灵活适配本地开发场景。

社区能力扩展

除基础文生图功能外，社区开发者还通过LoRA技术扩展了模型应用范围。例如，有开发者推出了图像编辑模型，将原本仅支持文生图的模型扩展到图像编辑等定制任务中，丰富了模型的使用场景。

模型资源获取

相关模型资源可通过对应平台获取，涵盖官方模型、量化模型、加速LoRA模型及编辑模型等，开发者可根据自身需求选择适配版本。

MOSS-Image是极具潜力的图像生成模型，相关社区欢迎更多开发者参与探索，共同推动图像生成技术的发展。