MMDiT 新架构,文字渲染与指令跟随大幅提升
模型介绍
Stable Diffusion 3 是 Stability AI 基于多模态扩散 Transformer(MMDiT)架构的新一代文生图模型。文本与图像在独立注意力路径中并行处理再融合语义,因此相比 SDXL 在图片内文字渲染、多物体关系与复杂指令跟随上大幅提升。SD3 Medium 仅 2B 参数,12GB 显卡即可本地部署;SD3.5 Large(8B)与 Large Turbo(8B,蒸馏快速版)进一步拉高画质与速度,是 SD 生态向新架构升级的主力选择。
模型基本信息
开发机构Stability AI
模型版本SD3 Medium / SD3.5 Large
参数规模SD3 Medium 2B / SD3.5 Large 8B
模型类型文生图多模态扩散 Transformer(MMDiT)
许可证Stability AI 社区许可(HF 标 license:other)
上下文长度N/A(图像,原生 1024×1024)
发布日期2024-05-30(SD3 Medium,HF createdAt)
模型架构MMDiT(文本/图像双注意力路径)+ T5-XXL 与双 CLIP 文本编码
模型能力
中文能力中
英文能力很强
代码能力N/A
推理能力N/A
长文本能力N/A
视觉能力很强(图像生成)
工具调用N/A
模型版本
SD3 Medium2BSD3.5 Large8BSD3.5 Large Turbo8B(蒸馏快速版)
模型获取
部署方式
DiffusersComfyUISD.NextAutomatic1111 WebUI(插件)
显存需求
SD3 Medium FP16约8-12GB
SD3.5 Large FP16约20-24GB(量化可降至约12-16GB)
硬件推荐
RTX 3060Medium 可跑(低显存模式/量化)
RTX 3090Medium 流畅;Large 需量化
RTX 4090Medium 极速,Large 可行
RTX 5090Large 流畅运行
Mac32GB+ 统一内存可跑 Medium
推荐配置
入门RTX 3060/4060 16G + SD3 Medium(约8-12GB)
进阶RTX 4090 + SD3.5 Large(约20GB+ 或量化)
专业A100 80G + SD3.5 Large 批量出图
为什么选择这个模型
- 文字渲染强:图片中的文字清晰准确,告别乱码
- 指令跟随好:多物体与复杂提示词理解力显著增强
- MMDiT 架构:文本图像双通道,语义融合更自然
- Medium 版轻量:2B 参数,12GB 显卡即可本地跑
模型优点
- 图片内文字与排版渲染准确
- 复杂多物体构图理解强
- Medium 版部署门槛低
- SD3.5 Large 画质进一步提升
- 新架构后续生态潜力大
模型缺点
- SD3 社区许可商用有门槛(需 Stability AI 订阅)
- 生态与 LoRA 数量仍少于 SDXL
- Large 版 8B 参数显存要求高
- 发布初期有内容生成失败/安全裁剪的争议历史
适合场景
- 图片内文字渲染(海报、标题字体)
- 复杂指令与多物体场景创作
- SD 生态进阶升级用户
- 中等显存显卡本地部署
不适合场景
- 需要海量社区 LoRA 风格的用户
- 严格 Apache/MIT 商用要求的项目
- 8GB 以下显存的低配机器(Large)
- 完全免费商用诉求(社区许可限制)
部署教程
vLLM
图像模型一般不用 vLLM,推荐 ComfyUI(已原生支持 SD3/SD3.5):将 SD3 Medium 的 safetensors + T5/CLIP 文本编码器放入对应 models 目录,套用官方工作流即可;或用 Diffusers:pip install diffusers && from diffusers import StableDiffusion3Pipeline 加载
智算工坊实验室
实测速度SD3 Medium 1024×1024 约6s(RTX 4090,28步);SD3.5 Large 约10s(40步)
显存占用Medium 约8-12GB;Large 约20-24GB(fp16)
功耗整机约350W
不同 GPU 对比Medium 12GB 卡可跑;Large 需 24GB 或量化
常见问题 FAQ
SD3 和 SDXL 怎么选?
追求文字渲染与指令跟随选 SD3;需要海量社区 LoRA 与生态兼容选 SDXL。
SD3 的显存要求?
Medium 版 8~12GB 可跑;Large 版推荐 24GB,量化后 16GB 也能运行。
SD3 可以自由商用吗?
SD3/SD3.5 采用 Stability AI 社区许可:年收入低于100万美元可免费商用,否则需订阅 Stability AI 会员授权。
相关模型
相关工具
相关硬件
相关文章
数据来源
- https://huggingface.co/stabilityai/stable-diffusion-3-medium
- https://modelscope.cn/models/AI-ModelScope/stable-diffusion-3-medium
- https://huggingface.co/stabilityai/stable-diffusion-3.5-large
- https://stability.ai/