UNIMO-G是一个简单的多模态条件扩散框架,用于处理交错的文本和视觉输入。它包括两个核心组件:用于编码多模态提示的多模态大语言模型(MLLM)和用于基于编码的多模态输入生成图像的条件去噪扩散网络。我们利用两阶段训练策略来有效地训练该框架:首先在大规模文本-图像对上进行预训练,以开发条件图像生成能力,然后使用多模态提示进行指导调整,以实现统一图像生成能力。我们采用了精心设计的数据处理流程,包括语言接地和图像分割,用于构建多模态提示。UNIMO-G在文本到图像生成和零样本主题驱动合成方面表现出色,并且在生成涉及多个图像实体的复杂多模态提示的高保真图像方面非常有效。
数据统计
相关导航
暂无评论...