腾讯的PhotoMaker是一款开源工具，利用堆叠ID技术生成逼真的定制人物照片。它可以根据描述生成符合要求的人物形象，并混合多张人物特征，创造全新人物。PhotoMaker还能改变照片中人物的性别和年龄，生成多种风格的照片，效果自然且快速。Github和Huggingface在文章底部
现有的个性化生成方法难以同时实现高效率、身份保真度和灵活文本控制。PhotoMaker通过将多个输入ID图像编码为堆栈式ID嵌入，保留身份信息，全面封装同一ID的特征，并整合不同ID特征，提供更大灵活性。
此外，PhotoMaker提出了一种面向ID的数据构建管道来组装训练数据，展示了优于测试时微调方法的ID保真能力，同时提供显著的速度改进、高质量生成结果、强大泛化能力和广泛应用。
首先从文本编码器和图像编码器获取文本嵌入和图像嵌入，例如结合训练集中的男士头像生成图像嵌入，描述为“一个男士的图像”；结合训练语料生成文本嵌入，描述为“男士带着蓝色帽子”，如“穿着西装，打着领带，翻领上有徽章”。接着，将所有融合的嵌入沿长度维度连接，形成堆叠ID嵌入，类似于使用Concat融合特征。最后，将堆叠ID嵌入提供给交叉关注层，自适应合并扩散模型中的ID内容。尽管训练时使用掩蔽背景的相同ID图像，但推理时可直接输入不同ID图像，无背景失真，创建新ID，即PhotoMaker具备结合背景独立创新图像的能力。更新的PhotoMaker V2仍然保持了PhotoMaker V1的生成质量、可编辑性和对任何插件的兼容性。还提供了与ControlNet、T2I-Adapter和IP-Adapter集成的脚本，以提供出色的控制能力。可以通过文字描述捕捉到单个ID的细微特征，然后实现角色重塑。将艺术品或老照片中的人物带入现实，通过输入艺术画作、雕塑或人物老照片。
PhotoMaker 不仅能够生成逼真的人体照片，而且还允许在保留 ID 属性的同时进行风格化。通过简单地替换类别词（例如男人和女人），PhotoMaker可以在保持原始身份的同时实现性别和年龄的变化。如果用户提供不同ID的图像作为输入，PhotoMaker可以很好地融合不同ID的特征以形成一个新的ID。对于身份混合，PhotoMaker可以通过控制输入图像池中身份图像的百分比或通过提示加权的方法来调整合并率。与其他方法相比，PhotoMaker 可以同时满足高质量和多样化的生成能力、良好的可编辑性、高推理效率和强大的 ID 保真度。https://github.com/TencentARC/PhotoMakerhttps://huggingface.co/spaces/TencentARC/PhotoMaker-V2
立即咨询 JOTO
JOTO 提供覆盖企业智能体规划与搭建、AI 平台私有化部署、RAG 知识工程、AI 安全治理、FDE 驻场共创及持续运营优化的全周期 AI 落地服务，帮助企业把验证中的 AI 能力转化为安全、可控、可持续迭代的生产力。 联系 JOTO 获取 AI 落地咨询
