微信扫一扫 分享朋友圈

已有 229 人浏览分享

[Sora培训内容]    Sora如何保持人物不变,如何设计一致性人物

Sora培训内容 2024-2-28 17:57:56229 0
保持人物一致性是一件非常困难的事,但可以做到,我们在用midjourney stablediffsion和chatgpt dalle3文生图的时代已经做到了,我们通过大量的测试和实验得到了经验。

保持人物一致性需要做到3个核心正确

1、完整的人物描述
2、让机器人使用正确的描述
3、引用参考:原始图,种子,genid,和噪音

1、设计完整的人物描述
看过Sora示例的朋友们应该都清楚Sora目前给出的示例都是通过一句话的形式来构成提示词的,比如他说 一个女人,一个非洲女人,就没有其他了。从字面上不难看出一个女人这样的描述是有很大随机性的,她可能高,可能矮,皮肤可能是黑的也可能是白的,当你生成完一个视频,在生成下一个视频的时候你会发现这个人物是不一样的。

从示例中看,我们随机选择了一组文案  一个女人 ,紫色工装裤,帽子,南极洲,落日

Openai Sora-Sora如何保持人物不变,如何设计一致性人物(1)

我们尝试改变一个元素,变化了场景,还是一个女人,紫色工装裤,帽子,孟买,落日
从南极洲,变成了孟买,我们可以看到人物已经不一样了,帽子,衣服,发色,五官,脸型都不一样了。
这时候人物已经发生了很大变化,所以一个女人和紫色工装裤,帽子这样的说法都是完整的,都是随机的

Openai Sora-Sora如何保持人物不变,如何设计一致性人物(2)

我们尝试改变改变另外一个元素,把衣服换一下,一个女人,绿色连衣裙,遮阳帽,孟买,落日

Openai Sora-Sora如何保持人物不变,如何设计一致性人物(3)

换一下,一个女人,牛仔裤和白色T桖,遮阳帽,孟买,落日


Openai Sora-Sora如何保持人物不变,如何设计一致性人物(4)


我们可以看到,我们再只改变服装的情况下人脸还是不一样的,肤色也不一样。总之这不是一个人。
我们注意到Sora的测试操作面板中有这样一个服装描述,牛仔裤和白色T桖 这就是一个相对完整的描述了,我们尝试持续使用这个服装描述来生成视频看看效果。

Openai Sora-Sora如何保持人物不变,如何设计一致性人物(5)

Openai Sora-Sora如何保持人物不变,如何设计一致性人物(6)
Openai Sora-Sora如何保持人物不变,如何设计一致性人物(7)


你会发现不注重细节的情况下服装几乎看不出变化,因为 牛仔裤在现实生活中几乎就是那个颜色,白色T桖,也几乎就是那样的,但也不是百分百。测试多了他还会发生变化。

Openai Sora-Sora如何保持人物不变,如何设计一致性人物(8)

研究结论

我们尝试了更多随机条件它出错了,这时候人物穿上了外套,如果你不要求它它会根据其他条件,变化样式和附加样式。
通过以上的简单测试我们得出一个结论,保证特征一致性的关键问题是完整的特征描述。

这就是我们研究出来的一些经验,这里面有3个问题是需要解决的。

1、设计成你想要的人物外观
2、完整的人物描述
3、让人物保持一致

研究成果

我们使用Openai,他们的dalle3生成漫画时,已经做到了。并且我们设置了一个技巧,当你使用人物名字时,它就会生成同样外观的人物。

Openai Sora-Sora如何保持人物不变,如何设计一致性人物(9) Openai Sora-Sora如何保持人物不变,如何设计一致性人物(10) Openai Sora-Sora如何保持人物不变,如何设计一致性人物(11)



2、让机器人使用正确的描述
正当我们窃喜成功的时候我们发现,使用多了随机性依然很大,通过更多的研究我们发现,它有时候并没有使用我们的描述,机器人经常会篡改我们的内容。

我们通过大量的实验得到一个规律,无论通过哪种AI交互时,他都会篡改你的输入,他的逻辑是 你输入给它》它接收》它在理解》它在用自己的方法实现。


举个简单的例子
Openai Sora-Sora如何保持人物不变,如何设计一致性人物(12)

Openai Sora-Sora如何保持人物不变,如何设计一致性人物(13)


这个问题理解起来就比较简单了,知道了问题那么此时我们就需要一种很好的方式来固定住我们的提示词,不让他做任何更改。但过程依然很复杂。

3、seed gen_id 和噪声
seed是图片的种子号,每张图片都有它的种子,genid是更高级的用法,它们都是唯一性的,可以代表某一个图片
Openai Sora-Sora如何保持人物不变,如何设计一致性人物(14)

噪声则更加复杂,它是更隐藏的技术,它是生成图片中用于控制图片风格变化的存在

Openai Sora-Sora如何保持人物不变,如何设计一致性人物(15)


所以想要控制好图像一致性需要用到很多控制元素,最终我们运用好以后可以将他们封装起来,给他一个代号,下次我在提到这个代号的时候它就知道用什么样的组合元素。

那么如何完全掌控并且使用好这些控图控视频的技术,我们制作了一套完整的教程。

Openai Sora-Sora如何保持人物不变,如何设计一致性人物(16)


课程介绍:http://www.niubo1ai.com/thread-531-1-1.html


如果你想快速掌握这项技术,快速上手,可以报名课程。

精彩内容推荐
  • 联系我们
  • 邮箱:1992608358#qq.com(请把#改成@)
  • 微信:leileiseo
  • QQ客服 1992608358
  • 工作时间:周一至周五(早上9点至下午5点)
  • 微信公众平台

  • 扫描访问手机版

QQ|NIUBOYI ( 京ICP备17025393号 )

GMT+8, 2024-5-16 21:21 , Processed in 0.043529 second(s), 38 queries .

POWERED BY NIUBOYIAI! 主理人:NIUBOYIAI  点亮哥

Copyright © 2001-2020, NIUBOYI AI.