首页站长资讯用GPT-3.5生成数据集！北大天工等团队图像编辑新SOTA，可精准模拟物理世界场景

用GPT-3.5生成数据集！北大天工等团队图像编辑新SOTA，可精准模拟物理世界场景

站长网2024-05-30 10:37:520阅

高质量图像编辑的方法有很多，但都很难准确表达出真实的物理世界。

那么，Edit the World试试。

来自北京大学、Tiamat AI、天工AI、Mila实验室提出了EditWorld，他们引入了一种新的编辑任务，即世界指令（world-instructed）图像编辑，它定义和分类基于各种世界场景的指令。

在一组预训练模型，比如GPT-3.5、Video-LLava 和 SDXL的支持下，建立了一个带有世界指令的多模态数据集。

在该数据集训练了一个基于扩散的图像编辑模型EditWorld，结果在其新任务的表现明显优于现有的编辑方法，实现SOTA。

图像编辑新SOTA

现有的方法通过多种途径实现高质量的图像编辑，包括但不限于文本控制、拖动操作以及inpainting。其中，利用instruction进行编辑的方法由于使用方便受到广泛的关注。

尽管现有的图片编辑方法能够产生高质量的结果，但它们在处理传达物理世界中真实视觉动态的世界动态方面仍然存在困难。

如图1所示，无论是InstructPix2pix还是MagicBrush都无法生成合理的编辑结果。

为了解决这一问题，团队引入了一项新的任务，称为world-instructed image editing，使图像编辑能够反映真实物理世界和虚拟媒体中的“世界动态”。

具体来说，他们定义并分类了各种世界动态指令，并基于这些指令创建了一个新的多模态训练数据集，该数据集包含大量的输入-指令-输出三元组。

最后，团队使用精心制作的数据集训练了一个文本引导的扩散模型，并提出了一种零样本图像操作策略，以实现world-instructed image editing。

根据现实世界以及虚拟媒体中的任务场景，将world-instructed image editing分为7种认为类别，并对每一种类别进行了定义与介绍，同时提供了一个数据样例。

随后团队设计了文本到图片生成以及视频分镜提取两个分支来获取数据集。

文本生成图片分支是为了丰富数据场景的丰富性，在该分支下，团队首先利用GPT生成文本四元组（包括input图片描述、instruction、output图片描述以及关键词），接着利用input以及output描述生成对应文本的图片，利用关键词对应的attention map对编辑位置进行定位获取编辑mask，与此同时为了保证前后两张图关键特征的一致性，团队引入了image prompt adaption的方法IP-Adapter，最后团队使用IP-Adapter以及ControlNet，结合output image的canny map以及input image的image prompt feature，利用Image Inpainting对output image进行调整，从而获得比较有效的编辑数据。

利用文本生成图片分支得到场景丰富的数据后，为了能向数据集中添加真实数据，团队从视频中提取高质量的关键帧作为编辑数据。具体来说，团队从视频分镜中提取相关性强且结构差异大两帧作为起始与末尾帧，并切分出一段新的分镜，利用多模态大模型对这段分镜的变化进行描述，最后团队以起始与末尾帧作为input image以及output image，以得到的描述作为instruction，这样就获得了需要的编辑数据。

再进一步，团队利用人工对生成数据进行recheck，从而进一步提升数据质量。

团队利用数据集对InstructPix2Pix模型进行finetune，同时为了保护非编辑区域实现更为精确的编辑，团队提出了post-edit策略。