
更多AI前沿科技资讯,请关注我们:

closerAIGCcloserAI,一个深入探索前沿人工智能与AIGC领域的资讯平台,我们旨在让AIGC渗入我们的工作与生活中,让我们一起探索AIGC的无限可能性! 7篇原创内容 公众号

产品经理逛世界一只在互联网PM浪迹多年的吉米猫,希望与大家一起分享,一起成长,一起用发现的眼光看世界,用一颗产品心分析世间万物。个人资源分享网站:www.douyoubuy.cn 944篇原创内容 公众号 【closerAI ComfyUI】视频修复的“魔法橡皮擦”——DiffuEraser,轻松消除视频中一切不想要的物体!效果炸裂。 大家好,我是Jimmy。AI视频修复技术迎来新进展,阿里巴巴集团 Tongyi Lab团队开发了一款基于扩散模型的视频修复模型——DiffuEraser。这款模型旨在以更丰富的细节和更连贯的结构填充视频中的遮罩区域,让用户能够轻松修复视频中的瑕疵。最近,等来了comfyUI中的实现版本。 DiffuEraser的项目地址 项目官网:https://lixiaowen-xw.github.io/DiffuEraser-page/ GitHub仓库:https://github.com/lixiaowen-xw/DiffuEraser comfyUI地址:https://github.com/smthemex/ComfyUI_DiffuEraser arXiv技术论文:https://arxiv.org/pdf/2501.10018

DiffuEraser 的技术原理 DiffuEraser 的技术原理听起来可能有点复杂,但我们可以简单地理解为它是一种“智能橡皮擦”。它通过一种叫做扩散模型的技术,学习视频中的像素分布,然后在修复过程中,根据这些分布信息,智能地填补视频中的瑕疵部分。

具体来说,DiffuEraser 的网络架构受到了 BrushNet 和 Animatediff 的启发,主要由一个去噪 UNet 和一个辅助的 BrushNet 分支组成。BrushNet 分支提取的特征会被逐层整合到去噪 UNet 中,然后去噪 UNet 通过去噪过程生成最终的修复结果。为了增强时间连贯性,DiffuEraser 还引入了时间注意力机制,确保修复后的视频在时间维度上也保持一致。



DiffuEraser 的优势 1、高细节和连贯性修复:DiffuEraser 能够生成更详细、更精细的纹理,相比基于 Transformer 的方法(如 Propainter),在修复大面积遮挡时表现出更少的模糊和时间不一致性。 2、时间一致性优化:通过扩展先验模型和 DiffuEraser 的时间感受野,以及利用视频扩散模型的时间平滑特性,DiffuEraser 显著提升了长序列推理中的时间一致性。 3、先验信息注入:通过引入先验信息,DiffuEraser 能够更稳定地初始化修复过程,减少噪声伪影和幻觉,从而生成更准确和真实的修复结果。 comfyUI DiffuEraser 的使用方法 打开comfyUI节点地址:https://github.com/smthemex/ComfyUI_DiffuEraser

下载后,解压放置comfyUI\custom_nodes\ 目录中 对应模型如下,以及放置的位置如下图示:底模随便使用一个SD 1.5模型的即可。

安装好需要的模型后,拖入我们closerAI搭建的工作流:

节点很简单,加载工作流,操作简单,加载视频,如果有处理后的视频蒙版,就在右边加载上传。

若无,也不要紧,打开diffueraserSampler的Video2mask的开关,让它处理成蒙版视频。然后直接执行即可。

执行结果:


DiffuEraser 的未来展望 目前,DiffuEraser 已经在视频修复领域取得了令人瞩目的成果,但开发团队仍在不断努力,计划在未来发布更多的功能和改进。例如,他们可能会发布训练代码、HuggingFace/ModelScope 演示以及 Gradio 演示,让更多的用户能够方便地使用和体验 DiffuEraser 的强大功能。 结语 DiffuEraser 为视频修复提供了一种全新的解决方案,它的出现无疑将为视频处理领域带来更多的可能性。如果你对视频修复感兴趣,不妨尝试一下 DiffuEraser,相信它会给你带来惊喜!如果你觉得这篇文章对你有帮助,不妨转发给更多的朋友,让更多人了解这款神奇的视频修复工具! 大家可以根据工作流思路进行尝试搭建。 当然,也可以在我们closerAI会员站上获取对应的工作流。 更多AI前沿科技资讯,请关注我们:

closerAIGCcloserAI,一个深入探索前沿人工智能与AIGC领域的资讯平台,我们旨在让AIGC渗入我们的工作与生活中,让我们一起探索AIGC的无限可能性! 7篇原创内容 公众号

产品经理逛世界一只在互联网PM浪迹多年的吉米猫,希望与大家一起分享,一起成长,一起用发现的眼光看世界,用一颗产品心分析世间万物。个人资源分享网站:www.douyoubuy.cn 944篇原创内容 公众号

主题授权提示:请在后台主题设置-主题授权-激活主题的正版授权,授权购买:RiTheme官网
评论(0)