更多AI前沿科技资讯,请关注我们:https://aigc.douyoubuy.cn/

【closerAI ComfyUI】商业配音革命!精准对口型 !LTX-2.3 神级 LoRA,效率翻倍,LTX-2.3 抹平翻译感,极致声画同步,生产力瞬间拉满!

添加图片注释,不超过 140 字(可选)

大家好,我是Jimmy。

LTX2.3生态又添一名猛将—— LTX-2.3-22b-IC-LoRA-LipDub ,这个 LTX-2.3-22b-IC-LoRA-LipDub 是一个专门用于视频对口型(Lip-Syncing)和视频配音的增强LoRA。

1. 核心功能:精准对口型

这个 LoRA 基于 Lightricks 的 LTX-2.3 基础模型开发,采用了名为 IC-LoRA(In-Context LoRA)的技术。它的主要作用是让视频中的人物口型与输入的音频文件实现高度同步。

输入: 一个现有的视频 + 一段音频。

输出: 人物口型根据音频内容调整后的视频,看起来就像是人物在亲口说这段话。

2. 技术背景:JustDubIt

该模型是论文《JUST-DUB-IT: Video Dubbing via Joint Audio-Visual Diffusion》的官方实现。联合扩散: 它通过音视频联合扩散技术,不仅能改口型,还能在一定程度上保持视频的连贯性和画质。降采样因子为 1: 这意味着它支持参考分辨率与输出分辨率一致,能提供较高的清晰度。

3. 主要应用场景

  • AI 视频翻译/配音: 将一种语言的视频配上另一种语言的音频,并让口型完美契合。
  • 数字人/短剧制作: 在制作 AI 视频(如短剧、漫剧)时,为生成的角色添加具体的台词对白。
  • 后期修补: 修正原视频中录音与画面不符的问题。

项目地址:https://huggingface.co/Lightricks/LTX-2.3-22b-IC-LoRA-LipDub

在comfyUI中的实现与体验

我们先看效果:

原视频如下:

视频封面

原视频是30秒的长度,示例中我截取了其中一小段音频,测试5秒左右的长度。

视频封面
视频封面

具体如何在LTX2.3工作流中使用呢?

一、下载LORA模型:

如下图所示,下载后放置comfyUI/models/loras中

添加图片注释,不超过 140 字(可选)

二、closerAI-LTX2.3V1.1图视频+自定义音频生视频工作流(GGUF)

这里使用GGUF模型的单采样的方式来实现,当然二阶采样实现也是可以的。

这里提供两种方法,一个是视频+音频的方式实现。一个是视频+文本的方式实现。

closerAI-LTX2.3V1.1视频+自定义音频生视频工作流(GGUF):

添加图片注释,不超过 140 字(可选)

模型及LORA加载:

添加图片注释,不超过 140 字(可选)

根据音频长度填写帧数:

添加图片注释,不超过 140 字(可选)

3*24+1=73,尺寸通过最长边按比例计算出来。如上图所示。

提示词简单写一下:

添加图片注释,不超过 140 字(可选)

然后运行工作流即可生成。

第二方式是视频+文本,将音频输入模块去掉,换成直接是文本输入,帧数使用视频本身帧数。

添加图片注释,不超过 140 字(可选)

提示词写:

添加图片注释,不超过 140 字(可选)

然后直接执行工作流。

这个LORA的使用本身不复杂。在我们基础的LTX2.3 GGUF的图生视频、视频生视频、音频生视频的工作流的基础上加上这个LORA即可。


上面在制作中,还有另外一种方法,在runningHug上的无限画布,也可以使用GPT image进行生成:

添加图片注释,不超过 140 字(可选)

它集成了多个优秀的闭源模型:

添加图片注释,不超过 140 字(可选)

在图像与视频生成中,一个节点就能直接调用使用并生成。十分方便,且价格优惠。它通过集成闭源模型简化了工作流程直接输入即所得,速度很快。是一个不错的选择。通过注册地址:https://www.runninghub.cn/?utm_source=kol01-RH151 注册后打开无限画面

添加图片注释,不超过 140 字(可选)

关于分镜我也在RH上生成了应用,可通过下方直接使用。


本地算力不够怎么办?

如果本地设备算力不好的小伙伴,推荐使用线上comfyUI来运行体验:runninghub.cn

添加图片注释,不超过 140 字(可选)

NanoBanana Pro分镜图应用体验地址

https://www.runninghub.cn/ai-detail/1998278644248272898

注册地址:https://www.runninghub.cn/?utm_source=kol01-RH151

通过这个链接第一次注册送1000点,每日登录送100点


最后几句:

如果对你有帮助,请一键三连支持下我,感谢


CloserAI AI短剧工作台(本地化解决方案):
AI短片/短剧Agent工作台
closerAI FlowStudio本地AIGC无限画布创作工具:
CLOSERAI FlowStudio无限画布
closerAI AI绘画大师万象视界:
CLOSERAI VISION万象视界
CLOSERAI POD电商印花批量生产工作站: https://aigc.douyoubuy.cn/?page_id=420541 印花提取: https://aigc.douyoubuy.cn/yinhua/

以上是就是本期的分享内容,当然,更多工作流、资讯、插件、工具也可以在我们closerAI会员站上获取(查看原文)

以上,既然看到这里了,如果觉得不错,随手点个赞、在看、转发三连吧,如果想第一时间收到推送,也可以给我个星标⭐~谢谢你看我的文章,我们,下次再见。

>/ 作者:JimmyMo

更多AI前沿科技资讯,请关注我们:

https://aigc.douyoubuy.cn
添加图片注释,不超过 140 字(可选)
隐藏内容
本内容需权限查看
  • 普通用户: 599金币
  • VIP会员: 免费
  • 永久会员: 免费

主题授权提示:请在后台主题设置-主题授权-激活主题的正版授权,授权购买:RiTheme官网

声明:本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。