更多AI前沿科技资讯,请关注我们:closerAI-一个深入探索前沿人工智能与AIGC领域的资讯平台

【closerAI ComfyUI】新王登场!角色替换、动作迁移的新解决方案:智谱开源SCAIL-2,让AI角色动画真正“活”起来!效果炸裂!

大家好,我是Jimmy。

最近开源界项目很多,活力满满,最近智谱开源了一个项目,这不是新项目,之前就出了第一个版本,现在全面升级,能实现角色替换、动作迁移、支持单人、多人且一致性超强,效果很炸裂,这个项目就是:SCAIL-2

SCAIL-2:端到端的角色动画

SCAIL-2 的最大亮点是端到端(End-to-End)控制。你给它一张参考角色图,再扔一段驱动视频(可以是真人、动画、甚至动物动作),模型就能直接把动作迁移过去,不需要任何显式的姿态中间表示。

它是怎么做到的?团队用之前几个开源模型(包括他们自己的 SCAIL-Preview、Wan-Animate、MoCha)合成了一个 60K 的运动对数据集,然后设计了一个统一的运动迁移接口,加上特定的掩码通道和 RoPE 设计,让模型在训练时同时吃下各种任务的数据。还用了“反向驱动”的训练技巧,让模型学到比原模型更强的能力。

结果就是几个涌现能力:

  1. 跨身份角色替换(把一个人换成另一个人,动作自然衔接)
  2. 动物驱动(狗的动作驱动猫的角色,或者更离谱的)
  3. 多角色场景支持
  4. 零样本适应更高级的控制信号(比如 SAM3D-Body 的网格渲染)

这已经不是简单的“姿态跟随”了,更像是让模型真正理解了“这个角色该怎么动”。

官方效果演示如下:

comfyUI中的体验

目前项目已开源,在开源社区引起热议,且快速支持。目前KJ已支持。

https://github.com/Comfy-Org/ComfyUI/pull/14373
https://huggingface.co/Comfy-Org/SCAIL-2/tree/main

目前本地跑会很吃力。因为还没有GGUF版本出来。但是可以在RH上跑。如果本地设备条件允许可以直接下载模型和工作流直接本地跑即可。

我整理了下工作流,主要分角色替换与动作迁移两个流。

左边是角色替换,右边是动作迁移。

工作流主要模块说明:

1、模型加载,如下图所示,

2、加载区,加载视频与参考图

3、遮罩处理,视频与参考图进行人物的遮罩处理。

其中,下图节点中,根据实际情况选择视频与参考图的人数,1个就填1,两个就填2,如此类推。开始顺序的方式也是根据素材情况选择。

然后是主要的更新的节点:WanSCAILToVideo

然后工作流其它参数不变。当然帧数长度是根据情况设置的。然后是模式。如下图所示,替换模式打开,则是进行角色替换,关闭则是动作迁移。

以下是角色替换工作流:

效果:

以下是动作迁移工作流:

效果如下:

总结:

超级完美的角色替换与动作迁移解决方案。

会员小伙伴可在小站上下载本期工作流、优化节点、模型。

我在RH上发布了应用,大家可以上去体验下


本地算力不够怎么办?

如果本地设备算力不好的小伙伴,推荐使用线上comfyUI来运行体验:runninghub.cn

本地算力不够怎么办?

如果本地设备算力不好的小伙伴,推荐使用线上comfyUI来运行体验:runninghub.cn

SCAIL2 角色替换应用体验地址

https://www.runninghub.cn/ai-detail/2065425739767435265

SCAIL2 动作迁移应用体验地址

https://www.runninghub.cn/ai-detail/2065428854314987521

注册地址:https://www.runninghub.cn/?utm_source=kol01-RH151

通过这个链接第一次注册送1000点,每日登录送100点


最后几句:

如果对你有帮助,请一键三连支持下我,感谢!以下是小站主流的一些AI工具应用:

  1. CloserAI AI短剧工作台(本地化解决方案)
    https://aigc.douyoubuy.cn/ai-agent/
  2. closerAI FlowStudio本地AIGC无限画布创作工具
    https://aigc.douyoubuy.cn/closerai-flowstudio/
  3. closerAI AI绘画大师万象视界:
    https://aigc.douyoubuy.cn/closerai-vision/
  4. CLOSERAI POD电商印花批量生产工作站:
    https://aigc.douyoubuy.cn/?page_id=420541
  5. 印花提取:
    https://aigc.douyoubuy.cn/yinhua/

以上是就是本期的分享,当然,更多工作流、资讯、插件、工具也可以在我们closerAI会员站上获取(查看原文)

以上,既然看到这里了,如果觉得不错,随手点个赞、在看、转发三连吧,如果想第一时间收到推送,也可以给我个星标⭐~谢谢你看我的文章,我们,下次再见。

>/ 作者:JimmyMo

更多AI前沿科技资讯,请关注我们:

https://aigc.douyoubuy.cn
隐藏内容
本内容需权限查看
  • 普通用户: 599金币
  • VIP会员: 免费
  • 永久会员: 免费

主题授权提示:请在后台主题设置-主题授权-激活主题的正版授权,授权购买:RiTheme官网

声明:本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。