
TANGO Model
TANGO Model 是由东京大学与CyberAgent AI Lab联合开发的AI音频驱动手势生成项目,核心定位是实现语音信号到自然人物手势动作的精准转换与视频重现
TANGO Model 是由东京大学与CyberAgent AI Lab联合开发的AI音频驱动手势生成项目,核心定位是实现语音信号到自然人物手势动作的精准转换与视频重现。其核心功能包括基于层次化音频-运动嵌入的语音特征提取、扩散插值动作生成、已有视频的手势动作替换适配,主要面向视频创作者、虚拟现实内容开发者、数字人制作团队等用户群体,可应用于短视频手势生成、虚拟主播动作驱动、AR交互角色动作制作、影视预演动作参考等多个场景,帮助用户降低手动K帧制作手势动作的成本,提升数字内容中人物动作的自然度与匹配度。
- 适用对象
- 短视频创作者(批量制作口播类视频手势)
- 主要功能
- 语音特征提取、手势动作生成
- 计费方式
- 免费增值,部分功能付费
- 平台
- 网页
- 已收录
- 2026.06.14(139 天)
阅读目录
编辑评测与站内热度
编辑综合评分
满分 5 分
六维指标基于站内真实数据(热度、社区反馈、资料完整度、可达性核验等)综合评估,非用户投票。
全站热度排名
#12201
分类内排名
#20 / 26
累计站内点击
1
近 7 日点击
1
排名与点击为站内真实统计口径,反映 Toolifai 用户行为,非编辑评分。
TANGO Model是什么,怎么使用?
约 4 分钟TANGO Model 是由东京大学与CyberAgent AI Lab联合开发的AI音频驱动手势生成项目,核心定位是实现语音信号到自然人物手势动作的精准转换与视频重现。其核心功能包括基于层次化音频-运动嵌入的语音特征提取、扩散插值动作生成、已有视频的手势动作替换适配,主要面向视频创作者、虚拟现实内容开发者、数字人制作团队等用户群体,可应用于短视频手势生成、虚拟主播动作驱动、AR交互角色动作制作、影视预演动作参考等多个场景,帮助用户降低手动K帧制作手势动作的成本,提升数字内容中人物动作的自然度与匹配度。
主要功能
- 语音特征提取:用户上传待处理的语音音频文件后,系统会通过层次化音频嵌入算法,对语音的语速、语调、停顿、语义情绪等多维度特征进行拆分识别,将音频信号转换为对应的特征向量序列,为后续的动作生成提供匹配基础,避免生成的手势与语音节奏、语义出现脱节问题。
- 手势动作生成:系统基于预训练的扩散插值模型,结合提取到的语音特征序列,自动生成与语音内容、节奏相匹配的人体上半身手势动作,动作涵盖手臂摆动、手部姿态变化等多个维度,生成的动作序列符合真人表达习惯,不会出现生硬的机械感或不符合人体工学的动作偏差。
- 视频手势替换:用户可以上传已有含有人物的视频素材,系统会先识别视频中人物的骨骼关键点与动作轨迹,再将生成的手势动作无缝融合到原视频的人物身上,替换原有的手势动作,同时保持人物其他部位动作、背景环境的原有状态,无需用户手动逐帧调整。
- 动作风格调节:用户可根据内容需求选择不同的动作风格参数,包括正式商务风格、活泼休闲风格、平缓表达风格等选项,调整后系统会在匹配语音的基础上,调整手势的幅度、频率、动作类型,适配不同的内容场景调性,满足多样化的创作需求。
- 结果导出支持:生成完成后的内容支持多种格式导出,用户可选择导出带手势动作的完整视频文件,也可单独导出骨骼动作数据文件,适配后续导入动捕软件、数字人引擎、3D制作工具进行二次编辑,减少不同工具之间的数据转换成本。
- 批量处理支持:针对有大量音频需要处理的用户,系统支持批量上传多个音频文件,设置统一的动作风格参数后即可批量生成对应的手势动作序列,所有任务可后台排队处理,用户无需长时间停留在页面等待,完成后会统一通知下载。
怎么使用
- 第一步,打开TANGO Model官方网站,在首页浏览项目介绍与功能说明,了解该技术的适用场景与输出效果,确认符合自身使用需求后,找到功能入口进入操作界面。第二步,根据自身需求选择处理模式,可选择仅音频生成动作,也可选择音频加原有视频的手势替换模式,按照页面提示上传对应的音频或视频素材,注意素材格式需符合页面标注的支持范围。第三步,在参数设置区域选择合适的动作风格,调整手势幅度、动作频率等可选参数,确认参数设置无误后,提交处理请求,系统会自动进入任务队列开始处理。第四步,等待处理完成,处理时长根据素材长度与排队任务量有所不同,过程中可关闭页面,后续通过任务编号可查询处理进度,完成后会提供预览选项。第五步,预览生成的效果,确认动作与语音匹配度、融合效果符合预期后,选择需要的导出格式下载结果,若效果不符合需求可调整参数重新提交生成。
适合什么人群
- 短视频创作者(批量制作口播类视频手势)
- 虚拟主播运营团队(驱动虚拟人物配套手势)
- 数字人制作公司(降低人物动作制作成本)
- VR内容开发者(制作交互角色自然动作)
- AR应用开发团队(生成现实叠加角色动作)
- 影视预演团队(快速制作前期动作参考内容)
总结
该项目是音频驱动动作生成领域的代表性研究成果,由高校与企业实验室联合研发,核心技术逻辑区别于普通的动作匹配方案,通过层次化嵌入与扩散插值的结合,解决了传统语音转动作容易出现的节奏不匹配、动作生硬重复的问题。和同类工具相比,它不仅支持单独的动作数据生成,还提供了已有视频的手势替换功能,对于已经有拍摄好的人物视频,只需要替换不合适的手势部分,不需要重新拍摄或全片重做,能够切实降低内容制作的时间成本。目前项目页面提供了完整的技术论文说明、效果演示样例,用户可以先参考不同场景下的生成效果,再判断是否适配自身的使用需求,同时项目的开放接口也支持技术爱好者进行二次开发,适配更多自定义的使用场景。
价格与免费额度
目前该项目以研究展示为核心,基础功能面向所有用户免费开放,免费版支持单条时长5分钟以内的音频处理,单用户每日可提交3个处理任务,可导出标清分辨率的视频与标准格式的动作数据,满足普通用户的测试与小规模使用需求。项目同时面向企业用户提供商用授权服务,具体价格根据使用场景、调用量、定制化需求单独沟通,商用授权可解除任务量限制,提供更高分辨率的视频导出,以及专属的技术支持服务,适合有大量内容制作需求的商业团队采购使用。
优点与不足
优点
- 生成的手势动作与语音的语义、节奏匹配度较高,符合真人表达习惯
- 支持已有视频的手势无缝替换,无需重新制作全片内容
- 支持导出骨骼动作数据,可对接多种3D制作与数字人引擎
- 批量处理功能可同时处理多个音频任务,提升多内容制作效率
不足
- 目前仅支持上半身手势动作生成,暂不覆盖全身动作生成需求
- 视频手势替换对原视频的人物角度、光线有一定要求,复杂场景下融合效果可能存在偏差
- 无内置的动作编辑功能,生成后的动作调整需要导出到第三方工具完成
能帮你做的 8 件事
- 01语音特征提取
- 02手势动作生成
- 03视频手势替换
- 04动作风格调节
- 05AI动作生成场景的常用方案
- 06音频驱动手势场景的常用方案
- 07短视频创作者(批量制作口播类视频手势)的日常效率工具
- 08先用免费额度验证需求再决定付费
更新历史
- TANGO Model 收录进 Toolifai 目录
- 页面资料核验与信息更新
常见问题
TANGO Model生成的手势可以直接用于商业内容吗?
目前项目公开的基础功能生成的内容,需要遵守项目对应的开源协议与使用条款,个人非商业使用可直接应用,若用于商业内容制作,需要提前申请商用授权,避免出现版权纠纷。商用授权会提供明确的商业使用许可,同时可根据企业需求提供定制化的功能适配,保障商业使用的合规性与稳定性,不同规模的商业使用场景对应不同的授权方案,可通过页面提供的联系方式与开发团队沟通确认。
上传的音频支持哪些语言?对口音有没有要求?
该模型的训练数据包含多语言语音素材,目前支持中文、英文、日文等主流语言的音频输入,对于带有地方口音的普通话、非标准发音的语音也有一定的适配能力。不过如果口音过重、语音清晰度较低,可能会影响语义与节奏特征的提取准确性,进而导致生成的手势匹配度下降,建议上传的音频尽量保持清晰,背景噪音尽量小,能够获得更符合预期的生成效果。
视频手势替换功能对上传的视频有什么要求?
上传的原视频需要满足几个基础条件:首先视频中的人物上半身需要完整露出,没有被其他物体大面积遮挡,人物保持在画面中相对固定的位置,避免大幅度的移动;其次视频分辨率建议不低于720P,光线均匀,人物轮廓清晰,便于系统准确识别骨骼关键点。如果视频中人物角度变化过大、存在多人同框的情况,目前的功能暂不支持精准的手势替换,建议选择单人、固定镜头的视频素材进行处理。
导出的动作数据支持导入哪些第三方工具?
系统导出的骨骼动作数据为通用的BVH与FBX格式,支持导入Blender、Maya、Unity、Unreal Engine等主流的3D制作工具与游戏引擎,也可对接大部分数字人驱动平台。如果用户使用的工具存在格式不兼容的情况,可以通过通用的格式转换工具进行转码,基本可以适配当前市面上多数的内容制作流程,无需进行复杂的二次适配调整,降低不同工具之间的数据打通成本。
处理1分钟的音频大概需要多长时间?
处理时长受当前服务器排队任务量、素材复杂度等因素影响,通常1分钟的纯音频动作生成处理时间在2-5分钟左右,如果是带视频替换的任务,处理时间会增加到3-8分钟。如果提交任务时处于使用高峰时段,排队时间会相应延长,用户提交任务后可以保存任务编号,关闭页面后续查询进度,不需要一直停留在页面等待,处理完成后可以通过任务编号下载对应的结果文件。
开始使用 TANGO Model
从官方入口了解最新功能与使用方式。
由 Toolifai 编辑维护
欢迎产品方补充截图、功能介绍与官方资料。更新和纠错由编辑审核后发布。