Soul App AI团队SoulAILab近期重磅开源实时数字人生成模型SoulX-FlashTalk,这款14B参数模型以0.87s亚秒级延时、32fps高帧率、超长视频稳定生成、全身动作交互四大能力,打破行业技术瓶颈,成为首个多重性能突破且支持商用落地的实时数字人模型。Soul团队专注AI交互创新,以用户体验为核心,打造沉浸、多元、智能的交互生态,此次开源既是成果转化,也是赋能行业、推动数字人产业升级的布局。

SoulX-FlashTalk以0.87s亚秒级延时,重塑实时数字人交互体验。实时视频交互中,延迟是核心痛点,传统大模型数字人推理慢、滞后感明显,难以适配实时场景。SoulX-FlashTalk通过全栈加速引擎极致优化,将首帧输出延时降至0.87s,达成亚秒级响应,让14B级大模型数字人首次具备即时反应能力,消除传统生成滞后感,实现零延迟反馈,视频通话、直播弹幕、智能客服等场景下,均能提供自然流畅、无卡顿的深度对话。高帧率输出稳定32fps,远超直播25fps标准,画面丝滑流畅,证明大模型经深度优化可兼顾高参数与高效率。
超长视频稳定生成与全身高保真交互,奠定SoulX-FlashTalk行业领先地位。传统数字人长视频生成易出现面部不一致、画质下降、身份漂移、动作单一、手部畸形等问题,限制直播、长视频制作场景应用。SoulX-FlashTalk采用自纠正双向蒸馏技术,引入多步回溯自纠正机制,主动模拟并修正长序列误差传播,实现无感纠错且画质无损;模型完全保留双向注意力机制,每帧生成可同步参考过去与未来上下文,从根源抑制身份漂移,超长直播中数字人口型、面部、背景稳定一致,无模糊变形。动作表现突破传统局限,支持音频驱动全身肢体动态合成,依托14B DiT建模能力消除手部畸形与模糊,精准呈现手部细节,维持99.22%身份一致性,平衡动作灵活性与画面稳定性。

训练流程示意图
完善技术方案与推理加速,支撑SoulX-FlashTalk高性能输出。训练采用两阶段策略,第一阶段延迟感知时空适配,结合动态长宽比分桶微调,适配低分辨率与短帧序列;第二阶段自纠正双向蒸馏,通过DMD框架压缩采样步数、移除CFG加速,搭配多步回溯自纠正与随机截断策略优化显存。推理依托全栈加速引擎,通过混合序列并行、算子级优化、3D VAE并行化、整链优化,大幅提升推理速度,达成亚秒级延迟。传统单向模型易出现时间不一致与身份漂移,双向注意力机制充分利用全局上下文,提升生成一致性与细节质量。
实测与应用验证SoulX-FlashTalk价值,助力多行业数字化转型。TalkBench-Short与TalkBench-Long测试中,短视频ASE达3.51、IQA达4.79、Sync-C达1.47,长视频Sync-C达1.61,长短视频均稳定32fps,指标领先行业主流模型。依托性能,模型可应用电商AI直播、短视频制作、AI教育、NPC交互、AI客服等领域,解决数字人直播画质模糊、口型错位痛点,助力企业降本增效。Soul此前开源SoulX-Podcast登顶HuggingFace TTS趋势榜,GitHub星标超3100,此次开源标志Soul开源战略升级,未来将聚焦核心交互能力,携手开发者共建AI+社交生态。
猜你喜欢
“无事不扰,有求必应” 深圳持续优化营商环境
iPad中国市场份额大跌 华为再夺中国平板第一 暴增21%
生意社:5月25日利华益维远丙酮价格下调-每日精选
半导体板块涨3.46% 利扬芯片涨19.99%居首
红星发展最新股东户数环比下降14.26% 筹码趋向集中-新视野
第31届上海电视节白玉兰奖入围名单揭晓 爱奇艺11部制播作品获40项提名
国家开放大学首届新商科创新创业大赛现场赛在北京举办