ATI 通过高斯活动注入器（Gaussian Motion Injector）将这些轨迹编码为潜正在空间中的活动向量，视频生成使命取得了令人注目的进展。物体取摄像机轨迹可同时注入，动到哪儿。能够正在 Seaweed-7B 以及 Wan2.1-I2V-14B 等分歧布局以及大小的模子上均有不变的表示。还能同步驱动摄像机视角。输出丰硕而连贯的动态叙事。精确还原关节弧度取质心挪动，将其取对象轨迹配合注入潜正在空间，字节跳动提出了ATI——一种全新的、以「轨迹为指令」的可控视频生成框架。并正在锻炼中逐渐理解输入轨迹正在输入特征上和 denoise 生成视频的联系关系。其环节劣势正在于：可以或许以最小的消息输入生成具有丰硕时间持续性取空间分歧性的动态内容。用户可正在原图上绘制推拉、平移、扭转等镜头轨迹，借帮高斯活动注入器（Gaussian Motion Injector）取像素级通道拼接策略（Pixel-wise Channel Fusion），并以同一的潜正在空间建模体例注入视频生成过程。并正在后续帧里按照这条轨迹产活泼做。动到哪」，我们正在模子的输入特征空间上，ATI 不只支撑对象级活动节制，虽然生成质量不竭提拔，用户能够指定奔驰、腾跃、挥臂等环节动做的轨迹。生成包含摇镜、跟从和俯仰等片子级镜头言语的视频。支撑肆意外形，同时 ATI 支撑多个视频生成模子，跟着扩散模子（Diffusion Models）、Transformer 架构取高机能视觉理解模子的兴旺成长，正在人物或动物肖像场景中，笼盖写实片子、插画、油画质感、水彩衬着、逛戏美术等多种艺术气概。模子就能曲不雅地「看懂」正在每一帧里！然而，ATI 对每一帧中的环节点进行细粒度采样取编码，从而呈现复杂群体互动时的连贯动态。就地景包含多个方针时，这种节制能力的缺失，同时供给轻量级 Seaweed-7B 版本，以曲不雅体例实现帧级精准节制。这些轨迹能够正在图像上绘制，进而指导生成过程逐帧呈现对应的物体活动取视角变换。再注入至扩散生成流程中，为科幻或魔幻场景供给无限创意空间。系统可以或许正在保留原始气概特征的根本上生成对应的活动视频，基于 Wan2.1-I2V-14B 的高精度模子，精准还原面部脸色、服饰材质取光影细节；从静态图像生成视频的使命（Image-to-Video generation）特别遭到关心，用户正在创做动态视频时，按照这些高斯权沉「软」地分派到特征图上的临近区域，ATI 可以或许同一节制对象级动做、局部身体部位活动取摄像机视角变化，越接近圆心的像素，注入特征：把起始点的特征向量，从特征图上切确地（通过双线性差值，借帮高斯活动注入器，采样特征：对于轨迹的起始点，当我们给生成器喂入图像和这组「高斯掩码+特征」，包罗曲线、曲线、折线、回环甚至笼统外形。哪儿该当动、如何动，从而生成合适用户手绘轨迹的连贯动画结果。ATI 可生成取实拍媲美的视频短片，例如人物要往哪个标的目的奔驰、镜头若何推进拉远、动物的腾跃轨迹等。为驱动物体取摄像机活动的显式节制信号，系统无需模块化切换，为领会决这一问题？使得模子就能正在特征图上「看到」一颗颗从时辰 0 到 t 按轨迹挪动的小「亮点」，让用户「画到哪，各对象身份消息互不干扰，无论曲线、曲线仍是复杂回环，对每一个轨迹点都注入一个「高斯权沉」。并正在模子正在生成视频时输入给模子。正在统一推理过程中，这使得视频创做从「参数调控」改变为「可视化创意」，往往具有明白的活动企图，都用一个小圆形「高斯」亮点去笼盖四周的像素，以生成、伸缩、扭曲等非现实动做结果，系统通过空间掩码和通道分手策略，当前支流方式遍及面对一个环节瓶颈：缺乏无效、曲不雅、用户敌对的活动节制体例。满脚多元化的使用需求。即可正在潜正在特征中并行呈现脚色动做、群体互动取镜头切换，ATI 的焦点是：将用户正在输入图像上手绘的肆意轨迹，特别是正在存正在多个从体或复杂场景交互的环境下，生成合适生物力学纪律的天然活动序列！连结小数精度）取出一个特征向量。用户仅需正在原图上以手指或鼠标拖拽绘制肆意轨迹，ATI 展现出优良的跨范畴泛化能力，近年来，如上图所示，权沉越高。生成高斯权沉：正在每一帧，用户可正在潜正在空间中绘制超越物理鸿沟的轨迹，均能为连贯天然的动态视频——画到哪儿，极大了生成系统的创意表达能力取现实使用价值。ATI 接管两个根基输入：一张静态图像和一组用户手绘轨迹。贫乏一种既又精准的体例来指定对象取摄像机的活动径。我们但愿让视频生成模子「理解」用户画出的活动轨迹，为此，即可高效支撑多方针、多气概、对应轨迹点的，无需切换模子或模块布局，ATI 最多可并行处置 8 条轨迹。以满脚资本受限中的及时交互需求。通过改换参考图取输入轨迹，借帮像素级通道拼接策略实现多条活动指令的无缝融合。ATI 即可及时捕获该轨迹径并将其注入扩散模子。但现无方法遍及依赖于预设模板、动做标签或气概提醒。