Tecnologia de desacoplamento de movimento para controle dinâmico de filmes e televisão
A estrutura processa os parâmetros de movimento da câmera (incluindo dados 6DoF, como ângulo de inclinação e azimute) e o campo de movimento do objeto (usando representação de fluxo óptico 3D) separadamente por meio de uma arquitetura de rede neural de duas ramificações. O arquivo de configuração JSON permite que o usuário defina com precisão: 1) a câmera para adotar o modo de propulsão de órbita-surround ou de primeira pessoa; 2) o movimento do objeto para suportar a interpolação de quadro-chave ou a unidade de simulação física. Em testes de cenários automotivos, o sistema pode separar automaticamente o movimento do corpo do jitter da câmera com uma precisão de separação de movimento de 89,2%, superando em muito a solução Vid2Vid da NVIDIA. A tecnologia tem sido usada para geração de animação de fundo em vários projetos de meta-universo.
Essa resposta foi extraída do artigoGenXD: estrutura de código aberto para gerar vídeos de cenas arbitrárias em 3D e 4DO