André, conseguiu resolver o problema ?
Tem uma discussão sobre este erro em :
https://forums.vmix.com/...oo-full-or-near-too-fullVeja a resposta do Martin:
"Olá,
Se o desempenho do computador puder ser excluído (I.E, o sistema está mostrando tempos de renderização baixos (15 ms ou menos) e uso de CPU abaixo de 70%), o problema quase sempre está relacionado à largura de banda da rede. Na verdade, existem dois buffers que o vMix gerencia para streaming:
Buffer de rede (isso pode ser definido nas configurações de streaming)
Buffer de vídeo em tempo real (este é o rtbufsize que você está vendo na linha de comando)
O buffer de vídeo em tempo real não deve precisar ser ajustado, ele só precisa ser rápido o suficiente para acompanhar o codificador
então você só precisa de alguns quadros para PCs moderadamente rápidos, o que resulta em 20 MB para 5 quadros, então 256 MB é mais do que suficiente e pode lidar com até 4K.
Então, o que acontece se houver um problema de largura de banda da rede e o buffer da rede ficar cheio, então o stream fará backup e acabará enchendo o buffer de vídeo também
fazendo com que essas mensagens apareçam no log, mas são um sintoma de problemas de rede, e não a causa.
Dito isso, precisamos determinar o que está causando problemas na rede. Se você tiver uma conexão extremamente rápida, o problema pode ter origem na rede ou configuração do seu provedor de CDN.
Um exemplo é o Facebook, que suporta uma taxa de bits máxima de 4000 kbps e eles dizem que irão limitar a conexão em seu final se a taxa de bits for maior. Outros CDNs também podem ter suas próprias restrições de largura de banda em vigor.
Para verificar isso, você pode aumentar a configuração do buffer de rede no vMix tão alto quanto possível e isso deve atrasar essas mensagens de buffer substancialmente até que o estrangulamento seja encontrado novamente. Também é importante notar que essas mensagens aparecerão inicialmente por alguns segundos quando o fluxo for inicializado.
Espero que isto ajude.
Cumprimentos,
Martin
vMix"