O FLUX.1 Krea [dev] melhora consideravelmente a eficiência da inferência de modelos por meio de uma técnica inovadora de destilação guiada. Essa técnica permite que os modelos mantenham a qualidade da geração e, ao mesmo tempo, reduzam significativamente o uso de recursos computacionais, permitindo que modelos grandes com 12 bilhões de parâmetros sejam executados em GPUs de consumo. Em uma configuração padrão, leva apenas de 10 a 20 segundos para gerar uma imagem de 1024×1024 usando uma placa de vídeo RTX 3090. Para dispositivos com memória de vídeo insuficiente, o modelo também é compatível com computação assistida por CPU por meio do método enable_model_cpu_offload(), o que torna o processamento moderadamente mais lento (cerca de 1 a 2 minutos/imagem), mas garante que ele funcione bem em todos os tipos de hardware.
Essa resposta foi extraída do artigoFLUX.1 Krea: uma ferramenta gratuita de código aberto para gerar imagens altamente realistasO