FLUX.1 Krea [dev] verbessert die Inferenz-Effizienz von Modellen durch eine innovative geführte Destillationstechnik drastisch. Diese Technik ermöglicht es, die Qualität der Modellgenerierung beizubehalten und gleichzeitig den Verbrauch von Rechenressourcen erheblich zu reduzieren, so dass große Modelle mit 12 Milliarden Parametern auf Consumer-GPUs laufen können. In einer Standardkonfiguration dauert es nur 10-20 Sekunden, um ein 1024×1024 großes Bild mit einer RTX 3090 Grafikkarte zu erzeugen. Für Geräte mit unzureichendem Videospeicher unterstützt das Modell auch die CPU-gestützte Berechnung über die enable_model_cpu_offload()-Methode, die die Verarbeitung mäßig verlangsamt (~1-2 Minuten/Bild), aber sicherstellt, dass es auf allen Arten von Hardware gut funktioniert.
Diese Antwort stammt aus dem ArtikelFLUX.1 Krea: ein kostenloses Open-Source-Tool zur Erzeugung hochrealistischer BilderDie