A arquitetura principal da biblioteca foi criada com base na estrutura Python asyncio para E/S assíncrona e processamento de tarefas com uso intensivo de computação, com unidades Processor e PartProcessor para dar suporte à combinação e ao paralelismo de fluxos de dados complexos. Seu design modular permite que os desenvolvedores criem pipelines de processamento de forma flexível, e o GenaiModel e o LiveProcessor incorporados permitem uma profunda integração com a API Gemini, oferecendo suporte a uma gama completa de cenários, desde interações round-robin até o processamento de fluxo de áudio/vídeo em tempo real.
Essa resposta foi extraída do artigoProcessadores GenAI: biblioteca Python leve oferece suporte ao processamento paralelo eficiente de conteúdo multimodalO