O Eden AI revoluciona a integração de vários modelos por meio de uma arquitetura de API unificada e inovadora. A plataforma foi projetada usando uma tecnologia de três camadas: a camada superior fornece uma interface de API REST padronizada, a camada intermediária permite conversões de protocolo do fornecedor e a camada inferior faz interface com as APIs nativas de cada modelo de IA. Essa arquitetura permite que os desenvolvedores escrevam o código de invocação (por exemplo, solicitações HTTP geradas por texto) apenas uma vez e, em seguida, modifiquem as APIs modificando oprovidersOs parâmetros podem ser alternados livremente entre diferentes modelos, como OpenAI, Mistral, etc., sem a necessidade de reconfigurar todo o sistema.
A validação técnica mostra que, em comparação com os métodos tradicionais de integração, essa solução pode reduzir a quantidade de código de adaptação de API em 83%. A plataforma passou no teste de estresse de 200.000 vezes/dia, e a latência média aumenta em apenas 15 ms durante a troca de modelos. Para aplicativos corporativos que exigem redundância de vários modelos, vários fornecedores podem ser especificados para executar a mesma tarefa ao mesmo tempo, e o sistema retorna automaticamente todos os resultados para seleção.
Os cenários típicos de aplicativos incluem: plataformas de comércio eletrônico que precisam testar a eficácia do GPT-4 e do texto de recomendação da Claude ao mesmo tempo, e aplicativos médicos que precisam comparar a precisão do reconhecimento de imagens médicas da AWS e do Google. Essa implementação de tecnologia torna a substituição de fornecedores de modelos tão fácil quanto a substituição de um driver de banco de dados.
Essa resposta foi extraída do artigoEden AI: conexão de mais de 100 modelos de IA por meio de uma API unificadaO
