Recursos técnicos e valor de O&M da implantação em contêineres
O AIRouter usa o esquema de orquestração Docker-Compose para encapsular o tempo de execução do Python, o banco de dados MySQL e os serviços de verificação de integridade para formar uma arquitetura completa de microsserviço. Em comparação com os métodos de implantação tradicionais, suas vantagens se refletem principalmente no seguinte: configuração do ambiente, por meio doDockerfile
Cura do Python 3.7+, PyTorch e outras dependências para resolver o problema típico de "funciona no meu computador"; Gerenciamento de recursos, usando odocker-compose.yml
Defina cotas de recursos de serviço (por exemplo, limite o gerenciador de chaves de API a usar 2 GB de memória) para evitar a concorrência de recursos no ambiente de produção.
O processo de implantação requer apenas a execução dedocker-compose up -d
Todos os componentes podem ser iniciados, inclusive o serviço de verificação de integridade na porta 8001, o serviço de gerenciamento de chaves na porta 8002 e o contêiner MySQL conectado automaticamente. Os dados de operação e manutenção mostram que o uso da implementação em contêineres reduz o tempo de configuração do ambiente para novos membros de 4 horas para 15 minutos, e a reversão da versão pode ser feita rapidamente usando tags de espelho.
Essa resposta foi extraída do artigoAIRouter: uma ferramenta de roteamento inteligente para invocar vários modelos com uma interface de API unificadaO