Uma solução que supera as limitações do modelo Claude Code
Com a ferramenta Any LLM in Claude Code, as seguintes etapas podem ser seguidas para obter a alternância livre de vários modelos:
- Preparação ambientalUso do ambiente Python 3.8+, gerenciamento automático de dependências por meio de ferramentas uv
- Modificação do arquivo de configuraçãoConfiguração: Configure dois conjuntos de parâmetros-chave no arquivo .env:
- Família de variáveis BIG_MODEL para controlar modelos de tarefas complexas
- Série de variáveis SMALL_MODEL para controlar o modelo de tarefa leve
- Modelo de política de roteamento::
- Requisitos de alto desempenho: configure o Vertex AI com o gemini-1.5-pro e outros modelos grandes para lidar com tarefas de soneto
- Requisitos diários: processamento de tarefas de haiku usando o gpt-4o-mini da OpenAI e outros modelos pequenos
- Processamento compatível com APILiteLLM: converte automaticamente os formatos de API de diferentes fornecedores sem intervenção manual.
Efeito de conquista: os usuários que só podiam usar o modelo fixo do Claude agora podem acessar diferentes níveis de modelos de vários provedores de serviços de IA ao mesmo tempo, alocando de forma inteligente os recursos de computação de acordo com o tipo de tarefa.
Essa resposta foi extraída do artigoQualquer LLM no código Claude: um agente de código aberto para chamar modelos multilíngues para o código ClaudeO