Etapa 3 A perfeição é obtida por meio de:
- suporte nativo APIs REST compatíveis com OpenAI/Anthropic Os protocolos de interface e os formatos de solicitação são idênticos
- fornecendo um
/v1/completionsEndpoints que suportam entrada mista de texto/imagem no formato JSON
Etapas de implementação:
- aprovar (um projeto de lei ou inspeção etc.)
git clone https://github.com/stepfun-ai/Step3.gitObter código - fazer uso de
python -m vllm.entrypoints.api_serverIniciar o serviço (porta padrão 8000) - Consulte o código de amostra para modificar o
base_urlendereço local
Os testes demonstraram que o tempo médio de transformação para a migração de aplicativos existentes pode ser mantido abaixo de 2 horas.
Essa resposta foi extraída do artigoEtapa 3: geração eficiente de macromodelos de código aberto para conteúdo multimodalO
Não pode ser reproduzido sem permissão:Ferramentas de produtividade de IA " Como implementar rapidamente serviços multimodais compatíveis com APIs comerciais, como a OpenAI
Português do Brasil 
简体中文 
English 
日本語 
Deutsch