Soluções aprimoradas por IA com custo zero de hardware
O Siri Ultra adota de forma inovadora uma solução de software puro para atualizar a funcionalidade do Siri, e sua solução técnica contém três projetos principais: 1) Implantar o processo de inferência de modelo no nó mais próximo do usuário com base na rede de computação de borda da Cloudflare; 2) Usar o armazenamento de valor-chave KV para salvar as configurações do usuário, evitando a necessidade de persistência local; e 3) Permitir a implantação rápida do Siri Ultra por meio do gerenciamento de pacotes npm padrão. implantação rápida de ambientes dependentes.
Em comparação com as soluções tradicionais de hardware de IA, essa solução tem vantagens significativas: os usuários não precisam comprar equipamentos de chip NPU, e todos os modelos de iPhone lançados depois de 2015 são compatíveis; os recursos de computação em nuvem são alocados sob demanda, evitando o desperdício de aritmética de terminal; as atualizações de modelos são concluídas pelo lado do servidor, garantindo que todos os usuários estejam sincronizados com os recursos mais recentes. Os testes reais de implementação mostram que são necessários apenas 15 minutos desde a clonagem do código até a ativação da função, e o custo anual de operação e manutenção é inferior a US$ 5.
Esse modelo de implantação leve reduz drasticamente o limite para o uso da tecnologia de IA, tornando os recursos dos modelos avançados de linguagem realmente acessíveis aos usuários em massa.
Essa resposta foi extraída do artigoSiri Ultra: Troque o Apple Siri pelo DeepSeeK-R1/ChatGPT para conversas e pesquisas on-line mais inteligentesO
