SSHLLM: ferramenta do lado do cliente para acesso seguro aos serviços do AI Big Model via SSH

O SSHAI é uma ferramenta de código aberto. Ela permite que os usuários se conectem a serviços de IA por meio do protocolo SSH. Os usuários podem usar modelos de linguagem grandes em qualquer ambiente habilitado para SSH. A ferramenta é compatível com modelos como DeepSeek e Hunyuan. O método de conexão é seguro e inclui autenticação por senha e chave pública. A interface é fácil de usar, com resultados coloridos e efeitos de animação. A configuração é simples, usando arquivos YAML para definir chaves de API e palavras de aviso. O projeto foi desenvolvido em linguagem Go e o design modular é fácil de ser ampliado. Os usuários podem ver o processo de modelagem em tempo real. A ferramenta é compatível com o protocolo MCP e integra ferramentas externas, como sistema de arquivos e pesquisa de rede. Mostra a página de boas-vindas na inicialização. O projeto é de código aberto no GitHub sob a licença Apache 2.0. Os usuários podem clonar diretamente o código para compilar e executar o . A versão de código aberto fornece um servidor de teste e os usuários se conectam à experiência por meio do comando ssh. A versão oficial tem versão multiusuário paga.

Lista de funções

• Conexão segura SSHAcesso criptografado aos serviços de IA com protocolo SSH, suporte para personalização de portas e operação em segundo plano.
• Certificação flexívelSuporte a login com senha, login sem senha com chave pública SSH e nenhum modo de autenticação, compatível com chaves RSA e Ed25519.
• Suporte a vários modelosIntegração do DeepSeek, Hunyuan e outros modelos grandes, com pontos de extremidade de API locais ou em nuvem alternáveis.
• Exibição do pensamento em tempo realEtapas de raciocínio são exibidas em tempo real à medida que o modelo gera uma resposta, como no caso do processo de raciocínio do DeepSeek R1.
• Integração da ferramenta MCPSuporte ao protocolo de contexto de modelo para conexão com ferramentas externas, incluindo pesquisas de tempo, leitura e gravação de arquivos e pesquisas no Bing.
• Interface bonitaSaída de terminal colorida, efeitos de animação e arte ASCII para aprimorar a experiência interativa.
• gerenciamento de configuraçãoConfiguração de chaves de API, palavras de prompt e parâmetros de ferramentas com arquivos YAML, suporte ao carregamento dinâmico de arquivos de configuração.
• Interface multilíngueOferece alternância entre chinês e inglês para se adaptar aos diferentes hábitos dos usuários.
• modo interativoTrês tipos de invocação, incluindo bate-papo interativo, execução de comando único e processamento de entrada de pipeline.
• Página de boas-vindas e monitoramentoBanners personalizados são exibidos na inicialização e um mecanismo de repetição integrado garante conexões estáveis.

Usando a Ajuda

O SSHAI é uma ferramenta de linha de comando. Os usuários precisam de um ambiente Go para compilá-la e executá-la. Não há nenhuma instalação complexa. Todo o processo começa com a clonagem do código. Os usuários primeiro preparam as ferramentas Git e Go. Em seguida, passo a passo, ele se conecta ao serviço de IA. As ferramentas são executadas em um servidor local. Os usuários o acessam com o comando ssh. Aqui estão as etapas detalhadas.

Processo de instalação

1. armazém de clones.
   Abra o terminal. Digite o comando Clone Code.

   git clone https://github.com/sshllm/sshai.git  
   cd sshai
   

   Isso fará o download de todos os arquivos, inclusive o programa principal e os exemplos de configuração. O tamanho do repositório é pequeno e o download é rápido.

2. compilador.
   O SSHAI é escrito em Go. Certifique-se de que o Go 1.20 ou posterior esteja instalado. Execute o comando make para compilar.

   make build
   

   Ou simplesmente use o go build.

   go build -o sshai cmd/main.go
   

   Após a compilação, gere o arquivo executável sshai. colocado no caminho PATH, fácil de chamar. Se você usa o Windows, use o go build para gerar o arquivo exe.

3. Configuração de arquivos YAML.
   Copie o arquivo de exemplo config.yaml e edite-o para definir os parâmetros. O arquivo está no diretório raiz. As seções principais estão incluídas:
   • Pontos de extremidade da API: por exemplo, o URL e a chave do DeepSeek. Exemplo:

     models:  
     deepseek:  
     api_key: "your-api-key"  
     base_url: "https://api.deepseek.com"
     

   • Configurações de autenticação: nome de usuário e senha ou caminho da chave pública. Exemplo:

     auth:  
     username: "user"  
     password: "pass"  # 或用 public_keys: ["/path/to/key"]
     

   • Personalização de palavras de prompts: defina prompts do sistema, como "Como assistente de IA, ajude os usuários a resolver problemas".
   • Ferramentas MCP: habilite as ferramentas do sistema de arquivos para definir restrições de caminho. Exemplo:

     mcp_tools:  
     filesystem:  
     enabled: true  
     root: "/safe/dir"
     

   Salve a configuração para que ela entre em vigor. A versão em inglês usa config-en.yaml.

4. Gerar chave SSH (opcional).
   Se estiver usando autenticação de chave pública, gere um par de chaves. Executar:

   ssh-keygen -t ed25519 -C "your-email"
   

   Copie a chave pública para o arquivo authorized_keys. Configure-a no lado do servidor. A ferramenta reconhece a chave automaticamente.

Servidor de operações

Após a compilação, o servidor SSHAI é iniciado. Ele escuta na porta e fornece serviços de IA. A porta padrão é 2213.

1. executar diretamente.
   Execute no diretório sshai:

   ./sshai
   

   Inicialização do servidor. São exibidos banners de boas-vindas, como arte ASCII e informações sobre a versão. Saída de registro para o terminal.

2. Especificação de arquivos de configuração.
   Carregue configurações personalizadas com o parâmetro -c:

   ./sshai -c config.yaml
   

   Isso substitui as configurações padrão.

3. operação em segundo plano.
   Os ambientes de produção usam o registro nohub ou de redirecionamento:

   nohup ./sshai > server.log 2>&1 &
   

   Ou use um script:

   ./scripts/run.sh
   

   O script lida com a inicialização e o registro. Verifique o processo: ps aux | grep sshai.

4. conexão de teste.
   Teste a experiência do servidor com código aberto, sem necessidade de executá-lo localmente:

   ssh test.sshai.top -p 9527
   

   Digite o nome de usuário e a senha. Entre no modo interativo.

Conectar e usar serviços de IA

Quando o servidor estiver em execução, conecte-se com o cliente ssh. A ferramenta oferece suporte a três modos. Escolha o que melhor se adapta ao cenário.

1. modo interativo.
   Abra um novo terminal. Conecte-se ao servidor local:

   ssh user@localhost -p 2213
   

   Digite uma senha ou use uma chave. Entre na tela de bate-papo. Prompts como "AI>". Digite uma pergunta, como "Explain Python lists". A resposta da IA é exibida em tempo real, incluindo a cadeia de raciocínio. Saia com exit ou Ctrl+D.
   Exemplo de diálogo:

   • Usuário: Escreva um script Hello World.
   • IA: gera código e interpreta cada linha. Oferece suporte a várias rodadas de diálogo com preservação de contexto.
2. modo de linha de comando.
   Executar um único comando sem interação:

   ssh user@localhost -p 2213 "分析这段JSON数据"
   

   Passar parâmetros como dicas. Saída direta para o terminal. Ideal para automação de scripts. Adicione o parâmetro -p para ignorar a verificação do host:

   ssh -p 2213 -o StrictHostKeyChecking=no user@localhost "你的问题"
   

3. Modo Pipeline.
   Processa fluxos de entrada, como o conteúdo de arquivos:

   cat data.txt | ssh user@localhost -p 2213
   

   Ou em combinação com o eco:

   echo "优化这个SQL查询" | ssh user@localhost -p 2213
   

   A IA analisa a entrada do pipeline e gera saída. Usada para análise de logs ou revisão de código.

Operação da função em destaque

• Exibição do pensamento em tempo real. Ativado por padrão. No modo interativo, modelos como o DeepSeek R1 emitirão a mensagem "Thinking..." (Pensando...) e, em seguida, darão um passo. Definido em Configuração:

  display:  
  thinking: true
  

  Ajude os usuários a entender as decisões de IA.

• Uso da ferramenta MCP.. Quando ativada, a IA pode invocar a ferramenta. Exemplo: Adicionar a ferramenta Bing à configuração. Durante o bate-papo, diga "Search for the latest AI news". A IA chama automaticamente a ferramenta fetch e retorna os resultados. Exemplo da ferramenta de arquivo:
  • Usuário: lê o conteúdo do arquivo.
  • IA: acesse /root/file.txt com a ferramenta do sistema de arquivos para exibir o conteúdo. Restrinja com segurança o diretório raiz para evitar operações confidenciais.
• Dicas personalizadas. Edite a seção de prompts do YAML. Prompts do sistema como "Responda a perguntas técnicas em chinês". Personalização do prefixo do prompt do usuário para melhorar a qualidade da resposta.
• Comutação de vários modelos. Configurar vários modelos. Especificar em tempo de execução:

  ssh user@localhost -p 2213 -m deepseek "问题"
  

  A ferramenta é carregada dinamicamente e o tempo de resposta depende do modelo.

Precauções de manuseio

• segurança. Use uma senha ou chave forte. Os firewalls abrem a porta 2213. Evite a exposição à rede pública, a menos que esteja usando uma VPN.
• performances. A operação local requer suporte de GPU para modelos grandes. A API da nuvem tem restrições de cota.
• ajustar os componentes durante o teste. Os registros estão em server.log. Erro comum: chave de API inválida, reinicie o servidor.
• extensões. Os módulos estão no diretório interno. Adicione novas ferramentas, modifique o pacote mcp. Contribua com PR para o GitHub.
• móvel. Use o aplicativo Termux para executar o comando ssh no Android para se conectar.

Essas etapas fazem com que os usuários se familiarizem rapidamente. Os servidores de teste ajudam os novatos a se familiarizarem. Configuração flexível, adequada para indivíduos ou equipes. Operação estável e resposta rápida. O feedback dos usuários mostra que o modo pipeline é particularmente útil.

cenário do aplicativo

1. Assistência ao desenvolvimento remoto
   Os desenvolvedores geram trechos de código ou depuram scripts com SSHAI em ambientes sem GUI, como servidores. Insira registros de bugs por meio do modo pipeline e a IA analisa rapidamente as causas.
2. Operação e manutenção do sistema
   Os engenheiros de operações conectam ferramentas para consultar o status do servidor ou otimizar as configurações. A ferramenta MCP integra a leitura e a gravação de arquivos e a IA sugere scripts automatizados para reduzir as operações manuais.
3. Aprendizagem educacional
   Os alunos praticam interações de IA no terminal. A exibição de think-aloud em tempo real ajuda a entender o raciocínio do modelo. Alterne entre inglês e chinês para que usuários não nativos aprendam conceitos de programação.
4. Trabalho em equipe
   A equipe implementa uma versão multiusuário. Cada membro faz login com uma chave pública e compartilha modelos de prompt. Usado para sessões de brainstorming em que a IA resume os pontos de discussão.
5. Geração de conteúdo
   Os redatores ou analistas enviam rascunhos e a IA retoca o texto. O contexto longo é compatível com a geração de esboços de relatórios ou artigos.

QA

1. Que ambiente a SSHAI precisa para ser executada?
   Requer Go 1.20+ e Git. Há suporte para Linux, macOS e Windows. Compila sem dependências.
2. Como faço para adicionar um novo modelo de IA?
   Edite a seção models do config.yaml. Adicione o URL e a chave da API. Reinicie o servidor para que isso tenha efeito.
3. Quais métodos de autenticação são compatíveis com a ferramenta?
   Senha, chave pública SSH e nenhuma autenticação. Chave pública recomendada para scripts de automação.
4. Qual é a diferença entre a versão de código aberto e a versão paga?
   A versão de código aberto é de usuário único e adequada para indivíduos. A versão paga está em sshllm.top e oferece suporte a vários usuários e administração avançada.
5. E quanto às falhas de conexão?
   Verifique as portas, os firewalls e os registros. O comum são as permissões de chave, use chmod 600 para definir a chave privada.