SSHLLM: Client-seitiges Tool für den sicheren Zugriff auf AI Big Model-Dienste über SSH

SSHAI ist ein Open-Source-Tool. Es ermöglicht Benutzern die Verbindung zu KI-Diensten über das SSH-Protokoll. Die Benutzer können große Sprachmodelle in jeder SSH-fähigen Umgebung verwenden. Das Tool unterstützt Modelle wie DeepSeek und Hunyuan. Die Verbindungsmethode ist sicher und umfasst eine Passwort- und Public-Key-Authentifizierung. Die Benutzeroberfläche ist benutzerfreundlich und bietet farbige Ausgaben und Animationseffekte. Die Konfiguration ist einfach und erfolgt über YAML-Dateien, in denen API-Schlüssel und Prompt-Wörter festgelegt werden. Das Projekt wurde in der Sprache Go entwickelt, der modulare Aufbau ist leicht zu erweitern. Die Benutzer können den Prozess des Modelldenkens in Echtzeit verfolgen. Das Tool unterstützt das MCP-Protokoll und integriert externe Tools wie das Dateisystem und die Netzwerksuche. Beim Starten wird eine Willkommensseite angezeigt. Das Projekt ist Open Source auf GitHub unter der Apache 2.0 Lizenz. Benutzer können den Code direkt klonen, um ihn zu kompilieren und auszuführen. Die Open-Source-Version bietet einen Test-Server, Benutzer verbinden, um durch den Befehl ssh Erfahrung. Offizielle haben bezahlte Multi-User-Version.

Funktionsliste

• Sichere SSH-VerbindungVerschlüsselter Zugang zu KI-Diensten mit SSH-Protokoll, Unterstützung für Portanpassung und Hintergrundbetrieb.
• Flexible ZertifizierungUnterstützt Passwort-Login, SSH-Public-Key-Login ohne Passwort und keinen Authentifizierungsmodus, kompatibel mit RSA- und Ed25519-Schlüsseln.
• Unterstützung mehrerer ModelleIntegration von DeepSeek, Hunyuan und anderen großen Modellen, mit umschaltbaren lokalen oder Cloud-API-Endpunkten.
• Echtzeit-DenkanzeigeDie Denkschritte werden in Echtzeit angezeigt, während das Modell eine Antwort erzeugt, wie im Fall des Denkprozesses von DeepSeek R1.
• MCP-Werkzeug-IntegrationUnterstützung für das Model Context Protocol zur Verbindung mit externen Tools, einschließlich Zeitabfragen, Lesen und Schreiben von Dateien und Bing-Suchen.
• Schöne SchnittstelleFarbterminalausgabe, Animationseffekte und ASCII-Kunst zur Verbesserung des interaktiven Erlebnisses.
• KonfigurationsmanagementAPI-Schlüssel, Prompt-Wörter und Tool-Parameter mit YAML-Dateien setzen, dynamisches Laden von Konfigurationsdateien unterstützen.
• mehrsprachige SchnittstelleUmschaltung zwischen Chinesisch und Englisch zur Anpassung an unterschiedliche Nutzergewohnheiten.
• interaktiver ModusDrei Arten von Aufrufen, einschließlich interaktivem Chat, Einzelbefehlsausführung und Pipeline-Eingabeverarbeitung.
• Willkommensseite und ÜberwachungBenutzerdefinierte Banner werden beim Start angezeigt und ein eingebauter Wiederholungsmechanismus sorgt für stabile Verbindungen.

Hilfe verwenden

SSHAI ist ein Kommandozeilenwerkzeug. Benutzer benötigen eine Go-Umgebung, um es zu kompilieren und auszuführen. Es hat keine komplexe Installation. Der gesamte Prozess beginnt mit dem Klonen des Codes. Die Benutzer bereiten zunächst die Git- und Go-Tools vor. Dann wird Schritt für Schritt eine Verbindung mit dem KI-Dienst hergestellt. Die Werkzeuge laufen auf einem lokalen Server. Die Benutzer greifen mit dem Befehl ssh darauf zu. Hier sind die detaillierten Schritte.

Einbauverfahren

1. Klon-Lager.
   Öffnen Sie das Terminal. Geben Sie den Befehl Clone Code ein.

   git clone https://github.com/sshllm/sshai.git  
   cd sshai
   

   Dadurch werden alle Dateien heruntergeladen, einschließlich des Hauptprogramms und der Konfigurationsbeispiele. Die Größe des Repositorys ist gering und wird schnell heruntergeladen.

2. Compiler.
   SSHAI ist in Go geschrieben. Stellen Sie sicher, dass Go 1.20 oder höher installiert ist. Führen Sie den Befehl make zum Kompilieren aus.

   make build
   

   Oder verwenden Sie einfach go build.

   go build -o sshai cmd/main.go
   

   Nach der Kompilierung erzeugen Sie die ausführbare Datei sshai. im PATH-Pfad platziert, einfach aufzurufen. Wenn Sie Windows verwenden, verwenden Sie go build, um die Exe-Datei zu erzeugen.

3. YAML-Dateien konfigurieren.
   Kopieren Sie die Beispieldatei config.yaml. Bearbeiten Sie sie, um die Parameter festzulegen. Die Datei befindet sich im Stammverzeichnis. Die wichtigsten Abschnitte sind enthalten:
   • API-Endpunkte: z. B. die URL und der Schlüssel von DeepSeek. Beispiel:

     models:  
     deepseek:  
     api_key: "your-api-key"  
     base_url: "https://api.deepseek.com"
     

   • Authentifizierungseinstellungen: Benutzername und Passwort oder Pfad zum öffentlichen Schlüssel. Beispiel:

     auth:  
     username: "user"  
     password: "pass"  # 或用 public_keys: ["/path/to/key"]
     

   • Anpassung von Prompt-Wörtern: Definieren Sie System-Prompts, wie z. B. "Helfen Sie als KI-Assistent den Nutzern bei der Lösung von Problemen".
   • MCP-Tools: Aktivieren Sie die Dateisystem-Tools, um Pfadbeschränkungen festzulegen. Beispiel:

     mcp_tools:  
     filesystem:  
     enabled: true  
     root: "/safe/dir"
     

   Speichern Sie die Konfiguration, damit sie wirksam wird. Die englische Version verwendet config-en.yaml.

4. SSH-Schlüssel generieren (optional).
   Wenn Sie die Authentifizierung mit öffentlichem Schlüssel verwenden, erzeugen Sie ein Schlüsselpaar. Ausführen:

   ssh-keygen -t ed25519 -C "your-email"
   

   Kopieren Sie den öffentlichen Schlüssel in die Datei authorized_keys. Richten Sie ihn auf der Serverseite ein. Das Tool erkennt den Schlüssel automatisch.

Operationsserver

Nach der Kompilierung wird der SSHAI-Server gestartet. Er lauscht auf dem Port und bietet AI-Dienste an. Der Standardport ist 2213.

1. direkt laufen.
   Ausführen im Verzeichnis sshai:

   ./sshai
   

   Start des Servers. Es werden Willkommensbanner angezeigt, z. B. ASCII-Grafiken und Versionsinformationen. Log-Ausgabe an das Terminal.

2. Angeben von Konfigurationsdateien.
   Laden Sie benutzerdefinierte Konfigurationen mit dem Parameter -c:

   ./sshai -c config.yaml
   

   Damit werden die Standardeinstellungen außer Kraft gesetzt.

3. Hintergrundbetrieb.
   Produktionsumgebungen verwenden nohub oder redirect logging:

   nohup ./sshai > server.log 2>&1 &
   

   Oder verwenden Sie ein Skript:

   ./scripts/run.sh
   

   Das Skript kümmert sich um das Starten und die Protokollierung. Überprüfen Sie den Prozess: ps aux | grep sshai.

4. Testverbindung.
   Testen Sie die Server-Erfahrung mit Open Source, ohne dass Sie sie lokal ausführen müssen:

   ssh test.sshai.top -p 9527
   

   Geben Sie den Benutzernamen und das Passwort ein. Wechseln Sie in den interaktiven Modus.

Verknüpfung und Nutzung von KI-Diensten

Sobald der Server läuft, verbinden Sie sich mit dem ssh-Client. Das Tool unterstützt drei Modi. Wählen Sie den für Ihr Szenario geeigneten Modus.

1. interaktiver Modus.
   Öffnen Sie ein neues Terminal. Verbinden Sie sich mit dem lokalen Server:

   ssh user@localhost -p 2213
   

   Geben Sie ein Passwort ein oder verwenden Sie einen Schlüssel. Öffnen Sie den Chat-Bildschirm. Aufforderungen wie "AI>". Geben Sie eine Frage ein, z. B. "Erklären Sie Python-Listen". Die Antwort der KI wird in Echtzeit angezeigt, einschließlich der Gedankenkette. Beenden Sie den Chat mit exit oder Ctrl+D.
   Dialogbeispiel:

   • Benutzer: Schreiben Sie ein Hello World-Skript.
   • AI: Erzeugt Code und interpretiert jede Zeile. Unterstützt mehrere Dialogrunden mit Kontexterhaltung.
2. Kommandozeilenmodus.
   Führen Sie einen einzelnen Befehl ohne Interaktion aus:

   ssh user@localhost -p 2213 "分析这段JSON数据"
   

   Parameter als Hinweise übergeben. Direkte Ausgabe auf dem Terminal. Gut für Skript-Automatisierung. Fügen Sie den Parameter -p hinzu, um die Host-Prüfung zu überspringen:

   ssh -p 2213 -o StrictHostKeyChecking=no user@localhost "你的问题"
   

3. Pipeline-Modus.
   Verarbeitet Eingabeströme, z. B. Dateiinhalte:

   cat data.txt | ssh user@localhost -p 2213
   

   Oder in Kombination mit Echo:

   echo "优化这个SQL查询" | ssh user@localhost -p 2213
   

   AI analysiert Pipeline-Eingaben und erzeugt Ausgaben. Wird für das Parsen von Protokollen oder die Codeüberprüfung verwendet.

Featured Function Bedienung

• Echtzeit-Denkanzeige. Standardmäßig aktiviert. Im interaktiven Modus werden Modelle wie DeepSeek R1 "Thinking..." ausgeben und dann einen Schritt machen. Wird in der Konfiguration eingestellt:

  display:  
  thinking: true
  

  Helfen Sie den Nutzern, KI-Entscheidungen zu verstehen.

• MCP-Werkzeugeinsatz.. Wenn aktiviert, kann die KI das Tool aufrufen. Beispiel: Fügen Sie das Bing-Tool zur Konfiguration hinzu. Sagen Sie beim Chatten "Suche nach den neuesten KI-Nachrichten". Die KI ruft automatisch das Abruf-Tool auf und gibt die Ergebnisse zurück. Beispiel für das Datei-Tool:
  • Benutzer: Liest den Inhalt der Datei.
  • AI: Greifen Sie mit dem Dateisystemwerkzeug auf /root/file.txt zu, um den Inhalt anzuzeigen. Schränken Sie das Root-Verzeichnis sicher ein, um sensible Vorgänge zu vermeiden.
• Benutzerdefinierte Tipps. Bearbeiten Sie den Abschnitt Prompts in YAML. System-Prompts wie "Beantworten Sie technische Fragen auf Chinesisch". Anpassung des Präfixes der Benutzeraufforderung zur Verbesserung der Antwortqualität.
• Multimodell-Umschaltung. Konfigurieren Sie mehrere Modelle. Spezifizieren Sie zur Laufzeit:

  ssh user@localhost -p 2213 -m deepseek "问题"
  

  Das Tool wird dynamisch geladen und die Reaktionszeit hängt vom Modell ab.

Vorsichtsmaßnahmen bei der Handhabung

• Sicherheit. Verwenden Sie ein sicheres Passwort oder einen sicheren Schlüssel. Firewalls öffnen Port 2213. Vermeiden Sie den Zugang zu öffentlichen Netzwerken, es sei denn, Sie verwenden ein VPN.
• Leistungen. Der lokale Betrieb erfordert GPU-Unterstützung für große Modelle. Die Cloud-API hat Quotenbeschränkungen.
• Komponenten während der Prüfung anpassen. Die Protokolle befinden sich in server.log. Häufiger Fehler: Ungültiger API-Schlüssel, starten Sie den Server neu.
• Erweiterungen. Die Module befinden sich im internen Verzeichnis. Neue Werkzeuge hinzufügen, mcp-Paket ändern. PR auf GitHub einreichen.
• mobil. Verwenden Sie die Termux-App, um den ssh-Befehl auf Android auszuführen, um eine Verbindung herzustellen.

Mit diesen Schritten sind die Benutzer schnell einsatzbereit. Testserver helfen Neueinsteigern, sich einzuarbeiten. Flexible Konfiguration, geeignet für Einzelpersonen oder Teams. Stabiler Betrieb und schnelle Reaktion. Das Feedback der Nutzer zeigt, dass der Pipeline-Modus besonders nützlich ist.

Anwendungsszenario

1. Fernunterstützung bei der Entwicklung
   Entwickler generieren Code-Schnipsel oder Debug-Skripte mit SSHAI in GUI-losen Umgebungen wie Servern. Geben Sie Fehlerprotokolle über den Pipeline-Modus ein und KI analysiert schnell die Ursachen.
2. Betrieb und Wartung des Systems
   Betriebsingenieure verbinden Tools, um den Serverstatus abzufragen oder Konfigurationen zu optimieren. Das MCP-Tool integriert das Lesen und Schreiben von Dateien, KI schlägt automatisierte Skripte vor, um manuelle Vorgänge zu reduzieren.
3. Pädagogisches Lernen
   Schüler üben KI-Interaktionen am Terminal. Die Echtzeit-Denkanzeige hilft, die Modellüberlegungen zu verstehen. Umschalten zwischen Englisch und Chinesisch für Nicht-Muttersprachler zum Erlernen von Programmierkonzepten.
4. Teamarbeit
   Das Team setzt eine Mehrbenutzerversion ein. Jedes Mitglied meldet sich mit einem öffentlichen Schlüssel an und teilt Prompt-Vorlagen. Wird für Brainstorming-Sitzungen verwendet, bei denen KI die Diskussionspunkte zusammenfasst.
5. Generierung von Inhalten
   Autoren oder Analysten geben Entwürfe ein, und die KI bessert den Text aus. Langer Kontext wird unterstützt, um Berichte oder Artikelumrisse zu erstellen.

QA

1. Welche Umgebung benötigt SSHAI für den Betrieb?
   Benötigt Go 1.20+ und Git. Linux, macOS und Windows werden unterstützt. Kompiliert ohne Abhängigkeiten.
2. Wie kann ich ein neues KI-Modell hinzufügen?
   Bearbeiten Sie den Abschnitt models in config.yaml. Fügen Sie die API-URL und den Schlüssel hinzu. Starten Sie den Server neu, damit er wirksam wird.
3. Welche Authentifizierungsmethoden unterstützt das Tool?
   Passwort, öffentlicher SSH-Schlüssel und keine Authentifizierung. Der öffentliche Schlüssel wird für Automatisierungsskripte empfohlen.
4. Unterschied zwischen Open Source und kostenpflichtiger Version?
   Die Open-Source-Version ist für einen einzelnen Benutzer und für Einzelpersonen geeignet. Die kostenpflichtige Version ist unter sshllm.top zu finden und unterstützt mehrere Benutzer und eine erweiterte Verwaltung.
5. Wie sieht es mit Verbindungsabbrüchen aus?
   Überprüfen Sie Ports, Firewalls und Protokolle. Üblich sind Schlüsselberechtigungen, verwenden Sie chmod 600, um den privaten Schlüssel zu setzen.