Ollama Installation und Konfiguration - Linux Systeme

kurz

In diesem Abschnitt erfahren Sie, wie Sie die Ollama Installation und Konfiguration sowie Updates von Ollama, Installation bestimmter Versionen, Anzeige von Protokollen und Deinstallation.

I. Schnelle Installation

Ollama Herunterladen: https://ollama.com/download

Die offizielle Homepage von Ollama: https://ollama.com

Ollama offizielles GitHub Quellcode-Repository: https://github.com/ollama/ollama/

Die offizielle Website bietet eine Befehlszeilen-Schnellinstallation.

curl -fsSL https://ollama.com/install.sh | sh

Dieser Befehl lädt automatisch die neueste Version von Ollama herunter und schließt die Installation ab. Die folgenden Befehle werden von Ollama häufig verwendet:

ollama serve         #启动ollama
ollama create        #从模型文件创建模型
ollama show          #显示模型信息
ollama run           #运行模型
ollama pull          #从注册表中拉取模型
ollama push          #将模型推送到注册表
ollama list          #列出模型
ollama cp            #复制模型
ollama rm            #删除模型
ollama help          #获取有关任何命令的帮助信息

• Überprüfen Sie, ob die Installation abgeschlossen ist, im Exec Eingabe unter:

ollama -h

Die Ausgabe sieht wie folgt aus: Das bedeutet, dass die Installation erfolgreich ist🎉.

• Ollama aktivieren und verwenden

Öffnen Sie zunächst Ollama im Terminal und hängen Sie es in den Hintergrund

ollama serve

Bibliothek (ollama.com)Hier ist die Modellbibliothek von Ollama, suchen Sie das gewünschte Modell, öffnen Sie ein neues Terminal und starten Sie!

ollama run llama3

Die Download-Geschwindigkeit hängt von Ihrer Bandbreite ab und ist einsatzbereit ✌Denken Sie daran, die control + D Chat beenden

II. manuelle Installation

Hinweis: Wenn eine ältere Version von ollama bereits installiert war, müssen Sie eine manuelle Deinstallation durchführen.sudo rm -rf /usr/lib/ollama Weitere Anforderungen 👉Referenzenoffizielle Website

2.1 Laden Sie das für Ihr Betriebssystem geeignete Installationspaket herunter und entpacken Sie es.

curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
sudo tar -C /usr -xzf ollama-linux-amd64.tgz

AMD-GPUHerunterladen:

curl -L https://ollama.com/download/ollama-linux-amd64-rocm.tgz -o ollama-linux-amd64-rocm.tgz
sudo tar -C /usr -xzf ollama-linux-amd64-rocm.tgz

ARM 64Herunterladen:

curl -L https://ollama.com/download/ollama-linux-arm64.tgz -o ollama-linux-arm64.tgz
sudo tar -C /usr -xzf ollama-linux-arm64.tgz

2.2 Ollama starten und überprüfen

Geben Sie den folgenden Befehl ein, um Ollama zu starten:

ollama serve

Überprüfen Sie, ob ollama erfolgreich läuft, indem Sie ein anderes Terminal öffnen und den folgenden Befehl eingeben

ollama -v

2.3 Hinzufügen von Ollama als selbststartender Dienst (empfohlen)

Erstellen Sie zunächst Benutzer und Gruppen für Ollama:

sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)

Dann in dieser Position:/etc/systemd/system/ollama.service Erstellen einer Servicedatei

[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"
[Install]
WantedBy=default.target

Starten Sie schließlich den Dienst:

sudo systemctl daemon-reload
sudo systemctl enable ollama

III. Aktualisierungen

Führen Sie die vorherige Installationsanweisung erneut aus, um Ollama zu aktualisieren:

curl -fsSL https://ollama.com/install.sh | sh

Oder laden Sie das neueste Ollama-Paket erneut herunter:

curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
sudo tar -C /usr -xzf ollama-linux-amd64.tgz

IV. die Installation bestimmter Versionen

aufstellen OLLAMA_VERSIONFelder,, Sie können die entsprechende Version installieren

curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.5.7 sh

V. Einsicht in das Protokoll

Sehen Sie sich die Protokolle von Ollama an, das als Startdienst läuft:

journalctl -e -u ollama

VI. Deinstallation

• Löschen Sie den Ollama-Dienst:

sudo systemctl stop ollama
sudo systemctl disable ollama
sudo rm /etc/systemd/system/ollama.service

• Entfernen Sie die Ollama-Binärdateien aus dem bin-Verzeichnis: /usr/local/bin ,/usr/bin ,/bin

sudo rm $(which ollama)

• Löschen Sie heruntergeladene Modelle sowie Benutzer und Gruppen von Ollama-Diensten:

sudo rm -r /usr/share/ollama
sudo userdel ollama
sudo groupdel ollama

• Heruntergeladene Bibliotheksdateien löschen

sudo rm -rf /usr/local/lib/ollama