MemOS: Ein Open-Source-System zur Verbesserung der Speicherkapazität von großen Sprachmodellen

MemOS ist ein Open-Source-System, das sich auf Speichererweiterungen für Large Language Models (LLMs) konzentriert. Es hilft den Modellen, kontextbezogene Informationen durch innovative Speicherverwaltungs- und Planungsmechanismen besser zu speichern, abzurufen und zu nutzen. memOS zeichnet sich durch Aufgaben wie Multi-Hop-Inferenz, Open-Domain-Q&A und zeitliche Inferenz aus und liefert signifikante Leistungsverbesserungen gegenüber herkömmlichen Modellen, wie z. B. eine 1.59% höhere Genauigkeit bei der zeitlichen Inferenz. memOS unterstützt die Linux-Plattform und ist für Entwickler einfach zu integrieren und zu erweitern, wodurch es sich für die Entwicklung intelligenterer KI-Anwendungen eignet. Es unterstützt die Linux-Plattform und lässt sich von Entwicklern leicht integrieren und erweitern, so dass es sich für die Entwicklung intelligenterer KI-Anwendungen eignet. Das Projekt ist auf GitHub aktiv und wird von der Community umfassend unterstützt. Entwickler können über GitHub Issues, Discussions oder Discord Beiträge leisten.

Funktionsliste

• Memory Augmented Generation (MAG): bietet eine einheitliche API-Schnittstelle zur Unterstützung von Chats und Schlussfolgerungen durch Modelle in Verbindung mit kontextbezogenen Erinnerungen.
• Modulare Speicherarchitektur (MemCube): flexible Verwaltung mehrerer Speichertypen für Entwickler zur Anpassung und Erweiterung.
• Textspeicherverwaltung: Unterstützt die Speicherung und den Abruf von strukturiertem oder unstrukturiertem Textwissen, geeignet für die schnelle Aktualisierung von Wissen.
• Speicherplanungsmechanismus: Dynamische Zuweisung von Speicherressourcen zur Optimierung der Modellleistung bei Aufgaben mit langem Kontext.
• Versionskontrolle und Governance: Bietet Zugriffskontrolle, Rückverfolgbarkeit und Interpretation von Speichern, um die Einhaltung von Sicherheitsvorschriften zu gewährleisten.
• Unterstützung für mehrere LLM-Integrationen: Kompatibel mit den gängigen großen Sprachmodellen und Verbesserung ihrer Speicherkapazität.
• Tools für die Zusammenarbeit in der Community: Unterstützt Beiträge und den Austausch von Entwicklern über GitHub Issues, Pull Requests und Discord.

Hilfe verwenden

Einbauverfahren

MemOS unterstützt derzeit die Linux-Plattform, bei Windows und macOS können Kompatibilitätsprobleme auftreten. Nachfolgend finden Sie die detaillierten Installationsschritte:

1. Klon-Lager
   Verwenden Sie Git, um Ihr MemOS-Repository lokal zu klonen:

   git clone https://github.com/MemTensor/MemOS.git
   cd MemOS
   

2. Installation von Abhängigkeiten
   Führen Sie den folgenden Befehl aus, um MemOS zu installieren (der editierbare Modus wird empfohlen):

   make install
   

   Stellen Sie sicher, dass Python und die zugehörigen Abhängigkeiten auf Ihrem System installiert sind. Wenn Sie ein Python-System verwenden müssen, das auf transformers Bibliothek muss PyTorch installiert sein, und für die GPU-Beschleunigung wird eine CUDA-fähige Version empfohlen:

   pip install torch
   

3. Ollama installieren (optional)
   Wenn ein Bedarf an Kommunikation mit Ollama Für die Integration muss zunächst die Ollama CLI installiert werden:

   curl -fsSL https://ollama.com/install.sh | sh
   

4. Überprüfen der Installation
   Sobald die Installation abgeschlossen ist, können Sie den Erfolg überprüfen, indem Sie den Beispielcode ausführen oder die Dokumentation lesen. Der Pfad zur Dokumentation lautet:
   docs/api/info Oder besuchen Sie die Online-Dokumentation:https://memos.openmem.net/docs/api/info.

Verwendung

Die Kernfunktion von MemOS ist die Erzeugung von Speichererweiterungen und die Speicherverwaltung durch API-Aufrufe. Nachstehend finden Sie den detaillierten Ablauf der Hauptfunktionen:

1. die Speichererweiterungsgeneration (MAG)

MemOS bietet eine einheitliche API-Schnittstelle, die es Entwicklern ermöglicht, gedächtnisgestützte Chats oder Argumentationen zu implementieren, indem sie die folgenden Schritte ausführen:

• Initialisierung von MemOS
  Importieren und initialisieren Sie die MemOS-Bibliothek in Ihrer Python-Umgebung:

  from memos import MemoryAugmentedGeneration
  mag = MemoryAugmentedGeneration(model="gpt-4o-mini")  # 示例模型
  

• Speicher hinzufügen
  Speichert Benutzereingaben oder kontextbezogene Informationen als Speicher:

  mag.add_memory(user_id="user1", content="用户喜欢科技新闻")
  

• Eine Antwort generieren
  Rufen Sie die API auf, um eine Antwort zu erzeugen, die Erinnerungen kombiniert:

  response = mag.generate(query="推荐一些科技新闻", user_id="user1")
  print(response)
  

  MemOS generiert personalisierte Antworten auf der Grundlage gespeicherter Erinnerungen, wie z. B. "Nutzer mögen technische Nachrichten".

2. die Verwaltung des Textspeichers

MemOS unterstützt das Speichern und Abrufen von textuellem Wissen, was sich für die schnelle Aktualisierung von Wissensdatenbanken eignet:

• Gespeicherter Textspeicher
  Verwenden Sie die API, um strukturierten oder unstrukturierten Text zu speichern:

  mag.store_text_memory(content="2025年AI趋势：记忆增强技术", tags=["AI", "趋势"])
  

• Speicher abrufen
  Abruf relevanter Erinnerungen auf der Grundlage der Abfrage:

  results = mag.search_memory(query="AI趋势", limit=3)
  for result in results:
  print(result["content"])
  

3. die Planung und Optimierung des Speichers

Der MemScheduler von MemOS verwaltet die Speicherressourcen dynamisch, so dass die Entwickler sie nicht mehr manuell konfigurieren müssen. Standardmäßig werden die Speicherressourcen automatisch auf der Grundlage des Aufgabentyps zugewiesen (z. B. Multi-Hop-Reasoning oder Temporal Reasoning). Wenn Sie das Scheduling anpassen möchten, können Sie dies über eine Konfigurationsdatei tun:

config/scheduler.yaml

4. gemeinschaftliche Zusammenarbeit

MemOS ermutigt Entwickler, sich an Beiträgen der Gemeinschaft zu beteiligen:

• Eine Frage oder einen Funktionswunsch einreichen: Melden Sie Fehler oder schlagen Sie neue Funktionen auf der GitHub Issues-Seite vor.
• Code beisteuernEinreichen von Code-Verbesserungen über GitHub Pull Requests.
• Beteiligen Sie sich an der DiskussionKommunikation mit Entwicklern auf GitHub Discussions oder dem Discord-Server.

Featured Function Bedienung

MemOS zeichnet sich durch zeitliche Schlussfolgerungen und Multi-Hop-Schlussfolgerungen aus. Bei zeitlichen Schlussfolgerungen können Entwickler zum Beispiel testen, indem sie:

mag.add_memory(user_id="test", content="2024年10月，AI会议召开")
mag.add_memory(user_id="test", content="2025年1月，新模型发布")
response = mag.generate(query="AI会议后发生了什么？", user_id="test")
print(response)  # 输出：新模型发布

Dies wird durch die MemCube-Architektur erreicht, die sicherstellt, dass die Erinnerungen genau in chronologischer Reihenfolge abgerufen werden.

Anwendungsszenario

1. Personalisierter KI-Assistent
   MemOS kann KI-Assistenten mit einem Langzeitgedächtnis ausstatten, das sich die Vorlieben der Nutzer merkt (z. B. bevorzugte Nachrichtenarten oder Einkaufsgewohnheiten), um genauere Empfehlungen und Antworten zu geben.
   So können Entwickler beispielsweise einen Chatbot für eine E-Commerce-Plattform entwickeln, der sich die Kaufhistorie eines Benutzers merkt, um das Benutzererlebnis zu verbessern.
2. Wissensmanagement-System
   Die Funktionen von MemOS zur Verwaltung von Textspeichern sind ideal für Unternehmen, die interne Wissensdatenbanken aufbauen, um Dokumente, Berichte oder technische Informationen schnell zu speichern und abzurufen.
   Technische Teams können MemOS zum Beispiel zur Verwaltung von Projektdokumenten und zur Erleichterung der abteilungsübergreifenden Zusammenarbeit nutzen.
3. Bildung und Forschung
   MemOS hilft Forschern bei der Speicherung und Analyse von experimentellen Daten oder Literaturaufzeichnungen und unterstützt Multi-Hop-Reasoning zur Beantwortung komplexer Fragen.
   Mit MemOS können Studierende beispielsweise ihre Kursnotizen organisieren und schnell auf relevantes Wissen zugreifen.

QA

1. Welche Plattformen werden von MemOS unterstützt?
   Derzeit unterstützt es hauptsächlich Linux, Windows und macOS können Kompatibilitätsprobleme haben. Es wird empfohlen, es in einer Linux-Umgebung zu verwenden.
2. Ist ein spezieller LLM erforderlich?
   MemOS unterstützt eine breite Palette von großen Sprachmodellen und verwendet standardmäßig die OpenAI gpt-4o-miniaber andere Modelle können anhand der Dokumentation konfiguriert werden.
3. Wie kann ich mich an der MemOS-Entwicklung beteiligen?
   Sie können Probleme über GitHub Issues melden, Pull Requests einreichen, um Code beizusteuern, oder an der Diskussion in der Discord-Community teilnehmen.
4. Was sind die Leistungsvorteile von MemOS?
   Im Vergleich zum traditionellen Modell verbessert MemOS die zeitliche Inferenz um 1591 TP3T, verbessert die Gesamtgenauigkeit um 38.981 TP3T und reduziert 60.951 TP3T der Token Der Verbrauch.