Ein praktischer Ansatz zur Verbesserung der Ausgabegenauigkeit von dreiwertigen Gewichtungsmodellen
Obwohl Bonsai eine parametrische Komprimierungstechnik verwendet, kann die Erzeugung durch die folgenden Methoden erheblich verbessert werden:
- Kombinationen von Parametereinstellungen::
- Temperaturkoeffizient (Bereich 0,3-0,7, geeignet für sachliche Q&A)
- Top-p-Stichproben (0,9-0,95 empfohlen, um ein Gleichgewicht zwischen Vielfalt und Genauigkeit zu erreichen)
- Wiederholung der Strafe (Einstellungen)
repetition_penalty=1.2(Vermeiden Sie zyklische Ausgaben)
- Vorverarbeitung der Eingaben::
- Fügen Sie Aufgabenpräfixe wie
[问答]und[摘要]Klärung der Absicht - Bei Fragen zu Fachgebieten geben Sie in der Aufforderung 3-5 Stichworte an
- Fügen Sie Aufgabenpräfixe wie
- Wiederaufbereitungstechniken::
- Kosten oder Aufwand
skip_special_tokens=TrueFilterung von Steuerzeichen - Überprüfung des sachlichen Inhalts (z. B. Daten, Ortsnamen usw.) in Verbindung mit einer Regelmaschine
- Kosten oder Aufwand
Empirische Tests zeigen, dass ein optimiertes Bonsai die Genauigkeit bei Quizaufgaben zum Allgemeinwissen um 18-23% verbessern kann.
Diese Antwort stammt aus dem ArtikelBonsai: Ein dreiwertiges gewichtetes Sprachmodell, das für den Einsatz auf Randgeräten geeignet istDie
Darf nicht ohne Genehmigung vervielfältigt werden:KI-Produktivitätswerkzeuge " Wie kann die Qualität der Texterstellung für Bonsai-Modelle optimiert werden?
