Reflexion LLAMA 3.1: Eine selbstkorrigierende LLM, die am 6. September 2024

ver?ffentlicht wurde

Reflection LLAMA 3.1, eine verfeinerte Version des Lama 3.1 70b-Modells, das am 6. September 2024 vorgestellt wurde. Die innovative "Reflexionstabierung" erm?glicht die Erkennung und Korrektur von Selbstregelung, was auf erh?hte Genauigkeit abzielt. In diesem Artikel wird das Modell, seine Funktionalit?t und die Art und Weise untersucht, wie man darauf zugreift und testet.

Reflexion Lama 3.1: Entwicklung und Zeitleiste

Der Start des Modells führte zu erheblichem Aufsehen und brachte zun?chst überlegene Leistung für Closed-Source-Modelle wie GPT-4O und Claude 3.5 Sonett bei Benchmark-Tests. Nachfolgende Tests durch künstliche Analyse ergab jedoch Inkonsistenzen. Ein anf?ngliches Upload zum Umarmungsgesicht enthielt einen Gewichtungsfehler. Eine korrigierte Version, die auf OpenRouter eingesetzt wurde, enthüllte eine unerwartete Selbstidentifikation als Claude-Sonnet 3.5, wobei Fragen zu ihrer wahren Fundament aufgeworfen wurden. W?hrend private API -Tests eine verbesserte Leistung zeigten, blieb die unabh?ngige überprüfung unm?glich. Die neueste umarmende Gesichts -Iteration, die über diesen Link zug?nglich ist [Link gem?? Originaltext], zeigte die Leistung, die der privaten API -Version unterlegen ist. Reproduzierbarkeitsprobleme bestehen bestehen und lassen die tats?chlichen F?higkeiten des Modells unsicher.

Reflexion Lama 3.1

verstehen

Reflection LLAMA 3.1 nutzt das Lama 3.1 70b-Modell und enth?lt Reflexionsabstimmungen. Dieser Prozess beinhaltet:

• Denk Tags (<thinking></thinking>): Das Modell beschreibt seinen Argumentationsprozess.
• Reflexions -Tags (<reflection></reflection>): Das Modell identifiziert und korrigiert Fehler in seiner Argumentation.
• Ausgabetags (<output></output>): Das Modell zeigt seine endgültige Antwort.

Dieser strukturierte Ansatz verbessert die Transparenz und Genauigkeit. Das Modell wurde unter Verwendung von synthetischen Daten von Glaive AI geschult, wobei die Bedeutung hochwertiger Datens?tze hervorgehoben wurde. Obwohl es sich in der Forschungsphase befindet, übertrifft es Berichten zufolge die führenden Modelle mit geschlossenen Source-Modellen für Benchmarks wie MMLU, Math und GSM8K. Seine Sch?pfer erwarten die bevorstehende Reflexion Lama 405b, diese Modelle erheblich zu übertreffen.

Reflexion Lama 3.1 auf Google Colab

einrichten

Zugriff auf Reflection Lama 3.1 ist mit den richtigen Werkzeugen unkompliziert. Es ist für umarmende Face, Ollama und hyperbolische Labors erh?ltlich. Google Colab Pro mit seiner A100 -GPU (die gekaufte Recheneinheiten erforderlich ist) wird für das 70B -Modell empfohlen.

Schritt 1: GPU -Zugriff

Verbindung zu einer A100 -GPU über Laufzeit → Laufzeittyp ?ndern.

Schritt 2: OLLAMA -Installation und Modell Download

!pip install colab-xterm Verwenden Sie das Terminal in Colab (mit %xterm und curl -fsSL <https:> | sh</https:>), um Ollama (ollama serve) zu installieren und es auszuführen (ollama run reflection). Laden Sie in einem zweiten Terminal das Reflexionsmodell herunter (

).

Schritt 3: Langchain -Integration

langchain (!pip install langchain langchain_community langchain-openai langchain-ollama) installieren und die Eingabeaufforderung (mit PromptTemplate aus langchain.prompts und ChatOllama aus langchain_ollama) installieren. Initialisieren Sie das Modell mit ChatOllama(model="reflection", temperature=0) und rufen Sie es mit Ihrer Eingabe auf. Beispiel:

reflection_model.invoke({'input': "Hi, how are you?"})

Reflexion Lama 3.1 in Aktion

Das Modell wurde mit verschiedenen Eingabeaufforderungen getestet:

• Numerisches Denken: erfolgreich berechnet und verglichen Renditen, obwohl der Reflexionsabschnitt Inkonsistenzen zeigte.
• einfache Vergleiche: ursprünglich fehlerhaft im Vergleich 9.9 und 9.11, aber "Sorgf?ltig" hinzufügen, verbesserte die Genauigkeit.
• Ereignisse z?hlen: Die "R" S in "Strawberry" genau gez?hlt.
• Ambiguit?tsaufl?sung: Das Arzt R?tsel korrekt gel?st, was eine Vorspannerkennung zeigt.
• falsche Informationskorrektur: akzeptierte zun?chst eine falsche Aussage über den Standort des Eiffelturms, aber selbstkorrigiert.
• Commonsense-Argumentation: erfolgreich durch ein Ursache-und-Wirkungs-Szenario begründet, was mehrere M?glichkeiten anerkennt.
• Codegenerierung: generierten Funktionscode für ein einfaches Schlangenspiel.

Reflexion Lama 3.1: Anwendungen und Einschr?nkungen

Die Selbstkorrektur von

Reflection Lama 3.1 ist für Mathematik, Logik, Codegenerierung, Debuggen und Faktenprüfung geeignet. Die Selbstkorrektur sorgt jedoch für Komplexit?t und wirkt sich m?glicherweise auf Geschwindigkeit und Kosten aus. Es k?nnen noch Ungenauigkeiten auftreten. Die bevorstehende Reflexion Lama 405b verspricht signifikante Verbesserungen.

Schlussfolgerung

Die Reflexionsabstimmung von

Reflection Lama 3.1 ist eine vielversprechende Entwicklung, aber die Reproduzierbarkeitsprobleme unterstreichen die anhaltenden Herausforderungen bei der Entwicklung von AI-Modell. W?hrend die Selbstkorrektur wertvoll ist, bleiben strenge Tests und Validierung entscheidend.

[FAQS -Abschnitt weggelassen, da es sich um eine direkte Kopie der FAQs des Originaltextes handelt]

Das obige ist der detaillierte Inhalt vonReflexion LLAMA-3.1 70B: Test und Zusammenfassung dessen, was wir wissen. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!