Zum Inhalt springen
Vareon

Schlägt Fine-Tuning, ohne Trainingslauf.

Duplex ließ ein eingefrorenes Modell so arbeiten, als wäre es feinabgestimmt worden, und schlug in allen sechs Tests den besten Adapter aus einer optimierten Reihe mit LoRA, QLoRA und DoRA: drei öffentliche Intent-Datensätze auf zwei offenen Modellfamilien, je drei Läufe.

  • 6 / 6Tests, in denen Duplex einen feinabgestimmten Adapter schlug+30.3 Punkte im Schnitt
  • 0Neutraining für den Wechsel zu einer anderen ModellfamilieDie Adapter ließen sich in 0 von 6 Fällen übertragen
  • 60 bis 79%Aus dem Gelernten beantwortetAuf beiden Modellfamilien

Ein eingefrorenes Modell, angepasst, ohne es anzufassen.

Ein kleines offenes Modell, fixiert: Seine Gewichte bleiben genau, wie sie sind.

Schritt 1 von 5: Fixiert

Vorne in allen sechs Tests.

Genauigkeit auf BANKING77, CLINC150 und HWU64, mit Qwen2.5 und SmolLM2.

Schritt 1 von 3: Fixiert

Allein erreichten die fixierten Modelle in den sechs Tests zwischen 11% und 49%.

Es lernt im Einsatz weiter.

Wenn verifizierte Beispiele hinzukommen, beantwortet Duplex mehr selbst und bleibt dabei richtig.

Schritt 1 von 3: 40 Beispiele

Nach 40 verifizierten Beispielen beantwortete Duplex 1.7% der Anfragen selbst, alle richtig.

Wo Duplex weiter geht als Fine-Tuning.

Allgemeines Können, Entfernen, Modellwechsel und wiederholte Anfragen, nebeneinander.

Schritt 1 von 4: Allgemeines Können

Bei einer Prüfung des Allgemeinwissens ließ Duplex das Modell in allen sechs Tests unverändert. Der Adapter kostete es 1 bis 4 Punkte.

Wie es durchgeführt wurde.

Die Aufgabe
Intent-Klassifikation: eine Nachricht lesen und genau ein Intent-Label zurückgeben.
Datensätze
BANKING77 (77 Intents), CLINC150 (151) und HWU64 (64), alle öffentlich.
Modelle
Qwen2.5-1.5b-instruct und SmolLM2-1.7b-instruct, eingefroren.
Umfang
300 Trainingsbeispiele pro Lauf, drei Läufe für jeden Datensatz und jede Modellfamilie: 18 Läufe.
Verglichen mit
Das eingefrorene Modell allein und der beste Adapter aus einem abgestimmten Sweep über LoRA, QLoRA und DoRA.
Gleich gehalten
Dasselbe eingefrorene Modell, dieselben Daten und Splits, derselbe Prompt und dieselbe Auswertung der Antworten für jeden Ansatz.

Was es für deine Arbeit bedeutet.

  • Anpassung ohne Trainingslauf.

    Duplex schlug den abgestimmten Adapter in jedem Test, im Schnitt um 30.3 Punkte.

  • Dein Modell bleibt dein Modell.

    Sein Allgemeinwissen blieb unverändert, und alles, was Duplex gelernt hat, lässt sich einzeln und exakt entfernen.

  • Modelle frei wechseln.

    Was Duplex gelernt hatte, wechselte ohne Neutraining zur anderen Modellfamilie.

Erlebe es mit deiner eigenen Arbeit.

Vom eigenen Assistenten bis zu jedem Agenten, den dein Unternehmen betreibt: Ein Pilotprojekt lässt Duplex mit deiner eigenen Arbeit laufen, und die Kennzahlen werden vereinbart, bevor es beginnt.