Zum Inhalt springen
Vareon

Lernen, das mit deiner Arbeit Schritt hält.

Aus jedem Ergebnis zu lernen, während die Arbeit läuft, ohne das Bisherige zu verlieren, ist eine der größten Herausforderungen in der KI. Duplex schafft das zur Laufzeit, neben dem Modell, das du schon nutzt.

Für dich, wenn man dir gesagt hat, ein System lerne kontinuierlich, und du wissen willst, ob es zur Laufzeit lernt oder auf den nächsten Trainingslauf wartet. · 5 min Lesezeit

Eine gute neue Kollegin lernt ständig. In ihrer zweiten Woche erwähnt jemand, dass ein bestimmter Kunde quartalsweise abgerechnet wird, und dieser Kunde bekommt nie wieder eine Monatsrechnung. Am Ende des Jahres kennt sie hunderte solcher Kleinigkeiten, und die neueste zu lernen hat sie keine der anderen gekostet.

Verlang dasselbe von einer KI, und was jede gute Kollegin tut, wird zum Forschungsproblem. Dein Modell hat die Welt in einem langen Trainingslauf gelernt, und danach stand fest, was es wusste. Um ihm etwas Neues beizubringen, trainierst du es noch einmal, und das Training auf das Neue trägt meist das Alte ab. Also korrigieren Teams Woche für Woche dieselben Antworten oder warten auf die nächste Version und hoffen.

Duplex lernt so, wie es diese neue Kollegin tut: aus jedem Ergebnis, während die Arbeit läuft, und keine neue Erkenntnis kostet es eine der alten. Es passt sich auch an, wenn sich die Arbeit ändert, und das ist noch schwerer.

Kontinuierliches Lernen heißt, das Neue aufzunehmen, ohne das Alte zu verlieren.

Schritt 1 von 4: Das Neue und das Alte

Das Neue und das Alte ziehen gegeneinander.

Deine Arbeit bewegt sich weiter, lange nachdem dein Modell trainiert wurde. Am Montag kommt ein Fix, am Mittwoch ändert sich eine Regel, und jeden Tag bestätigt dein Team Ergebnisse, die das Modell nie gesehen hat. Aus jedem davon zu lernen, sobald es passiert, ist schwer, weil es Dinge verlangt, die in entgegengesetzte Richtungen ziehen.

Lernt man eifrig, verdrängt das Neue das Alte. Die Forschung nennt das katastrophales Vergessen, und deshalb kann ein Modell, das auf die Korrekturen dieses Monats trainiert wurde, plötzlich die Antworten des letzten Monats falsch geben. Hält man dagegen eisern am Gelernten fest, bleibt es stehen, während deine Arbeit weiterzieht, und die Antworten veralten. Und was immer gelernt wird, muss für dein Team offen bleiben, damit sich eine falsche Erkenntnis korrigieren oder entfernen lässt, ohne den Rest zu stören.

Zusammen bilden sie das Trilemma neuronaler Netze: Plastizität, Stabilität und Änderbarkeit. Ein neuronales Netz schafft höchstens zwei. Lernen im Produktivbetrieb verlangt mehr als nur zwei: Ein System muss einer Änderung folgen, seine frühere Arbeit behalten, eine Korrektur annehmen, beim Wachsen schnell bleiben und wissen, was es nicht gelernt hat, alles zugleich und bei laufender Arbeit. Duplex erfüllt alle fünf, in jedem Lauf.

5 / 5Anforderungen an Lernen im Produktivbetrieb, in jedem Lauf erfülltOnline-Fine-Tuning 4 / 5 · Cache und Retrieval 2.2 / 5

Neutraining lässt jeden Fix warten.

Das meiste, was als kontinuierliches Lernen verkauft wird, ist kontinuierliches Neutraining. Das System sammelt, was sich geändert hat, trainiert das Modell neu, testet die neue Version und tauscht sie ein. Dann wartet es auf den nächsten Lauf.

Zwischen den Läufen bleibt das Modell, wie es war. Der Fix, den dein Team am Montag gemacht hat, wartet auf den Lauf, und bis dahin geht derselbe Fehler an jeden Kunden, der fragt. Die Antworten sind immer nur so aktuell wie der letzte Lauf, und deine Arbeit wartet auf niemandes Zeitplan.

Jeder Lauf ist ein Projekt für sich: eine Trainingspipeline, ein Cluster aus Beschleunigern und ein Team, das sie betreibt. Und jeder Lauf erzeugt ein neues Modell, das einiges von dem verlieren kann, was das letzte wusste.

Online-Fine-Tuning, das unterwegs neu trainiert, geht dasselbe Risiko ein. Nach einer Richtlinienänderung lernte es die Änderung und behielt Fast nichts seiner früheren Arbeit. Duplex folgte derselben Änderung und behielt 100% seiner früheren Arbeit intakt.

100%Seiner früheren Arbeit nach einer Richtlinienänderung intaktOnline-Fine-Tuning: Fast nichts
Schritt 1 von 5: Ein Fix

Dein Team korrigiert am Montag eine falsche Antwort.

Duplex lernt und handelt zur Laufzeit.

Duplex lernt aus jedem Ergebnis, sobald dein Team es bestätigt: ein bestandener Test, ein freigegebenes Review, eine angenommene Korrektur. Schon die nächste Anfrage spiegelt es wider, und Duplex handelt nach dem Gelernten, im Rahmen deiner Regeln: Es antwortet, übergibt oder lehnt ab. Es gibt keinen Trainingslauf, auf den man warten müsste, keine neue Version zum Testen und kein Modell zum Austauschen.

Es lernt neben deiner KI statt in ihr. Die Gewichte deines Modells bleiben, wie sie sind, und Duplex braucht keine GPU. Du kannst alles, was es gelernt hat, prüfen, korrigieren oder entfernen, und alles andere bleibt, wie es war. Diese dritte Anforderung, Änderbarkeit, fällt dem Neutraining am schwersten, denn in einem neu trainierten Modell kann niemand auf eine einzelne Erkenntnis zeigen und sie ändern.

Duplex ist auf ACI gebaut, Adaptive Continual Intelligence: die proprietären Algorithmen und die Architektur von Vareon für Intelligenz, die zur Laufzeit kontinuierlich lernt und handelt. ACI ist das Ergebnis jahrelanger Forschung zu diesem Trilemma, und erst dadurch kann Duplex das Neue aufnehmen, ohne das Alte aufzugeben.

Lernen zur Laufzeit hält auch die Antworten aktuell. Nach einer Richtlinienänderung waren 0% der Antworten von Duplex veraltet. Cache und Retrieval, die weiter lieferten, was sie vor der Änderung gefunden hatten, gaben in 72% der Fälle veraltete Antworten.

0%Veraltete Antworten nach einer RichtlinienänderungCache und Retrieval: 72%

Anpassen ist noch schwerer.

Einen Fix zu lernen ist die halbe Arbeit. Die andere Hälfte ist Anpassen: zu wissen, wann das Gelernte gilt, wann nicht und was zu tun ist, wenn sich die Arbeit ändert. Ein System, das jede Erkenntnis überall anwendet, ist so wenig hilfreich wie eines, das nichts lernt, und gefährlicher, weil es so selbstsicher klingt.

Drei Momente zeigen es. Dieselbe Anfrage kommt in neuen Worten, und Duplex erkennt sie und antwortet. Eine Anfrage sieht vertraut aus, ist aber neu, etwa eine Erstattung auf eine Geschenkkarte, und Duplex erkennt den Unterschied und zieht deine KI hinzu, gebrieft mit dem, was Duplex über den Fall weiß. Eine Regel ändert sich, und Duplex folgt ab der nächsten Anfrage der neuen Regel, während alles andere, was es weiß, unverändert weitergilt.

Bei einem Strom von 3,000 Entscheidungen, in dem sich die Regeln fünfmal änderten, lag Duplex bei 92.5% der Entscheidungen richtig, die diese Änderungen betrafen. Das Modell allein, ohne jede Möglichkeit, die neuen Regeln zu lernen, lag bei 2.3% richtig.

92.5%Richtig bei den Entscheidungen, die eine Regeländerung betrafDas Modell allein: 2.3%
Schritt 1 von 5: Es lernt

Duplex lernt aus jedem bestätigten Ergebnis und baut darauf auf.

Jedes Ergebnis macht das nächste besser.

Ein Modell wird besser, wenn sein Hersteller das nächste trainiert. Das geschieht nach dem Zeitplan des Labors, für alle gleichzeitig, und das neue Modell kommt an, ohne etwas über deine Arbeit zu wissen.

Wir glauben, Agenten werden mit einer zweiten Intelligenz neben sich besser werden, in einer rekursiven Schleife, zur Laufzeit. Deshalb haben wir Duplex gebaut. Ein Agent mit Duplex an seiner Seite wird an jedem Tag besser, an dem er arbeitet, aus seinen eigenen Ergebnissen: Er handelt, das Ergebnis kommt zurück, Duplex lernt daraus, und die nächste Aktion beginnt mit mehr als die letzte. Bessere Entscheidungen bringen bessere Ergebnisse, und bessere Ergebnisse lehren Duplex mehr.

Die Modelle werden weiter besser, und du wirst das beste davon wollen. Auch deine Arbeit wird sich weiter ändern, jede Stunde, jeden Tag. Mit Duplex neben deiner KI ist Lernen nicht mehr etwas, das einem Modell ab und zu widerfährt. Es wird Teil der Arbeit selbst: Jedes Ergebnis lehrt Duplex etwas, jede Erkenntnis baut auf der letzten auf, und all das kommt mit dir zum nächsten Modell.

Erlebe Duplex mit deiner eigenen Arbeit.