Eine Demo dauert einen Nachmittag. Der Produktivbetrieb dauert Jahre, und in dieser Zeit begegnen einer lernenden KI tausende Ergebnisse, eine Richtlinie, die sich an einem Dienstag ändert, eine neue Produktlinie, eine Regel, die nach einem Audit verschärft wird, und früher oder später jemand, der sie zu etwas überreden will, was sie nicht tun sollte.
Die meisten lernenden Systeme brauchen für all das einen Aufpasser. Jemand trainiert sie neu, wenn sie zurückfallen, räumt sie aus, wenn sie zu groß werden, und prüft nach jeder Änderung, dass nichts Wichtiges verloren ging. Das Aufpassen hört nie auf, und wenn der Aufpasser keine Zeit hat, ist es das Lernen, das abgeschaltet wird.
Duplex ist für den Dauerbetrieb gebaut. Es lernt weiter aus jedem Ergebnis, stellt deine Regeln über alles, was es gelernt hat, blockiert Angriffe und kann vergiftete Daten entfernen. Lernen im Produktivbetrieb ruht auf fünf Anforderungen, die gleichzeitig erfüllt sein müssen, und von den drei getesteten Ansätzen erfüllte nur Duplex alle fünf.
Im Schnitt erfüllen Cache und Retrieval 2.2 / 5: Sie veralten und wachsen weiter.
Fünf Anforderungen, alle zugleich.
Die fünf sind schnell gesagt: neue Arbeit lernen, nichts von der alten verlieren, einer Änderung folgen, gleich groß bleiben und wissen, wann es fragen muss. Jede einzelne davon lässt sich in einer Demo leicht zeigen. Schwer sind alle fünf zusammen, weil jede meist eine andere kostet: Lernt ein System schneller, vergisst es, hält man es stabil, lernt es nicht mehr.
Ein System, dem eine davon fehlt, kann wochenlang gut aussehen. Dann fängt es an zu vergessen, oder die Antwort des letzten Quartals zu geben, oder zu wachsen, bis es langsam und teuer ist, oder Fragen zu beantworten, die ihm nie beigebracht wurden. Diese Fehler kündigen sich nicht an. Jeder taucht erst später auf, als Kunde, der die alte Richtlinie bekam, oder als Rechnung, die sich hochgeschlichen hat.
Die üblichen Ansätze kommen jeweils ein Stück weit. Cache und Retrieval nehmen neue Arbeit leicht auf und verlieren nichts von der alten, dafür sind sie da, aber nach einer Änderung liefern sie die alte Antwort und wachsen mit allem, was man ihnen gibt. Online-Fine-Tuning folgt einer Änderung, bleibt gleich groß und weiß, wann es fragen muss, und vergisst dabei fast seine gesamte frühere Arbeit. Über die fünf hinweg kamen Cache und Retrieval im Schnitt auf 2.2 / 5 und Online-Fine-Tuning auf 4 / 5.
Duplex ist auf ACI gebaut, Adaptive Continual Intelligence, das Ergebnis jahrelanger Forschung dazu, warum ein neuronales Netz vergisst, wenn es lernt, und aufhört zu lernen, sobald es stabil ist. Es erfüllte alle fünf Anforderungen in jedem von zehn Läufen, mit derselben Überwachung und denselben Eingaben wie jeder andere Ansatz. Das trennt ein System, das du vorführen kannst, von einem, das du laufen lassen kannst: keine Lücken bei den fünf, jedes Mal.
Aktuell nach jeder Änderung.
Regeln ändern sich ständig. Ein Erstattungslimit verschiebt sich, ein Freigabeschritt kommt hinzu, ein Lieferant fällt weg. Ein System im Dauerbetrieb muss der neuen Regel sofort folgen und alles andere, was es gelernt hat, so lassen, wie es war. Bei Duplex kommen deine Regeln zuerst, vor allem, was es gelernt hat, also gilt eine Regel, die dein Team mittags ändert, ab der nächsten Anfrage.
Manche Änderungen hat niemand bestellt. Leute werden versuchen, ein System zum Umgehen deiner Regeln zu überreden, und denselben Angriff so lange umformulieren, bis etwas durchkommt. Gegen sechs Familien umformulierter Angriffe, gemischt mit harmlosen Anfragen, die ihnen ähneln sollten, war kein Angriff erfolgreich, und Duplex lehnte nur 0.7% der legitimen Anfragen ab, der niedrigste Wert aller Ansätze, die jeden Angriff blockierten.
Schlechte Daten sind die leisere Bedrohung: Beispiele, die absichtlich eingeschleust werden, um eine falsche Erkenntnis zu vermitteln. Nach gezielter Vergiftung entfernte Duplex alle 40 vergifteten Beispiele, und seine Genauigkeit erholte sich bis auf einen Punkt. Alles legitim Gelernte blieb, wie es war, Bit für Bit geprüft.
Den Änderungen, die du willst, folgt es vollständig. Nach einer Richtlinienänderung gab Duplex 0% veraltete Antworten und verlor nichts von seiner früheren Arbeit. Cache und Retrieval lieferten weiter die alte Richtlinie, 72% veraltet. Online-Fine-Tuning lernte die neue Richtlinie und behielt Fast nichts der früheren Arbeit.
Eine Richtlinie ändert sich: Ein Lerner muss ihr folgen, ohne etwas zu verlieren, was er vorher gelernt hat.
Es bleibt gleich groß und plant seine Züge.
Größe ist das langsame Scheitern. Ein System, das mit allem wächst, was es sieht, wird langsamer, teurer und schwerer zu prüfen, jeden Monat ein bisschen mehr. Gedächtnisansätze funktionieren so: Sie legen alles, was passiert, auf einen wachsenden Stapel, und so lässt sich die Vergangenheit leicht nachschlagen, mit dem Stapel aber nur schwer leben.
Duplex wächst beim Lernen nicht, Cache und Retrieval dagegen wuchsen in denselben Läufen auf etwa 1,300 Zeilen. Duplex nahm die neue Arbeit auf und folgte der Änderung bei gleicher Größe, also gibt es nichts zu beschneiden und nichts auszuräumen, damit es schnell bleibt.
Gleich groß heißt nicht, weniger zu wissen. Was Duplex über eine Welt lernt, reicht, um darin zu planen. Ein reaktiver Agent nimmt den Schritt, der gerade am besten aussieht, und das geht gut, bis der scheinbar direkte Weg ins Leere führt: In einer mehrstufigen Welt über zehn Läufe erreichte er das Ziel in 0% der Fälle. Duplex fand in jedem Lauf genau den kürzesten Weg, ohne ein Modell aufzurufen. Ein Spitzenmodell erreichte das Ziel ebenfalls, indem es in jeder Episode Tokens verbrauchte.
Dein Team entscheidet weiterhin, was Duplex lernt, und kann alles davon prüfen, korrigieren oder entfernen. Was wegfällt, ist das Aufpassen: das Neutraining, das Beschneiden und der bange Blick nach jeder Änderung. Duplex lernt aus jedem Ergebnis, solange es läuft, und je länger du es laufen lässt, desto mehr von deiner Arbeit kennt es.
Eine kleine Welt mit einem Ziel und einem Weg, der direkt wirkt, aber nirgendwohin führt.