En god nyansat lærer hele tiden. I den nyansattes anden uge nævner nogen, at én kunde faktureres kvartalsvis, og den kunde får aldrig en månedlig faktura igen. Ved årets udgang kender den nyansatte hundredvis af små ting af den slags, og at lære den seneste har ikke kostet en eneste af de andre.
Bed en AI om det samme, og det, enhver god kollega gør, bliver et forskningsproblem. Din model lærte om verden i én lang træningskørsel, og derefter lå det, den vidste, fast. For at lære den noget nyt træner du den igen, og træning på det nye har det med at slide det gamle ned. Så teams retter de samme svar uge efter uge, eller venter på den næste version og håber.
Duplex lærer på samme måde som den nyansatte: af hvert resultat, mens arbejdet foregår, og hver ny lektie koster den ikke en eneste af de gamle. Den tilpasser sig også, efterhånden som arbejdet ændrer sig, og det er endnu sværere.
Kontinuerlig læring betyder at tage det nye til sig uden at miste det gamle.
Det nye og det gamle trækker hver sin vej.
Dit arbejde bevæger sig videre længe efter, at din model blev trænet. En rettelse lander mandag, en regel ændres onsdag, og hver dag bekræfter dit team resultater, modellen aldrig har set. At lære af hvert af dem, mens det sker, er svært, fordi det kræver ting, der trækker i hver sin retning.
Lær ivrigt, og det nye skubber det gamle ud. Forskere kalder det katastrofal glemsel, og det er grunden til, at en model, der er trænet på denne måneds rettelser, kan begynde at svare forkert på sidste måneds spørgsmål. Hold i stedet godt fast, og det, den ved, bliver liggende, mens dit arbejde går videre, så svarene bliver forældede. Og hvad den end lærer, skal forblive åbent for dit team, så en forkert lektie kan rettes eller fjernes uden at forstyrre resten.
Tilsammen udgør de neurale netværks trilemma: plasticitet, stabilitet og redigerbarhed. Et neuralt netværk får højst to. Læring i produktion kræver mere end to af dem: et system skal følge en ændring, bevare sit tidligere arbejde, tage imod en rettelse, forblive hurtigt, mens det vokser, og vide, hvad det ikke har lært, alt sammen på én gang og i det løbende arbejde. Duplex opfylder alle fem, i hver kørsel.
Gentræning får hver rettelse til at vente.
Det meste af det, der sælges som kontinuerlig læring, er kontinuerlig gentræning. Systemet samler det, der har ændret sig, gentræner modellen, tester den nye version og skifter den ind. Så venter det på den næste kørsel.
Mellem kørslerne forbliver modellen, som den var. Den rettelse, dit team lavede mandag, venter på kørslen, og indtil da sendes den samme fejl ud til hver kunde, der spørger. Svarene er aldrig mere aktuelle end den seneste kørsel, og dit arbejde venter ikke på nogens tidsplan.
Hver kørsel er et projekt i sig selv: en træningspipeline, en klynge af acceleratorer og et team til at drive dem. Og hver kørsel skaber en ny model, som kan miste noget af det, den forrige vidste.
Online finjustering, som gentræner undervejs, løber den samme risiko. Efter en politikændring lærte den ændringen og bevarede Næsten intet af sit tidligere arbejde. Duplex fulgte den samme ændring med 100% af sit tidligere arbejde intakt.
Mandag retter dit team et forkert svar.
Duplex lærer og handler under kørsel.
Duplex lærer af hvert resultat, efterhånden som dit team bekræfter det: en test, der bestod, en gennemgang, der blev godkendt, en rettelse, der blev accepteret. Den næste forespørgsel afspejler det allerede, og Duplex handler på det, den har lært, inden for dine regler: den svarer, overdrager eller afviser. Der er ingen træningskørsel at vente på, ingen ny version at teste og ingen model at skifte ind.
Den lærer ved siden af din AI i stedet for inde i den. Din models vægte forbliver, som de er, og Duplex kræver ingen GPU. Du kan gennemgå, rette eller fjerne alt, hvad den har lært, og alt andet forbliver, som det var. Det tredje behov, redigerbarhed, er det, gentræning har sværest ved, fordi ingen kan pege på en enkelt lektie i en gentrænet model og ændre den.
Duplex er bygget på ACI, Adaptive Continual Intelligence: Vareons proprietære algoritmer og arkitektur for intelligens, der lærer og handler kontinuerligt under kørsel. ACI er resultatet af mange års forskning i det trilemma, og det er den, der gør det muligt for Duplex at tage det nye til sig uden at give slip på det gamle.
Læring under kørsel holder også svarene aktuelle. Efter en politikændring var 0% af Duplex' svar forældede. Cache og genfinding, der stadig serverede det, de havde fundet før ændringen, gav forældede svar i 72% af tilfældene.
Tilpasning er endnu sværere.
At lære en rettelse er det halve arbejde. Den anden halvdel er at tilpasse sig: at vide, hvornår det lærte gælder, hvornår det ikke gør, og hvad der skal gøres, når arbejdet ændrer sig. Et system, der anvender hver lektie overalt, er lige så lidt til hjælp som et, der intet lærer, og farligere, fordi det lyder sikkert i sin sag.
Tre øjeblikke viser det. Den samme forespørgsel kommer med nye ord, og Duplex genkender den og svarer. En forespørgsel ser velkendt ud, men er ny, som en refusion på et gavekort, og Duplex ser forskellen og henter din AI ind, orienteret om det, Duplex ved om sagen. En regel ændres, og Duplex følger den nye regel fra næste forespørgsel, mens resten af det, den ved, fortsætter uændret.
På en strøm af 3,000 beslutninger, hvor reglerne ændrede sig fem gange, havde Duplex ret i 92.5% af de beslutninger, ændringerne berørte. Modellen alene, uden nogen måde at lære de nye regler på, havde ret i 2.3%.
Duplex lærer af hvert bekræftet resultat og bygger videre på det.
Hvert resultat gør det næste bedre.
En model bliver bedre, når producenten træner den næste. Det sker efter laboratoriets tidsplan, for alle på én gang, og den nye model ankommer uden at vide noget om dit arbejde.
Vi tror, at Agenter vil blive bedre med en anden intelligens ved siden af sig, i en rekursiv løkke, under kørsel. Det er derfor, vi byggede Duplex. En agent med Duplex ved siden af sig bliver bedre hver dag, den arbejder, ud fra sine egne resultater: den handler, resultatet kommer tilbage, Duplex lærer af det, og den næste handling starter fra mere, end den forrige gjorde. Bedre beslutninger giver bedre resultater, og bedre resultater lærer Duplex mere.
Modellerne vil blive ved med at blive bedre, og du vil gerne have de bedste af dem. Dit arbejde vil også blive ved med at ændre sig, time for time, dag for dag. Med Duplex ved siden af din AI er læring ikke længere noget, der sker for en model en gang imellem. Den bliver en del af selve arbejdet: hvert resultat lærer Duplex noget, hver lektie bygger på den forrige, og det hele følger med dig til den næste model.