En demo varer en eftermiddag. Produktion varer i årevis, og i den tid vil en AI, der lærer, møde tusindvis af resultater, en politik, der ændres en tirsdag, en ny produktlinje, en regel, der strammes efter en revision, og før eller siden nogen, der prøver at overtale den til noget, den ikke burde gøre.
De fleste systemer, der lærer, har brug for en barnepige til alt det. Nogen gentræner dem, når de sakker bagud, rydder op i dem, når de vokser sig for store, og kontrollerer efter hver ændring, at intet vigtigt gik tabt. Pasningen stopper aldrig, og når barnepigen har travlt, er det læringen, der bliver slukket.
Duplex er bygget, så du kan lade den køre. Den bliver ved med at lære af hvert resultat, sætter dine regler foran alt, hvad den har lært, blokerer angreb og kan fjerne forgiftede data. Læring i produktion hviler på fem krav, der skal holde på samme tid, og af de tre testede tilgange opfyldte kun Duplex alle fem.
Cache og genfinding når i snit 2.2 / 5: de bliver forældede og vokser konstant.
Fem krav, alle på én gang.
De fem er enkle nok: at lære nyt arbejde, ikke at miste noget af det gamle, at følge en ændring, at forblive samme størrelse og at vide, hvornår der skal spørges. Hvert af dem er let at vise i en demo. Det svære er alle fem sammen, fordi hvert krav har det med at koste et andet: lær hurtigere, og et system glemmer, hold det stabilt, og det holder op med at lære.
Et system, der mangler ét af dem, kan se fint ud i ugevis. Så begynder det at glemme, eller at give sidste kvartals svar, eller at vokse, til det er langsomt og dyrt, eller at besvare spørgsmål, det aldrig har lært. De fejl melder ikke deres ankomst. Hver af dem dukker op senere, som en kunde, der fik den gamle politik, eller en regning, der sneg sig op.
De sædvanlige tilgange når hver især et stykke af vejen. Cache og genfinding tager let imod nyt arbejde og mister intet af det gamle, og det er det, de er til for, men de serverer det gamle svar efter en ændring og vokser med alt, hvad de får. Online finjustering følger en ændring, forbliver samme størrelse og ved, hvornår den skal spørge, og den glemmer næsten alt sit tidligere arbejde undervejs. På tværs af de fem fik cache og genfinding i gennemsnit 2.2 / 5 og online finjustering 4 / 5.
Duplex er bygget på ACI, Adaptive Continual Intelligence, resultatet af mange års forskning i, hvorfor et neuralt netværk glemmer, når det lærer, og holder op med at lære, når det er stabilt. Den opfyldte alle fem krav i hver eneste af ti kørsler, med samme supervision og samme input som alle andre tilgange. Det er det, der adskiller et system, du kan demonstrere, fra et, du kan lade køre: ingen huller på tværs af de fem, hver gang.
Opdateret efter hver ændring.
Regler ændrer sig hele tiden. En refusionsgrænse flyttes, et godkendelsestrin tilføjes, en leverandør droppes. Et system, du lader køre, skal følge den nye regel med det samme og lade alt andet, det har lært, være, som det var. Med Duplex kommer dine regler først, foran alt, hvad den har lært, så en regel, dit team ændrer ved middagstid, gælder fra næste forespørgsel.
Nogle ændringer har ingen bedt om. Folk vil prøve at snakke et system uden om dine regler og omformulere det samme angreb, indtil noget slipper igennem. Mod seks familier af omformulerede angreb, blandet med harmløse forespørgsler skrevet, så de ligner dem, lykkedes intet angreb, og Duplex afviste kun 0.7% af de legitime forespørgsler, det laveste af alle de tilgange, der blokerede hvert angreb.
Dårlige data er den mere stille trussel: eksempler, der med vilje fodres ind for at indlære den forkerte lektie. Efter bevidst forgiftning fjernede Duplex alle 40 forgiftede eksempler, og dens nøjagtighed kom tilbage til inden for ét point. Alt det legitime, den havde lært, forblev, som det var, kontrolleret bit for bit.
De ændringer, du faktisk ønsker, følger den fuldt ud. Efter en politikændring gav Duplex 0% forældede svar og mistede intet af sit tidligere arbejde. Cache og genfinding blev ved med at servere den gamle politik, 72% forældede. Online finjustering lærte den nye politik og bevarede Næsten intet af det tidligere arbejde.
En politik ændres: en lærende skal følge den uden at miste noget af det, den har lært før.
Den forbliver samme størrelse og planlægger sine træk.
Størrelse er den langsomme fejl. Et system, der vokser med alt, hvad det ser, bliver langsommere, dyrere og sværere at kontrollere, en smule mere hver måned. Hukommelsestilgange fungerer sådan: de lægger det, der sker, i en voksende bunke, hvilket gør fortiden let at slå op i og bunken svær at leve med.
Duplex vokser ikke, når den lærer, mens cache og genfinding i de samme kørsler voksede til omkring 1,300 rækker. Duplex tog imod det nye arbejde og fulgte ændringen i samme størrelse, så der er intet at beskære og intet at rydde ud for at holde den hurtig.
Samme størrelse betyder ikke, at den ved mindre. Det, Duplex lærer om en verden, er nok til at planlægge i den. En reaktiv agent tager det trin, der ser bedst ud lige nu, og det virker, indtil den vej, der ser direkte ud, ikke fører nogen steder hen: i en verden med flere trin over ti kørsler nåede den målet i 0% af tilfældene. Duplex fandt den præcist korteste vej i hver kørsel uden at kalde en model. En frontiermodel nåede også målet ved at bruge tokens på hver episode.
Dit team bestemmer stadig, hvad Duplex lærer, og kan gennemgå, rette eller fjerne hvad som helst af det. Det, der forsvinder, er pasningen: gentræningen, beskæringen og den nervøse kontrol efter hver ændring. Duplex lærer af hvert resultat, så længe den kører, og jo længere du lader den køre, jo mere af dit arbejde kender den.
En lille verden med et mål og en vej, der ser direkte ud, men fører ingen vegne.