En demo varer en ettermiddag. Produksjon varer i årevis, og i løpet av den tiden vil en KI som lærer, møte tusenvis av resultater, en policy som endres en tirsdag, en ny produktlinje, en regel som strammes inn etter en revisjon og, før eller senere, noen som prøver å overtale den til noe den ikke burde gjøre.
De fleste systemer som lærer, trenger en barnevakt for alt dette. Noen trener dem på nytt når de henger etter, rydder dem når de vokser seg for store, og kontrollerer etter hver endring at ingenting viktig gikk tapt. Barnevaktjobben tar aldri slutt, og når barnevakten er opptatt, er det læringen som blir slått av.
Duplex er bygget for å kunne stå og gå. Den fortsetter å lære av hvert resultat, setter reglene dine foran alt den har lært, blokkerer angrep og kan fjerne forgiftede data. Læring i produksjon hviler på fem krav som må holde samtidig, og av de tre tilnærmingene som ble testet, oppfylte bare Duplex alle fem.
Cache og gjenfinning får i snitt 2.2 / 5: de blir utdaterte og fortsetter å vokse.
Fem krav, alle på én gang.
De fem er enkle nok: lære nytt arbeid, ikke miste noe av det gamle, følge en endring, holde samme størrelse og vite når man skal spørre. Hvert av dem er lett å vise i en demo. Det vanskelige er alle fem sammen, fordi hvert av dem gjerne koster et annet: lær raskere, og systemet glemmer, hold det stødig, og det slutter å lære.
Et system som mangler ett av dem, kan se fint ut i ukevis. Så begynner det å glemme, eller å gi forrige kvartals svar, eller å vokse til det blir tregt og kostbart, eller å svare på spørsmål det aldri har fått opplæring i. Disse feilene melder seg ikke selv. Hver av dem dukker opp senere, som en kunde som fikk den gamle policyen, eller en regning som krøp oppover.
De vanlige tilnærmingene kommer hver et stykke på vei. Cache og gjenfinning tar lett inn nytt arbeid og mister ingenting av det gamle, som er det de er laget for, men de serverer det gamle svaret etter en endring og vokser med alt de får. Løpende finjustering følger en endring, holder samme størrelse og vet når den skal spørre, og den glemmer nesten alt det tidligere arbeidet sitt i prosessen. På de fem kravene fikk cache og gjenfinning i snitt 2.2 / 5 og løpende finjustering 4 / 5.
Duplex er bygget på ACI, Adaptive Continual Intelligence, resultatet av år med forskning på hvorfor et nevralt nett glemmer når det lærer, og slutter å lære når det er stødig. Den oppfylte alle fem kravene i hver eneste av ti kjøringer, med den samme veiledningen og de samme inndataene som alle de andre tilnærmingene. Det er det som skiller et system du kan demonstrere, fra et du kan la stå og gå: ingen hull på tvers av de fem, hver gang.
Oppdatert etter hver endring.
Regler endres hele tiden. En refusjonsgrense flyttes, et godkjenningstrinn legges til, en leverandør kuttes. Et system som står og går, må følge den nye regelen med en gang og la alt annet det har lært, være som det var. Med Duplex kommer reglene dine først, foran alt den har lært, så en regel teamet ditt endrer klokken tolv, gjelder fra neste forespørsel.
Noen endringer er det ingen som har bedt om. Folk vil prøve å overtale et system til å gå forbi reglene dine, og omformulere det samme angrepet til noe slipper gjennom. Mot seks familier av omformulerte angrep, blandet med harmløse forespørsler skrevet for å ligne på dem, lyktes ingen angrep, og Duplex avviste bare 0.7% av de legitime forespørslene, det laveste av alle tilnærmingene som blokkerte hvert angrep.
Dårlige data er den stillere trusselen: eksempler som mates inn med vilje for å lære bort feil lærdom. Etter bevisst forgiftning fjernet Duplex alle 40 forgiftede prøver, og nøyaktigheten var tilbake innenfor ett prosentpoeng. Alt legitimt den hadde lært, ble stående som det var, kontrollert bit for bit.
Endringene du faktisk ønsker, følger den fullt ut. Etter en policyendring ga Duplex 0% utdaterte svar og mistet ingenting av sitt tidligere arbeid. Cache og gjenfinning fortsatte å servere den gamle policyen, 72% utdatert. Løpende finjustering lærte den nye policyen og beholdt Nesten ingenting av det tidligere arbeidet.
En policy endres: den som lærer, må følge den uten å miste noe den har lært før.
Den holder samme størrelse, og planlegger trekkene sine.
Størrelse er den langsomme feilen. Et system som vokser med alt det ser, blir tregere, dyrere og vanskeligere å kontrollere, litt mer for hver måned. Minnebaserte tilnærminger fungerer slik: de legger det som skjer, til en voksende haug, som gjør fortiden lett å slå opp i og haugen vanskelig å leve med.
Duplex vokser ikke når den lærer, mens cache og gjenfinning i de samme kjøringene vokste til omtrent 1,300 rader. Duplex tok inn det nye arbeidet og fulgte endringen med samme størrelse, så det er ingenting å beskjære og ingenting å rydde bort for å holde den rask.
Samme størrelse betyr ikke at den vet mindre. Det Duplex lærer om en verden, er nok til å planlegge i den. En reaktiv agent tar det steget som ser best ut akkurat nå, og det fungerer helt til veien som ser direkte ut, ikke fører noen vei: i en verden med flere steg over ti kjøringer nådde den målet 0% av gangene. Duplex fant nøyaktig den korteste veien i hver kjøring, uten å kalle en modell. En ledende modell nådde også målet, ved å bruke tokens i hver episode.
Teamet ditt bestemmer fortsatt hva Duplex lærer, og kan gå gjennom, rette eller fjerne hva som helst av det. Det som forsvinner, er barnevaktjobben: omtreningen, beskjæringen og den engstelige kontrollen etter hver endring. Duplex lærer av hvert resultat så lenge den kjører, og jo lenger du lar den stå og gå, desto mer av arbeidet ditt kjenner den.
En liten verden med et mål, og en vei som ser direkte ut, men ikke fører fram.