De fleste teams griber til finjustering, når modellen bliver ved med at tage fejl på de samme punkter. Den placerer faktureringsspørgsmål under teknisk support, skriver i en tone, dit brand aldrig ville bruge, og overser de undtagelser, dine eksperter anvender uden at tænke over det. Det, de ønsker sig, er beskedent: en model, der svarer, som om den havde arbejdet der i et år.
Vejen dertil er et træningsprojekt. Nogen indsamler og renser eksempler, kører en serie træningsjob for at finde de indstillinger, der virker, kontrollerer resultatet og udruller en ny version af modellen. Det virker, og det er et projekt, med budget og tidsplan. Så ændres en politik, eller der kommer en bedre model, og projektet begynder forfra.
Duplex giver dig det, finjustering er til for, ud fra dit teams eget arbejde, og lader modellen være præcis, som den er. Hvert resultat, dit team bekræfter, lærer den noget, så tilpasningen er opdateret fra næste forespørgsel. Og fordi den virker ved siden af modellen i stedet for inde i den, flytter tilpasningen med dig til den næste.
En finjustering omskriver vægtene, én model og én træningskørsel ad gangen.
Bedre end finjustering, uden en træningskørsel.
Finjustering fortjener sin plads. Den ændrer modellens vægte, så den nye adfærd følger med hvert kald, uden en lang prompt, der skal sendes med, og til en varig ændring af én model er den et fornuftigt valg.
Omkostningen ligger i alt det omkring ændringen. Hver tilpasning er et projekt for sig, og det, modellen lærte, ligger fast i det øjeblik, kørslen slutter. En regel, der ændres fredag, venter på næste kørsel, og indtil da bliver modellen ved med at anvende den gamle.
Det, teams finjusterer for, er som regel adfærd: de etiketter, de bruger, den tone, de ønsker, de beslutninger, deres eksperter træffer på samme måde hver gang. Duplex lærer præcis det fra selve arbejdet: et svar, dit team godkendte, en etiket, nogen rettede, en undtagelse, en leder bekræftede. Den, der opdager en fejl, retter den, og rettelsen gælder fra næste forespørgsel i stedet for at vente i en mappe med eksempler på det næste træningsprojekt.
Duplex er bygget på ACI, Adaptive Continual Intelligence, som lærer og handler under kørsel og lader din models vægte være i fred. Duplex kræver ingen GPU, så der er ingen træningskørsel at planlægge, betale for eller vente på, og ingen ny version af modellen at udrulle.
I en direkte sammenligning med finjustering kom Duplex bedst ud. I seks test, hver mod en finjusteret adapter udvalgt fra en serie træningskørsler, tilpassede Duplex den samme model, som forblev præcis, som den var, og slog adapteren hver gang, med 30.3 point i gennemsnit.
Seks test: tre offentlige intent-datasæt, hver kørt på to familier af åbne modeller.
Den flytter med, når din model gør.
Din AI er generel intelligens, lært langsomt, som neocortex: den lærte om verden, før du kom til, og dit arbejde ændrer den ikke. Duplex er runtime-intelligens, hurtig, som hippocampus: den lærer af hvert resultat, dit team bekræfter. Finjustering beder den langsomt lærende om at gøre den hurtigt lærendes arbejde, og det har to omkostninger, som teams som regel først opdager senere.
Den første gælder rettelser. Hvert eksempel i en finjustering blandes ind i vægtene, de gode sammen med de dårlige, så når et af dem viser sig at være forkert, for eksempel et svar, der oplyste sidste års rabat, er der intet at pege på og tage ud. Vejen tilbage er at træne igen, uden det.
Den anden gælder flytning. En finjustering hører til den model, den blev trænet på, så når en bedre model kommer, bliver den tilbage, og projektet starter forfra: serien køres igen, resultatet kontrolleres igen, og indtil da ved den nye model intet om dit arbejde.
Det, Duplex lærer, virker ved siden af modellen, så ingen af de to omkostninger gælder. Du kan se, hvor hver lektie kom fra, og rette eller fjerne den for sig, mens alt andet forbliver, som det var. Skift modellen, og tilpasningen følger med dig: da arbejdet flyttede til en anden modelfamilie, krævede Duplex ingen gentræning, mens de finjusterede adaptere flyttede i ingen af seks test.
Ét eksempel, din model lærte af, viser sig at være forkert og skal fjernes.
Når du faktisk vil træne, overdrager Duplex dataene.
Nogle opgaver kræver faktisk træning: en model, der har brug for en evne, den ikke har, eller vægte, der skal kunne køre selvstændigt, på en enhed eller inde i et produkt, du leverer. Til dem gør Duplex træningen bedre.
Den sværeste del af ethvert træningsprojekt er dataene: rene eksempler, kontrolleret af folk, der kender arbejdet. Dit team har bekræftet præcis sådanne hele tiden, som en del af den almindelige arbejdsdag. Duplex gør dem klar til dit træningsteam, hvert med sin oprindelse, og du vælger, hvad der kommer med, og hvad der holdes ude.
Træning erstatter heller ikke det, Duplex har lært. Når den nye model er klar, virker det hele ved siden af den fra første forespørgsel, hvert resultat derefter bliver ved med at lære Duplex noget, og når den næste model kommer, flytter tilpasningen igen.
Tilpasning holder op med at være et projekt med budget og tidsplan og bliver en del af arbejdet. Dit team retter, bekræfter og beslutter, som det gør hver dag, og din AI svarer, som om den var trænet på det hele. Modellen forbliver et valg, du kan ændre når som helst, og tilpasningen bliver noget, du ejer.