De fleste team griper til finjustering når modellen gang på gang tar feil på de samme tingene. Den legger fakturaspørsmål under teknisk støtte, skriver i en tone merkevaren din aldri ville brukt, og overser unntakene ekspertene dine bruker uten å tenke over det. Det de ønsker seg, er beskjedent: en modell som svarer som om den hadde jobbet der i et år.
Veien dit er et treningsprosjekt. Noen samler inn og rydder eksempler, kjører en serie treningsjobber for å finne innstillingene som fungerer, kontrollerer resultatet og leverer en ny versjon av modellen. Det fungerer, og det er et prosjekt, med budsjett og tidsplan. Så endres en policy, eller en bedre modell kommer ut, og prosjektet begynner på nytt.
Duplex gir deg det finjustering er ment å gi, ut fra teamets eget arbeid, og lar modellen være nøyaktig som den er. Hvert resultat teamet ditt bekrefter, lærer den opp, så tilpasningen er oppdatert fra neste forespørsel. Og fordi den virker ved siden av modellen i stedet for inne i den, flytter tilpasningen med deg til den neste.
En finjustering skriver om vektene, én modell og én treningskjøring om gangen.
Bedre enn finjustering, uten treningskjøring.
Finjustering fortjener sin plass. Den endrer vektene i modellen, så den nye atferden følger med hvert kall, uten noen lang prompt å sende med, og for en varig endring av én modell er den et fornuftig valg.
Kostnaden ligger i alt rundt endringen. Hver tilpasning er et eget prosjekt, og det modellen lærte, låses i det øyeblikket kjøringen er ferdig. En regel som endres på fredag, venter på neste kjøring, og til da fortsetter modellen å bruke den gamle.
Det team finjusterer for, er som regel atferd: merkelappene de bruker, tonen de vil ha, beslutningene ekspertene deres tar på samme måte hver gang. Duplex lærer nettopp dette fra selve arbeidet: et svar teamet ditt godkjente, en merkelapp noen rettet, et unntak en leder bekreftet. Den som oppdager en feil, retter den, og rettelsen gjelder fra neste forespørsel, i stedet for å vente i en mappe med eksempler på neste treningsprosjekt.
Duplex er bygget på ACI, Adaptive Continual Intelligence, som lærer og handler under kjøring og lar vektene i modellen din være i fred. Duplex trenger ingen GPU, så det finnes ingen treningskjøring å planlegge, betale for eller vente på, og ingen ny versjon av modellen å levere.
Satt direkte opp mot finjustering kom Duplex best ut. I seks tester, hver mot en finjustert adapter valgt ut fra en serie treningskjøringer, tilpasset Duplex den samme modellen uten å endre den, og slo adapteren hver gang, med 30.3 poeng i snitt.
Seks tester: tre offentlige intensjonsdatasett, hver kjørt på to familier av åpne modeller.
Den følger med når du bytter modell.
KI-en din er generell intelligens, lært langsomt, som neocortex: den lærte verden før du kom, og arbeidet ditt endrer den ikke. Duplex er kjøretidsintelligens, rask, som hippocampus: den lærer av hvert resultat teamet ditt bekrefter. Finjustering ber den som lærer langsomt, om å gjøre jobben til den som lærer raskt, og det har to kostnader som team gjerne oppdager først senere.
Den første gjelder rettelser. Hvert eksempel i en finjustering blandes inn i vektene, de gode med de dårlige, så når ett viser seg å være feil, for eksempel et svar som oppga fjorårets rabatt, finnes det ingenting å peke på og ta ut. Veien tilbake er å trene på nytt, uten det.
Den andre gjelder flytting. En finjustering hører til modellen den ble trent på, så når en bedre modell kommer, blir den igjen, og prosjektet begynner forfra: serien kjøres på nytt, resultatet kontrolleres på nytt, og til da vet den nye modellen ingenting om arbeidet ditt.
Det Duplex lærer, virker ved siden av modellen, så ingen av kostnadene gjelder. Du kan se hvor hver lærdom kom fra, og rette eller fjerne den for seg, mens alt annet forblir som det var. Bytt modell, og tilpasningen blir med deg: da arbeidet ble flyttet til en annen modellfamilie, trengte Duplex ingen omtrening, mens de finjusterte adapterne ikke lot seg flytte i noen av seks tester.
Ett eksempel modellen din lærte av, viser seg å være feil, og må ut.
Når du faktisk vil trene, gir Duplex deg dataene.
Noen jobber krever faktisk trening: en modell som trenger en evne den ikke har, eller vekter som må kjøre på egen hånd, på en enhet eller inne i et produkt du leverer. For dem gjør Duplex treningen bedre.
Den vanskeligste delen av ethvert treningsprosjekt er dataene: rene eksempler, kontrollert av folk som kan arbeidet. Teamet ditt har bekreftet nettopp slike hele tiden, i løpet av helt vanlige arbeidsdager. Duplex gjør dem klare for treningsteamet ditt, hvert med sitt opphav, og du velger hva som skal med og hva som holdes utenfor.
Trening erstatter heller ikke det Duplex har lært. Når den nye modellen er klar, virker alt sammen ved siden av den fra første forespørsel, hvert resultat etter det fortsetter å lære opp Duplex, og når neste modell kommer, flytter tilpasningen igjen.
Tilpasning slutter å være et prosjekt med budsjett og tidsplan, og blir en del av arbeidet. Teamet ditt retter, bekrefter og avgjør, slik det gjør hver dag, og KI-en din svarer som om den var trent på alt sammen. Modellen forblir et valg du kan endre når som helst, og tilpasningen blir noe du eier.