Hver måned kommer modellregningen inn litt høyere, og ingenting har gått galt. Flere i teamet ditt bruker assistenten, flere agenter kjører gjennom natten, og hver eneste av dem kaller modellen. Slik prises leid intelligens: per kall. Jo mer KI-en din gjør for deg, desto mer betaler du, og suksess viser seg som kostnad.
Se på hva kallene gikk til, og det samme arbeidet dukker opp igjen og igjen: refusjonsspørsmålet supportteamet ditt avgjorde i vår, rutevalget som sender én type sak til den samme køen hver gang, unntaket økonomilederen din forklarte én gang, og som modellen har regnet seg frem til på nytt helt siden. KI-en din løser hvert av dem fra bunnen av og tar full pris, like mye den hundrede gangen som den første.
Duplex endrer det. Den er en andre intelligens ved siden av KI-modellen din, og den lærer beslutningene som går igjen i arbeidet ditt. Hver beslutning den lærer, trenger ikke lenger et betalt modellkall, så jo lenger Duplex kjører, desto mindre koster hver beslutning. Og fordi den lærer av resultatene teamet ditt bekrefter, blir flere av disse beslutningene riktige.
KI-en din tar like mye betalt hver gang den løser et kjent problem.
Hvert bekreftede resultat senker den neste kostnaden.
En modell har ingen mulighet til å bli billigere på arbeidet ditt, fordi arbeidet ditt ikke endrer den. Den lærte verden før den ble utgitt, og hvert kall starter derfra, pluss det prompten tar med seg. En vanskelig sak ingen har sett før, får full resonnering, og det er det du vil. Det samme gjør et spørsmål teamet ditt besvarte for flere måneder siden, til samme pris, og mye av det som når KI-en din, er av den andre sorten.
Team bekjemper regningen på fornuftige måter. En kortere prompt kutter i hvert kall. En mindre modell gir lavere pris, og for enkelt arbeid er det en rimelig byttehandel. En cache besvarer en gjentakelse nesten gratis, og når gjentakelsen er nøyaktig, er den vanskelig å slå. Alle hjelper, og ingen av dem endrer avtalen: hvert kall modellen gjør, må fortsatt betales, og en cache vet bare hva som ser likt ut, så den gir en dobbeltgjenger det gamle svaret og fortsetter å gi det etter at reglene dine er endret.
Duplex lærer i stedet. Når teamet ditt bekrefter et resultat, lærer Duplex beslutningen bak det, og neste lignende forespørsel besvares av Duplex selv, uten modellkall. I en strøm på 3,000 beslutninger kom en lært beslutning tilbake på Omtrent 97 ms. Et modellkall tok Omtrent 2,231 ms, og du betalte for hvert av dem. For en kunde som venter i en chat, er det forskjellen mellom et øyeblikkelig svar og en pause de legger merke til.
Så hver beslutning teamet ditt bekrefter, forsvinner fra regningen fra da av. Policyspørsmålene, rutevalgene og de kjente unntakene som utgjør så mye av trafikken, går over til Duplex ett for ett, og KI-en din bruker kreftene der prisen er verdt å betale: på det som er nytt, orientert med det Duplex vet om saken. Når svaret på den nye saken er godkjent, tar Duplex over den også.
Mye av det som når modellen din, er en beslutning den allerede har tatt, gang på gang.
Kostnaden faller mens nøyaktigheten stiger.
Kostnad og nøyaktighet trekker vanligvis i hver sin retning. For å få flere svar riktige betaler du for en større modell, en lengre prompt eller en ekstra kontroll, og for å bruke mindre godtar du flere feil. Alle som har kjørt KI i produksjon, har vridd på den knappen begge veier, på jakt etter en innstilling der begge blir bedre.
Med Duplex beveger de to seg sammen, i den retningen du vil. Over de 3,000 beslutningene, med fem regelendringer underveis, steg nøyaktigheten fra 85.0% til 94.6%, mens kostnaden per beslutning falt med omtrent to tredjedeler. Hver beslutning den lærer, besvares slik teamet ditt avgjorde den, uten noe kall å betale for, og en rettelse som gjøres én gang, gjelder hver gang etterpå. Så hvert resultat den lærer, forbedrer begge.
Sammenlignet med den samme modellen alene på de samme beslutningene gjorde Duplex 90.3% færre modellkall til 84.8% lavere kostnad, og den hadde rett langt oftere: 94.6% mot 59.8%. Avstanden var størst etter at reglene ble endret. På beslutningene endringene påvirket, hadde Duplex rett 92.5% av gangene, og modellen alene 2.3%. Modellen med en cache klarte 42.6%, og et billig svar er ingen besparelse når det følger den gamle regelen.
Resultatet sto seg på hver innstilling som ble testet. På de åtte innstillingene holdt Duplex seg mellom 94.1% og 94.8% nøyaktighet, til omtrent en sjuendedel av det modellen alene koster, mens det beste en cache nådde, var 77.3%. Og kurven trenger ikke starte på toppen: forhåndstren Duplex på det teamet ditt allerede vet, så begynner besparelsene første dag.
Med en leid modell er det bruken du betaler for, og hver suksess gjør regningen større. Med Duplex ved siden av er det bruken som gjør arbeidet billigere: hvert resultat teamet ditt bekrefter, gjør neste lignende beslutning raskere, billigere og mer treffsikker. Fortsett å betale KI-en din for det som er nytt og vanskelig, det arbeidet den gjør best, og la alt teamet ditt allerede har avgjort, koste mindre hver måned.
Sammenlignet med modellen alene kuttet Duplex modellkallene med 90.3% over de samme 3,000 beslutningene.