Hver måned lander modelregningen lidt højere, og intet er gået galt. Flere i dit team bruger assistenten, flere agenter kører natten igennem, og hver eneste af dem kalder modellen. Sådan er lejet intelligens prissat: pr. Kald. Jo mere din AI gør for dig, jo mere betaler du, og succes viser sig som en omkostning.
Se på, hvad de kald gik til, og det samme arbejde dukker op igen og igen: refusionsspørgsmålet, dit supportteam afgjorde i foråret, routingvalget, der sender én type sag til den samme kø hver gang, undtagelsen, din økonomichef forklarede én gang, og som modellen har regnet ud på ny lige siden. Din AI løser hver af dem fra bunden og tager fuld pris, den hundrede gang lige så meget som den første.
Duplex ændrer det. Den er en anden intelligens ved siden af din AI-model, og den lærer de beslutninger, dit arbejde træffer igen og igen. Hver beslutning, den lærer, kræver ikke længere et betalt modelkald, så jo længere Duplex kører, jo mindre koster hver beslutning. Og fordi den lærer af de resultater, dit team bekræfter, bliver flere af de beslutninger rigtige.
Din AI koster det samme, hver gang den løser et velkendt problem.
Hvert bekræftet resultat sænker den næste omkostning.
En model har ingen mulighed for at blive billigere til dit arbejde, fordi dit arbejde ikke ændrer den. Den lærte om verden, før den blev udgivet, og hvert kald starter derfra, plus hvad prompten end bringer med. En svær sag, som ingen har set før, får modellens fulde ræsonnement, og det er det, du vil have. Det samme gør et spørgsmål, dit team besvarede for måneder siden, til samme pris, og meget af det, der når din AI, er af den anden slags.
Teams kæmper mod regningen på fornuftige måder. En kortere prompt barberer lidt af hvert kald. En mindre model sænker prisen, og til let arbejde er det en rimelig byttehandel. En cache besvarer en gentagelse for næsten ingenting, og når gentagelsen er præcis, er den svær at slå. De hjælper alle sammen, og ingen af dem ændrer på aftalen: der betales stadig for hvert kald, modellen foretager, og en cache kender kun det, der ser ens ud, så den giver en dobbeltgænger det gamle svar og bliver ved med det, efter at dine regler er ændret.
Duplex lærer i stedet. Når dit team bekræfter et resultat, lærer Duplex beslutningen bag det, og den næste forespørgsel af samme slags besvares af Duplex selv, uden modelkald. På en strøm af 3,000 beslutninger kom en lært beslutning tilbage på Omkring 97 ms. Et modelkald tog Omkring 2,231 ms, og du betalte for hvert eneste. For en kunde, der venter i en chat, er det forskellen mellem et øjeblikkeligt svar og en pause, kunden lægger mærke til.
Så hver beslutning, dit team bekræfter, forsvinder fra regningen fra da af. Politikspørgsmålene, routingvalgene og de velkendte undtagelser, der udgør så meget af trafikken, flytter over til Duplex én efter én, og din AI bruger sine kræfter der, hvor dens pris er værd at betale: på det nye, orienteret om det, Duplex ved om sagen. Så snart svaret på den nye sag er godkendt, overtager Duplex også den.
Meget af det, der når din model, er en beslutning, den allerede har truffet, mange gange.
Omkostningen falder, mens nøjagtigheden stiger.
Omkostning og nøjagtighed trækker som regel i hver sin retning. For at få flere svar rigtige betaler du for en større model, en længere prompt eller en ekstra kontrol, og for at bruge mindre accepterer du flere fejl. Alle, der har kørt AI i produktion, har drejet den knap begge veje på jagt efter en indstilling, hvor begge bliver bedre.
Med Duplex bevæger de to sig sammen, i den retning, du vil. Over de 3,000 beslutninger, med fem regelændringer undervejs, steg dens nøjagtighed fra 85.0% til 94.6%, mens omkostningen pr. Beslutning faldt med omkring to tredjedele. Hver beslutning, den lærer, besvares, sådan som dit team besluttede den, uden noget kald at betale for, og en rettelse, der er lavet én gang, gælder hver gang derefter. Så hvert resultat, den lærer, forbedrer begge.
Sammenlignet med den samme model, der arbejdede alene på de samme beslutninger, foretog Duplex 90.3% færre modelkald til 84.8% lavere omkostning, og den havde langt oftere ret: 94.6% mod 59.8%. Forskellen var størst efter regelændringerne. På de beslutninger, ændringerne berørte, havde Duplex ret i 92.5% af tilfældene og modellen alene i 2.3%. Modellen med en cache nåede 42.6%, og et billigt svar er ingen besparelse, når det følger den gamle regel.
Resultatet holdt i alle de testede indstillinger. På tværs af otte af dem lå Duplex på en nøjagtighed mellem 94.1% og 94.8%, til omkring en syvendedel af, hvad modellen alene koster, mens det bedste, en cache nåede, var 77.3%. Og kurven behøver ikke at starte i toppen: fortræn Duplex på det, dit team allerede ved, og besparelserne begynder fra første dag.
Med en lejet model er det brugen, du betaler for, og hver succes gør regningen større. Med Duplex ved siden af er det brugen, der gør arbejdet billigere: hvert resultat, dit team bekræfter, gør den næste beslutning af samme slags hurtigere, billigere og med større chance for at være rigtig. Bliv ved med at betale din AI for det nye og svære, det arbejde, den gør bedst, og lad alt det, dit team allerede har afgjort, koste mindre hver måned.
Sammenlignet med modellen alene skar Duplex modelkaldene ned med 90.3% over de samme 3,000 beslutninger.