Cada mes la factura del modelo llega un poco más alta, y nada ha ido mal. Más gente de tu equipo usa el asistente, más agentes trabajan durante la noche, y todos ellos llaman al modelo. Así se cobra la inteligencia alquilada: por llamada. Cuanto más hace tu IA por ti, más pagas, y el éxito se traduce en coste.
Fíjate en para qué eran esas llamadas y verás el mismo trabajo una y otra vez: la pregunta sobre reembolsos que tu equipo de soporte zanjó en primavera, la decisión de enrutamiento que manda un tipo de ticket a la misma cola cada vez, la excepción que tu responsable de finanzas explicó una vez y que desde entonces el modelo ha tenido que volver a deducir cada vez. Tu IA resuelve cada una desde cero y la cobra a precio completo, la centésima vez igual que la primera.
Duplex cambia eso. Es una segunda inteligencia junto a tu modelo de IA, y aprende las decisiones que se repiten una y otra vez en tu trabajo. Cada decisión que aprende deja de necesitar una llamada de pago al modelo, así que cuanto más tiempo funciona Duplex, menos cuesta cada decisión. Y como aprende de los resultados que confirma tu equipo, más de esas decisiones salen bien.
Tu IA cobra lo mismo cada vez que resuelve un problema conocido.
Cada resultado confirmado reduce el coste siguiente.
Un modelo no tiene forma de salirte más barato con tu trabajo, porque tu trabajo no lo cambia. Aprendió el mundo antes de su lanzamiento, y cada llamada parte de ahí, más lo que aporte el prompt. Un caso difícil que nadie ha visto antes recibe todo su razonamiento, que es lo que quieres. También lo recibe, al mismo precio, una pregunta que tu equipo respondió hace meses, y buena parte de lo que le llega a tu IA es de ese segundo tipo.
Los equipos combaten la factura con medidas sensatas. Un prompt más corto recorta cada llamada. Un modelo más pequeño baja el precio, y para el trabajo fácil es un intercambio razonable. Una caché responde a una repetición casi gratis, y cuando la repetición es exacta es difícil de superar. Todas ayudan, y ninguna cambia el trato: cada llamada que hace el modelo se sigue pagando, y una caché solo sabe lo que parece igual, así que le da la respuesta antigua a un caso parecido y se la sigue dando después de que cambien tus reglas.
Duplex, en cambio, aprende. Cuando tu equipo confirma un resultado, Duplex aprende la decisión que hay detrás, y la siguiente petición parecida la responde el propio Duplex, sin llamar al modelo. En un flujo de 3,000 decisiones, una decisión aprendida estaba lista en Unos 97 ms. Una llamada al modelo tardaba Unos 2,231 ms, y pagabas cada una. Para un cliente que espera en un chat, es la diferencia entre una respuesta instantánea y una pausa que se nota.
Así, cada decisión que confirma tu equipo sale de la factura a partir de ese momento. Las preguntas sobre políticas, las decisiones de enrutamiento y las excepciones conocidas que forman tanta parte del tráfico pasan a Duplex una a una, y tu IA dedica su esfuerzo allí donde merece la pena pagar su precio: a lo nuevo, con el contexto de lo que Duplex sabe del caso. En cuanto se aprueba la respuesta a ese caso nuevo, Duplex también se encarga de él.
Mucho de lo que llega a tu modelo es una decisión que ya ha tomado una y otra vez.
El coste baja a medida que sube la precisión.
El coste y la precisión suelen tirar en direcciones opuestas. Para acertar más respuestas, pagas un modelo más grande, un prompt más largo o una segunda revisión, y para gastar menos aceptas más errores. Cualquiera que haya tenido IA en producción ha girado ese mando hacia los dos lados, buscando un punto en el que mejoren ambos.
Con Duplex los dos se mueven juntos, en la dirección que quieres. A lo largo de esas 3,000 decisiones, con cinco cambios de reglas por el camino, su precisión subió del 85.0% al 94.6% mientras el coste de cada decisión bajaba en unos dos tercios. Cada decisión que aprende se responde como la decidió tu equipo, sin ninguna llamada que pagar, y una corrección hecha una vez se aplica todas las veces siguientes. Así que cada resultado que aprende mejora las dos cosas.
Frente al mismo modelo trabajando solo en las mismas decisiones, Duplex hizo un 90.3% menos de llamadas al modelo con un coste un 84.8% menor, y acertó muchas más veces: 94.6% frente a 59.8%. La diferencia fue mayor después de que cambiaran las reglas. En las decisiones afectadas por esos cambios, Duplex acertó el 92.5% de las veces y el modelo solo, el 2.3%. El modelo con una caché se quedó en el 42.6%, y una respuesta barata no es ningún ahorro cuando sigue la regla antigua.
El resultado se repitió en todas las configuraciones probadas. En las ocho, Duplex se mantuvo entre el 94.1% y el 94.8% de precisión, con cerca de una séptima parte de lo que cuesta el modelo solo, mientras que lo máximo que alcanzó una caché fue el 77.3%. Y la curva no tiene por qué empezar en lo más alto: preentrena Duplex con lo que tu equipo ya sabe, y el ahorro empieza el primer día.
Con un modelo alquilado, lo que pagas es el uso, y cada éxito hace más grande la factura. Con Duplex a su lado, el uso es lo que abarata el trabajo: cada resultado que confirma tu equipo hace que la siguiente decisión parecida sea más rápida, más barata y con más probabilidades de acertar. Sigue pagando a tu IA por lo nuevo y lo difícil, el trabajo que mejor hace, y deja que todo lo que tu equipo ya ha zanjado cueste menos cada mes.
Frente al modelo por sí solo, Duplex redujo las llamadas al modelo un 90.3% en las mismas 3,000 decisiones.