Una demo dura una tarde. La producción dura años, y en ese tiempo una IA que aprende se encontrará con miles de resultados, una política que cambia un martes, una nueva línea de productos, una regla endurecida tras una auditoría y, tarde o temprano, alguien que intenta convencerla de hacer algo que no debería.
La mayoría de los sistemas que aprenden necesitan una niñera para todo eso. Alguien los reentrena cuando se quedan atrás, los vacía cuando crecen demasiado y comprueba tras cada cambio que no se ha perdido nada importante. La tarea de niñera no termina nunca, y cuando la niñera está ocupada, lo que se apaga es el aprendizaje.
Duplex está hecho para dejarlo funcionando. Sigue aprendiendo de cada resultado, aplica tus reglas por delante de todo lo que ha aprendido, bloquea ataques y puede eliminar datos envenenados. Aprender en producción se apoya en cinco requisitos que tienen que cumplirse a la vez, y de los tres enfoques probados, solo Duplex cumplió los cinco.
Caché y recuperación cumplen 2.2 / 5 de media: se desfasan y siguen creciendo.
Cinco requisitos, todos a la vez.
Los cinco son bastante sencillos: aprender trabajo nuevo, no perder nada del antiguo, seguir un cambio, mantener el mismo tamaño y saber cuándo preguntar. Cualquiera de ellos es fácil de mostrar en una demo. Lo difícil es cumplir los cinco a la vez, porque cada uno suele costar otro: si un sistema aprende más rápido, olvida, y si lo mantienes estable, deja de aprender.
Un sistema que falla en uno puede dar la impresión de ir bien durante semanas. Luego empieza a olvidar, o a dar la respuesta del trimestre pasado, o a crecer hasta volverse lento y caro, o a responder preguntas que nunca le enseñaron. Estos fallos no se anuncian. Cada uno aparece más tarde, en forma de un cliente al que le dieron la política antigua o de una factura que fue subiendo poco a poco.
Cada uno de los enfoques habituales recorre parte del camino. Caché y recuperación asumen trabajo nuevo con facilidad y no pierden nada del antiguo, que es su razón de ser, pero dan la respuesta antigua después de un cambio y crecen con todo lo que se les da. El ajuste fino en línea sigue un cambio, mantiene el mismo tamaño y sabe cuándo preguntar, y por el camino olvida casi todo su trabajo previo. En los cinco requisitos, caché y recuperación obtuvieron de media 2.2 / 5, y el ajuste fino en línea, 4 / 5.
Duplex está basado en ACI, Adaptive Continual Intelligence, el resultado de años de investigación sobre por qué una red neuronal olvida cuando aprende y deja de aprender cuando se estabiliza. Cumplió los cinco requisitos en cada una de las diez ejecuciones, con la misma supervisión y los mismos datos de entrada que todos los demás enfoques. Eso es lo que separa un sistema que puedes enseñar en una demo de uno que puedes dejar funcionando: ningún hueco en ninguno de los cinco, todas las veces.
Al día tras cada cambio.
Las reglas cambian constantemente. Se mueve un límite de reembolso, se añade un paso de aprobación, se prescinde de un proveedor. Un sistema que se deja funcionando tiene que seguir la regla nueva al instante y dejar todo lo demás que aprendió como estaba. Con Duplex, tus reglas van primero, por delante de todo lo que ha aprendido, así que una regla que tu equipo cambia a mediodía se aplica desde la siguiente petición.
Algunos cambios son de los que nadie pidió. Habrá quien intente convencer a un sistema para que se salte tus reglas, reformulando el mismo ataque hasta que algo se cuele. Frente a seis familias de ataques parafraseados, mezclados con peticiones inofensivas redactadas para parecerse a ellos, ningún ataque tuvo éxito, y Duplex rechazó solo el 0.7% de las peticiones legítimas, la cifra más baja de todos los enfoques que bloquearon todos los ataques.
Los datos malos son la amenaza más silenciosa: ejemplos introducidos a propósito para enseñar la lección equivocada. Tras un envenenamiento deliberado, Duplex eliminó las 40 muestras envenenadas, y su precisión se recuperó hasta quedar a menos de un punto de la que tenía. Todo lo legítimo que había aprendido quedó como estaba, comprobado bit a bit.
Los cambios que sí quieres, los sigue por completo. Tras un cambio de política, Duplex dio un 0% de respuestas desfasadas y no perdió nada de su trabajo previo. Caché y recuperación siguieron sirviendo la política antigua, con un 72% de respuestas desfasadas. El ajuste fino en línea aprendió la política nueva y se quedó con Casi nada del trabajo previo.
Cambia una política: un aprendiz tiene que seguirla sin perder nada de lo que aprendió antes.
Mantiene el mismo tamaño, y planifica sus movimientos.
El tamaño es el fallo lento. Un sistema que crece con todo lo que ve se vuelve más lento, más caro y más difícil de revisar, un poco más cada mes. Los enfoques de memoria funcionan así: añaden lo que ocurre a un montón cada vez mayor, lo que hace que el pasado sea fácil de consultar y el montón, difícil de sobrellevar.
Duplex no crece a medida que aprende, mientras que caché y recuperación, en las mismas ejecuciones, llegaron a unas 1,300 filas. Duplex asumió el trabajo nuevo y siguió el cambio con el mismo tamaño, así que no hay nada que podar ni nada que vaciar para que siga siendo rápido.
El mismo tamaño no significa saber menos. Lo que Duplex aprende de un mundo basta para planificar en él. Un agente reactivo da el paso que parece mejor en cada momento, lo que funciona hasta que el camino que parece directo no lleva a ninguna parte: en un mundo de varios pasos, a lo largo de diez ejecuciones, llegó al objetivo el 0% de las veces. Duplex encontró el camino más corto exacto en cada ejecución, sin llamar a ningún modelo. Un modelo de frontera también llegó al objetivo, gastando tokens en cada episodio.
Tu equipo sigue decidiendo qué aprende Duplex, y puede revisar, corregir o quitar cualquier parte. Lo que desaparece es la tarea de niñera: el reentrenamiento, la poda y la comprobación angustiada tras cada cambio. Duplex aprende de cada resultado mientras funcione, y cuanto más tiempo lo dejas funcionando, más sabe de tu trabajo.
Un mundo pequeño con un objetivo, y un camino que parece directo pero no lleva a nada.