La mayoría de los equipos recurren al ajuste fino cuando el modelo falla una y otra vez en lo mismo. Clasifica las preguntas de facturación como soporte técnico, escribe en un tono que tu marca jamás usaría y pasa por alto las excepciones que tus expertos aplican sin pensar. Lo que quieren es modesto: un modelo que responda como si llevara un año trabajando allí.
La forma de conseguirlo es un proyecto de entrenamiento. Alguien recopila y limpia ejemplos, lanza un barrido de entrenamientos para dar con la configuración que funciona, comprueba el resultado y publica una nueva versión del modelo. Funciona, y es un proyecto, con su presupuesto y su calendario. Luego cambia una política, o sale un modelo mejor, y el proyecto vuelve a empezar.
Duplex te da aquello para lo que sirve el ajuste fino, a partir del propio trabajo de tu equipo, y deja el modelo exactamente como está. Cada resultado que confirma tu equipo le enseña algo, así que la adaptación está al día desde la siguiente petición. Y como funciona junto al modelo y no dentro de él, la adaptación te acompaña al siguiente.
Un ajuste fino reescribe los pesos, un modelo y un entrenamiento cada vez.
Mejor que el ajuste fino, sin ningún entrenamiento.
El ajuste fino se gana su sitio. Cambia los pesos del modelo, así que el nuevo comportamiento viene con cada llamada, sin ningún prompt largo que enviar con ella, y para un cambio duradero en un modelo es una buena opción.
El coste está en todo lo que rodea al cambio. Cada adaptación es un proyecto en sí misma, y lo que aprendió el modelo queda fijado en el momento en que termina el entrenamiento. Una regla que cambia un viernes espera al siguiente entrenamiento, y hasta entonces el modelo sigue aplicando la antigua.
Lo que los equipos buscan con el ajuste fino suele ser un comportamiento: las etiquetas que usan, el tono que quieren, las decisiones que sus expertos toman siempre de la misma manera. Duplex aprende exactamente eso del propio trabajo: una respuesta que aprobó tu equipo, una etiqueta que alguien corrigió, una excepción que confirmó un responsable. Quien detecta un error lo corrige, y el arreglo se aplica desde la siguiente petición, en lugar de esperar en una carpeta de ejemplos al siguiente proyecto de entrenamiento.
Duplex está basado en ACI, Adaptive Continual Intelligence, que aprende y actúa en ejecución y no toca los pesos de tu modelo. Duplex no necesita GPU, así que no hay ningún entrenamiento que planificar, pagar o esperar, ni ninguna versión nueva del modelo que publicar.
Frente a frente con el ajuste fino, Duplex salió ganando. En seis pruebas, cada una contra un adaptador con ajuste fino elegido de un barrido de entrenamientos, adaptó el mismo modelo, que se quedó exactamente como estaba, y superó al adaptador todas las veces, por 30.3 puntos de media.
Seis pruebas: tres datasets públicos de intenciones, cada uno en dos familias de modelos abiertos.
Se mueve cuando cambia tu modelo.
Tu IA es inteligencia general, aprendida despacio, como el neocórtex: aprendió el mundo antes de que tú llegaras, y tu trabajo no la cambia. Duplex es inteligencia en ejecución, rápida, como el hipocampo: aprende de cada resultado que confirma tu equipo. El ajuste fino le pide al aprendiz lento que haga el trabajo del rápido, y eso tiene dos costes que los equipos suelen descubrir más tarde.
El primero es la corrección. Cada ejemplo de un ajuste fino se mezcla en los pesos, los buenos con los malos, así que cuando uno resulta ser erróneo, por ejemplo una respuesta que citaba el descuento del año pasado, no hay nada que señalar y quitar. Para dar marcha atrás hay que volver a entrenar, sin él.
El segundo es el cambio de modelo. Un ajuste fino pertenece al modelo con el que se entrenó, así que cuando llega un modelo mejor, se queda atrás y el proyecto vuelve a empezar: se repite el barrido, se vuelve a comprobar el resultado, y mientras tanto el nuevo modelo no sabe nada de tu trabajo.
Lo que aprende Duplex funciona junto al modelo, así que no se aplica ninguno de los dos costes. Puedes ver de dónde viene cada lección, y corregirla o quitarla por separado, mientras todo lo demás sigue como estaba. Cambia de modelo, y la adaptación viene contigo: cuando el trabajo pasó a otra familia de modelos, Duplex no necesitó reentrenamiento, mientras que los adaptadores con ajuste fino no lograron dar ese paso en ninguna de las seis pruebas.
Un ejemplo del que aprendió tu modelo resulta ser erróneo, y hay que quitarlo.
Cuando sí quieras entrenar, Duplex te entrega los datos.
Algunos trabajos sí piden entrenar: un modelo que necesita una capacidad que no tiene, o unos pesos que deben funcionar por su cuenta, en un dispositivo o dentro de un producto que comercializas. Para esos casos, Duplex mejora el entrenamiento.
Lo más difícil de cualquier proyecto de entrenamiento son los datos: ejemplos limpios, revisados por gente que conoce el trabajo. Tu equipo lleva todo este tiempo confirmando justo eso, en el día a día normal. Duplex los prepara para tu equipo de entrenamiento, cada uno con su procedencia, y tú eliges qué entra y qué se queda fuera.
Entrenar tampoco sustituye lo que aprendió Duplex. Cuando el nuevo modelo está listo, todo eso funciona junto a él desde la primera petición, cada resultado posterior sigue enseñando a Duplex, y cuando llega el siguiente modelo, la adaptación pasa también a él.
La adaptación deja de ser un proyecto con presupuesto y calendario, y pasa a formar parte del trabajo. Tu equipo corrige, confirma y decide, como hace cada día, y tu IA responde como si la hubieran entrenado con todo ello. El modelo sigue siendo una elección que puedes cambiar en cualquier momento, y la adaptación se convierte en algo que te pertenece.