Une bonne recrue apprend tout le temps. Pendant sa deuxième semaine, quelqu’un mentionne qu’un client est facturé au trimestre, et ce client ne reçoit plus jamais de facture mensuelle. À la fin de l’année, elle sait des centaines de petites choses de ce genre, et apprendre la dernière ne lui a coûté aucune des autres.
Demandez la même chose à une IA, et ce que fait tout bon collègue devient un casse-tête pour les chercheurs. Votre modèle a appris le monde en un seul long entraînement, puis ce qu’il savait a été figé. Pour lui apprendre quelque chose de nouveau, vous l’entraînez à nouveau, et l’entraînement sur le nouveau tend à éroder l’ancien. Alors les équipes corrigent les mêmes réponses semaine après semaine, ou attendent la prochaine version en croisant les doigts.
Duplex apprend comme cette recrue : de chaque résultat, pendant que le travail se fait, et chaque nouvelle leçon ne lui coûte aucune des anciennes. Il s’adapte aussi quand le travail change, ce qui est plus difficile encore.
L’apprentissage continu, c’est intégrer le nouveau sans perdre l’ancien.
Le nouveau et l’ancien tirent en sens contraire.
Votre travail continue d’évoluer bien après l’entraînement de votre modèle. Un correctif arrive lundi, une règle change mercredi, et chaque jour votre équipe confirme des résultats que le modèle n’a jamais vus. Apprendre de chacun d’eux sur le moment est difficile, car cela exige des choses qui tirent dans des directions opposées.
Apprenez avec avidité, et le nouveau chasse l’ancien. Les chercheurs appellent cela l’oubli catastrophique, et c’est pourquoi un modèle entraîné sur les corrections de ce mois-ci peut commencer à se tromper sur les réponses du mois dernier. À l’inverse, verrouillez l’acquis, et ce qu’il sait reste en place pendant que votre travail avance, si bien que les réponses se périment. Et tout ce qu’il apprend doit rester ouvert à votre équipe, pour qu’une leçon erronée puisse être corrigée ou retirée sans perturber le reste.
Ensemble, ces trois exigences forment le trilemme des réseaux neuronaux : plasticité, stabilité et modifiabilité. Un réseau neuronal en obtient deux au mieux. Apprendre en production en demande plus que deux : un système doit suivre un changement, préserver son acquis, accepter une correction, rester rapide en grandissant et savoir ce qu’il n’a pas appris, tout cela à la fois et sur du travail réel. Duplex remplit les cinq, à chaque exécution.
Le réentraînement fait attendre chaque correctif.
L’essentiel de ce qui se vend comme de l’apprentissage continu est du réentraînement continu. Le système rassemble ce qui a changé, réentraîne le modèle, teste la nouvelle version et la met en service. Puis il attend le prochain entraînement.
Entre deux entraînements, le modèle reste tel qu’il était. Le correctif que votre équipe a fait lundi attend l’entraînement, et d’ici là, la même erreur part chez chaque client qui pose la question. Les réponses ne sont jamais plus à jour que le dernier entraînement, et votre travail n’attend le calendrier de personne.
Chaque entraînement est un projet en soi : un pipeline d’entraînement, un cluster d’accélérateurs et une équipe pour les faire tourner. Et chaque entraînement produit un nouveau modèle, qui peut perdre une partie de ce que savait le précédent.
Le fine-tuning en ligne, qui réentraîne au fil de l’eau, court le même risque. Après un changement de politique, il a appris le changement et conservé Une part infime de son acquis. Duplex a suivi le même changement avec 100% de son acquis intact.
Lundi, votre équipe corrige une mauvaise réponse.
Duplex apprend et agit à l’exécution.
Duplex apprend de chaque résultat au moment où votre équipe le confirme : un test réussi, une revue approuvée, une correction acceptée. La requête suivante en tient déjà compte, et Duplex agit selon ce qu’il a appris, conformément à vos règles : il répond, passe la main ou refuse. Il n’y a ni entraînement à attendre, ni nouvelle version à tester, ni modèle à remplacer.
Il apprend aux côtés de votre IA, plutôt qu’en elle. Les poids de votre modèle restent tels quels, et Duplex n’a besoin d’aucun GPU. Vous pouvez revoir, corriger ou retirer tout ce qu’il a appris, et tout le reste demeure tel quel. Ce troisième besoin, la modifiabilité, est celui que le réentraînement a le plus de mal à satisfaire, car dans un modèle réentraîné, personne ne peut désigner une leçon précise et la changer.
Duplex est bâti sur ACI, Adaptive Continual Intelligence : les algorithmes et l’architecture propriétaires de Vareon pour une Intelligence qui apprend et agit en continu à l’exécution. ACI est le fruit d’années de recherche sur ce trilemme, et c’est elle qui permet à Duplex d’accueillir le nouveau sans renoncer à l’ancien.
Apprendre à l’exécution tient aussi les réponses à jour. Après un changement de politique, 0% des réponses de Duplex étaient périmées. Cache et recherche, qui servaient encore ce qu’ils avaient trouvé avant le changement, ont donné des réponses périmées dans 72% des cas.
S’adapter est plus difficile encore.
Apprendre un correctif, c’est la moitié du travail. L’autre moitié, c’est s’adapter : savoir quand ce qui a été appris s’applique, quand ce n’est pas le cas, et quoi faire quand le travail change. Un système qui applique chaque leçon partout est aussi peu utile qu’un système qui n’apprend rien, et plus dangereux, car il a l’air sûr de lui.
Trois moments le montrent. La même requête arrive formulée autrement, et Duplex la reconnaît et y répond. Une requête paraît familière mais elle est nouvelle, comme un remboursement sur une carte cadeau, et Duplex la distingue et fait appel à votre IA, informée de ce qu’il sait du cas. Une règle change, et Duplex suit la nouvelle règle dès la requête suivante, tandis que tout ce qu’il sait par ailleurs demeure inchangé.
Sur un flux de 3,000 décisions où les règles ont changé cinq fois, Duplex a vu juste sur 92.5% des décisions touchées par ces changements. Le modèle seul, sans moyen d’apprendre les nouvelles règles, a vu juste sur 2.3%.
Duplex apprend de chaque résultat confirmé, et s’appuie dessus.
Chaque résultat améliore le suivant.
Un modèle s’améliore quand son créateur entraîne le suivant. Cela se fait selon le calendrier du labo, pour tout le monde à la fois, et le nouveau modèle arrive sans rien savoir de votre travail.
Nous croyons que Les agents s’amélioreront avec une seconde intelligence à leurs côtés, dans une boucle récursive, à l’exécution. C’est pour cela que nous avons construit Duplex. Un agent avec Duplex à ses côtés s’améliore chaque jour où il travaille, grâce à ses propres résultats : il agit, le résultat revient, Duplex en apprend, et l’action suivante part d’un point plus avancé que la précédente. De meilleures décisions apportent de meilleurs résultats, et de meilleurs résultats en apprennent davantage à Duplex.
Les modèles continueront de progresser, et vous voudrez le meilleur d’entre eux. Votre travail continuera de changer lui aussi, à chaque heure de chaque jour. Avec Duplex aux côtés de votre IA, l’apprentissage n’est plus quelque chose qui arrive à un modèle de temps en temps. Il fait partie du travail lui-même : chaque résultat apprend quelque chose à Duplex, chaque leçon s’appuie sur la précédente, et tout cela vous suit vers le modèle suivant.