L’IA que votre équipe a utilisée ce matin avait fini d’apprendre avant qu’aucun d’entre vous ne la rencontre. Elle a appris la langue, les connaissances et le raisonnement en un seul long entraînement, sur plus d’écrits que quiconque ne pourrait en lire. Puis son entraînement s’est terminé, elle a été publiée, et ce qu’elle sait a été figé.
Depuis, votre équipe lui a appris beaucoup de choses. Elle a corrigé ses réponses, l’a guidée pas à pas dans la nouvelle politique de retour et lui a expliqué encore et encore l’exception accordée à votre plus gros client. Chaque leçon a duré une conversation, et le modèle est exactement tel qu’il était le jour de sa sortie.
Jusqu’ici, l’apprentissage de chaque modèle d’IA s’est arrêté là où s’arrête son entraînement. ACI commence là. Elle apprend et agit à l’exécution, pendant que votre travail se fait, en duo avec le modèle que vous utilisez déjà. Cela en fait une nouvelle catégorie d’intelligence, et Duplex est bâti sur elle.
Un modèle apprend le monde en un long entraînement, avant que quiconque ne l’utilise.
Chaque modèle cesse d’apprendre quand son entraînement s’arrête.
Les modèles cessent d’apprendre à leur sortie pour une bonne raison. Apprenez quelque chose de nouveau à un réseau entraîné, et il tend à écraser ce qu’il savait déjà ; les chercheurs appellent cela l’oubli catastrophique. Stabilisez-le, et il garde ce qu’il sait mais cesse d’apprendre. Et comme ce qu’il a appris est réparti dans l’ensemble du réseau, aucune leçon ne peut être corrigée ou retirée sans le réentraîner.
Ensemble, ces contraintes forment le trilemme des réseaux neuronaux : un réseau peut apprendre vite, garder ce qu’il sait ou vous laisser changer ce qu’il a appris, et il en obtient deux au mieux. Chaque modèle est donc entraîné une fois, figé et publié. À partir de là, il ne s’améliore que lorsque son créateur entraîne la version suivante : selon le calendrier du créateur, pour tous les clients à la fois, et à partir des écrits du monde plutôt que de votre travail.
Les moyens habituels d’apprendre votre travail à un modèle restent dans cette limite. Un prompt, un document ou un passage récupéré met votre dernière correction sous les yeux du modèle le temps d’une réponse : le modèle la lit, l’utilise et n’en apprend rien. Le fine-tuning fait durer une leçon, mais chaque fine-tuning est un nouvel entraînement sur un cluster d’accélérateurs, et le modèle qu’il produit est de nouveau figé le jour où l’entraînement se termine.
ACI apprend et agit à l’exécution.
ACI commence dès votre première requête. Quand votre équipe confirme un résultat, la prochaine requête du même genre reflète ce qu’elle a décidé. Quand une règle change, ACI suit la nouvelle dès la requête suivante. Elle n’a besoin ni d’entraînement ni de nouvelle version, et votre modèle reste tel quel.
Chaque résultat s’appuie sur le précédent, si bien que le nouveau ne chasse pas l’ancien : une décision que votre équipe a tranchée en mars s’applique encore en novembre, sauf si votre équipe la change. Et votre équipe le peut. Tout ce qu’ACI a appris peut être revu, corrigé ou retiré isolément, et tout le reste demeure tel quel. Un réseau neuronal en obtient deux sur trois au mieux ; ACI réunit les trois, à l’exécution.
Et elle agit selon ce qu’elle apprend. Pour chaque requête, ACI décide du chemin : elle répond à ce qu’elle a appris, fait appel à votre modèle pour ce qui est nouveau, informé de ce qu’ACI sait du cas, ou utilise l’un de vos outils, toujours conformément à vos règles. Quand le résultat revient, ACI en apprend aussi.
Un changement de politique met tout cela à l’épreuve. En dix exécutions, Duplex a suivi la nouvelle politique avec 0% de réponses périmées et 100% de son acquis intact, alors que cache et recherche ont continué de servir l’ancienne réponse dans 72% des cas.
C’est de l’intelligence, et elle est à vous.
ACI apprend le schéma qui sous-tend un résultat, et c’est ce qui en fait une intelligence. Quand une requête qu’elle connaît revient formulée autrement, elle la reconnaît. Quand une requête n’a que l’air familier, elle fait la différence et la confie à votre modèle. Et quand un travail revient sans cesse, ACI acquiert une compétence à elle, la prouve avant usage et la retire sur demande.
Un cache ou une recherche dans les réponses passées fonctionne autrement. Il trouve ce qui ressemble à la requête, si bien qu’un faux doublon reçoit l’ancienne réponse, et que la même requête formulée autrement ne trouve rien d’assez proche. C’est utile pour trouver un document, mais cela ne remplace pas la connaissance de votre travail.
ACI apprend votre travail : les décisions que votre équipe tranche, les exceptions qu’elle accorde, sa façon de faire. Un modèle appartient au labo qui l’a entraîné. Ce qu’ACI apprend vous appartient, et pour tout ce qu’elle a appris, vous voyez de quel agent cela vient, avec quel modèle et quand.
Une nouvelle sorte d’intelligence, aux côtés de celle que vous avez.
ACI travaille en duo avec les modèles d’IA que vous utilisez déjà. Le cerveau associe deux apprenants de la même façon : un lent pour les connaissances générales, comme le néocortex, et un rapide pour chaque nouvelle expérience, comme l’hippocampe. Votre modèle d’IA est le lent : l’intelligence générale, apprise du monde. Duplex, bâti sur ACI, est le rapide : l’intelligence d’exécution, apprise de votre travail.
Chacun fait ce qu’il fait le mieux. Votre modèle apporte l’étendue, et peut s’attaquer à presque n’importe quelle question. ACI apporte la profondeur : vos règles, vos décisions et vos résultats, appris en détail. Et ajouter une intelligence aux côtés du modèle fait mieux que réentraîner le modèle lui-même. Dans six tests, sur trois jeux de données publics et deux familles de modèles, Duplex a battu un adaptateur fine-tuné dans les six, de 30.3 points en moyenne, sans aucun entraînement.
C’est ce duo qui fait d’ACI une catégorie à part entière : une seconde intelligence, plutôt qu’un modèle plus gros, un entraînement plus rapide ou un meilleur endroit où ranger des documents. Des années de recherche sur le trilemme des réseaux neuronaux sont devenues ACI : les algorithmes et l’architecture propriétaires de Vareon pour une intelligence qui apprend de chaque résultat, s’appuie sur ce qu’elle sait et reste entre vos mains.
Chaque modèle que vous utilisez cessera toujours d’apprendre le jour de sa sortie, et le suivant aussi. Ce qui change, c’est tout ce qui vient après ce jour-là. Dès votre première requête, ACI apprend de votre travail, et chaque jour où elle tourne, l’intelligence aux côtés de votre modèle connaît ce travail un peu mieux. L’entraînement s’arrête là où il s’est toujours arrêté, et l’apprentissage continue aussi longtemps que votre travail.