L’IA che il tuo team ha usato stamattina ha finito di imparare prima che qualcuno di voi la incontrasse. Ha imparato linguaggio, conoscenza e ragionamento in un unico lungo addestramento, su più testi di quanti chiunque potrebbe leggere. Poi il suo addestramento è finito, è stata rilasciata, e ciò che sa è rimasto fisso.
Da allora, il tuo team le ha insegnato molto. Ha corretto le sue risposte, le ha spiegato passo passo la nuova policy sui resi e le ha illustrato più e più volte l’eccezione per il tuo cliente più grande. Ogni lezione è durata una conversazione, e il modello è esattamente com’era il giorno in cui è stato rilasciato.
Finora, l’apprendimento di ogni modello di IA è finito dove finisce il suo addestramento. ACI comincia lì. Impara e agisce a runtime, mentre il tuo lavoro si svolge, in coppia con il modello che usi già. Questo ne fa una nuova categoria di intelligenza, e Duplex è costruito su di essa.
Un modello impara il mondo in un lungo addestramento, prima che qualcuno lo usi.
Ogni modello smette di imparare quando finisce il suo addestramento.
I modelli smettono di imparare al rilascio per una buona ragione. Insegna qualcosa di nuovo a una rete addestrata, e tenderà a sovrascrivere ciò che sapeva già; i ricercatori lo chiamano oblio catastrofico. Tienila ferma, e conserva ciò che sa ma smette di imparare. E poiché ciò che ha imparato è distribuito in tutta la rete, nessuna singola lezione si può correggere o rimuovere senza addestrare di nuovo la rete.
Insieme, questi limiti formano il trilemma delle reti neurali: una rete può imparare rapidamente, conservare ciò che sa o lasciarti modificare ciò che ha imparato, e ne ottiene due al massimo. Così ogni modello viene addestrato una volta, fissato e rilasciato. Da lì in poi, migliora solo quando chi lo produce addestra la versione successiva: con i tempi del produttore, per tutti i clienti insieme, e sui testi del mondo anziché sul tuo lavoro.
I modi consueti per insegnare il tuo lavoro a un modello restano entro quel limite. Un prompt, un documento o un passaggio recuperato mette la tua ultima correzione davanti al modello per una sola risposta: il modello la legge, la usa e non ne impara nulla. Il fine-tuning fa durare una lezione, ma ogni fine-tuning è un altro addestramento su un cluster di acceleratori, e il modello che ne risulta è di nuovo fisso il giorno in cui l’addestramento finisce.
ACI impara e agisce a runtime.
ACI inizia con la tua prima richiesta. Quando il tuo team conferma un risultato, la richiesta successiva dello stesso tipo riflette ciò che ha deciso. Quando una regola cambia, ACI segue quella nuova dalla richiesta successiva. Non servono addestramenti né nuove versioni, e il tuo modello resta com’è.
Ogni risultato si aggiunge al precedente, quindi il nuovo non scaccia il vecchio: una decisione che il tuo team ha preso a marzo vale ancora a novembre, a meno che il tuo team non la cambi. E il tuo team può farlo. Qualsiasi cosa ACI abbia imparato si può rivedere, correggere o rimuovere singolarmente, e tutto il resto resta com’era. Una rete neurale ne ottiene due su tre al massimo; ACI le ha tutte e tre, a runtime.
E agisce in base a ciò che impara. Per ogni richiesta, ACI decide il percorso: risponde a ciò che ha imparato, coinvolge il tuo modello per ciò che è nuovo, informato su ciò che ACI sa del caso, o usa uno dei tuoi strumenti, sempre entro le tue regole. Quando il risultato torna, ACI impara anche da quello.
Un cambio di policy mette alla prova tutto questo. In dieci prove, Duplex ha seguito la nuova policy con 0% di risposte obsolete e 100% del suo lavoro passato intatto, mentre cache e retrieval hanno continuato a servire la vecchia risposta nel 72% dei casi.
È intelligenza, ed è tua.
ACI impara lo schema dietro un risultato, ed è questo che la rende intelligenza. Quando una richiesta che conosce torna con parole nuove, la riconosce. Quando una richiesta sembra soltanto nota, coglie la differenza e la passa al tuo modello. E quando un lavoro continua a ripresentarsi, ACI acquisisce una competenza tutta sua, la mette alla prova prima di usarla e la rimuove su richiesta.
Una cache o una ricerca nelle risposte passate funziona diversamente. Trova ciò che somiglia alla richiesta, quindi un caso simile riceve la vecchia risposta, e la stessa richiesta con parole nuove non trova niente di abbastanza vicino. È utile per trovare un documento, ma non sostituisce la conoscenza del tuo lavoro.
ACI impara il tuo lavoro: le decisioni che il tuo team prende, le eccezioni che fa, il suo modo di fare le cose. Un modello appartiene al laboratorio che lo ha addestrato. Ciò che ACI impara appartiene a te, e per qualsiasi cosa abbia imparato, puoi vedere da quale agente proviene, con quale modello e quando.
Un nuovo tipo di intelligenza, accanto a quella che hai.
ACI lavora in coppia con i modelli di IA che usi già. Il cervello accoppia allo stesso modo due sistemi che imparano: uno lento per la conoscenza generale, come la neocorteccia, e uno rapido per ogni nuova esperienza, come l’ippocampo. Il tuo modello di IA è quello lento: intelligenza generale, imparata dal mondo. Duplex, costruito su ACI, è quello rapido: intelligenza a runtime, imparata dal tuo lavoro.
Ciascuno fa ciò che sa fare meglio. Il tuo modello porta ampiezza, e può affrontare quasi qualsiasi domanda. ACI porta profondità: le tue regole, le tue decisioni e i tuoi risultati, imparati nel dettaglio. E aggiungere un’intelligenza accanto al modello batte riaddestrare il modello stesso. In sei test, su tre dataset pubblici e due famiglie di modelli, Duplex ha battuto un adapter con fine-tuning in tutti e sei, in media di 30.3 punti, senza alcun addestramento.
È questa coppia a fare di ACI una categoria a sé: una seconda intelligenza, non un modello più grande, un addestramento più veloce o un posto migliore dove tenere i documenti. Anni di ricerca sul trilemma delle reti neurali sono diventati ACI: gli algoritmi e l’architettura proprietari di Vareon per un’intelligenza che impara da ogni risultato, si basa su ciò che sa e resta nelle tue mani.
Ogni modello che usi smetterà comunque di imparare il giorno in cui viene rilasciato, e così il prossimo. Ciò che cambia è tutto quello che viene dopo quel giorno. Dalla tua prima richiesta, ACI impara dal tuo lavoro, e ogni giorno in cui è in funzione, l’intelligenza accanto al tuo modello conosce quel lavoro un po’ meglio. L’addestramento finisce dove è sempre finito, e l’apprendimento continua finché continua il tuo lavoro.