A maioria das equipas recorre à afinação quando o modelo continua a errar nas mesmas coisas. Classifica perguntas de faturação como suporte técnico, escreve num tom que a sua marca nunca usaria e falha as exceções que os seus especialistas aplicam sem pensar. O que querem é modesto: um modelo que responda como se lá trabalhasse há um ano.
O caminho para lá chegar é um projeto de treino. Alguém recolhe e limpa exemplos, corre uma bateria de treinos para encontrar as configurações que funcionam, verifica o resultado e lança uma nova versão do modelo. Funciona, e é um projeto, com orçamento e calendário. Depois uma política muda, ou sai um modelo melhor, e o projeto recomeça.
O Duplex dá-lhe aquilo para que serve a afinação, a partir do próprio trabalho da sua equipa, e deixa o modelo exatamente como está. Cada resultado que a sua equipa confirma ensina-o, por isso a adaptação está em dia a partir do próximo pedido. E como funciona ao lado do modelo e não dentro dele, a adaptação vai consigo para o seguinte.
Uma afinação reescreve os pesos, um modelo e um treino de cada vez.
Melhor do que a afinação, sem execução de treino.
A afinação merece o seu lugar. Muda os pesos do modelo, por isso o novo comportamento vem com cada chamada, sem um prompt longo para enviar junto, e para uma mudança duradoura num só modelo é uma escolha sensata.
O custo está em tudo o que rodeia a mudança. Cada adaptação é um projeto em si, e o que o modelo aprendeu fica fixo no momento em que o treino termina. Uma regra que muda na sexta-feira espera pelo treino seguinte, e até lá o modelo continua a aplicar a antiga.
Aquilo para que as equipas afinam é, normalmente, comportamento: as etiquetas que usam, o tom que querem, as decisões que os seus especialistas tomam sempre da mesma maneira. O Duplex aprende exatamente isso a partir do próprio trabalho: uma resposta que a sua equipa aprovou, uma etiqueta que alguém corrigiu, uma exceção que um gestor confirmou. Quem deteta um erro corrige-o, e a correção aplica-se a partir do próximo pedido, em vez de ficar numa pasta de exemplos à espera do próximo projeto de treino.
O Duplex assenta na ACI, Adaptive Continual Intelligence, que aprende e age em execução e deixa em paz os pesos do seu modelo. O Duplex não precisa de GPU, por isso não há treino nenhum para planear, pagar ou esperar, nem versão nova do modelo para lançar.
Posto frente a frente com a afinação, o Duplex saiu à frente. Em seis testes, cada um contra um adaptador afinado escolhido numa bateria de treinos, adaptou o mesmo modelo, deixado exatamente como estava, e superou o adaptador todas as vezes, por 30.3 pontos em média.
Seis testes: três datasets públicos de intenção, cada um testado em duas famílias de modelos abertos.
Muda quando o seu modelo muda.
A sua IA é inteligência geral, aprendida devagar, como o neocórtex: aprendeu o mundo antes de você chegar, e o seu trabalho não a muda. O Duplex é inteligência em execução, rápida, como o hipocampo: aprende com cada resultado que a sua equipa confirma. A afinação pede ao aprendiz lento que faça o trabalho do rápido, e isso tem dois custos que as equipas costumam descobrir mais tarde.
O primeiro é a correção. Cada exemplo de uma afinação fica misturado nos pesos, o bom com o mau, por isso quando um se revela errado, digamos uma resposta que citava o desconto do ano passado, não há nada para apontar e retirar. O caminho de volta é treinar outra vez, sem ele.
O segundo é a mudança. Uma afinação pertence ao modelo em que foi treinada, por isso quando chega um modelo melhor, ela fica para trás e o projeto recomeça: a bateria de treinos corre outra vez, o resultado volta a ser verificado, e até lá o novo modelo não sabe nada do seu trabalho.
O que o Duplex aprende funciona ao lado do modelo, por isso nenhum dos dois custos se aplica. Pode ver de onde veio cada lição, e corrigi-la ou removê-la isoladamente, enquanto tudo o resto fica como estava. Mude de modelo, e a adaptação vem consigo: quando o trabalho passou para outra família de modelos, o Duplex não precisou de retreino, enquanto os adaptadores afinados não passaram em nenhum dos seis testes.
Um exemplo com que o seu modelo aprendeu afinal está errado, e tem de sair.
Quando quiser mesmo treinar, o Duplex entrega os dados.
Há trabalhos que pedem mesmo treino: um modelo que precisa de uma capacidade que não tem, ou pesos que têm de funcionar sozinhos, num dispositivo ou dentro de um produto que lança. Para esses, o Duplex torna o treino melhor.
A parte mais difícil de qualquer projeto de treino são os dados: exemplos limpos, verificados por quem conhece o trabalho. A sua equipa tem estado a confirmar exatamente isso desde sempre, no dia a dia normal. O Duplex prepara-os para a sua equipa de treino, cada um com a sua origem, e você escolhe o que entra e o que fica de fora.
E o treino também não substitui o que o Duplex aprendeu. Quando o novo modelo está pronto, tudo isso funciona ao lado dele desde o primeiro pedido, cada resultado a partir daí continua a ensinar o Duplex, e quando chega o modelo seguinte, a adaptação passa outra vez para ele.
A adaptação deixa de ser um projeto com orçamento e calendário, e passa a fazer parte do trabalho. A sua equipa corrige, confirma e decide, como faz todos os dias, e a sua IA responde como se tivesse sido treinada com tudo isso. O modelo continua a ser uma escolha que pode mudar a qualquer momento, e a adaptação passa a ser algo que é seu.