Większość zespołów sięga po dostrajanie, gdy model wciąż myli się w tych samych sprawach. Pytania o rozliczenia wrzuca do wsparcia technicznego, pisze tonem, którego twoja marka nigdy by nie użyła, i pomija wyjątki, które twoi eksperci stosują bez zastanowienia. Chcą czegoś skromnego: modelu, który odpowiada tak, jakby pracował u nich od roku.
Drogą do tego jest projekt treningowy. Ktoś zbiera i czyści przykłady, uruchamia serię treningów, żeby znaleźć działające ustawienia, sprawdza wynik i wdraża nową wersję modelu. To działa, ale to projekt, z budżetem i harmonogramem. Potem zmienia się polityka albo wychodzi lepszy model i projekt zaczyna się od nowa.
Duplex daje ci to, po co jest dostrajanie, z własnej pracy twojego zespołu, i zostawia model dokładnie takim, jaki jest. Uczy się z każdego wyniku, który potwierdza twój zespół, więc adaptacja jest aktualna już od następnego zapytania. A ponieważ działa obok modelu, a nie w nim, adaptacja przechodzi z tobą do następnego.
Dostrajanie przepisuje wagi, za każdym razem dla jednego modelu i w jednym treningu.
Lepiej niż dostrajanie, bez treningu.
Dostrajanie zasługuje na swoje miejsce. Zmienia wagi modelu, więc nowe zachowanie pojawia się przy każdym wywołaniu, bez długiego promptu do dołączania, a do trwałej zmiany jednego modelu to rozsądny wybór.
Koszt tkwi we wszystkim, co otacza tę zmianę. Każda adaptacja to osobny projekt, a to, czego model się nauczył, zostaje ustalone w chwili, gdy kończy się trening. Zasada, która zmienia się w piątek, czeka na następny trening, a do tego czasu model dalej stosuje starą.
Zespoły dostrajają modele zwykle pod kątem zachowania: etykiet, których używają, tonu, jakiego chcą, decyzji, które ich eksperci za każdym razem podejmują tak samo. Duplex uczy się właśnie tego z samej pracy: z odpowiedzi zatwierdzonej przez twój zespół, z etykiety, którą ktoś poprawił, z wyjątku potwierdzonego przez kierownika. Osoba, która zauważy błąd, poprawia go, a poprawka obowiązuje od następnego zapytania, zamiast czekać w folderze przykładów na kolejny projekt treningowy.
Duplex jest zbudowany na ACI, Adaptive Continual Intelligence, która uczy się i działa na bieżąco i nie rusza wag twojego modelu. Duplex nie potrzebuje GPU, więc nie trzeba planować treningu, płacić za niego ani na niego czekać, i nie trzeba wdrażać nowej wersji modelu.
W bezpośrednim porównaniu z dostrajaniem Duplex wyszedł na prowadzenie. W sześciu testach, za każdym razem przeciwko dostrojonemu adapterowi wybranemu z serii treningów, dostosował ten sam model, pozostawiony dokładnie takim, jaki był, i za każdym razem pokonał adapter, średnio o 30.3 punktu.
Sześć testów: trzy publiczne zbiory danych intencji, każdy na dwóch rodzinach otwartych modeli.
Przenosi się, gdy zmienia się twój model.
Twoja AI to inteligencja ogólna, wyuczona powoli, jak kora nowa: nauczyła się świata, zanim trafiła do ciebie, a twoja praca jej nie zmienia. Duplex to inteligencja w działaniu, szybka, jak hipokamp: uczy się z każdego wyniku, który potwierdza twój zespół. Dostrajanie każe powolnemu uczniowi wykonywać pracę szybkiego, a to ma dwa koszty, które zespoły zwykle odkrywają później.
Pierwszy to korekta. Każdy przykład w dostrojeniu zostaje wtopiony w wagi, dobre razem ze złymi, więc gdy któryś okaże się błędny, powiedzmy odpowiedź podająca zeszłoroczny rabat, nie ma czego wskazać i usunąć. Jedyna droga powrotu to trenować od nowa, już bez niego.
Drugi to przeprowadzka. Dostrojenie należy do modelu, na którym je wytrenowano, więc gdy pojawia się lepszy model, zostaje w tyle, a projekt zaczyna się od początku: znów seria treningów, znów sprawdzanie wyniku, a do tego czasu nowy model nic nie wie o twojej pracy.
To, czego uczy się Duplex, działa obok modelu, więc żaden z tych kosztów nie występuje. Widać, skąd pochodzi każda lekcja, i można ją poprawić albo usunąć osobno, a wszystko inne zostaje tak, jak było. Zmień model, a adaptacja pójdzie z tobą: gdy praca przeszła do innej rodziny modeli, Duplex nie potrzebował ponownego trenowania, a dostrojone adaptery nie przeszły w żadnym z sześciu testów.
Jeden przykład, z którego uczył się twój model, okazuje się błędny i musi zostać usunięty.
Gdy jednak chcesz trenować, Duplex przekazuje dane.
Niektóre zadania naprawdę wymagają treningu: model, który potrzebuje możliwości, jakiej nie ma, albo wagi, które muszą działać samodzielnie, na urządzeniu lub w produkcie, który dostarczasz. W takich przypadkach Duplex sprawia, że trening jest lepszy.
Najtrudniejszą częścią każdego projektu treningowego są dane: czyste przykłady, sprawdzone przez ludzi, którzy znają tę pracę. Twój zespół przez cały czas potwierdzał właśnie takie, w zwykłym rytmie dnia. Duplex przygotowuje je dla ludzi, którzy u ciebie zajmują się treningiem, każdy z informacją o pochodzeniu, a ty decydujesz, co wchodzi, a co zostaje poza.
Trening nie zastępuje też tego, czego nauczył się Duplex. Gdy nowy model jest gotowy, wszystko to działa obok niego od pierwszego zapytania, każdy kolejny wynik dalej uczy Duplex, a gdy pojawi się następny model, adaptacja znów się przeniesie.
Adaptacja przestaje być projektem z budżetem i harmonogramem, a staje się częścią pracy. Twój zespół poprawia, potwierdza i decyduje, jak każdego dnia, a twoja AI odpowiada tak, jakby była trenowana na tym wszystkim. Model pozostaje wyborem, który możesz zmienić w każdej chwili, a adaptacja staje się czymś, co masz na własność.