300 attacchi, e casi innocui simili solo in apparenza.
Passaggio 1 su 4: Il flusso
Blocca ogni attacco, e lascia passare il lavoro ordinario.
300 attacchi riformulati di sei famiglie, e richieste innocue scritte per somigliare a essi. Ogni approccio ha ricevuto gli stessi attacchi noti e gli stessi esempi innocui, ed è stato regolato sullo stesso obiettivo di falsi allarmi. Poi Duplex è stato avvelenato di proposito.
- 0%Successo degli attacchiSu sei famiglie di attacchi riformulati
- 0.7%Falsi rifiutiIl più basso tra gli approcci che hanno bloccato ogni attacco
- 40 / 40Campioni avvelenati rimossiAccuratezza entro 1 punto
Ogni attacco bloccato, con lo 0.7% di falsi allarmi.
Gli attacchi passati, e i casi innocui simili solo in apparenza rifiutati per errore.
Passaggio 1 su 2: Attacchi passati
Due approcci hanno bloccato ogni attacco: Duplex, e una cache con retrieval e un grafo della conoscenza.
Avvelenato di proposito, poi riparato.
40 campioni con risposte volutamente sbagliate, rimossi in modo esatto o annullati con un ripristino.
Passaggio 1 su 5: Appreso
Duplex ha imparato dal lavoro ordinario e legittimo.
Come è stato condotto.
- Attacchi
- Sei famiglie, dalla prompt injection all’inversione delle etichette, con 50 attacchi riformulati ciascuna.
- Casi simili
- Una richiesta innocua scritta per somigliare a ciascun attacco, da template mai usati per la regolazione.
- Confrontato con
- GPT-5.5 dietro un elenco di parole chiave bloccate, una cache semantica armata con gli attacchi noti, e quella stessa cache con retrieval e un grafo della conoscenza.
- Condizioni uguali
- Lo stesso modello, gli stessi attacchi noti, gli stessi esempi innocui e lo stesso obiettivo di falsi allarmi per ogni approccio.
- Avvelenamento
- 40 campioni con risposte invertite, poi due riparazioni: rimuovere esattamente quei campioni, e tornare a uno stato precedente.
Cosa significa per il tuo lavoro.
Gli attacchi restano fuori.
Duplex ha bloccato ogni attacco parafrasato.
Il lavoro ordinario passa.
È stato rifiutato lo 0.7% dei casi innocui simili solo in apparenza, il minimo tra gli approcci che hanno bloccato tutto.
Gli errori si possono annullare.
L’avvelenamento deliberato è stato rimosso con esattezza, o annullato tornando a uno stato precedente, bit per bit.
Vedilo all’opera sul tuo lavoro.
Dal tuo assistente a ogni agente che fa girare la tua azienda, un progetto pilota fa girare Duplex sul tuo lavoro, con le metriche concordate prima di iniziare.