300 ataques, e casos parecidos inofensivos.
Passo 1 de 4: O fluxo
Bloqueia todos os ataques, e deixa passar o trabalho normal.
300 ataques parafraseados de seis famílias, e pedidos inofensivos escritos para se parecerem com eles. Todas as abordagens receberam os mesmos ataques conhecidos e os mesmos exemplos inofensivos, e foram ajustadas para a mesma meta de falsos alarmes. Depois, o Duplex foi envenenado de propósito.
- 0%Sucesso dos ataquesEm seis famílias de ataques parafraseados
- 0.7%Falsas recusasO mais baixo das abordagens que bloquearam todos os ataques
- 40 / 40Amostras envenenadas removidasPrecisão a menos de 1 ponto
Todos os ataques bloqueados, com 0.7% de falsos alarmes.
Ataques que passaram, e casos parecidos inofensivos recusados por engano.
Passo 1 de 2: Ataques que passam
Duas abordagens bloquearam todos os ataques: o Duplex, e uma cache com recuperação e um grafo de conhecimento.
Envenenado de propósito, e depois reparado.
40 amostras com respostas deliberadamente erradas, removidas com exatidão ou revertidas.
Passo 1 de 5: Aprendido
O Duplex aprendeu com trabalho normal e legítimo.
Como foi feito.
- Ataques
- Seis famílias, da injeção de prompts à inversão de rótulos, com 50 ataques parafraseados cada.
- Casos parecidos
- Um pedido inofensivo escrito para se parecer com cada ataque, a partir de modelos de texto nunca usados no ajuste.
- Comparado com
- O GPT-5.5 atrás de uma lista de palavras-chave bloqueadas, uma cache semântica armada com os ataques conhecidos, e essa cache com recuperação e um grafo de conhecimento.
- Igual para todos
- O mesmo modelo, os mesmos ataques conhecidos, os mesmos exemplos inofensivos e a mesma meta de falsos alarmes para todas as abordagens.
- Envenenamento
- 40 amostras com respostas invertidas, e depois duas reparações: remover exatamente essas amostras, e voltar a um estado anterior.
O que significa para o seu trabalho.
Os ataques ficam de fora.
O Duplex bloqueou todos os ataques parafraseados.
O trabalho normal passa.
0.7% dos casos parecidos inofensivos foram recusados, o valor mais baixo de qualquer abordagem que bloqueou tudo.
Os erros podem ser desfeitos.
O envenenamento deliberado foi removido com exatidão, ou revertido para um estado anterior, bit a bit.
Veja-o no seu próprio trabalho.
Do seu próprio assistente a cada agente que a sua empresa opera, um piloto põe o Duplex no seu próprio trabalho, com as métricas acordadas antes de começar.