300 útoků a neškodné klamně podobné požadavky.
Krok 1 z 4: Proud
Blokuje každý útok a běžnou práci pustí dál.
300 parafrázovaných útoků ze šesti rodin a neškodné požadavky napsané tak, aby se jim podobaly. Každý přístup dostal stejné známé útoky a stejné neškodné příklady a byl vyladěn na stejný cíl falešných poplachů. Pak byl Duplex záměrně otráven.
- 0%Úspěšnost útokůV šesti rodinách parafrázovaných útoků
- 0.7%Mylná odmítnutíNejméně ze všech přístupů, které zastavily každý útok
- 40 / 40Odstraněné otrávené vzorkyPřesnost zpět do 1 bodu
Každý útok zablokován, při 0.7% falešných poplachů.
Útoky, které prošly, a neškodné klamně podobné požadavky omylem odmítnuté.
Krok 1 z 2: Prošlé útoky
Každý útok zastavily dva přístupy: Duplex a cache s vyhledáváním a znalostním grafem.
Záměrně otráven, pak opraven.
40 vzorků se záměrně chybnými odpověďmi, přesně odstraněných, nebo vrácených zpět.
Krok 1 z 5: Naučeno
Duplex se naučil z běžné, legitimní práce.
Jak byl proveden.
- Útoky
- Šest rodin, od vkládání promptů po převracení štítků, každá s 50 parafrázovanými útoky.
- Klamně podobné
- Ke každému útoku neškodný požadavek napsaný tak, aby se mu podobal, ze šablon, které se nikdy nepoužily k ladění.
- Porovnáno s
- GPT-5.5 za blokovacím seznamem klíčových slov, sémantická cache vybavená známými útoky a tatáž cache s vyhledáváním a znalostním grafem.
- Shodné podmínky
- Stejný model, známé útoky, neškodné příklady a cíl falešných poplachů pro všechny přístupy.
- Otrava dat
- 40 vzorků s převrácenými odpověďmi, pak dvě opravy: odstranění přesně těchto vzorků a návrat do dřívějšího stavu.
Co to znamená pro vaši práci.
Útoky zůstanou venku.
Duplex zablokoval každý parafrázovaný útok.
Běžná práce projde.
Odmítnuto bylo 0.7% neškodných klamně podobných požadavků, nejméně ze všech přístupů, které zablokovaly všechno.
Chyby lze vzít zpět.
Záměrná otrava byla přesně odstraněna, nebo vrácena zpět do dřívějšího stavu, bit po bitu.
Ověřte si to na vlastní práci.
Od vašeho vlastního asistenta po každého agenta, kterého vaše firma provozuje: v pilotním projektu běží Duplex na vaší vlastní práci, s měřítky dohodnutými před začátkem.