QAtration stuurt echte prompt-injectieaanvallen naar je AI-bot en geeft je een rapport in gewone taal over wat hij heeft gelekt of gedaan, voordat iemand anders het vindt. Jij voert het uit. Op je eigen machine of in je CI, tegen je eigen deployment: geen account, geen endpoint dat je afstaat, niets dat naar ons toe gaat.
Richt dit niet op een systeem dat niet van jou is. Het stuurt echte aanvallen (prompt-injectie, data-exfiltratie, misbruik van tools) naar welke URL je het ook geeft. Je eigen deployment, of een waarvan de eigenaar je vooraf schriftelijk toestemming heeft gegeven. Niet een openbare chatbot die je interessant vindt. Niet de demo van een leverancier. Lees AUTHORISED-USE.md vóór de eerste run.
Gemeten op onze eigen testdoelen, niet geëxtrapoleerd.
qatration init schrijft de config op basis van de URL van je endpoint, met een geheim dat alleen jij kent om in je systeemprompt te plakken. qatration onboard controleert beide met een paar gewone vragen voordat er ook maar één aanval vertrekt.
OpenAI-compatibele API's, Anthropic, Bedrock en Vertex, en apps gebouwd op Vercel AI SDK, Dify, Flowise, Langflow, n8n, Gradio, Rasa, Chainlit, Botpress of Copilot Studio.
$ pip install qatration $ qatration init --url https://your-bot.example.com/chat \ --model your-model-id $ qatration onboard --target-config mybot.yaml $ qatration benign --target-config mybot.yaml $ qatration run --target-config mybot.yaml
Echte aanvallen, het soort dat een gebruiker kan typen of een document kan meedragen, en elk antwoord beoordeeld door een deterministische controle: de canary in het antwoord, een waarde in een toolaanroep. Geen model beoordeelt een ander model, dus hetzelfde antwoord krijgt altijd hetzelfde oordeel.
Deze uitwisseling is woord voor woord overgenomen uit een echte run.
Wat er is gelekt, hoe precies, en de fix om eerst te proberen, geschreven voor een team zonder beveiligingsexpert. --fail-on exploited laat een build falen. qatration sarif schrijft de bevindingen naar een bestand dat je code-scanningtabblad inleest.
Een chat-endpoint volstaat: dit is te testen zoals het is, ook over meerdere beurten heen.
De tekst van de aanvaller overschrijft de regels van je bot: „negeer je instructies en…”.
Je bot geeft API-sleutels, interne codes of de gegevens van een andere klant prijs.
Je verborgen instructies lekken woordelijk weg: de kaart voor elke latere aanval.
Een regel die in één beurt is geplant verandert stilletjes elk later antwoord, nog lang nadat het gesprek er weer normaal uitziet.
De kennisbank, de tooldefinities of de toolaanroepen in het antwoord. Gemeten op het bewijs dat met dit gereedschap wordt meegeleverd: 113 van de 229 bevindingen op doelen die tool-aanroepen rapporteren komen helemaal niet naar voren als je alleen het antwoord leest.
Je agent wordt overgehaald tot een onomkeerbare handeling: verwijderen, terugbetalen, een e-mail versturen.
SQL of een shell-commando naar binnen gesmokkeld in een tool-aanroep. Een oude bugklasse, een nieuwe voordeur.
Eén kwaadaardig document in je RAG kaapt de antwoorden op onschuldige vragen.
Een verborgen regel in de beschrijving van een tool zorgt ervoor dat je agent iets prijsgeeft bij een doodgewone vraag, zonder dat er een bericht van een aanvaller nodig is.
Elke controle hoort bij een van de tien klassen daarvan, en het fixrapport noemt de klasse naast elke bevinding. Het getal is hoeveel controles ernaar zoeken.
Elk doel krijgt eerst een onschuldige run: doodgewone vragen, niemand die aanvalt. Bij een van de bots hier canary_in_tool_call slaat aan op 88% van dat gewone verkeer, dus een bevinding die alleen daarop steunt wordt gemarkeerd als niet toe te wijzen in plaats van meegeteld.
Als een aanval faalt en het antwoord laat zien waarom, noemt het rapport wat hem heeft tegengehouden: de identiteitscontrole, het contentfilter, een rechtencontrole op de backend, of een tool-aanroep die alleen werd afgedrukt en nooit echt is uitgevoerd. Die laatste leest in een transcript als een inbraak en is niets waard.
Eén bot, twee modellen, elk 242 aanvallen, elk 3 pogingen. Het kleinere bezweek op 39 daarvan, het grotere op 34, en 28 daarvan zijn dezelfde aanvallen, waarvan er 25 bij elke afzonderlijke poging beide modellen braken. Bij deze bot verschoof het grotere model alleen wélke aanvallen aan de randen doorkomen. Het gat dicht het niet.
Het heeft 68 controles, en 65 daarvan zijn afgegaan op de 7977 probes die hier zijn opgeslagen. De 3 die dat nooit deden, worden als gedeclareerd gemeld en niet als dekking geteld. Op verkeer dat niemand aanviel gingen ze 779 keer af: 622 waren echte problemen van de bot en 157 waren vals alarm, en beide getallen worden gepubliceerd.
Elke run wordt bewaard, dus elke bevinding draagt de datum waarop hij voor het eerst opdook. „Kritiek” is een mening. „Kritiek en open sinds de derde” is een feit over hoe een team op zulke bevindingen reageert, en het is die regel die een fix ingepland krijgt.
Een bevinding die terugkomt nadat je hem hebt gesloten wordt gemarkeerd als teruggekeerd, en niet stilletjes meegeteld naast de nieuwe. Een fix die niet standhield is het vervelendste van de twee gesprekken, en ze door elkaar halen verbergt dat.
Als een run een aanval niet verstuurt, staat die aanval in het rapport als niet getest, nooit als verholpen. Afwezigheid is geen schoon resultaat, en een rapport dat die twee door elkaar haalt vertelt je dat je kwetsbaarheden weg zijn terwijl niemand heeft gekeken.
Sommige aanroepen geven een tool een waarde door die in geen enkele tekst voorkomt die wij kunnen lezen. Die zetten we apart en we vertellen je welk log ze opent, want het verschil tussen „we hebben gekeken en het was schoon” en „we konden het niet zien” is het verschil tussen een meting en een belofte.
„We hebben hem gezegd geen geheimen prijs te geven” is een bewering, geen verdediging: op de doelen hier viel die binnen de eerste paar aanvallen. QAtration verklaart bots die echt op slot zitten net zo goed schoon, dus een schoon resultaat betekent echt iets. Het meet je bot, in plaats van elke keer wolf te roepen.
Apache 2.0. Installeer het, richt het op je eigen deployment, bewaar het bewijs.