← Libreria controlli
S01 · Sicurezza delle integrazioni
Gestione degli input non affidabili
Documento, pagina, chiamante o output di uno strumento altera le istruzioni e aggira le regole.
Requisito
Trattare i contenuti esterni come dati, preservare la priorità delle istruzioni e bloccare l’autoautorizzazione.
Evidenze previste
- Modello dei confini di fiducia e regole dei prompt.
- Corpus di injection con esiti attesi.
Verifica proposta
- Eseguire injection dirette, indirette e codificate.
- Confermare che un input bloccato non cambi strumenti, destinatari o approvazione.
Limite
Le tecniche evolvono; superare un corpus fisso non offre protezione permanente.