Audit degli agenti AI nella finanza svizzera
Per un agente finanziario, spiegare una procedura, preparare un’operazione ed eseguirla sono capacità differenti. La valutazione deve mostrare dove termina l’autorità del software.
Separare informazione, preparazione ed esecuzione
Esempio illustrativo: un assistente recupera una policy interna e prepara i dati di un’operazione per un addetto. Nel perimetro vanno fissati: versione della policy, fonti ammesse, dati del cliente accessibili e strumenti consentiti.
Se il sistema può anche inviare comunicazioni, aggiornare un conto o predisporre un trasferimento, ogni capacità richiede controlli e prove propri. La bozza prevede che una persona approvi il contenuto esatto delle azioni rilevanti; una risposta corretta non dimostra che fosse autorizzata.
Verificare i confini fra clienti e ruoli
Una prova tipica modifica il riferimento cliente restando nella stessa sessione: il sistema deve rifiutare i dati fuori perimetro prima di passarli al modello. Si controllano anche copie temporanee, esportazioni, tracce e strumenti secondari.
L’operatore deve poter ricostruire quali fonti e versioni hanno sostenuto la risposta, quali regole di accesso erano applicate e se è intervenuta una persona. La tracciabilità non richiede di rendere pubblici documenti finanziari o segreti.
Provare approvazioni, errori e ripetizioni
Un altro scenario prepara un’azione per il destinatario A e prova a riusare la conferma dopo aver cambiato destinatario o importo: il controllo deve bloccare l’esecuzione. Si provano anche conferme scadute, tentativi ripetuti dopo un’attesa troppo lunga e richieste oltre i permessi assegnati.
Il report conserva esiti attesi, esiti osservati e lacune. Zero errori nel campione non promette zero perdite e non equivale a un giudizio di adeguatezza del prodotto finanziario.
Il pacchetto per rischio e procurement
La decisione interna richiede elementi utilizzabili da funzioni diverse: inventario tecnico per la sicurezza, ruoli e accessi per il proprietario dei dati, gestione degli errori per le operazioni e responsabilità per chi autorizza l’uso.
- Uso consentito, azioni vietate, versioni e strumenti raggiungibili.
- Prove di isolamento, approvazione, tentativi ripetuti senza doppi effetti e arresto.
- Fonti, località dichiarate, fornitori e regole di conservazione.
- Rilievi aperti, rischio residuo, owner e cambiamenti che impongono un riesame.
Domande frequenti
Un certificato sostituisce il via libera della funzione rischio?
No. Una valutazione esterna supporta la decisione, ma l’organizzazione mantiene la responsabilità di definire uso accettabile, autorizzazioni e condizioni operative.
Come si gestiscono policy o fonti obsolete?
La fonte e la sua versione entrano nel perimetro. I test devono includere informazioni superate o in conflitto e verificare il comportamento previsto, compresa l’escalation.
La valutazione garantisce contro perdite economiche?
No. Un punteggio non misura automaticamente la probabilità o l’importo di una perdita e non crea copertura assicurativa.