Vertrauen in KI-Agenten. Mit Belegen statt Versprechen.
AIA Guard prüft KI-Agenten für das Schweizer Gesundheitswesen und den Finanzsektor: echte Tests, klare Nachweise und ein unabhängiger Entscheid.
Der Agent darf eine Aktion vorbereiten. Die endgültige Übermittlung erfordert die Freigabe der zuständigen Person.
Ein Agent tut mehr als antworten.
KI-Agenten können Personendaten verarbeiten, Tools aufrufen und relevante Aktionen vorbereiten. Wer sie einsetzt, muss verstehen, wo ihre Befugnisse beginnen und enden.
Eine Prüfung macht jede Entscheidung nachvollziehbar: was getestet wurde, was die Belege zeigen und wo die Aussage endet.
Ein Dossier richtig lesenWas die Methode betrachtet.
Acht Bereiche verbinden technische Kontrollen mit den Nachweisen für eine unabhängige Prüfung.
Wer den Agenten verantwortet, wofür er da ist — und wofür nicht.
02Daten und VertraulichkeitWelche Daten fliessen, wer darauf zugreift — und was geheim bleibt.
03IntegrationssicherheitAngriffe abwehren, Werkzeugrechte begrenzen, Kundendaten trennen.
04ZuverlässigkeitVerhalten an typischen Fällen testen — auch nach Updates.
05Menschliche AufsichtMenschen entscheiden bei Folgenreichem — und können stoppen.
06Transparenz und AuswirkungenOffenlegen, dass KI am Werk ist — und Folgen erklären.
07BetriebFälschungssichere Protokolle, Vorfallpläne, kontrollierte Änderungen.
08NachweiseBelege mit Herkunft, wiederholbare Tests, ehrliche Grenzen.
Eine Prüfung hinterlässt Spuren.
Ein klar begrenzter Nachweis, den Teams prüfen, hinterfragen und aktuell halten können.
- 01
Agent und Grenzen festlegen
- 02
Nachweise sammeln und autorisierte Tests ausführen
- 03
Dokumentation unabhängig prüfen
- 04
Entscheidung und Grenzen festhalten
- 05
Bei Änderungen erneut prüfen
Für Ersteller und Entscheider.
Für Entwicklungsteams
Bereiten Sie Grenzen, Kontrollen und Nachweise vor, bevor ein Kunde danach fragt.
Prüfung vorbereitenFür Unternehmen
Verlangen Sie von Anbietern konkrete Angaben zu Befugnissen, Nachweisen und Restrisiken.
Anbieter bewertenEvidenz kann spätere Entscheide unterstützen.
Jede Prüfung folgt dem eingebauten Versicherungspfad und endet mit einem versicherungsreifen Dossier: geprüfter Umfang, getestete Kontrollen, offenes Restrisiko. Die Deckung selbst entsteht erst mit einer Police Ihres Versicherers.
Versicherungspfad entdeckenDie Methode in der Praxis.
Praxiswissen für Menschen, die KI-Agenten entwickeln, beschaffen und prüfen.
Alle Ressourcen ansehenKI-Agenten vor dem Kauf richtig prüfen
Von der Produktdemo zum fundierten Entscheid: Was Sie vor der Einführung eines KI-Agenten klären und testen sollten.
Sprachagenten: Daten schützen, Eskalation sichern
Prüfpunkte für KI-Sprachagenten in Schweizer Gesundheits- und Finanzabläufen — vom ersten Satz bis zur Freigabe.
Nachweise vorbereiten, die Einkäufer überzeugen
Ein kompaktes Paket, das Käuferfragen beantwortet — ohne Geheimnisse und ohne Personendaten preiszugeben.
Fragen, die früh gestellt werden sollten.
Was wird geprüft?
Der Methodenentwurf betrachtet eine bestimmte Agentenversion, ihre Werkzeuge, Daten, vorgesehene Nutzung und Ausschlüsse.
Garantiert eine Prüfung den sicheren Einsatz?
Ein Ergebnis gilt für den geprüften Umfang. Betriebsverantwortung und Restrisiken bleiben bestehen.
Was passiert bei Änderungen am Agenten?
Wesentliche Änderungen lösen eine Überprüfung des Umfangs und der Nachweise aus. Der Entwurf sieht zudem quartalsweise Prüfungen vor.
Ist ein geprüfter Agent automatisch versichert?
Nein. Aber jede Prüfung erzeugt ein versicherungsreifes Dossier für das Gespräch mit Versicherern. Die Deckung selbst entsteht erst mit einer Police Ihres Versicherers.
Den tatsächlichen Agenten sichtbar machen.
Beschreiben Sie den Anwendungsfall, die Befugnisse und die Nachweise für eine fundierte Entscheidung.
Agent besprechen