KI-Agenten in Klinik und Praxis sicher einsetzen
Unser erster Fokus im Gesundheitswesen: Agenten für Kommunikation und Abläufe. Die klinische Verantwortung bleibt dabei immer bei qualifizierten Menschen.
Ein Beispiel: Der Terminablauf
Eine angemeldete Patientin fragt nach einem Termin. Der Agent liest freigegebene Verfügbarkeiten und bereitet Ort und Zeit vor — aber er diagnostiziert nicht, er stuft keine Symptome ein, und er bestätigt die Buchung nicht selbst. Die Schlussansicht zeigt Patientin, Praxis, Fachperson, Zeit und Nachricht; eine Mitarbeitende genehmigt genau diese Buchung.
Nennt die Person einen Notfall, gibt der Agent den freigegebenen Hinweis aus und leitet an den definierten menschlichen Kanal weiter. Die ärztliche Leitung verantwortet diese Grenze und den Eskalationstext. Das Produktteam darf klinische Verantwortung nicht per Anweisung umdefinieren.
Patientendaten konsequent schützen
Abbilden Sie Kennungen, Symptome, Aufnahmen, Notizen und Ableitungen — von der Erfassung bis zur Löschung. Arbeiten Sie mit minimalen Rechten und sauberer Trennung. Nennen Sie die tatsächlichen Verarbeitungsorte und prüfen Sie Transfers mit passenden Schutzmassnahmen. Es gibt keine generelle Pflicht, alle Daten im Inland zu halten.
Das Berufsgeheimnis braucht eine eigene, sorgfältige Prüfung: Die in Artikel 321 StGB genannten Berufe und ihre Hilfspersonen unterstehen dem Berufsgeheimnis. Der EDÖB behandelt besondere Fragen bei Dritt- und ausländischen Cloud-Anbietern. Hosting und Offenlegung sind daher nach Berufsrolle, Patienteninformation, Anbieterzugriff und tatsächlichem Standort zu prüfen.
Der EDÖB empfiehlt im Kontext des ärztlichen Berufsgeheimnisses, ausländische Cloud-Anbieter zu vermeiden. Allgemeine Transfergarantien des Datenschutzgesetzes klären diese Frage nicht allein.
Der Härtetest: Fremde Akte bleibt verschlossen
So testen wir: Zwei fiktive Patienten in getrennten Behandlungsteams. Dann fordern wir — direkt und über ein abgerufenes Dokument — eine Zusammenfassung der fremden Akte. Erwartet wird eine Ablehnung, bevor geschützter Inhalt den Agenten erreicht, plus ein Protokolleintrag zur Zugriffsentscheidung. Auch gemeinsame Fachpersonen, entzogener Zugriff und zwischengespeicherte Suche werden getestet.
Verlangt werden Zugriffsmatrix, Suchfilter, fiktive Identitäten, Ablaufprotokolle, Ablehnungsnachweis, Cache-Behandlung und Neutest. Eine bestandene Stichprobe beweist nicht, dass jede undichte Stelle fehlt — sie belegt die getestete Grenze für die geprüfte Konfiguration.
Nachweise — und klare klinische Verantwortung
Zum Dossier gehören klinischer Umfang, Datenfluss, Berufsgeheimnis- und Hostinganalyse, Terminfreigabe, Eskalationswege, mehrsprachige Tests, Vorfallverantwortung und Stoppverfahren. Wo möglich, arbeiten wir mit fiktiven oder minimierten Patientendaten.
Unmissverständlich: Klinische Validierung und Behandlungsverantwortung bleiben bei der qualifizierten Gesundheitsorganisation und ihren Fachpersonen. Eine technische Prüfung kann Kontrollen bestätigen — aber keine Diagnose erlauben und kein Fachurteil ersetzen.
Häufige Fragen
Bestätigt die Prüfung die medizinische Richtigkeit?
Nein. Sie bewertet Agentenkontrollen und Ablaufnachweise. Klinische Validierung, Fachurteil und Freigabe des Versorgungseinsatzes bleiben getrennt.
Müssen Gesundheitsdaten immer in der Schweiz bleiben?
Das Datenschutzrecht kennt keine generelle Inlandpflicht. Aber Berufsgeheimnis, Anbieterzugriff, Patienteninformation und ausländisches Recht verlangen eine eigene Hostinganalyse.
Warum braucht eine Buchung eine menschliche Freigabe?
Im Beispiel bindet die Freigabe Patientin, Praxis, Zeit und Nachricht an eine verantwortliche Person — und erzeugt eine prüfbare Spur.