KI-Compliance & KI-Verständnis im Gesundheitswesen

Die Teilnehmenden …

• verstehen, wie moderne KI-Modelle (Machine Learning, Deep Learning, NLP) im Gesundheitswesen funktionieren.
• gewinnen ein klares Bild darüber, wo KI heute bereits im Krankenhaus eingesetzt wird – und welche Systeme keine KI sind.
• kennen typische Risiken medizinischer KI: Fehlklassifikationen, Modell-Drift, Überanpassung, Halluzinationen, Bias.
• erlernen die Risikoklassen des EU AI Acts und verstehen, warum nahezu alle klinischen Systeme als Hochrisiko-KI gelten.
• wissen, welche Pflichten Krankenhäuser als Deployer treffen: Human Oversight, Logging, Dokumentation, Monitoring, Incident Reporting.
• lernen, wie DSFA, Grundrechtsfolgenabschätzung und KI-Risikomanagement im klinischen Umfeld angewendet werden.
• können eine KI-Governance-Struktur für ihr Krankenhaus entwickeln – inkl. Rollen, Prozessen und Onboarding neuer KI-Tools.
• bearbeiten praxisnahe Fallbeispiele zu Radiologie-KI, Sepsis-Alerts, generativer Arztbriefassistenz und KI-gestützter Triage.

• Ziele, KI-Beispiele aus dem Krankenhaus, regulatorischer Rahmen
• Grundlagen: Was ist KI und was nicht?
• KI in der medizinischen Praxis (Radiologie, Pflege, Dokumentation)
• Modellfunktionen: Trainingsdaten, Validierung, klinische Metriken (Sensitivity, Specificity, ROC)
• KI-Technologien im Krankenhaus (symbolische KI, ML, DL, NLP, Predictive Analytics)
• Risiken beim KI-Einsatz: technisch, organisatorisch, ethisch, Datenschutz
• Rollen nach EU AI Act: Anbieter, Betreiber (Deployer), Händler – mit Klinikbeispielen
• Risikoklassen und hohe Anforderungen für Diagnostiksysteme
• Pflichten für Krankenhäuser als Deployer: Human Oversight, Monitoring, Logging, Incident Reporting
• Klinisches KI-Risikomanagement inkl. PDCA-Zyklus
• KI-Governance & interne KI-Richtlinie (Erlaubnis-/Verbotsprinzip)
• Workshops & Praxisfälle

Das Seminar richtet sich an:
 

• Projektverantwortliche in Kliniken

• Digitalisierungs-, Qualitäts- und Risiko-Management

• Datenschutzbeauftragte & IT-Sicherheitsbeauftragte

• Ärztliche Leitung, Pflegedirektion, Stabsstellen Digitalisierung

• Mitarbeitende, die KI-Projekte begleiten oder bewerten müssen.
   

Vorkenntnisse in Datenschutz oder Technik sind hilfreich, aber nicht zwingend.

Tag 1

1. Begrüßung & Einführung

• Ziele der Schulung
• Warum KI-Compliance im Krankenhaus besonders kritisch ist
• Der EU AI Act als zentrale gesetzliche Grundlage
• Überblick: Wo kommt KI heute bereits im Krankenhaus vor?

2. Was ist KI – und was nicht? (mit Klinikbeispielen)

• Abgrenzung: KI vs. klassische Regelsoftware
• Typische KI-Anwendungen im Krankenhaus:
  • Bildgebung (CNN zur Tumorerkennung)
  • Triage in der Notaufnahme
  • Pflege-Dokumentation
  • Generative KI für Arztberichte (inkl. Halluzinationsrisiken)
• Klinikbeispiele:
  • KI = CNN für Tumorerkennung
  • KI = NLP-Diktatmodell im OP
  • Keine KI = starrer Medikationsalgorithmus ohne ML
     

3. Funktionsweise moderner KI im Gesundheitswesen

• Machine Learning & Deep Learning
• Trainingsdaten, Validierung, klinische Modellmetriken (Sensitivity, Specificity, ROC)
• Besonderheiten medizinischer Modelle
  • Drift
  • Überanpassung
  • Herausforderungen bei seltenen Erkrankungen
• Praxisbeispiele:
  • Radiologie-KI erkennt Blutungen
  • NLP für OP-Dokumentation

4. Überblick: KI-Technologien im Krankenhaus

• Symbolische KI (z. B. Medikamenteninteraktions-Check)
• Überwachtes Lernen (Tumorklassifikation)
• Unüberwachtes Lernen (Infektionscluster)
• Generative KI (Arztbrief-Assistenten)
• Predictive Analytics (Bettenmanagement, Peak-Prognose Notaufnahme)

5. Risiken beim Einsatz von KI im Krankenhaus

• Technische Risiken
  • Falschklassifikationen
  • Halluzinationen
  • Modell-Drift
  • Überanpassung
• Datenschutzrisiken
  • Nutzung sensibler Gesundheitsdaten (Art. 9 DSGVO)
  • unbeabsichtigte Patientendaten-Leaks
  • Risiken Cloud-basierter Modelle
• Organisatorische Risiken
  • Automation Bias
  • fehlende menschliche Kontrolle
  • Prozesslücken im Stationsalltag
• Ethische Risiken (Bias & Fairness)
  • Benachteiligung bestimmter Patientengruppen
  • ungleiche Datenqualität
  • Herausforderungen in Triage-Situationen

Tag 2

6. Rollen im EU AI Act – speziell für das Gesundheitswesen

• Anbieter (Provider)
• Betreiber (Deployer)
• Händler (Distributor)
• Klinikbezogene Abgrenzungsbeispiele:
  • Eigenentwickeltes Tool → Krankenhaus = Hersteller + Deployer
  • Eingekaufte Radiologie-KI → Krankenhaus = Deployer
  • SaaS-KI → Hersteller = Provider, Klinik = Deployer

7. Risikoklassen nach EU AI Act – Fokus Hochrisiko-KI

• Überblick über alle vier Risikokategorien
• Verbotene KI im Gesundheitswesen (z. B. Emotionserkennung bei Patient*innen)
• Hochrisiko-KI: Warum nahezu alle klinischen Systeme betroffen sind
• Einstufungskriterien
• Klinikspezifische Hochrisiko-Beispiele
  • KI zur Medikamentendosierung

8. AI Act – Pflichten je nach Risikoklasse (Fokus: Krankenhaus als Deployer)

• Verwendung nur konformer Systeme
• Sicherstellung der Human Oversight
• Erforderlichkeit einer DSFA (DSGVO)
• Logging & Datenspeicherung
• Dokumentationspflichten
• Umgang mit Fehlern & Vorfällen (Incident Reporting)
• Pflicht zur Mitarbeiterschulung
• Praxisbeispiele:
  • Monitoring einer Radiologie-KI
  • Dokumentation von Alerts
  • Vorgehen bei fehlerhaften Diagnosen

9. Risikomanagement für KI – praxisnah im Krankenhaus

• Risikoidentifikation & -bewertung
• medizinische Risikometriken
• typische Risikomuster für Diagnostik-KI
• Kontrolle & Monitoring
• PDCA-Zyklus für KI-Systeme im klinischen Dauerbetrieb

10. KI-Richtlinie für das Krankenhaus (Governance-Struktur)

• Erlaubnis-/Verbotsprinzip
• Kriterien für zulässige KI
• Rollen & Verantwortlichkeiten
• PDCA-Zyklus
• Standardprozess für neue KI-Projekte
  (Onboarding → Risikobewertung → Implementierung → Monitoring → Stilllegung)
   

11. Praxisfälle & Workshops

• Gemeinsame Bearbeitung typischer KI-Szenarien:
• Radiologie-KI zur Blutungserkennung
• Generative KI für Arztbriefe
• KI-basierte Triage
• Patienten-Chatbot

• Die Durchführung des Workshops kann erst ab einer Mindestteilnehmerzahl von fünf garantiert werden. Die Maximalteilnehmerzahl beträgt 16.
• Bei der Referentenübersicht handelt sich um eine Auswahl. Es können weitere Fachreferenten zu Einsatz kommen.
• Der Online-Workshop wird mit Zoom durchgeführt. Systemvoraussetzungen und unterstützte Betriebssysteme können Sie hier einsehen. Für die Einwahl in Zoom über die verschiedenen Anwendungen (Desktop Client, App oder Web-Client) finden Sie hier einen zusätzlichen Vergleich zu den jeweiligen Eigenschaften.
• Die Bitkom Akademie ist anerkannter Bildungsträger in Baden-Württemberg und Nordrhein-Westfalen. Teilnehmer haben im Rahmen des Bildungszeitgesetzes die Möglichkeit, Bildungsurlaub bzw. eine Bildungsfreistellung zu beantragen. Auf Anfrage erstellen wir auch Anträge auf Anerkennung unserer Veranstaltungen in anderen Bundesländern.
• Nachteilsausgleich: Menschen mit Behinderungen können für Prüfungen bei Zertifikatslehrgängen der Bitkom Akademie einen "Nachteilsausgleich" beantragen. Ein "Nachteilsausgleich“ bedeutet, dass die Prüfung so verändert wird, dass die behinderungsbedingten Nachteile des Prüfungsteilnehmenden möglichst ausgeglichen werden. Weitere Informationen dazu und wie Sie diesen beantragen können, finden Sie hier.
• Wir erklären ausdrücklich, dass beim Bitkom – Unterzeichner der Charta der Vielfalt – jede Person, unabhängig von Geschlecht, Nationalität, ethnischer Herkunft, Religion oder Weltanschauung, Behinderung, Alter, sexueller Orientierung und Identität willkommen ist.

• Gemeinsam mit der HanseMerkur bietet die Bitkom Akademie eine freiwillige Seminar-Rücktrittsversicherung an.
• Diese Versicherung ermöglicht Ihnen die kostenfreie Stornierung Ihrer Teilnahme, wenn kurzfristige oder unvorhergesehene Ereignisse Ihre Teilnahme am Seminar verhindern.
• Die Kosten der Seminar-Rücktrittsversicherung sind abhängig vom Seminarpreis. Die Preisliste der HanseMerkur finden Sie hier.

Mehr erfahren Zur Buchung