Cybersecurity 2.0: KI in der IT-Sicherheit

Sie erhalten ein fundiertes Verständnis darüber, wie moderne KI-Systeme funktionieren und welche Auswirkungen sie auf die IT-Sicherheitslandschaft haben. Sie lernen zentrale KI-spezifische Risiken wie Data Poisoning, Prompt Injection und modellbasierte Angriffe kennen und verstehen, wie Angreifer KI für automatisierte und personalisierte Attacken nutzen. Sie erfahren, wie KI in der Verteidigung eingesetzt werden kann – etwa in der Anomalieerkennung, Threat Intelligence oder im SOC – und wie sich KI-Modelle technisch und organisatorisch absichern lassen. Darüber hinaus lernen Sie, KI sicher in bestehende Governance-, Compliance- und ISMS-Strukturen einzuordnen und ein zielgerichtetes KI-Sicherheitskonzept zu entwickeln.

Der Lehrgang Cybersecurity 2.0: KI in der IT-Sicherheit richtet sich an Fach- und Führungskräfte, die KI sicher, verantwortungsvoll und strategisch im Unternehmenskontext einsetzen wollen. Er eignet sich besonders für:

• Sicherheitsverantwortliche, die verstehen möchten, wie KI-basierte Angriffe funktionieren und wie KI für moderne Abwehrstrategien eingesetzt werden kann.
• CISOs, ISOs und IT-Manager:innen, die KI-Technologien in ihre bestehende Sicherheitsarchitektur integrieren oder bewerten müssen.
• Security Engineers, SOC-Analyst:innen und Threat-Intelligence-Teams, die KI-gestützte Detection-, Analyse- und Response-Mechanismen in der Praxis anwenden wollen.
• Führungskräfte aus Governance, Risk & Compliance, die KI in regulatorische Anforderungen wie NIS-2, 
  ISO 27001, ISO 42001 oder den EU AI Act einordnen müssen.
  
   

• Verständnis moderner KI-Technologien und ihrer Bedeutung für die Cyberabwehr
• Analyse zentraler KI-basierten Bedrohungen wie Data Poisoning, Prompt Injection und modellbasierten Angriffen
• Einsatz von Predictive AI und KI-gestützter Threat Detection im SOC
• KI als Werkzeug für Angreifer: automatisierte Reconnaissance, Social Engineering und Deepfake-Szenarien
• Absicherung von KI-Modellen: Robustness, Monitoring, SecMLOps und Schutz vor Manipulation
• Praktische Anwendung von KI in Incident Detection, Analyse und Response
• Governance- und Compliance-Anforderungen (NIS 2, ISO 27001, ISO 42001, EU AI Act, DORA) im KI-Kontext

Tag 1

• Einordnung von KI und Grundlagen der Technologie
  • Historische Entwicklung der KI und aktuelle Bedeutung
  • Machine Learning, Deep Learning & neuronale Netze
  • Zentrale Lernmechanismen (supervised, unsupervised, reinforcement)
     
• Ethik & Verantwortungsfragen in der KI
  • Grundlagen verantwortungsvoller KI-Nutzung
  • Risiken durch Verzerrungen und fehlende Transparenz
  • Warum Ethik ein Sicherheitsfaktor ist
     
• KI-Modelle und moderne KI-Systeme verstehen
  • Was ist GPT? Funktionsweise und Besonderheiten großer Sprachmodelle
  • Was ist ein GAN? Überblick über generative Modelle
  • Chancen und Risiken im Security-Kontext
     
• Cybersecurity 2.0 & KI-Strategie im Unternehmen
  • Traditionelle Cybersecurity vs. KI-gestützte Ansätze (KI vs. KI)
  • Einordnung von AI Agents & Hypecheck
  • Strategische Grundlagen für den Einsatz von KI in der Sicherheit

Tag 2

• Phishing 2.0 & Deepfakes in der Praxis
  • Erstellung moderner KI-basierter Phishing- und Deepfake-Angriffe
  • Wie einfach sich realistische Manipulationen heute erzeugen lassen
  • Methoden zur Erkennung und Entlarvung KI-generierter Inhalte
     
• Sicheres Prompt Engineering & Abwehr von Prompt Injections
  • Grundlagen für strukturierte, reproduzierbare und sichere Prompts
  • Angriffsszenarien durch Prompt Injection & indirekte Manipulation
  • Techniken zur Härtung eigener KI-Anwendungen gegen Misuse
     
• Risiken & Herausforderungen eigenentwickelter KI-Systeme
  • Modellrisiken, Trainingsdatenqualität und technische Verwundbarkeiten
  • OWASP Top 10 für KI & typische Schwachstellen in KI-Pipelines
  • Sicherheitsanforderungen an AIMS & Verzahnung mit ISMS
     
• KI-Compliance & regulatorische Anforderungen
  • Einordnung in ISO 42001, ISO 27001 und EU AI Act
  • Datenschutzanforderungen (GDPR) im Kontext von KI-Systemen
  • Aufbau und Struktur einer wirksamen AI Policy im Unternehmen

Tag 3

• Modellrisiken: Halluzinationen, Bias & Datenmanipulation
  • Ursachen und Auswirkungen von Halluzinationen, Verzerrungen und Fehlvorhersagen
  • Poisoned Data, manipulierte Modelle und Model Drift als Sicherheitsrisiken
  • Strategien zur Erkennung und systematischen Reduktion von Modellfehlern
     
• Gegenmaßnahmen gegen KI-Modellrisiken
  • Validierung, Monitoring & kontinuierliche Überwachung von KI-Systemen
  • Techniken zur Härtung gegen Datenvergiftung & Modellmanipulation
  • Einsatz von System Prompts und Guardrails zur Stabilisierung von LLM-Verhalten
     
• KI-gestützte Cyberabwehr: SOC-Integration & APT-Analyse
  • Rolle von KI in Threat Detection, Log-Analyse und Alert-Triage
  • Nutzung von KI zur Erkennung komplexer Angriffsketten (APT)
  • Hype Check: Grenzen von SOC-Automatisierung & Predictive AI
     
• Threat Intelligence & moderne Detection-Ansätze
  • KI-gestützte Analyse von Bedrohungsdaten & Angriffsmustern
  • Automatisierte Mustererkennung in Threat Intelligence Feeds
  • Realistische Einsatzszenarien vs. aktuelle technische Machbarkeit

Tag 4

• KI-Risikomanagement & Bewertung von KI-Systemen
  • Methoden zur Identifikation, Bewertung und Priorisierung von KI-Risiken
  • Besonderheiten im Risikomanagement für LLMs und datengetriebene Modelle
  • Umgang mit Echtzeitdaten, externen Wissensquellen und dynamischen Risiken
     
• LLM-Entwicklung & Integration in CI/CD-Pipelines
  • Grundprinzipien des sicheren LLM-Lebenszyklus
  • Anforderungen an Datenqualität, Testprozesse & Modellvalidierung
  • Einbettung von KI-Modellen in moderne CI/CD- und MLOps-Prozesse
     
• KI-Communities & professionelle Netzwerke
  • Austauschformate, Arbeitskreise & relevante Security- und KI-Communities
  • Nutzen von Best Practices, Benchmarking & Peer Learning
  • Rolle der Community in Innovation, Sicherheit & Compliance
     
• Weiterbildung & Zertifizierungen im KI-Kontext
  • Überblick über professionelle KI- und AI-Security-Zertifikate
  • Einordnung nach Rolle, Zielgruppe & Kompetenzstufe
  • Orientierung für individuelle Entwicklungswege und Teamqualifizierung

• Die Durchführung des Lehrgangs kann erst ab einer Mindestteilnehmerzahl von fünf garantiert werden. Die Maximalteilnehmerzahl beträgt 16.
• Bei der Referentenübersicht handelt sich um eine Auswahl. Es können weitere Fachreferenten zu Einsatz kommen.
• Der Online-Workshop wird mit Zoom durchgeführt. Systemvoraussetzungen und unterstützte Betriebssysteme können Sie hier einsehen. Für die Einwahl in Zoom über die verschiedenen Anwendungen (Desktop Client, App oder Web-Client) finden Sie hier einen zusätzlichen Vergleich zu den jeweiligen Eigenschaften.
• Die Bitkom Akademie ist anerkannter Bildungsträger in Baden-Württemberg und Nordrhein-Westfalen. Teilnehmer haben im Rahmen des Bildungszeitgesetzes die Möglichkeit, Bildungsurlaub bzw. eine Bildungsfreistellung zu beantragen. Auf Anfrage erstellen wir auch Anträge auf Anerkennung unserer Veranstaltungen in anderen Bundesländern.
• Nachteilsausgleich: Menschen mit Behinderungen können für Prüfungen bei Zertifikatslehrgängen der Bitkom Akademie einen "Nachteilsausgleich" beantragen. Ein "Nachteilsausgleich“ bedeutet, dass die Prüfung so verändert wird, dass die behinderungsbedingten Nachteile des Prüfungsteilnehmenden möglichst ausgeglichen werden. Weitere Informationen dazu und wie Sie diesen beantragen können, finden Sie hier.
• Wir erklären ausdrücklich, dass beim Bitkom – Unterzeichner der Charta der Vielfalt – jede Person, unabhängig von Geschlecht, Nationalität, ethnischer Herkunft, Religion oder Weltanschauung, Behinderung, Alter, sexueller Orientierung und Identität willkommen ist.

• Gemeinsam mit der HanseMerkur bietet die Bitkom Akademie eine freiwillige Seminar-Rücktrittsversicherung an.
• Diese Versicherung ermöglicht Ihnen die kostenfreie Stornierung Ihrer Teilnahme, wenn kurzfristige oder unvorhergesehene Ereignisse Ihre Teilnahme am Seminar verhindern.
• Die Kosten der Seminar-Rücktrittsversicherung sind abhängig vom Seminarpreis. Die Preisliste der HanseMerkur finden Sie hier.

Mehr erfahren Zur Buchung