Datenschutzrechtliche Anforderungen an KI-Lösungen: am Beispiel von ChatGPT

Maschinelles Lernen und Künstliche Intelligenz bieten ein sehr breites Anwendungsspektrum – so auch das KI-Tool ChatGPT, das in den letzten Wochen in den Anwendungsfokus von Unternehmen gerückt ist. Dabei sind gerade im Unternehmens- und Beschäftigungskontext einige Dinge hinsichtlich des Datenschutzes zu beachten.

Was macht ChatGPT so besonders?

ChatGPT ist ein von OpenAI entwickeltes KI-Tool, das durch eine umfangreiche Menge von Daten trainiert wurde. Nutzerinnen und Nutzer haben die Möglichkeit unzählige Fragen aus den unterschiedlichsten Themenbereichen an das Tool zu formulieren, welches selbstständig vollständige Antworten für sie generiert. Dabei begeistert ChatGPT aktuell durch die Möglichkeit, in schnellster Zeit anhand weniger Angaben große Textmengen in guter Qualität zu generieren.

Die Einsatzmöglichkeiten des Tools für Unternehmen sind dadurch praktisch unbegrenzt, z.B. im Personalbereich zur Erstellung von Stellenbeschreibung und Arbeitszeugnissen, im Marketingbereich zur Formulierung von Werbetexten, oder generell zur Erstellung von Unternehmenspräsentationen oder zur Unterstützung bei Rechercheaufgaben. Voraussetzung für eine effektive Bearbeitung der Fragen der Nutzerinnen und Nutzer ist die Verarbeitung großer Datenmengen. Hierbei können auch, je nach Eingaben der Nutzenden, personenbezogene Daten verarbeitet werden.

Künstliche Intelligenz unter Berücksichtigung datenschutzrechtlicher Anforderungen

Bei Verarbeitung personenbezogener Daten ist der Anwendungsbereich der DSGVO eröffnet (vgl. Art. 2 Abs. 1 DSGVO). Werden also beim Einsatz von KI-Tools personenbezogene Daten verarbeitet, müssen die datenschutzrechtlichen Grundsätze nach Art. 5 DSGVO gewahrt werden. Insbesondere rücken hierbei das Transparenzgebot, die Zweckbindung und die Datenminimierung in den Fokus.

KI-Systeme entziehen sich weitestgehend dem Einfluss der Unternehmen, die solche Tools im Einsatz haben. Als Verantwortliche (vgl. Art. 4 Nr. 7 DSGVO) sind diese Unternehmen allerdings verpflichtet, die Einhaltung des Datenschutzes zu gewährleisten. Werden beim Einsatz von KI-Tools personenbezogene Daten verarbeitet, wird dies regelmäßig als Auftragsverarbeitung (vgl. Art. 4 Nr. 8 DSGVO) der Tool-Anbietenden einzustufen sein. Somit sind Unternehmen bei der Auswahl von KI-Tools angehalten zu prüfen, ob die Einhaltung des Datenschutzes durch den betreffenden Tool-Anbietenden gewährleistet werden kann (vgl. Art 28 i.V.m. ErwGr 81 DSGVO). In der Praxis ist für Unternehmen schwer nachzuvollziehen, wie und zu welchen Zwecken die Daten tatsächlich durch die Tool-Anbietenden verarbeitet werden.

Eine weitere Herausforderung für Unternehmen beim Einsatz von KI-Lösungen dürfte der Grundsatz der Transparenz sein, nach dem betroffenen Personen Informationen zur Verarbeitung ihrer Daten bereitgestellt werden müssen. Regelmäßig besteht bei KI-Lösungen keine vollständige Transparenz zur Verarbeitung der Daten, da im Rahmen der gesetzten Ziele durch Entwicklerinnen und Entwickler keine Lösungen vorgegeben, sondern von der KI selbst entwickelt werden. Somit ist der Lösungsansatz einer KI häufig nicht einmal den Toolanbietenden vollständig transparent. Dies macht es für Unternehmen schwierig, die Datenverarbeitung den betroffenen Personen transparent darstellen zu können.

Unser Praxisworkshop zu ChatGPT

Der aktuelle Hype um ChatGPT ist allgegenwärtig. Kein anderes KI-basiertes Sprachmodell macht die Möglichkeiten künstlicher Intelligenz so deutlich, wie derzeit OpenAI. Nach einer Sperre in Italien kommt es nun zu einer Untersuchung in Kanada wegen einer Beschwerde über die Nutzung privater Daten. Dabei sind gerade im Unternehmens- und Beschäftigungskontext einige Dinge hinsichtlich des Datenschutzes zu beachten.

Wenn Sie KI-Anwendungen wie ChatGPT in ihrem Unternehmen einsetzen wollen, empfehlen wir die beschriebenen datenschutzrechtlichen Aspekte zu berücksichtigen. In unserem Praxisworkshop zu ChatGPT gehen wir diesem Datenschutzaspekt auf den Grund.

Dieser Praxisworkshop bietet nicht nur Einblicke und das notwendige Verständnis, sondern es werden auch Business Cases vorgestellt bzw. erarbeitet, die weit über Conversational AI hinausgehen. Anhand der Anwendungsfälle werden außerdem Chancen, Risiken und Alternativen solcher generativer LLMs (Large Language Models) diskutiert. Ziel des Workshop ist es, Teilnehmenden die vielseitigen Anwendungsmöglichkeiten von ChatGPT anzulernen.

Den vollständigen Artikel zu datenschutzrechtlichen Anforderungen an KI-Lösungen finden Sie hier.

Weitere Informationen rund um den Datenschutz erhalten Sie unter unter Bitkom Consult.