Die rasanten Fortschritte im Bereich der künstlichen Intelligenz (KI), insbesondere bei generativen KI-Systemen wie ChatGPT, haben eine Fülle von neuen Möglichkeiten geschaffen, stellen aber gleichzeitig erhebliche Herausforderungen im Hinblick auf den Schutz der Privatsphäre und individueller Freiheiten dar. In Reaktion auf diese Entwicklungen hat die Commission Nationale de l’Informatique et des Libertés (CNIL), die französische Datenschutzbehörde, einen umfassenden Aktionsplan zur Regulierung von KI veröffentlicht.
Was machen die Aufsichtsbehörden?
In Anbetracht der jüngsten Entwicklungen im Bereich der KI, insbesondere bei sogenannten generativen KI-Systemen wie ChatGPT, hat die französische Datenschutzbehörde CNIL einen Aktionsplan zur Einführung von KI-Systemen veröffentlicht, die die Privatsphäre von Einzelpersonen respektieren.
Die CNIL hat in den letzten Jahren intensiv daran gearbeitet, die Herausforderungen, die durch KI entstehen, vorherzusehen und darauf zu reagieren. Sie hat schon zahlreiche Leitfäden und Checklisten veröffentlicht und wird ihre Bemühungen auf weitere Themen wie bspw. generative KI-Systeme, große Sprachmodelle und abgeleitete Anwendungen (insbesondere Chatbots) ausdehnen.
Der Schutz personenbezogener Daten: eine grundlegende Herausforderung für die Entwicklung von KI
Die Entwicklung von KI geht mit Herausforderungen im Bereich des Datenschutzes und der individuellen Freiheiten einher, denen sich die CNIL seit mehreren Jahren widmet. Seit der Veröffentlichung ihres Berichts über die ethischen Herausforderungen von Algorithmen und künstlicher Intelligenz im Jahr 2017 hat die CNIL wiederholt Stellung zu den durch diese neue Technologie aufgeworfenen Fragen genommen.
Insbesondere die generative KI hat sich in den letzten Monaten rasant entwickelt, sei es im Bereich von Text und Konversation, über große Sprachmodelle (z.B. GPT) und abgeleitete Chatbots (z.B. ChatGPT oder Bard), aber auch in den Bereichen Bildgebung (z.B. Dall-E, Midjourney, Stable Diffusion usw.) oder Sprache (z.B. Vall-E).
Diese Grundmodelle und die darauf aufbauenden technologischen Bausteine finden bereits in vielen Sektoren Anwendung. Dennoch sind die Funktionsweise, die Möglichkeiten und Grenzen dieser Systeme sowie die rechtlichen, ethischen und technischen Fragen im Zusammenhang mit ihrer Entwicklung und Nutzung nach wie vor weitgehend unklar.
Da der Schutz personenbezogener Daten eine große Herausforderung für die Gestaltung und Nutzung dieser Tools darstellt, veröffentlicht die CNIL ihren Aktionsplan zur KI, der unter anderem darauf abzielt, die Entwicklung generativer KI zu reglementieren.
Der vierstufige KI-Regulierungs-Aktionsplan der CNIL
Angesichts der Herausforderungen im Zusammenhang mit dem Schutz der Freiheiten, der voranschreitenden Entwicklung der KI und den aktuellen Entwicklungen im Bereich generativer KI liegt der Schwerpunkt des CNIL-Aktionsplans auf der Regulierung generativer KI.
Diese Regulierung ist auf vier Ziele ausgerichtet:
- Das Verständnis der Funktionsweise von KI-Systemen und ihrer Auswirkungen auf Menschen.
- Die Förderung und Lenkung der Entwicklung von KI, die den Schutz personenbezogener Daten respektiert.
- Die Zusammenarbeit mit innovativen Akteuren im KI-Ökosystem.
- Die Überprüfung und Kontrolle von KI-Systemen zum Schutz der Menschen.
1. Das Verständnis der Funktionsweise von KI-Systemen und ihrer Auswirkungen auf Menschen
Im ersten Bereich ihres Aktionsplans konzentriert sich die CNIL auf das Verständnis der Funktionsweise von KI-Systemen und deren Auswirkungen auf Menschen. Künstliche Intelligenz hat die Art und Weise, wie Daten verarbeitet werden, grundlegend verändert. Dies wirft wichtige Fragen zur Fairness, Transparenz und zum Datenschutz im Zusammenhang mit diesen Systemen auf.
Die CNIL wird daran arbeiten, sicherzustellen, dass die Datenverarbeitung, die die Grundlage für den Betrieb von KI-Systemen bildet, fair und transparent ist. Dies ist entscheidend, um sicherzustellen, dass die individuellen Datenschutzrechte gewahrt bleiben und dass KI-Systeme nicht dazu führen, dass persönliche Daten missbräuchlich verwendet werden oder Diskriminierung und Voreingenommenheit auftreten.
2. Die Förderung und Lenkung der Entwicklung von KI, die den Schutz personenbezogener Daten respektiert
Im zweiten Bereich des Aktionsplans setzt sich die CNIL dafür ein, die Entwicklung von KI-Systemen zu fördern und zu lenken, die personenbezogenen Daten schützen. Dies ist von entscheidender Bedeutung, da KI-Systeme oft auf umfangreichen Datensätzen trainiert werden.
Die CNIL wird klare Regeln und Leitlinien entwickeln, um sicherzustellen, dass bei der Entwicklung von KI-Systemen der Datenschutz berücksichtigt wird. Dies umfasst die Erstellung von Richtlinien zur Auswahl und Verwendung von Daten für das Training, die Einhaltung der Datenschutzgrundsätze und die Gewährleistung von Betroffenenrechten.
3. Die Zusammenarbeit mit innovativen Akteuren im KI-Ökosystem
Der dritte Bereich des Aktionsplans zielt darauf ab, innovative Akteure im KI-Ökosystem zu unterstützen und zu fördern. Dies beinhaltet die Zusammenarbeit mit Forschungsteams, Forschungs- und Entwicklungszentren sowie Unternehmen, die KI-Systeme entwickeln oder entwickeln möchten.
Die CNIL möchte sicherstellen, dass diese Akteure im Einklang mit dem Datenschutz arbeiten und die grundlegenden Rechte und Freiheiten der Bürger wahren. Dies ist ein wichtiger Schritt, um sicherzustellen, dass KI-Systeme ethisch und rechtskonform entwickelt werden.
4. Überprüfung und Kontrolle von KI-Systemen zum Schutz der Menschen
Im vierten Bereich des Aktionsplans konzentriert sich die CNIL auf die Überprüfung und Kontrolle von KI-Systemen, um die Menschen zu schützen. Dies beinhaltet die Überwachung der Einhaltung der bereits veröffentlichten Positionen der CNIL, wie beispielsweise bzgl. der Verwendung von „verbesserter“ Videoüberwachung mit KI. Darüber hinaus wird die CNIL Beschwerden prüfen, die im Zusammenhang mit KI-Systemen eingehen.
Die CNIL wird sicherstellen, dass die Akteure, die personenbezogene Daten verarbeiten, um KI-Systeme zu entwickeln, trainieren oder verwenden, Datenschutz-Folgenabschätzungen durchführen und Maßnahmen ergreifen, um die Rechte der Betroffenen zu gewährleisten.
Durch die Umsetzung dieser vier Bereiche ihres Aktionsplans möchte die CNIL klare Regeln etablieren, die den Schutz personenbezogener Daten der europäischen Bürger sicherstellen, und so zur Entwicklung datenschutzfreundlicher KI-Systeme beitragen. Dies ist ein bedeutender Schritt in einer Welt, in der KI-Technologien immer präsenter werden und einen positiven Einfluss auf die Gesellschaft haben sollen.
Fazit
Die Veröffentlichung des Aktionsplans der CNIL zur KI markiert einen bedeutsamen Schritt im Umgang mit den Herausforderungen, die durch den Einsatz von KI-Technologien entstehen. Die CNIL hat erkannt, dass der Schutz personenbezogener Daten und die Einhaltung von Datenschutzprinzipien von zentraler Bedeutung sind, um sicherzustellen, dass KI-Systeme ethisch und rechtskonform eingesetzt werden.
Durch das Verständnis der Funktionsweise von KI-Systemen, die Förderung datenschutzfreundlicher KI-Entwicklungen, die Unterstützung von Innovatoren in der Branche und die Überwachung der Einhaltung von Vorschriften trägt die CNIL dazu bei, klare Regeln zu schaffen, die den Schutz der Privatsphäre und individueller Freiheiten in einer zunehmend digitalen Welt gewährleisten.
Der Aktionsplan unterstreicht die Bedeutung des Gleichgewichts zwischen technologischem Fortschritt und dem Schutz der Grundrechte. Im Rahmen der Regelungslandschaft (u.a. AI Act) zum Thema KI wird eine Rolle spielen, wie sich die CNIL und andere Behörden mit der Thematik auseinandersetzen.
