KI-Verordnung und Datenschutz - ein schwieriges Verhältnis

Diese Episode untersucht das komplexe Verhältnis zwischen der DSGVO und dem neuen KI-Gesetz (AI Act) der EU. Ausgehend von einem spanischen Bußgeldverfahren gegen eine Bank wegen gefälschter Einwilligungen, diskutieren die Moderatoren und ihr Gast, Prof. Dr. Rolf Schwartmann, die Überschneidungen und Konflikte zwischen beiden Rechtsrahmen. Prof. Schwartmann betont, dass der AI Act primär eine Produktregulierung ist, während die DSGVO den Schutz personenbezogener Daten regelt. Er erläutert die wenigen Ausnahmen, in denen der AI Act Öffnungsklauseln der DSGVO nutzt, beispielsweise für das Training von KI-Modellen mit sensiblen Daten zur Korrektur von Verzerrungen oder für Reallabore. Wichtige Diskussionspunkte sind die automatisierten Einzelentscheidungen nach Artikel 22 DSGVO und die Herausforderungen bei der Anwendung der DSGVO auf generative KI-Systeme (GPAI), insbesondere hinsichtlich der Zweckbindung und der Auskunftspflicht. Die Diskussion endet mit der Feststellung, dass die derzeitige Rechtslage erhebliche Lücken aufweist und eine Anpassung, möglicherweise durch ein Omnibus-Gesetz oder eine separate KI-Datenschutzverordnung, notwendig ist. Dies unterstreicht die dringende Notwendigkeit einer klaren rechtlichen Regelung für den Umgang mit den datenschutzrechtlichen Implikationen von KI-Systemen, insbesondere generativer KI.