KI und Datenschutz – ein Widerspruch oder eine Frage der richtigen Umsetzung?
Rückblick auf den 13. Kommunalen Datenschutztag
Datenschutz mit einem Augenzwinkern
Datenschutz-Comedian und externer Datenschutzbeauftragter Steffen Lüning sorgte mit seiner Keynote für einen besonderen Auftakt der Veranstaltung. Er beleuchtete die komplexen Zusammenhänge zwischen Datenschutz, Künstlicher Intelligenz und dem Faktor Mensch mit unterhaltsamen Anekdoten direkt aus dem echten Leben.
Dass Datenschutz wichtig ist, aber oft missverstanden wird, stellte Lüning in seinem Bühnenprogramm klar. Als Datenschützer hat man keine Freunde, könnte man meinen, denn Datenschutz wird in vielen Unternehmen noch immer als lästige Pflicht oder sogar als Hemmschuh gesehen. Dabei ist er in Wahrheit ein wichtiges Werkzeug, das Organisationen hilft, Risiken zu erkennen, Verantwortung zu übernehmen, das Vertrauen ihrer Kunden zu stärken und ermöglicht im Ergebnis eine rechtskonforme Datennutzung.
Mit einem kurzen Video veranschaulichte Lüning humorvoll, dass Datenschutz kein einmaliges Projekt, sondern ein kontinuierlicher Prozess ist, bei dem nach jeder gelösten Herausforderung bald die nächste folgt. Mit seinem humorvollen Vortrag schafft es der Datenschutzbeauftragte, einem vermeintlich trockenen Thema auf selbstironische Weise anzunehmen. Ein gelungener Beweis, dass auch Datenschutz und Comedy sich nicht ausschließen müssen.
Nach der Keynote folgten vormittags je drei Vorträge zu den Fokusthemen Künstliche Intelligenz und Cloud, die auch nachmittags wiederholt wurden, damit die Teilnahme zu mehreren Vorträgen gewährleistet wurde. Die Teilnehmerinnen und Teilnehmer erhielten Einblicke durch Julia Roth (Datenschutzbeazftragte ekom21) und Olaf Orth (Justiziar ekom21) zum Thema Künstliche Intelligenz und wie die ekom21 dafür ihre Mitarbeitenden sensibilisiert. Im Bereich Cloud referierte Hendrik Schlademann zum Thema „Cloud-Sicherheit in der Verwaltung“ und beleuchtete dabei zentrale Aspekte der sicheren Nutzung von Cloud-Technologien im behördlichen Kontext. Sascha Kremer stellte in seinem Vortrag „Die souveräne Cloud: Allzweckwaffe zur Lösung aller datenschutzrechtlichen Herausforderungen?“ die Potenziale und Grenzen souveräner Cloud-Lösungen im Umgang mit datenschutzrechtlichen Anforderungen dar.
Podiumsdiskussion und zentrale Fragen
Ein zentraler Bestandteil des Datenschutztages war die Podiumsdiskussion bei der unser Direktor Matthias Drexelius, der Hessische Beauftragte für Datenschutz und Informationssicherheit Prof. Dr. A. Roßnagel, Frau Katja Horlbeck, Juristin und persönliche Referentin von Prof. Roßnagel und Referatsleitung u.A. Kommunen und Verwaltungsmodernisierung, Herr Dr. Jens Bruhn, Abteilungs- und Referatsleiter für den technischen und organisatorischen Datenschutz und Jacqueline Bredereck, Juristin und Leitung Datenschutzmanagement ekom21 gemeinsam diskutierten.
Gemeinsam mit dem Publikum die wichtigsten Fragen rund um den Einsatz von KI in der Verwaltung erörterten. Die Diskussion machte deutlich: Kommunen stehen einerseits unter Druck, moderne digitale Werkzeuge einzusetzen, andererseits bestehen erhebliche Unsicherheiten, wie dies datenschutzkonform gelingen kann.
Zudem wurde deutlich wie groß der Wunsch nach Orientierung ist. Viele Teilnehmende fragten nach klaren Regeln für den Einsatz generativer Systeme, nach praktikablen Alternativen zu den großen Cloud-Anbietern und nach Möglichkeiten, ihre Beschäftigten gezielt im Umgang mit KI zu schulen.
Ausblick
Der Kommunale Datenschutztag hat eines klar gezeigt: KI und Datenschutz sind kein unauflösbarer Widerspruch. Mit klaren Regeln, verbindlichen Richtlinien und dem gezielten Aufbau von Kompetenzen lassen sich beide Aspekte zusammenbringen. Für die Zukunft wird es entscheidend sein, Innovation mit Transparenz und Rechtskonformität zu verbinden. Verwaltungshandeln mit KI muss nachvollziehbar bleiben und sich an bestehende Rechtsrahmen anpassen. Gleichzeitig darf die Chance nicht verspielt werden, durch den Einsatz von KI Verwaltungsprozesse effizienter und bürgerfreundlicher zu gestalten. Der Schlüssel liegt im gemeinsamen Lernen und Vernetzen. Wenn Kommunen ihre Erfahrungen teilen und voneinander profitieren, eröffnet dies die Möglichkeit, KI in der Verwaltung sicher, transparent und effizient einzusetzen.
Auch im nächsten Jahr, am 29. September 2026, findet der Kommunale Datenschutztag im Congress Park Hanau statt. Wir laden Sie schon heute herzlich dazu ein, im kommenden Jahr wieder dabei zu sein und den Austausch aktiv mitzugestalten.
Was ist Künstliche Intelligenz?
Künstlicher Intelligenz sind Systeme, die ihre Umgebung analysieren, Muster erkennen und mit einem gewissen Grad an Autonomie handeln, um bestimmte Ziele zu erreichen. Grundlage dafür sind neuronale Netze, die große Datenmengen verarbeiten und Zusammenhänge erkennen.
Wichtig ist dabei eine klare Abgrenzung: KI generierte Ergebnisse entstehen nicht durch echtes „Verstehen“, sondern durch wahrscheinlichkeitsbasierte Bezüge. Der Output spiegelt also Muster aus vorhandenen Daten wider. Dieser Output kann in sehr vielen Fällen nützlich und effizient sein, es ersetzt aber kein menschliches Urteilsvermögen.Die KI-Verordnung – Risikobasierter Ansatz
- 1. August 2024: Die KI-Verordnung ist in Kraft getreten.
- 2. Februar 2025: Verbote bestimmter KI-Praktiken und die Verpflichtung zur KI-Kompetenz für Anbieter von KI-Systemen sind in Kraft getreten.
- 2. August 2025: Die Verpflichtungen für KI-Modelle mit allgemeinem Verwendungszweck (GPAI) sind in Kraft getreten.
- 2. August 2026: Die Verordnung wird im Wesentlichen anwendbar sein, mit einer zweijährigen Frist nach dem Inkrafttreten.
- 2. August 2027: Die Regeln für Hochrisiko-KI-Systeme werden anwendbar.
Die verschiedenen Bestimmungen der Verordnung treten schrittweise in Kraft, wobei Hochrisiko-KI-Systemen eine längere Übergangszeit eingeräumt wird. Ein zentrales Element der Verordnung ist der risikobasierte Ansatz. Je nach Anwendungsfeld und Gefährdungspotenzial werden Systeme in unterschiedliche Risikostufen eingeteilt:
- Verbotene Systeme: etwa Social Scoring oder Emotionserkennung am Arbeitsplatz.
- Hochrisiko-Systeme: z. B. Anwendungen in der kritischen Infrastruktur, bei Migration oder Grenzkontrolle.
- Bestimmte Systeme: wie Chatbots oder Deepfakes, die besondere Transparenzpflichten auslösen.
- Risikoarme Systeme: darunter fallen einfache Anwendungen wie Spamfilter oder Schreibassistenten.
Damit verbunden ist die Frage, wer überhaupt adressiert wird: Anbieter, Betreiber, Händler oder Einführer. Für Kommunen bedeutet dies, ihre eigene Rolle klar zu definieren und daraus die entsprechenden Pflichten abzuleiten.
