Kenntnisnahme - FB15/0053/WP18

 

Einführung:

 

Das Thema „Künstliche Intelligenz“ (KI) oder auf Englisch „artificial intelligence“ (AI) ist derzeit in aller Munde, weshalb auch die Verwaltung sich fortlaufend hiermit beschäftigt. Diese Vorlage soll betrachten, welche Chancen als auch Risiken mit der Nutzung von KI verbunden sind, welche gesetzlichen Grundlagen derzeit existieren bzw. zünftig kommen werden und wie diese Technologie bei der Stadt Aachen gewinnbringend zum Einsatz gebracht werden kann.

 

Die Vorlage versteht sich dabei als ein erster Überblick zum Thema „KI in der Verwaltung“. Zur Beantwortung der konkreten Fragen des Tagesordnungsantrages vom 06.06.2024 wird eine Präsentation im Rahmen der Ausschusssitzung gezeigt.

 

Definition KI:

 

Der Begriff der KI ist nicht einheitlich definiert. In den verschieden Quellen finden sich unterschiedliche Ansätze.

 

Eine KI selbst gibt auf die Frage nach der Definition von künstlicher Intelligenz beispielsweise folgende Antwort:

 

ChatGPT: „Künstliche Intelligenz (KI) bezieht sich auf die Fähigkeit von Computern oder Computersystemen, Aufgaben auszuführen, die normalerweise menschliche Intelligenz erfordern würden. Diese Aufgaben umfassen oft das Lernen aus Erfahrung, das Lösen von Problemen, das Erkennen von Mustern, das Verstehen von natürlicher Sprache und vieles mehr. KI-Algorithmen und -Techniken werden verwendet, um Computerprogramme zu entwickeln, die in der Lage sind, komplexe Aufgaben zu bewältigen und menschenähnliches Verhalten oder Denken zu zeigen.“

 

Letztendlich sollte jedoch sich gerade die öffentliche Verwaltung an der Definition von KI aus der KI-Verordnung (englisch AI Act) der EU, welche am 13.3.2024 vom EU-Parlament verabschiedet wurde orientieren: „"KI-System": ein maschinengestütztes System, das so konzipiert ist, dass es mit unterschiedlichem Grad an Autonomie operieren kann und nach dem Einsatz Anpassungsfähigkeit zeigen kann, und das für explizite oder implizite Ziele aus den Eingaben, die es erhält, ableitet, wie es Ergebnisse wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugen kann, die physische oder virtuelle Umgebungen beeinflussen können;“

 

Abgrenzung KI oder keine KI:

 

Bisher ist es so, dass es keine konkrete oder geprüfte Einstufung gibt, ob es sich bei einem Programm um eine KI handelt oder nicht. Viele am Markt mit dem Kennzeichen „KI“ beworbene Lösungen beinhalten nach der Definition der EU KI-Verordnung keine KI. So sind Lösungen zur automatischen Zuordnung oder Verarbeitung von Anträgen eher dem Bereich der Robot Process Automation (RPA – regelbasierte automatische Abarbeitung von Prozessen) zuzuordnen. Häufig werden auch Bot’s (z.B. Chatbots) welche auf Synonymen basieren als KI vermarktet. Auch Lösungen welche auf festen Algorithmen basieren werden oft als KI angeboten.

 

KI in der Stadtverwaltung Aachen:

 

Zum aktuellen Zeitpunkt scheint die Nutzung einer zentralen KI bei der Stadtverwaltung Aachen nicht zielführend, da es bisher keine für alle Bereiche geeignete KI auf dem Markt gibt. Ergebnisorientiert erscheint der bedarfsbezogene Einsatz dezentraler KI-unterstützter Systeme und Anwendungen.

 

Es gibt vielfältige Diskussionen in Medien, ob und wie KI zur automatisierten Bearbeitung von Verwaltungstätigkeiten eingesetzt werden kann. Ein vollständig automatisierter Erlass eines Verwaltungsaktes ist nach § 35a VwVfG nur dann zulässig, wenn es sich um eine gebundene Entscheidung handelt und eine ausdrückliche Ermächtigungsgrundlage besteht. Sofern die öffentliche Stelle über einen Beurteilungsspielraum verfügt oder Ermessen ausübt, scheidet der vollständig automatisierte Erlass aus. Der Einsatz von KI im Bereich des „klassischen“ Verwaltungswesens bzw. zum Erlass von Verwaltungsakten scheint vor diesem Hintergrund schwierig. Hier wäre wohl der Einsatz von Prozess-Automation in der Vorbereitung oder Unterstützung von klassischem Verwaltungshandeln zielführender.

 

Einsatzbereiche von analytischer KI sind derzeit für folgende Projekte im Blick bzw. bereits im Einsatz:

 

• Bereits im Einsatz:
  • Mängelmelder: Erkennung von Gesichtern und KFZ-Kennzeichen auf Bildern um diese zu verpixeln. Hier schlägt die KI lediglich vor was verpixelt werden soll. Die Entscheidung liegt letztendlich bei der Sachbearbeitung.
• Ideen für künftige Einsatzfelder:
  • Automatische Fertigung von Wortprotokollen im Rat. Derzeitige Systeme schaffen eine Umsetzung von ca. 97%. Somit ist hier auch immer eine manuelle Nachbearbeitung notwendig.
  • Erkennung von Schlaglöchern
  • KI zur Erkennung von Kollisionen von gleichzeitigen Baustellen
  • KI zur Unterstützung der Rettungsleitstelle

 

Weitere Einsatzpotenziale von KI werden sich innerhalb konkreter Projekte als Lösungsmöglichkeit ergeben.

 

EU KI-Verordnung (Quelle https://artificialintelligenceact.eu/de/high-level-summary/)

 

Die EU KI-Verordnung ist eine europäische Verordnung über künstliche Intelligenz (KI) - die erste umfassende Verordnung über KI durch eine wichtige Regulierungsbehörde weltweit. Im Februar 2024 haben die Mitgliedstaaten der Europäischen Union im Ausschuss der Ständigen Vertreter (AStV) die Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (KI-Verordnung, AI Act) einstimmig gebilligt.  Mit der KI-Verordnung setzt die EU den Rahmen für den Einsatz von Künstlicher Intelligenz (KI) in Europa. Sie zielt darauf ab, Innovationen zu fördern, gleichzeitig das Vertrauen in KI zu stärken und sicherzustellen, dass diese Technologie in einer Weise genutzt wird, die die Grundrechte und die Sicherheit der Bürgerinnen und Bürger der EU respektiert. Im April 2024 hat auch das EU-Parlament der Verordnung zugestimmt. Es wird mit einer Veröffentlichung im Amtsblatt im Sommer 2024 gerechnet. 20 Tage später tritt dann die Verordnung in Kraft und muss innerhalb von 24 Monaten in nationales Recht umgesetzt werden.

 

 

 

Die KI-Verordnung stuft KI nach ihrem Risiko ein:

 

• Unannehmbare Risiken sind verboten (z. B. soziale Bewertungssysteme und manipulative KI).
• Der größte Teil des Verordnungstextes befasst sich mit KI-Systemen mit hohem Risiko, die reguliert sind.
• Ein kleinerer Teil befasst sich mit KI-Systemen mit begrenztem Risiko, für die geringere Transparenzpflichten gelten: Entwickler und Betreiber müssen sicherstellen, dass die Endnutzer wissen, dass sie mit KI interagieren (Chatbots und Deepfakes).
• Das geringste Risiko ist unreguliert (einschließlich der meisten KI-Anwendungen, die derzeit auf dem EU-Binnenmarkt erhältlich sind, wie z. B. KI-gestützte Videospiele und Spam-Filter - zumindest im Jahr 2021; dies ändert sich mit der generativen KI in Form von ChatGPT).

 

Auch wenn erst voraussichtlich im Jahre 2026 die EU KI-Verordnung in nationales Recht umgesetzt wird, wird sich die Stadt Aachen bereits bei vorher anstehenden Projekten an dieser Verordnung orientieren.

 

KI und Datenschutz

 

Natürlich gelten auch bei dem Einsatz von KI die Regeln der DSGVO. Somit ist auch im KI-Umfeld auf den Umgang mit personenbezogenen Daten zu achten. Hierzu hat die Datenschutzkonferenz am 6. Mai 2024 eine Orientierungshilfe herausgegeben (https://www.datenschutzkonferenz-online.de/media/oh/20240506_DSK_Orientierungshilfe_KI_und_Datenschutz.pdf). Diese bietet einen Überblick über datenschutzrechtliche Kriterien, die für die datenschutzkonforme Nutzung von KI‐Anwendungen zu berücksichtigen sind. In Projekten, in welchen KI zum Einsatz kommen wird, wird wie auch bisher üblich, der Datenschutz auch in Hinblick von Nutzung von KI im Zuge des Projektprozesses mitgedacht.

 

Generative KI (z.B. ChatGPT) in der Stadt Aachen

 

Generative KI wie ChatGPT, Claude.AI oder Lösungen von Google oder Microsoft Copilot sind heute im Internet frei verfügbar und werden innerhalb der Verwaltung im Einzelfall derzeit beispielsweise zur Unterstützung bei der Erstellung von Grußworten und anderen Schriftstücken ohne rechtserheblichen Charakter genutzt. Um hier eine Nutzungs- und Rechtssicherheit herzustellen erstellt die Verwaltung aktuell eine entsprechende Dienstanweisung. Diese soll darstellen, wann und wie generative KI genutzt werden darf und welche Regeln zu beachten sind.

 

Zusammenfassung

 

Auch bei der Stadtverwaltung Aachen kommt KI zum Einsatz. Da KI viele Chancen bietet, Prozesse zu beschleunigen, Mitarbeitende zu entlasten oder die Interaktion zwischen Bürger*innen und Verwaltung zu verbessern, wird FB 15 bei allen künftigen Projekten prüfen, ob der Einsatz von KI sinnvoll und nützlich sein kann. Bei der Durchführung von Projekten, bei denen KI zum Einsatz kommen wird, wird die bewährte Vorgehensweise zum Projektmanagement von FB 15 genutzt. Dies wird dazu führen, dass sowohl die Regeln der EU KI-Verordnung bzw. wenn verfügbar nationalem Recht eingehalten werden, als auch dass die Umsetzung DSGVO-konform erfolgt. Die Vorgehensweise schließt auch die Beteiligung der Personalvertretungen ein.