Blackbox KI – eine neue Barriere?

Die Schnittstelle der Mensch-Maschine-Interaktion verschiebt sich durch die Digitalisierung und Automation von Services (z. B. durch den Einsatz von Robotic Process Automation) bereits jetzt und wird dies durch den Einsatz von KI weiterreichend tun. Abseits von Chatbots zur einfachen Auskunftserteilung und über Verfahren von Bilderkennung im Sachkontext hinausgehend, kann der Verwaltungsalltag beim Einsatz von KI-Lösungen, die in ihrer Wirkungstiefe weiter in die Services für die Stadtgesellschaft hineinreichen (z. B. in die Entscheidungsfindung zu Antragsverfahren), eine neue Form von Barriere bergen. Werden Systeme mit komplexen KI-Modellen zur (teil-)automatisierten Entscheidungsfindung eingesetzt, sollte dies nicht nur Gegenstand gesellschaftlicher Aushandlung und gesetzlicher Regulierung sein. Vielmehr werden auch Fragen nach Transparenz, Vertrauen und Akzeptanz bis hin zur Anwendung und Verfahren im konkreten Einzelfall aufgeworfen.

KI-Systeme sind nicht grundsätzlich „Blackboxes“, werden jedoch meist summarisch derartig bezeichnet. Häufig sind KI-Modelle nicht ohne Weiteres ergründbar, die Entscheidungskriterien nicht umfassend klar und ihre Ergebnisherleitung intransparent. Ausgerechnet jene KI-Modelle, die eine sehr hohe Funktionalität zeigen (z. B. auf Grundlage neuronaler Netze), weisen dabei die geringste Transparenz, Interpretierbarkeit und Erklärbarkeit auf. Der statistische Charakter der Vorhersage von KI-Modellen bedingt zudem, dass Resultate in Wahrscheinlichkeiten münden, die wiederum interpretierbar sind, da sie das Maß der Unsicherheit ihrer Ergebnisfindung darstellen. Nicht zu unterschätzen sind auch weiche Faktoren wie Intuition und Erfahrung von Menschen in Entscheidungssituationen, die einer KI-Lösung nicht zugeschrieben werden können. In der Praxis mit diesen KI-Systemen umzugehen, wird die Kommunalverwaltungen vor neue Herausforderungen stellen, zu denen einschlägige Lösungsansätze entwickelt und bereitgestellt werden müssen.

Ansätze zur Auflösung der Intransparenz

Erklärungsansätze zu KI-Systemen (sog. XAI, explainable AI) sind in Wissenschaft und Forschung bereits facettenreich entwickelt (z. B. LIME oder LRP). Ihre Ansätze und Implementierungen bringen für Experten verständliche Ergebnisse hervor, jedoch häufig nicht für Laien. Sie arbeiten zwar teilweise mit sog. Heatmaps oder anderen visuellen Darstellungsformen, die z. B. in der Bilderkennung Bereiche ausweisen, auf deren Grundlage die Entscheidung im Einzelfall getroffen wurde. In der Anwendung zur Entscheidungsfindung in der öffentlichen Verwaltung bedarf es jedoch zumindest einer Erklärungskomponente, die allgemeinverständliche, eindeutige und zuverlässige Erläuterungen zur Entscheidungsfindung liefert, um nicht nur bspw. seitens der Sachbearbeitenden zu Bürgerinnen und Bürgern auskunftsfähig zu sein, sondern auch um den Ergebnisprozess adäquat zu dokumentieren. Hierzu gibt es bereits verschiedene Formen von Forschungsansätzen, die jedoch bisher nicht in die praktische Ebene der Kommunalverwaltung heruntergebrochen sind.

Weitere Entwicklungen und ungelöste Fragen

Künstliche Intelligenz verändert unser Leben. Vom Fahrassistenten über die Heizungssteuerung, von sozialen Medien zur Wissensvermittlung: Die Mechanismen von Wirtschaft und Gesellschaft werden von Künstlicher Intelligenz verändert. Wir sind aufgerufen, diese Entwicklungen in humanzentrierte und gemeinwohlorientierte Bahnen zu lenken und als Verwaltungen verantwortungsbewusst und vorbildhaft zu agieren. Neben Transparenz und Erklärbarkeit der Systeme gilt es Services zu schaffen, die die Teilhabe und Partizipation aller gewährleisten.

Die bereits zur Verfügung stehenden Hilfsinstrumente zur barrierearmen Gestaltung von Services werden nur ansatzweise wahrgenommen bzw. genutzt. Hinter dem Einsatz von KI in der Kommunalverwaltung lauert zwischenzeitlich die nächste Form von Barrie­re für die Stadtgesellschaft. Entscheidungen der kommunalen Verwaltungen benötigen Transparenz und Nachvollziehbarkeit, eine Erklärung muss jederzeit verfügbar sein, auf Nachfrage einfach bereitgestellt werden können und allgemein verständlich sein. Dies geht einher mit Designprozessen von Services, die dem Verständnis der Nutzenden entsprechen sowie deren Bedarfe und Erwartungen erfüllen. Hier eröffnet sich noch ein weites Feld ungelöster Fragestellungen. Jede weitere Entwicklung sollte in jedem Fall auf der Basis beruhen, dass KI ein Werkzeug ist und Entscheidungsträger weiterhin der Mensch bleibt.

Zurück zu Seite 1 | Seite 2