Effektiv und Diskriminierungsfrei? KI-gestützte Anwendungen in Antragstellung und Beratung staatlicher Leistungen

Auf Künstliche Intelligenz (KI) gestützte Informationssysteme oder Beratungsangebote können dazu beitragen, Rat- und Hilfesuchende zu ermächtigen und in der selbstverantwortlichen Wahrnehmung von Rechten zu stärken. Virtuelle Assistenzen, eine Übersetzung in einfache Sprache oder die gezielte Navigation durch Antragsverfahren bieten Bürgerinnen und Bürgern im besten Falle Orientierung. Gleichzeitig können diese Systeme Verwaltung effizienter gestalten, indem sie Vorab-Beratungen von Bürgerinnen und Bürgern ermöglichen oder Entscheidungsprozesse in Antrags- und Bewilligungsverfahren staatlicher Leistungen unterstützen. Diese Potenziale gehen mit Herausforderungen wie der diskriminierungsfreien Ausgestaltung einher. Neben einem ungleichen Zugang zu den erforderlichen Technologien kann Diskriminierung vor allem durch ein Bias in der Datengrundlage der KI entstehen bzw. wird sie reproduziert und verstärkt. Das ist zu verhindern, und vielmehr sollten die Möglichkeiten von KI für einen Abbau möglicher Diskriminierungen genutzt werden. Im Fachforum werden Projekte für Einsatzgebiete und Instrumente von KI vorgestellt und vor dem Hintergrund aktueller Forschung zu ihren Wirkungsweisen diskutiert.