KI und Transparenz?
💡💡💡Wie kann der Einsatz von KI in der öffentlichen Verwaltung transparent gemacht werden? Wie wird Nachvollziehbarkeit sichergestellt?
Diese und weitere Fragen wurden im Rahmen des von der Mercator Stiftung unterstützten Projekts, das unser Forschungszentrum e-PIAF an der Uni Basel gemeinsam mit dem ITSL der Uni Zürich durchführen durfte, untersucht. Als Resultate aus dem Projekt «Nachvollziehbare Algorithmen: Ein Rechtsrahmen für den Einsatz Künstlicher Intelligenz» wurden Anfang Juni am Swiss IGF verschiedene White Papers lanciert:
Für den staatlichen KI-Einsatz:
👉 Transparenz durch öffentliches Verzeichnis: Zur Erhöhung des Vertrauens der Bevölkerung in KI-basierte oder algorithmenbasierte Entscheidungen und zur Sicherstellung von externen Kontrollmöglichkeiten sollte allgemein ersichtlich sein, wann Behörden ein algorithmisches System für bestimmte Entscheidungen einsetzen. Das White Paper zeigt auf, dass die aus rechtsstaatlichen und demokratischen Erwägungen notwendige Transparenz mit einem öffentlichen Verzeichnis über den Einsatz algorithmischer Systeme hergestellt werden kann und legt dar, welche Informationen ein derartiges Verzeichnis enthalten sollte.
👉 Transparenz durch Begründung von Verfügungen: Werden beim Erlass von Verfügungen KI-Systeme oder algorithmische Entscheidungssysteme eingesetzt, kann dies für die Begründung der Verfügung eine Herausforderung sein, da je nach technischer Ausgestaltung des Systems dessen Ergebnisse nicht nachvollziehbar sind. Entsprechend kann der Einsatz solcher Systeme dazu führen, dass Verfügungen nicht oder nur mit zusätzlichen Vorkehrungen begründet werden können. Unter Berücksichtigung der Funktionen der staatlichen Begründungspflicht skizziert das White Paper konkrete Herausforderungen und zeigt mögliche Lösungsansätze auf.
https://ius.unibas.ch/fileadmin/user_upload/ius/03_Forschung/10_e-PIAF/WhitePaper_Begruendung_Juni24.pdf
Weitere White Paper befassen sich mit zentralen Herausforderungen im privaten Bereich: Diskriminierung, Datenschutz und Manipulation.
Weitere Infos und Links zu den White Paper im privaten Bereich unter
Forschungsstelle für Digitalisierung in Staat und Verwaltung (e-PIAF) on LinkedIn: #ki #nachvollziehbarkeit #epiaf #verzeichnis #begründung #verfügungen #igf...