Interessanter Beitrag im Jusletter zu KI und der Einzelfallbeurteilung.

Diese Woche habe ich im Jusletter den Beitrag von Tim Oliver Köbrich zu KI im Kindes- und Erwachsenenschutz gelesen. Ein starker Beitrag. Zum Nachdenken gebracht hat mich vor allem seine Perspektive: Er analysiert das Thema nicht aus Sicht des Datenschutzes, sondern setzt bei der Frage an, welche Rolle ein maschinell erzeugtes Ergebnis im Verfahren und bei der Einzelfallbeurteilung spielen darf.

Die erste Grenze: Jeder Fall bei der KESB muss auf die betroffene Person zugeschnitten sein. Der Gesetzgeber hat dieses Programm in den Materialien als «Massarbeit» bezeichnet, das Bundesgericht hat den Begriff aufgenommen. Ein Modell, das auf früheren Fällen trainiert wurde, liefert aber immer eine Aussage über ähnliche Fälle, nicht über diese Person. Köbrich zieht deshalb eine klare Linie: Ein solcher Wert darf den Anstoss für weitere Abklärungen geben, aber nie eine Massnahme begründen. Ob das Ergebnis aus einem Sprachmodell oder aus einer simplen Rechenregel stammt, spielt keine Rolle. Entscheidend ist, welche Rolle es im Entscheid spielt.

Die zweite Grenze ist für mich der zentrale Punkt: die Aktenkundigkeit. Dabei geht es nicht um jede Verwendung von KI. Eine bloss sprachliche Überarbeitung liegt auf einer anderen Ebene. Entscheidend ist der entscheidrelevante Einsatz: Wenn ein System Informationen selektiert oder gewichtet, die Untersuchung ausrichtet, Risiken bewertet oder anderweitig die Entscheidgrundlagen mitprägt, muss dieser Beitrag nachvollziehbar werden.

Nachvollziehbar heisst nicht, dass die technische Funktionsweise eines Modells im Einzelnen erklärt werden muss. Aus den Akten muss aber erkennbar sein, welchen Beitrag das System zum Entscheidungsvorgang geleistet hat und wie sein Ergebnis fachlich überprüft wurde. Fehlt das, kann sich die betroffene Person nicht wirksam wehren und keine Beschwerdeinstanz kann prüfen, ob der Einzelfall wirklich beurteilt wurde.

Hier schlage ich den Bogen zu meinem Bachelor in Wirtschaftsrecht Studium und das ist ausdrücklich meine eigene Einordnung. Der Datenschutz ist eine verwandte, aber eigenständige Fragestellung. Für Unternehmen gilt das Datenschutzgesetz des Bundes. Dort ist die Erforderlichkeit als Teil der Verhältnismässigkeit zentral (Art. 6 Abs. 2 DSG): Wir müssen uns kritisch fragen, welche Daten für den konkreten Zweck wirklich bearbeitet werden müssen. Die Denkhaltung ist ähnlich.

Fakt ist: Nicht alles, was technisch möglich ist, braucht es auch für den einzelnen Fall. KI darf vorbereiten, die Einzelfallbeurteilung aber nicht ersetzen. Und wo sie die Entscheidgrundlagen mitprägt, muss aus den Akten hervorgehen, was sie beigetragen hat und wie ihr Ergebnis geprüft wurde.