Porträt: Kilian Vieth-Ditlmann (AlgorithmWatch)

Dass Deutschland so lahm ist bei der Digitalisierung, könnte mit Blick auf künstliche Intelligenz endlich mal ein Vorteil sein. Denn es schafft Zeit, um sich die mit ihr verbundenen Risiken genauer anzuschauen. Kilian Vieth-Ditlmann tut dies mit Blick auf Umweltfragen, aber auch und vor allem in Hinsicht auf den Schutz von Grund- und Menschenrechten. „Es gibt zahlreiche Beispiele, wo KI zu Diskriminierung geführt hat. Besonders gravierend war dies in den Niederlanden, wo Behörden Betrugsfälle beim Kindergeldzuschlag aufdecken wollten. Als Risikofaktor zählte für das System dabei alleine schon eine nicht-niederländische Nationalität. Unzählige Familien wurden zu Unrecht bestraft, gingen in den finanziellen Bankrott, es gab sogar Todesfälle.“

„Wir sprechen uns für ein Verbot der Gesichtserkennung im öffentlichen Raum aus – denn diese beschneidet Grundrechte.“

Trotz der verzögerten Digitalisierung gibt es auch hierzulande Beispiele für einen problematischen Einsatz von KI. „Das Bundesamt für Migration nutzt etwa ein System zur Dialekterkennung. Dadurch können hochproblematische Annahmen getroffen werden, die oftmals nicht der Realität der asylsuchenden Person entsprechen.“ Ein großes Problem sind laut Vieth-Ditlmann vor allem intransparente Systeme wie etwa die Credit Scores der Schufa. „2025 wollen wir uns daher damit beschäftigen, wie eine gute, faire und offene Alternative aussehen könnte.“