Künstliche Intelligenz in der britischen Verwaltung: Segen oder Fluch?

Die britische Regierung setzt vermehrt auf Künstliche Intelligenz (KI) und Algorithmen, um Entscheidungen in verschiedenen Bereichen zu treffen.

Doch wie sicher und fair sind diese Systeme?

KI in der britischen Verwaltung

Eine Untersuchung des Guardian hat ergeben, dass Regierungsbeamte KI und komplexe Algorithmen verwenden, um Entscheidungen zu treffen, die von Sozialleistungen bis hin zu Heiratslizenzen reichen.

Mindestens in acht britische Regierungsabteilungen und einigen Polizeidienststellen wird KI eingesetzt, vor allem bei Entscheidungen über Sozialleistungen, Einwanderung und Strafrecht.

Potenzielle Diskriminierung durch KI

Die Untersuchung hat auch einige besorgniserregende Ergebnisse hervorgebracht:

• Ein vom "Department for Work and Pensions (DWP") verwendetes Algorithmus führte möglicherweise dazu, dass Dutzenden von Menschen fälschlicherweise ihre Sozialleistungen entzogen wurden.
• Ein Gesichtserkennungstool der Metropolitan Police hat bei bestimmten Einstellungen mehr Fehler bei der Erkennung von schwarzen Gesichtern als bei weißen gemacht.
• Ein vom Home Office eingesetzter Algorithmus zur Erkennung von Scheinehen hat überproportional Menschen bestimmter Nationalitäten ausgewählt.

"Wenn die Daten Anzeichen von Diskriminierung zeigen, warnen Experten, wird das KI-Tool wahrscheinlich auch zu diskriminierenden Ergebnissen führen."

theguardian.com

KI in der Verwaltung: Zwischen Potenzial und Risiko

Es ist unbestreitbar, dass KI das Potenzial hat, öffentliche Dienste zu revolutionieren. Sie kann Prozesse effizienter gestalten, Arbeitsstunden für Lehrer einsparen und zu schnelleren und genaueren Diagnosen im Gesundheitswesen beitragen.

Die Risiken und Herausforderungen

Doch trotz dieser Vorteile gibt es ernsthafte Bedenken hinsichtlich der Transparenz und Fairness von KI-Systemen.

In den Niederlanden wurden die Schattenseiten des Einsatzes von fehlerhafter KI bereits deutlich. Die Steuerbehörden nutzten sie, um Betrug bei den Kinderbetreuungszuschüssen aufzudecken. Dabei kam es jedoch zu zahlreichen Fehlentscheidungen.

Die Konsequenzen waren gravierend: Die Behörden wurden mit Strafen von insgesamt 3,7 Millionen Euro belegt, und viele Familien gerieten durch die fehlerhaften Entscheidungen in finanzielle Schwierigkeiten.

In Großbritannien gibt es Befürchtungen, dass ein ähnliches Szenario eintreten könnte, insbesondere nach der Abschaffung eines unabhängigen Regierungsbeirats, der öffentliche Stellen für den Einsatz von KI zur Rechenschaft zog.

Fazit

Während KI das Potenzial hat, die Effizienz und Effektivität der öffentlichen Verwaltung zu steigern, muss sichergestellt werden, dass diese Systeme fair, transparent und verantwortungsbewusst eingesetzt werden.

Es ist von entscheidender Bedeutung, dass die Öffentlichkeit über den Einsatz von KI in der Verwaltung informiert ist und die Möglichkeit hat, Entscheidungen infrage zu stellen und anzufechten.