230’000 Franken für eine Fälschung: So viel Geld hat die australische Regierung einem renommierten Beratungsunternehmen für eine Studie bezahlt. Das Problem: Geschrieben hat sie keine Expertin, sondern eine Künstliche Intelligenz (KI). Und die war ausgesprochen kreativ. Sie erfand Gerichtsurteile und zitierte Artikel, die es gar nicht gibt. So weit, so lachhaft. Doch tragisch ist das Thema dieser Studie.
Die Studie untersuchte die Korrektheit von automatisierten Prozessen, die eingesetzt werden, um zu viel ausbezahlte Sozialhilfe zurückzufordern. Übersetzt heisst das: Algorithmen durchforsten im Nachhinein riesige Datenmengen und berechnen, wer angeblich zu viel bekommen hat. Auf Knopfdruck entstehen Rückforderungen – gegen Menschen, die ohnehin kaum über die Runden kommen.

Wie gefährlich das ist, zeigt ein Beispiel aus den Niederlanden. Dort setzte die Regierung von 2013 bis 2019 ein Kontrollsystem ein, das zehntausende Menschen fälschlicherweise des Sozialhilfebetrugs beschuldigte – vor allem solche mit migrantischen Wurzeln. Familien wurden in den Ruin getrieben, weil ein Algorithmus entschied, sie hätten zu viel Kindergeld bezogen. Die Regierung musste später zugeben: Das System war voreingenommen, fehlerhaft, rassistisch, und sie musste 2021 zurücktreten.
Verglichen damit wirkt die gefälschte Studie fast harmlos. Doch sie steht für dasselbe Prinzip: Auf der einen Seite Maschinen, die über Menschen urteilen, auf der anderen Maschinen, die Studien schreiben, um diese Praxis zu legitimieren. So sieht die reale Herrschaft der KI aus, nicht als Science-Fiction, sondern als Verwaltungsroutine.
Natürlich nutze auch ich KI. Sie ist praktisch, sie spart Zeit, sie macht Vorschläge, die mir nicht in den Sinn gekommen wären. Aber sie bleibt dumm – oder genauer: Sie funktioniert genauso dumm wie das System, in dem sie arbeitet. Sie hilft, sich darin zu bewegen, nicht es zu verstehen. Verstehen ist Arbeit, harte Arbeit. In die Unterwelt der Fakten absteigen, diese solange hin- und herdenken, bis die Zusammenhänge klar werden. So flog auch die gefälschte Studie in Australien auf, weil ein kritischer Forscher sich wunderte, dass Artikel von Kolleg:innen gegen deren bekannte Haltung den Einsatz der Algorithmen legitimieren sollten, und begann, die Zitate zu überprüfen. Um die Welt zu verwalten, ist das Verstehen überflüssig. Um die Welt zu gestalten, ist es zwingend notwendig.
Die Tech-Gurus, die einst vor der Weltherrschaft der KI warnten, sind jetzt selbst in einem wahnwitzigen Rennen um die Herrschaft über diese KI. Chips und Rechenleistung, wer das hat, der beherrscht die KI. Wie das funktioniert, verstehen sie. Der Rest der Welt ist Rohstoff für Profit, und vor dieser Welt ängstigen sie sich so, dass sie am liebsten auf den Mars fliehen würden. Hier liegt unser Potential. Als Kommunist:innen können wir die Welt verstehen und wir wollen sie verstehen. Und wir wollen sie auch verändern. Deshalb müssen wir sie verstehen.

Gaudenz Pfister, Mitglied der
Partei der Arbeit Zürich