Zwei Entwicklungen gefährden die etablierten Demokratien derzeit am meisten: Erstens die rechtspopulistisch-autoritären Demokratiefeinde, die politisch weltweit immer stärker werden. Zweitens die zahllosen Missbrauchsmöglichkeiten der Digitaltechnik, welche hart errungene Grundrechte wie jenes auf eine unantastbare Privatsphäre zunehmend in Frage stellen und für Diktaturen ungeahnte neue Möglichkeiten eröffnen. Wohin das führen könnte, lotet die Science-Fiction-Serie Black Mirror [Notiz] hervorragend aus. Einiges davon ist inzwischen leider schon fast Realität geworden, wenn man nach China blickt. Dort bekommen Bürger bereits eine Punktebewertung je nach Regimefreundlichkeit und Minderheiten werden zum Installieren von Überwachungsapps gezwungen.

Einen wesentlichen Teil dieser digitalen Infrastruktur bilden Algorithmen aller Art. Die zahlreichen unerwünschten Nebenwirkungen dieser Algorithmen beschreibt Cathy O’Neil in ihrem hübsch Weapons of Math Destruction betitelten Buch. Ihre Beispiele sind primär aus den USA und umfassen viele unterschiedliche Bereiche. So werden mit unethischen Geschäftspraktiken sozial Benachteiligte abgezockt. Private, überteuerte Universitäten etwa vermarkten ihre Angebote gezielt in ärmere Gesellschaftsschichten, welche sich für Stipendien qualifizieren, und locken diese mit raffinierten Marketingmethoden in ihre Bildungseinrichtungen. Dabei gäbe es für diese Klientel billigere und bessere Hochschulen. Das Ergebnis sind unzählige hoch überschuldete Studenten aus ökonomisch benachteiligten Gruppen.

Cathy O’Neil zeigt an vielen Beispielen, wie ursprünglich gut gemeinte Methoden (etwa „farbenblindes“ computergestütztes Recruiting) sich schnell ins Gegenteil verkehren, und wie schwierig es ist, wieder aus den Fängen dieser Algorithmen zu geraten. Einmal in der falschen Datenbank zu landen, kann Leben ruinieren. Dabei ist es eigentlich ja sehr Nahe liegend, dass Algorithmen, welche mit Unmengen an „menschlichen“ Daten trainiert werden, die diversen menschlichen Vorurteile naiv mitlernen.

Ein spannendes Buch für alle, welche die Gegenwart besser verstehen wollen.

Cathy O’Neil Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy