Brüssel bereitet eine Änderung der Datenschutz-Grundverordnung (DSGVO) vor, die es Unternehmen erleichtern soll, sich auf rein automatisierte Entscheidungen zu berufen, selbst wenn ein Mensch dieselbe Wahl treffen könnte. Der Vorschlag, Teil des Digital‑Omnibus‑Pakets der Kommission, würde Artikel 22 neu fassen, die Klausel, die derzeit Personen vor Entscheidungen schützt, die ihr Leben stark beeinflussen, wenn sie ausschließlich von Algorithmen getroffen werden.

Wie algorithmische Scores den Alltag durchdringen

In ganz Europa werden immer mehr alltägliche Interaktionen durch numerische Scores gefiltert. In Deutschland führt die Auskunftei SCHUFA Daten zu rund 69 Millionen Bürgern und vergibt jedem eine Bewertung, die darüber entscheidet, ob er einen Kredit, einen Mobilfunkvertrag oder eine Wohnung erhalten kann. Im Jahr 2023 bestätigte der Europäische Gerichtshof, dass ein solcher Score, wenn er für eine vollständig automatisierte Entscheidung verwendet wird, "sehr reale Konsequenzen" für die betroffene Person haben kann.

Doch die Macht dieser Scores beschränkt sich nicht nur auf Finanzprodukte. In den Niederlanden verhängte die Datenschutzbehörde eine Geldstrafe von 825 Millionen Euro gegen das Ride‑Hailing‑Unternehmen Uber, weil Fahrer automatisch aufgrund algorithmischer Betrugsbewertungen deaktiviert wurden. Die Behörde stellte fest, dass die Fahrer ohne vorherige menschliche Prüfung von der Plattform und damit von ihrem Einkommen abgeschnitten wurden, während sie bereits gegen die Entscheidung vorgehen mussten.

Ähnliche Systeme kommen bei öffentlichen Behörden zum Einsatz. Das niederländische Tool zur Aufdeckung von Sozialleistungsbetrug SyRI wurde 2020 von einem Gericht in Den Haag wegen mangelnder Transparenz und Verletzung des Rechts auf Privatleben für illegal erklärt. Kürzlich nutzte die Bildungsbehörde DUO einen Algorithmus, um "Betrugsrisiko‑Scores" für Studierende zu berechnen, basierend auf Alter, Studienart und Entfernung zwischen Wohnort und Elternhaus. Studierende mit höheren Scores wurden häufiger überprüft und sogar zu Hausbesuchen eingeladen. Die niederländische Datenschutzbehörde kam zu dem Schluss, dass das System Studierende mit nicht‑europäischem Migrationshintergrund diskriminiert.

Selbst die Europäische Kommission testet die Technologie. Für die aktuelle Runde der EU‑Personalrekrutierung wird ein Tool entwickelt, das die 174 922 Bewerber eines allgemeinen Wettbewerbs rankt. Während die Behörden betonen, dass ein Mensch die endgültige Einstellungsentscheidung trifft, bestimmt der Algorithmus, welche Lebensläufe ganz oben in der Liste stehen und damit die Shortlist bilden, bevor ein Mensch überhaupt die Unterlagen sieht.

Warum die verborgenen Scores für gewöhnliche Europäer wichtig sind

Für viele Bürger sind die Folgen eines unsichtbaren Scores gravierend. Eine wohlhabende Person, die von einer Bank abgelehnt wird, kann einfach zu einer anderen Bank gehen, doch eine einkommensschwache Familie, die nach bezahlbarem Wohnraum sucht, hat möglicherweise keine Alternative, wenn ein Kredit‑ oder Betrugs‑Score sie vom Markt ausschließt. Plattformarbeiter wie Uber‑Fahrer können nicht monatelang auf die Klärung einer Beschwerde warten; eine plötzliche Deaktivierung bedeutet sofortigen Verdienstausfall.

Diese Systeme verstärken zudem bestehende Ungleichheiten. Indem soziale Benachteiligung in eine numerische Variable umgewandelt wird, präsentieren Algorithmen Diskriminierung als Effizienzfrage. Das zeigt sich im niederländischen Bildungsfall, wo Studierende mit Migrationshintergrund überproportional markiert wurden, und im breiteren europäischen Kontext, wo Kredit‑Scores häufig historische Vorurteile im Kreditwesen widerspiegeln.

Gefährdete Rechtsgarantien

Artikel 22 der DSGVO gewährt Personen das Recht, nicht ausschließlich automatisierten Entscheidungen unterworfen zu werden, wenn diese rechtliche oder ähnlich bedeutende Auswirkungen haben. Der Schutz gilt selbst dann, wenn ein Mensch letztlich die Entscheidung unterschreibt, weil der Algorithmus das Ergebnis stark beeinflussen kann.

Der Digital‑Omnibus will diese Garantie neu interpretieren. Indem Unternehmen behaupten dürfen, dass eine automatisierte Entscheidung "notwendig" für die Vertragserfüllung sei, würde die Beweislast auf die betroffene Person verlagert, nachzuweisen, dass ein Mensch dieselbe Wahl hätte treffen können. In der Praxis könnte das bedeuten, dass das Kredit‑Scoring‑System einer Bank, das Mieterauswahl‑Tool eines Vermieters oder das Betrugserkennungs‑System einer Behörde nicht mehr die Transparenz und Rechenschaftspflicht bieten müssen, die derzeit gefordert werden.

Reaktionen aus Wirtschaft und Politik

Technologieunternehmen und Branchenverbände argumentieren, dass die Änderung administrative Belastungen senken und Innovation fördern würde. Sie behaupten, dass viele automatisierte Prozesse bereits unverzichtbar seien, um das Datenvolumen moderner Dienste zu bewältigen, und dass das aktuelle DSGVO‑Regime unnötige Reibungen erzeugt.

Verbraucher‑ und Digital‑Rights‑Organisationen warnen hingegen, dass die Änderung einen Grundpfeiler des europäischen Datenschutzes aushöhlen würde. Das Netzwerk European Digital Rights (EDRi) hat wiederholt vor einer "authoritarian‑scoring society" gewarnt und fordert, Artikel 22 unverändert zu lassen.

Auch Gewerkschaften äußern Bedenken. Der Europäische Gewerkschaftsbund (ETUC) weist darauf hin, dass algorithmisches Management bereits den Arbeitsmarkt umgestalte, wobei Gig‑Worker und Plattformarbeiter undurchsichtigen Leistungskennzahlen ausgesetzt seien, die zu plötzlichen Deaktivierungen führen können. "Wenn das Existenzminimum eines Arbeiters von einem Black‑Box‑Algorithmus entschieden wird, ist das Machtungleichgewicht extrem", erklärte ein Sprecher.

Einige Mitgliedstaaten haben bereits Gegenmaßnahmen ergriffen. Die Bundesbeauftragte für den Datenschutz und die Informationsfreiheit (BfDI) hat Untersuchungen zum Einsatz von Kredit‑Scores bei Wohnungsentscheidungen eingeleitet, während die französische CNIL Leitlinien zur algorithmischen Transparenz für öffentliche Dienste veröffentlicht hat.

Folgen für den Alltag

Wird die Änderung angenommen, dürfte die automatisierte Entscheidungsfindung in Bereichen zunehmen, die bislang stark auf menschliches Urteil setzten. Banken könnten KI‑gestützte Kreditprüfungen ohne klare Beschwerdewege einsetzen. Vermieter könnten Scoring‑Tools zur Mieterauswahl nutzen und damit vulnerable Gruppen ohne transparente Verfahren ausschließen.

Für Arbeitnehmer besteht das Risiko, dass Monitoring‑Tools stärker verankert werden. Unternehmen könnten KI einsetzen, um Schichten zuzuweisen, Produktivität zu bewerten oder disziplinarische Maßnahmen zu entscheiden, alles unter dem Vorwand der "Notwendigkeit".

Verbraucher könnten mehr personalisierte Werbung und Empfehlungssysteme erleben, jedoch mit weniger Einblick, wie diese Entscheidungen zustande kommen. "Für dich"‑Sektionen auf Streaming‑Plattformen oder Nachrichtenseiten würden weiterhin von undurchsichtigen Algorithmen kuratiert, was die öffentliche Meinungsbildung beeinflusst, ohne Rechenschaftspflicht.

Europäischer Kontext und Ausblick

Die Debatte um algorithmisches Scoring läuft parallel zu breiteren EU‑Initiativen zur Regulierung künstlicher Intelligenz. Der AI‑Act, derzeit in Verhandlung, soll Standards für Hochrisiko‑KI‑Systeme setzen, doch Kritiker bemängeln, dass er die kumulativen Auswirkungen von Niedrigrisiko‑Scoring‑Tools, die zusammen eine allgegenwärtige Überwachung‑Wirtschaft bilden, nicht ausreichend adressiert.

Der Zeitpunkt des Digital‑Omnibus‑Vorschlags ist bemerkenswert. Gerichte in ganz Europa erkennen zunehmend die realen Folgen automatisierter Scores, wie das Urteil des EuGH zu SCHUFA und die Entscheidungen niederländischer Gerichte zu SyRI und DUO zeigen. Gleichzeitig will die Kommission es Unternehmen erleichtern, genau diese Systeme zu nutzen.

Stakeholder fordern einen differenzierteren Ansatz. Statt einer pauschalen Ausnahme für "notwendige" Automatisierung sollte ein gestuftes System gelten, bei dem das erforderliche Maß an menschlicher Aufsicht vom potenziellen Einfluss der Entscheidung abhängt. Bei hochriskanten Ergebnissen, Kredit, Wohnen, Beschäftigung oder öffentlicher Leistung, sollte eine menschliche Prüfung obligatorisch bleiben.

Transparenz bleibt ein zentrales Anliegen. Die EU könnte verlangen, dass jedes für Scoring genutzte Algorithmus einer unabhängigen Prüfung unterzogen wird, deren Ergebnisse den betroffenen Personen zugänglich gemacht werden. Solche Maßnahmen würden dem Prinzip der Erklärbarkeit entsprechen, das viele Datenschutz‑Advocates vertreten.

Schließlich hat die Frage auch eine politische Dimension. Die EU hat sich lange als Verteidiger digitaler Rechte positioniert, im Gegensatz zu den USA und China. Eine Schwächung von Artikel 22 würde dieses Narrativ untergraben und das Vertrauen der Öffentlichkeit in europäische Institutionen gefährden, gerade in einer Zeit, in der digitale Souveränität ein zentrales Politikziel ist.

Während die Debatte weitergeht, steht für die europäischen Bürger eine klare Frage im Raum: Wird das Versprechen von Effizienz das Recht auf eine faire, transparente Bewertung der eigenen Daten überlagern? Die Antwort wird nicht nur die Zukunft der KI in Europa bestimmen, sondern auch das tägliche Leben von Millionen Menschen, die bereits die Last unsichtbarer Scores spüren.