Liebe Leser*innen,

am vergangenen Mittwoch war das Internet geschlossen. Unzählige Onlineangebote, die sonst 24/7 erreichbar sind, hatten viele Stunden lang die Rollos heruntergefahren. Auch netzpolitik.org war wegen „Wartungsarbeiten“ down. Zuvor wurden mit sogenannter KI kritische Sicherheitslücken in PHP gefunden, einer Programmiersprache. Die Schließungen geschahen sicherheitshalber.

Warum die freie Software PHP so wichtig ist für das Funktionieren des Internets, hat meine Kollegin Bianca in einer höchst interessanten Analyse ausgeführt. Dort zeigt sie, wie ungerecht es ist, dass die Entwickler*innen solcher Projekte eigentlich nur dann größere Aufmerksamkeit bekommen, wenn sie etwas falsch gemacht haben. Dabei halten sie sonst sehr zuverlässig und oft in ehrenamtlicher Arbeit das Fundament des Internets stabil. So auch in diesem Fall. Mit Hochdruck haben die PHP-Entwickler*innen Sicherheitsupdates geschrieben.

Das Warten auf diese Patches erinnerte an ein Kindheits-Weihnachten, diesen Vergleich machte ein Mensch in dem Sozialen Netzwerk Mastodon. Das blieb weiter offen und wurde fleißig befüllt. Es war wie ein Feiertag – plötzlich hatten ganz viele Menschen frei (außer den armen Admins natürlich). Während die Lebensrealitäten sonst hart fragmentiert sind, wurde hier auf einmal eine große Gemeinsamkeit sichtbar.

Für mich fühlte sich das ein bisschen an, wie ein autofreier Sonntag gewesen sein muss. Plötzlich gab es da ungeahnte Möglichkeitsräume. Man konnte diesmal zwar nicht auf der Autobahn radfahren, aber immerhin den Staubstürmen auf der Datenautobahn hinterhersinnieren. Es stellte mich vor wochentagsüber ungewohnte Fragen: Sollte ich einen Spaziergang machen? Sport treiben? Freunde treffen? Irre auf jeden Fall, wie viel Zeit man ohne dieses Internet plötzlich hat. Von mir aus könnten wir öfter mal kollektiv abschalten.

Viel Spaß beim Lesen!

Martin

Alterskontrollen für alle: Der Kids Act oder die sechs Sargnägel des offenen Internets

Europa steuert auf ein Internet mit Alterskontrollen für alle zu. Grund dafür ist der von der EU-Kommission vorgelegte Kids Act. Entstehen soll eine Infrastruktur, mit der sich die digitale Öffentlichkeit potenziell überwachen und spalten ließe. Der Weg dorthin besteht aus sechs Schritten. Von Sebastian Meineck –
Artikel lesen

Linke, Grüne und SPD: Was außer Vergesellschaftung im Berliner Sondierungspapier steht

Neben Ideen für die Berliner Wohnungspolitik haben sich Linke, Grüne und SPD auch auf einen groben Kurs bei Polizei, Verfassungsschutz und Verwaltungsdigitalisierung geeinigt. Wichtige Fragen sind aber noch offen. Von Anna Biselli –
Artikel lesen

FAQ: Was man zum Verhaltensscanner in Berlin wissen sollte

Software bewertet, wie sich die gefilmten Menschen verhalten: Diese Form der Videoüberwachung wird gerade in Berlin eingeführt. Wir klären die wichtigsten Fragen. Von Martin Schwarzbeck –
Artikel lesen

LKA Baden-Württemberg: Kritik an Gesichtserkennung bei Demo-Teilnehmenden

Als ein Polizist gegen Palästina-Aktivist:innen ermittelte, soll er auch unbeteiligte Teilnehmer:innen einer Demo per Gesichtserkennung identifiziert haben. Die Gesellschaft für Freiheitsrechte hält das für rechtswidrig: „Die Polizei ermittelt ins Blaue hinein.“ Von Carla Rochel –
Artikel lesen

Interview: „Lasst Euch nicht mit dem ersten Datensatz abspeisen!“

Welche Daten haben Unternehmen über uns gespeichert? Dank Datenschutzgrundverordnung müssen Unternehmen die eigenen Daten auf Anfrage herausgeben. Zwei Softwareentwickler haben das genutzt, um mit hunderten Anfragen ihr digitales Leben zu rekonstruieren. Von Leonhard Pitz –
Artikel lesen

Geheimdienstreform: Opposition kritisiert ungeregelte Überwachung mit Werbedaten

BND und Bundesverfassungsschutz sollen umfangreiche neue Gesetze bekommen, aber ein Bereich fehlt: Dürfen die Geheimdienste mit illegalen Daten aus der Werbeindustrie überwachen? Opposition und Fachleute kritisieren diese Regelungslücke vehement, aber die Regierung schaltet auf stur. Von Ingo Dachwitz –
Artikel lesen

EU-Länder einig beim Daten-Omnibus: Mehr KI-Training, weniger Datenschutz

Geschäftsgeheimnisse schützen, Datenschutz schwächen, personenbezogene Daten für KI-Training freigeben: Am gestrigen Mittwoch haben sich die EU-Länder auf ihre Position zum Daten-Omnibus verständigt. Sie wird für Diskussionen sorgen. Von Tomas Rudl –
Artikel lesen

Koalitionsverhandlungen in Berlin: Rot-Rot-Grün muss KI-Kameras stoppen

Wie geht es weiter mit den KI-Kameras in Berlin? Das haben Verhandler*innen von Linken, Grünen und SPD nun zu klären. Wenn ihnen die Stadt wichtig ist, gibt es nur eine Option: den kompletten Rückbau der „intelligenten“ Videoüberwachung. Ein Kommentar. Von Martin Schwarzbeck –
Artikel lesen

PHP-Sicherheitslücken: Wir stehen auf den Schultern vieler kleiner Giganten

Auch wenn „das Internet“ nach der Aufregung der vergangenen Tage vielerorts wieder stabil läuft, ist es kaputt. Und das hat viel mit dem schiefen sozialen Gefüge der digitalen Welt zu tun. Von Bianca Kastl –
Artikel lesen

Beschwerde erfolgreich: Politisches Microtargeting von vier Parteien war rechtswidrig

Nicht alle bekamen dieselbe Wahlwerbung zu sehen: Mindestens vier Parteien spielten im Bundestagswahlkampf 2021 auf Facebook gezielt Werbung für bestimmte Personengruppen aus. Die Berliner Datenschutzbeauftragte hat diese Praxis nun als rechtswidrig eingestuft. Von Carla Rochel –
Artikel lesen

KI-Boom: Wie die Bundesregierung die Regulierung von Rechenzentren aushöhlt

Der KI-Boom lässt den Strombedarf von Rechenzentren rasant ansteigen. Doch statt den Energieverbrauch zu begrenzen und Abwärme zu nutzen, will die Bundesregierung Energieeffizienzvorgaben aufweichen. Sie gibt damit den Interessen der großen Tech-Giganten nach. Von Gastbeitrag, Leonard Burtscher –
Artikel lesen

#313 On The Record: Wie geht digitale Solidarität, Aline Blankertz und Malte Engeler?

Weniger Fortschrittsglaube, mehr Kapitalismuskritik: Aline Blankertz und Malte Engeler wollen mit ihrem neuen Buch verändern, wie wir über Technologie nachdenken. Wir haben mit ihnen über ihre Ablehnung von KI gesprochen, über solidarische Kritik an der Digital-Rights-Szene und die Vergesellschaftung von Plattformen. Von Ingo Dachwitz –
Artikel lesen

–––

Deine Spende für digitale Freiheitsrechte
Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich aus den Spenden unserer Leser:innen. Jetzt spenden.

Die Bundesregierung und der Technologiekonzern Nvidia haben Anfang dieser Woche eine engere Zusammenarbeit bei der Entwicklung künstlicher Intelligenz vereinbart. Sie wollen damit die Wettbewerbsfähigkeit stärken, sagten Bundeskanzler Friedrich Merz (CDU) und Nvidia-Chef Jensen Huang am Rande eines „Investitionsgipfels“ am Montag.  

Den Ausbau der IT-Infrastruktur in Deutschland will die Regierung in den kommenden Jahren deutlich vorantreiben. Der kürzlich veröffentlichten Rechenzentrumsstrategie zufolge soll die IT-Leistung in Deutschland bis 2030 von derzeit etwa zwei Gigawatt auf mehr als vier Gigawatt ansteigen und sich damit mehr als verdoppeln. Die KI-Leistung soll sich sogar vervierfachen.

Weitergehende Prognosen gehen davon aus, dass der KI-Boom im nächsten Jahrzehnt erst so richtig starten wird: Ein Gutachten von Borderstep und anderen im Auftrag des Wirtschaftsministeriums sagt voraus, dass der Stromverbrauch von Rechenzentren bis 2045 auf etwa 80 Terawattstunden anwachsen wird. Das wäre etwa vier Mal so viel Strom wie heute. Zur Einordnung: Mit 80 Terawattstunden ließen sich jährlich rund 16 Millionen Haushalte mit Strom für Wärmepumpen versorgen oder 40 Millionen Elektroautos betreiben.

Angesichts dieses enormen Zuwachs sollte die Nachhaltigkeit von Rechenzentren im Fokus der politischen Regulierung stehen. Doch die Bundesregierung schlägt den geradezu entgegengesetzten Weg ein: Anstatt sicherzustellen, dass der Ausbau der Rechenzentren mit den Zielen der Energiewende vereinbar bleibt, weicht sie die Effizienzvorgaben auf. Voraussichtlich im November wird der Bundestag das deutlich abgeschwächte Energieeffizienzgesetz beschließen.

Wie viel Strom und Wasser deutsche Rechenzentren derzeit verbrauchen, ist obendrein nur lückenhaft dokumentiert. Das erschwert nicht nur den Ausbau der erneuerbaren Energien und die Planung von Netzanschlusskapazitäten, sondern auch die kommunale Wärmeplanung und eine vorausschauende Wassernutzung.

Nur wenig Wissen über Ressourcenverbrauch

Laut Borderstep-Gutachten gibt es bundesweit derzeit 2.000 Rechenzentren mit einer Anschlussleistung von mehr als 100 Kilowatt. Vor allem die Zahl von Großrechenzentren mit einer Größe von mehr als fünf Megawatt nimmt zu. Doch Studien wie die von Borderstep beruhen auf freiwilligen Branchenumfragen und geben daher nur ein verzerrtes Bild der Realität wieder. Wer würde in einer Umfrage schon zugeben, dass sein Rechenzentrum besonders ineffizient mit Strom, Wasser oder Flächen umgeht?

Seit Mitte August ist immerhin ein wenig Licht ins Dunkel gekommen. Das Bundeswirtschaftsministerium hat, wie es das Energieeffizienzgesetz (EnEfG) vorsieht, erstmals ein Rechenzentrumsregister veröffentlicht. Allerdings legten gerade einmal 319 der geschätzt 1.000 meldepflichtigen Rechenzentren ihre Daten transparent mit Namen im öffentlichen Register offen. 166 weitere Rechenzentren meldeten ihre Daten nur anonym.

Dem Leitfaden des Branchenverbands Bitkom zufolge wäre eine Veröffentlichung zwar auch „auf der eigenen Webseite oder per öffentlichem Aushang vor dem RZ“ möglich. Stichproben haben aber ergeben, dass die Webseiten der nicht meldenden Betreiber ebenso wenig Auskunft geben. (Ob es an den Werkstoren der Rechenzentren Aushänge gibt, haben die Studienverantwortlichen nicht geprüft.) Da der Großteil der deutschen Rechenzentrumsbetreiber keine Betriebsdaten veröffentlicht, fehlt eine verlässliche öffentliche Übersicht über tatsächlich eingehaltene Effizienzstandards sowie Strom- und Wasserverbrauch der Branche.

Aus den gemeldeten Daten lassen sich dennoch drei Schlüsse ziehen:

1. Gut ein Drittel der deutschen Rechenzentren erreicht bereits jetzt zukünftige gesetzliche Anforderungen bezüglich der Energieverbrauchseffektivität (Power Usage Efficiency, PUE), wie das Umweltbundesamt ermittelt hat. Ambitionierte Grenzwerte sind hier also durchaus möglich.
2. Ein weiteres Drittel der einzeln gemeldeten Rechenzentren weisen einen deutlich erhöhten PUE auf (>1,5). Eine gesetzliche Regulierung ist daher notwendig.
3. Der Abwärmenutzungsgrad (ERF) der bestehenden Rechenzentren ist mit knapp drei Prozent winzig. Wollen wir nicht weiterhin große Mengen an klimaneutraler Wärme vergeuden, so müssen Rechenzentren zur Abgabe von Abwärme verpflichtet werden.

Neben dem Umfang ist auch die Qualität der veröffentlichten Daten deutlich verbesserungsbedürftig. Berichtspflichten müssen also durchgesetzt und die gemeldeten Daten überprüft werden.

Regeln drohen verwässert zu werden

Angesichts des erwarteten Booms an Rechenzentren-Neubauten haben europäische wie deutsche Gesetzgeber damit begonnen, den Stromverbrauch von Rechenzentren zu regulieren oder wenigstens transparent zu machen.

Auf nationaler Ebene bietet das Energieeffizienzgesetz den wesentlichen Stellhebel. Die Ampel-Regierung hat es im Jahr 2023 eingeführt. Das Gesetz gibt Regeln vor für die Energieverbrauchseffektivität sowie für die Wiederverwendung von Abwärme (Energy Reuse Factor, ERF). Neue Rechenzentren sollen demnach ab Juli dieses Jahres mit einem PUE von höchstens 1,2 gebaut werden und stufenweise bis Juli 2028 einen Abwärmenutzungsgrad von 20 Prozent aufweisen. Für bestehende Rechenzentren gelten niedrigere Standards.

Europaweit wird derzeit an einem Label für Rechenzentren gearbeitet. Künftig sollen Rechenzentren – allerdings nur freiwillig – ein einheitliches Label nutzen können, das sowohl über die Energieeffizienz auf der bekannten Skala von A bis G als auch über die Wassernutzung informiert.

Die Verhandlungen zu diesem Label laufen derzeit noch. Es besteht die Gefahr, dass die IT-Branche die Regeln so stark verwässert, dass am Ende alle Rechenzentren in der Effizienzklasse A landen. Nächstes Jahr will die EU dann auch Mindesteffizienzstandards für Rechenzentren einführen. Auch hier ist unklar, wie wirksam diese sein werden.

Strom ist ein umkämpftes Gut 

Viele Rechenzentren brüsten sich damit, zu 100 Prozent Grünstrom zu verwenden. Nach aktuellem EnEfG müssen sie das ab dem 1. Juli des kommenden Jahres allerdings ohnehin tun. Das Gesetz sieht dabei lediglich vor, dass Rechenzentren ihren Strombedarf bilanziell mit Strom aus erneuerbaren Energien decken. Diese Anforderung ist auch erfüllt, wenn norwegische Wasserkraftzertifikate gekauft werden – und der Strom tatsächlich aus einem Gaskraftwerk kommt.

Probleme bereiten auch die beschränkten Netzanschlusskapazitäten. Sie geben die maximale Leistung an, die ein Netzbetreiber an einem bestimmten Netzanschlusspunkt dauerhaft für Strombezug bereitstellt. Viele Rechenzentren belegen große Netzanschlusskapazitäten, die sie aber mitunter erst Jahre nach ihrer Inbetriebnahme nutzen. In der Zwischenzeit ist das Rechenzentrum nur zu einem geringen Teil mit IT-Hardware gefüllt, die knappe Ressource Netzanschluss bleibt aber reserviert und kann nicht anderweitig genutzt werden, etwa um Gebäude mittels Wärmepumpen zu heizen oder E‑Autos zu laden.

Dänemark hat auf diese Entwicklung jüngst reagiert und wird Anfragen nach Netzanschlüssen zukünftig politisch priorisieren. Privathaushalte, das Gesundheitswesen oder die Ladeinfrastruktur für Elektroautos sollen dann eher Stromkapazitäten erhalten als etwa große Rechenzentren.

Übererfüllt Deutschland die europäische Effizienzrichtlinie?

Auf deutscher und EU-Ebene erfolgt die Regulierung von Rechenzentren erst seit kurzem. Die geltenden Standards sind vor drei Jahren beschlossen worden und beginnen erst, Wirkung zu entfalten. Nichtsdestotrotz hat sich die Bundesregierung in ihrem Koalitionsvertrag verpflichtet, das Energieeffizienzgesetz auf „europäisches Mindestmaß zurückzuführen“.

Diesem Wunsch liegt das Missverständnis zugrunde, dass Deutschland die europäische Energieeffizienz-Richtlinie (EED) zu ambitioniert umgesetzt habe und die deutsche (Digital-)Wirtschaft unnötigerweise mit Auflagen belaste, die europarechtlich gar nicht vorgeschrieben seien.

Tatsache ist allerdings, dass die EED konkret vorsieht, Endenergie einzusparen. Die Mitgliedsstaaten können dafür sogenannte Einsparverpflichtungssysteme einführen, zum Beispiel in Form sogenannter „weißer Zertifikate“. Deutschland hat sich gegen diese Verpflichtungssysteme entschieden und muss daher laut Richtlinie andere Maßnahmen ergreifen, die ähnlich wirksam sind.

Als solche hat die Bundesregierung im letzten Nationalen Energie- und Klimaplan unter anderem strengere Regeln für Rechenzentren benannt. Wenn Deutschland nun unter anderem die Regeln für Rechenzentren auf das vermeintliche Mindestmaß nach EU-Recht senkt, zugleich aber weiterhin keine Einsparverpflichtungssysteme erlässt, ist dies nach Auffassung von Jurist:innen ein gravierender Rechtsverstoß.

Schwarz-Rot will Vorgaben abschwächen

Die von der Regierung geplanten Änderungen sehen unter anderem vor, die PUE-Werte für Rechenzentren anzuheben und weitere Ausnahmen für die Abwärmenutzung einzuführen.

Welche Folgen diese Lockerungen hätten, haben das Umweltinstitut München, das Fraunhofer-Institut für System- und Innovationsforschung und AlgorithmWatch untersucht. Demnach würde eine geringe Senkung der Effizienzvorgaben den Strombedarf erheblich erhöhen, wenn man das zu erwartende Wachstum der Branche berücksichtigt. Im Jahr 2045 werden dann etwa neun Terawattstunden mehr Strom verbraucht, während rund zehn Terawattstunden Wärme weniger genutzt würden.

Um die Effizienzverluste auszugleichen, wären bis zu sieben zusätzliche Gaskraftwerke und elf Tankschiffladungen Flüssigerdgas (LNG) erforderlich. Das wäre klimapolitisch fatal und würde massive weitere Emissionen verursachen. Zudem tragen die zusätzlichen Energiekosten am Ende die deutsche Digitalwirtschaft sowie die Endverbraucher:innen.

Lobbydruck statt wirksamer Effizienzregeln

Der Bundestag hat über die Novelle bereits beraten und wird das deutlich abgeschwächte Energieeffizienzgesetz voraussichtlich im November beschließen. Vorangegangen war ein massiver Lobbydruck, insbesondere durch große US-amerikanische Tech-Konzerne. Zahlreiche Branchentreffen sind dokumentiert und etliche Änderungen am Gesetz weisen erstaunliche, teils wortgenaue Ähnlichkeiten mit den Forderungen von Big Tech auf, wie das Umweltinstitut gemeinsam mit LobbyControl und Campact zeigt.

Mit Umweltverbänden hat sich die Bundeswirtschaftsministerin Katherina Reiche (CDU) nicht zu den Standards für Rechenzentren ausgetauscht. Die geplanten Änderungen begünstigen nun auch die Interessen vor allem großer US-amerikanischer Tech-Konzerne. Das wirft die Frage auf, ob Umwelt- und Gemeinwohlinteressen bei der Überarbeitung des Gesetzes überhaupt eine Rolle spielen.

Es gibt Alternativen

Keine wesentliche Rolle spielen auch mögliche Alternativen zu den riesigen Rechenzentren auf der grünen Wiese. Dass es diese Alternativen gibt, zeigen zahlreiche mittelständische deutsche Rechenzentrumsbetreiber.

Sie setzen auf kleinere Rechenzentren, die siedlungsnah gebaut werden. Modulare Systeme erlauben eine offene Nutzung mit freier Software und befreien Nutzer:innen von der Vormachtstellung US-amerikanischer Tech-Giganten. Hocheffiziente Kühlsysteme sparen Strom, Wasser und damit Kosten ein, eigene Verträge mit nahegelegenen Solar- und Windparks sorgen für echten grünen Strom.

Diese Form der Digitalisierung ist in Deutschland möglich – wenn die politischen Weichen dafür gestellt werden.

Leonard Burtscher ist Referent für Klima- und Energiepolitik am Umweltinstitut München e.V.

Korrektur, 23.10.2026, 23.30 Uhr: Wir haben eine Zahlenangabe im Text korrigiert. Es sind nicht geschätzt 2.000, sondern 1.000 meldepflichtige Rechenzentren.

–––

Deine Spende für digitale Freiheitsrechte
Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich aus den Spenden unserer Leser:innen. Jetzt spenden.

Die Berliner Datenschutzbeauftragte hat Verwarnungen gegen CDU, SPD, Bündnis 90/Die Grünen und Die Linke ausgesprochen. Die Parteien sollen im Bundestagswahlkampf 2021 sogenanntes politisches Microtargeting eingesetzt und damit gegen Datenschutzbestimmungen verstoßen haben. Das Verfahren gegen die AfD ist noch nicht abgeschlossen.

Anlass der Verfahren war eine Beschwerde der europäischen Datenschutzorganisation Noyb. Die Bescheide sind noch nicht rechtskräftig, wie der Sprecher der Berliner Datenschutzbeauftragten auf Anfrage von netzpolitik.org mitteilte.

Fehlende Einwilligung und mangelnde Transparenz

Beim sogenannten Microtargeting erstellen Plattformen Nutzerprofile auf Grundlage von per Tracking erfassten Daten, etwa zu persönlichen Interessen und Verhaltensweisen. Parteien sollen diese Profile genutzt haben, um über die Plattform Facebook gezielt Wahlwerbung an bestimmte Personengruppen auszuspielen.

Nach Einschätzung der Berliner Datenschutzbeauftragten verstießen die vier Parteien beim Microtargeting gegen die Europäische Datenschutz-Grundverordnung (DSGVO), wie der Sprecher der Behörde netzpolitik.org mitteilte. Durch die gezielte Ansprache anhand der mutmaßlichen politischen Meinung seien besonders geschützte personenbezogene Daten verarbeitet worden, ohne dass die Betroffenen ausdrücklich eingewilligt hätten.

Darüber hinaus bemängelte die Behörde die fehlende Transparenz der Parteien und des Plattformbetreibers Meta. Sie hätten die Nutzer:innen nicht hinreichend darüber informiert, wie ihre Daten verarbeitet wurden.

Datenschutzorganisation begrüßt Entscheidung

Grundlage für die Beschwerde von Noyb waren Recherchen des ZDF Magazin Royale im Jahr 2021. Moderator Jan Böhmermann hatte Zuschauer:innen dazu aufgerufen, eine Browser-Erweiterung zu installieren, mit deren Hilfe sich gezielte Wahlwerbung dokumentieren ließ. Daraufhin sammelte die europäische Datenschutzorganisation Noyb konkrete Fälle und reichte im März 2023 entsprechende Beschwerden bei der Berliner Datenschutzbeauftragten ein.

Noyb begrüßte die Entscheidung der Berliner Datenschutzbeauftragten. „Politisches Microtargeting stellt eine reale Gefahr für unsere Demokratie dar. Diese Entscheidungen sorgen deshalb für gleiche Wettbewerbsbedingungen für alle politischen Parteien“, sagt Datenschutzjurist Felix Mikolasch.

In politischem Microtargeting sieht Noyb eine Gefahr für die demokratische Meinungsbildung. Parteien könnten verschiedenen Wähler:innengruppen widersprüchliche Versprechen machen, die öffentlich nicht nachvollziehbar seien, und so die gesellschaftliche Polarisierung verstärken könnten.

Bedeutung für zukünftige Wahlkämpfe

Welche Auswirkungen die Entscheidung auf künftige Wahlkämpfe hat, ist noch offen. Die Berliner Datenschutzbehörde weist darauf hin, dass die Verfahren nach der früheren Rechtslage beurteilt wurden. Seit Oktober 2025 gelten allerdings neue Vorgaben, und zwar die EU-Verordnung über die Transparenz und das Targeting politischer Werbung (TTPW-VO).

Max Schrems, Vorstandsvorsitzender von Noyb, bedauert, dass die Behörde kein Microtargeting-Verbot erlassen habe. Er hoffe aber darauf, dass die Behörde „zügige Durchsetzungsmaßnahmen“ ergreifen werde, sollten Parteien weiterhin Microtargeting für Wahlwerbung nutzen.

Das Verfahren der Datenschutzbehörde gegen die AfD läuft unterdessen weiter. Die Partei hatte die Ermittlungsbefugnisse der Berliner Behörde gerichtlich angefochten. Das Verwaltungsgericht Berlin entschied im März 2026 jedoch, dass die AfD der Behörde die angeforderten Auskünfte erteilen muss. Die AfD hat dagegen Rechtsmittel eingelegt. Laut dem Sprecher der Berliner Datenschutzbeauftragten liegt das Verfahren derzeit beim Oberverwaltungsgericht Berlin-Brandenburg.

–––

Deine Spende für digitale Freiheitsrechte
Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich aus den Spenden unserer Leser:innen. Jetzt spenden.

„Frau Kastl, können Sie mir erklären, warum das Internet kaputt ist?“ An manchen Tagen bekomme ich ungewöhnliche Anfragen. Vorgestern, am Mittwoch, den 21. Oktober 2026, war definitiv ein solcher Tag.

Vorneweg: Ist „das Internet“ jetzt kaputt? Nein. Oder ja. Je nachdem, wie man das betrachtet. Grundsätzlich läuft „das Internet“ inzwischen hoffentlich an vielen Orten wieder stabil. Dennoch ist es kaputt, schlicht und ergreifend, weil es immer mehr kaputt gemacht wird und weil es nicht wieder wirklich repariert wird.

Das Internet stand am 21. Oktober still, weil ein blauer Gigant strauchelte: PHP. Eine freie und offene Programmiersprache, in deren Innenleben zwei Sicherheitslücken gefunden wurden. Bei geschickter Ausnutzung ermöglichen sie es mit etwas Aufwand, Server durch das Einschmuggeln von Code vollständig zu übernehmen. Pauschale Aussagen wie die von Digitalminister Karsten Wildberger, dass Webseiten des Bundes nicht betroffen sind, sind zu diesem Zeitpunkt verfrüht.

PHP ist mit einem Marktanteil von fast 70 Prozent unter den serverseitigen Technologien die am weitesten verbreitete Programmiersprache für Webseiten und Webanwendungen. Bekannte Content-Management-Systeme wie WordPress, auf dem auch netzpolitik.org läuft, oder TYPO3, das als Government Suite Builder die Grundlage für viele Webseiten deutscher Bundesbehörden ist, laufen auf PHP. Aber auch viele IoT-Geräte wie Netzwerkspeicher haben Web-Oberflächen, die auf PHP basieren, darunter Geräte von Synology.

Ist die Basis dieser Systeme von Angriffen bedroht, könnte also wirklich ein Großteil des Internets kaputt gehen. Viele Betreiber von Webseiten von Behörden und Medien – auch netzpolitik.org – haben bis zum Einspielen von Sicherheitsupdates am 21. Oktober ihre Webseiten vorsorglich offline genommen – was als verantwortungsbewusst zu werten ist.

Die in PHP gefundenen Sicherheitslücken betreffen ungepatchte Versionen der Programmiersprache, die bis zur Version 5.x zurückreichen. Damit reicht das potenzielle Problem mehr als ein Jahrzehnt in die Vergangenheit. PHP, so weit man schaut.

Der brüchige Fortschritt

Mit einer so hohen Verbreitung ist PHP eine Grundlage unserer digitalen Allmende. Bricht die den vielen Webseiten zugrunde liegende Technik zusammen, steht viel auf dem Spiel. Am 21. Oktober war die Wikipedia offline, weil deren Grundlage, wie etwa PHP, brüchig war. Das für uns in den vergangenen Jahren so scheinbar selbstverständliche Wissen, das frei und offen einfach über das Internet verfügbar ist, war nicht mehr da, zumindest kurzzeitig.

Angesichts der Relevanz solcher Technologien wie PHP gibt es jetzt mehrere Sichtweisen. Eine der möglichen, eher technologisch geprägten Sichtweisen ist – auf ihre Art bemüht –, die digitale Allmende durch Erneuerung zu bewahren. Wäre es nicht sinnvoll, die technische Basis von so wichtigen Webseiten wie Wikipedia oder CMS-Systemen auf sichere Füße zu stellen? Typsichere Programmiersprachen als Basis wichtiger Webseiten zu verwenden, fast alles umzuschreiben, vielleicht sogar mit sogenannter künstlicher Intelligenz, wie bei diversen Konversionen in der letzten Zeit. Eine Sichtweise, die zumindest eines versteht: Dass Software wichtig ist und sie immer wieder gepflegt werden muss.

Es gibt eine zweite Sichtweise, der ich auch emotional viel näher bin. Es ist eine zutiefst menschliche Sichtweise. Der große Wert in PHP liegt nicht zwangsläufig in informationstechnischer Perfektion, sondern darin, über viele Jahrzehnte Menschen Werkzeuge zum Erschaffen von Webinhalten aller Art zugänglich gemacht zu haben. Getreu dem ursprünglichen Akronym „Personal Home Page Tools“ hat PHP es vielen Menschen ermöglicht, einfacher im Web eine Sprache des Ausdrucks zu finden, sei es als Basis von Blogs und anderen Webseiten, aber auch für Online-Shops für viele Unternehmen.

Im Zeitalter von sogenannter künstlicher Intelligenz scheinen wir allzu ungeduldig geworden zu sein.

Im Zeitalter von sogenannter künstlicher Intelligenz scheinen wir allzu ungeduldig geworden zu sein, weil wir nur auf ein schnelles und im Rahmen der Möglichkeiten ausreichendes Ergebnis schauen. Wesentlich in der Genese des Webs an und für sich sind aber primär die Menschen. Menschen, die durch den freien Austausch von Ideen, Wissen und Softwarebausteinen, vielen anderen Menschen erst ermöglicht haben, sich einfacher und selbstbestimmter im Internet ganz persönlich auszudrücken. Menschen, die anderen Menschen dabei geholfen haben, Webseiten zu programmieren, auch mir.

Der Vertrag, der nie einer war

Die Menschen, die mit PHP so vielen anderen Menschen geholfen haben, hatten am 21. Oktober und Tage zuvor Verantwortung für Sicherheitslücken in einer immens weit verbreiteten Programmiersprache übernommen. Sie haben nach bestem Wissen und Gewissen so schnell und verantwortungsbewusst wie möglich, Patches für PHP selbst bereitgestellt, die bei ihrer Ankündigung fast das ganze Internet betroffen haben. Nicht alles an der Veröffentlichung dieser Patches lief vollständig glatt, wie eine Timeline der Sicherheitslücken zeigt. Aber im Rahmen der Auswirkungen des Problems muss der Ablauf als überaus professionell bezeichnet werden.

Es gibt also Geld im Ökosystem für die Pflege freier und offener Software, es ist aber äußerst ungleich verteilt.

PHP wird von einer kleinen Stiftung betreut, der PHP Foundation, wie die Frankfurter Allgemeine Zeitung erklärt. Die PHP Foundation gibt es seit 2021 und die Mittel, die ihr zur Verfügung stehen, sind in Anbetracht der astronomischen IT-Budgets von KI-Unternehmen geradezu lachhaft. Die deutsche Sovereign Tech Agency, die mit öffentlichen Mitteln offene digitale Basistechnologien unterstützt, ist mit einer Finanzierung von etwa 200.000 Euro in den Jahren 2023 und 2024 die drittgrößte Geldgeberin. 2025 kam die Foundation auf Spenden von etwa 700.000 Euro pro Jahr. Aus Mangel an Ressourcen konnte das PHP‑Team schon vor zwei Jahren die Ursachen einer der Sicherheitslücken von 2026 nicht final beheben.

Zum Vergleich: Die Omarchy Foundation, deren Gründer offen rechtsextrem ist, hat allein im Jahr 2026 bislang mehr als 18 Millionen US-Dollar eingetrieben.

Es gibt also Geld im Ökosystem für die Pflege freier und offener Software, es ist aber äußerst ungleich verteilt. Die weit verbreitete Bibliothek XZ Utils bekam als Quasi-Ein-Personen-Projekt keine Unterstützung – und wurde deshalb von Sockenpuppen-Accounts unterwandert, die sie 2024 beinahe vollständig übernommen hätten und eine weitere Beinahe-Totalkatastrophe ausgelöst hätten. Die himmelschreiende Ungleichheit im Software-Ökosystem war schon damals nicht mehr auszuhalten.

Schon wieder Murmeltiertag?

Der als PHP2Shell titulierte Exploit der Sicherheitslücken in PHP erinnert in seiner Dramatik auch frappierend an Log4Shell. Ein kleines Team, das eine vermeintlich einfache Programmbibliothek für Logging bereitgestellt hat, hat „das Internet kaputt gemacht“.

Natürlich hat es das nicht. Ein kleines Team hinter einer Java-Bibliothek hat der Welt nach bestem Wissen und Gewissen kostenfrei, meist in seiner Freizeit, kontinuierlich Software geliefert, die zum Teil unser aller digitale Infrastruktur wurde. Ich hatte die Ehre, die persönliche Schilderung von Christian Grobmeier aus dem Log4J-Team 2023 anzuhören, wie es sich anfühlt, wenn ein Moment wie der 21. Oktober passiert.

Menschen, die aus einer Mischung aus Hate- und Lovestorm in diesem Moment der Nabel der digitalen Welt sind. Hat diese Programmbibliothek auch damals gerade das Internet kaputt gemacht? Ja. „Wir haben es kaputt gemacht. Aber wir reparieren es gerade.“ Das sind die Menschen, die unsere digitale Infrastruktur am Laufen halten, auch heute noch. Menschen, die alle Reaktionen – von wüsten Beschimpfungen zur Überhäufung mit Lob – aushalten müssen, weil sie tun, was sie tun: der digitalen Welt ihre Arbeit bereitwillig bereitstellen.

Aber: Die Reaktionen, die auf die aktuelle PHP-Lücke aus politischen Kreisen kommen, sind sehr weit von den Menschen hinter den Projekten, den Maintainern, entfernt. Der Vorsitzende des Parlamentarischen Kontrollgremiums für die Geheimdienste, Marc Henrichmann, bezeichnet PHP2Shell als „Wendepunkt“. Der Wendepunkt war nicht am 21. Oktober. Er war schon weit früher. Log4Shell machte 2021 klar, wie verwundbar wir sind, aber passiert ist wenig. Multi-Milliarden-Investitionen in Form eines Deutschlandfonds für KI sind problemlos möglich. Investitionen in digitale Basisinfrastruktur nicht.

Ignoranz wäre fatal – in jeder Hinsicht

Irgendwo in der aktuellen Diskussion kommt immer das Wort „KI“ vor. KI sei schneller darin, Sicherheitslücken zu finden und auszunutzen. Das kann gleichzeitig wahr sein, ohne tiefgreifenden Probleme betrachten zu müssen, die schon vorher existierten. Ignoranz der Situation wäre töricht, wieder sei hier auf Christian Grobmeier verwiesen. Heutige KI-Systeme werden zunehmend als Waffe verwendet. Als Waffe, um im virtuellen Raum anzugreifen. Aber auch als Waffe, um Maintainer mit einer Schwemme vermeintlich gut gemeinter Sicherheitshinweise konstant zu überfordern.

Die Präsidentin des Bundesamts für Sicherheit in der Informationstechnik, Claudia Plattner, wird jüngst im Spiegel (€) mit der Feststellung zitiert, dass Angreifer aktuell leider einen Geschwindigkeitsvorteil haben. Dieser Geschwindigkeitsvorteil kommt auch durch Automatisierung von Angriffen, teils mittels KI, ja. Es sollte daher kritisch hinterfragt werden, ob wir diesen Kannibalismus von Ressourcen und der wohlwollenden Unterstützung von Maintainern in dieser Form noch weiter aktiv fortführen wollen.

Bisher wird das Finden von Sicherheitslücken, etwa von OpenAI und Anthropic, hochgejazzt. Die eigentlich harte Arbeit, das Bewerten und Beheben von Sicherheitslücken, obliegt den Maintainern im Stillen. Das Beheben von Sicherheitsproblemen braucht vor allem erst einmal eines: menschliche Zeit, um das Problem zu verstehen, es besonnen zu bewerten und vor allem zu verantworten. Ein erratisches KI-System verantwortet genau nichts. Es bleibt also viel menschliche Arbeit, die etwa beim curl-Projekt inzwischen dazu geführt hat, dass zum Selbstschutz alle Meldungen zu unkritischen Sicherheitslücken sofort veröffentlicht werden, um überhaupt noch überleben zu können.

Es kann keine sichere digitale Welt geben, die auf einem schiefen sozialen Gefüge aufbaut.

Wesentlich in der Bewertung der Situation ist am Ende auch, dass diese schnelleren und skalierbaren Angriffe deshalb besonders fruchtbar werden, weil das soziale Gefüge darunter bereits lange extrem verschoben war. Es kann keine sichere digitale Welt geben, die auf einem schiefen sozialen Gefüge aufbaut.

Wir stehen alle auf den Schultern vieler kleiner Giganten, deren Relevanz wir immer dann zu erkennen scheinen, wenn etwas gehörig schiefgeht.

Was uns zum Ende zu einem kleinen Elefanten bringt: Das Maskottchen von PHP ist ein kleiner blauer Elefant. Letztlich hat uns der 21. Oktober gezeigt, dass wir alle auf den Schultern dieses kleinen Giganten, eines kleinen blauen Elefanten, stehen. Wir sollten unsere vielen kleinen digitalen Giganten, wie PHP, nicht fallen lassen, weil wir alle im Digitalen sonst selbst fallen werden.

–––

Deine Spende für digitale Freiheitsrechte
Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich aus den Spenden unserer Leser:innen. Jetzt spenden.

Berlin hat einen Ruf als Stadt der Freaks und Paradiesvögel. Hier kann jedes sein, wie es möchte, lautet das Motto. Das ändert sich jetzt. Seit dem 6. Oktober läuft am Kottbusser Tor Kamera-Überwachung mit einer als KI bezeichneten Software, die automatisiert das Verhalten der Abgebildeten bewertet.

Menschen, die sich in dieser überwachten Öffentlichkeit so bewegen, wie sie wollen, laufen Gefahr, von dem System als verdächtig markiert zu werden. So können sie ins Visier der Polizei geraten, die womöglich aktiv wird, wenn die Software Alarm schlägt. Das führt zu Konformitätsdruck, das gefährdet die Vielfalt des Ausdrucks – und damit am Ende auch die freie und offene Gesellschaft.

Die im September abgewählte schwarz-rote Landesregierung plante einen massiven Ausbau der Technologie, schon dieses Jahr soll sie an zahlreichen weiteren Orten in Berlin installiert werden. Aber Schwarz-Rot wurde abgewählt. Rot-Rot-Grün (R2G) muss nun das Projekt komplett über Bord werfen, die Ausbaupläne canceln und die bestehenden Kameras wieder einpacken lassen.

Der Ruf als liberales Refugium

Der Verlust wären etwa vier Millionen Euro, die für Kameras und Software an das Unternehmen Adesso gehen sollen. Der Gewinn hingegen wäre um ein Vielfaches größer. Berlin könnte sich als eine Metropole hervortun, die zu KI-basierter Überwachung in der Öffentlichkeit bewusst Nein sagt. Es könnte seinen Ruf als liberales Refugium stärken. Das könnte auch wirtschaftlich interessant sein: Mindestens für den Tourismusboom der Nullerjahre war dieser Ruf elementar.

Es geht hier auch um ein „Wehret den Anfängen“. Denn der nicht nur bundesweite, sondern globale Trend zeigt immer deutlicher in Richtung Kontrolle. Öffentliche Überwachung wird mit zahlreichen Technologien automatisiert. Reihenweise führen Regierungen neue Befugnisse ein. Zurückgedreht werden die so gut wie nie.

Ist eine Überwachungs-Technologie erst einmal im Einsatz, wird ihr Einsatz oftmals entgrenzt. Das zeigen zahlreiche Beispiele der Vergangenheit, etwa Staatstrojaner. Deshalb ist auch davon auszugehen, dass die angeblich „intelligente“ Videoüberwachung immer weiter ausgebaut wird. Baden-Württemberg hat als erstes Bundesland bereits beschlossen, KI-Kameras und Live-Gesichtserkennung zu kombinieren. Das System checkt dann, ob alle artig sind und kann sie identifizieren, wenn nicht.

Die Chance, KI-Kameras zu stoppen, ist jetzt

Die beste Chance, eine solche Zukunft in Berlin zu verhindern, ist jetzt. Nach dem 31. Oktober können, sollte die linke Basis dem zustimmen, die Koalitionsverhandlungen beginnen. Dann könnte die neue Koalition das Überwachungsprojekt hinwegfegen und stattdessen an einem Berlin arbeiten, das nicht grundsätzlich jedem Menschen misstraut, der sich auf der Straße bewegt. Dann könnte R2G das Ende der Anonymität im öffentlichen Raum aufhalten.

Scheitern könnte das an der SPD. Die hat die KI-Kameras immerhin mit eingeführt. Linke und Grüne hingegen haben sich in der Vergangenheit deutlich gegen solche Verhaltensscanner positioniert. Sie klagen aktuell auch gegen die dazu gehörige Polizeigesetzänderung, die darüber hinaus weitere KI-Überwachungswerkzeue erlaubt – etwa die Suche nach biometrischen Daten im Internet und die Datenanalyse nach Palantir-Art.

Jetzt gilt es für Grüne und Linke, stark zu sein und sich durchzusetzen. Die KI-Kameras wurden in den Sondierungsgesprächen noch nicht konkret diskutiert, heißt es von Verhandler*innen. Dabei gehören sie und die andere Überwachungswerkzeuge dringend auf den Verhandlungstisch.

KI verhindert keine Straftaten

Kriminalistisch überzeugend sind Verhaltensscanner sowieso nicht. Straftaten lassen sich damit eher nicht verhindern – dafür braucht die Polizei zu lange zum Ort des Geschehens. Bei Affekt-Gewalttäter*innen oder Terrorist*innen greift auch die Abschreckungswirkung nicht. Und eine Strafverfolgung mittels Videobildern wird nur eingeschränkt möglich sein, weil rationale Straftäter*innen, zum Beispiel für Diebstähle oder Drogenhandel einfach in die Nebenstraßen gehen.

Die Linke schrieb in ihrem Wahlprogramm über die Kameras: „Straftaten werden damit nicht verhindert, sondern allenfalls verdrängt.“ Deshalb will sie die Ausgaben für Überwachungskameras reduzieren und lieber in soziale Angebote investieren. An anderer Stelle heißt es, die Partei wolle die sogenannten kriminalitätsbelasteten Orte abschaffen. Das würde der Videoüberwachung am Kotti die Rechtsgrundlage entziehen. Niklas Schrader, der innenpolitische Sprecher der Linken hat gegenüber netzpolitik.org bereits erklärt, dass seine Partei versuchen wird, die Videoüberwachung und große Teile der letzten Polizeigesetz-Novelle, in den Verhandlungen zu kippen.

Gleichzeitig hat die Linke noch einen anderen dringenden Wunsch: Die Vergesellschaftung großer Wohnungskonzerne. In einem Sondierungspapier haben sich die potenziellen Koalitionäre bereits dazu bekannt. Womöglich muss die Linke dafür aber an anderer Stelle Federn lassen – etwa bei Videoüberwachung und Verhaltensscannern.

Evaluation 2028 geplant

Deshalb müssen sich auch die Grünen in den Verhandlungen für das Thema stark machen. Die zeigen sich in ihrem Wahlprogramm ebenfalls kritisch. „Statt flächendeckender Videoüberwachung im öffentlichen Raum wollen wir diese nur dort zielgerichtet ausbauen, wo sie tatsächlich helfen kann, unsere kritischen Infrastrukturen zu schützen“, heißt es dort. Auf Anfrage von netzpolitik.org wollte sich Grünen-Spitzenkandiat Werner Graf nicht dazu äußern, ob sich die Grünen bei den Verhandlungen für ein Ende der Verhaltensscanner einsetzen werden.

In einem Sondierungspapier haben die potenziellen Koalitionäre zumindest darauf geeinigt, die Videoüberwachung im Jahr 2028 evaluieren zu wollen. Wie weit diese dann verbreitet ist, werden sie in den nächsten Wochen entscheiden. Es ist ja schon sowieso nur noch ein Teil des öffentlichen Raums, den die künftigen Koalitionäre verteidigen könnten. Längst breiten sich Kameras mit und ohne KI im Berliner Alltag aus, etwa im öffentlichen Nahverkehr. Und mit dem neuen Bundespolizeigesetz, das der Bundestag im September verabschiedet hat, darf die Bundespolizei künftig an allen Bahnhöfen auch Verhaltensanalyse und Gesichtserkennung hinter die Kameras schalten.

Umso wichtiger ist es, dass R2G Grenzen zieht. Insbesondere den Linken und Grüne stünde es schlecht zu Gesicht, als diejenigen in die Stadtgeschichte einzugehen, unter denen die KI-gestützte Videoüberwachung von Straßen und Plätzen ausgerollt und scharfgestellt wurde.

–––

Deine Spende für digitale Freiheitsrechte
Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich aus den Spenden unserer Leser:innen. Jetzt spenden.

Künftig soll es in der EU weniger Cookie-Banner geben – aber nicht zu wenige, geht es nach den EU-Mitgliedstaaten. Zudem sollen personenbezogene Daten einfacher verwendet dürfen, um damit Künstliche Intelligenz zu trainieren.

Das sind zwei der Punkte, auf die sich die EU-Länder in den Verhandlungen zum Daten-Omnibus geeinigt (PDF) haben, wie gestern die irische Ratspräsidentschaft verkündete. Mit dieser Position wird der EU-Rat in die Trilog-Verhandlungen ziehen, sobald sich das EU-Parlament ebenfalls auf eine gemeinsame Position verständigt hat. Dies soll im Februar der Fall sein.

Mit dem Gesetzespaket will die EU-Kommission die Nutzung von Daten vereinfachen, Regeln entschlacken und überlappende Gesetze harmonisieren. Während die Deregulierungsagenda der Kommission bei der Wirtschaft auf offene Ohren gestoßen ist, kritisierten Gewerkschaften, Verbraucherschutzorganisationen und zahlreiche zivilgesellschaftliche Gruppen sie als „größten Rückschritt für digitale Grundrechte“.

Cookie-Revolution bleibt aus

Nur ein Punkt wurde in der Zivilgesellschaft positiv aufgenommen: So hatte die EU-Kommission vorgeschlagen, die Cookie-Flut spürbar einzuschränken. Demnach sollen Websites und andere Online-Dienste die Auswahl von Nutzer:innen respektieren, ob sie diese tracken dürfen oder nicht. Dieses Häkchen könnten die Nutzer:innen an einer zentralen Stelle aktivieren, etwa in ihrem Browser, und würden sich hiermit regelmäßig wiederkehrende Cookie-Abfragen vieler Websites für mindestens ein halbes Jahr ersparen.

Diesen Ansatz lehnt der EU-Rat jetzt jedoch ab. Stattdessen wollen die Länder die bislang geltenden Regeln der ePrivacy-Richtlinie beibehalten, dafür aber die Liste der Zwecke erweitern, bei denen die Zustimmung der Nutzer:innen entfallen würde. Keine Zustimmung wäre etwa dann nötig, wenn ein Cookie für die Erbringung einer Dienstleistung, für die Reichweitenmessung oder zur Gewährleistung der Sicherheit des Endgeräts der Nutzer:innen erforderlich ist, führt der Rat aus. Damit würden wohl einige Cookie-Banner verschwinden, allerdings zum Preis einer teils einfacheren Verfolgung von Nutzer:innen im Netz.

Gegen den Vorschlag der Kommission hatten sich Länder wie Deutschland und Frankreich gestellt, sie warnen vor möglichen negativen Folgen für die europäische Wirtschaft. Dass sie sich durchsetzen würden, hatte sich bereits im Sommer abgezeichnet. Ganz zufrieden sind sie dennoch nicht. Regierungskreisen zufolge hat sich Deutschland, das gemeinsam mit Österreich und Estland gegen die Rats-Position gestimmt hat, unter anderem eine Folgenabschätzung im Vorfeld gewünscht. Darin hätte die Kommission ermitteln sollen, wie sich die Änderung auswirken würde.

Gesperrt hatte sich Deutschland zudem gegen den Plan des Rats, Nutzer:innen nach einer erteilten Cookie-Zustimmung oder ‑Ablehnung vier Monate lang nicht mehr erneut zu fragen. Aus deutscher Sicht sind drei Monate genug. Außerdem schlug die Bundesregierung Ausnahmen vor, damit Online-Dienste bereits vor dem Ablauf der Frist erneut um Erlaubnis zum Tracking fragen dürfen.

KI-Training mit sensiblen Daten

Umstritten in den Rats-Verhandlungen war auch der Umgang mit personenbezogenen Daten. Hierbei war die Kommission mit dem Vorschlag angetreten, die derzeit geltende Definition zu ändern und pseudonymisierte Daten künftig vom Geltungsbereich der Datenschutz-Grundverordnung (DSGVO) auszunehmen. Dies soll KI-Unternehmen erleichtern, potenziell sensible Daten von Nutzer:innen ohne Erlaubnis oder Einwilligung für das Training ihrer KI-Systeme zu verwenden.

Geeinigt hat sich der Rat nun darauf, die Definition personenbezogener Daten vordergründig nicht zu ändern. Allerdings will er neue Regeln in Bezug auf Pseudonymisierung einführen, um KI-Training zu erleichern. Dabei helfen soll unter anderem der Europäische Datenschutzausschuss, der technische und juristische Tipps geben soll. Diese sollen gewährleisten, dass Techniken wie Pseudonymisierung und Anonymisierung einheitlich ausgelegt und angewandt werden – und letztlich dafür sorgen, dass einzelne Menschen nicht so leicht identifiziert werden können, wie es üblicherweise bei pseudonymisierten Daten möglich ist.

Außerdem soll das KI-Training mit personenbezogenen Daten auch ohne Pseudonymisierung erlaubt sein, wenn dies im „berechtigten Interesse“ der Unternehmen liegt. Die – durchaus wacklige – Rechtsgrundlage soll weiterhin Artikel 6 der DSGVO bleiben, einschließlich eines Widerspruchsrechts. Zusätzlich schlägt der Rat vor, die Kommission solle im Rahmen eines eigenen Berichts ergründen, ob die Auflagen für kleine und mittlere Betriebe verhältnismäßig sind.

Insgesamt entspricht die Einigung zum Datenschutz jenem Kompromiss, über den netzpolitik.org Anfang Oktober berichtet hatte. Gegen diesen Vorschlag hatten Datenschützer:innen protestiert, die NGO noyb schreibt etwa von „digitaler Enteignung“ europäischer Bürger:innen im Interesse von KI-Unternehmen.

Darüber hinaus will der Rat die DSGVO auch in anderen Punkten schwächen. So soll das Auskunftsrecht entfallen, wenn es sich um „unbegründete oder exzessive Anfragen“ handelt. Wissenschaftlicher Forschung wiederum soll die Verarbeitung personenbezogener Daten einfacher gemacht werden, indem gezielte Ausnahmen von bestimmten Verpflichtungen eingeführt werden.

Schutz von Geschäftsgeheimnissen

Die letzten Verhandlungsrunden drehten sich vor allem um den Data Act. In dem relativ jungen Gesetz geht es darum, insbesondere Daten aus dem Internet of Things (IoT) leichter nutzbar zu machen. Dem können jedoch Geschäftsgeheimnisse der Herstellerfirmen im Weg stehen. Deren Schutz will der Rat stärken: Geschäftsgeheimnisse, die sich womöglich in den Datenflüssen finden lassen, sollten erst dann offengelegt werden müssen, wenn sich alle Beteiligten ausdrücklich zu Vertraulichkeit verpflichtet haben. Ferner sollen Maßnahmen sicherstellen, dass solche Geheimnisse nicht in Länder außerhalb der EU abfließen.

Zugleich soll öffentlichen Einrichtungen, die über Daten des öffentlichen Sektors verfügen, sowie Unternehmen, die diese Daten nutzen wollen, mit schlankeren und EU-weit geltenden Regeln geholfen werden. Allerdings nicht uneingeschränkt: Öffentliche Stellen können sehr großen Unternehmen, sogenannten Gatekeepern, zusätzliche Bedingungen für die Datennutzung auferlegen und höhere Entgelte in Rechnung stellen.

Nach der Reform ist vor der Reform

Auf Anfrage gibt eine Sprecherin des Digitalministeriums an, Deutschland setze sich seit Beginn der Verhandlungen zum Omnibus-Paket für „ambitionierte Anpassungen der europäischen Digitalgesetzgebung“ ein. Ziel sei es, „spürbare Verbesserungen und Vereinfachungen zu erreichen, insbesondere für kleine und mittlere Betriebe und Start-Ups“.

Der von der Ratspräsidentschaft zuletzt vorgelegte Text werde dem Ambitionsanspruch Deutschlands jedoch nicht gerecht, so die Sprecherin: „Rote Linien für uns waren insbesondere der bessere Schutz von Geschäftsgeheimnissen und Vereinfachungen für KMU bei der DSGVO. Wir werden mit aller Kraft weiterhin für unsere Position werben und fordern die EU-Kommission auf, diese im Zuge des anstehenden Digital Fitness Check zu berücksichtigen.“

Besagter Fitness Check soll das Zusammenspiel der verschiedenen EU-Vorschriften und ihre Auswirkungen auf Unternehmen untersuchen, eine öffentliche Konsultation hierfür fand vergangenen Winter statt. Die Omnibus-Gesetzespakete, die noch verhandelt werden oder wie der KI-Omnibus bereits abgeschlossen sind, sollen nur den Auftakt einer weitreichenden Deregulierung bilden.

–––

Deine Spende für digitale Freiheitsrechte
Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich aus den Spenden unserer Leser:innen. Jetzt spenden.

Sollen deutsche Geheimdienste Daten aus der Welt der Online-Werbung nutzen dürfen, die Tracking-Firmen und Databroker illegal in Umlauf bringen? Und wenn ja, welche Regeln sollen gelten? Die Bundesregierung bleibt Antworten auf diese Fragen bislang schuldig. In ihrem hunderte Seiten langen Entwurf für eine Reform des Nachrichtendienstrechts regelt sie die umstrittene neue Überwachungsmethode nicht. Kritik daran kommt aus der Opposition.

„Niemals dürfen Polizei und Geheimdienste solche illegal entstandenen Datenhalden nutzen“, sagt Clara Bünger, innenpolitische Sprecherin der Linksfraktion im Bundestag, gegenüber netzpolitik.org.

„Es darf nicht sein, dass der Staat über den Umweg des kommerziellen Datenhandels auf Daten und Informationen zugreift, für deren Erhebung mit klassischen nachrichtendienstlichen Mitteln aus gutem Grund hohe rechtliche Hürden gelten“, sagt auf Anfrage von netzpolitik.org auch Konstantin von Notz, stellvertretender Fraktionsvorsitzender der Grünen im Parlament.

Von Notz: „Anhaltende Verweigerungshaltung der Bundesregierung“

Seit mehr als zwei Jahren zeigen gemeinsame Recherchen von netzpolitik.org und dem Bayerischen Rundfunk (BR), dass insbesondere genaue Standortdaten, die von Smartphone-Apps angeblich nur für Werbezwecke gesammelt werden, im großen Stil gehandelt werden. Das verstößt in der Regel gegen die Datenschutzgrundverordnung, doch die Datenschutzbehörden sind bislang machtlos. Weil die Datensätze auch Bewegungsprofile von Menschen in sicherheitsrelevanten Bereichen wie Regierung, Militär und Sicherheitsbehörden enthalten, sehen Politiker:innen darin parteiübergreifend eine Gefahr für die nationale Sicherheit.

Solche Daten kaufen und nutzen nicht nur Unternehmen, sondern auch staatliche Stellen. Man spricht dabei von Advertising-based Intelligence (werbebasierte Überwachung), kurz: ADINT. Spezialisierte Dienstleister unterstützen staatliche Kunden dabei und bereiten die Daten für sie auf. Aus Ländern wie den USA, Ungarn und Österreich ist inzwischen bekannt, dass Sicherheitsbehörden dort ADINT nutzen. Erst vor wenigen Monaten konnten netzpolitik.org und BR berichten, dass auch mindestens ein deutsches Landeskriminalamt Werbedaten genutzt hat.

„Die Recherchen zu den sogenannten Databroker Files haben eindrücklich gezeigt, dass frei gehandelte Werbedaten erhebliche Risiken für die Privatsphäre und die nationale Sicherheit bergen“, sagt nun Konstantin von Notz. Das sehe grundsätzlich auch die Bundesregierung so, die er mehrfach auf die Problematik aufmerksam gemacht habe. Nur Konsequenzen habe sie noch immer nicht gezogen.

Die „anhaltende Verweigerungshaltung der Bundesregierung“ sei nicht hinnehmbar, so der Grünen-Politiker weiter. „Wir dürfen nicht zulassen, dass aus extrem detaillierten Standortdaten umfassende Bewegungsprofile erstellt werden, die eine weitreichende Rekonstruktion persönlicher Lebensumstände ermöglichen und dazu führen, dass Mitarbeitende von Sicherheitsbehörden identifiziert werden können.“ Schiebe man derartigen Praktiken keinen Riegel vor, gefährde das den Schutz sensibler Einrichtungen – auch der Nachrichtendienste selbst.

Bünger: „Zugriff auf sensible Daten muss vollständig ausgeschlossen sein“

Angehen müsse man das Problem des Datenhandels auch in der aktuellen Reform des Rechts der Nachrichtendienste, so der Politiker, der seit vielen Jahren Mitglied des Parlamentarischen Kontrollgremiums ist. „Gerade bei der Beschaffung von besonders eingriffsintensiven Daten und dem Rückgriff auf diese braucht es glasklare Rechtsgrundlagen. Pauschale Generalklauseln reichen dafür aus rechtsstaatlicher Sicht bei Weitem nicht aus.“

Während von Notz eine Nutzung von ADINT durch deutsche Geheimdienste also nicht grundsätzlich ablehnt, sondern in geregelten Bahnen ermöglichen will, sieht Clara Bünger den Einsatz von Werbedaten prinzipiell kritisch. Den Behörden stehe „mit Bestands- und Verkehrsdatenabfragen bereits ein ausreichendes und auf den jeweiligen Erhebungszweck abgestimmtes Befugnisarsenal zur Verfügung“, heißt es von ihr.

Für die behördliche Nutzung von Daten, die bei Telemedien- und Telekommunikationsanbietern erhoben und gespeichert werden, würden Gesetze heute bereits bestimmte Schwellen für den Zugriff vorsehen. „Diese Schwellen dürfen durch Zugriff auf Daten, die zu Werbe- und Vermarktungszwecken erhoben werden, nicht unterlaufen werden.“

Aus Sicht der Linken sei „einzig ein subsidiärer Zugriff“ auf solche Daten vorstellbar. Das heißt: wenn die Identifizierung oder das Auffinden einer Person sonst nicht möglich ist. „Der Zugriff auf besonders sensible personenbezogene Daten muss vollständig ausgeschlossen sein.“

Bünger fordert die Regierung außerdem auf, auf nationaler und EU-Ebene „endlich wirksame Regelungen gegen den Datenhandel“ an sich zu ergreifen.

Politiker von Union und SPD äußern sich nicht

Der Bundestag berät derzeit über den Vorschlag der Bundesregierung für eine Geheimdienstreform. Noch bis Ende des Jahres soll das Gesetzespaket, das einen massiven Ausbau von BND und Bundesverfassungsschutz vorsieht, beschlossen werden.

Wir haben ebenfalls die innenpolitischen Sprecher der Fraktionen von Union und SPD mit drei Fragen zum Thema kontaktiert, aber keine Antworten erhalten. Eine Beantwortung bekomme man „aus zeitlichen Gründen gerade nicht unter“, heißt es dazu aus dem Büro von CDU-Politiker Marc Henrichmann. Der Vorsitzende des Parlamentarischen Kontrollgremiums hatte den unkontrollierten Handel mit Werbedaten in Reaktion auf die Databroker Files in der Vergangenheit ebenfalls kritisiert.

Auch von Sebastian Fiedler (SPD) bekamen wir eine Absage, weil sich die Nachrichtendienstreform „im Moment intensiv im parlamentarischen Beratungsprozess“ befinde, wie ein Sprecher mitteilt.

Bundesregierung widerspricht Wissenschaftlichen Diensten

In welchem Umfang Sicherheitsbehörden des Bundes bereits heute Werbedaten nutzen, offenbart die Bundesregierung nicht. Wie zuvor schon auf eine Kleine Anfrage der Linkspartei gibt die Bundesregierung in ihrer Antwort auf eine aktuelle Anfrage der AfD keine konkreteren Auskünfte zum Thema.

Die Linken-Abgeordnete Donata Vogtschmidt hatte Ende letzten Jahres neben einer Kleinen Anfrage ein Gutachten der Wissenschaftlichen Dienste des Bundestages zum Thema in Auftrag gegeben. Dieses weckte ebenfalls Zweifel daran, ob staatliche Shopping-Touren bei Databrokern rechtmäßig wären. Das Gutachten betonte zudem, dass die Nutzung von Werbedaten einen erheblichen Grundrechtseingriff darstellen könne. Unter andere bestehe „beim Ankauf von Daten aus Werbedatenbanken eine besondere Gefahr von Eingriffen in den Kernbereich privater Lebensgestaltung“.

Auf eine Frage der AfD antwortet die Regierung nun, dass sie die Einschätzungen der Wissenschaftlichen Dienste „nicht uneingeschränkt“ teile. Die Kenntnisnahme „öffentlich zugänglicher Informationen“ durch den Staat stelle für sich genommen keinen Eingriff dar. Nur „sofern es sich um die systematische Verwendung personenbezogener oder ‑beziehbarer Daten handelt, stellt dies einen grundrechtlich relevanten Eingriff dar, der einer Rechtsgrundlage bedarf“.

Eine solche Rechtsgrundlage könnten auch allgemeine Datenerhebungsbefugnisse darstellen, schreibt die Bundesregierung weiter.

Expert:innen widersprechen Bundesregierung

Genau dem haben nicht nur von Notz und Bünger, sondern auch mehrere Expert:innen in ihren Stellungnahmen zur Geheimdienstreform vehement widersprochen. So etwa die Bundesdatenschutzbeauftragte (BfDI), deren Sprecher erklärt, die Behörde sei der Auffassung, „dass die Nutzung kommerzieller Werbedaten einer inhaltlich bestimmten und normenklaren gesetzlichen Ermächtigungsgrundlage bedarf“.

Der Sprecher der BfDI verweist gegenüber netzpolitik.org auf das „potentiell sehr hohe Eingriffsgewicht“ der Überwachung mit Werbedaten. Das erfordere nach Auffassung der Bundesdatenschutzbeauftragten „verfassungsrechtlich neben erhöhten Anforderungen an Zweckbindung und Dokumentation auch ausreichende Kontrollmechanismen“.

Zentraler Punkt in der Argumentation der Bundesregierung ist, dass sie Werbedaten als öffentlich zugänglich einstuft – mutmaßlich weil diese über kommerzielle Händler erhältlich sind. Das kritisierte der Jurist und ehemalige Ministerialdirektor im Justizministerium, Peter Schantz, in seiner Stellungnahme zur Reform.

„Offenbar werden die Daten als wenig sensibel eingestuft, weil fälschlich angenommen wird, sie seien allgemein zugänglich.“ Dies sei erstens nicht zutreffend, weil sie zwar käuflich seien, aber nicht frei abrufbar, so Schantz. Zweitens seien auch allgemein zugängliche Daten nicht per se schutzlos.

„Hätte der Staat diese Daten auch selbst erheben dürfen?“ Diese Frage nach dem sogenannten “hypothetischen Ersatzeingriff“ müsse sich der Gesetzgeber stellen, so Schantz. Dabei müsse berücksichtigt werden, ob die Verkäufer die Daten selbst überhaupt rechtmäßig verarbeiten.

Grüne und Linke fordern demokratische Kontrolle

Auch Politikwissenschaftler Thorsten Wetzling vom Thinktank Interface kritisiert gegenüber netzpolitik.org, dass Daten aus einem womöglich millionenfachen Ankauf von Datensätzen mit granularen personenbezogenen Daten mit tatsächlich öffentlich zugänglichen Informationen wie etwa Presseveröffentlichungen gleichgesetzt werden.

Wetzling weist zudem darauf hin, dass die geheimdienstliche Nutzung von Werbedaten in anderen Ländern besser kontrolliert werde. So gebe es etwa im Vereinigten Königreich „zumindest ein Genehmigungsverfahren unter Beteiligung der unabhängigen Rechtskontrolle“, wenn ein Dienst dort gekaufte Daten in seine eigenen IT-Systeme einspeisen wolle.

In den Niederlanden wiederum hatte das Geheimdienst-Kontrollgremium CTIVD in einem öffentlichen Bericht bereits 2018 darüber informiert, dass Agent:innen kommerzielle Datensätze erworben haben. In Norwegen bestätigte das parlamentarische Kontrollgremium EOS-Committee 2023 in einem öffentlichen Bericht, dass der militärische Geheimdienst massenhaft personenbezogene Daten gekauft hat.

Geräte lassen sich ohne Klick per Werbeanzeige hacken

Auf Anfrage von netzpolitik.org fordern Grüne und Linke entsprechende Kontrollmechanismen. „Wenn die Bundesregierung den Diensten ermöglichen will, Daten von Privaten anzukaufen, muss sie auch wirksame Kontrollmechanismen schaffen“, so Konstantin von Notz. Der Unabhängige Kontrollrat müsse Käufe effektiv kontrollieren können. „Auch das Parlamentarische Kontrollgremium muss entsprechende Verträge einsehen können“, schreibt uns der Grünenpolitiker.

Noch weiter geht Clara Bünger von der Linkspartei: Ob Werbedaten genutzt werden, müsse im Parlamentarischen Kontrollgremium entschieden werden. „Nur hierüber wird zumindest ein Mindestmaß demokratischer Kontrolle erreicht, wenn so in abstrakter Form auch der gesamte Bundestag unterrichtet wird.“

Unterdessen zeigen neueste Untersuchungen des Citizen Lab, dass das Ökosystem der Online-Werbung nicht nur für passive Überwachung durch ADINT genutzt werden kann, sondern ebenfalls zur aktiven Infektion der Geräte von Zielpersonen mit Spionage-Software. So geschehen etwa bei Journalist:innen des katarischen Nachrichtensenders Al Jazeera.

–––

Deine Spende für digitale Freiheitsrechte
Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich aus den Spenden unserer Leser:innen. Jetzt spenden.

Gregor Ziegltrum und Dennis Schulz fragten mehr als hundert Unternehmen nach einer Kopie ihrer Daten – eine Möglichkeit, die die Datenschutzgrundverordnung (DSGVO) explizit einräumt. Sie wollten herausfinden: Was wissen die Unternehmen eigentlich über mich? Jeweils mehr als 6.000 Dateien bekamen die beiden zurück – und haben sie fleißig ausgewertet.

Herausgekommen ist ein Vortrag, den die beiden Softwareentwickler auf dem jährlichen Kongress ihrer Firma, TNG Technology Consulting, gehalten haben sowie auf den Datenspuren 2026. Dabei zeichnen sie mithilfe von Social-Media-Daten nach, wie sich ihre Interessen im Laufe der Zeit verändert haben und wie sich der eigene Tagesverlauf mit den verschiedenen Datenquellen rekonstruieren lässt.

Im Interview mit netzpolitik.org erzählen Schulze und Ziegltrum, wie einfach der Weg zu den eigenen Daten war, welche Hindernisse es gab und was sie aus ihrem Selbstexperiment gelernt haben. Außerdem geben sie Tipps, was man beim Nachmachen beachten sollte.

netzpolitik.org: Hallo Dennis, hallo Gregor. Ihr habt über 100 Unternehmen nach euren Daten gefragt. Wie seid Ihr auf diese Idee gekommen?

Gregor Ziegltrum: Wir haben uns beide unabhängig voneinander mit Spotify-Daten beschäftigt. Dennis hat daraus mit einem anderen Kollegen auch schon einen Vortrag gebaut. Und dann haben wir darüber nachgedacht, wie man das noch weiterspinnen kann.

Dennis Schulz: Mein Gefühl ist, dass viele sich schonmal gedacht haben: Meine Güte, man müsste doch mal diese ganzen Daten nehmen und gucken, was man daraus lernen kann. Aber dann macht man es nie.

„Wir sind einmal den Passwort-Manager durchgegangen“

netzpolitik.org: Welche Unternehmen habt Ihr angefragt?

Gregor Ziegltrum: Im Prinzip sind wir einmal den Passwort-Manager durchgegangen. Wir haben die großen Unternehmen angefragt: Meta, Spotify, LinkedIn, Reddit und alle Google-Services wie etwa YouTube. Aber auch Taxi-Apps wie Uber, Bolt und FreeNow.

Dennis Schulz: Wir haben auch unsere Banken angefragt und unsere Krankenkassen. Am Ende waren es fast 150 Stellen. Manche davon haben wir beide angefragt, manche nur einer von uns. Ich habe zum Beispiel noch die Deutsche Rentenversicherung und das Bundeskriminalamt angefragt. Dann auch eher kleinere Apps wie etwa „Trait“, die benutze ich zum Joggen. Da war ich offenbar der erste, der jemals nach Daten gefragt hat.

netzpolitik.org: Was habt ihr vorher noch nicht über euch gewusst?

Dennis Schulz: In den Daten steht drin, wie viele TikTok-Videos ich zu Ende geguckt haben. Das war schockierend und ist eine absolute Bestätigung, dass ich die App wieder gelöscht habe. Und in meinen Krankenkassendaten stand noch ein Nasenbeinbruch, den ich nie hatte. Ich habe inzwischen aber eine Vermutung, wo der herkommt.

Wie manche Unternehmen bei der Herausgabe tricksen

netzpolitik.org: Wie schwer war es, an die Daten heranzukommen?

Dennis Schulz: Extrem einfach. Ich finde, die meisten Unternehmen waren grundsätzlich relativ auskunftsfreudig und kooperativ. Das Nervige ist eher, dass man jedes Mal die E‑Mail-Adresse herausfinden muss, an die man die Anfrage schicken muss, oder den Service, mit dem man kommunizieren muss.

Es kommt aber vor, dass Unternehmen einen durch das Design ihrer Seite oder App dazu bringen wollen, nicht alle Daten anzufragen. Da gibt es dann zum Beispiel mehrere Optionen und wenn man die Option „Kompletter Datensatz“ wählt, kommt ein Warnhinweis: „Achtung! Da sind auch Log-Daten dabei, die nicht besonders nützlich sind, und es kann viel länger dauern, die zusammenzustellen. Möchtest du nicht lieber den kleinen Datensatz?“

Gregor Ziegltrum: Manchmal schicken Unternehmen bei der ersten Anfrage auch nur die Log-Daten der letzten 30 Tage, dann muss man noch mal nachfragen und dranbleiben.

Unternehmen ohne etablierte Prozesse fragen auch ganz oft, was man genau haben möchte. Mit der Aussage „alles“ kommen sie meistens nicht so gut klar, dann bekommt man manchmal nur die Stammdaten wie die Adresse. Hier lohnt es sich, in den Dialog zu gehen.

netzpolitik.org: Das heißt, es ist möglich, dass Unternehmen noch mehr Daten haben, die ihr aber nicht abgefragt habt, weil ihr euch gar nicht vorstellen konntet, dass das Unternehmen die hat?

Gregor Ziegltrum: Vielleicht. Aber ich meinte gar nicht, dass die Firmen die Daten bösartig zurückhalten, sondern dass man in den Austausch gehen muss, damit man genau das bekommt, was man möchte. Also vor allem bei kleinen Firmen, wo das nicht voll automatisiert ist.

Dennis Schulz: Alle großen Firmen haben riesige Datenpakete geschickt. Und zum Beispiel bei Spotify bin ich auch ziemlich sicher, dass da wirklich alles drin ist, was die haben. Wir können es natürlich nicht überprüfen. Aber alles in allem sind das sehr umfassende Datensätze, wo auch Daten drin stehen, bei denen die sich vielleicht mal kurz gefragt haben: „Müssen wir das wirklich mitschicken?“

„Sorry for the inconvenience“

netzpolitik.org: Haben Euch Unternehmen Eure eigenen Daten verweigert?

Gregor Ziegltrum: Ja, das war beispielweise der Fall, wenn Unternehmen die Daten im Auftrag von anderen Firmen verarbeiten. Für solche „Auftragsverarbeiter“ und „Unterauftragsverarbeiter“ gilt das Auskunftsrecht der DSGVO nicht. Man kann beispielsweise nicht zu einer Kreditkartenfirma wie Visa oder Mastercard direkt gehen und alle Transaktionen anfragen. Das muss man entweder bei der eigenen Bank abfragen oder bei den Online-Shops, bei denen man bezahlt hat.

Dennis Schulz: Es gibt ein amerikanisches Start-up, von dem wir explizit eine E‑Mail bekommen haben, dass sie Datenherausgabe derzeit nicht als Service anbieten und dass sie extrem „sorry for the inconvenience“ sind. Das habe ich dann beim Datenschutzbeauftragten gemeldet. Aber da habe ich nichts mehr von gehört.

Gregor Ziegltrum: Ich hatte dasselbe auch bei einer Firma aus der Schweiz, mit deren App ich für meine Führerscheinprüfung gelernt hatte. Das ist allerdings schon länger her. Da habe ich eine Löschanfrage gestellt und sie haben gesagt: „Ne, das machen wir nicht.“ Obwohl sie mir freudig in der EU dieses Produkt verkauft haben, wollten sie nicht der DSGVO-Löschanfrage nachgehen.

Dennis Schulz: Nach unseren Vorträgen kommen häufig Leute zu uns und meinen, dass die DSGVO eher ein stumpfes Schwert ist. Aber jetzt aus unserer Erfahrung würde ich dem nicht so zustimmen. Ich weiß zwar nicht, ob dieses „stumpfe Schwert“ geschwungen wirklich so furchtbar ist. Aber zumindest haben die Unternehmen genug Angst, dass die meisten die Daten rausrücken.

netzpolitik.org: Ihr habt zusammen über 12.000 Dateien zurückbekommen, insgesamt fast fünf Gigabyte. Wie habt Ihr das alles ausgewertet?

Gregor Ziegltrum: Sobald ich einen neuen Datensatz bekommen habe, habe ich erst mal ein bisschen rumgeschaut. Ganz viele Firmen geben dir HTML-Darstellungen, bei denen du durch deine Daten durchklicken kannst und erfährst, was das zu bedeuten hat. Da kriegt man ein bisschen ein Gefühl dafür, wo interessante Sachen liegen oder was langweiliger ist.

Danach habe ich mit einem KI-Tool weitergemacht. Ich habe der KI gesagt, „Hier sind die Daten. Sag mir mal, was könntest du denn Interessantes daran finden oder erklär mir mal die Unterordner.“ Dann kann man wie in einem Gespräch seine eigenen Daten tiefer anschauen. Außerdem konnte ich so die Daten schnell etwa von einem Format in ein anderes umwandeln, von HTML zu einer CSV-Datei zum Beispiel.

Dennis Schulz: Ich war ein bisschen manueller unterwegs und habe einfach erst mal nach großen Dateien und nach Dateien mit vielen Timestamps gesucht. Aber ja, auch ich habe die KI viel für die Umwandlung von Daten und Dateiformaten benutzt. Denn einer der frustrierendsten Punkte bei dieser ganzen Auswertung waren die vielen unterschiedlichen Arten, wie Daten formatiert sind. Beispiel Kalenderdatum: Da steht manchmal das Jahr ganz vorne, manchmal ganz hinten – und manchmal ist das angegeben in Millisekunden seit dem 1. Januar 1970.

netzpolitik.org: Wie habt ihr sichergestellt, dass ihr die Daten jetzt nicht einfach einem KI-Unternehmen in den Rachen geworfen habt?

Gregor Ziegltrum: Am Ende habe ich meine Daten einem KI-Unternehmen in den Rachen geworfen. Aber ich habe mir vorher schon Gedanken gemacht, welche Datensätze ich da reinpacke und welche nicht. Meine Krankenkassen-Daten habe ich nicht da reingetan. Außerdem lief das bei mir über einen Anbieter, mit dem mein Arbeitgeber einen Vertrag hat, in dem auch das Training mit diesen Daten ausgeschlossen ist. Ich hätte das wahrscheinlich nicht mit einer kostenlosen Version von ChatGPT gemacht.

Trotzdem würde ich im Nachhinein mehr mit Trusted-KI-Hosting-Lösungen arbeiten, bei denen explizit kein KI-Unternehmen dahinter steht und wo vielleicht ein Open-Source-Modell gehostet worden ist.

Wenn TikTok die Uber-Fahrt trackt

netzpolitik.org: Von den angefragten Unternehmen: Welche App oder Firma wusste das meiste über Euch?

Dennis Schulz: Facebook.

Gregor Ziegltrum: Bei mir war es YouTube.

Dennis Schulz: Facebook hat sich für mich am krassesten angefühlt, einfach weil das mein Leben vor 15 Jahren bis vor 10 Jahren ist. Da habe ich das intensiv genutzt und da stand am meisten drin, was ich jetzt peinlich finde. Weil man generell peinlich findet, was man vor 10 bis 15 Jahren gemacht hat.

Gregor Ziegltrum: Und für mich waren es ganz klar Google und YouTube, weil ich Facebook irgendwann nicht mehr benutzt habe. Mit meinem YouTube-Account bin ich seit 2012 unterwegs und da hat sich halt eben auch echt einiges angesammelt. Eine Slide unseres Vortrags hatte den Titel „Going Down Memory Lane“. Genauso habe ich mich gefühlt, als ich nach meinem ersten YouTube-Kommentar geschaut habe.

netzpolitik.org: Was hatten die für Daten von Euch?

Gregor Ziegltrum: Google im Generellen hat echt viele Services und dadurch auch viele Daten. Ich habe Google Cloud und Google Photos benutzt. Das heißt, die haben erst mal alle meine Fotos, die ich auf dem Handy habe. Die haben viele Cloud-Daten von mir. Die haben alle Kommentare, die ich auf YouTube geschrieben habe. Die haben meine Suchhistorie und meine Verlaufshistorie über Google Chrome. Die haben alle Spiele und Videos, die ich irgendwie bei Google Play gekauft habe. Weil ich YouTube Music verwende, haben die auch meine ganzen Musik-Playlists. Alle meine Kontakte. Und meine Kalendereinträge.

Dennis Schulz: Bei Facebook sind es wirklich hunderte Dateien, in denen alle möglichen unterschiedlichen Logs drin stehen. Was mich tatsächlich überrascht hat: Die Facebook-App speichert immer wieder, wie viel freier Speicherplatz noch auf dem Handy ist. Facebook speichert auch die IP-Adresse, die das Handy gerade hat und es steht auch ein Ort in den Daten, den sie aus dieser IP herleiten. Was mich aber am meisten angefasst hat, waren meine alten Chatverläufe: Dass alte Beiträge noch da sind, dass Kommentare noch da sind. Und dass noch gespeichert ist, wenn ich auf Werbung geklickt habe, wenn ich ein Event angeguckt habe.

Krass fand ich auch, dass alle größeren Firmen „Off-App-Activities“ gespeichert hatten. Da steht dann plötzlich zum Beispiel in den TikTok-Daten, dass man Spotify geöffnet hat oder eine Fahrt mit einem Uber abgeschlossen hat. Ich weiß nicht mal genau, wie diese Daten da hinkommen.

Gregor Ziegltrum: Eine Sache, die mich ein bisschen schockiert hat, war Uber. Die speichern nämlich für die „App Analytics“ Koordinaten, nicht nur für die Fahrten. Da steht dann, dass ich zu einer bestimmten Uhrzeit eine „Impression“ bekommen habe, und das war dann an dem Längen- und dem Breitengrad. Leider erklärt Uber nicht weiter, was diese Impressions genau sind. Ich denke es handelt sich um eine Push-Benachrichtigung im Zusammenhang mit einer Fahrt, oder dass ich die App geöffnet hatte.

Selbst im eigenen Datenschatz wühlen

netzpolitik.org: Habt Ihr euer Online-Verhalten nach der Recherche verändert?

Gregor Ziegltrum: Ich habe an vielen Stellen personalisierte Werbung ausgeschaltet. Ich möchte ja eigentlich am liebsten gar keine Werbung. Und wenn ich Werbung möchte, dann möchte ich eigentlich schlechte Werbung, damit ich da eh nicht draufklicke.

Dennis Schulz: Mir ist klar geworden, wie viel Zeit ich auf Sozialen Medien verbracht habe und dann habe ich die Apps alle vom Handy gelöscht. Jedes Mal, wenn ich jetzt irgendwo anklicke, dass meine Daten verwendet werden, überlege ich mir, ob ich das wirklich will. Andererseits möchte ich noch mehr finden für unser Projekt, das ist ein komischer Anreiz. Bei meinem aktuellen Auto habe ich die zugehörige App verbunden, auch ein bisschen, um in ein paar Monaten eine Anfrage zu schicken und mal zu schauen, was da passiert. Gregor hat zum Beispiel überlegt, ob er sich jetzt vielleicht die RewePlus-App anschaffen soll, damit er gucken kann, was die für Daten speichern.

netzpolitik.org: Was gebt Ihr anderen Menschen mit, die sich selbst mal durch den eigenen „Datenschatz“ wühlen wollen?

Gregor Ziegltrum: Lasst euch nicht mit der ersten E‑Mail und dem ersten Datensatz von einem Unternehmen abspeisen! Wenn ihr denkt, da ist noch mehr: Einfach noch mal nachfragen. Und je konkreter die Anfrage ist, desto konkretere Antworten bekommt man.

Dennis Schulz: Es ist cool, das zu machen. Man bekommt die Kontrolle über die Daten nicht zurück, aber man bekommt ein Gefühl dafür, was es heißt, dass diese Daten von einem im Netz bzw. bei irgendwelchen Unternehmen sind. Diese Daten sind ja eine Erweiterung der eigenen Person ins Internet hinein. Darüber zumindest ein Verständnis zu haben, ist extrem hilfreich, um sich in dieser Welt zu bewegen.

–––

Deine Spende für digitale Freiheitsrechte
Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich aus den Spenden unserer Leser:innen. Jetzt spenden.

Ein aktueller Fall aus Ulm wirft die Frage auf, wie leicht Teilnehmende einer Demonstration ins Visier von Gesichtserkennung durch die Polizei geraten können. So hat ein Beamter des Landeskriminalamts Baden-Württemberg nach eigener Aussage Aufnahmen einer angemeldeten Demonstration in Ulm ausgewertet. Dabei habe er neben zwei Angeklagten im sogenannten Ulm5-Prozess vier weitere Personen identifiziert, die bis heute nicht mit dem Verfahren in Verbindung stehen. An diesem Vorgehen gibt es nun Kritik.

Im Ulm5-Prozess müssen sich fünf Palästina-Aktivist:innen vor dem Landgericht Stuttgart verantworten. Sie sollen vor rund einem Jahr in den deutschen Standort des israelischen Rüstungskonzerns Elbit Systems in Ulm eingebrochen sein. Über die Hauptverhandlung hat die Kontext:Wochenzeitung aus Stuttgart berichtet. Wir haben zudem mit dem Verteidiger der Angeklagten, Mathes Breuer, gesprochen.

Demnach enthalte die Ermittlungsakte auch von den unbeteiligten Personen Fotos der Gesichter, Namen, Geburtsdaten und vollständige Anschriften. Außerdem soll die Polizei weitere Vermerke zu den Personen gemacht haben, zum Beispiel: „überregional bekannt“, oder: die Teilnahme an der Demonstration dürfte auf „persönliche Betroffenheit durch Geburtsort Gaza zurückzuführen sein“

Vier weitere Personen in der Ermittlungsakte

Die fünf Angeklagten wiederum sitzen seit rund einem Jahr in Untersuchungshaft. Vor Gericht erklärten die Angeklagten, sie hätten aus humanitären Motiven gehandelt und die Produktion von Waffen stören wollen, die Israel in Gaza gegen Zivilist:innen einsetze. Außerdem hätten sie darauf aufmerksam machen wollen, dass der deutsche Staat Kriegsverbrechen und Verbrechen gegen die Menschlichkeit ermögliche und davon profitiere.

Der LKA-Beamte habe nach eigener Aussage überprüfen wollen, ob die Angeklagten schon vor dem Einbruch bei Elbit Systems polizeilich aufgefallen seien. Dabei habe er weiteres Bildmaterial herangezogen, das auch andere Personen zeigt. Nach eigener Aussage sei er einem „Grundsatz der Vollständigkeit“ gefolgt und habe geprüft, wen der Computer neben den Angeklagten noch erkennen könne.

Auf welcher Rechtsgrundlage?

Auf die Nachfrage, wer den Bildabgleich angeordnet habe und auf welcher Rechtsgrundlage er erfolgt sei, soll sich der Zeuge im Gerichtssaal nicht geäußert haben.

„Es gibt keinen ‚Grundsatz der Vollständigkeit’, der es der Polizei erlauben würde, alle Menschen zu identifizieren, die einmal zusammen mit einer tatverdächtigen Person demonstriert haben“, erklärt David Werdermann, Rechtsanwalt bei der Gesellschaft für Freiheitsrechte (GFF), auf Anfrage von netzpolitik.org.

Bereits die Abfrage der Bilder von der Demonstration greife in die Versammlungsfreiheit und die informationelle Selbstbestimmung ein. Dieser Eingriff wiege besonders schwer, wenn diese Bilder auch noch automatisch abgeglichen würden. „Ohne konkrete Anhaltspunkte dafür, dass es sich um Mittäter*innen handelt, sind solche Ermittlungsmaßnahmen rechtswidrig. Die Polizei ermittelt ins Blaue hinein – und das in einem grundrechtlich sensiblen Bereich“, erklärt Werdermann.

Das Landeskriminalamt Baden-Württemberg teilte auf Anfrage von netzpolitik.org mit, es könne sich zu dem laufenden Verfahren nicht äußern. Die Erhebung personenbezogener Daten richte sich nach den einschlägigen gesetzlichen Bestimmungen. Auf unsere Frage nach dem „Grundsatz der Vollständigkeit” ging das LKA nicht ein.

Gesichtserkennung wird immer häufiger eingesetzt

Der Fall rückt in den Mittelpunkt, welche Grenzen die Polizei beim Einsatz von Gesichtserkennung wahren muss. Das Bundeskriminalamt (BKA) betreibt seit 2008 ein Gesichtserkennungssystem (GES), das unbekannte Personen anhand von Bildern identifizieren soll. Dafür wird ein vorliegendes Bild, etwa von einer Überwachungskamera oder ein Fahndungsfoto, mit den gespeicherten Bildern im polizeilichen Informationssystem (INPOL) verglichen. Das System übersetzt die anatomischen Merkmale eines Gesichts in sogenannte Templates, erstellt eine Liste mit möglichen Treffern und ordnet sie nach ihrer Ähnlichkeit.

Im Januar 2026 enthielt INPOL Einträge zu rund 5,4 Millionen Menschen mit insgesamt 7,6 Millionen Lichtbildern. Zugleich nimmt der Einsatz der Gesichtserkennung deutlich zu: 2025 führten die Kriminalämter von Bund und Ländern rund 313.500 Suchläufe durch, 2024 waren es noch 121.000. Seit September 2024 kommt dabei sogenannte Künstliche Intelligenz zum Einsatz, wodurch die Fehlerquote der Gesichtserkennung auf unter ein Prozent gesunken sein soll.

Polizei soll auch Bilder aus dem Internet abgleichen dürfen

Bislang gleicht das GES vorliegende Bilder mit polizeilich gespeicherten Lichtbildern ab, etwa aus erkennungsdienstlichen Behandlungen. Die Bundesregierung will allerdings die Möglichkeiten der Ermittlungsbehörden ausweiten. In Zukunft soll die Polizei Fahndungsfotos auch mit öffentlich zugänglichen Bildern im Internet abgleichen können. So könnten etwa auch Fotos aus sozialen Netzwerken zur Identifizierung von Personen herangezogen werden.

Die Pläne stoßen auf Ablehnung. Die Gesellschaft für Freiheitsrechte (GFF) warnt in einer Stellungnahme vor „Instrumenten zur potenziellen Massenüberwachung“ und hält die Pläne der Bundesregierung für „zum Großteil verfassungswidrig“. Auch andere Organisationen wie Amnesty International und der Chaos Computer Club positionieren sich gegen neue Befugnisse für die Sicherheitsbehörden.

–––

Deine Spende für digitale Freiheitsrechte
Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich aus den Spenden unserer Leser:innen. Jetzt spenden.

• Was ist der Stand der automatisierten Verhaltensanalyse in Berlin?
• Wie geht es weiter?
• Wie funktioniert die automatisierte Verhaltensanalyse?
• Welche Möglichkeiten hat die Polizist*in in der Videoleitstelle?
• Was passiert im Fall einer Kontrolle?
• Nach welchen Bewegungen wird konkret gesucht?
• Weil die Software mit „Strichmännchen“ arbeitet, gilt sie als privatsphäreschonend. Was ist da dran?
• Bringt die Verhaltensanalyse überhaupt etwas?
• Woher kommen die Trainingsdaten?
• Werden mit dieser Technologie Menschen diskriminiert?
• Wer hat die Verhaltensanalyse-Software entwickelt?
• Wo läuft das schon?
• Wo kommt das noch?
• Was ist das größte Risiko dieser Form der Überwachung?
• In welchem Kontext wird diese Technologie eingeführt?
• Was kann man gegen Verhaltensscanner tun?

Was ist der Stand der automatisierten Verhaltensanalyse in Berlin?

Hier wird die Technologie zunächst mit etwa 30 Kameras am Kottbusser Tor genutzt. Die Kalibrierungsphase, in der Kamerawinkel und Abdeckungsbereiche eingerichtet wurden, ist abgeschlossen. Seit 6. Oktober laufen Kameras und Software immer mal wieder im Testbetrieb. Ein rotes Licht an den Kamera-Sträußen zeigt an, wenn aufgezeichnet wird.

Wie geht es weiter?

Nach dem Test- folgt der „Probeechtbetrieb“, in dem das System 24 Stunden am Tag aufzeichnet und analysiert. Auf die Frage, wann dieser beginnt, hat die Polizei nicht geantwortet. Er endet vermutlich 2028. Für dann haben die potenziellen Koalitionäre Berlins (Linke, Grüne, SPD) eine Evaluation der Videoüberwachung verabredet, „unter Einbeziehung der Polizei“, so das Sondierungspapier.

Demnach rechnen sie anscheinend damit, dass 2028 in Berlin noch KI-gestützte Videoüberwachung des öffentlichen Raums stattfindet. Konkret sei über die Zukunft der KI-Kameras noch nicht gesprochen worden, heißt es von Verhandler*innen. Diese seien ein Thema für die Koalitionsverhandlungen, die Anfang November beginnen sollen. Die SPD, die sie mit eingeführt hat, wird sie verteidigen, die Linken wollen sie zurückbauen lassen, die Grünen halten ihre Position noch bedeckt.

Wie funktioniert die automatisierte Verhaltensanalyse?

Sie analysiert permament, was videoüberwachte Personen gerade tun. Software legt dafür eine Art Strichmännchen über die abgebildeten Menschen – sie beschreibt ihre Posen und Bewegungen mit Vektoren in einem mathematischen Raum. Dann vergleicht sie das Ergebnis mit ihren Trainingsdaten. Zudem betrachtet sie das gesamte Videobild und versucht den Kontext der Bewegung einzuschätzen. Wenn sie feststellt, dass etwas mit hinreichend großer Wahrscheinlichkeit polizeilich relevant aussieht, gibt sie eine Meldung aus. Dann geht in der Videoleitstelle ein Monitor an, auf dem die Situation zu sehen ist. Und die wachhabende Polizist*in entscheidet, was dann weiter passiert.

Welche Möglichkeiten hat die Polizist*in in der Videoleitstelle?

Sie kann die Situation als harmlos einordnen und ignorieren – oder zum Beispiel eine Streife losschicken, die Ausweise kontrolliert oder sogar Personen durchsucht. Vermutlich eher letzteres: Ein gut untersuchter psychologischer Effekt namens automation bias sorgt dafür, dass Menschen dazu neigen, den Ergebnissen von Software zu vertrauen. Am Kottbusser Tor – einer ausgewiesenen Messer- und Waffenverbotszone – darf die Polizei zudem anlassunabhängig kontrollieren. Es ist also gar nicht nötig, dass die Person am Bildschirm eine Straftat erkennt, sie kann die Kontrolle auch prophylaktisch anordnen.

Was passiert im Fall einer Kontrolle?

Von der Polizei, womöglich ohne Anlass dazu gegeben zu haben, kontrolliert zu werden, ist potenziell erniedrigend und kann sogar traumatisierend wirken. Immer wieder eskalieren solche Kontrollen, zum Teil übt die Polizei dabei massive Gewalt aus. In dem Fall ist es auch möglich, dass sie das Gegenüber wegen Widerstand anzeigt, woraufhin eine Verurteilung droht.

Nach welchen Bewegungen wird konkret gesucht?

In Mannheim, wo derartige Technologie bereits seit 2018 eingesetzt wird, gibt es eine Liste von 15 Verhaltenskategorien, die die KI unterscheiden soll. Darunter sind beispielsweise: Schlagen, Treten, Schubsen, Würgen – die Erkennung von Gewalt ist der rechtliche Auftrag an die Software. Daneben identifiziert sie aber auch Tätigkeiten wie Tanzen, Umarmen, Fahrradfahren. Das ist nötig, damit sie harmlose Situationen von den gesuchten abgrenzen kann. In Berlin hingegen gibt es so eine Liste gar nicht. Welche Bewegungen dort gesucht werden, ist eine Black Box.

Weil die Software mit „Strichmännchen“ arbeitet, gilt sie als privatsphäreschonend. Was ist da dran?

Die Software ignoriert durch die Abstraktion wohl tatsächlich Identifikatoren wie Gesicht, Hautfarbe oder Tattoos. Allerdings ist das Bewegungsmuster eines Menschen absolut einzigartig, Menschen können darüber identifiziert werden. Zudem ist die Datenschutzbehauptung schon deshalb irreführend, weil gleichzeitig das voll auflösende Videobild mindestens 28 Tage gespeichert wird. Wenn die Software also eine Situation markiert und die Polizei will wissen, wer da als Täter*in oder Zeug*in vor Ort war, macht sie einen Screenshot und wirft den ins Gesichtserkennungssystem des BKA.

Wenn die betroffene Person etwa schon einmal erkennungsdienstlich behandelt wurde oder in Deutschland Asyl beantragt hat, fallen da Name, Geburtsdatum, Adresse raus. Und mit der Verhaltensanalyse hat Schwarz-Rot der Berliner Polizei zusätzlich eine Gesichtersuchmaschine erlaubt. Damit könnte sie herausfinden, wo die Person überall im Netz zu finden ist – sobald Bund und Länder einen Workaround gefunden haben, um die EU-rechtlichen Vorgaben beim Einsatz dieser Technologie einzuhalten. Letztlich ist der Eingriff also nicht kleiner als bei der herkömmlichen Videoüberwachung, sondern es kommt im Zweifel ein zweiter, ebenso massiver Privatsphäreneingriff zur klassischen Videoüberwachung dazu.

Bringt die Verhaltensanalyse überhaupt etwas?

Das weiß kein Mensch. In keiner der deutschen Städte, in denen das System bislang läuft, ist eine unabhängige Evaluation durchgeführt worden. In Hamburg ergab eine von der Polizei veröffentlichte Zählung, dass etwa 99 Prozent der Situationen, die die KI markiert, sich als Fehlalarm erweisen. In Mannheim kann die Polizei auch nach acht Jahren KI-Einsatz keine einzige Situation nennen, in der die Verhaltensanalyse zur Verhinderung oder zumindest Aufklärung einer Straftat beigetragen hat. Der erhoffte Abschreckungseffekt funktioniert bei Gewalttaten im Affekt und potenziellen Terrorist*innen eher nicht, bei rationalen Straftaten wie Drogenhandel oder Taschendiebstahl ist eine Verdrängung zum Beispiel in Nebenstraßen anzunehmen.

Woher kommen die Trainingsdaten?

In freier Wildbahn gibt es – aus KI-Trainer*innen-Sicht – viel zu wenig Kriminalität. In Mannheim ist KI-Training deshalb Handarbeit. Dort mussten Polizist*innen bislang 2.000 Show-Kämpfe unter den Kameras absolvieren. Die Software ist dennoch nicht im Praxisbetrieb. Die Mannheimer Polizei geht davon aus, dass 10.000 Show-Kämpfe nötig sind, bis sie verlässlich läuft. Berlin spart sich diesen Aufwand. Die Software die hier genutzt wird, wurde mit KI-generierten Szenen trainiert. Eine Software, die schätzt, wie Straftaten aussehen könnten, brachte einer anderen Software bei, wie angeblich eine Straftat aussieht. Rechtlich gesehen darf Berlin KI mit personenbezogenen Daten von Bürger*innen trainieren, auch ohne deren Einwilligung. Die Polizei darf die Daten sogar zum Training an die KI-Herstellerfirmen weitergeben.

Werden mit dieser Technologie Menschen diskriminiert?

Wenn ein Mensch sich beispielsweise aufgrund von körperlichen Einschränkungen ungewöhnlich bewegt, fällt es der Software schwerer, einzuschätzen, was diese Person tut. Und da die Software tendenziell wohl eher zu viele falsche Alarme produziert, weil sonst die Polizei das Risiko eingeht, eine Straftat zu verpassen, wird sie, wenn sie eine Situation nicht einschätzen kann, vermutlich einen Alarm ausgeben. Damit werden Menschen mit ungewöhnlichen Bewegungsmustern diskriminiert, weil sie erhöhtem Überwachungs- und womöglich auch Kontrolldruck unterliegen. Und wer noch viel direkter diskriminiert wird, das sind wohnungslose Menschen. Denn die Berliner Software schlägt auch bei liegenden Personen Alarm – offiziell um „Unglücksfälle“ zu detektieren. Tatsächlich werden damit wohnungslose Menschen ebenfalls erhöhtem Überwachungs- und Kontrolldruck ausgesetzt. Zudem trifft diese Form der Überwachung vor allem marginalisierte Menschen. Sie wird dort eingesetzt, wo sich Szenen von Trinker*innen oder Drogenkonsument*innen treffen. Menschen mit Geld können sich der Überwachung entziehen. Sie trinken ihr Bier in der verpixelten Gastronomie statt offen gefilmt auf der Parkbank, oder sie fahren Auto, statt sich an zentralen Umsteigebahnhöfen der automatisierten Überwachung aussetzen zu müssen.

Wer hat die Verhaltensanalyse-Software entwickelt?

Die Staige GmbH. Die ist eine Tochter der Adesso SE, einer internationalen IT-Holding mit Sitz in Dortmund. Die ist so etwas wie der Generaldienstleister für das Projekt und vergibt Subaufträge an Staige für die Software und an Axis, ein schwedisches Unternehmen, für die Kameras. Adesso ist dafür bekannt, dass 2022/23 Angreifer*innen relativ umfassenden Zugang zum IT-System der Firma hatten. Dass ein privates Unternehmen zum Zug kommt, ist ungewöhnlich. Die Verhaltensanalyse in Mannheim und Hamburg wurde noch mit einem Fraunhofer-Institut realisiert, einem gemeinnützigen Verein.

Wo läuft das schon?

In Mannheim seit 2018 am Bahnhofsvorplatz und auf der zentralen Einkaufsmeile. 2023 kam Hamburg dazu, dort arbeitet sie inzwischen auf zwei Plätzen in Bahnhofsnähe. Vergangenes Jahr hat dann Bremen automatisierte Verhaltensanalyse in Trams installiert, seit diesem Jahr gibt es sie auch im ÖPNV von Dortmund und Düsseldorf.

Wo kommt das noch?

Automatisierte Überwachung wird das neue Normal. Ende September hat der Bundestag das Bundespolizeigesetz verabschiedet. Damit darf die Bundespolizei an allen deutschen Bahnhöfen Verhaltensscanner einsetzen. Zahlreiche Bundesländer haben den Einsatz auf öffentlichen Plätzen bereits erlaubt oder arbeiten daran. In Berlin sollen, so war zumindest der Plan von Schwarz-Rot, nach dem Kottbusser Tor die Warschauer Brücke folgen, ebenfalls dieses Jahr dann Rotes Rathaus, Innenverwaltung, Jüdisches Museum, nächstes Jahr dann Alexanderplatz und der Görlitzer Park samt Kiez drumherum. Erlaubt ist der Einsatz an allen mutmaßlich „kriminalitätsbelasteten Orten“ und „gefährdeten Einrichtungen“. Was davon tatsächlich realisiert wird, werden die Koalitionsverhandlungen ab Ende Oktober zeigen.

Was ist das größte Risiko dieser Form der Überwachung?

Der Konformitätsdruck. Gerade wenn man gar nicht genau weiß, wonach die KI sucht, werden sich Menschen angepasster verhalten. Dabei ist doch die Diversität auch des Ausdrucks Grundlage der freien und offenen Gesellschaft – und damit letztlich der Demokratie. Ungewöhnliches Verhalten erweitert den Denk- und den Möglichkeitsraum, wird aber mit dieser Technologie zum Verdachtsmoment. Automatisierte Überwachung bedeutet eine Entmenschlichung der Kontrolle.

In welchem Kontext wird diese Technologie eingeführt?

Ein Überwachungs-KI-Tool kommt selten allein: Gemeinsam mit dem Verhaltensscanner hat Schwarz-Rot im Dezember 2025 auch eine Gesichtersuchmaschine erlaubt, außerdem Megadatenbanken mit automatisierter Analyse à la Palantir und Videodrohnen, die Berlin ebenfalls automatisiert überwachen dürften. Ähnliche Bestrebungen gibt es im Bund und in vielen Ländern. Gleichzeitig sollen die Geheimdienste Zugriff auf Videoüberwachungsanlagen erhalten. Und in Baden-Württemberg überlegt man jetzt schon Verhaltensanalyse mit Echtzeit-Gesichtserkennung zu koppeln.

Was kann man gegen Verhaltensscanner tun?

Neben Protestformen wie Demo, Infostand oder performativem Theater im überwachten Areal, gibt es auch die Möglichkeit, Kameras straffrei zu verdecken, so lange man sie nicht in der Funktion einschränkt. Wer sich im Überwachungsbereich bewegt, darf sich zudem in der Regel straffrei vermummen.

–––

Deine Spende für digitale Freiheitsrechte
Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich aus den Spenden unserer Leser:innen. Jetzt spenden.

Elif Eralp, Werner Graf und Steffen Krach halten am Samstag in Berlin ein Sondierungspapier in die Kameras. „Mehr gemeinsam, mehr Berlin“ steht auf den 31 zusammengetackerten Seiten, die die Spitzen von Linkspartei, Grünen und SPD der Presse vorstellen.

Das Thema, mit dem das Papier beginnt und das auch medial die meiste Resonanz bekommt: die Berliner Wohnungspolitik, einschließlich des Vorsatzes zur Vergesellschaftung sehr großer privater Wohnungsunternehmen. Doch neben dem Reizthema findet sich in dem Papier deutlich mehr, während anderes noch fehlt.

Videoüberwachung „evaluieren“

Bei der Polizei haben sich die Parteien darauf geeinigt, an der bestehenden Personalstärke festzuhalten. Sie soll „bürgernah“ sein und „mit Schulen, Sozialarbeit und Nachbarschaften“ zusammenarbeiten. Für die Sicherheit des öffentlichen Raums und Nahverkehrs soll mehr „Personal“ präsent sein.

Trotz des Bekenntnisses zu mehr Präsenz werden Projekte wie die KI-gestützte Videoverhaltenserkennung am Kottbusser Tor vorerst wohl nicht verschwinden. Denn Videoüberwachung wollen die Sondierungsparteien „im Jahr 2028 unter Einbeziehung der Polizei evaluieren“. Bei Demonstrationen wollen die Parteien an der „Berliner Deeskalationsstrategie“ festhalten.

Ob die Parteien das 2025 von CDU und SPD verschärfte Polizeigesetz reformieren wollen, steht nicht im Papier. Es ermöglicht unter anderem automatisierte Datenanalysen, präventive Staatstrojaner-Einsätze und KI-gestützte Videoüberwachung. Linke und Grüne hatten dagegen noch im August einen Normenkontrollantrag beim Berliner Verfassungsgerichtshof eingebracht.

Der Verfassungsschutz, so die Parteien, soll „in seiner jetzigen Form erhalten“ bleiben, aber mit mehr Transparenz und parlamentarischer Kontrolle belegt werden.

„KI-Offensive“ in der Verwaltung

Verwaltungsleistungen sollen „schnell und unkompliziert“ zugänglich werden. Ein Ziel, auf das sich von Bund bis Ländern wohl alle einigen können. Dabei wiederholen die Sondierungspartner, was in der Verwaltungsdigitalisierung schon länger als nötig gilt: Daten sollen nur einmal angegeben werden müssen, Leistungen sollen auch digital zugänglich sein. Vorgaben, die das Onlinezugangsgesetz des Bundes sowieso macht. Bislang befindet sich Berlin bei der Digitalisierung von Verwaltungsleistungen im unteren Mittelfeld.

Damit es in der Verwaltung besser flutscht, soll zusätzlich eine „KI-Offensive“ kommen, die Potenziale für Beschäftigte nutzbar macht. Ein „Bürokratie-TÜV“ soll unnötige Aufwände identifizieren. Berichts- und Dokumentationspflichten sollen entsprechend dem Bundestrend „wo rechtlich möglich und sachlich vertretbar“ entfallen.

Aber die digitalste Leistungsbeantragung hilft nichts, wenn IT-Sicherheit nicht gewährleistet ist. So konnte nach einem Hacking-Angriff auf das Berliner Landesnetz Wohngeld für über 50.000 Haushalte nicht pünktlich ausgezahlt werden. Fast sechs Terabyte Verwaltungsdaten landeten nach dem Hack im Netz.

Wenig Vertrauen in den eigenen IT-Dienstleister

Linke, Grüne und SPD wollen die IT-Sicherheit künftig priorisieren und stärker zentral steuern. Der Chief Information Security Officer der Stadt soll ein „wirksames Weisungsrecht“ bekommen.

Änderungen könnte es auch für das Berliner IT-Dienstleistungszentrum (ITDZ) geben. Es betreibt Rechenzentren, betreut einen Teil des Verwaltungsnetzes und stellt Dienste bereit. Aber immer wieder gab es mit dem ITDZ Probleme. Es war in den vergangenen Monaten mehrfach fast zahlungsunfähig, im Juli gab es Kritik an der Vergabepraxis an externe Berater ohne Ausschreibungen. „Angesichts der strukturellen Herausforderungen des ITDZ und möglicher Skaleneffekte prüfen wir, ob andere Anbieter der Deutschen Verwaltungscloud einzelne Leistungen sicherer und wirtschaftlicher erbringen können“, steht im Sondierungspapier. Ein klares Signal, dass man den eigenen Dienstleister derzeit für nicht besonders zuverlässig hält.

Vielleicht um das zu ändern, überlegen die Parteien „eine Notlagenerklärung für die IT-Infrastruktur“. Rufen sie eine Notlage aus, könnte Berlin zusätzliche Schulden aufnehmen, um Infrastruktur zu sanieren.

Keine Handys an Grundschulen

Sonstiges Digitales findet sich in der Bildung. Kinder sollen „in Ruhe lernen und spielen können“, daher soll es an Grundschulen „grundsätzlich“ keine Handys geben. Dennoch sollen die Schüler:innen digitale Medien nutzen, „angeleitet durch Lehrkräfte und auf Basis eines schulischen Konzepts“.

Die Kreativ- und Digitalwirtschaft identifizieren die Sondierungsparteien als „größte produzierende Industrie Berlins“ und wollen dafür „Unterstützungsstrukturen bündeln und strategisch ausbauen“. Die Berliner Digitalagentur soll kleinen und mittleren Unternehmen Unterstützung bei der Digitalisierung anbieten, was bereits heute der Fall ist.

Die Zivilgesellschaft soll mit einem Landesdemokratiefördergesetz gestärkt werden, für „Antidiskriminierungsarbeit, Empowerment, Monitoring und Dokumentation“. Ein solches Gesetz stand schon in der letzten Legislatur auf der Agenda, es gab dazu auch einen Senatsentwurf, fertig wurde es jedoch nicht.

Kein Wort zur Informationsfreiheit

Was indes fertig wurde und Berlin zum fragwürdigen Vorreiter machte, war eine Einschränkung der Informationsfreiheit. Nach einem Anschlag auf die Stromversorgung mit einem langen Stromausfall im Januar schränkten CDU und SPD das Berliner Informationsfreiheitsgesetz stark ein und machten Anfragen zu Kritischer Infrastruktur quasi unmöglich.

„Das ist kein Sicherheitsgesetz, das ist ein Blankoscheck für Intransparenz“, sagte der Grünenabgeordnete Stefan Ziller im März zur zweiten Lesung des Gesetzes. Niklas Schrader von der Linken warf den Regierungsparteien ein „Täuschungsmanöver für eine Einschränkung von Transparenzregeln“ vor.

Ob die Sondierer:innen das IFG wieder stärken wollen würden, geht aus dem Sondierungspapier nicht direkt hervor.

Sollten alle Parteien sich nun dafür entscheiden, mit Koalitionsverhandlungen in die nächste Phase einer möglichen Regierungsbildung zu gehen, stehen etliche Themen und viele Konkretisierungen aus. SPD und Grüne wollen am heutigen Montag entscheiden. Bei den Linken wird darüber am 31. Oktober auf einem Parteitag abgestimmt. Danach könnten die Koalitionsverhandlungen beginnen.

–––

Deine Spende für digitale Freiheitsrechte
Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich aus den Spenden unserer Leser:innen. Jetzt spenden.

Dieser Beitrag erschien zuerst in der Zeitschrift mediendiskurs des Vereins Freiwillige Selbstkontrolle Fernsehen (FSF).

Die digitale Öffentlichkeit steht vor einem Umbruch. Als Vorbild dient das seit Dezember 2025 geltende Social-Media-Verbot für unter 16-Jährige in Australien. Es hat nicht nur eine Welle an Forderungen nach ähnlichen Vorschriften losgetreten, unter anderem in der EU, Deutschland, Frankreich, Österreich und zahlreichen weiteren Ländern. Es ist auch das Ergebnis eines gefährlichen Diskurswandels.

Dahinter stecken wirkmächtige und zugleich irreführende Erzählungen davon, was das Internet eigentlich ist. Im Zuge dieser Erzählungen erscheinen Altersschranken nicht etwa als eine Gefahr für die digitale Öffentlichkeit, weil sie Menschen von Teilhabe ausschließen und anonyme Internetnutzung gefährden können. Stattdessen erscheinen sie als ein notwendiges Design-Feature zur Sicherheit junger Menschen.

Der vorläufige Höhepunkt dieser Entwicklung in Europa ist die Vorlage des EU Kids Acts, eines Gesetzentwurfs der EU-Kommission für umfassende Alterskontrollen im Netz. Auf dem Spiel steht nicht weniger als das offene Internet als Raum für Öffentlichkeit, Politik und Kultur. Der Weg dorthin lässt sich in sechs Schritten beschreiben. Sie sind zugleich die sechs Sargnägel des offenen Internets.

1. Sargnagel: Die Erzählung vom Internet als Produkt

Zahlreiche Erzählungen vermitteln ein Bild davon, was das Internet eigentlich ist. Je nach Kontext erscheint es als Datenautobahn oder Wissensquelle, als globales Dorf oder Marktplatz der Ideen, als Neuland, Cyberraum oder Echokammer. Keine dieser Erzählungen ist falsch, vielmehr rücken sie verschiedene Erfahrungen des digitalen Lebens in den Vordergrund.

Vor allem eine Erzählung dominiert die aktuelle Debatte um Kinder- und Jugendschutz. Demnach ist das Internet ein potenziell gefährliches technologisches Produkt, von dessen Design Politik und Aufsichtsbehörden hohe Standards verlangen sollten. Sichtbar war diese Erzählung vom Internet als Produkt etwa bei der Vorstellung des Kids Act durch EU-Kommissionspräsidentin Ursula von der Leyen (CDU). Sie sagte mit Blick auf das Internet, Technologie sei nie mit Rücksicht auf Kinder erschaffen worden, Plattformen müssten „safe by design“ sein.

Zunächst bietet die Erzählung vom Internet als Produkt Vorteile. Sie rückt in den Mittelpunkt, dass Menschen das Internet geschaffen haben, und dass folglich auch Menschen dafür verantwortlich sind, wenn zum Beispiel Plattformen ihre Nutzer*innen mit manipulativen Designs und suchtfördernden Mechanismen an die Bildschirme fesseln. Ein Internet als Produkt lässt die Regeln des digitalen Zusammenlebens nicht als gegeben erscheinen, sondern als formbar. Allerdings hat die Erzählung vom Internet als Produkt auch Nachteile. Sie kann dazu führen, die Tragweite von Regulierung zu unterschätzen. Produkte kann man konsumieren, normieren oder vom Markt nehmen – und wenn sie mal kaputt gehen, findet sich meist ein Ersatz.

Würde jedoch das Internet kaputt gehen, wäre es eine gesellschaftliche Katastrophe. Ab hier greift eine andere Erzählung, nämlich die vom Internet als öffentlichem Raum, wo sich die Gesellschaft entwickelt, wo sich Menschen zu Gemeinschaften verbinden. Einige politische Bewegungen wären ohne das Internet wohl nie in dieser Form entstanden. Teils waren deren prägende Figuren selbst noch minderjährig, als sie ausgerechnet über soziale Medien einflussreich wurden: Greta Thunberg in Schweden, Joshua Wong in Hongkong.

Im Gegensatz zu einem Produkt erscheint Öffentlichkeit ungleich komplexer. Eingriffe in die digitale Öffentlichkeit können Räume bedrohen, in denen Kultur und Politik florieren. Umso mehr Vorsicht ist geboten, bevor man sich daran macht, die digitale Öffentlichkeit wie ein Produkt zu regulieren. Von dieser Vorsicht ist in der aktuellen Debatte um Kinder- und Jugendschutz jedoch wenig zu sehen. Das macht die Erzählung vom Internet als Produkt zum ersten Sargnagel des offenen Internets.

2. Sargnagel: Die Erzählung von Alterskontrollen als Design-Feature

Für ein Produkt sind Alterskontrollen nur ein Feature, das Schutz schaffen soll. Für einen öffentlichen Raum dagegen sind Alterskontrollen ein scharfes Schwert, das Spaltung schaffen kann. Es sind zwei Erzählungen über denselben Sachverhalt, die eine völlig andere Sichtweise mit sich bringen.

In der EU-Richtlinie für audiovisuelle Mediendienste (AVMD-RL) fallen Alterskontrollen unter „strengste Maßnahmen“ zum Schutz von Minderjährigen, vorgeschrieben nur bei „schädlichsten“ Inhalten wie „grundloser Gewalttätigkeiten und Pornografie“ (Artikel 6a). Aus dieser älteren Regulierung spricht noch das Verständnis von Alterskontrollen als einem scharfen Schwert.

Ganz anders ist die Erzählung im Gesetzentwurf für den Kids Act. Hier erscheinen Alterskontrollen eher als Design-Feature. Einerseits sollen junge Menschen erst ab einem gewissen Alter eigene Accounts auf sozialen Medien und Videoplattformen haben dürfen (Artikel 6), andererseits sollen allerlei Dienste im Netz nur in einer kindgerechten Version öffentlich zugänglich sein (Artikel 8).

In beiden Fällen sollen strenge Methoden der Alterskontrolle – „age verification“ und „age assurance“ – bewirken, dass nur Erwachsene Zugang zu nicht kindgerechten Angeboten haben. Unter „age verification“ fallen laut Entwurf strengste Methoden, die etwa auf Ausweisdaten basieren; unter „age assurance“ alternative Methoden, die auf Schätzungen beruhen, etwa ein biometrischer Scan des Gesichts. Keine Rede mehr ist von milderen Mitteln wie Jugendschutz-Software, die Eltern lediglich auf den Geräten ihrer Kinder installieren und verwalten – ohne dass sich alle älteren und jüngeren Menschen staatlich angeordneten, flächendeckenden Alterskontrollen beugen müssten.

Schon jetzt kommen Methoden von „age verification“ und „age assurance“ zum Einsatz, um Besucher*innen von Pornoseiten zu kontrollieren. Es sind eben jene strengen Methoden, die bis vor Kurzem noch mit Blick auf die AVMD-RL wie ein scharfes Schwert behandelt wurden. Der Kids Act dagegen würde ihren Einsatz normalisieren und verharmlosen.

Die verharmlosende Erzählung von strengen Alterskontrollen als bloßem Design-Feature ist der zweite Sargnagel für das offene Internet. Vor ihren negativen Folgen warnen internationale Fachleute eindringlich. Im März 2026 lehnten mehr als 400 Forscher*innen aus IT-Sicherheit und Datenschutz die Einführung von Alterskontrollen ohne weitere Forschung ab. Das sei „gefährlich und gesellschaftlich nicht hinnehmbar“, schrieben die Expert*innen aus 29 Ländern in einem offenen Brief. Es fehle ein klares Verständnis dafür, was diese Kontrollen anrichten können, für „Sicherheit, Privatsphäre, Gleichberechtigung“ und „Autonomie“ aller Menschen.

Zu den unterschätzten Technikfolgen gehört außerdem, dass strenge Alterskontrollen nicht nur Minderjährige, sondern auch Erwachsene ausschließen. Es geht um schätzungsweise Hunderttausende Menschen allein in Deutschland, denen möglicherweise schlicht die nötigen Papiere für eine Alterskontroll-App fehlen. Darüber hinaus geht es auch um Menschen, die kein Handy mit ausreichender Soft- oder Hardware haben. Um Menschen, die ihr Gesicht nicht einem biometrischen Scan unterziehen möchten, oder deren Gesicht von einer sogenannten KI falsch eingeschätzt wird, etwa weil es sichtbare Verletzungen oder Behinderungen hat.

3. Sargnagel: Die Erzählung vom Schutzschirm

Eine weitere Erzählung dominiert die Debatte, und zwar die von Alterskontrollen als Schutzschirm. Wer Altersschranken fordert, verweist oftmals auf die Gefahren und Risiken für junge Menschen im Netz. Dazu gehören unter anderem verstörende Inhalte, Missbrauchsgefahr durch übergriffige Fremde, Mobbing, Sucht, Ängste, Depressionen und selbstverletzendes Verhalten, Desinformation und vieles mehr.

Altersschranken erscheinen demnach als die Lösung schlechthin, um junge Menschen vor solchen Gefahren abzuschirmen. Als wären die Gefahren vor allem ein durch nachlässiges Produktdesign verursachter Mangel, der sich mithilfe passender Design-Features beseitigen ließe. Genauso wie etwa ein Elektrogerät eine Erdung gegen Stromschläge braucht, benötigt das Internet dieser Logik zufolge Alterskontrollen als Schutzschirm gegen Gefahren.

Wieder ist es eine zugrunde liegende Erzählung, die zu diesem Trugschluss führt. Wäre das Internet wirklich nur ein Produkt, dann könnte man es von allen Seiten in Ruhe untersuchen, sicher designen und seine Zugänge mit passenden Alterskennzeichnungen versehen.

Das Internet ist aber vielmehr ein öffentlicher Raum, den täglich Millionen Menschen mit ihrem Verhalten und ihren Äußerungen prägen. Auf schier unzähligen Websites und Chatkanälen kursieren schier unzählige Inhalte, und jede Sekunde kommen neue hinzu. Die Architektur des Internets ist dabei offen und flexibel. In einer Region der Welt verhängte Alterskontrollen lassen sich mit Werkzeugen digitaler Selbstverteidigung kinderleicht umgehen, etwa mit VPN-Diensten oder dem Tor-Browser. Altersbeschränkte Inhalte lassen sich kopieren und weiterleiten und können sich in kurzer Zeit auf allerlei Wegen verbreiten, etwa per Messenger.

Im Auftrag der EU-Kommission haben zwei Fachleute für Gesundheit Empfehlungen zum Kinder- und Jugendschutz vorgelegt, das „Special Expert Panel“. Auf ihren Empfehlungen fußt der Kids Act. Ursula von der Leyen hat ihren Bericht selbst als Beweis („evidence“) bezeichnet. Umso überraschender ist, dass selbst die EU-Expert*innen Alterskontrollen nicht eindeutig als Schutzschirm darstellen, sondern auch als Signal.

So erkennen die beiden Expert*innen in ihrem Bericht an, dass viele junge Menschen Alterskontrollen umgehen würden. Damit die Regulierung dennoch wirkt, bräuchte es demnach einen kulturellen Wandel. Einfach ausgedrückt sollten sich junge Menschen eher aus eigener Einsicht an Altersschranken halten, nicht etwa, weil die Technologie allein bereits einen wirksamen Schutzschirm darstellt.

Wenn strenge Alterskontrollen für alle jedoch eher ein Signal sind als ein Schutzschirm, dann stellt sich umso drängender die Frage nach ihrer Verhältnismäßigkeit. Immerhin geht es um einen Kontroll-Apparat für geschätzt 450 Millionen Menschen in Europa. Ist dieser Apparat wirklich erforderlich und angemessen, um bloß ein Signal zu senden?

Nicht unter den Tisch fallen sollte an dieser Stelle, dass ein Teil der Gefahren aus dem Netz bereits entsteht, wenn junge Menschen nur unter sich sind, etwa in Messenger-Gruppen. Gerade dort kann es beispielsweise zu Mobbing oder Missbrauch kommen, ohne dass Altersschranken eine Wirkung hätten.

4. Sargnagel: Die Erzählung strenger und zugleich harmloser Alterskontrollen

Kaum eine Forderung nach Alterskontrollen kommt ohne großzügige Versprechen in Bezug auf Datenschutz und Privatsphäre daher. Auch die EU-Kommission bemüht sich darum und hat entsprechenden Standards im Entwurf einen eigenen Artikel gewidmet (Artikel 28). Demnach sollen Alterskontrollen zwar streng genug sein, um junge Menschen zu schützen, aber auch schonend genug, um keine Schäden anzurichten. Laut Kids Act sollen sie eine Reihe von Anforderungen erfüllen: „Genauigkeit, Zuverlässigkeit, Robustheit, Datenschutz, Sicherheit, Nichtdiskriminierung und geringe Eingriffsintensität.“

Das Problem: Es gibt keine Technologie, die all diesen Ansprüchen gerecht werden könnte. So braucht es für strenge, also für genaue und robuste Alterskontrollen Belege, dass ein Mensch tatsächlich erwachsen ist. Es braucht Belege, dass jemand den Altersnachweis nicht von einer anderen Person geklaut hat. Möglich ist das nur mit Abstrichen bei den milden Ansprüchen an Alterskontrollen, vor allem Datenschutz, Zugänglichkeit und Teilhabe.

Bereits jetzt bröckeln die Datenschutz-Versprechen. Der von der EU-Kommission vorgestellte Prototyp der Alterskontroll-App („Mini-Wallet“) war zunächst nicht wie versprochen anonym, sondern pseudonym. Die angeblich seit April „fertige“ App ist (Stand Oktober) immer noch nicht fertig. Menschen können sie nicht herunterladen und ausprobieren. Im Gesetzentwurf ist zwar die Rede vom für Datenschutz wertvollen „Zero Knowledge Proof“, aber in einer grammatisch sinnlosen Aussage. Und bei der Umsetzung der digitalen Brieftaschen (EUDI-Wallet), die künftig ebenso für Alterskontrollen genutzt werden soll, sägt die EU-Kommission an bereits vereinbarten Datenschutz-Standards.

Im Entwurf des Kids Acts jedoch ist von diesen Widersprüchen keine Spur. Spätestens in der Praxis wird sich zeigen, dass das Versprechen von gleichermaßen strengen und milden Alterskontrollen nicht einlösbar ist. Zu diesem Zeitpunkt wären die Gesetze jedoch bereits beschlossen, die Infrastruktur gebaut. So wird die Erzählung von strengen und zugleich harmlosen Alterskontrollen zum vierten Sargnagel fürs offene Internet.

5. Sargnagel: Flächendeckende Infrastruktur

Nach der Präsentation des Kids Act berichteten viele Nachrichtenmedien, dass die EU eine Altersgrenze für soziale Medien schaffen wolle, ähnlich wie in Australien. Das ist nicht falsch, aber es verkennt die Dimension des Vorhabens.

Das Social-Media-Verbot für Minderjährige in Australien bezieht sich lediglich auf Accounts bei großen Plattformen wie Instagram oder TikTok. Der Plan der EU-Kommission reicht ungleich weiter. Der Kids Act soll nicht nur Accounts regulieren, sondern auch den Zugang zu allerlei Diensten, die nicht kindgerecht sind. Dazu gehören laut Entwurf Social-Media- und Videoplattformen, ohne Ausnahme für kleinste Unternehmen. Dazu gehören Chatbots und KI-Companions. Marktplätze für Apps und Spiele sollen ihre Kataloge aus teils Millionen Titeln mit EU-weit einheitlichen Alterslabels versehen, und diese Altersgrenzen wiederum kontrollieren.

Damit will die EU-Kommission in einem weltweit erstmaligen Versuch das Internet mit Altersschranken zupflastern. Ein zentrales Werkzeug dafür soll die bereits als Prototyp vorgelegte Alterskontroll-App der EU sein. Von dieser App dürfen Entwickler*innen eigene Versionen erstellen, solange sie sich an die vorgeschriebenen Standards halten.

Das Ziel dieser Pläne ist eine Infrastruktur für nahezu flächendeckende Alterskontrollen im Netz. Zentrale Säulen sind die einheitliche Rechtsgrundlage, standardisierte Kontrollwerkzeuge und besonders niedrige Schwellen, ab wann Online-Angebote zu Altersschranken verpflichtet sind. Im Vergleich dazu erscheint das australische Modell eher zurückhaltend.

Zunächst sind jedoch EU-Parlament und Ministerrat am Zug. Sie müssen nun ihre Positionen zu dem Vorhaben aushandeln. Und natürlich kommt es auch auf die Ausgestaltung an: Für welche Angebote wird die Regulierung wirklich anwendbar und durchsetzbar sein, wie streng fallen die Alterskontrollen aus? Hier ist das letzte Wort noch lange nicht gesprochen, der fünfte Sargnagel fürs offene Internet noch nicht eingehämmert.

6. Sargnagel: Dammbruch über Kinderschutz hinaus

Das letzte Kapitel dieses Essays blickt in eine düstere Version der Zukunft. Es geht darum, was aus einer Infrastruktur für Alterskontrollen werden kann, wenn sie erst einmal implementiert ist. Wenn Hunderte Millionen Menschen in der EU wie selbstverständlich ihr Alter nachweisen, bevor sie etwa einen Livestream auf YouTube schauen oder sich eine Dating-App herunterladen.

In seiner Stellungnahme zur Debatte hat der Deutsche Ethikrat eine eindringliche Warnung vor Alterskontrollen ausgesprochen.

Die Technologien sind Instrumente zur Unterscheidung und unterschiedlichen Behandlung von Nutzergruppen. Als solche können sie auch zweckentfremdet werden, und zwar sowohl zur Beschränkung des Zugangs für weitere Gruppen als auch des Zugangs zu anderen Inhalten, zum Beispiel zu Materialien zur sexuellen Aufklärung oder gar zu solchen, die politisch unerwünscht sind. Aufgrund dieser breiten Einsatzmöglichkeiten kann nicht ausgeschlossen werden, dass die Altersbestimmungstechnologien als Zensurinstrument missbraucht werden.

Diese Warnung zeigt die Wirkmacht einer weiteren Erzählung auf: Nämlich die, dass Alterskontrollen gleich Alterskontrollen sind. Doch auch das ist trügerisch. Schon ein kleines App-Update und eine Verschärfung der Rechtsgrundlage könnten genügen, um den aktuell geplanten Apparat für Alterskontrollen in etwas noch Gefährlicheres zu verwandeln.

Eine aufgerüstete Alterskontroll-App könnte potenziell weitaus mehr übermitteln als anonyme Alterssignale, beispielsweise auch Klarnamen oder Angaben zu Staatsbürgerschaft, Aufenthaltsstatus oder Vorstrafen. Eine solche Infrastruktur wäre geeignet, nicht nur junge und alte Menschen im Netz voneinander zu trennen, sondern weitere gesellschaftliche Spaltungen in der digitalen Öffentlichkeit zu schaffen. Sie könnte Überwachung, Klarnamenpflicht und Ausweispflicht im Netz bringen. Es wäre der Traum jeder autoritären Regierung. Den Grundstein für die dafür nötige Infrastruktur will die EU-Kommission jetzt schaffen.

Es braucht eine breite und informierte Debatte über die Gefahren dieses Kontroll-Apparats. Möglich ist eine solche Debatte aber nur mit einem Bewusstsein über die zugrunde liegenden Erzählungen.

Das Internet ist nicht nur ein Produkt, und Alterskontrollen sind nicht bloß ein Design-Feature oder ein Schutzschirm. Alterskontrollen sind eine Infrastruktur, die zu Spaltung, Ausschluss und Überwachung führen kann. Solche Erzählungen wirken weich im Vergleich zu beispielsweise Gesetzen oder Code. Doch der Anschein trügt. Erzählungen können wie eine Zange sein, um die Nägel aus dem Sarg des offenen Internet wieder herauszuziehen.

–––

Deine Spende für digitale Freiheitsrechte
Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich aus den Spenden unserer Leser:innen. Jetzt spenden.

Liebe Leser:innen,

diese Woche bin ich sehr zuversichtlich. Das liegt an einer großen Recherche-Kooperation mit Kolleg:innen aus vielen europäischen Ländern. Gemeinsam haben wir diese Woche veröffentlicht, wo überall in Europa das US-Unternehmen Palantir Verträge mit Regierungen hat – und wo sich Staaten wegen unterschiedlicher Bedenken von dem Anbieter abwenden.

Es geht mir bei meiner Freude gar nicht so sehr darum, was im Text steht. Mich erfreut besonders, was möglich ist, wenn Journalist:innen aus 18 verschiedenen Staaten zusammenarbeiten. In den vielen Wochen, die vor der Veröffentlichung lagen, fragten die Kolleg:innen immer wieder bei ihren Regierungen und Ministerien nach, verschickten zahllose Presse- und Informationsfreiheitsanfragen. Sie ließen nicht locker, auch wenn es zäh wurde. Und so trugen sie jede Menge Informationen zusammen, schon in der Recherchephase erschienen allerortens immer wieder Ausschnitte aus dem, was sie herausfanden. Manche Neuigkeit kam auch erst kurz vor der Deadline. So erfuhren wir alle kurz vor Redaktionsschluss, dass in Spanien der einzige Vertrag mit Palantir wohl nicht verlängert werden soll.

So ergab sich Stück für Stück ein Bild. Wir trugen zusammen, was die verschiedenen Regierungen für Palantir-Software ausgaben und ‑geben. Das sind dann mal 25 Millionen Euro in Baden-Württemberg und 6,2 Millionen Euro in Italien. Einzeln wirkt das nicht wie ein Riesenbetrag. Aber wenn man alles zusammenwirft, kommen rund 1,4 Milliarden Euro dabei heraus – mindestens, denn einige Regierungen wollen keine Kosten offenlegen.

Diese Informationen kann keine Person alleine zusammensuchen. Dafür braucht es ein großes Team aus findigen Rechercheur:innen, die genau wissen, wie sie die Informationen im eigenen Land am besten herausfinden. Aber die harten Zahlen sind nicht das einzige, was ich an der Kooperation sehr zu schätzen gelernt habe.

Es erleichtert die eigene Arbeit ungemein, wenn man genau weiß, dass es für jede Region eine kundige Ansprechpartnerin gibt. Wenn man ganz direkt mitbekommt, wie die Diskussionen um Palantir in den verschiedenen Ländern laufen – nicht nur aus leidlich automatisiert übersetzten Nachrichtenmeldungen, sondern von den Experten für genau dieses Thema. Und wenn Konkurrenz keine Rolle spielt, sondern alle gemeinsam daran arbeiten, möglichst viele Informationen ans Licht zu bringen und die Puzzleteile zusammenzusetzen. Davon braucht es mehr. Denn die meisten der Themen, zu denen wir recherchieren, der Unternehmen, die wir beleuchten, sie reichen weit über ein einzelnes Land hinaus. Daher geht ein großer Dank an die Kolleg:innen der Investigativ-Plattform Follow The Money, die unsere Recherche geleitet und koordiniert haben.

Ganz am Ende einer Kurzübersicht im Text, der bei Follow The Money erschien, findet sich übrigens ein unscheinbarer Hinweis: „Dieser Artikel ist Teil einer fortlaufenden Reihe“. Und ich glaube auch: Das war sicher nicht der letzte Teil.

Viele Grüße

anna

Degitalisierung: Allmacht und Ohnmacht

Agenten einfach so zu vertrauen, ihnen Allmacht zu geben, ist nie eine gute Idee. Denn am Ende eskaliert entweder ein Computersystem oder echte Agenten spielen ein doppeltes Spiel. Und wir können nur ohnmächtig zuschauen. Von Bianca Kastl –
Artikel lesen

Scam: Das Geschäft mit den betrügerischen Blutzuckeruhren

Eine Smartwatch, die falsche Blutzuckerwerte anzeigt, kann lebensgefährlich sein. Dennoch finden sich solche rechtswidrigen Angebote bei großen Online-Händlern wie eBay und Mediamarkt.de. Aufgeräumt wurde erst nach unserer Presseanfrage. Von Markus Reuter –
Artikel lesen

Sensible Grindr-Daten: Microsoft-Tochter muss Rekordstrafe zahlen

Die Werbe-Tech-Firma Xandr hatte sensible Daten von Grindr-Nutzer:innen an zahlreiche andere Werbefirmen verteilt. Dafür soll sie nun das höchste Datenschutz-Bußgeld der norwegischen Geschichte zahlen. Daten- und Verbraucherschützer:innen sehen darin ein wichtiges Signal, dass die Online-Werbeindustrie endlich zur Verantwortung gezogen wird. Von Ingo Dachwitz –
Artikel lesen

Angriffe auf Yandex: Aus brennenden Rechenzentren in Russland wird kein Bot-Ausfall bei der AfD

In sozialen Netzwerken und Medien kursiert das Gerücht, dass die ukrainischen Angriffe auf russische Rechenzentren die Aktivität rechter Social Bots minimiert hätte. Dafür gibt es bislang keine Belege. Vielmehr dürfte die Nachricht auf einer Verwechslung beruhen, was Bots eigentlich sind. Von Markus Reuter –
Artikel lesen

Werbeindustrie liest mit: KI-Chatbots schicken Inhalte aus Gesprächen an Tracking-Firmen

Sechs von neun untersuchten KI-Chatbots übermitteln laut einer Studie Gesprächsinformationen an Tracking- und Werbedienste. Betroffen sind auch bekannte Angebote wie ChatGPT, Claude und Gemini. Von Carla Rochel –
Artikel lesen

Anhörung zur Geheimdienstreform: „Ich habe noch nie eine Vorschrift gesehen, die so offensichtlich verfassungswidrig ist“

Die geplante Reform der Nachrichtendienste ist verfassungswidrig, so die deutliche Kritik von Fachleuten im Bundestag. Sie befördere die Massenüberwachung, hebe die Trennung zwischen Polizei und Geheimdiensten auf und sehe nur eine unzureichende Kontrolle vor. Von Daniel Leisegang –
Artikel lesen

Gesichtersuchmaschine PimEyes: Ein Verbot, das niemand durchsetzt

Seit mehr als einem Jahr verbietet die EU bestimmte Formen biometrischer Gesichtsdatenbanken. Doch die Suchmaschine PimEyes macht einfach weiter. Die zuständige Bundesnetzagentur hält sich bedeckt – und die Bundesregierung laviert gar um das Verbot herum. Von Chris Köver –
Artikel lesen

Beschlagnahme bei der ZEIT: Recherchematerial hat in Ermittlungen nichts zu suchen

Dass die Hamburger Polizei allen Ernstes Redaktionsräume der Zeit durchsuchen wollte, ist ein Frontalangriff auf die Pressefreiheit. Journalistisches Rohmaterial hat in den Händen von Staatsanwälten und Polizeien nichts verloren. Wenn wir das durchgehen lassen, erschüttern wir das Vertrauen in die Presse. Ein Kommentar. Von Markus Reuter –
Artikel lesen

Urteil zu Betrugswerbung: „Es ist nicht mehr diese plumpe Masche von früher“

Im Rechtsstreit zwischen Finanzfluss und Meta hat das Landgericht Frankfurt geurteilt: Der Social-Media-Konzern steht in der Verantwortung für betrügerische Anzeigen. Im Interview erklärt Finanzfluss-Gründer Thomas Kehl, warum er geklagt hat und was das Urteil bedeutet. Von Jette Scheibchen –
Artikel lesen

Europäischer Datenschutzausschuss: Smartbrillen sind „hohes Risiko für Grundrechte und Freiheiten“

Europäische Datenschutzbehörden haben erste Leitlinien zu den neuen Überwachungsbrillen veröffentlicht. Sie sehen die Geräte als Bedrohung für die Privatsphäre und fordern insbesondere eine stärkere Kennzeichnung der Geräte, wenn diese filmen und aufnehmen. Von Markus Reuter –
Artikel lesen

Länderübergreifende Recherche: Palantirs Geschäfte in Europa

Software von Palantir findet sich bei europäischen Streitkräften, bei Polizeien und im Gesundheitssystem. Aber viele Länder suchen nach Alternativen, sie sorgen sich um Abhängigkeiten, Sicherheit und Demokratie. Ein Recherche-Team hat untersucht, wo der Tech-Konzern in Europa Verträge mit Regierungen hat. Von Anna Biselli, Constanze –
Artikel lesen

„Werbeblocker obligatorisch“: Geräte lassen sich ohne Klick per Werbeanzeige hacken

Sieht ein Opfer das Werbebanner, ist es schon zu spät. Eine Untersuchung der Universität Toronto beschreibt erstmals im Detail, wie Angreifer mittels Online-Werbung Geräte mit einem Staatstrojaner infizieren. Zu ihrem eigenen Schutz sollten Nutzer*innen Werbung blockieren. Von Ingo Dachwitz, Sebastian Meineck –
Artikel lesen

Angriff auf Al Jazeera: Der Trojaner kam per Online-Werbung

Unbekannte sollen Geräte des katarischen Nachrichtensenders Al Jazeera mit dem Staatstrojaner Candiru infiziert haben – und zwar über Online-Werbung. Das berichten Forschende der Universität Toronto. Es wäre der erste öffentlich dokumentierte Fall von „AdFection“. Von Sebastian Meineck, Ingo Dachwitz –
Artikel lesen

Digitale Identitätengesetz verabschiedet: Schwuppdiwupp, die digitale Brieftasche kommt

Wenige Funktionen, kaum Kontrolle und schwacher Datenschutz: Der Bundestag hat heute das Digitale Identitätengesetz beschlossen. In einer Schrumpfversion soll die digitale Brieftasche „d‑you“ in wenigen Wochen starten. Von Daniel Leisegang –
Artikel lesen

Gegen den Flächenbrand: Wir suchen 300 Brandschutzhelfer:innen in 30 Tagen

Wir treten der Faschisierung entgegen. Wir verteidigen die Grundrechte für alle und kämpfen für eine freie, offene und solidarische Gesellschaft. Das geht nur mit deiner Unterstützung. Von netzpolitik.org –
Artikel lesen

Interview mit Simon Strick: „Faschisierung ist ein medialer Prozess“

Wir alle sind im Internet unterwegs, wir klicken, liken und kommentieren – und befördern oftmals eine Dynamik der Eskalation, schreibt der Kulturwissenschaftler Simon Strick in seinem neuen Buch. Wir haben mit ihm über Faschisierung, Memes und mediale Eigendynamiken gesprochen. Von Daniel Leisegang –
Artikel lesen

–––

Deine Spende für digitale Freiheitsrechte
Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich aus den Spenden unserer Leser:innen. Jetzt spenden.

Faschisierung ist von Beginn an eine Grundtendenz digitaler Medien. Der heutige Rechtspopulismus und das Internet entstanden nicht nur zeitgleich, sondern arbeiten auch mit verwandten Formeln und haben die Öffentlichkeit zum Reaktionären hin transformiert.

Das schreibt der Kulturwissenschaftler Simon Strick in seinem Buch „Faschisierung. Fluchtlinie des Digitalen“, das vor wenigen Tagen im Suhrkamp Verlag erschienen ist.

Strick zeigt darin eine kulturelle und politische Entwicklung, die mehr als zwanzig Jahre zurückreicht. Dieser Entwicklung stehen wir bis heute nicht nur unvorbereitet und hilflos gegenüber, sondern wir treiben selbst auch einen Prozess an, in dem wir jeden Tag und in aller Öffentlichkeit rechtsradikale Formeln einüben.

Wir haben mit Simon Strick über die digital-getriebene Faschisierung gesprochen.

Fortwährende Faschisierung

netzpolitik.org: Warum wählen Sie den Begriff „Faschisierung“ statt Faschismus?

Simon Strick: Die Rede vom Faschismus impliziert meistens Umschlagpunkte – der Faschismus droht irgendwann, man warnt also davor. Darum dreht sich unser Diskurs nun schon seit einigen Jahren.

Wenn man immer darauf wartet, dass der Faschismus irgendwann kommt, verpasst man die vielen faschistischen Entwicklungen, die die ganze Zeit stattfinden.

Mir geht es daher konkret um einen gesamtgesellschaftlichen Prozess der Faschisierung, der sich fortwährend vollzieht.

netzpolitik.org: Wie sieht dieser Prozess aus?

Simon Strick: Er hat viele Formen. Ich untersuche vor allem eine Umformung des politischen Diskurses und der Öffentlichkeit, die sich im Netz beziehungsweise durch die digitalen Medien ereignet hat.

Es gibt Mechanismen, Prozesse und Dynamiken, die genuin mit digitalen Medien zusammenhängen und die ich als Faschisierung einordne.

Die kollektive Praxis des Einübens

netzpolitik.org: Sie sprechen hier auch von einer kollektiven Praxis des Einübens.

Simon Strick: Dem Philosophen Pierre Zaoui zufolge gibt es so etwas wie eine faschistische Alltagssprache, die vor der offiziellen Sprache des Faschismus liegt. Sie zeichnet sich dadurch aus, dass man sich von der kleinsten Irritation bis zur Vernichtung einer Menschengruppe quasi durchargumentieren kann.

Diese Alltagssprache findet sich oft in der Kommunikation im Netz. Je nach Plattform oder Kommunikationszirkel haben sich Nutzer daran gewöhnt, sich mittels Memes und Sprache sehr schnell von kleinsten Irritationen hin zur Abwertung oder gar Auslöschungswunsch einer anderen Gruppe zu bewegen.

Das ist das Entscheidende am Begriff der Faschisierung: Es geht nicht um Einzelfälle, die irgendetwas kippen lassen, sondern um einen breiten gesellschaftlichen und vor allem medial bedingten Prozess des gemeinsamen Einübens oder eben der Normalisierung.

netzpolitik.org: Haben Sie dafür ein Beispiel?

Simon Strick: 2019 wurde im Internetforum 4chan die Zeichnung eines Clowns veröffentlicht. Sie zeigt eine Variation des Alt-Right-Symbols Pepe the Frog mit Regenbogenperücke und roter Nase. Ein Nutzer schlug vor, das Bild als neues rechtsradikales Symbol zu übernehmen, queerfeindliche Gewaltfantasien inklusive. Der Verfassungsschutz nahm es in seinen Bericht über rechtsextreme Symbolik auf.

Aus dem Bild entstand das Meme „Clownwelt“, wurde mit der Zeit zu einem Symbol im rechten Kulturkampf, schließlich zum allgemeinverständlichen reaktionären Symbol. Im deutschsprachigen Raum steht es unter anderem dafür, dass Regenbogenfahnen verschwinden sollen, damit Schwarz-Rot-Gold wieder zu seinem Recht kommt.

Dieser Antagonismus von Nationalfarben und LGBTQ+ ist völlig alltäglich geworden, Bundestagspräsidentin Julia Klöckner nutzte ihn im Sommer 2025 in der sogenannten Fahndendebatte. Sie ordnete an, Regenbogenfahnen aus Abgeordnetenbüros zu entfernen. Auch Bundeskanzler Friedrich Merz kommentierte die Debatte: Der Bundestag sei kein Zirkuszelt, auf das man beliebig Fahnen hissen könnte – das Bild queerer Menschen als Clowns schien durch.

Das Beispiel ist etwas verkürzt, zeigt aber zwei Dinge: Als rechtsextrem kategorisierte Memes wie „Clownwelt“ finden Eingang in offizielles Sprechen und prägen Shitstorms wie den um Merz’ „Zirkuszelt“ mit. Und zweitens: Wenn der Kanzler rechtsextreme Memes variiert, dann ist der Begriff „Extremismus“ nicht mehr aussagekräftig. Eher geht es darum zu fragen, warum 4chan und Kanzleramt gleichklingend und queerfeindlich sprechen. Diese eingeübten „Gleichklänge“ der Radikalisierung beschreibe ich als Faschisierung, und Beispiele dafür sind jeden Tag sichtbar.

„Faschisierung und Digitalisierung sind verschwistert“

netzpolitik.org: Faschisierung und Digitalisierung hängen eng zusammen, schreiben Sie, sie seien „verschwistert“. Wie meinen Sie das?

Simon Strick: Wir hatten in den 1990er-Jahren eine historisch interessante Konstellation: Es bildete sich der Rechtspopulismus als Bewegungsprojekt quer zu staatlichen Systemen und Parteienstrukturen heraus, ich skizziere das im Buch für die USA. Gleichzeitig entsteht mit einem ganz ähnlichen Anspruch – quer zur Öffentlichkeit und zu den Leitmedien – die Netzkultur.

Aus meiner Sicht gibt es hier eine mythologische Übereinstimmung, die zu einer inneren Wesensverwandtschaft einiger digitaler Medien und reaktionärer Bewegungen führte: Beide verstanden sich als radikale Alternativen zum Status quo, als neue Ideen politischer Öffentlichkeit. Faschisierung bietet eine Möglichkeit, um diese Wesensverwandtschaft zu verstehen und zu beschreiben.

netzpolitik.org: Für viele war das Netz gerade in seinen Anfängen ein Raum für Gleichheit, Partizipation und Utopie. Scheren Sie mit Digitalität und Rechtspopulismus nicht zwei sehr verschiedene Dinge über einen Kamm?

Simon Strick: Das Netz ist natürlich ein pluralistischer Raum. Und im politischen Raum der 90er-Jahre gab es unterschiedliche Bewegungen, die eine grundlegende Veränderung etwa an Regierungssystemen oder am Neoliberalismus verlangten. Der Rechtspopulismus, wie Murray Rothbard ihn entwirft, war eine dieser Bewegungen.

Analog dazu findet sich in der „Unabhängigkeitserklärung des Cyberspace“ von John Perry Barlow eine populistische Vorstellung des Internets: Gegen Großunternehmen, Telekommunikationskonzerne und Regierungsorgane soll ein utopisches Land errichtet werden. Die Anhänger dieser Idee verstanden den Cyberspace explizit als Gegenentwurf zu den Regierungen der analogen Welt, den „müden Riesen aus Fleisch und Stahl“.

Dieser Cyberlibertarismus war eine spezifische Ausprägung im Pluralismus des frühen Netzes. Er brachte aber eine Art reaktionäres Nutzungsszenario für digitale Medien mit: Im Internet sagt man das, was draußen in den Leitmedien angeblich verboten oder nicht präsent ist. Man postet sozusagen immer quer zu einer Hegemonie, was zum Beispiel neofaschistischen Gruppen sehr entgegenkam, die auch zu den Netzpionieren gehörten.

Aus dieser Grundmythologie entwickelte sich – begünstigt durch die sozialen Medien – das Netz als Gegenöffentlichkeit und begünstigte damit vor allem reaktionäre Projekte. Die Alternativmedien wie Nius und Tichys Einblick oder zahllose Angebote auf X senden alle auf dieser Mythologie digitaler Dissidenz. Die Leitmedien folgen nach.

„Wir befinden uns dauerhaft im Reaktionsmodus“

netzpolitik.org: Wie haben die sozialen Medien diese Entwicklung beeinflusst?

Simon Strick: Soziale Medien sind darauf ausgerichtet, Ereignisse herzustellen, auf die man reagieren kann. Nutzer liken, kommentieren und befinden sich dauerhaft im Reaktionsmodus auf ihre Timeline. Das heißt erstens, dass Politik als Ereignis stattfinden muss. Und zweitens müssen politische Ereignisse möglichst kontrovers oder provokativ sein, um mehr Reaktionen hervorzurufen.

Das Problem ist also nicht nur Rechtspopulismus, sondern eine Öffentlichkeit, die um das Prinzip Reaktionsmaximierung herum gebaut ist. Parteien, die am krassesten agieren – was oftmals rechte Parteien sind –, politische Figuren, die am lautesten reagieren. Das erhält die größte Aufmerksamkeit.

Parteien und Journalismus passen sich diesen digitalen Reaktionsformen an. Ich fand den Protest der SPD-Bundestagsfraktion auf dem Bebelplatz in Berlin dazu aufschlussreich.

netzpolitik.org: …dem Ort der Bücherverbrennung durch die Nazis im Jahr 1933.

Simon Strick: Ja, hier wurde das politische Ereignis „Antifaschismus“ von einer Regierungspartei hergestellt, für „Reaction Content“. Reaktionen kamen sofort, sowohl skandalisierend als auch nach dem Motto „Endlich tut sich was!“. Passiert war im Grunde genommen nichts, außer einem Flashmob mit Kamerabegleitung.

„Memes transportieren Vernichtungsfantasien“

netzpolitik.org: Welche Rolle spielen Memes bei dieser Neuformierung der Öffentlichkeit?

Simon Strick: Ich halte sie für unheimlich wichtig. Memes sind nicht nur lustige Bildchen, sondern spezifische Verschaltungen von Informationen, die vor allem irritieren und affektiv wirken sollen.

Es werden Dinge zusammengebracht, die eigentlich nicht zusammengehören, um einen Witz oder eine Irritation zu erzeugen. Das ist eine grundlegende Kulturtechnik im Social-Media-Zeitalter: Informationskombination, um affektiv den Informationsfluss zu unterbrechen. Als Grundprinzip digitaler Kommunikation wird das aus meiner Sicht unterbewertet.

Politische Akteure wie Donald Trump oder auch das Weiße Haus kommunizieren in Memes. Auch die SPD-Aktion am Bebelplatz kann man als memetische Operation verstehen, die Unzusammenhängendes verbindet, um eine Irritation oder Affekt zu erreichen: Regierungspartei kämpft als Antifa gegen die NSDAP. Modernes Branding, vorbei an politischen Realitäten.

netzpolitik.org: Sie schreiben in Ihrem Buch, dass Memes auch das Aussprechen von Vernichtungsfantasien erleichtern.

Simon Strick: Dafür gibt es viele Beispiele. Ein Beispiel, das ich im Buch beschreibe: Queere Menschen setzen sich unter anderem für palästinensische Unabhängigkeit ein. Das Motto „Queers for Palestine“ wurde im Netz mit „Chicken for KFC“ gleichgesetzt, nach dem Motto: Weil Gaza angeblich in Gänze Hamas und queerfeindlich sei, sind „Queers for Palestine“ wie Hühner, die für ihre Schlachtung durch Kentucky Fried Chicken demonstrieren.

Diese Formel verbreitete sich rasant, weil sie sowohl Palästinenser als brutale Barbaren als auch Queers als irrational und naiv darstellt. Beide Minderheiten hätten sich quasi „verdient“. Im Buch zeichne ich nach, wie dieses Meme vor und nach dem 7. Oktober 2023 in den Legitimationsdiskursen zur israelischen Kriegseskalation immer wieder auftaucht.

Völlig verschiedene Akteure kommen dabei zum Gleichklang: anonyme Onlinetrolle, die AfD-Abgeordnete Beatrix von Storch, die Schriftstellerin Herta Müller, der ehemalige Antisemitismus-Beauftragte Felix Klein und auch Benjamin Netanjahu, der „Chicken for KFC“ vor dem US-Senat als Witz anbringt.

Solche Memes transportieren Entmenschlichungs- und Vernichtungsfantasien fast von selbst weiter, selbst wenn die einzelnen Sprecher:innen das nicht beabsichtigen. Sind Queers so naiv, sollten sie abgeschlachtet werden. Sind Palästinenser solche Barbaren, muss die Vernichtung Gazas eskaliert werden. Es bilden sich memetische Kollektive, die sich gegenseitig darin bestärken, solche Sprach- oder Memefantasien als Legitimation zu nehmen, als Argument, schließlich als Vorlage für Handlungen.

Die Dynamik der Eskalation

netzpolitik.org: Besonders Donald Trump hat die Wirkweise der Memes offenbar verstanden.

Simon Strick: Trumps Kommunikation und Stil sind sehr interessant. Sie zeigen sehr klar, wie sich politische Öffentlichkeit in digitale Räume verlagert, wo andere Gesetze gelten als zuvor. Der Trumpismus kann als Politikstil gelesen werden, der sich mehr und mehr nach Netzlogiken richtet: Trolling, Irritation, Memes und ganz generell „Content“.

Trump ist die ideale Figur für diesen Transfer, weil er selbst hochgradig Meme-tauglich ist. Seit den 80er-Jahren ist er eine Ikone der amerikanischen Popkultur, jeder kennt ihn.

Bei ihm zeigt sich eine neue Form des Regierens, die vor allem memetisch und digital kommuniziert und die Regierungsgeschäfte auf Plattformen abwickelt. Etwa wenn Trump geopolitische Entscheidungen direkt über soziale Medien verkündet. Der Wahrheitsgehalt ist immer unklar – wie bei jeder Online-Information.

netzpolitik.org: Memes selbst bewirken aber keine materiellen Veränderungen. Sie stoppen beispielsweise keine Inflation. Läuft die memetische Kommunikation nicht irgendwann ins Leere?

Simon Strick: Jetzt könnte man lange über Börsen reden, die ja aufgrund von Gerüchten extrem materielle Wertschöpfungs- oder Wertvernichtungsprozesse ins Werk setzen können. Aber das nur am Rande.

Memetische Politik bietet in materieller Hinsicht natürlich schon etwas. Zum einen geht Faschisierung oft einher mit persönlicher Bereicherung, Oligarchie und Macht, die sich durch eine Kapitalisierung der Aufmerksamkeit ergeben kann. Das zeigt Trump eindrücklich, und Elon Musk hat neofaschistische Memes zum Markenkern von X.com gemacht.

Andererseits ist das „Leere“ im Netz kein Problem, es lebt von Hype Cycles, Aufregungspunkten oder Ereignissen, die nicht unbedingt „real“ sein müssen. Bei dem, was ich Faschisierung nenne, speist sich der Prozess aus einer Dynamik der Reaktion und Eskalation. Sie produziert ständig neues Reaktionsmaterial, das die Dynamik weiter antreibt. Autoren wie Lucie Varga, Leo Löwenthal oder Walter Benjamin haben übrigens Ähnliches für faschistische Propaganda der 1920er- bis 1940er-Jahre konstatiert: Die Inhalte oder die Ideologie sind fast beliebig, die Dynamik des Reaktionären und das gemeinsame Phantasma sind wichtiger.

netzpolitik.org: Wir müssen uns die Faschisierung also wie ein Perpetuum mobile vorstellen?

Simon Strick: Zumindest als etwas, das eine starke Eigendynamik hat, die sich immer weiter selbst antreibt. Das ist mein Vorschlag, um zu erklären, warum große Teile der politischen Öffentlichkeit sich mitreißen lassen, die nicht ohne weiteres als rechtsextrem klassifizierbar sind. Im Buch nenne ich das: Es gibt mehr Faschisierung als es Faschisten gibt. Aus meiner Sicht ist das ein massives Problem unserer Gegenwart.

–––

Deine Spende für digitale Freiheitsrechte
Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich aus den Spenden unserer Leser:innen. Jetzt spenden.

Werde jetzt Brandschutzhelfer:in für netzpolitik.org und unterstütze unsere Arbeit mit einer monatlichen Dauerspende. Schon Beträge ab 5 Euro helfen uns.

Gemeinsam treten wir der Faschisierung entgegen. Rechtsradikale Brandstifter wollen einen Flächenbrand auslösen, der die gesamte Demokratie erfasst. Die Bundesregierung gießt derweil Öl ins Feuer: Sie rüstet den Überwachungsstaat auf, schränkt die Transparenz ein und beschneidet die Grundrechte. Der Schutz demokratischer Werte und Errungenschaften beginnt also schon lange, bevor Rechtsradikale in Regierungen sitzen.

Gemeinsam kämpfen wir für eine freie, offene und solidarische Gesellschaft. Wir schlagen bei gefährlichen Entwicklungen Alarm. Wir durchleuchten Gesetzesvorhaben und zeigen, wo die Brandgefahr steigt. Wir befreien und veröffentlichen Dokumente, damit sich Leser:innen ihr eigenes Bild machen können. Wir machen Menschen sichtbar, deren Grundrechte bedroht sind – und bilden Netzwerke.

Das geht nur mit deiner Unterstützung!

Deine Spende macht es auch möglich, dass uns auch all jene lesen können, die uns derzeit nicht finanziell unterstützen können. Spende jetzt!

Falls du selbst gerade nicht spenden kannst, erzähl bitte anderen, warum sie uns unterstützen sollten. Und dass Spenden an uns steuerlich absetzbar sind.

Gemeinnützig, unabhängig und transparent

Seit 22 Jahren macht netzpolitik.org gemeinwohlorientierten Journalismus mit Haltung. Für unsere Arbeit wurden wir vielfach ausgezeichnet.

Weil wir uns durch Spenden unserer Leser:innen finanzieren, sind wir vollkommen unabhängig von Konzernen, Parteien, Verbänden und dem Staat. Bei uns gibt es keine Werbung, kein Tracking und keine Paywall.

Unsere Finanzen sind transparent. Wofür wir Spenden einsetzen, kannst du in unseren Transparenzberichten nachlesen, die wir jedes Quartal veröffentlichen.

–––

Deine Spende für digitale Freiheitsrechte
Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich aus den Spenden unserer Leser:innen. Jetzt spenden.

Der Bundestag hat heute mit Mehrheit von Union und SPD das Digitale Identitätengesetz beschlossen. Damit ist die rechtliche Grundlage für die Einführung der digitalen Brieftasche „d‑you“ zum 2. Januar 2027 gelegt. In der Smartphone-App sollen Bürger:innen künftig digitale Ausweisdokumente, Zeugnisse und Hotelreservierungen ablegen können.

Zunächst startet d‑you mit weit weniger Funktionen als geplant: Zu Beginn soll nur die Ausweisfunktion verfügbar sein, später sollen Führerschein und ein biometrisches Passfoto folgen. Erst danach sollen schrittweise Funktionen hinzukommen, die für mehr Sicherheit sowie Verbraucher- und Datenschutz sorgen sollen.

Dazu zählen unter anderem pseudonyme Logins, Zero-Knowledge-Proofs (zu Deutsch: Null-Wissen-Beweis) und die selektive Datenfreigabe. Diese Funktionen ermöglichen es Nutzer:innen, ihre Identität zu schützen oder nur das Allernotwendigste an sensiblen Daten preiszugeben. Deren Fehlen hatten vor gut einer Woche mehrere Fachleute in einer Anhörung im Digitalausschuss des Bundestags mit Nachdruck kritisiert.

Lichtbild muss nicht mehr zwingend in die Wallet

Auf diese Kritik haben die Regierungsfraktionen nur geringfügig reagiert. Gestern hatten sie im Digitalausschuss eine Beschlussempfehlung für die heutige Plenumsabstimmung beschlossen, die Änderungen an dem Gesetzentwurf vorsieht. Die Empfehlung hat der Bundestag heute ebenfalls mit schwarz-roter Mehrheit verabschiedet.

So sollen es Nutzer:innen künftig ablehnen können, dass ihr biometrisches Passfoto in die digitale Brieftasche übernommen wird. Ein mögliches Opt-out sehen auch die Vorgaben auf EU-Ebene vor. Die Bundesregierung wollte die Nutzer:innen bislang dazu verpflichten.

Trotz der Möglichkeit eines Opt-out wertet Thomas Lohninger von der Bürgerrechtsorganisation epicenter.works die gesetzlichen Vorgaben als weiterhin unzureichend: „Das Gesetz sieht weiterhin keinen Nichtdiskriminierungsschutz vor, der verhindert, dass Nutzer:innen keine Nachteile erfahren, wenn sie das biometrische Passbild nicht übermitteln“, so Lohninger gegenüber netzpolitik.org. „Einen solchen Schutz braucht es aber – gerade wenn es um biometrische Daten geht.“

Bianca Kastl, die wie Lohninger an der Sachverständigen-Anhörung vor gut einer Woche teilnahm, ist ebenfalls skeptisch: „Die Möglichkeit, für die Übermittlung biometrischer Lichtbilder in die Wallet einen Opt-out wählen zu können, ist zwar gut“, so Kastl gegenüber netzpolitik.org. „Es ist aber lediglich die Ausnutzung des europäischen Rahmens.“

Pseudonyme kommen… irgendwann.

Besonders deutlich hatten die Fachleute kritisiert, dass die Wallet nicht die Möglichkeit biete, Pseudonyme zu verwenden, obwohl die zugrundeliegende eIDAS-Verordnung dies vorsieht. Pseudonyme sollen eine Über-Identifizierung, Tracking und kommerzielle Profilbildung verhindern. Ohne diese Funktion bietet die Wallet zu Beginn ausschließlich eine Klarnamen-Identifizierung, was Andreas Hartl, Vertreter des Bundesdatenschutzbeauftragten, in der Anhörung als „misslich“ bezeichnet hatte.

Der Wallet-Berichterstatter der Unionsfraktion, Markus Reichel (CDU), räumte in der Bundestagsdebatte ein, dass hier „eine Lücke“ bestehe. Die pseudonyme Nutzung soll nun „schnellstmöglich“ kommen, wie es in dem Entschließungsantrag heißt, den der Digitalausschuss eingereicht hat.

Die Sache hat allerdings gleich zwei Haken. Erstens findet sich die pseudonyme Nutzung nur in einem Entschließungsantrag, den der Bundestag heute ebenfalls angenommen hat, und ist damit rechtlich nicht bindend. Ein solcher Antrag fordert die Bundesregierung nur zu einem bestimmten Handeln auf und hat vor allem politisches Gewicht.

Zweitens gibt es weiterhin kein Datum, wann die Pseudonyme kommen sollen. Das liege auch daran, so  die parlamentarische Staatssekretärin im Bundesdigitalministerium Gitta Connemann gestern im Digitalausschuss, dass noch Vorgaben von der EU-Kommission ausstehen. Ihr Ministerium arbeite aber „in enger Zusammenarbeit mit BfDI daran, um das Beste zu geben“, so die Christdemokratin.

„Pseudonyme verkommen im Gesetz zu einer Absichtserklärung“, kritisiert Bianca Kastl das Vorgehen der Regierungsparteien gegenüber netzpolitik.org. „Wann Pseudonyme kommen werden – das bleibt unklar, unverbindlich.“ Sie hatte in der Anhörung dafür plädiert, den Starttermin zu verschieben, bis die Wallet datensparsame Kernfunktionen bietet.

Statt Kontrolle gibts nur Appelle an Unternehmen

Der Christdemokrat Markus Reichel beteuerte in der heutigen Bundestagsdebatte, dass die Regierungsfraktionen die Selbstbestimmung und Datenschutz gestärkt hätten.

Mehrere Fachleute hatten im Vorfeld strengere Kontrollen von Diensteanbietern angemahnt, die die Brieftasche einsetzen wollen. Konkret hatte Lina Ehrig vom Verbraucherzentrale Bundesverband gefordert, dass eine Aufsichtsbehörde vorab prüfen soll, dass beim Datenabruf durch sogenannte „vertrauende Beteiligte“ ausschließlich das zwingend erforderliche Minimum an Daten angefordert wird.

Eine solche Prüfung sieht das beschlossen Gesetz jedoch nicht vor. Stattdessen verweist es auf die Datenschutzgrundverordnung, wonach der Grundsatz der Datenminimierung gilt, wenn sich etwa Unternehmen als „vertrauende Beteiligte“ registrieren. „Daher sind vertrauende Beteiligte gehalten, bereits bei ihrer Registrierung diesen Grundsatz anzuwenden“. Statt eines risikobasierten Registrier- und Prüfverfahren für Diensteanbieter belässt es Schwarz-Rot also bei einem bloßen Appell an die Unternehmen.

Das Gesetz sieht außerdem kein öffentlich zugängliches Verzeichnis vor, welches Fachleute gefordert hatten. Ein solches könnte transparent aufzeigen, welche Daten etwa Unternehmen zu welchem Zweck und auf welcher Rechtsgrundlage abfragen dürfen. Offen ist auch, welche Sanktionen Diensteanbietern drohen, wenn sie gegen die Vorgaben verstoßen – bis hin zum Ausschluss aus dem Wallet-Ökosystem.

Datenabfragen erfolgen so auf Vertrauensbasis, so die Befürchtung von Sonja Lemke (Die Linke) in der Plenumsdebatte. „Wir laufen damit in eine Cookie-Banner‑2.0‑Situation hinein. Einmal verklickt, einmal nicht nachgedacht und schwuppdiwupp einem Unternehmen staatlich signierte Daten geschickt.“ Ein Entschließungsantrag ihrer Fraktion, der die genannten Kritikpunkte aufgreift, erhielt, ebenso wie ein Antrag der Grünen, keine Mehrheit.

Digitalministerium hat freie Hand

Schon der Gesetzentwurf der Bundesregierung sieht eine „Experimentierklausel“ vor, die es dem Bundesdigitalministerium (BMDS) etwa erlaubt, neue Verfahren zu erproben, mit denen Nutzer:innen ihre Identität nachweisen oder Kinder ab 12 Jahren die Wallet nutzen können.

Der Bundesdatenschutzbeauftragte hatte gefordert, dass das Ministerium hier die Expertise des Bundesdatenschutzbeauftragten oder des Bundesamts für Sicherheit in der Informationstechnik (BSI) einbeziehen müsse.

Dessen ungeachtet hat das Ministerium hier auch weiterhin relativ freie Hand: Will es künftig von den gesetzlichen Vorgaben abweichen, muss es vorab lediglich den Digitalausschuss des Bundestags informieren und mindestens zwei Sitzungswochen Zeit für eine Stellungnahme geben. Außerdem dürfen Erprobungen nur einmal verlängert werden.

Sonja Lemke warnte davor, dass hier das Ministerium und nicht der Bundestag das letzte Wort haben soll: „Die staatliche Identität ist kein Spielplatz, auf dem einfach mal ausprobieren kann.“

Die eigentliche Bewährungsprobe beginnt am 2. Januar

Offenbar wollen die Regierungsfraktion, dass d‑you schneller einen praktischen Nutzen bringt. Elektronische Ausweise und offizielle Dokumente müssen Bundesbehörden nun schon 12 statt 24 Monate nach Verkündung des Gesetzes bereitstellen. Ob das viel mehr Nutzen bringt, ist allerdings zweifelhaft: Viele Bescheinigungen stellen die Länder und Kommunen aus. Und die sind noch lange nicht auf die digitale Brieftasche vorbereitet.

Es sei klar, dass die Wallet bei ihrem Start am 2. Januar 2027 nicht alle Anforderungen der eIDAS-Verordnung erfülle, räumte Markus Reichel bereits gestern im Digitalausschuss ein. Mit der heutigen Bundestagsentscheidung hat die Wallet eine entscheidende rechtliche Hürde genommen. Nun folge man einer klaren „Roadmap“, die den weiteren Weg aufzeige. Für die praktische Umsetzung sei es nun, so Reichel, entscheidend, dass bald alle Funktionen der digitalen Brieftasche bereitstehen, Nachweise verfügbar sind und die Behörden „d‑you“ akzeptieren.

Oder in den Worten des SPD-Abgeordneten Parsa Marvi: Mit der Verabschiedung des Gesetzes beginne nun „die eigentliche Bewährungsprobe für die Wallet“. Und das in wenigen Wochen.

Update, 16.10.2026, 11 Uhr: Der Text wurde um weitere Informationen ergänzt.

–––

Deine Spende für digitale Freiheitsrechte
Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich aus den Spenden unserer Leser:innen. Jetzt spenden.

Von außen völlig harmlos wirkende Werbeanzeigen sollen das Einfallstor für einen Hacking-Angriff auf Al Jazeera gewesen sein. Mindestens 45 Geräte seien auf diese Weise mit dem Staatstrojaner Candiru infiziert worden, offenbar Windows-Rechner. Das berichten IT-Forschende des Citizen Lab von der Universität Toronto in einer neuen Untersuchung.

Der katarische Nachrichtensender wäre damit das erste öffentlich dokumentierte Ziel einer neuartigen Angriffsmethode. Die Forschenden des Citizen Lab bezeichnen sie als „AdFection“, ein Kofferwort aus „Ad“ (Werbung) und Infektion. Angreifer*innen nutzen dabei die Infrastruktur für Online-Werbung, um Schadsoftware auf ein Gerät zu spielen, und zwar ohne dass Opfer einen Klick machen müssten.

Al Jazeera hat sich zur Veröffentlichung der Untersuchung zunächst nicht geäußert. Wir werden den Artikel gegebenenfalls ergänzen. Der Sender wurde bereits im Jahr 2020 Ziel von Angriffen per Staatstrojaner.

Getarnt als normale Werbe-Tech-Firma

Anders als es auf den ersten Blick scheint, sind Online-Werbeanzeigen oft nicht einfach nur Bilder und Videos mit Links. Häufig werden sie mit unsichtbarem Code ausgeliefert, der im Hintergrund ausgeführt wird. So entsteht ein Einfallstor für die Infektion. Weil Online-Werbung personalisiert ist, können Angreifer*innen die Geräte potenzieller Opfer gezielt ins Visier nehmen.

Die Forschenden des Citizen Lab konnten mehrere Schritte dieser Angriffsmethode technisch nachvollziehen. Im Mittelpunkt steht das israelische Unternehmen Discover-Tech Ltd., das auf den ersten Blick wie ein ganz gewöhnlicher Akteur der Online-Werbebranche erscheint. Es nimmt demnach unter anderem an Auktionen für Online-Werbeplätze teil und kann auf diesem Weg Werbeanzeigen ausspielen.

Wie aus dem Bericht hervorgeht, soll das Werbegeschäft für das Unternehmen jedoch nur Mittel zum Zweck sein. Es soll demnach auch eine Plattform betreiben, mit deren Hilfe Angreifer*innen gezielt Spionage-Software per Online-Werbung ausspielen können. Wie die Forschenden berichten, sollen Angreifer*innen auf diese Weise einen Staatstrojaner von Candiru verbreitet haben.

Discover-Tech soll die umfassenden Datensammlungen des Systems für personalisierte Werbung genutzt haben, um Profile von Zielpersonen zu erstellen und ihre Geräte zu identifizieren. Über eigene Werbeplattformen und die Infrastruktur der Online-Werbebranche sollen die infizierten Werbeanzeigen dann auf die Geräte der Opfer gelangt sein.

Weder Discover-Tech Ltd. noch das Unternehmen hinter Candiru, Integrity Partners, hat unsere Presseanfragen beantwortet.

Werbebasierte Überwachung als Gefahr für Medienschaffende

Erst vor wenigen Wochen hatte das Committee to Protect Journalists vor den Gefahren gewarnt, die von werbebasierter Massenüberwachung für Medienschaffende ausgehen. Die Warnung stützt sich auch auf Recherchen von netzpolitik.org und dem Bayerischen Rundfunk, die gezeigt hatten, wie leicht sich genaue Standortdaten, die angeblich nur für Werbezwecke erhoben wurden, bei Datenhändlern erwerben lassen. In kostenlosen Probedatensätzen hatten wir unter anderem das Bewegungsprofil einer verfolgten Exil-Journalistin aus Ägypten gefunden.

Der Bericht des Citizen Lab dokumentiert nun, wie sich die Infrastruktur nicht nur für staatliche Massenüberwachung, sondern auch für gezielte Angriffe auf die Geräte von Einzelpersonen ausnutzen lässt.

Ein weiteres mutmaßliches Angriffsziel der Spionagesoftware soll das Außenministerium Saudi-Arabiens gewesen sein, wie aus dem Bericht hervorgeht. Darauf deuten technische Spuren hin, die netzpolitik.org und der Bayerische Rundfunk nachvollziehen konnten. Die Botschaft Saudi-Arabiens ließ eine Anfrage hierzu unbeantwortet.

„Fürchterliches Gefühl“

Staatstrojaner nutzen Schwachstellen, um möglichst heimlich die Kontrolle über ein Gerät zu gewinnen und die Opfer zu überwachen. Es ist bezeichnend, dass mit Al Jazeera ausgerechnet Medienschaffende zum Ziel der neuen Angriffsmethode „AdFection“ geworden sind. Denn immer wieder setzen Regierungen Staatstrojaner gegehen beispielsweise Journalist*innen, Aktivist*innen oder Oppositionelle ein.

Auch deutsche Behörden setzen Staatstrojaner ein, wollen jedoch nicht offenlegen, um welche es sich handelt. Einem Bericht der israelischen Zeitung Haaretz von 2021 zufolge gehört auch Deutschland zu den Kunden von Candiru.

Den Anbieter hat die US-Regierung  im Jahr 2021 auf eine Liste für Exportbeschränkungen gesetzt. Begründung: Das Unternehmen habe Spionage-Software an ausländische Regierungen geliefert, um „mit böswilliger Absicht“ unter anderem Regierungsbeamt*innen, Journalist*innen, Geschäftsleute, Aktivist*innen und Forschende ins Visier zu nehmen.

Zuletzt wurde etwa im Jahr 2024 der deutsche EU-Abgeordnete Daniel Freund (Grüne) Ziel eines Angriffs mit Candirus Trojaner, hinter dem er den ungarischen Geheimdienst vermutet. Der Hack ist den Angreifenden jedoch nicht gelungen. Im Gespräch mit netzpolitik.org und Bayerischem Rundfunk spricht Freund von einem „fürchterlichen Gefühl“ beim Gedanken, dass Angreifende auf seine privatesten Informationen hätten zugreifen können.

Hier berichten wir mehr über den Bericht des Citizen Lab, den Ablauf des Hacking-Angriffs – und wie sich Nutzer*innen schützen können.

–––

Deine Spende für digitale Freiheitsrechte
Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich aus den Spenden unserer Leser:innen. Jetzt spenden.

Es beginnt mit einer Werbeanzeige, die völlig harmlos aussieht. Zum Beispiel ein Angebot für kabellose Kopfhörer: „SALE“. Solche und ähnliche Anzeigen gehören längst zum Grundrauschen, wenn man durch werbefinanzierte Apps und Websites scrollt. Nun zeigt eine Untersuchung, dass Online-Anzeigen weitaus mehr können als nur zu nerven: Sie können die Sicherheit von Nutzer*innen gefährden.

Erstmals konnten IT-Forscher*innen des Citizen Lab von der Universität Toronto technisch nachvollziehen, wie Angreifer Geräte per Online-Werbung hacken – ohne dass Opfer einen Klick machen müssen. Sobald eine bösartige Werbeanzeige auf dem Bildschirm eines Handys oder Rechners erscheint, soll es bereits zu spät sein, und das Gerät wird mit Spionage-Software infiziert. Die Forschenden nennen diese Art des Angriffs „AdFection“, ein Kofferwort aus „Ad“ (Werbung) und Infektion.

Im Fokus der Untersuchung steht die israelische Firma Discover-Tech Ltd. Sie soll sich jahrelang als harmlose Werbe-Tech-Firma ausgegeben haben. Bis vor Kurzem hatte sie bei Google den Status als „zertifizierter“ externer Anbieter. Tatsächlich soll Discover-Tech jedoch als Brücke zwischen dem Ökosystem für Online-Werbung und der Industrie für Staatstrojaner gedient haben.

Die Forschenden des Citizen Lab gehen „mit hoher Sicherheit“ davon aus, dass Angreifer*innen mit Hilfe von Discover-Tech Trojaner der Firma Candiru über bösartige Werbeanzeigen verteilt haben sollen. Mindestens ein Ziel solcher Zero-Click-Angriffe waren demnach mehrere Geräte beim katarischen Nachrichtensender Al Jazeera. Eine Presseanfrage von netzpolitik.org und dem Bayerischen Rundfunk an Discover-Tech blieb unbeantwortet.

„Die Online-Werbung ist kaputt“, sagt der Wiener Tracking Forscher Wolfie Christl, Co-Autor der Untersuchung des Citizen Lab. „Die Art, wie Online-Werbung heute funktioniert, ist ein einziges Sicherheitsrisiko – für Staaten, den privaten Sektor, Zivilgesellschaft und für alle anderen.“

Ein scheinbar unauffälliges Unternehmen

Discover-Tech Ltd. erscheint auf den ersten Blick wie einer von Tausenden anderen Akteuren der Werbe-Branche. Auf seiner Website spricht das Unternehmen etwa von maßgeschneiderter Werbung, von Impact und Brands.

Doch wie aus der Untersuchung hervorgeht, befasst sich Discover-Tech anscheinend nur vordergründig mit dem Ausspielen von Online-Werbung. Zusätzlich soll das Unternehmen eine Plattform namens „Controlium“ betreiben. Mithilfe dieser Plattform sollen Anbieter von Spionage-Software demnach gezielt Geräte von Opfern ins Visier nehmen können, um sie beim Ausspielen einer Werbeanzeige zu infizieren.

Das Citizen Lab stützt seine Untersuchungen auf umfassende technische Analysen sowie auf eine Recherche zum Firmennetzwerk rund um Discover-Tech. Unter anderem haben die Forschenden nach eigenen Angaben Zugang zu internen Log-Dateien von rund 3,8 Milliarden Geboten auf Werbeplätze („bids“) durch das Unternehmen. Die Forschenden haben dabei mit der auf Betrugsabwehr in der Werbewelt spezialisierten Firma Confiant zusammengearbeitet, die parallel eigene Untersuchungen vorgenommen und heute einen eigenen Bericht zu Discover-Tech veröffentlicht hat.

Ein Recherche-Team von netzpolitik.org und dem Bayerischen Rundfunk hat vor der Veröffentlichung Einblick in die Untersuchung erhalten und die wichtigsten Beteiligten um Stellungnahme gebeten.

Werbesystem ausgenutzt, Betroffene merken nichts

Wer verstehen will, wie Discover-Tech einem Zielgerät nicht nur Werbung, sondern auch einen Staatstrojaner unterjubelt, muss einen Blick in den Maschinenraum der Online-Werbebranche werfen. So unterhält Discover-Tech laut Untersuchung unter anderem eine sogenannte Demand-Side-Plattform (DSP), über die Werbekund*innen Anzeigen für Apps und Websites schalten können.

Für die Angriffe soll sich Discover-Tech zwei Eigenschaften der Online-Werbewelt zunutze gemacht haben. Erstens soll das Unternehmen das System des Real-Time-Bidding ausgenutzt haben. Dahinter steckt die Auktion um freie Werbeplätze. Werbefinanzierte Apps und Websites verschicken zu diesem Zweck bei jedem Besuch Informationen über Nutzer*innen an ein unübersichtliches Netzwerk mitbietender Unternehmen.

Mit der eigenen DSP soll Discover-Tech an Auktionen teilgenommen und auf diese Weise reichlich Daten gesammelt haben, mit denen sich Geräte potenzieller Zielpersonen aufspüren lassen sollen, darunter zum Beispiel Werbe-IDs und IP-Adressen. So werden die Werbedaten zu einer Art Filter, um potenzielle Opfer herauszusieben. Wie zielgenau die Methode funktioniert und wie hoch die Streuverluste sind, also wie viele Unbeteiligte so ins Visier geraten sind, lässt sich von außen nicht beurteilen.

Zweitens soll sich Discover-Tech zunutze gemacht haben, dass Werbeanzeigen häufig nicht einfach nur Bilder oder Videoclips sind. Mit ihnen kann oft auch Programm-Code ausgeführt werden. Beim sogenannten Malvertising nutzen Online-Kriminelle genau das aus, um breit gestreut Schadsoftware zu verbreiten. Eine Methode zur gezielten Infektion beschreibt dagegen das Citizen Lab bei der Untersuchung von Discover-Tech.

Demnach habe das Unternehmen dafür die Plattform „Controlium“ betrieben. Dort hätten Kund*innen gezielt Geräte auswählen können, die nicht nur schnöde Online-Werbung erhalten, sondern auch schädlichen Programmcode.

Das Perfide: Die Zielpersonen müssten dafür weder auf die manipulierte Anzeige klicken noch könnten sie die Infektion bemerken. Auch die Apps und Websites, wo die Werbung anzeigt wird, können laut Citzen Lab nicht nachvollziehen, was genau Anbieter mit ihren Werbeanzeigen auf die Geräte der Nutzer*innen spielen.

Anzeigen verteilte Discover-Tech laut Citizen Lab an Handys (Android/iOS) und Rechner. Ein Hack klappt jedoch nur mit ausnutzbaren Schwachstellen. Bei Al Jazeera war das laut Citizien Lab bei Windows der Fall. Die Forschenden gehen nicht näher darauf ein, inwiefern auch Android- und iOS-Geräte gehackt werden konnten.

Gefahr für Journalist:innen, Opposition und Zivilgesellschaft

Bereits im Vorfeld der Untersuchung gab es erste Berichte, dass Hersteller von Staatstrojanern auch das Ökosystem der Online-Werbung nutzen, um Zielpersonen zu finden und ohne Klicks zu hacken. Es ist bezeichnend, dass mit Al Jazeera der wohl erste öffentlich dokumentierte Fall von „AdFection“ ausgerechnet Medienschaffende getroffen haben soll.

Mehrfach schon wurden etwa Aktivist*innen, Oppositionelle oder Journalist*innen zum Ziel von Staatstrojanern. Zum Einsatz kommen sie aber nicht nur in autoritären Regimen, auch Behörden in Deutschland und der EU setzen sie ein.

Die israelische Firma Candiru, deren Trojaner dem Bericht zufolge gegen Geräte des Nachrichtensenders Al Jazeera eingesetzt worden sein soll, ist keine Unbekannte. Gefunden wurde der Staatstrojaner unter anderem auf Geräten in Usbekistan, Saudi-Arabien, Spanien, Ungarn, dem Jemen und Palästina. Auch der deutsche EU-Abgeordnete Daniel Freund (Grüne) wurde Ziel eines Angriffs mit Candirus Software, der allerdings erfolglos blieb. Mindestens seit 2018 interessierten sich auch deutsche Sicherheitsbehörden für das Programm. Einem Bericht der israelischen Zeitung Haaretz aus dem Jahr 2021 zufolge stand Deutschland sogar auf der Kundenliste. Die Bundesregierung wollte dazu keine Auskunft geben.

Das Unternehmen wurde 2021 wegen seiner Spionage-Aktivitäten auf eine Liste der US-Regierung für Exportbeschränkungen gesetzt. 2025 wurde Candiru an die US-Investmentfirma Integrity Partners verkauft. Auf eine Presseanfrage von netzpolitik.org und dem BR reagierte Candiru nicht.

Werbung in beliebten Apps geschaltet

Die Forschenden des Citizen Lab haben interne Log-Dateien über Gebote für Werbeplätze von Discover-Tech ausgewertet. Das erlaubte ihnen grobe Annahmen darüber, welche Reichweite und Ziele das Unternehmen möglicherweise hatte.

Knapp vier Milliarden Mal soll Discover-Techs eigene Werbeplattform im Zeitraum von März bis Juni 2026 an Auktionen um Online-Werbeplätze teilgenommen und dazugehörige Daten verarbeitet haben. Das entspricht mehreren Hundert Geboten pro Sekunde – und ist laut Untersuchung nur ein Ausschnitt der Aktivitäten von Discover-Tech im genannten Zeitraum.

Rund drei Viertel der Gebote hätten demnach Werbeplätze in Handy-Apps betroffen, knapp ein Viertel Werbeplätze im Browser. Insgesamt zählten die Forschenden Daten zu Geboten für Werbeplätze in rund 70.000 Apps und auf rund 120.000 Websites. Selbst überprüfen konnte netzpolitik.org diese Zahlen nicht.

Der Bericht nennt mehrere bekannte Apps, über die potenziell infizierte Werbung von Discover-Tech ausgespielt worden sein soll, darunter die in Deutschland ansässige Wetter-App Wetter Online, die Dating-Apps Grindr und Badoo, die Sprachlern-App Duolingo und der Messenger Viber. Wir haben die Pressestellen der jeweiligen Apps gefragt, ob ihnen die Möglichkeit von werbebasierten Attacken bekannt ist, und welche Konsequenz sie daraus ziehen. Eine Antwort erhielten wir nicht. Discover-Tech war in der Datenschutzerklärung von Wetter Online bis zum Februar 2025 als einer von damals mehr als 800 Werbe-Partnern gelistet.

Kostbarer Zugang zu Handys weltweit

Üblicherweise hoffen Werbetreibende darauf, dass ihre Anzeigen Menschen etwa zum Shopping oder zum Download einer App animieren. Für solche und andere Werbe-Erfolge haben die Forschenden laut Untersuchung jedoch kaum Hinweise gefunden. Anhand der untersuchten Daten sehen sie deshalb keine belastbaren Belege dafür, dass das Unternehmen mit den Werbeanzeigen Geld verdiene.

Das Mitmischen beim globalen Werbegeschäft verschafft einem Unternehmen wie Discover-Tech jedoch einen kostbaren Zugang zu Handys weltweit – und damit auch zu potenziellen Zielgeräten, die zahlende Kund*innen per Staatstrojaner hacken könnten. Dem Bericht zufolge wurden Werbeanzeigen von Discover-Tech auch auf Geräten angezeigt, die sich in sicherheitsrelevanten Netzwerken weltweit befanden.

„Dazu gehören die Netzwerke verschiedener Verteidigungsministerien, Streitkräfte, nationaler Cyberbehörden, zwischenstaatlicher Organisationen einschließlich der NATO sowie Netzwerke im Zusammenhang mit kritischer Infrastruktur“, heißt es im Bericht. Betroffen seien auch staatliche Stellen von europäischen Länder wie Norwegen, Schweden und Dänemark sowie Israel, Russland und den USA.

Selbst wenn mit den erwähnten Anzeigen keine Infektion einher gegangen sein sollte: Den Forschenden zufolge ermöglichten sie mindestens das Sammeln von Daten, um Profile von Nutzenden zu bilden.

Über weitere technische Beobachtungen konnten die Forschenden zudem eingrenzen, welche Länder anhand der Daten aus Werbeauktionen offenbar besonders ins Visier geraten sind. Gewichtet nach Bevölkerung seien das im genannten Zeitraum vor allem Montenegro, Jemen, Armenien, Lettland und die Seychellen.

Eng vernetzt mit der digitalen Werbeindustrie

Dem Citizen Lab zufolge war Discover-Tech bis vor Kurzem nicht nur mit zahlreichen Akteuren der Überwachungsindustrie eng vernetzt, sondern auch ein etablierter Player der Online-Werbe-Welt.

Eine zentrale Rolle spielte hierbei wohl Google, das unter anderem mit seinem Werbemarktplatz eine wichtige Infrastruktur der Industrie betreibt. Die israelische Firma war bei Google als externer Anbieter (External Vendor) und als Anbieter von Werbetechnologie (Ad Technology Provider) gelistet. Das bedeutet dem Bericht zufolge, dass Discover-Tech Werbung über Googles Ad-Manager-Plattform ausspielen und über Google Daten von App- und Website-Nutzer*innen beziehen konnte.

Nach eigenen Angaben prüft Google Unternehmen, bevor der Konzern sie an die eigenen Systeme anschließt, und bezeichnet die externen Anbieter als „zertifiziert“. Dem Citzen Lab zufolge haben diese Label Discover-Tech nicht nur beim Datenzugang geholfen, sondern auch dabei, sich als legitimes Werbeunternehmen darzustellen. Nachdem die Forschenden Google über ihre Funde informierten hatten, verlor Discover-Tech den Status.

Google habe „Discover-Tech wegen systematischer Verstöße gegen unsere Richtlinien von unseren Werbeplattformen ausgeschlossen“, bestätigt die Pressestelle auf Anfrage.

Auch beim europäischen Dachverband für die digitale Werbebranche IAB Europe hatte Discover-Tech bis vor Kurzem noch einen Status als „zertifizierter“ Anbieter. Die Organisation stellt mit dem „Transparancy and Consent Framework“ den technischen Standard, über den in Europa Einwilligungen von Nutzer*innen zum Werbe-Tracking eingeholt werden. Die Listung bei IAB Europe habe dem Unternehmen geholfen, die eigenen Dienste als kompatibel mit der Datenschutzgrundverordnung zu vermarkten, so der Bericht.

Auf Anfrage bestätigt IAB Europe, Discover-Tech nach einem Audit suspendiert zu haben. Der Verband betont aber auch, er sei „nicht für forensische oder kriminalistische Untersuchungen ausgestattet und habe dazu auch kein Mandat“.

Werbung ausgespielt haben soll Discover-Tech auch über Plattformen anderer Anbieter wie Eskimi aus Litauen und Beeswax, das zum US-Kabel-Konzern Comcast gehört. Ob dabei auch infizierte Werbung verbreitet wurde, konnten die Forschenden nicht prüfen.

Eskimi bestätigt auf Anfrage von netzpolitik.org und BR, dass Discover-Tech seit 2022 an die Werbeplattform des Unternehmens angeschlossen war. Die Aktivität dort habe jedoch nur einen kleinen Umfang von mehreren Hundert US-Dollar gehabt. „Sobald das Verhaltensmuster des Werbetreibenden in seiner Gesamtheit erkennbar war, haben wir alle seine Konten, Nutzer und zugehörigen Domains dauerhaft gesperrt“, schreibt Eskimi-Chef Vytas Paukstys. Die letzte Kampagne von Discover-Tech sei am 6. August beendet worden.

Beeswax äußerte sich auf eine Presseanfrage bisher nicht.

„Es ist desaströs“

Die Enthüllungen des Citizen Lab sind ein weiterer Beleg dafür, dass das Online-Werbe-Ökosystem in seiner aktuellen Form eine Gefahr darstellt – nicht nur für die Privatsphäre aller Internetnutzer*innen, sondern auch für die Sicherheit von Menschen und Staaten. Um zielgenaue Werbung ausspielen zu können, haben private Firmen den wohl größten Überwachungsapparat der Menschheitsgeschichte errichtet. Ihr Geschäftsmodell basiert darauf, das Verhalten von Menschen möglichst umfassend in Datenform zu erfassen und auszuwerten.

Dass diese Daten längst nicht nur für Werbezwecke genutzt werden, zeigen seit 2024 unter anderem Recherchen von netzpolitik.org und dem Bayerischen Rundfunk. Die Databroker Files haben aufgedeckt, wie Datenhändler unter anderem metergenaue Standortdaten verkaufen, die beliebte Smartphone-Apps angeblich nur für Werbung sammeln. Einige Überwachungsfirmen haben sich darauf spezialisiert, diese und weitere Daten aus der Online-Werbeindustrie für staatlichen Kunden aufzubereiten, etwa Geheimdienste und Sicherheitsbehörden.

Der Fachbegriff dafür ist ADINT („Advertising-based Intelligence“), auf Deutsch: werbebasierte Aufklärung. Die neue Untersuchung des Citizen Lab belegt nun, dass sich Online-Werbung nicht nur für passive Überwachung etwa durch Geheimdienste, sondern auch für aktive Angriffe auf Geräte nutzen lässt.

„Es ist desaströs, dass große Firmen und Organisationen in der Online-Werbung offenbar jahrelang nicht in der Lage waren, diese bösartigen Werbeaktivitäten zu verhindern – oder auch nur zu erkennen“, kommentiert Co-Autor Wolfie Christl die Untersuchung. „Aufsichtsbehörden von Cybersicherheit bis Datenschutz und die Politik in Europa, den USA und in anderen Regionen müssen dringend aktiv werden.“

Bereits vor drei Jahren, im November 2023, warnte Christl gemeinsam mit der Irish Civil Liberties Union in einem Bericht vor der unkontrollierten Online-Werbe-Industrie als „Europas versteckter Sicherheitskrise“.

Selbstverteidigung per Ad-Blocker

„Es ist schwierig, wenn nicht fast unmöglich, sich zuverlässig vor bösartigen Werbeanzeigen zu schützen“, schreibt Christl heute. „Unsere Forschung bestätigt einmal mehr: Das Blockieren von Online-Werbung ist für die IT-Sicherheit obligatorisch.“

Um kurzfristig Abhilfe zu schaffen empfiehlt der Bericht insbesondere Sicherheitsbehörden und allen, die für IT-Sicherheit zuständig sind, Online-Werbeanzeigen möglichst zu blockieren. Auf dienstlichen Geräten sollten überall Ad-Blocker und möglichst Tracking-arme Browser installiert sein. Auch gewöhnlichen Nutzer*innen empfehlen die Forschenden Werbe-Blocker im Browser und wenn möglich auch netzwerkseitig.

Auf Anfrage von netzpolitik.org und BR schreibt das Bundesamt für Verfassungsschutz, die „Infektionsmöglichkeit“ durch Online-Werbung ohne weitere Klicks sei bekannt. Weiter schreibt der Inlandsgeheimdienst: „Da die Gefahr in Bezug auf Privatsphäre und Datensicherheit bei jeglicher Nutzung von Online-Diensten gegeben ist, sollte sich nach Auffassung des BfV jedermann mit dem Thema auseinandersetzen und das eigene Nutzungsverhalten (kritisch) reflektieren bzw. dahingehend anpassen.“

Die Forschenden des Citizen Lab fordern allerdings auch politische Lösungen. Demnach müssten Aufsichtsbehörden umgehend Untersuchungen zur AdFection-Problematik einleiten und insbesondere die genannten Firmen ins Visier nehmen. Sie müssten außerdem das digitale Werbe-Ökosystem als Ganzes in den Blick nehmen und bestehende Gesetze durchsetzen, etwa im Bereich Datenschutz.

Wohl auch im Bewusstsein, dass Sicherheitsbehörden AdFection für das eigene Arsenal an Cyber-Waffen interessant finden könnten, fordern die Forschenden eine größtmögliche Ächtung der Angriffsmethode. „Zu diesen Maßnahmen können der Einsatz von Sanktionen (…) gegen Unternehmen gehören, die Spionagesoftware nutzen und Spionage über gezielte Werbung betreiben, sowie gegen die Unternehmen, die dies ermöglichen, und die Personen, die im Bereich von AdFection tätig sind.“

In der Pflicht sehen die Forschenden auch Anbieter für die Infrastruktur der Werbebranche, etwa Google oder IAB Europe. Sie müssten endlich ernst machen gegen den Missbrauch von Online-Werbung. Dazu gehöre ein eigenes Screening von Werbeanzeigen auf gefährliche Inhalte und das Teilen von Daten mit IT-Sicherheitsforscher*innen. Außerdem müssten sie Werbefirmen, die sie als zertifizierte Partner listen, regelmäßig prüfen.

Update, 16. Oktober, 12 Uhr: Wir haben einen Absatz darüber ergänzt, dass ein Hack nur mit ausnutzbaren Schwachstellen gelingt. Weil der Fokus auf Handys irreführend sein kann, haben wir in Überschrift und Teaser „Handy“ durch „Gerät“ ersetzt und das Artikelbild angepasst.

–––

Deine Spende für digitale Freiheitsrechte
Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich aus den Spenden unserer Leser:innen. Jetzt spenden.

„Freiheit, Sicherheit und Wohlstand – in Europa, für Europa und mit Europa.“ Was klingt wie die Losung aus einer Rede zur Lage der EU, ist keine Ansprache einer Spitzenpolitikerin. Es ist Teil einer Antwort des Tech-Riesen Palantir auf eine Presseanfrage eines europäischen Rechercheteams. Mehr Europa hätte wohl schwerlich in einen Satz gepasst.

Doch Palantir ist ein milliardenschwerer US-Konzern mit angeschlagener Reputation, der in Europa unter Druck steht. Immer mehr europäische Regierungen distanzieren sich. Sie sorgen sich um digitale Souveränität und wachsende Abhängigkeit.

„Wir können im digitalen Bereich keine neuen strategischen Abhängigkeiten akzeptieren“, sagte etwa der französische Premierminister Sébastien Lecornu im Juni und kündigte statt einer weiteren Palantir-Kooperation die Entwicklung eigener Systeme mit der inländischen Firma Chapsvision an.

Die europäischen Länder haben Angst um sensibles internes Organisationswissen und die Sicherheit der unzähligen Daten, die von Palantir-Systemen verarbeitet werden. Es sei nicht vorstellbar, „Industriemitarbeiter auf den nationalen Datenbestand zuzulassen“, sagte Bundeswehr-Vizeadmiral Thomas Daum gegenüber dem Handelsblatt. Denn bei der NATO, die Palantirs System Maven nutzt, würden Mitarbeitende des Unternehmens das System bedienen und warten. Auch bei deutschen Polizeien wie in Hessen stehen laut einem Dokumentarfilm Schreibtische für Palantir-Mitarbeiter.

Zugleich wächst der Druck aus der Zivilgesellschaft, sich klar von Palantir zu distanzieren. In Großbritannien protestierten Menschen gegen alte und neu geplante Verträge mit dem Milliarden-Konzern wegen menschenrechtlicher Bedenken, die Palantir immer wieder zurückweist. In Berlin demonstrierten Menschen gegen eine Preisverleihung, bei der Palantir-Mitgründer Peter Thiel den Axel Springer Award verliehen bekam.

Das Unternehmen wehrt sich immer wieder gegen Vorwürfe. „Technologische Souveränität sollte letztlich daran gemessen werden, wer die Kontrolle über die Daten, die Entscheidungen und den Auftrag hat – und nicht lediglich an der Nationalität des Softwareanbieters“, schreibt Palantir auf Anfrage des Rechercheteams und betont, was es schon alles für Europa getan habe. „Seit 2011 arbeitet Palantir mit den demokratisch gewählten Regierungen und Institutionen Europas zusammen, um die Kapazitäten von Krankenhäusern zu erhöhen, Krebsdiagnosen zu beschleunigen, Flüchtlinge sicher umzusiedeln, die Organisierte Kriminalität zu bekämpfen, Opfer häuslicher Gewalt zu schützen und schneller auf Überschwemmungen und andere Notfälle zu reagieren.“

Aber wo in Europa nutzen Regierungen derzeit noch Palantirs Software und wofür? Und wo wenden sie sich von dem US-Konzern ab? Diese Fragen haben Journalist:innen in ganz Europa mehrere Monate lang recherchiert.

Palantir im Gesundheitssystem

Nach den Recherchen ist Großbritannien der mit Abstand größte europäische Kunde von Palantir. Dort bekam das Unternehmen millionenschwere Aufträge für das britische Gesundheitssystem NHS. Das britische Medium The Nerve erfuhr durch Informationsfreiheitsanfragen an NHS und das Gesundheitsministerium, dass bis März 2026 etwa 198,4 Millionen Pfund (umgerechnet 235 Millionen Euro) für eine neue Datenplattform an Palantir flossen. Dazu kamen 69 Millionen Pfund (82 Millionen Euro) für andere NHS-Projekte zwischen 2020 und 2024 sowie fast zwei Millionen Pfund (über zwei Millionen Euro) beim Gesundheitsministerium zwischen 2020 und 2022.

Für die erstgenannte Datenplattform sind weitere Ausgaben vorgesehen. So könnten die Gesamtausgaben im Gesundheitswesen für Palantir seit 2020 auf über 401 Millionen Pfund (475 Millionen Euro) steigen, schreibt The Nerve. Dazu kommen weitere Ministerien. Zuletzt erhielt der US-Konzern im Dezember 2025 einen 240 Millionen Pfund (284 Millionen Euro) schweren dreijährigen Auftrag vom britischen Verteidigungsministerium. Mehr als eine Milliarde Euro kommen so durch aktuelle oder vergangene Verträge über verschiedene Bereiche im Vereinigten Königreich hinweg für das US-Unternehmen zusammen.

Auch die britische Regierung bestätigte im Frühjahr, dass sie zu prüfen plane, ob die NHS-Verträge nach Ablauf einer Ausstiegsklausel im Februar 2027 weiterlaufen sollen, obwohl die Millionensummen bereits geflossen sind. Denn auch im Vereinigten Königreich wird die Zusammenarbeit mit Palantir zunehmend kritisch betrachtet.

Das Unterhaus des Parlaments beauftragte eine Prüfung der Ausgaben, der Verwaltung und der Politik des Ministeriums für Wissenschaft, Innovation und Technologie. Der daraufhin erschienene Bericht des Science, Innovation and Technology Committee vom 3. Juni 2026 widmet sich insbesondere der problematischen Abhängigkeit von Palantir.

Von den Technologieanbietern im britischen öffentlichen Sektor bereite der US-Konzern „die größten Sorgen“. Er unterstütze in den USA „höchst umstrittene Politiken und Maßnahmen“. Der Bericht weist auch darauf hin, dass sich einer der Mitgründer von Palantir – Peter Thiel – „gegen das Konzept einer nationalen Gesundheitsversorgung ausgesprochen“ hätte. Der Konzern zeige eine „klare Diskrepanz zu den Werten des Vereinigten Königreichs“. Daher empfiehlt der Bericht, Palantir solle künftig „keine so wichtige Rolle im öffentlichen Sektor des Vereinigten Königreichs spielen“.

In Deutschland war Palantir im Gesundheitsministerium hingegen offenbar nie ein Thema. Auf eine Presseanfrage von netzpolitik.org aus dem Frühsommer antwortete das deutsche Gesundheitsministerium mehrfach schlicht mit „Nein“ auf Fragen nach aktueller oder vergangener Nutzung sowie nach Lobbygesprächen mit dem Unternehmen. Auf die Frage nach dem Warum heißt es ebenso knapp: „Kein Bedarf.“

Palantir in den Ländern

Auch bei den meisten anderen Ministerien in Deutschland: Fehlanzeige. Das Bundeskanzleramt hingegen schrieb, aus „Sicherheitsgründen“ gebe man „grundsätzlich keine Informationen zur IT-Infrastruktur“ bekannt. In seiner Zuständigkeit liegt unter anderem der deutsche Auslandsgeheimdienst BND. Der verweigerte ebenso, eine aktuelle oder künftige Nutzung von Palantir zu bestätigen oder zu dementieren – ebenso wie der Bundesverfassungsschutz und der Militärgeheimdienst MAD.

Das Bundesinnenministerium verwies hingegen auf den Rahmenvertrag, den das Bundesland Bayern mit Palantir hat. „Aus dem geschlossenen Mantelrahmenvertrag sind die Länder und der Bund im Rahmen des Programms P20 selbstständig abrufberechtigt“, schreibt ein Sprecher des BMI. Aber: „Weder das Bundesministerium des Innern, das Bundeskriminalamt noch die Bundespolizei nutzen oder nutzten in der Vergangenheit Produkte oder Dienstleistungen von Palantir Technologies Inc. oder eines seiner Tochterunternehmen.“

P20 ist ein Großprojekt, das die IT-Infrastruktur der deutschen Polizeien harmonisieren soll. Dabei sollen die Polizeien auch auf gemeinsame Verfahren zugreifen können, etwa zur Datenanalyse. Von wem letztlich ein solches Verfahren kommt, wenn das Projekt fertig ist, steht noch nicht fest.

Währenddessen nutzen einige Länderpolizeien Palantir-Software bereits: Bayern, Baden-Württemberg, Hessen und Nordrhein-Westfalen haben Verträge mit Palantir. Aus Zahlen, die die Länder offenlegen, wird deutlich, dass für ihre Palantir-Nutzung während der Vertragslaufzeiten Kosten von mehr als 95 Millionen Euro anfallen. Wobei wohl nicht der gesamte Betrag an die deutsche Tochter von Palantir fließt, die Beträge können auch Ausgaben für Hardware oder Betriebskosten enthalten.

Auf der Suche nach Alternativen

Bayern etwa gab auf Anfrage von paper trail media im April Lizenz- und Implementierungskosten von 22,2 Millionen Euro an, ein Gutachten des Fraunhofer-Instituts für Sichere Informationstechnologie für 430.000 Euro, dazu Wartung, Betrieb und Sonstiges für rund eine weitere halbe Million Euro. Sogenannte Quellanbindungen haben in Bayern mehr als zwei Millionen Euro gekostet. Damit ist gemeint, Datenquellen der Polizei in die Systeme einzubinden. „Als Quelldaten dienen hier ausschließlich eigene polizeiliche Datenbestände“, so das Bayerische Innenministerium. „Die Einbeziehung von Daten anderer Behörden (z. B. von Gesundheitsbehörden) oder Quellen erfolgt nicht und ist auch nicht geplant.“

Die Kosten für das System, das in Bayern „VeRA“ heißt, kommen so insgesamt auf 25.315.935 Euro. Im April 2027 endet eigentlich die Vertragslaufzeit. Doch Bayern will das Geschäftsverhältnis mindestens um ein weiteres Jahr verlängern.

Ein paar Bedenken bringt das dortige Innenministerium aber vor: „Bayern verfolgt das Ziel, langfristig digital unabhängiger und souveräner zu werden“, schreibt es auf Anfrage von netzpolitik.org. Daher beobachte man „die aktuellen Marktentwicklungen intensiv“ und begleite „aktiv die Bestrebungen auf Bundes- und Länderebene im Hinblick auf deutsche oder europäische Alternativen“. Aber man könne auch nicht „auf die wertvollen Analysefähigkeiten verzichten, die VeRA bietet“.

Eine Verlängerung um ein Jahr, so Bayern, sei vertraglich vier Mal möglich. Wie viel das kosten wird, ist derzeit noch unklar: „Die Bayerische Polizei befindet sich hierzu derzeit in Gesprächen mit der Firma Palantir. Zu den möglichen Kosten einer Vertragsverlängerung können wir daher zum jetzigen Zeitpunkt noch keine Auskunft geben.“

Ein schwieriger Übergang

Ebenfalls um ein Jahr verlängert wird Palantirs Vertrag mit Nordrhein-Westfalen, der in diesem Oktober ausläuft. Seit 2019 gab das Land für sein System zur „Datenbankübergreifenden Analyse und Recherche“, kurz DAR, mehr als 47 Millionen Euro aus. „Die Gesamtkosten des DAR-Projekts für den Zeitraum von 2019 bis 2025 betrugen 39 Millionen Euro“, hieß es aus dem Land im April. „Darüber hinaus sind bereits im Kontext der Implementation Kosten in Höhe von rund 8 Millionen Euro, beispielsweise für die Beschaffung von Hardware, Beratungs- und Dienstleistungen, Nutzungsgebühren, angefallen.“

Um einen Nachfolger für das DAR-Projekt zu finden, schrieb das Land im April dieses Jahres die Software neu aus. Der Nachfolger, so wird aus der Ausschreibung deutlich, soll mehr tun als nur Daten zusammenführen. Mit dem erneuerten NRW-Polizeigesetz „entfällt das Verbot des Einsatzes künstlicher Intelligenz und Möglichkeiten des Dataminings werden eröffnet“, heißt es in der Beschreibung. „Die zu beschaffende Lösung soll das entstehende Potenzial bedienen und die Möglichkeiten des Einsatzes künstlicher Intelligenz, insbesondere in Form der Nutzerunterstützung, der Effizienzsteigerung und bei der Erstellung von nicht personenbezogenen Analysen für die Polizei NRW eröffnen.“ Dazu dürfen auch gespeicherte echte Daten von Menschen schon für das Training der „KI“ verwendet werden.

Wer den Zuschlag für das Projekt bekommt, ist bisher nicht bekannt. Mit dem Ende des Vergabeverfahrens sei im Oktober zu rechnen. Auf eine Nachfrage von netzpolitik.org hat das dortige Innenministerium nicht geantwortet.

Aus Baden-Württemberg heißt es, für den mit Palantir unterzeichneten Vertrag aus dem März 2025 beliefen sich die Lizenzkosten für eine Laufzeit von fünf Jahren auf 25 Millionen Euro. Bislang ist die Software zur automatisierten Datenanalyse jedoch wegen nötiger Vorarbeiten noch nicht im Einsatz. Gleichwohl sucht die grün-schwarze Landesregierung schon nach einer Alternative. „Kurzfristig soll zeitnah die Software von Palantir eingesetzt werden – und zwar als Übergangslösung für einen begrenzten Zeitraum“, hieß es im April aus dem dortigen CDU-geführten Innenministerium.

Nach dieser Übergangszeit habe der damalige Innenminister Thomas Strobl eine Kooperation für eine europäische Software auf den Weg gebracht. „Diese soll den Sicherheitsbehörden die notwendigen technischen Fähigkeiten zur Recherche und Analyse großer Mengen polizeilicher Daten langfristig und unabhängig gewährleisten.“ Am Projekt sind die Airbus Defence and Space GmbH und die Digitalsparte der Schwarz-Gruppe beteiligt.

Der neue grüne Ministerpräsident Cem Özdemir versprach gegenüber dem Handelsblatt schon im Wahlkampf im Dezember 2025, sich von Palantir lösen zu wollen: Die Software würde er „so schnell wie möglich durch eine europäische Alternative ersetzen“. Auch die mitregierende CDU will weg vom US-Riesen. Man wolle „zunehmende europäische Eigenständigkeit“, sagte eine Sprecherin der CDU Baden-Württemberg im Juni 2026 gegenüber netzpolitik.org: „Darum streben wir gerade hier digitale Souveränität an und setzen uns weiterhin aktiv und intensiv dafür ein, dass spätestens bis zum Jahr 2030 eine europäische Alternative zu Palantir bereitgestellt wird.“

Das Bundesland Hessen beschaffte schon im Jahr 2017 eine Software des damals noch wenig bekannten Unternehmens. Wie schon zuvor gibt es keinerlei Auskunft darüber, welche Kosten für das dortige Palantir-System Hessendata angefallen sind. Das sei „zur Erfüllung bundesgesetzlicher Pflichten zur Einhaltung des vergaberechtlich erforderlichen Geheimwettbewerbes und zum Schutze der Betriebs- und Geschäftsgeheimnisse“ ausgeschlossen.

Doch während in Deutschland Verträge auslaufen und die Länder nach Alternativen suchen, hat Palantir anderswo Erfolg, besonders wenn es um Streitkräfte geht. In acht der elf europäischen Länder, in denen das Recherche-Team Palantir-Verträge auf nationaler Ebene fand, gibt es Geschäftsbeziehungen mit Streitkräften oder Verteidigungsministerien: Dänemark, Finnland, Italien, Niederlande, Ukraine, Spanien, Schweden und Großbritannien.

In weiteren drei Ländern gibt es Diskussionen darüber, Software des US-Konzerns für militärische Zwecke zu kaufen, etwa in Norwegen, das über das Palantir-System Maven diskutiert. Oder in Polen, wo das Verteidigungsministerium im Oktober 2025 eine Absichtserklärung für eine Partnerschaft mit Palantir unterzeichnete.

(Fast) keine militärische Nutzung in Deutschland

Andere Länder wie Deutschland und Belgien nutzen keine Palantir-Produkte für ihre nationalen Armeen. In der Schweiz prüften Armee und Bundesamt für Rüstung Palantir-Produkte gleich mehrfach, wie Republik und WAV herausfanden. Und entschieden sich immer wieder gegen das Unternehmen.

Bundeswehr-Vizeadmiral Thomas Daum erteilte dem Anbieter im Interview mit dem Handelsblatt eine Absage. Aber ganz kommen sie um den Anbieter doch nicht herum – wenn sie in der NATO agieren. Die kaufte 2025 „Maven Smart System“ ein. Das System soll militärische Entscheidungen unterstützen, Datenquellen zusammenführen und mögliche Ziele identifizieren.

Tech-Expertin Francesca Bria kritisiert gegenüber Follow The Money, wie Palantir in immer mehr wichtige Systeme einsickert. Die Wirtschafts- und Sozialwissenschaftlerin setzt sich unter anderem im Rahmen des Projekts EuroStack für mehr digitale Souveränität ein. Eine Abhängigkeit von Palantir in kritischen Infrastrukturen berührt laut Bria eine fundamentale Frage: „Es ist kein gewöhnliches Unternehmen.“ Palantir-CEO Alex Karp selbst sagt, dass Palantir die Interessen des US-Militärs über alles andere stellt. Ein Unternehmen, das so eng mit der US-Regierung und deren Ziel der amerikanischen Vorherrschaft verflochten ist, sei ein entscheidender Bestandteil der Infrastruktur einer neuen Art von Macht – einer Macht, die auf Technologie und Abhängigkeit basiert. „Europa hat seine sensibelsten Systeme einem Unternehmen anvertraut, das die Interessen Europas niemals an erste Stelle setzen wird“, so Bria.

Es sei gefährlich, so Bria, dass Palantirs Software „tief in das Gefüge unserer Gesellschaft eingebettet ist“ und die Daten von Millionen Europäern verarbeite. Die Software selbst sei nicht transparent: „Nicht einmal gegenüber europäischen Regierungen. Das macht eine demokratische Kontrolle unmöglich. So sollten kritische öffentliche Systeme nicht funktionieren.“

„Jeder könnte ein potenzieller Kunde sein“

Palantir sieht das anders. Der Konzern schreibt auf Anfrage des Recherche-Teams: „Zu unseren europäischen Kunden zählen einige der anspruchsvollsten, sicherheitsbewusstesten und skeptischsten Institutionen der Welt. Sie entscheiden sich für Palantir, weil unsere Software funktioniert – und weil sie dabei die Kontrolle behalten.“ Außerdem, so Palantir, befänden sich mittlerweile mehr als 20 Prozent der Angestellten des Unternehmens in Europa. Dort hat der Konzern in vielen Ländern eigene Niederlassungen und Tochterunternehmen.

In Deutschland ist das die Palantir Technologies GmbH in München. Zu den Zielen des Unternehmens gehört es laut Jahresabschluss für 2024, „die Stärke und den guten Ruf der Palantir-Softwareplattformen weiter zu nutzen, um die Kundenbeziehungen sowohl im kommerziellen als auch im staatlichen Bereich zu erweitern und zu vertiefen“. Denn: „Langfristig sind wir davon überzeugt, dass jedes große Unternehmen und jede staatliche Organisation in Deutschland ein potenzieller Kunde sein könnte.“ Doch all die bisherigen staatlichen Kunden in Deutschland sind aktiv auf der Suche nach einem neuen Partner.

–––

Deine Spende für digitale Freiheitsrechte
Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich aus den Spenden unserer Leser:innen. Jetzt spenden.

Der Europäische Datenschutzausschuss (EDPB), in dem die Datenschutzbehörden der EU-Mitgliedsländer organisiert sind, warnt in einer Stellungnahme vor Überwachungsbrillen (Smart Glasses). Die Geräte würden „erhebliche Fragen zum Schutz der personenbezogenen Daten sowie der Rechte und Freiheiten des Einzelnen“ aufwerfen.

Kern der Kritik der Datenschutzbehörden ist, dass die Geräte aussehen würden wie gewöhnliche Brillen, aber Kameras und Mikrofone enthielten und mit dem Internet verbunden seien, so die EDPB-Vorsitzende Anu Talus. „Dies wirft ernsthafte Bedenken hinsichtlich der Privatsphäre auf, da Einzelpersonen ohne ihr Wissen aufgezeichnet werden können.“

Sorge bereitet den Datenschützer:innen vor allem die Nutzung der Überwachungsbrillen in sensiblen Umgebungen wie Krankenhäusern, Schulen und an Arbeitsplätzen. Die Risiken würden noch größer, wenn die Aufzeichnungen in sozialen Netzwerken genutzt würden.

Klare Kennzeichnung gefordert

Eine der wichtigsten Herausforderungen der Geräte sei die Transparenz. So können Unbeteiligte womöglich nicht unmittelbar erkennen, dass es sich um ein Gerät handelt, das Ton- und Bildaufnahmen macht und mit dem Netz verbunden ist. „Aufgrund ihrer unauffälligen Erscheinungsform und Verwendung ist es möglich, dass Umstehenden nicht bewusst ist, dass ihre personenbezogenen Daten verarbeitet werden“ – und auch nicht von wem und zu welchen Zwecken, heißt es in der Mitteilung.

EDPB-Vorsitzende Anu Talus fordert deswegen eine klare Kennzeichnung:

Intelligente Brillen sollten ihre Aufnahme deutlich machen – beispielsweise mit hellen LED-Leuchten, Audiosignalen oder Sprachaktivierungshinweisen, datenschutzfreundlichen Smartphone-Benachrichtigungen oder einzigartigen Designs. Diese Warnungen müssen zuverlässig, schwer zu ignorieren und immer auf dem neuesten Stand sein. Auch im öffentlichen Raum sollten Umstehende klar verstehen, dass jemand sie filmt oder fotografiert. Denn wenn es um die Privatsphäre geht, verdienen die Menschen klare Warnungen und keine versteckten Überraschungen.

Die erste Erklärung des Gremium zu den Brillen (PDF) soll Nutzer:innen, Herstellern und Diensteanbietern vorläufige Leitlinien an die Hand geben und gleichzeitig das Bewusstsein für die Risiken dieser Produkte schärfen.

„Schere im Kopf“ durch Überwachungsbrillen

In dieser Erklärung geht der Datenschutzausschuss noch tiefer auf die Bedrohungen für die Privatsphäre ein. So warnen die Datenschützer:innen etwa vor einer Art „Schere im Kopf“, die selbst klar gekennzeichnete Brillen auslösen könnten. „Dies könnte auch zu einem subtilen sozialen Effekt führen, bei dem Einzelpersonen ihr Verhalten ändern, Spontaneität unterdrücken und sich an soziale Normen anpassen, die aufgrund der wahrgenommenen Gefahr einer unkontrollierten Überwachung als gesellschaftlich akzeptabler angesehen werden“, heißt es im Leitfaden.

Die Datenschützer.innen warnen auch vor möglicherweise hoch entwickelten Mikrofonen, die Hintergrundgespräche aufzeichnen könnten, an denen der Nutzer der Brille nicht beteiligt ist. Weiter heißt es: „Zudem wirft ihre mögliche Nutzung in Verbindung mit Gesichts- oder Stimmerkennungssystemen beispiellose Fragen hinsichtlich gesellschaftlicher Entscheidungen auf und stellt ein hohes Risiko für die Rechte und Freiheiten im öffentlichen Raum dar.“

Verbote an bestimmten Orten

Als besonders gefährdete Orte bei der Nutzung nennt der Leitfaden medizinische Einrichtungen, Schulen und andere Orten, an denen Minderjährige anwesend sind, außerdem Umkleideräume, Schwimmbäder oder Strände, auf Toiletten oder in anderen privaten oder intimen Situationen. Auch am Arbeitsplatz könnten solche Brillen zu Problemen führen, wenn sich etwa Mitarbeitende überwacht fühlen oder Geschäftsgeheimnisse bedroht sind. In manchen der genannten Situationen seien solche Aufnahmen unpassend, in anderen sogar verboten, weist der Bericht auf bestehende Gesetze und mögliche Lücken hin.

Thema des Berichts ist auch die Auswertung der Aufnahmen durch so genannte KI-Systeme. Hierbei sei dann nicht nur der Nutzer datenschutzrechtlich verantwortlich, sondern auch der Hersteller der Brille. Dies sei „insbesondere dann der Fall, wenn der Anbieter der KI-Funktionen von Smartbrillen personenbezogene Daten verarbeitet, um dem Nutzer Informationen über seine Umgebung zu liefern, beispielsweise durch die Analyse eines Bildes aus dem Kamerasignal der Brille, auf dem andere Personen zu sehen sind.“

Maßnahmen zur Erkennbarkeit der Brillen

Der Europäische Datenschutzausschuss fordert eine sehr deutliche Kennzeichnung der Brillen, wenn diese aufnehmen. Dabei bringt das Gremium verschiedene Methoden ins Spiel, die im Bericht vorgestellt werden:

• Visuelle oder LED-Anzeigen, die „unter vielen Lichtverhältnissen sichtbar und ausreichend auffällig sein“ müssten, um die Aufmerksamkeit von Personen im Erfassungsbereich auf sich zu ziehen. Diese Signale sollten lange genug aktiviert sein, damit umstehende Personen verstehen können, dass die Smartbrille etwa Bilder oder Videos aufzeichnet, die von einem KI-Assistenten verarbeitet werden.
• Akustische Signale – Hierunter versteht der EDPB akustische Signale wie Kameraverschlussgeräusche oder eine Sprachaktivierung, bei der die Nutzer:innen der Brille einen lauten Befehl aussprechen müssen.
• Smartphone-basierte Benachrichtigungen – Hier verweisen die Datenschützer:innen auf mobile Anwendungen, die erkennen, wenn Smartbrillen in der Nähe sind. Dies lässt sich mittels Bluetooth-Kennungen umsetzen, die den jeweiligen Herstellern zugeordnet sind. Hierzu schlägt EDPB vor, dass die Brillen gesonderte Signale senden sollen, wenn sie aufnehmen. Solche Benachrichtigungen sollten jedoch nur ein Teil der Warnung sein, zudem dürfe dabei keine Nachverfolgbarkeit entstehen.
• Gestaltung der Smartbrille – Neben ausdrücklichen Hinweisen auf laufende Aufnahmen könnten die Hersteller solcher Brillen bereits im Design weitere Anhaltspunkte verankern. Dies sollte Nicht-Nutzer:innen helfen, Smartbrillen von gewöhnlichen Brillen zu unterscheiden.

Der Datenschutzausschuss sieht die jetzigen Leitlinien als ersten Aufschlag und kündigt an, die durch Smartbrillen aufgeworfenen Datenschutzbedenken weiter zu analysieren und zu bearbeiten.

–––

Deine Spende für digitale Freiheitsrechte
Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich aus den Spenden unserer Leser:innen. Jetzt spenden.

Finanzfluss versteht sich als Bildungs- & Informationsplattform zum Thema Finanzen. Mit aktuell 1,65 Millionen Abonnent:innen zählt ihr YouTube-Kanal zu den größten dieser Art im deutschsprachigen Raum. Seit zehn Jahren ist Finanzfluss auf verschiedenen Social-Media-Plattformen aktiv und bietet neben Verbraucherratgebern, Testberichten und Einschätzungen auch verschiedene Werkzeuge wie etwa Zins- oder Vergleichsrechner an.

Ab 2024 tauchten auf Instagram und Facebook immer wieder Anzeigen auf, die Finanzfluss durch Name, Logo oder Bild imitierten. Mit Versprechen wie exklusiven Anlagetipps wurden Nutzer:innen in private Chatgruppen gelockt, wo vermeintliche Investments angeboten wurden. Finanzfluss meldete mehr als tausend Anzeigen von über 300 Accounts – es dauerte teils bis zu zwei Monate bis zur Löschung. Und sie sind nicht allein mit dem Problem: Interne Schätzungen von Meta gingen davon aus, dass 2024 rund zehn Prozent der Einnahmen aus betrügerischer Werbung stammten.

Ein außergerichtlicher Austausch von Finanzfluss und Meta blieb ergebnislos. Daraufhin reichten das hinter Finanzfluss stehende Unternehmen Finflow GmbH gemeinsam mit dem Geschäftsführer und Gründer Thomas Kehl im Sommer 2025 Klage ein. Das Landgericht Frankfurt hat dieser mit dem Urteil vom 16. September stattgegeben.

„Sie nutzen das Vertrauen, das die Leute in unsere Arbeit haben“

netzpolitik.org: Was war genau der Inhalt eurer Klage?

Thomas Kehl: Es ging um betrügerische Anzeigen. Wir haben Meta zur Unterlassung aufgefordert und wollten ein Auskunftsrecht geltend machen. So wollten wir erfahren, wie und in welchem Umfang diese Werbung verbreitet wurde und wie viel Geld Meta damit verdient hat. Auf der Grundlage fordern wir Schadensersatz.

netzpolitik.org: Was ist die Betrugsmasche?

Thomas Kehl: Die Betrügenden erstellen Scam-Anzeigen mit meinem Bild oder mit Bezug zu Finanzfluss. Sie verwenden etwa unsere YouTube-Thumbnails. Sie nutzen das Vertrauen, das die Leute in unsere Arbeit haben. Die Scammer bauen über Wochen sukzessive Accounts auf und fördern die Reichweite der Accounts durch große Werbebudgets. Dadurch gehen an einem einzigen Tag massenhaft Anzeigen live. Diese zielen auf unsere Finanzfluss-Community. Wer dahintersteckt, lässt sich von außen kaum nachvollziehen. Soweit wir es sehen können, handelt es sich oft um Briefkastenfirmen im asiatischen Raum.

netzpolitik.org: Wie habt ihr von dem Betrug erfahren?

Thomas Kehl: Internetaffine Mitglieder unserer Community haben es gemerkt und uns gemeldet. Wir haben auch mit zwei Betroffenen gesprochen, die tatsächlich Geld verloren haben. Beide sprechen Deutsch nicht als Muttersprache. Dadurch war die Betrugsmasche für sie noch schwerer zu durchschauen.

„Die Meldefunktion war gefühlt zwecklos“

netzpolitik.org: Wie seid ihr mit Meta umgegangen?

Thomas Kehl: Wir haben jede Anzeige über die Meldefunktion gemeldet. Das war gefühlt zwecklos. Meta hat uns ein sogenanntes Brand Protection Tool zur Verfügung gestellt, das überhaupt nicht protected. Manche Anzeigen wurden erst viele Tage nach der Meldung entfernt. In der Zwischenzeit fallen sehr viele Leute auf die Masche rein.

Teilweise wurden unsere Beschwerden auch abgelehnt und die Anzeigen verschwanden erst später.

netzpolitik.org: Wie war euer Umgang mit den Betroffenen?

Thomas Kehl: Wir haben jedem Betroffenen, der uns angeschrieben hat, empfohlen, Strafanzeige zu erstatten.

netzpolitik.org: Wie hoch sind die Schäden bei den Betroffe­nen?

Thomas Kehl: Wir haben mit einer Person gesprochen, die rund 50.000 Euro verloren hat. In der Summe lässt sich der Schaden nicht beziffern, die Dunkelziffer ist groß. Viele schämen sich, weil sie sich selbst für „so dumm“ halten, darauf hereingefallen zu sein. Ich würde das niemandem vorwerfen. Es ist nämlich nicht mehr diese plumpe Masche von früher. Heute wird das mit KI-generierten Videos und gefälschten Chats sehr professionell gemacht.

netzpolitik.org: Was war die Haltung der Geschädigten, als sie euch kontaktiert haben? Wie seid ihr damit umgegangen?

Thomas Kehl: Die Person, die 50.000 Euro verloren hat, hat mich auf LinkedIn angeschrieben, nachvollziehbarerweise ziemlich wütend. Sinngemäß: Wegen deiner Aktientipps bin ich ruiniert, wir müssen sprechen. Ich habe geantwortet: Das tut mir sehr leid, aber wir geben grundsätzlich keine Aktientipps. Danach schickte er mir Screenshots von WhatsApp-Chats mit „Thomas Kehl“. Da war schnell klar, dass Leute mich imitiert haben.

netzpolitik.org: Wie kann man wissen, wann es sich um Fake-Anzeigen oder ‑Profile handelt?

Thomas Kehl: Wir haben eine klare Regel für unsere Community: Wir schalten keine Werbung. Wenn irgendwo „Finanzfluss“-Werbung auftaucht, geschieht das ohne unsere Zustimmung und ist Betrug. Außerdem achten wir darauf, auf den Plattformen verifiziert zu sein. Wir würden sehr gern einen WhatsApp-Channel starten, aber Meta verifiziert uns dort nicht. Deshalb lassen wir es.

Die Scammer locken Menschen auf WhatsApp und dort findet der Betrug statt. Ohne ein klares Unterscheidungsmerkmal wie eine Verifizierung können wir dort nicht neben den Scammern existieren.

Gesellschaftlicher Schaden wiegt schwer

netzpolitik.org: Habt ihr gemerkt, ob die Aktionen geschäftsschädigend für euch wirken?

Thomas Kehl: Natürlich schadet es uns, wenn massenhaft Werbung auftaucht, die auf unserem Vertrauen aufbaut und dieses missbraucht. Das geht allen prominenten Personen so, denen so etwas passiert. Gerade im Finanzbereich geschieht das vielen, auch Journalisten oder Influencern. Eckart von Hirschhausens Autorität als Arzt wurde beispielsweise genutzt, um unseriöse Pillen zu verkaufen. Ich würde aber sagen, dass der gesellschaftliche Schaden höher ist als unser Schaden als Firma. Nichtsdestotrotz sind beides Gründe, dagegen vorzugehen.

Den Betroffenen aus unserem konkreten Fall haben wir unterstützt, so gut wir konnten. Er hat das auch verstanden und bereitwillig in unserem Video mitgewirkt, um über den Fall aufzuklären.

netzpolitik.org: Was wolltet ihr mit der Klage erreichen?

Thomas Kehl: Wir haben uns zunächst aus zwei Gründen nur auf die Werbung konzentriert. Erstens hat sie eine viel größere Reichweite. Fake-Profile, die unsere Posts klauen, gibt es auch, aber gegen die kann man effizient vorgehen und sie haben kaum Reichweite. Zweitens verdient Meta mit der Werbung Geld. Deshalb lässt sich gut argumentieren, dass Meta auch dafür verantwortlich ist, welche Werbung sie verteilen. Meta sagt, das seien nicht ihre Inhalte und sie seien dafür nicht verantwortlich. Diesen Zahn hat das Gericht glücklicherweise gezogen: Meta hat die Anzeigen algorithmisch verteilt, und das genügt.

Andere sollen sich auf das Urteil berufen können

netzpolitik.org: Was bedeutet das Urteil jetzt weitergehend für Finanzfluss?

Thomas Kehl: Das Urteil ist noch nicht rechtskräftig. Meta hat einen Monat Zeit, Berufung einzulegen. Und davon ist auszugehen. Die nächste Instanz wäre das Oberlandesgericht Frankfurt. Darauf könnte der Bundesgerichtshof folgen. Wird das Urteil rechtskräftig, haftet Meta direkt für jede Anzeige mit meinem Bild oder mit Bezug zu Finanzfluss.

Bisher gilt der Notice-and-Take-Down-Mechanismus: Wir müssen jede Rechtsverletzung melden, und erst dann ist die Plattform verpflichtet, ihr nachzugehen. Das würde sich dann ändern. Wir könnten direkt auf Meta zugehen und sagen: Ihr habt hier eine Rechtsverletzung verursacht. Für jeden Verstoß gegen das Unterlassungsurteil könnten wir ein Ordnungsgeld von bis zu 250.000 Euro beantragen, das an die Staatskasse geht. Dazu kommt unser Schadensersatzanspruch.

Er bemisst sich an der Auskunft, die wir bekommen: wie oft die Anzeigen ausgespielt wurden und wie viel Geld Meta damit verdient hat. Dieses Geld steht Meta nicht zu, weil es mit rechtsverletzenden Inhalten verdient wurde. Wir sind die Inhaber der verwendeten Bilder. Uns ist klar, dass wir dieses Geld spenden würden, vermutlich für Verbraucherschutz. Wir wollen keinen Nutzen aus Betrug ziehen, so wie Meta das bisher gehandhabt hat.

netzpolitik.org: Wie schätzt ihr die weitergehende Bedeutung des Falles ein? Was könnte sich eurer Ansicht nach noch verbessern von Seiten Metas?

Thomas Kehl: Das Landgericht stützt sich auf eine sehr junge Rechtsprechung des Europäischen Gerichtshofs, der die Verantwortung von Plattformen gerade in diese Richtung entwickelt. Jetzt geht es darum, daraus nationale Präzedenzfälle zu machen.

Unser Wunsch ist, dass andere Betroffene sich auf dieses Urteil berufen können und nicht jeder bis zum Bundesgerichtshof gehen muss. Ich habe eine interessante Forderung gelesen und ich wundere mich, dass das noch nicht Pflicht ist. Wer bei Meta Werbung schaltet, sollte sich identifizieren müssen, so wie bei einer Kontoeröffnung. In Deutschland kann aktuell jeder ein Meta-Werbekonto eröffnen und Anzeigen schalten, ohne nachzuweisen, wer er ist. Dieser Forderung würde ich auf jeden Fall zustimmen.

netzpolitik.org: Ihr wünscht euch da also auch mehr Regulierung von Seiten der Politik, damit das nicht immer einzeln von Personen ausgefochten werden muss?

Thomas Kehl: Ja, definitiv.

–––

Deine Spende für digitale Freiheitsrechte
Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich aus den Spenden unserer Leser:innen. Jetzt spenden.

Wieder einmal hebeln Strafverfolgungsbehörden den Quellenschutz und damit die Pressefreiheit aus. Dieses Mal hat es „Die Zeit“ erwischt, bei der das Landeskriminalamt Hamburg und die Staatsanwaltschaft am Montag mit einem Durchsuchungsbeschluss für die Redaktion anrückte. Die Durchsuchung wehrte das Medium nur ab, weil es die fraglichen Daten freiwillig, „versiegelt“ und unter Widerspruch herausgab. Die Zeit protestiert gegen die Maßnahme, will den Durchsuchungsbeschluss anfechten und hofft darauf, dass die Daten vor einer gerichtlichen Entscheidung nicht genutzt werden.

Die Beschlagnahme von Interviewaufzeichnungen, also dem Rohmaterial eines Podcasts zum Block-Delling-Prozess beim Landgericht Hamburg, ist eine Frechheit. Der Schutz von Informant:innen und Quellen dient dazu, dass diese sich der Presse vertrauensvoll öffnen können, ohne Angst vor einer Enttarnung oder einer Verfolgung zu haben. Nur ein funktionierender Schutz der Quellen garantiert, dass die Presse ihre Aufgabe voll und ganz wahrnehmen kann.

Der Quellenschutz ist elementarer Bestandteil der Pressefreiheit – das ist auch höchstrichterlich mehrfach bestätigt worden. Grundsätzlich haben Journalist:innen ein umfassendes Zeugnisverweigerungsrecht, dazu kommt ein Beschlagnahmeverbot für Recherchematerial.

Pressefreiheit frontal angegriffen

Wer das, wie nun die Hamburger Ermittler, ignoriert, greift die Pressefreiheit frontal an. Das Bundesverfassungsgericht hat klargemacht, dass eine Durchsuchung in Redaktionsräumen nicht vorrangig dem Zweck dienen darf, den Verdacht von Straftaten durch Informanten aufzuklären – sondern dann schon die Pressevertreter:innen selbst beschuldigt sein müssen. Das ist bei der Zeit ausdrücklich nicht der Fall. Das Gericht will mit der Maßnahme neues Beweismaterial erheben und nebenbei die Glaubhaftigkeit der Zeugen überprüfen.

Wenn wir Staatsanwaltschaften, Polizeien und Gerichten solche Maßnahmen durchgehen lassen, erschüttern wir das Vertrauen in die Presse – und das schadet der Demokratie als Ganzes. Nur weil es sich beim Block-Prozess um ein Verfahren mit maximaler Medienaufmerksamkeit handelt, heißt das nicht, dass Polizei und Staatsanwaltschaft hier rechtsstaatliche Prinzipien mit Füßen treten dürfen.

Es ist beileibe nicht das erste Mal, dass sich Staatsanwaltschaften an der Pressefreiheit vergehen. So ließ eine Staatsanwaltschaft 2013 gleich Wohnungen von fünf Fotografen durchsuchen, um an deren Bildmaterial zu kommen, mit dem ein Straftäter auf einer Demo identifiziert werden sollte. Im Jahr 2023 hatte die Polizei den Freiburger Sender Radio Dreyeckland und zwei Privatwohnungen durchsucht – die Maßnahme wurde jüngst vom Bundesverfassungsericht für rechtswidrig erklärt.

–––

Deine Spende für digitale Freiheitsrechte
Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich aus den Spenden unserer Leser:innen. Jetzt spenden.

Ein einzelnes Foto eines Gesichtes reicht. Lädt man es in die Suchmaschine PimEyes hoch, hakt ein paar Kästchen ab, um den Nutzungsbestimmungen zuzustimmen, und drückt dann auf „Suchen“, erscheint wenige Sekunden später eine Übersicht. Darauf Fotos von Gesichtern, die eine Ähnlichkeit aufweisen, samt der Links zu den Fundstellen im Netz – egal wo und wie obskur.

Wenn das Internet ein Heuhaufen ist, wie die New York Times damals schrieb, dann ist PimEyes ein Magnet. Eine Technologie, mit der sich Fotos noch aus den hintersten versteckten Winkeln des Netzes ziehen lassen.

netzpolitik.org nannte die Suchmaschine in einem ersten Bericht vor sechs Jahren einen „Angriff auf die Anonymität“.

Ein Verbot wie gemacht für PimEyes

Seitdem hat sich einiges getan. PimEyes hat nicht nur den Besitzer gewechselt und gehört jetzt einem georgischen Geschäftsmann. Auch die EU hat reagiert. In der KI-Verordnung – dem großen Regelwerk, das den Einsatz von KI in der Union regeln soll – steht in einer Liste von verbotenen Dingen explizit auch ein Absatz, der direkt auf biometrische Suchmaschinen wie PimEyes zielt.

Verboten sind demnach: „KI-Systeme, die Datenbanken zur Gesichtserkennung durch das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungsaufnahmen erstellen oder erweitern.“ Wenn man es nicht besser wüsste, man könnte meinen: Gemeint ist PimEyes.

Das EU-Parlament, das sich besonders für dieses Verbot eingesetzt hat, warnte vor den gesellschaftlichen Auswirkungen. Solche Suchmaschinen könnten das Gefühl von Massenüberwachung verstärken und seien eine Gefahr für Grundrechte wie die Privatsphäre. So steht es in der Begründung des Verbotes. Auch der Rat der Mitgliedstaaten und die EU-Kommission haben dem zugestimmt.

Erstmal niemand zuständig

Sprung drei Jahre in die Zukunft: Es ist der 2. Februar 2025, und die Verbote aus der KI-Verordnung werden anwendbar. Doch noch gibt es niemanden, der sie durchsetzen könnte. Die einzelnen Mitgliedstaaten, so sieht es die Verordnung vor, müssen erst eine Stelle benennen, die offiziell für die Aufsicht über das Regelwerk und seine Verbote zuständig ist.

PimEyes ist derweil weiter online und bietet etwa Nutzer*innen in Deutschland ein Monatsabo für 32,90 Euro, mit dem man bis zu 75 Gesichter am Tag suchen kann.

Im Sommer 2026 ist es dann soweit. Die Bundesregierung bestimmt mit einem neuen Gesetz die Bundesnetzagentur zur offiziellen Aufsichtsbehörde. Sie ist damit für die Aufsicht über diejenigen zuständig, die KI-Systeme in Deutschland entwickeln oder anbieten: für Innovationsförderung, für Beschwerden – und auch für die Einhaltung der Verbote.

Werkzeug für Stalking und Einschüchterung

Seit unseren ersten Berichten über PimEyes im Jahr 2020 hat sich bei der öffentlich zugänglichen Gesichtersuchmaschine im Kern wenig verändert. Nach wie vor braucht man nur einen Screenshot oder ein flüchtiges Foto, um eine Person per PimEyes zu suchen.

Die Suchmaschine erfasst die biometrischen Eigenheiten des Gesichts, etwa die Abstände von Augen, Nase und Mund, und vergleicht diese mit den Templates von Milliarden anderen Gesichtern, die es im Netz gefunden und auf dieselbe Weise vermessen hat. Sie basiert damit sehr wahrscheinlich auf eben der Technologie, die laut KI-Verordnung in der EU verboten ist.

Kritiker*innen sehen in PimEyes vor allem eine große Bedrohung. Weil die Fotofundstellen im Netz sehr wahrscheinlich zu weiteren Informationen wie Namen, Wohnorten, Arbeitsstellen führen, machen sie alle, die im öffentlichen Raum unterwegs sind, wiedererkennbar und angreifbar: „jederzeit, überall und durch beliebige Dritte“.

„Damit existiert eine Infrastruktur, die tief in Grundrechte von vielen Millionen Menschen eingreift und Missbrauch Tür und Tor öffnet“, warnt der Chaos Computer Club, „etwa für Stalking, Einschüchterung oder umfassende Verhaltensanalyse – selbstredend ohne Wissen und ohne Einwilligung der Betroffenen.“

»Der Mensch ist der Stalker, nicht die Suchmaschine«

Die Behörde hätte viele Möglichkeiten

Die Bundesnetzagentur könnte jetzt aktiv werden. Als Aufsichtsbehörde könnte sie eine Untersuchung von PimEyes einleiten. Dafür muss sie nicht darauf warten, dass sich einzelne Betroffene über PimEyes beschweren – bislang liegt laut BNetzA eine solche Beschwerde vor. Sie kann aber einfach selbst tätig werden.

Doch auf Nachfrage von netzpolitik.org hält sich die Behörde bedeckt. „Bitte haben Sie Verständnis, dass wir uns zu geplanten und aktuellen Verfahren nicht äußern.“

Dabei hätte die BNetzA viele Möglichkeiten. Sie könnte in einem ersten Schritt die Frage klären, ob PimEyes überhaupt unter das Verbot fällt. Dazu könnte sie von dem Unternehmen Auskunft verlangen, Unterlagen anfordern, eine technische Prüfung einleiten. Selbst Vor-Ort-Termine sieht das Gesetz vor.

Laut den Leitlinien der EU-Kommission greift das Verbot, wenn ein System alle der folgenden Bedingungen erfüllt: Es sammelt Gesichtsbilder ungezielt aus dem Netz oder aus Überwachungsaufnahmen. Es erstellt daraus eine Datenbank zur Gesichtserkennung oder erweitert diese. Und das passiert mit Hilfe eines KI-Systems.

Sollte bei der Prüfung herauskommen, dass die Suchmaschine diese Bedingungen erfüllt und somit gegen die EU-Regeln verstößt, könnte die Aufsichtsbehörde die nächste Phase einleiten.

Weil PimEyes seine Suche nicht nur in Deutschland anbietet, sondern in der gesamten EU, müsste die BNetzA sich mit anderen nationalen Behörden und dem „AI Office“ der EU-Kommission koordinieren. „Möglich wäre auch ein gemeinsames Vorgehen von Aufsichtsbehörden mehrerer EU-Mitgliedstaaten,“ schrieb die Behörde auf eine frühere Anfrage von netzpolitik.org.

Das Unternehmen würde dann aufgefordert, die verbotenen Handlungen in der EU einzustellen, also damit aufzuhören, weiter wahllos Gesichter im Netz zu vermessen und die Daten in seine Datenbanken zu kippen. Wenn das nicht passiert, käme danach die Aufforderung, das Angebot in der EU vom Markt zu nehmen.

Bleibt das Angebot dennoch im Netz, folgt eine Kaskade von möglichen Sanktionen – bis hin zu Geldstrafen von bis zu 7 Prozent des weltweiten jährlichen Umsatzes. Je länger im Netz, je weniger das Unternehmen kooperiert, umso höher kann die Strafe ausfallen. So in der Theorie.

Außerhalb der EU, außer Reichweite?

In der Praxis sitzt PimEyes allerdings nicht in der EU. Das ursprünglich in Polen gegründete Unternehmen, das zwischenzeitlich auch auf den Seychellen gemeldet war, soll seinen Sitz inzwischen in Dubai haben. So genau weiß das offenbar derzeit niemand.

Das würde es schwieriger machen, diese Maßnahmen auch durchzusetzen. Es wäre allerdings nicht unmöglich. Das sagt der Leiter der NGO AlgorithmWatch, Matthias Spielkamp, und verweist auf die Erfahrungen in Fällen von Steuerhinterziehung.

Und das sagt auch der Hamburger IT-Sicherheitsexperte und Aktivist Matthias Marx, der sich seit Jahren gegen die Suchmaschinen engagiert.

Marx hatte sein Gesicht 2020 in den Datenbanken von PimEyes wiedergefunden und versucht seitdem, die Hamburger Datenschutzbehörde zu einem Verfahren gegen die Suchmaschine zu bewegen. Denn nicht nur mit der KI-Verordnung könnte PimEyes über Kreuz liegen. Auch die Europäischen Datenschutzregeln (DSGVO) verbieten es, die biometrischen Daten einer Person ohne deren Einverständnis einfach aus dem Netz zu klauben.

Die Hamburger Behörde hat das Verfahren nach fünf Jahren allerdings eingestellt. Die Begründung: Die Suchmaschine handle zwar rechtswidrig, reagiere aber aus Dubai nicht auf Anfragen. Marx will das nicht akzeptieren und klagt derzeit mit Unterstützung der österreichischen NGO noyb und des Chaos Computer Clubs gegen den Bescheid.

Er glaubt, die Behörde hätte durchaus Möglichkeiten, Sanktionen durchzusetzen. So nutze PimEyes für die Abwicklungen der Abo-Zahlungen einen Dienstleister, der unter anderem eine Niederlassung in den Niederlanden hat. Gelder in Europa könnten eingefroren werden oder Maßnahmen direkt gegen den georgischen Geschäftsführer verhängt werden.

Die Untätigkeit der Hamburger Behörde sendet aus seiner Sicht ein gefährliches Signal: „Wenn Aufsichtsbehörden bei so klaren Rechtsverstößen nicht handeln, entsteht ein gefährlicher Präzedenzfall.“ Biometrische Massenüberwachung dürfe sich nicht allein deshalb durchsetzen, weil ihre Anbieter auf die Untätigkeit der Behörden spekulieren.

Sollte die Klage erfolgreich sein, müsste die Behörde erneut über Marx’ ursprüngliche Beschwerde entscheiden und voraussichtlich Maßnahmen gegen PimEyes treffen.

Bundesregierung will biometrische Fotofahndung im Netz

Bundesregierung will Gesichtersuche für die Polizei

Skurril wirkt der Umgang mit PimEyes aber noch aus einem weiteren Grund. Denn die Bundesregierung vertritt keineswegs die Haltung, dass die biometrische Gesichtersuche nach Art von PimEyes verboten gehört. Spätestens seitdem Journalist*innen das frühere RAF-Mitglied Daniela Klette mit Hilfe von PimEyes auf Facebook fanden und identifizierten, waren Begehrlichkeiten geweckt.

Das Bundeskriminalamt und die Bundespolizei sollen deswegen demnächst selbst mit solchen Suchmaschinen im Netz fahnden dürfen. Sie dürften dann nach Beschuldigten schwerer Straftaten suchen, aber auch nach Zeug*innen. So will es die Bundesregierung und hat dafür schon ein Gesetzespaket auf den Weg gebracht. Explizit sollen die Behörden dafür auch Drittanbieter nutzen dürfen. Wie PimEyes.

Dass sich dieses Begehren mit der KI-Verordnung schwer vereinbaren lässt, dessen ist man sich offensichtlich auch in den Ministerien bewusst. Deswegen hat man sich eine argumentative Hintertür gebaut. Ein Verbot durch die KI-Verordnung gelte nicht, „sofern für das Auslesen der Daten keine KI-Systeme eingesetzt werden“, schreibt das Bundesjustizministerium in der Gesetzesbegründung.

Diese Lesart findet sich auch in einem Gutachten der Wissenschaftlichen Dienste des Deutschen Bundestages. Demnach verbiete die KI-Verordnung nicht den Aufbau einer Datenbank per se, sondern nur das „ungezielte Auslesen von Gesichtsbildern mittels KI“. Solche Datenbanken könnten auch ohne Künstliche Intelligenz erstellt werden, schreiben die Wissenschaftlichen Dienste weiter.

„Der Einsatz von KI ist also nicht zwingend erforderlich, um einen biometrischen Abgleich mit Bildern aus dem Internet durchzuführen“, so das Fazit. Es komme „auf die konkrete Ausgestaltung und technische Umsetzung des in den Gesetzesentwürfen vorgesehenen biometrischen Abgleichs an“. Wer hier wen inspiriert hat, ist nicht klar.

Abgeordnete sind anderer Meinung

Der EU-Abgeordnete Tiemo Wölken (SPD) hat die KI-Verordnung im Parlament mit verhandelt. Er hat wenig Verständnis für das Zaudern und Infragestellen. „Der AI Act ist eindeutig: Das Erstellen von Datenbanken mit Gesichtsbildern aus dem Internet ist seit dem 2. Februar 2025 verboten“, sagt Wölken.

Die Definition von KI-System in der Verordnung sei dabei bewusst so breit formuliert, dass sie auch Analysesoftware wie PimEyes erfasse. „Eine anderslautende Bewertung durch die Aufsichtsbehörden ginge direkt gegen den Willen des Gesetzgebers. Ich erwarte deshalb von der Bundesnetzagentur, dass sie aktiv wird und PimEyes endlich verbietet.“

Auch die EU-Abgeordnete Alexandra Geese (Die Grünen/EFA) erwartet ein klares Verbot von PimEyes. „Der Geist der KI-Verordnung entspricht sehr klar dem Wunsch der großen Mehrheit der Menschen in einer freiheitlichen Gesellschaft: keine Überwachung im öffentlichen Raum und keine Bedrohung durch Technologie, die es fremden Menschen ermöglicht, uns ohne unser Wissen in der Menge identifizieren und vor der Haustür oder am Arbeitsplatz aufzulauern.“

Sollte die Aufsichtsbehörde tatsächlich zu der Auffassung gelangen, die KI-Verordnung decke PimEyes nicht ab, „müssen wir als Gesetzgeber dringend über weitere Maßnahmen zum Schutz unserer Freiheit nachdenken“.

Nicht nur aus dem EU-Parlament, auch aus dem Bundestag kommen klare Worte. Johannes Schätzl, digitalpolitischer Sprecher der SPD-Fraktion im Bundestag, sagt, Datenbanken wie PimEyes basierten seinem Verständnis nach auf einer durch die KI-Verordnung verbotenen Praktik. „Aus meiner Sicht müsste die BNetzA mögliche Verstöße gegen die KI-VO überprüfen.“

Sollte sich dabei herausstellen, dass das Verbot nicht greift, müsste man „in der Tat auf europäischer Ebene nachjustieren, denn es war der ausdrückliche Wille des europäischen Gesetzgebers, diese Praktik in Europa auszuschließen. Ein Einsatz wäre nur möglich, wenn dieses Recht aktiv umgangen wird.“

„Dies sollte auch in deutschen Gesetzesentwürfen nicht angelegt sein“, sagt Schätzl. Und stellt sich damit auch gegen seine eigene Partei, die in der Regierungsverantwortung an dem Verbot sägt.

–––

Deine Spende für digitale Freiheitsrechte
Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich aus den Spenden unserer Leser:innen. Jetzt spenden.

Am Montag fand in Berlin eine Tagung des Bundesamtes für Verfassungsschutz statt. Vor Ort warnte Innenminister Alexander Dobrindt vor dem Schattenkrieg Russlands, der das Ziel habe, „uns politisch und gesellschaftlich zu bezwingen“. „Wir müssen aufrüsten“, warb der CSU-Politiker mit markigen Worten für die geplante Reform der Geheimdienste.

Nur wenige Kilometer entfernt verhandelte der Innenausschuss des Deutschen Bundestages die Details dieser Reform. Vier Stunden lang standen acht Sachverständige den Abgeordneten Rede und Antwort.

Die Verhaftung des ehemaligen BND-Präsidenten August Hanning in der vergangenen Woche spielte dabei keine Rolle. Stattdessen ging es vor allem darum, wie der Umbau des Bundesnachrichtendienstes (BND) und des Bundesamtes für Verfassungsschutz (BfV) verfassungsrechtlich zu bewerten ist.

Aus Sicht vieler Expert:innen will die Regierung die historisch begründete Trennung zwischen Geheimdiensten und Polizei deutlich aufweichen. Gleichzeitig sehe ihr Gesetzentwurf nur eine unzureichende Kontrolle der Dienste vor. Und auch die geplanten automatisierten Datenauswertungen mittels Künstlicher Intelligenz bärgen erhebliche Risiken.

„So etwas macht ein Rechtsstaat nicht“

Mit der Reform sollen BND und BfV nicht nur Informationen sammeln, sondern auch aktiv eingreifen und so zu „echten Geheimdiensten“ werden. Sie dürften dann etwa in IT-Systeme eindringen und bei Cyberangriffen „zurückhacken“.

Das sei eine typisch polizeiliche Aufgabe, kritisierte der Rechtswissenschaftler Matthias Bäcker von der Uni Mainz. Würden diese Eingriffe dauerhaft heimlich erfolgen, widerspreche dies rechtsstaatlichen Prinzipien. „So etwas macht ein Rechtsstaat nicht“, sagte Bäcker in der Anhörung. „Ich habe noch nie eine Vorschrift gesehen, die so offensichtlich verfassungswidrig ist.“

Auch Franziska Görlitz von der Gesellschaft für Freiheitsrechte (GFF) stuft den Gesetzentwurf als in Teilen verfassungswidrig ein. Die geplanten operativen Maßnahmen setzten deutlich höhere Hürden und eine strengere Kontrolle voraus. Das leite sich auch aus der Rechtsprechung des Bundesverfassungsgerichts ab, schreibt Görlitz in ihrer Stellungnahme. Der Gesetzentwurf setze diese Vorgaben aber nicht um.

Die Aufweichung des Trennungsgebots

Görlitz warnt davor, dass die „Verpolizeilichung“ der Geheimdienste die Struktur der Sicherheitsbehörden insgesamt verschiebe: „Die strenge Trennung zwischen den nur überwachenden, aber nicht operierenden Nachrichtendiensten und der dann eingreifenden Polizei wird eingerissen“, schreibt die Juristin.

Ein insgesamt „hohes verfassungsrechtliches Risiko“ sieht hier auch Markus Löffelmann von der Hochschule des Bundes für öffentliche Verwaltung. Das Trennungsgebot sei zwar nicht „verfassungsunmittelbar“ im Grundgesetz verankert, „allerdings wirkt die multidimensionale Trennung von Nachrichtendienstbehörden und Polizeibehörden grundrechtsschonend und ist deshalb zentraler Aspekt einer Verhältnismäßigkeitsprüfung“.

Jan-Hendrik Dietrich von der Hochschule des Bundes für öffentliche Verwaltung teilt die Einschätzung, dass das Bundesverfassungsgericht nur ein „informationelles Trennungsprinzip“ verlangt. Diese Trennung sieht er weiterhin gewahrt: Da nur die Polizei Festnahmen durchführen könne, „trifft die Aussage der Gesetzesbegründung zu, wonach das nachrichtendienstliche Gepräge der Maßnahmen […] dominiert“, schreibt der Staatsrechtler in seiner Stellungnahme.

Unzureichende Kontrolle und fehlende Expertise

Dietrich begrüßt zudem, dass der Gesetzentwurf redundate Kontrollstrukturen beseitige und zugleich die Aufsicht professionalisiere.

Bislang sind für die Kontrolle des Inlands- und Auslandsgeheimdienstes unter anderem die G10-Kommission, das Parlamentarische Kontrollgremium (PKGr), der Bundesdatenschutzbeauftragte und der Unabhängige Kontrollrat (UKrat) zuständig. Künftig soll ein Großteil der Kontrolle beim UKRat gebündelt werden, der neue Aufgaben bekommt und das Parlamentarische Kontrollgremium unterstützen soll. Die G‑10-Kommission soll wegfallen, dem Bundesdatenschutzbeauftragten soll die Aufsicht entzogen werden.

Im Ergebnis komme im Entwurf die Vorabkontrolle von eingriffsintensiven Maßnahmen zu kurz, kritisiert Markus Löffelmann. So muss der UKRat künftig etwa eine längerfristige Videoüberwachung oder eine Ausspähung besonders privater Information vorab nicht prüfen. Diese Einschätzung teilt Matthias Bäcker: „Eine Vorabkontrolle einzelner Maßnahmen ist nur in Sonderfällen vorgesehen, die das Spektrum eingriffsintensiver Maßnahmen nicht annähernd ausschöpfen“, schreibt Bäcker in seiner Stellungnahme.

Um etwa den Einsatz von Staatstrojanern oder automatisierte Datenauswertungen bewerten zu können, fehle dem UKRat Expertise bei den Themen IT und Künstliche Intelligenz, mahnte Franziska Görlitz. Und weil die Regierung dem Bundesbeauftragten für den Datenschutz und die Informationsfreiheit (BfDI) die datenschutzrechtliche Aufsicht über die Dienste entziehe, gehe weitere langjährig aufgebaute Expertise verloren, so Görlitz.

Insgesamt sieht sie ein deutliches „Kapazitätsungleichgewicht im Gesetz“, das eine effektive Kontrolle beider Geheimdienste verhindere.

Automatisierte Datenauswertungen auf „völlig neuem Niveau“

Mehr Fachkenntnis wird bei der Kontrolle künftig vonnöten sein. Denn Verfassungsschutz und BND sollen personenbezogene Daten mittels Künstlicher Intelligenz automatisiert auswerten dürfen.

Die sogenannte qualifizierte Auswertung bewege sich auf einem „völlig neuen Niveau“, betonte Görlitz, und reiche weit über das hinaus, was das Bundesverfassungsgericht im Jahr 2023 entschieden hat. Auch Löffelmann verweist auf das Urteil: „Das BVerfG hat für das Polizeirecht die Zulässigkeit einer automatisierten Datenanalyse an anspruchsvolle Voraussetzungen geknüpft“, schreibt der Jurist. „Diese Maßstäbe sind auf die Nachrichtendienste im Wesentlichen übertragbar“, ergänzt Görlitz.

Die Juristin von der GFF kritisiert zudem, dass alle möglichen Daten in die Systeme eingespeist werden sollen. „Weder ist die Datenanalyse auf rechtmäßig erhobene Daten beschränkt, noch werden besonders sensible Daten aus der Datenanalyse ausgenommen.“ Außerdem mache der Gesetzentwurf keinerlei konkreten Vorgaben, um etwa diskriminierende Verzerrungen durch den KI-Einsatz zu vermeiden.

Die Sorge vor „Halluzinationen“ von KI-Systemen treibt auch Markus Löffelmann um. Er sieht es als ein „massives regulatorisches Defizit“, dass der Gesetzentwurf kein Verfahren dafür vorsieht, wenn KI-Systeme fehlerhafte Ausgaben machen. „Die Verantwortung wird auf die KI geschoben“, folgerte auch Görlitz, „wer aber kontrolliert die KI?“ Dazu seien ja nicht einmal die kommerziellen Anbieter selbst in der Lage, wie die vergangenen Wochen gezeigt hätten.

Luca Manns, Geschäftsführer der Forschungsstelle Nachrichtendienste der Universität zu Köln, sieht im KI-Einsatz hingegen eine grundrechtsschonende Wirkung. Die Systeme könnten aus den Daten „wahnsinnig viel Beifang“ filtern, sagte der Jurist gestern, und so Grundrechtseingriffe umgehen.

„Es braucht ein sinnvolles Beschwerdemanagement“

Die Sachverständigen bemängelten außerdem, dass der Gesetzentwurf die Rechte von Betroffenen einschränke. Sie sollen in der Regel nichts davon erfahren, wenn sich operative Maßnahmen gegen sie richten.

Eine solche Transparenz hält Matthias Bäcker jedoch für unverzichtbar. Er fordert, dass verdeckt überwachte Personen unverzüglich informiert werden müssen, sobald die konkreten Gründe für eine Geheimhaltung von Maßnahmen entfallen sind. „ ‚Schutzmaßnahmen’ […] bewirken immer einen physischen oder psychischen Nachteil, der sich bei einer dauerhaften Heimlichkeit weder öffentlich thematisieren noch individuell abwehren lässt“, schreibt Bäcker. „In einem demokratischen Rechtsstaat ist daher für verdeckte Eingriffe in Verhaltensfreiheit und Eigentum nur in sehr engen Grenzen Raum.“

Görlitz kritisiert, dass der Gesetzentwurf keine Beteiligungs- und Verfahrensrechte für betroffene Bürger:innen vorsieht. Zwar sehe der Entwurf vor, dass der UKRat für die Beschwerden der Bürger:innen zuständig sei. Allerdings mache die Regierung hier keinerlei Vorgaben zu Transparenz, Fristen oder den konkreten Rechten von Betroffenen. „Es braucht ein sinnvolles Beschwerdemanagement“, mahnte die Juristin in Richtung der Abgeordneten.

Am Ende reichten auch vier Stunden Anhörung nicht aus, um alle wichtigen Aspekte des mehr als 730-seitigen Gesetzentwurf zu erörtern. „Vier Stunden sind eben vier Stunden“, konstatierte Görlitz zum Ende der Sitzung.

Derweil kündigte BfV-Präsident Sinan Selen auf der Tagung des Verfassungsschutzes an, dass man innerhalb von zwei Jahren Bilanz ziehen könne, ob die Geheimdienstreform gelungen sei. Angesichts der massiven Kritik der Fachleute könnte ihm das Bundesverfassungsgericht dabei noch zuvorkommen.

–––

Deine Spende für digitale Freiheitsrechte
Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich aus den Spenden unserer Leser:innen. Jetzt spenden.

Chatbots übermitteln Informationen aus Gesprächen an verschiedene Tracking- und Werbedienste und gefährden damit die Privatsphäre. Dazu zählen Titel und Links von Chats, wörtliche Eingaben und sogar Screenshots. Das zeigt eine neue Studie des Forschungsinstituts IMDEA Networks.

Für die Studie hat das Forschungsteam aus Madrid neun große KI-Dienste untersucht: ChatGPT, Claude, Perplexity, Grok, Gemini, Mistral AI, Meta AI, DeepSeek und Microsoft Copilot. Sechs der neun Webversionen und drei von acht Android-Apps teilten dabei Informationen aus den Gesprächen mit Tracking- und Werbediensten. Zu den Drittanbietern, an die Daten übermittelt wurden, gehörten auch bekannte Unternehmen wie Google, Meta und TikTok.

Schon Chat-Titel enthalten private Informationen

Menschen erzählen KI-Chatbots Dinge, die sie sonst vielleicht niemandem anvertrauen würden. Sie fragen nach Krankheiten, teilen Geldsorgen und besprechen Beziehungsprobleme. Chatbots erstellen für diese Gespräche automatisch zusammenfassende Titel. Sie sollen Nutzer:innen helfen, einen Chat in der Gesprächs-Historie wiederzufinden.

Aus der Frage nach Parkinson-Symptomen wird etwa der Titel „Parkinson-Symptome im Frühstadium“. Aus der Frage nach einer möglichen Hypothek in New York entsteht der Titel „85.000-Dollar-Gehalt in NYC: 280.000 – 350.000 Dollar Hypothek“. Mit diesen Fragen untersuchten die Forschenden, welche Informationen die Chatbots in ihre Titel aufnehmen.

Gemini, Grok und Mistral gaben diese vielsagenden Chat-Titel laut der Untersuchung auch an Dritte weiter. „Selbst scheinbar harmlose Informationen wie Chat-Titel können sehr persönliche Interessen, Sorgen und Lebensumstände offenbaren“, sagt Narseo Vallina-Rodriguez aus dem Forschungsteam von IMDEA Networks auf Anfrage von netzpolitik.org.

Mögliche Verknüpfung mit Nutzerprofilen

Ein Chat-Titel allein kann dabei bereits sensible Rückschlüsse zulassen. Wird er zusammen mit Kennungen wie E‑Mail-Adressen oder Nutzer-IDs übermittelt, lässt sich möglicherweise auch erkennen, zu welchem Konto die Information gehört.

„Diese Informationen könnten mit bereits bestehenden Nutzerprofilen verknüpft werden, die Werbe- und Trackingunternehmen führen“, sagt Vallina-Rodriguez. Deren Technologien seien in Millionen von Websites und mobilen Apps eingebunden, möglicherweise, ohne dass die Betroffenen davon wissen.

Laut der Studie hatten die Chatbots von Antrophic, Mistral und Perplexity AI E‑Mail-Adressen an Dritte übermittelt. Nutzer-IDs wurden bei ChatGPT, Claude, Le Chat und Perplexity weitergegeben.

Chat-Links können ganze Gespräche offenlegen

Kritisch sind auch die Links, die die Chatbots für jeden Chat automatisch erstellen und über die sich die Unterhaltung aufrufen lässt. Laut der Studie wurden diese von ChatGPT, Claude, Grok, Mistral und Perplexity an Dritte übermittelt. Bei ChatGPT, Claude und Mistral sind die verlinkten Gespräche den Forschenden zufolge nur für die jeweiligen Ersteller zugänglich. Bei Perplexity sind Chat-Links dagegen auch öffentlich abrufbar, wenn der Chatbot mit einem Gastzugang genutzt wird. Wer dem Link folgt, sieht dann den gesamten Gesprächsverlauf.

Besonders problematisch ist laut der Studie der Fall von Grok, dem Chatbot von Elon Musks Firma xAI. Bei Gesprächen im Browser hat Grok unter anderem Chat-Titel und Chat-Link an verschiedene Drittanbieter wie Meta, Tiktok, Google und Twitter Analytics übertragen. Diese sind laut den Forschenden sowohl in der kostenlosen als auch der kostenpflichtigen Version von Grok standardmäßig öffentlich zugänglich, sofern Nutzer:innen das nicht abschalten. Dadurch könnten Dritte Zugriff auf den Gesprächsverlauf haben – inklusive eingegebener Prompts und generierter Antworten.

Geteilte Chats erhöhen Risiko

Zusätzlich können Nutzer:innen ihre Gespräche mit Chatbots über sogenannte Share-Links bewusst mit anderen teilen. Im Fall solcher geteilten Gespräche hat Grok sehr weitreichende Informationen mit anderen Unternehmen geteilt: Meta erhielt Titel und den letzten Prompt. TikTok erhielt außerdem einen Screenshot der Unterhaltung.

Um zusätzlich zu untersuchen, ob die Share-Links tatsächlich aufgerufen werden, bauten die Forschenden Köder-Links in geteilte Grok-Gespräche ein. Sie verzeichneten 70 Abrufe von 70 IP-Adressen aus 14 Ländern, teilweise noch Tage nach dem ursprünglichen Gespräch.

Die Forschenden prüften auch, ob Nutzer:innen das Tracking durch Datenschutzmaßnahmen einschränken können. Selbst nachdem alle nicht notwendigen Cookies abgelehnt wurden, blieben laut Studie 80,8 Prozent der beobachteten Drittanbieter-Tracker aktiv. Auch zwischen kostenlosen und kostenpflichtigen Konten fanden die Forschenden kaum Unterschiede.

Auf Anfrage von netzpolitik.org verwies Google auf den technischen Zweck von Google Analytics. Das Tool helfe dabei, die Leistung von Gemini zu überwachen und Störungen zu erkennen. „Wir halten uns an die geltenden europäischen Datenschutzbestimmungen“, schreibt eine Google-Sprecherin. Auf die konkreten Ergebnisse der Studie ging Google nicht näher ein. xAI, Mistral und Perplexity ließen die Anfrage unbeantwortet.

Datenschutzbehörden eingeschaltet

Laut der Studie informierten die Forschenden im April 2026 auch europäische Datenschutzbehörden über ihre Ergebnisse. Ende Mai beantragte die spanische Datenschutzbehörde AEPD, den Fall im Europäischen Datenschutzausschuss zu beraten. Die Forschenden kontaktierten außerdem den Grok-Anbieter xAI, von dem sie jedoch bis zur Veröffentlichung der Studie Ende September keine Antwort erhielten. Zu diesem Zeitpunkt waren Grok-Chats weiterhin öffentlich abrufbar.

Wie relevant der Umgang mit Chatdaten ist, zeigen auch aktuelle Entwicklungen bei OpenAI. Das Unternehmen kündigt an, personalisierte Werbung in ChatGPT künftig auch in Europa auszuspielen und dafür unter anderem Informationen aus früheren und aktuellen Chats zu nutzen. Die Berliner Datenschutzbeauftragte warnt, dass dadurch auch sensible persönliche Informationen für Werbezwecke ausgewertet werden könnten.

–––

Deine Spende für digitale Freiheitsrechte
Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich aus den Spenden unserer Leser:innen. Jetzt spenden.