Überwachung total 

Geraten wir alle unter Generalverdacht, wenn wir Unkrautvernichtungsmittel und Feuerlöscher im Baumarkt kaufen? Und aufgepasst! Sie wurden in der Nähe eines Terroristen gesehen. Sind Sie auch einer? Innenminister Alexander Dobrindt will die US-amerikanische Überwachungssoftware Palantir bundesweit einsetzen, zudem plant er, diese um die Erfassung biometrischer Daten von Gesichtern zu erweitern.

VeRa, DAR und HessenData heißen die Ableger des US-amerikanischen Analysetools Palantir Gotham, und ihre Namen klingen harmlos nach einem Buchhaltungsprogramm fürs Finanzamt. Wenn die Bezeichnung „Palantir Gotham“ Sie zudem an Comics und Märchen erinnert, liegen Sie goldrichtig, denn Gotham entstammt aus „Batman“ und „Palantir“ aus der Fantasiewelt des „Herr der Ringe“-Autors J.R.R. Tolkien. Damit endet aber auch schon der unterhaltsame Teil dieser Software. Sie dient nämlich kurz gesprochen nur einem Zweck: der Analyse – man kann es aber auch ganz unverblümt Überwachung nennen. Viele einzeln erfasste Daten aus unterschiedlichen Quellen laufen darin zusammen und können ausgewertet werden. Je nach Verwendungszweck.

Palantir Gotham basiert auf der Software von PayPal

Das macht es für Geheimdienste, Polizei und das Militär so interessant, diese Analysesoftware zu verwenden. Nehmen wir mal die Terrorismusbekämpfung heraus. Planen Terroristen etwa einen Anschlag, gibt es viele einzelne Aktivitäten, wie etwa gebuchte Flüge, Geldüberweisungen, E-Mail-Verkehr, Reisen aus dem Ausland nach Deutschland und anderes mehr, um ihnen auf die Schliche zu kommen. Palantir Gotham dient dazu, in all diesen zum Teil winzigen Puzzleteilen ein Muster zu erkennen, sodass ein ermittelnder Beamter etwa herausfinden kann, wann ein Verdächtiger mit wem in Kontakt trat, mit wem und mit welchen Handynummern dieser telefonierte, wo er womöglich ein Fahrzeug anmietete. Der Ermittler muss dazu nur auf dem Bildschirm mit dem Mauszeiger einen Knoten anklicken und sich anschließend Zusammenhänge anzeigen und eine „Was wäre wenn“-Analyse erstellen lassen.

Klingt ganz easy? Das ist es auch. Denn ein weiterer Teil des Erfolges von Palantir Gotham ist dessen einfache Bedienung. Die Analyse-Software lässt sich schnell und intuitiv erlernen, IT- oder gar Programmierfähigkeiten sind nicht erforderlich. Kein Wunder, basiert Palantir Gotham doch auf der Software von PayPal. Die dort entwickelten Algorithmen zur Datenanalyse eignen sich nach Ansicht der Gründer Alex Karp und Peter Thiel auch bestens zur Terrorismusbekämpfung.

Kontakte in Regierungskreise sind vorhanden, Elon Musk etwa mischte bei PayPal kräftig mit und diente sich später in der zweiten Amtszeit Donald Trump an. Peter Thiel ist finanzieller Unterstützer des 50. US-Präsidenten und dessen Stellvertreter James David (JD) Vance. Verknüpfungen, die auch Datenschützer mehr als bedenklich finden (siehe unten).

Datenschützer sehen eine Überwachungsgesellschaft entstehen

Doch Palantir möchte, dass seine Software das primäre Überwachungsinstrument der US-Strafverfolgungsbehörden und Sicherheitsbehörden wird. In der Registrierungserklärung bei der US-Börsenaufsichtsbehörde SEC erklärte das Unternehmen, sein Ziel sei, „das Standardbetriebssystem für Daten in der gesamten US-Regierung zu werden“1, und fügte hinzu, dass seine Technologien „in 36 Branchen und in mehr als 150 Ländern“ eingesetzt werden (Stand: 2020)2.

Das gesetzte Ziel dürfte als erreicht angesehen werden, und die Begehrlichkeiten sind auch hierzulande groß. Innenminister Alexander Dobrindt (CSU) will die Analyse-Software lieber heute als morgen bundesweit einsetzen und eine biometrische Massenüberwachung etablieren. Aber ist das so schlimm? Immerhin heißt es, dass sie mitgeholfen haben soll, 2011 den einstigen Al-Qaida-Boss Osama bin Laden aufzuspüren. Palantir betont außerdem, dass der Datenabruf protokolliert wird und die Software nur so „invasiv“ ist, wie sie der jeweilige Nutzer konfiguriert. Das ist so schwammig, wie es klingt.

Datenschützer sehen eine Überwachungsgesellschaft entstehen, in der alles und jeder beobachtet und durchleuchtet wird. Massenhaft biometrische Daten von Gesichtern zu sammeln und mit anderen Datenbanken zusammenzuführen sprengt selbst George Orwells kühnste Träume. Was, wenn ein Verdächtiger vor mir am Automaten Geld abhebt? Oder wenn wir beide, ohne uns zu kennen, im Baumarkt Kunstdünger oder Unkrautvernichter und Feuerlöscher kaufen? Mit dem richtigen Kunstdünger kann ich ein Feld düngen oder ihn für den Sprengstoffbau verwenden. Gleiches gilt für den Unkrautvernichter und Feuerlöscher. Blöd, wenn ich dann auch noch aussehe, als käme ich aus dem Orient. Oder ist der Autor bereits verdächtig, weil er diese Zusammenhänge kennt? Oder Sie, der Sie diese Zeilen lesen? Was einmal im System ist, bleibt drin. Für immer. Man weiß ja nie, wofür man es nochmal braucht.

Dr. Simone Ruf, Leiterin des „Center for User Rights“ bei der Gesellschaft für Freiheitsrechte, warnt gegenüber Freiheitsrechte.org: „Internet-Scans nach Gesichtern und Palantir bringen uns nicht mehr Sicherheit – sie sind ein Angriff auf unsere Grundrechte und ein Schritt in den Überwachungsstaat. Das dürfen wir nicht akzeptieren.“3

Neutral ist Palantir mit Sicherheit nicht

Dr. Julia Duchrow, Generalsekretärin von Amnesty International Deutschland, unterstützt diese These3: „Massenhafte Überwachung mit KI gefährdet Menschenrechte und Demokratie. Sie hat eine einschüchternde Wirkung und birgt die Gefahr von Missbrauch. Sowohl beim KI-Einsatz für einen biometrischen Abgleich als auch für eine automatisierte Analyse von Polizeidaten besteht außerdem ein erhebliches Risiko für Diskriminierung. Falls für die automatisierte Datenanalyse-Software von Palantir eingesetzt werden soll, so handelt es sich um ein Unternehmen, das nach Recherchen von Amnesty International in den USA systematisch in Menschenrechtsverletzungen der Trump-Administration involviert ist – und daher von öffentlichen Aufträgen ausgeschlossen werden sollte.“

Besonders in Kombination mit KI ist Gotham in der Tat eine große Gefahr, denn hier droht ein Verdacht automatisiert zu werden. Männlich, Migrationshintergrund, muslimisch, hält sich im Bahnhofsmilieu auf – damit kann man wunderbare Vorurteile und gesellschaftlichen Bias produzieren.

Auch das Bundesverfassungsgericht stellte bereits 2023, als HessenData seine auf Palantir basierende Software aktivierte, klar4, dass der Staat nicht alles und jeden durchleuchten darf, nur, weil die Technik dafür da ist. Und, Zitat: „Es dürfen keine Systeme zum Einsatz kommen, die über den Einsatz von intelligenten, möglicherweise selbstlernenden Algorithmen selbstständig inhaltliche Bewertungen vornehmen.“ Das Bundesverfassungsgericht nimmt darüber hinaus den Gesetzgeber in die Pflicht, Regularien zu schaffen, dass der Einsatz verhältnismäßig bleibt.

Doch schon die Polizeiaufgabengesetze in Bayern und Hessen sind in diesem Punkt sehr weitgehend ausgeführt. Datenschutzklagen stehen an, unter anderem von der genannten Gesellschaft für Freiheitsrechte. Es darf auch die Frage erlaubt sein, ob es ratsam ist, ausgerechnet eine Software von einem Unternehmen zu erwerben, das so stark in die US-amerikanische Regierungsarbeit verwoben ist. Neutral ist Palantir mit Sicherheit nicht. Zudem stellt sich die Frage, wer auf die in den USA gehosteten Daten in Zukunft Zugriff haben wird. Nur wir? Oder auch die US-Amerikaner?

1 https://www.sec.gov/Archives/edgar/data/1321655/000119312520230013/d904406ds1.htm

2 https://www.tandfonline.com/doi/full/10.1080/01972243.2022.2100851#d1e286

3 https://freiheitsrechte.org/ueber-die-gff/presse/pressemitteilungen-der-gesellschaft-fur-freiheitsrechte/pm-gutachten-biometrische-ueberwachung

4 https://www.bundesverfassungsgericht.de/SharedDocs/Entscheidungen/DE/2023/02/rs20230216_1bvr154719.html