Vom Forschungslabor zum Überwachungsstaat: KI-Bildanalyse verändert unsere Gesellschaft

In Kürze:

Patente und Studien zur Erkennung von Personen mithilfe sogenannter Computer Vision haben sich in den vergangenen Jahrzehnten vervielfacht.

Microsoft und das Militär sowie große Universitäten mit Beziehungen zu Militär, Geheimdiensten und Sicherheitsbehörden sind die Hauptakteure auf diesem Gebiet.

Deutschland belegt im Länderranking der Überwachungsforschung Platz vier.

Unternehmen, Städte und Länder nutzen die Technik aktiv zur Personenkontrolle.

Die Vision von einer allgegenwärtigen Überwachung, wie sie in dystopischen Romanen beschrieben wird, ist längst keine ferne Zukunft mehr. Die Forschung im Bereich der computergestützten Bilderkennung hat maßgeblich zu dieser Entwicklung beigetragen. Diese „Computer Vision“ wurde zunehmend von Wissenschaftlern, politischen Entscheidungsträgern und Bürgerinitiativen kritisiert. Belegen konnten diese ihre Aussagen – bis jetzt – nicht.

„Mit dieser Studie wollten wir diese unterschiedlichen Behauptungen mit umfangreichen empirischen Belegen untermauern“, sagte Dr. Abba Birhane, Leiterin des AI Accountability Lab am Trinity College in Dublin, in einem von der Fachzeitschrift „Nature“ veröffentlichten Video.

Zusammen mit Mitarbeitern der Stanford University, der Carnegie Mellon University, der University of Washington und des Allen Institute for Artificial Intelligence (AI2) untersuchte sie mehr als 19.000 Fachartikel und gut 23.000 Patente aus den letzten 40 Jahren zum Thema Computer Vision.

[etd-related posts=“5171810″]

Die in „Nature“ veröffentlichte Studie zeigt, dass die Forschung im Bereich Computer Vision heute der zentrale Motor für den weltweiten Ausbau von Überwachungstechnologien ist. Die Zahlen sind eindeutig:

„Wir haben festgestellt, dass 90 Prozent der Veröffentlichungen und 86 Prozent der nachgelagerten Patente Daten über Menschen extrahiert haben, wobei die Mehrheit, nämlich 71 Prozent der Veröffentlichungen und 65 Prozent der Patente, explizit Daten über den menschlichen Körper und Körperteile extrahiert hat“, so Birhane.

Über drei Jahrzehnte hinweg haben Anteil (l.) und Anzahl (r.) von Studien zur Computer Vision mit Folgepatenten im Bereich der Überwachung (farbige Balken) stetig zugenommen. Foto: Kalluri et al. (2025), CC BY-NC-ND 4.0

Computer Vision: Forschung für die Überwachung

Was einst als rein wissenschaftliches Unterfangen begann, hat sich zu einem global erscheinenden Überwachungsprojekt entwickelt. Im Zentrum stehen dabei die massenhafte, oft unbemerkte Erfassung und Interpretation personenbezogener Daten: Gesichter, Körper, Bewegungen, Aufenthaltsorte.

Die Forschung konzentriert sich dabei nicht nur auf das Erkennen von Gesichtern oder Körperteilen, sondern fokussiert sich zunehmend auch auf die Analyse von Verhalten und sozialen Zusammenhängen. Das umfasst, wer sich wann wo aufhält, mit wem spricht oder wie sich Gruppen im öffentlichen Raum bewegen. Sogar emotionale Zustände werden von Algorithmen erkannt, katalogisiert und ausgewertet.

Relative Häufigkeiten von Datentypen, die aus Veröffentlichungen und Patenten zum Thema Computer Vision in den Jahren 2010 bis 2019 extrahiert wurden. Nur 1 Prozent der Publikationen und Patente befasste sich ausschließlich mit nicht sozial relevanten Daten. Foto: Kalluri et al. (2025), CC BY-NC-ND 4.0

Getrieben wird dieser Trend, so die Studie, in erster Linie von großen Technologieunternehmen und Eliteuniversitäten, die enge Beziehungen zu Militär, Geheimdiensten und Sicherheitsbehörden pflegen. Die USA und China führen das Feld mit großem Abstand an, gefolgt von Großbritannien und Deutschland.

Unter den wichtigsten Akteuren finden sich Namen wie Microsoft, MIT, Carnegie Mellon, ETH Zürich und die Universität Hongkong. Die Zusammenarbeit zwischen Forschung, Wirtschaft und Militär sei dabei keineswegs zufällig, sondern das Ergebnis gezielter Förderpolitik und strategischer Investitionen.

Militärische Anwendungen: Von der Forschung ins Gefecht

Ein besonders brisanter Aspekt ist die militärische Nutzung der Computer-Vision-Technologien. Schon heute werden KI-gestützte Bildanalysen in Drohnen, Überwachungssatelliten und autonomen Waffensystemen eingesetzt.

Projekte wie das US-amerikanische „Project Maven“ oder die jüngsten Verträge des US-Verteidigungsministeriums mit Firmen wie OpenAI, Palantir und Anduril zeigen, wie eng die Verzahnung zwischen Forschung und militärischer Praxis ist: KI-basierte Überwachungstürme, die Personen automatisiert erkennen, werden mit semiautonomen Drohnen gekoppelt, die verdächtige Personen verfolgen oder sogar angreifen können.

[etd-related posts=“2438715,4288596″]

Auch in Europa und Asien schreitet die Entwicklung voran. In China etwa sind Überwachungskameras mit KI-gestützter Gesichtserkennung allgegenwärtig. Chinesische Firmen wie Hikvision beliefern nicht nur die chinesische Regierung, sondern exportieren ihre Technik weltweit, auch nach Deutschland, wo sie etwa bei der Verkehrsüberwachung oder in städtischen Sicherheitssystemen zum Einsatz kommt.

Wer ist besonders betroffen?

Die Auswirkungen dieser Entwicklung sind nicht für alle Menschen gleichermaßen spürbar. Im Fokus der Überwachung stehen insbesondere marginalisierte und politisch unerwünschte Gruppen. In China werden Uiguren und andere Minderheiten beispielsweise mit biometrischen Systemen überwacht und in ihrer Bewegungsfreiheit eingeschränkt.

In den USA und Europa geraten bestimmte ethnische Gruppen, Aktivisten, Migranten sowie sozial Benachteiligte häufiger ins Visier automatisierter Überwachungssysteme. Auch politische Dissidenten und Gewerkschafter werden weltweit durch die Auswertung digitaler Spuren und biometrischer Daten zunehmend kontrolliert und in ihrem Verhalten beeinflusst.

Beispielbilder aus 50 zufällig ausgewählten Artikeln zum Thema Computer Vision. Vier von fünf Studien (80 Prozent) analysierten Menschen (Bilder rot eingefärbt). Foto: Kalluri et al. (2025), CC BY-NC-ND 4.0

Überwachungstechnologien ermöglichen eine bisher nie da gewesene soziale Kontrolle, auch indirekt. Wer weiß, dass er oder sie ständig beobachtet wird, passt sein Verhalten an: Selbstzensur und Angst werden zur neuen Normalität.

Die Normalisierung der Überwachung

Auffällig ist, wie selbstverständlich die Überwachung inzwischen Teil des Alltags geworden ist. Wie die Studie feststellt, trägt auch die Sprache der Forschung dazu bei: In wissenschaftlichen Veröffentlichungen werden Menschen heute oft als „Objekte“ oder „Datenpunkte“ behandelt. In vielen Patenten und Forschungspapieren ist nur noch von „Objekterkennung“ oder „Szenenanalyse“ die Rede, obwohl in Wahrheit fast immer Menschen gemeint sind. Diese sprachliche Verschleierung trägt dazu bei, die gesellschaftlichen Folgen dieser Technologien aus dem Blick zu verlieren.

[etd-related posts=“5166122″]

Die Studie zeigt zudem, dass diese Entwicklung nicht auf einige wenige „schwarze Schafe“ beschränkt ist. Vielmehr ist die Nutzung von Computer Vision für Überwachungszwecke im gesamten Fachgebiet zum Standard geworden. Inzwischen stammt die Mehrheit der auf wissenschaftlichen Veröffentlichungen basierenden Patente aus dem Bereich der Überwachung – unabhängig davon, ob sie an Universitäten, in Unternehmen oder in staatlichen Forschungseinrichtungen entstanden sind.

„Das Geschäftsmodell des gesamten Wirtschaftszweigs der Künstlichen Intelligenz beruht auf Überwachung“, fasste Dr. Birhane zusammen.

Computer Vision ist längst Alltag

Die Einsatzfelder der KI-gestützten Überwachung sind vielfältig und reichen von der öffentlichen Sicherheit und dem Militär bis in den Alltag hinein. In London analysiert das System Live Facial Recognition das Verhalten von Passanten, um „auffällige“ Bewegungsmuster zu erkennen. Das System hat bereits zu über 500 Festnahmen geführt.

Die Software HunchLab steuert in Chicago Polizeieinsätze auf Basis von Prognosen, die aus historischen Daten und Echtzeitbildern gewonnen werden. In China ist das Sozialkreditsystem mit Kameras und KI verbunden, um das Verhalten der Bürger zu bewerten und zu sanktionieren.

[etd-related posts=“4074311,4886680″]

In Frankreich überwachte Amazon die Bewegungen der Mitarbeiter per Kamera und KI-Analyse, um Effizienz und Regelkonformität zu kontrollieren. Die Überwachung wurde als rechtswidrig eingestuft und Amazon zu einer Geldstrafe von 32 Millionen Euro verurteilt.

Zwischen Fortschritt und Gefahr

Die rasante Entwicklung der Computer Vision hat zweifellos viele technische Fortschritte ermöglicht – von der medizinischen Bildanalyse bis zu autonomen Fahrzeugen. Doch der Preis dafür ist hoch: Die Technologien, die unser Leben sicherer und komfortabler machen sollen, werden zunehmend zur Überwachung, Kontrolle und Disziplinierung eingesetzt. Besonders gefährdet sind dabei diejenigen, die ohnehin schon am Rand der Gesellschaft stehen.

Die Studie macht deutlich: Die Forschung an KI-gestützter Bildanalyse ist heute kein neutrales Feld mehr. Sie ist eng mit wirtschaftlichen, politischen und militärischen Interessen verflochten und trägt maßgeblich dazu bei, dass die Vision einer allgegenwärtigen Überwachung Realität wird. Die Gesellschaft steht vor der Herausforderung, diese Entwicklung kritisch zu begleiten, ethische Leitplanken zu setzen und Räume für Privatsphäre und Freiheit zu bewahren, bevor es zu spät ist.