„KI für Demokratie“ findet rechtes Gedankengut für Behörden, Medien und NGOs

In Kürze:

• Immer mehr Meldestellen in Deutschland: Bürger, Behörden und NGOs erfassen zunehmend Diskriminierungsvorfälle unterhalb der Strafbarkeitsgrenze
• Überwachung & Stigmatisierung jetzt auch mit KI: Verein für Demokratie will mit KI markieren; Infos sollen Behörden und Medien zur Verfügung gestellt werden
• Grundrechte & Selbstzensur: Datenschutz und Meinungsfreiheit werden gefährdet

Bei einer wachsenden Zahl sogenannter „Meldestellen“ kann jeder aufmerksame Bürger heute vermeintliche oder echte Verfehlungen von Mitbürgern analog oder via Onlineformular dokumentieren. Harmlos könnte man es so formulieren: Die Menschen passen besser aufeinander auf und Onlinemeldestellen bilden die Basis dafür.

Vorfälle unterhalb der Strafbarkeitsgrenze

Das Bundeskriminalamt unterhält seit dem 1. Februar 2022 eine Meldestelle für strafbare Inhalte im Netz. In Niedersachsen wurde noch früher damit begonnen. Die Zentralstelle zur Hasskriminalität im Internet, die Tausende Verfahren bearbeitet, nahm Mitte 2020 ihre Arbeit auf. Auch Hessen, Baden-Württemberg und Nordrhein-Westfalen haben mittlerweile ihre eigenen Anlaufstellen.

Die Landesregierung NRW schreibt dazu in eigener Sache: Mit dem Aufbau von vier Meldestellen zu queerfeindlichen und rassistischen Vorfällen „wollen wir insbesondere auch die Diskriminierungsvorfälle registrieren, die unterhalb der Strafbarkeitsgrenze liegen und deswegen nicht in den polizeilichen Statistiken erfasst werden.“ Damit sollen wichtige Schlüsse für Intervention und Prävention gezogen werden.

[etd-related posts=“4776872″]

KI gegen Rechts

Diese Meldestellen werden noch ergänzt durch eine Vielzahl von NGOs, die sich auf das Bekämpfen von Hassrede, Antisemitismus, Antifeminismus oder Rassismus spezialisiert haben. Wer mag, kann heute nahezu jede polemische Bemerkung von Facebook oder anderswo in ein Formular tippen. Eine Behörde oder NGO wird sich der Sache annehmen.

Was bisher analog oder in Onlineformularen ablief, bekommt jetzt einen neuen Turbo: die Künstliche Intelligenz. In Hamburg hat eine Initiative, die zunächst „KI gegen Rechts“ hieß und inzwischen zu dem Verein „KI für Demokratie“ geworden ist, ein gigantisches Überwachungssystem in Stellung gebracht.

Die Idee wurde im Januar 2024 geboren – so zumindest die offizielle Lesart. Als „Correctiv“ über ein rechtes „Geheimtreffen“ in Potsdam berichtete, gingen bundesweit Hunderttausende auf die Straße. Ein Moment sondergleichen für den Hamburger PR-Experten Jörg Forthmann. Der Mitgründer der Agentur Faktenkontor fasste damals, so berichtet es die „TAZ“, den Entschluss, mithilfe Künstlicher Intelligenz die Demokratie zu retten. Sein Partner ist der CDU-Mann Roland Heintze, gescheiterter Bürgerschafts- und Bundestagskandidat. Gemeinsam gründeten sie „KI gegen Rechts“. 

[etd-related posts=“4878561″]

Das „größte Analysesystem Deutschlands“

Die Selbstbeschreibung ist unbescheiden: „Das größte Analysesystem Deutschlands, das rechte Hass- und Desinformationskampagnen“ aufspürt, ist laut Forthmann in Hamburg entstanden. Es analysiert täglich Zehntausende Posts, wie er gegenüber dem „Hamburger Abendblatt“ (hinter der Bezahlschranke) angibt.

Algorithmen identifizieren angeblich „rechtspopulistische“ oder „rechtsextreme“ Akteure, scannen Themen, Quellen und Ausbreitungswege. Die Daten, so heißt es ganz offen, will man nicht für sich behalten, sondern an Medien, NGOs und staatliche Stellen weiterreichen. Es ist das Geschäftsmodell einer modernen Denunziationsfabrik: Wer einmal ins Raster gerät, findet sich als Akteur in einem digitalen Dossier wieder – auch ohne je eine Straftat begangen zu haben.

Forthmann spricht im „PR-Journal“ stolz davon, dass sein Projekt innerhalb kurzer Zeit über hundert Unterstützer gefunden hat: „Führungskräfte aus der Wirtschaft, Forscher:innen, IT-Expert:innen.“

„Bürgerrechte“ bis „Weltfriedenstag“ – wenn die KI stigmatisiert

Um laut „Hamburger Abendblatt“ der „Übermacht der Rechten im Netz etwas entgegenzusetzen“, wird eine eigens programmierte KI eingesetzt. Unter den etwa 500 Signalwörtern, mit denen sie gefüttert ist, tauchen laut Forthmanns Aussage in der „TAZ“ nicht nur Begriffe wie „Great Reset“, „Hitlers Geburtstag“ oder „Asylmissbrauch“ auf, sondern auch neutrale Wörter wie „Bürgerrechte“ oder „Weltfriedenstag“. Wer also für Bürgerrechte oder für Frieden eintritt, könnte von der Maschine als rechtspopulistisch markiert werden.

Die „KI für Demokratie“ hat rechtes Gedankengut entdeckt: „Geschlecht ist Biologie ist Realität ist Wahrheit“ und „Die Ukraine wird von Neonazis regiert“ und „Nichts geht über deutsche Hausmannskost“. Foto: Bildschirmfoto ki-fuer-demokratie.de

Rechtslage: DSGVO und der Schutz politischer Meinungen

Öffentlich sind die Analysen von „KI für Demokratie“ nicht, sagt Forthmann der „TAZ“, um eine Klagewelle von Rechten zu vermeiden. Menschen könnten sich, natürlich zu Unrecht, abgestempelt sehen und eine Verletzung des Persönlichkeitsrechts konstruieren. „Die Klage würde natürlich abgewiesen“, ist sich Forthmann sicher, „aber wir hätten hohe Anwaltskosten“. Datenschutzanforderungen werden aber „vollständig erfüllt“, es gebe auch einen Datenschutzbeauftragten. Zudem werden nur öffentliche Posts gesammelt.

Rechtsanwalt Dirk Schmitz hat auf „Alexander-Wallasch.de“ die Konstruktion analysiert und kommt zu einem gegenteiligen Urteil: Das Vorgehen verstoße gegen fundamentale Datenschutz- und Grundrechtsvorgaben.

Bereits die Grundannahme, öffentlich geäußerte Meinungen in sozialen Netzwerken oder Kommentarspalten seien pauschal ‚frei zur Analyse‘, verkennt die Reichweite der Datenschutz-Grundverordnung (DSGVO).“

Die Pläne, Meinungsäußerungen systematisch zu erfassen, zu speichern, zu kategorisieren und an Dritte weiterzugeben, sind in den Augen des Medienanwalts schlicht illegal.

Sobald Beiträge Rückschlüsse auf Personen zulassen – etwa durch Nutzernamen oder Profilbilder – handelt es sich um personenbezogene Daten (Art. 4 Nr. 1 DSGVO). Politische Meinungen zählen zudem zu den besonders geschützten Daten (Art. 9 Abs. 1 DSGVO) und dürfen grundsätzlich nicht ohne ausdrückliche Einwilligung verarbeitet werden. Der Hinweis auf die öffentliche Zugänglichkeit solcher Beiträge ändere daran nichts, so Medienanwalt Schmitz.

[etd-related posts=“5221426″]

Private Feindlisten

Besonders schwer wiege, dass die erfassten Daten nicht nur intern genutzt, sondern staatlichen Stellen zur Verfügung gestellt werden sollen. Damit entstehen faktisch private „Feindlisten“, die Menschen nach undurchsichtigen Kriterien als „rechtspopulistisch“ oder „demokratiefeindlich“ einstufen. Ein solches Vorgehen überschreite die Schwelle zur Diskriminierung, befindet Medienanwalt Schmitz.

Eine solche massenhafte, anlasslose Datenverarbeitung verletzt zudem das allgemeine Persönlichkeitsrecht und das Recht auf informationelle Selbstbestimmung, wie das Bundesverfassungsgericht bereits im Kontext der Rasterfahndung klargestellt hat.

Zugleich gerät die Meinungsfreiheit nach Art. 5 GG unter Druck, ordnet Schmitz weiter ein. Wer eine politische Meinung äußert, darf nicht Gefahr laufen, ohne Anlass algorithmisch überwacht und gegenüber Behörden stigmatisiert zu werden. Würde der Staat ein solches Projekt sogar fördern, läge eine mittelbare Grundrechtsverletzung vor.

Digitale Hexenjagd

Der Zweck, Demokratie zu schützen, rechtfertigt diese Methoden daher nicht. Vielmehr droht das Vorhaben selbst, demokratische Grundrechte auszuhöhlen. Dirk Schmit analysiert:

Hier entsteht eine Kultur der digitalen Hexenjagd, in der private Diskursäußerungen durch algorithmisch unterstützte Überwachungstechnologien in politische Raster eingeordnet werden – mit irreversiblen Folgen für Reputation, berufliche Teilhabe oder gesellschaftliche Stellung der Opfer.“

Der Rechtsanwalt hat angekündigt, Klage einzureichen. Staatsrechtler Ulrich Vosgerau spricht in der „Sonntagsrunde“ des Kontrafunks gar von einer

Sinisierung, (…) die Chinesifizierung Deutschlands“.  

Im Interesse der Allgemeinheit soll jedem Einzelnen das Gefühl eingeflößt werden, so Vosgerau, „dass er beobachtet wird, dass alles mitgeschrieben wird. (…) Sie wollen eine chinesische Gesellschaft aufbauen, weil sie merken, dass sie so keine Mehrheiten mehr kriegen. Das ist in der Tat sehr gefährlich.“

Wer das Risiko trägt, nach einem Tweet oder Kommentar auf einer geheimen Liste zu landen, überlegt sich, ob er überhaupt noch etwas schreibt. Das ist der Kern der schleichenden Selbstzensur oder „chilling effects“, wie es im Englischen heißt. An diesem Punkt kippt die Verteidigung der Demokratie hin zu einem Angriff auf demokratische Grundwerte.