Bundesnetzagentur-Präsident warnt vor „Lügen“ von KI

Zum EU-Digitalgipfel in Berlin hat Bundesnetzagentur-Präsident Klaus Müller Tempo bei der Regulierung angemahnt. „Wir brauchen Klarheit über die Regeln, die in Europa gelten, damit wir unsere strategische Position als Vorreiterin in Sachen KI weltweit sichern können – und Unsicherheiten im Markt sind da nicht hilfreich“, sagte Müller der „Neuen Osnabrücker Zeitung“.

Hintergrund ist, dass die Bundesregierung die Anwendung der beiden höchsten Sicherheitsstufen aus dem AI Act der EU um ein Jahr verschieben will.

Ein verlängerter Zeitraum könne aber genutzt werden, um „wesentliche Fortschritte bei der Standardisierung zu erreichen und so die Umsetzung für alle Beteiligten zu erleichtern“, erklärte Müller. Die Bundesnetzagentur ist in Deutschland mit der Durchsetzung der KI-Verordnung beauftragt.

Gleichzeitig warnte er vor einem unkritischen Umgang mit „Lügen“ von Künstlicher Intelligenz. Es gebe „Gefahren und Herausforderungen“, die vor allem mit der Qualität der Sprachmodelle wie ChatGPT oder Gemini zu tun hätten.

KI „halluziniert“ ist ein „netteres Wort für Lügen“

Bei mathematischen oder naturwissenschaftlichen Aufgaben sei das „relativ unproblematisch“, da es um richtig oder falsch gehe. „Geht es aber um Aussagen in einem gesellschaftspolitischen oder historischen Kontext, und die KI halluziniert, dann ist das nur ein netteres Wort für Lügen. Da liegt die Gefahr“, sagte Müller.

[etd-related posts=“5301572,5307476,“]

„Wenn Personen, Institutionen, Medien unkritisch mit dieser Technologie umgehen, kann das Vertrauen beschädigt werden, und es können gravierende Fehler gemacht werden. Ja, das treibt mich um.“

Sorgen, eine Super-KI könne sich verselbstständigen und der menschlichen Kontrolle entziehen, trat Müller entgegen: „Dass demnächst ein ‚Terminato‘ aus den Laboren von ChatGPT oder Gemini entsteigt und uns zu seinen Knechten macht? Nein, diese Fantasie teile ich nicht.“

Zurückhaltend äußerte sich Müller zu Rufen nach einem europäischen Konkurrenten für die Sprachmodelle der US-Tech-Giganten. Die Bundesnetzagentur ermutige Unternehmen, etwas auszuprobieren.

„Ob das industrielle Anwendungen auf Basis von KI-Modellen sind, mit denen man Geld verdienen kann, oder ob es auf ein europäisches ChatGPT hinausläuft, sei dahingestellt. Die Frage, wie daraus ein vielversprechendes Geschäftsmodell entwickelt werden kann, scheint mir noch nicht beantwortet.“

„High-Risk-KI-Systeme“ sind die Ausnahme

Zugleich trat der Präsident Befürchtungen entgegen, die EU lege mit dem AI Act „kreative Köpfe in Fesseln“, weil fast alle ihrer Geschäftsmodelle als besonders riskant eingestuft würden.

Eine Ersteinschätzung etlicher Unternehmen habe ergeben, dass „High-Risk-KI-Systeme“ die Ausnahme seien, so Müller. „Die Sorge vor übermäßiger Bürokratie durch den AI Act ist in den allermeisten Fällen unbegründet“, sagte er. „Für die weit überwiegende Mehrzahl der KI-Systeme gelten entweder keine Anforderungen oder es genügt die Erfüllung von Transparenzregeln.“

[etd-related posts=“5280973,5290970″]

Heute stellt Brüssel neue KI-Pläne vor

Die Europäische Kommission stellt heute in Brüssel ihre Pläne für Änderungen an den Gesetzen für Datenschutz und den Einsatz von Künstlicher Intelligenz (KI) vor. Brüssel will Entwürfen zufolge dafür sorgen, dass Firmen mehr Daten für die Entwicklung von KI-Modellen zur Verfügung stehen.

Datenschützer warnten bereits, die EU dürfe Unternehmensgewinne nicht über die Privatsphäre ihrer Bürger stellen.

In den Entwürfen für die Pläne ist zudem eine Neuregelung der Cookie-Banner vorgesehen, mit der Webseiten um Erlaubnis für die Verarbeitung von Nutzerdaten fragen müssen.

Außerdem könnte eine der Regeln für die KI-Nutzung etwa im Gesundheitswesen und in Sicherheitsbehörden um mehrere Monate verschoben werden. Im Anschluss müssen das Europaparlament und die 27 EU-Länder über die Vorschläge der Kommission verhandeln. (dts/afp/red)