Stopp für KI-Superintelligenz: Wissenschaftler, Politiker und Unternehmer gegen KI

Mehr als 700 Wissenschaftler, Politiker und Prominente wie Prinz Harry oder Apple-Mitgründer Steve Wozniak haben einen Stopp der Entwicklung von Künstlicher Intelligenz (KI) gefordert, die menschliche Fähigkeiten übertreffen könnte.

Diese sogenannte Superintelligenz müsse verboten werden, „bis diese Technologie zuverlässig sicher und kontrollierbar ist“, fordern die Unterstützer der Initiative in einer am Mittwoch veröffentlichten Erklärung des Future of Life Institutes. Die Nichtregierungsorganisation kämpft gegen die Gefahren von KI.

Viele Prominente haben unterschrieben

Zu den Unterzeichnern gehören der KI-Pionier und Physik-Nobelpreisträger Geoffrey Hinton, der bekannte KI-Wissenschaftler Yoshua Bengio von der Universität Montreal sowie der britische Unternehmer Richard Branson und der ehemalige Berater von US-Präsident Donald Trump, Steve Bannon.

[etd-related posts=“5254785,4921608,“]

Auch Prominente wie der britische Prinz Harry und seine Frau Meghan sowie der KI-Experte des Vatikan, Paolo Benanti, haben unterschrieben.

Zwar wünschten sich viele Menschen leistungsstarke Programme, die die Wissenschaft oder Medizin voranbrächten oder für mehr wirtschaftliche Produktivität sorgten, erklärte der Mitbegründer des Future of Life Institutes, Anthony Aguirre.

Aber das Wettrennen von KI-Unternehmen auf dem Weg zu KI-Technologien, die den Menschen übertreffen und ersetzen sollen, sei „sehr weit von dem entfernt, was die Öffentlichkeit will, Wissenschaftler für sicher oder religiöse Anführer für richtig halten“, fügte er hinzu.

[etd-related posts=“5278987,5270701″]

Es gab schon einen offenen Brief dazu

Während der UN-Generaldebatte im September hatten Forscher und Beschäftigte aus dem KI-Sektor ebenfalls einen offenen Brief veröffentlicht, in dem sie Regierungen dazu aufforderten, bis Ende 2026 ein internationales Rahmenwerk für „rote Linien“ in Bezug auf KI zu beschließen.

Tech-Unternehmen wie Meta oder der ChatGPT-Entwickler OpenAI streben die Entwicklung von Superintelligenz in den kommenden Jahren an. OpenAI-Chef Sam Altman, dessen Unternehmen ChatGPT herausbrachte, hatte im September gesagt, dass Superintelligenz binnen der nächsten fünf Jahre geschaffen werden könnte. (afp/red)