Wird die KI unser Gehirn verschlingen?

Laut Doug McMillon, Geschäftsführer von WalMart, verändert die Künstliche Intelligenz (KI) sämtliche Arbeitsplätze in seinem Unternehmen, und zwar auf allen Ebenen. Die Auswirkungen betreffen den gesamten Sektor. Viele Arbeitsplätze werden wegfallen, einige werden neu entstehen und fast alle werden in irgendeiner Form umstrukturiert werden. Das alles geschieht sehr schnell.

Es gibt sicherlich Grund zum Feiern. Aber die Erfahrungen der letzten Jahrzehnte sollten uns ebenso vorsichtig werden lassen, was den Sprung ins Ungewisse angeht. Wir sollten uns fragen, was der Preis für all das ist. Was werden wir möglicherweise verlieren?

Das große Problem mit KI liegt nicht in ihrer Funktionsweise, ihrer Effizienz oder ihrer Nützlichkeit – darin ist sie zweifelsohne bemerkenswert. Die Gefahr besteht vielmehr darin, was sie mit dem menschlichen Gehirn macht. Ihr gesamtes Ethos zielt darauf ab, auf alles eine Antwort zu liefern. Doch das bloße Erhalten einer Antwort ist nicht die eigentliche Triebfeder für menschlichen Fortschritt.

Fortschritt entsteht durch Lernen. Und Lernen kann nur stattfinden, wenn man sich den Unannehmlichkeiten stellt, die nötig sind, um zur Antwort zu gelangen. Zunächst erlernt man die Methode. Dann wendet man sie an. Doch man liegt daneben. Und wieder liegt man daneben. Man entdeckt seine Fehler. Man behebt sie und macht trotzdem wieder Fehler. Man findet weitere Fehler, bis man schließlich die Antwort findet.

Dann stellt sich jene tiefe Zufriedenheit ein: Man spürt, wie der Geist arbeitet, sich schärft, wächst und das beglückende Gefühl innerer Erfüllung einsetzt.

Wirkliches Lernen entsteht erst im Prozess: durch Anstrengung, Irrtum und die aktive Auseinandersetzung mit Problemen. Wer sich jedoch bei jeder Antwort auf Künstliche Intelligenz verlässt, verlernt zu denken. Intuition, Urteilsvermögen und echte Einsicht bleiben aus. Solche Menschen verharren in einem Zustand des Nichtwissens, unfähig, die eigenen Lücken überhaupt zu erkennen, geschweige denn zu schließen.

Dies stellt eine ungeheure Gefahr für uns dar.

[etd-related posts=“5279784,5263083“]

Retsef Levi, Professor am MIT, sprach am 24. September auf einer Veranstaltung des Brownstone Institute über dieses Thema. Seine ernste Warnung war: Der Aufbau von Systemen, die grundlegend auf KI basieren, könnte katastrophale Folgen für Freiheit, Demokratie und Zivilisation haben.

Selbst aus individueller Perspektive besteht die Gefahr, dass die KI unsere Denkfähigkeit untergräbt, einfach weil nicht mehr von uns verlangt wird, selbst zu denken. Seit Kurzem bietet nahezu jedes Dokument, auf das ich zugreife, eine Kurzfassung durch ein KI-Tool an, sodass ich eigentlich gar nichts mehr lesen muss. Das ist absurd und ich wünschte, diese Unternehmen würden mit diesem Unsinn aufhören.

Das werden sie nicht. Alles begann mit einem Ausdruck, den ich nicht ausstehen kann: „Executive Summary“. Ich weiß nicht, woher dieser Ausdruck für eine Zusammenfassung stammt. Steckt dahinter die Vorstellung, dass ein vielbeschäftigter und vornehmer „Manager“ sich unmöglich mit Details und Erzählungen aufhalten kann, weil er Anrufe entgegennehmen und wichtige Entscheidungen treffen muss? Ich weiß es nicht, aber fest steht, dass sich der Begriff mittlerweile in allen Bereichen durchgesetzt hat.

Wir wollen nun immer, dass alle auf den Punkt kommen, dass sie zum „Wer war es?“ springen, anstatt das Drama zu lesen, dass sie uns im Aufzug schnell alles erklären, weil wir einfach keine Zeit haben, viel nachzudenken. Schließlich gibt es immer bessere Möglichkeiten, wie wir unsere Zeit verbringen können. Womit? Vermutlich damit, noch mehr Zusammenfassungen zu lesen.

All das ist eine absurde Heuchelei und eine Folge davon, dass wir glauben, so fortschrittlich zu sein, dass wir gar nichts mehr wissen müssen. Das System erledigt das schließlich für uns.

Wann werden wir uns endlich wieder die Zeit nehmen, um nachzudenken und zu lernen? Wie können wir bei all diesen Hilfsmitteln, die uns das eigentliche Nachdenken abnehmen, sicher sein, dass die vom System gegebenen Antworten auch korrekt sind?

Man könnte sagen, dass dies auch für Taschenrechner und das Internet gilt. Und das stimmt. Diese beiden Dinge bergen ebenfalls diese Gefahr.

Wahrscheinlich gehöre ich zur letzten Generation von Studenten, die ihr Studium mit Karteikarten und physischen Bücherregalen als einzige verfügbare Ressourcen absolviert hat. Wenn ich nicht im Unterricht war, dann war ich in der Bibliothek. Meistens saß ich auf dem Boden, umgeben von Bücherregalen.

[etd-related posts=“5244338,5219965“]

Das war ein Abenteuer. Es war Arbeit. Es gab Belohnungen. Das Stöbern in den Stapeln machte mir Freude, und innerhalb von zwei Jahren hatte ich mich nach und nach durch das gesamte Gebäude durchgeackert. Und dieser Wissensfundus steht mir bis heute zur Verfügung.

Ich habe die Liebe zum Lernen entdeckt. Ich habe mich in diesen Prozess verliebt, nicht nur darin, die Antworten zu haben, sondern auch darin, herauszufinden, wie man dorthin gelangt.

Selbst um Zeitschriften zu finden, musste man schwere Bücher hochheben und sehr genau lesen. Sobald man das Gesuchte gefunden hatte, konnte man zu den Regalen gehen und gebundene Literaturbände aus den letzten 150 Jahren in die Hand nehmen. Man konnte die Seiten fühlen und sie so erleben, wie es frühere Generationen getan hatten.

Ich frage mich oft, ob dies für Studenten jemals wieder möglich sein wird. Ich frage mich, was uns abhandengekommen ist. Zweifellos ist der Zugang heute schneller. Das Informationszeitalter hat viele wunderbare Seiten. Leider ist das gesamte System jedoch darauf ausgerichtet, Antworten auf jede Frage zu liefern. Je mehr wir den Prozess des Entdeckens und Bemühens umgehen, desto mehr glauben wir, dass das System funktioniert. Da bin ich mir jedoch nicht so sicher.

In meiner Highschool-Zeit fand ich im Buchladen die „Cliff’s Notes“ – kurze Zusammenfassungen all der Texte, die uns die Lehrer aufgaben. Ich kaufte ein paar Exemplare und merkte schnell: Nach einer halben Stunde hatte ich das Wesentliche erfasst und konnte mir neun Stunden Lesen sparen. Damit bekam ich in den Prüfungen eine 2 und manchmal sogar eine 1.

Aber dann wurde mir ein Problem bewusst: Ich konnte mit anderen nicht über das Buch sprechen. Sie berichteten von den emotionalen Erlebnissen und dem Nervenkitzel, die sie beim Lesen hatten. Ich hatte nichts davon. Wer war jetzt der Dumme? Ich beraubte mich selbst der wunderbaren Erfahrung, das Buch tatsächlich zu lesen.

Die Figuren, die Handlung und den Ausgang der Geschichte zu kennen, ist nichts als eine Ansammlung von Daten. Was mir fehlte, war die transformative Erfahrung, in die vom Autor geschaffene Welt einzutauchen. Ich hatte nichts, woran ich mich erinnern konnte.

Also beschloss ich, damit aufzuhören. Mir wurde klar, dass es überhaupt nicht darum ging, die richtigen Antworten in der Prüfung zu finden. Es ging darum, zu lernen, die einzelnen Schritte zu durchlaufen, zu erleben, wie es ist, etwas herauszufinden, und den Geist zu trainieren. Die Studenten, die das taten, entwickelten sich zu intelligenten und sogar weisen Menschen. Diejenigen, die es nicht taten, blieben in gewisser Weise auf der Strecke.

Irgendwann finden alle Studenten heraus, wie sie das System austricksen können. Das gilt insbesondere für die Studienphasen nach dem ersten Hochschulabschluss. Die Professoren wollen sich geschmeichelt fühlen und die Studenten finden heraus, wie sie das erreichen können, ohne den Stoff zu lesen. Das sind die Zyniker. Ich kannte viele von ihnen. Ich habe nie verstanden, warum sie sich überhaupt die Mühe gemacht haben.
Sicher, sie haben es geschafft, aber zu welchem Zweck?

Leider dreht sich in unserem gesamten Bildungssystem alles um Prüfungen. Die Prüfungen sind darauf ausgelegt, herauszufinden, ob die Lernenden die richtigen Antworten geben. Ein solches System wird immer ausgenutzt werden. Es geht nur noch darum, Richtig-falsch-Prüfungen und Multiple-Choice-Tests zu bestehen. Mit Computern ist es noch schlimmer. Das ist zur Gewohnheit geworden und dauert 18 Jahre lang an.

Das ist jedoch kein Denken. Das ist das Training von Robotern.
KI verschärft dieses Problem, indem sie den Aufwand und den Prozess aus allem herausnimmt. Sich anzustrengen, um von einem Punkt zum anderen zu gelangen, ist der einzige Weg, um intellektuelle Muskeln aufzubauen.

Manchmal blicke ich zurück und erinnere mich daran, wie viel Zeit ich damit verbracht habe, die Instrumente Posaune, Klavier und Gitarre zu lernen – Musik, die ich auf Schallplatten gehört habe, auf Notenpapier zu schreiben, in Proberäumen zu sitzen und bei Wettbewerben mitzumachen.

War alles umsonst, nur weil ich diese Tätigkeiten nicht zum Beruf gemacht habe? Keineswegs. Ich habe gelernt, wie man sich weiterentwickelt.

Jahre später sprang ich von einer intellektuellen Begeisterung zur nächsten. Eine Zeit lang war ich besessen von der Eschatologie, der theologischen Lehre vom Weltuntergang. Ich habe bestimmt 60 bis 100 Bücher zu diesem Thema gelesen. Jetzt interessiert mich das nicht mehr so sehr. Habe ich also meine Zeit verschwendet? Keineswegs. Ich habe mein Gehirn trainiert, sodass es besser funktioniert.

Eltern sollten sich deshalb nicht beschweren, wenn ihre Kinder von Harry-Potter-Büchern besessen sind und sie fünfmal lesen. Das ist eine hervorragende Möglichkeit, die geistigen Fähigkeiten zu fördern. Denn alle Aktivitäten, denen wir mit Leidenschaft und Fleiß nachgehen, wirken der intellektuellen Trägheit entgegen.

Genau darin liegt das Problem. KI ist eine Technologie der Faulheit. Das gefällt uns. Es gefällt uns sogar viel zu gut. Im Moment kommt uns KI magisch vor, weil sie mit denkenden Menschen zusammengeführt wird.

Zurzeit liefern die großen Sprachmodelle, die ich nutze, oft falsche Ergebnisse, mitunter sogar sehr häufig. Meist kann ich die Fehler selbst erkennen, dafür trägt die KI-Engine jedoch keine Verantwortung.

Schlimmer als ein KI-System, das sporadisch Fehler macht, ist eines, das immer richtig liegt. Genau das führt nämlich am ehesten zu Faulheit und Dummheit.

Mein Ratschlag an Walmart: Bauen Sie in Ihren Lieferketten keine Systeme auf, deren Funktionalität vollständig von einer Technologie abhängt, die erst seit Kurzem eingesetzt wird und die niemand wirklich versteht. Wenn Sie das tun, werden Sie feststellen, dass Ihre Position als weltweit führender Einzelhändler anfällig für die Konkurrenz von Unternehmen ist, die Menschen, Urteilsvermögen und Weisheit mehr schätzen als seelenlose Maschinen, die kein Gewissen haben und wahllos etwas von sich geben.

Dieser Artikel erschien im Original auf The Epoch Times unter dem Titel „Will AI Eat Our Brains?“. (deutsche Bearbeitung von ee)

Dieser Beitrag stellt ausschließlich die Meinung des Verfassers oder des Interviewpartners dar. Er muss nicht zwangsläufig die Sichtweise der Epoch Times Deutschland wiedergeben.