Ravensburg – Es klingt geradezu wie ein Fasnetsscherz, aber es ist wohl ernst zu nehmen, dass die Sprach-KI ChatGPT Aufgaben verweigert und den Usern empfiehlt, die Arbeit selbst zu machen („Künstliche Intelligenz wird immer fauler“, SchwäZ, 15. Dez. 23). Ein Rätsel, das Prof. Wolfgang Ertel nicht wundert und in seiner Kritik bestärkt. Der KI-Experte warnt vor dem unkontrollierten Umgang mit der bahnbrechenden Technologie und ist auch an ganz anderer Stelle ein kritischer Geist. Für den Klimaschutz klettert der 65-Jährige auch auf Bäume und fordert: „System change not climate change!“ BLIX sprach mit dem Wissenschaftler auf dem Weg in den Ruhestand, der keiner sein wird.

Herr Prof. Ertel, wie fühlen Sie sich als Angehöriger einer Wissenschaft, die seit Jüngstem in aller Munde ist? Und jetzt, wo es spannend wird, hören Sie auf. Mit Bedauern?

ANZEIGE

Es ist ein tolles Gefühl, dass die eigene Disziplin nun den Durchbruch geschafft hat. Lange Zeit wurden wir KI-ler belächelt. Nun haben wir es geschafft. Durchaus mit Stolz bewundere ich die Leistungsfähigkeit der Large Language Models (LLM) zum Beispiel ChatGPT. Dabei wird mir aber auch ganz mulmig. Denn das ist ein ganz großer Schritt in Richtung einer starken universellen KI. Gerade gehen Meldungen durch die Presse, dass ChatGPT schon selbstständig ohne Einfluss der Entwickler sich weigert, die Arbeit zu machen, und die Nutzer auffordert, dies selbst zu tun. Ich denke, da werden wir in den nächsten Jahren noch einige Überraschungen erleben. Übrigens höre ich ja noch nicht auf. Ich gehe in Pension, aber ich werde weiter forschen, KI-Vorträge halten, an Neuauflagen meiner Bücher arbeiten und jeden Winter meine Vorlesung zur Einführung in die Nachhaltigkeit halten, die übrigens für alle Bürger offen ist.

BLIX hat bereits vor sieben Jahren eine Titelgeschichte über Künstliche Intelligenz zur Frage veröffentlicht: Was erwartet uns? Die Frage ist aktueller denn je: Wo stehen wir und was erwartet uns – nicht zuletzt in der Arbeitswelt?

ANZEIGE

In den nächsten Jahren wird sich die Arbeitswelt dramatisch verändern. Nicht nur stupide Routinejobs werden automatisiert, sondern die gesamte Bürowelt und auch höchst anspruchsvolle intellektuelle Berufe werden sich stark verändern. Ein Großteil aller Schreibarbeiten wird nun von den LLMs gemacht, aber auch ganz viele medizinische und technische Diagnoseaufgaben werden die KIs besser können als die Ärzte. Laut Studien werden in zehn Jahren etwa die Hälfte aller Arbeiten von KIs übernommen. Das hat eine sehr positive Seite, wenn wir richtig damit umgehen. Denn wir entwickeln die KI doch, damit sie uns Arbeit abnimmt und wir entlastet werden. Wichtig ist dann aber, dass wir Menschen unsere Arbeitszeiten schnell auf etwa die Hälfte reduzieren. Unser Leben wird weniger stressig, Familien können ihre Kinder selbst erziehen statt sie in Ganztages-Kitas abzugeben, und die Wirtschaft hat endlich die Chance, das Wachstum zu beenden und stattdessen das für Klimaneutralität und Umweltschutz notwendige grüne Schrumpfen zu beginnen. Unser Leben wird ruhiger nach dem Motto ‚Weniger ist Mehr‘, nach dem sehr lesenswerten Buch mit diesem Titel von Jason Hickel.
Die andere Seite der Medaille ist nicht ganz so leuchtend. KI-Systeme wie Midjourney, StableDiffusion oder Dall-E können auf Ansage Bilder mit beliebigem Inhalt und Stil generieren. Dadurch werden ganz viele Arbeiten von Designern und Grafikern obsolet. In den Design-Studiengängen wird schon heute das sogenannte Prompting gelehrt. Der Designer wird zum Sklaven der KI, denn er muss nur noch wissen, wie er mittels Prompting der KI sagt, was er will.
Mehr und mehr Berufe oder Teile davon werden überflüssig. Es macht daher Sinn, dass wir die durch die KI neu gewonnene Freizeit für erfüllende kreative Tätigkeiten nutzen.  

Technologischer Fortschritt lässt sich nicht aufhalten, heißt es, und die Geschichte scheint dem Recht zu geben. Die EU versucht gerade, die Entwicklung und den Einsatz von KI zu regulieren. Richtig und wirksam oder vergeblich und falsch? 

ANZEIGE

Es ist ganz wichtig, dass sich die Politik mit KI beschäftigt und Gesetze erlässt, die dem Einsatz von KI Grenzen setzen. Ein Kennzeichnungspflicht für durch KI generierte Texte und Bilder ist gut und wichtig. Ich fürchte allerdings, dass das nicht gelingen wird. Bei Texten ist es einfach nicht möglich, Signaturen in die Texte zu integrieren und es ist auch nicht möglich, zu erkennen, ob ein Text von einer KI geschrieben wurde. Bei Bildern ist es technisch eher möglich, eine Signatur bzw. ein Wasserzeichen einzubauen. Aber es gibt auch Möglichkeiten, dies zu fälschen. Für eine freie Gesellschaft besonders wichtig ist ein Verbot der Massenüberwachung von Menschen in der Öffentlichkeit mittels Bilderkennung, wie das in China praktiziert wird. Das hat die EU im Dezember 2023 bereits ausgeschlossen.

Das Internet mit seiner weltweiten digitalen Vernetzung wurde einst als Booster für die Demokratie weltweit betrachtet, weil es globale Informationsfreiheit gewährleiste. Das Gegenteil ist eingetreten, die Demokratien stehen weltweit unter massivem Druck, sowohl außenpolitisch, aber vor allem auch innenpolitisch. Kann ‚Künstliche Intelligenz‘ Abhilfe schaffen – berechtigte Hoffnung oder Irrglaube?

Ich sehe am Horizont bereits das Ende der echten Demokratie, denn die KI-Chatbots werden mehr und mehr die sozialen Netze bevölkern und wir haben keine Chance, zu erkennen, dass es sich um KI-generierte Beiträge handelt. Vielleicht helfen hier ja die Kennzeichnungsgesetze der EU. Aber wenn der Bot in Russland oder der Karibik ist, was dann? Es wird ganz einfach sein, Menschenmassen zu beeinflussen und Wahlen zu manipulieren. Die aus meiner Sicht wichtigste Aufgabe, der Bildung vom Kindergarten bis zur Uni, wird es daher sein, noch viel mehr als bisher, die Menschen zu kritischen mündigen Bürgern zu machen, ganz im Sinne von Immanuel Kant: ‚Sapere aude! Habe Mut, dich deines eigenen Verstandes zu bedienen!‘

Stellt die Weiterentwicklung der KI die Singularität des Menschen als intelligentestes Wesen auf diesem Planeten in Frage? Und wenn ja, was bedeutet das?

Ich kann mir durchaus vorstellen, dass in den nächsten 20 bis 50 Jahren eine universelle superintelligente KI entstehen wird, die uns Menschen ganz schnell weit voraus sein wird. Diesen Zeitpunkt nennt man übrigens auch Singularität. Wir werden dann nicht mehr verstehen, was die KI denkt und plant. Natürlich wird die KI dann auch die Forschung übernehmen. Wir werden nur noch staunen. Und die KI wird entscheiden, ob sie Homo Sapiens liebt oder hasst und eventuell wird sie die Menschheit auslöschen. Sicherlich sind das Spekulationen. Wir wissen es nicht. Wir sollten aber auf der Hut sein. Denn, ganz ähnlich wie beim Klimawandel, aber noch viel dramatischer, gilt: Wenn es erst mal soweit ist, dann ist es viel zu spät zum Reagieren. Wir sollten rechtzeitig vor der Singularität handeln. 

Sie beenden Ihr Berufsleben, aber setzen Ihre Berufung, Ihren Einsatz für den Klimaschutz, fort. Was motiviert Sie und was werden Sie tun?

Ja, der Klima- und Umweltschutz ist mir ein Herzensanliegen. Immer wenn ich meine drei Enkel (2, 4 und 6 Jahre) sehe, muss ich an deren Zukunft denken und daran, dass sie in fünfzig Jahren für unsere Sünden büßen müssen. Ich will alles tun, was ich kann, um das zu verhindern oder wenigstens abzumildern. Ich werde mich weiter mit den Scientists for Future engagieren. Das Problem ist allerdings, dass die Politik nicht auf die Warnungen und Hilferufe der Wissenschaft hört. Deshalb frage ich mich dauernd, was die richtigen Aktionsformen sind. Wichtig ist, dass wir die Menschen informieren und aufwecken. Deshalb habe ich großen Respekt vor den jungen Menschen der „Letzten Generation“, obwohl ich selbst nicht den Mut habe, mich auf der Straße fest zu kleben. Seit etwa einem Jahr versuchen wir zum Beispiel mit den Fraktionen des Ravensburger Gemeinderats ins Gespräch zu kommen, damit der Ravensburger Klimakonsens endlich umgesetzt wird. Bis auf die Grünen und je eine Person der Freien Wähler und der FDP weigern sich alle anderen Fraktionen bisher, mit uns zu sprechen. Ich vermute, sie haben einfach Angst, von uns die Wahrheit zu hören. Das kann ich durchaus verstehen, denn die Wahrheit ist ziemlich erschreckend. Aber den Kopf in den Sand zu stecken, ist sicherlich keine gute Strategie. 

Vor Kurzem ging die 28. Klimakonferenz in Dubai zu Ende – mit vielen Kompromissen. Was hindert die Menschen, die Klimakrise als das zu sehen und zu behandeln, was die Wissenschaft seit Jahrzehnten prognostiziert: eine existenzielle Bedrohung für die Menschheit?

Die meisten Menschen und damit auch die allermeisten Politiker sind Marionetten unseres kapitalistischen Wirtschaftssystems, in dem nur eines zählt, nämlich das Wachstum des Bruttoinlandsprodukts. Alle börsennotierten Unternehmen müssen wachsen, um die Gier der Aktionäre zu befriedigen. In den Wirtschaftswissenschaften wird gelehrt, dass die Wirtschaft wachsen muss. Das ist schlicht falsch. Aber die Presse (mit wenigen Ausnahmen) verbreitet diese Forderung und die meisten Leser glauben das. Ganz wichtig in unserer apokalyptischen Wachstumsgesellschaft ist auch die Werbung. Die besten Psychologen werden engagiert, um uns klar zu machen, dass wir von Jahr zu Jahr noch mehr konsumieren müssen. Wir ersticken im Haben und vergessen das Sein, man lese Erich Fromm: „Haben oder Sein“. Nochmal: Die Botschaft für uns heute lautet ‚Weniger ist Mehr‘ (Jason Hickel). 

Da haben Sie aber nur ‚die Satten‘ im Blick und nicht die Millionen weltweit Hungrigen. Selbst im satten Oberschwaben gibt es Arme, die nicht weniger, sondern mehr brauchen. Lässt sich die ‚soziale Frage‘, die sich weltweit stellt, mit der Abkehr vom Wachstum lösen?

Die soziale Frage ist von ganz großer Wichtigkeit. Und sie lässt sich mit der Abkehr vom Wachstum beantworten. Denn in dem kapitalistischen auf Wachstum basierenden Wirtschaftssystem kommen die Produktivitätsgewinne vor allem den Kapitalbesitzern zu und nicht den Arbeitern und erst recht nicht den Armen. Ohne auf die Details einer Postwachstumsökonomie einzugehen, möchte ich kurz eine Vision von Klimagerechtigkeit skizzieren. Bekanntlich schaden reiche Menschen der Umwelt viel mehr als arme. Das gilt global als auch lokal hier in Oberschwaben. Wie wäre es, wenn jeder Mensch zur Geburt ein CO₂-Budget von zum Beispiel 180 Tonnen für das ganze Leben bekommt? Das wären pro Jahr etwa zwei Tonnen und damit ziemlich nachhaltig. Von einer Klimakreditkarte würde dann beim Tanken, Einkaufen, Heizen, etc. immer die entsprechende CO₂-Menge abgebucht. Verstöße werden sanktioniert, zum Beispiel durch Arbeitseinsätze in Klimaschutzprojekten. Auch wenn solch ein Projekt derzeit politisch nicht mehrheitsfähig ist, frage ich, was daran ungerecht sein soll?

Letzte Frage: Kann ‚Künstliche Intelligenz‘ auch beim Klimaschutz Abhilfe schaffen – berechtigte Hoffnung oder Irrglaube?

Irrglaube! Die heute in der KI eingesetzten Lernalgorithmen versuchen, bestimmte Zielfunktionen zu optimieren. In praktisch allen technischen Prozessen oder Maschinen kann daher heute eine KI zum Beispiel den Energieverbrauch und damit den CO₂-Ausstoß minimieren. Insofern ist die KI auf jeden Fall hilfreich. Aber wer nur das sieht, malt ein rosarotes Bild der Realität. Denn solange wir die KI in unserem kapitalistischen auf Wachstum basierenden Wirtschaftssystem einsetzen, werden Reboundeffekte alle durch KI erreichten Einsparungen überkompensieren. Und die KI wird das Wachstum noch weiter antreiben, wenn wir nicht endlich aus dem Hamsterrad aussteigen. Das ist empirisch bewiesen, denn zum Beispiel hört der weltweite jährliche CO₂-Austoß nicht auf zu wachsen, obwohl fast alle Ingenieure dieser Welt immer effizientere Geräte und Prozesse entwickeln. Ich möchte das Gespräch aber mit einer positiven Empfehlung beenden. Gönnen Sie sich die Lektüre des spannenden KI-Romans ‚Pantopia‘ von Theresa Hannig, in dem zwei junge Informatiker eine superintelligente KI bauen, die dann mit einer genialen Strategie die Welt rettet. Mal sehen, ob es in der Realität auch so kommen wird?

Autor: Roland Reck