Autor: Andreas GrüterMehr Produktivität und intelligente Lösungen für alle drängenden Probleme unserer Zeit – künstliche Intelligenz ist, wenn es nach Wirtschaft und Politik geht, der ultimative Gamechanger, der unser aller Leben grundlegend zum Besseren verändern wird. Doch kann die Technologie halten, was der Hype verspricht? Wir sprachen darüber mit Jürgen Geuter, Informatiker, Philosoph, Techniktheoretiker und Autor, der einen eher nüchtern-kritischen Blick auf die gar nicht so neue Technologie wirft.
FASHION TODAY: Herr Geuter, Sie haben Philosophie und Informatik studiert und beschäftigen sich als Forschungsleiter für ein Berliner Designstudio täglich mit dem Thema künstliche Intelligenz. Wie ist Ihre Alltagsbeziehung zum Sujet?
Jürgen Geuter: „Wir arbeiten nicht nur an Design, sondern bauen quasi Museen. Wir nennen das ‚Räume der Begegnungskommunikation‘. Und hier spielt künstliche Intelligenz eine große Rolle. Erstens, weil Klienten auf uns zukommen, die KI als angesagtes Tool in ihren Ausstellungen integriert haben wollen, und zweitens, weil wir KI selbst auch als Teil unserer Produktionsprozesse einsetzen, etwa bei der Erzeugung von Texten oder Bildern. Der Druck, auf KI zurückzugreifen, weil sie Arbeit, so das gängige Narrativ, effizienter und schneller macht, ist hoch. Wo früher auf die handwerkliche Expertise von Informatikern oder Designern gesetzt wurde, werden heute Systeme wie Open AI zurate gezogen. Diese Dynamik beschäftigt mich im Alltag also schon sehr stark. Zudem bin ich aber auch Forschungsleiter und versuche im Rahmen von geförderten Projekten und in Zusammenarbeit mit Universitäten herauszufinden, welche Technologien mittelfristig für uns relevant sein werden. Wir haben dabei bereits 2016 mit KI-Systemen heutiger Prägung experimentiert, um unter anderem den unterstützenden Einsatz von KI bei der Kuratierung von Ausstellungen zu testen. Ich bin also auf der einen Seite vom KI-Mainstream-Einsatz betroffen, habe auf der anderen Seite aber bei meinen Forschungen die Möglichkeit, mit den Tools zu experimentieren, um zu schauen, wie man sie wirklich sinnvoll einsetzen kann.“
KI wird in Wirtschaft und Politik als quasi omnipotenter Problemlöser gefeiert. Zu Recht?
„Die Politik ist, wie wir alle, von der Polykrise überfordert. Überall tun sich Brandherde auf und in dieser Situation betritt die Technologieindustrie die Bühne und bietet mit der KI ein scheinbar magisches Werkzeug an, das für viel Geld verspricht, in Zukunft alle Probleme dieser Welt zu lösen. Ob Klimakrise oder Produktivitätsproblematik – mit KI, so das Versprechen, wird alles gut. In der Politik wird das dankbar aufgenommen. Schließlich will man sich mit Innovation behaupten und neue Technologien nicht verschlafen. Verweise auf die Diskrepanz zwischen dem Versprechen der Tech-Konzerne und dem, was KI-Systeme wirklich leisten können, werden da zugunsten einer Wette auf behauptete zukünftige Fähigkeiten der Technologie gerne beiseitegewischt und noch etwas Geld nachgeschossen. Aufseiten der Technologieunternehmen werte ich den Hype um KI auch als Ausdruck einer gewissen Verzweiflung. Der Tech-Sektor lebt davon, sich als Innovationsmotor und stetiger Erbauer der Zukunft zu gerieren. Ein Versprechen, was er meiner Meinung zuletzt mit der Massenverbreitung des Smartphones eingelöst hat – und das ist schon einige Jahre her. Danach kamen viele Versuche wie Metaverse, was keiner haben wollte, und NFTs, die auch nicht so richtig einschlugen. Wir haben es also mit einer Technologieindustrie zu tun, die alles auf KI wettet, weil ihr nichts anderes einfällt.“
KI-Systeme haben allerdings schon heute große Auswirkungen auf den privaten Alltag und das Arbeitsleben vieler Leute.
„Das haben sie zwar, aber meiner Meinung nach lediglich auf eine sehr oberflächliche Art und Weise. Das Versprechen dieser Systeme ist ja, kurz gesagt, ein Plus an Produktivität. Die Ergebnisse erster Studien zum Thema zeichnen allerdings ein etwas anderes Bild. Im Bereich Programmierung etwa lässt sich zwar Code sehr schnell erzeugen, allerdings mit hoher Fehlerhäufigkeit, sodass die Nachbearbeitung die Produktivitätsgewinne häufig mehr als auffrisst. Man wird tendenziell also manchmal sogar langsamer, sofern man den Qualitätsstandard halten will. Ist man mit einem Code voller Sicherheitslücken zufrieden, ist die KI natürlich schneller. Eine Produktivitätssteigerung, die mit mangelnder Qualität erkauft wird, ist allerdings nicht das Versprechen an die Öffentlichkeit. Ein ähnliches Bild zeichnet sich laut Studien bei vielen Office-Jobs ab. Statt Produktivitätssteigerungen verlieren Mitarbeiter sogar an Produktivität, weil nach Nutzung der KI viel nachgearbeitet werden muss.“
„Mit dem Einsatz von KI wird jungen Leuten der Raum abgegraben, in dem sie ihre Fähigkeiten ausbilden.“
Setzen sich Unternehmen mit diesen Ergebnissen auseinander oder ist man noch im Zentrum des Hypes?
„Aktuell herrscht das, was ich als Innovationswahn bezeichnen würde. Alle müssen beim Thema KI mit dabei sein. Ob hier wirklich Geld eingespart wird oder ob das an einer Stelle gesparte Geld an anderer Stelle wieder eingesetzt werden muss, um das KI-System am Laufen zu halten, wird häufig ebenso wenig geprüft wie der Verlust von Qualität. Ich denke, die Faszination für die Technik ist noch zu frisch, um diese Faktoren nüchtern zu reflektieren. Ja, KI verändert aktuell verhältnismäßig viel, aber nicht auf die Art und Weise, wie oftmals behauptet wird. Alle nutzen KI, aber was die wirklichen Veränderungen, insbesondere in Unternehmen, sein werden, ist noch sehr wenig untersucht. Was wir auf jeden Fall sehen werden, ist eine signifikante Verschärfung der Fachkräftekrise.“
Inwiefern?
„Die Jobs, die KI-Systeme noch am ehesten automatisieren können, sind die trivialen ohne besonderen intellektuellen Anspruch. Diese Arbeiten werden normalerweise von Praktikanten und Berufsanfängern ausgeführt, die sich noch in der Lernphase befinden und über Standardarbeiten sukzessive ihre Kompetenzen schärfen. Mit dem Einsatz von KI wird jungen Leuten der Raum abgegraben, in dem sie ihre Fähigkeiten ausbilden. Die negativen Auswirkungen dessen werden sich bereits in fünf bis zehn Jahren messen lassen.“
Ein Knowledge-Loch …
„Ganz genau. Mit der Automatisierung der Lernräume sparen Unternehmen natürlich erst einmal Geld. Wenn wir uns jedoch anschauen, wer es schafft, mit KI-Systemen qualitätserhaltend produktiv zu sein, sind das Leute, die diese Lernphase bereits hinter sich haben. Ich kann mit einem Code-Generator verhältnismäßig effizient arbeiten, weil ich die Ergebnisse relativ schnell überblicken und einschätzen kann. Studierende, die primär mit KI arbeiten, wissen häufig nicht, wie man Code selber schreibt. Dadurch fehlt dann das Verständnis für die komplexeren Fragen. Das ist meiner Meinung nach eine der komplett unterbeleuchteten Auswirkungen des KI-Hypes. Was KI-Systeme gut können, sind einfache Routinetätigkeiten mit einer sehr durchschnittlichen Qualität.“
Dem Lehrling wird die Meisterarbeit abverlangt …
„… und er wird daran scheitern. Und wie sollte er sie auch hinbekommen, wenn der Lernprozess nachhaltig gestört ist? Der Verlust von Skills bei den kommenden Generationen wird eine der bittersten Lehren der nächsten Jahre sein und ich habe keine Antworten darauf, wie man mit den Resultaten dieser kurzsichtigen Entscheidungen umgehen kann.“
Zudem sind die für Unternehmen anfallenden Kosten für die Nutzung von KI ja auch nach wie vor eine Blackbox. Aktuell wird seitens der Tech-Industrie nur investiert und nicht verdient.
„Die großen KI-Rechenzentren gehören amazon, Google, Meta, Microsoft und einigen wenigen anderen. Als Nutzer binden sich Unternehmen also an ein kleines Oligopol. Das kennt man bei Microsoft ja schon mit ihrer Office-Software, wo Preissteigerungen akzeptiert werden müssen, weil man seine komplette Rechner-Infrastruktur darauf aufgebaut hat. Man hat keine Wahl. Mit der KI stoßen Tech-Konzerne jetzt noch tiefer in die unternehmerischen Kernprozesse ihrer Kunden vor. Aktuell sind KI-Anwendungen alle noch sehr günstig.“
Aber irgendwann wollen die Anbieter ihr Investment zurückholen.
„In der Tat. Die großen Anbieter verdienen damit kein Geld. Im Gegenteil verliert Open AI laut Prognosen im nächsten Jahr um die 6 Milliarden Euro. Nichts davon ist wirtschaftlich. Aktuell füttert Microsoft den Markt mit Investitionen an, aber irgendwann wird die Rechnung aufgemacht und dann kann es für die Nutzer teuer werden. Ein Beispiel, wie schnell das gehen kann, ist Canva, die den Preis ihres Designtools nach der Integration diverser KI-Features auf einen Schlag um 300 Prozent erhöht haben, weil es sich sonst nicht gerechnet hätte. Das ist für User schmerzhaft, aber wenn es das Tool ist, mit dem das Unternehmen funktioniert und auf dem alle Prozesse basieren, muss man in den sauren Apfel beißen. Diese Entwicklung wird aktuell jedoch nirgends mit einkalkuliert.“
Der Hype ist indes ungebrochen und immer mehr Unternehmen springen auf den Zug auf. Lässt sich das Rad überhaupt noch zurückdrehen?
„Das hängt von einer ganzen Reihe von Faktoren ab. Einer davon ist die Frage, wie teuer die Nutzung von KI werden darf, bevor es doch wieder günstiger wird, die Arbeit von Menschen ausführen zu lassen. Ein zweiter, wie lange die Öffentlichkeit die oft mangelhafte Qualität akzeptiert. Schafft es die Branche nicht, Qualitätserwartungen nachhaltig zu drücken, steht sie vor einem Problem. In einem Post auf Social Media hieß es unlängst sinngemäß: ‚Ich habe nie an die Seele im Menschen geglaubt, aber seit ich KI-generierte Bilder gesehen habe, weiß ich, dass es sie gibt, weil sie dort fehlt.‘ Und es stimmt. Man erkennt KI-Bilder 10 Kilometer gegen den Wind, weil sie immer ein wenig ähnlich aussehen. Derzeit funktioniert die Akzeptanz wegen der Faszination für die neuen Möglichkeiten. Es ist der coole Partytrick, bei dem zwar alles ein wenig komisch aussieht, der aber doch ziemlich spannend ist. Allerdings weiß niemand, wie lange diese Faszination des Neuen anhält. Der dritte große Faktor ist die rechtliche Frage. Kein KI-Modell ist mit legalen Daten trainiert worden. In allen großen Modellen stecken Copyright-geschützte Daten, die nicht hätten genutzt werden dürfen. Die Gerichtsprozesse zu diesem Thema gehen gerade erst los und keiner weiß, was am Ende dabei herauskommen wird. Wenn die Gerichte zu dem Schluss kommen, dass keine KI angeboten werden darf, die Daten mit Copyright reproduziert, bricht die Industrie zusammen, weil sie sich die ganzen Lizenzen schlicht nicht leisten kann. Herausfiltern ist unmöglich und ein Large-Language-Modell zu bauen, das nur auf freien Texten basiert, wird nicht kompetitiv sein. Sobald die ersten Gerichtsurteile kommen, die nicht positiv für die Tech-Branche ausfallen, haben die ein ernsthaftes Problem, weil dann keins ihrer Modelle mehr angeboten werden darf.“
Wie würden Sie die Chancen einschätzen, dass so etwas passiert? Es herrscht ja schon ein hoher wirtschaftlicher und politischer Druck.
„Gerichte sind unabhängig und es gibt eine klare Rechtslage. Es ist also mit Sicherheit kein Elfmeter ohne Torwart, den die Tech-Branche da vor sich hat. Ich glaube, die anstehenden Auseinandersetzungen werden sehr komplex und eine riesige Lobbyschlacht. Ich wage da keine Prognose über den Ausgang, aber ich denke, wir werden noch Jahre mit Klagen sehen. Eine kleine Anekdote versinnbildlicht das vielleicht ein bisschen. Als die damalige CTO von Open AI Mira Murati den Videogenerator Sora vorstellte, wurde sie anschließend im Interview gefragt, ob der Generator mit Videos von YouTube trainiert wurde. Es war einfach zu offensichtlich, dass genau das gemacht und dementsprechend Copyrights nicht eingehalten wurden. Frau Murati ist bei der Frage regelrecht das Essen aus dem Gesicht gefallen. Sie durfte natürlich nicht mit Ja antworten, weil sie wusste, dass das ein Verstoß gegen die Lizenz von YouTube, das zu Google gehört, war.“
Lässt sich so ein Verstoß gegen Copyright-Regeln ohne Weiteres nachweisen?
„In bestimmten Fällen ist das möglich. So erzeugen mit den richtigen Prompts diverse Bildgeneratoren urheberrechtlich geschützte Bilder, die offensichtlich bekannte Werbeposter oder Screenshots aus Filmen sind. Ein weiteres Beispiel: Wenn man ChatGPT richtig angesprochen hat, hat das System eine Weile echte Adressen ausgeworfen, die es im Internet gefunden hat. Die Information wurde also reproduziert. Sobald ein System allerdings anfängt, Informationen zu reproduzieren, auf denen ein Copyright liegt, fangen die Probleme an. Leider tut sich die Politik mit klaren Regulierungen schwer. Dort will niemand als Fortschrittsverhinderer gelten.“
„Man kann mit KI mit Sicherheit viele interessante Dinge tun, aber ist der Preis, also auch der Preis für die Umweltzerstörung, angemessen für das Ergebnis?“
Wo liegen Ihrer Meinung nach die Chancen von KI?
„Die Nutzung von KI bietet jede Menge nützlicher Möglichkeiten. Bei der Recherche im journalistischen Bereich etwa kann sie helfen, große Datenmengen nach Mustern zu durchsuchen und Auffälligkeiten zu finden. Ein gutes Beispiel sind hier die Panama Papers. Dafür benötigt man aber keine dieser riesigen Rechenzentren.“
Und wo die Risiken?
„Problematisch werden die Systeme, wenn sie immer größer und damit auch immer teurer und umweltschädigender werden. Man geht davon aus, dass eine durchschnittliche Konversation mit ChatGPT circa einen Liter Trinkwasser verbraucht. Microsoft kündigte noch 2020 an, dass das Unternehmen bis 2030 karbonnegativ sein würde. Dieses Ziel wurde vor ein paar Monaten offiziell aufgegeben. Klimaziele gibt es für das Unternehmen seit KI nicht mehr. Im Gegenteil werden in den USA jetzt alte Kohlekraftwerke wieder hochgefahren, um Rechenzentren mit Strom zu versorgen, und das ist ein Riesenproblem. Das Thema wird aktuell noch viel zu wenig diskutiert. Man kann mit KI mit Sicherheit viele interessante Dinge tun, aber ist der Preis, also auch der Preis für die Umweltzerstörung, angemessen für das Ergebnis? Hier eine sinnvolle Balance zu finden, ist aktuell sehr schwierig. Niemand macht da eine wirklich ehrliche Rechnung auf.“
Was ist Ihre Prognose bezüglich der weiteren Entwicklung von KI als Tool?
„Die Faszination für das Thema wird sich aller Voraussicht nach erst einmal massiv abkühlen, wenn die Nutzungspreise nach oben gehen und der Reiz des Neuen sich erst einmal legt. Heute kann man mit einem KI-generierten Werbesport noch ganz innovativ erscheinen, aber das wird nicht von Dauer sein. Erst vor wenigen Monaten erschien eine Studie, in deren Rahmen Menschen ein Produkt gezeigt wurde. Einmal mit dem Verweis auf KI und einmal als reines Produkt. Das Resultat: Der KI-Verweis führte zu einer schlechteren Bewertung. KI wird zunehmend als ein Signifier für billig und minderqualitativ gelesen. Langweilig, durchschnittlich, mäßig. Die Frage, die sich damit stellt, ist, wie lange Unternehmen ihre Waren mit KI assoziiert sehen wollen. Apple hat sich beispielsweise aus der letzten Open-AI-Investitionsrunde zurückgezogen und dazu ein Paper veröffentlicht, in dem darauf verwiesen wird, dass die Systeme nicht das leisten können, was die Anbieter behaupten. Da gibt es ein Umdenken, insbesondere bei Unternehmen, bei denen Qualität und Wertigkeit Teil des Markenkerns sind. Adäquat zu Bio-Lebensmitteln oder nachhaltiger Mode wird es zukünftig wahrscheinlich Unternehmen geben, die bewusst mit KI-Verzicht als Qualitätssiegel werben.“
Zu welchem Umgang mit dem Thema KI würden Sie Nutzern raten? Sollte man offen sein oder sich verweigern?
„In der Diskussion wird man mit einer kompletten Verweigerungshaltung nicht ernst genommen. Ich rate dazu, ein wenig mit KI herumzuspielen und ein Gefühl dafür zu bekommen, was sie kann und was sie nicht kann. Es ist sicherlich auch hilfreich, sich ein bisschen ins Thema einzulesen, um rudimentär zu verstehen, wie das alles technisch funktioniert. Grundsätzlich: Der Begriff ‚künstliche Intelligenz‘ ist eine sehr starke Metapher, die diesen statistischen Systemen extrem große Fähigkeiten zuspricht. Man muss verstehen, dass da keine Intelligenz drinsteckt. ChatGPT ist wie die Wortvorhersage auf dem Smartphone-Keyboard, nur mit ein bisschen Größenwahn. Es kennt mehr Worte, aber es ist nicht mehr als das. Es ist ein System, das von allen Dingen die statistisch wahrscheinlichste und mithin mainstreamigste Fortsetzung ausspuckt. Wenn man das verstanden hat, löst sich wahrscheinlich ein Teil des Hypes von selber auf. KI kann keine neuen Lösungen für die Probleme der Welt liefern, weil sie lediglich die alten reproduzieren kann. Es ist ein statistisches System, in das man die Vergangenheit reingestopft hat mit all ihren Sichtweisen und Vorurteilen. Und genau diese Vergangenheit reproduzieren diese Systeme immer weiter. Hat man sich erst einmal von der Idee der KI als magisches Tool verabschiedet, kann man überlegen, wo man die Systeme nützlich anwenden kann.“
