Revolution oder Blase
Was ich vom KI Hype halte Was ich vom KI Hype halte Künstliche Intelligenz ist das Kernthema der meisten Diskurse die momentan im IT Kosmos geführt werden. Mir fällt auf, dass sich die meisten Talking Points unter zwei Erzählungen einordnen lassen: Eine relativ große Gruppe, darunter viele Akademiker, scheinen sich vor allem auf die Probleme und Schwächen der großen Sprachmodelle zu konzentrieren. Im Grunde ist dieser Ansatz wichtig, besonders da viele Benchmarks und Metriken von der KI-Industrie erstellt werden und deshalb nicht ganz ohne Bias auskommen. Jedoch fällt mir auf, dass es einigen Kritikern eher darum geht KI gesamthaft zu diskreditieren. Persönlich glaube ich, dass diese Reaktion bei vielen Menschen mit Angst zu tun hat. Denn anzuerkennen, dass wir der Modellierung von Intelligenz ein ganzes Stück näher gekommen sind, ist extrem besorgniserregend. Diese Sorge ist meiner Meinung nach aber leider keinesfalls irrational. In unserer Gesellschaft sind Maschinen, die plötzlich eine deutlich größere Zahl an Aufgaben übernehmen können, eine ökonomische Bedrohung für Arbeitnehmer. Hinzu kommt die viel grundlegendere Frage ob eine Superintelligenz, also eine Intelligenz welche die kognitiven Fähigkeiten des klügsten Menschen bei weitem übersteigt, überhaupt erstrebenswert ist. Eines der meistzitierten Bücher zu KI, Superintelligence. Paths, Dangers, Strategies. von Nick Bostrom, befasst sich auf mehreren hundert Seiten nur mit den Fragen wie uns die Superintelligenz zugrunde richten kann und wie schwierig es sein wird sie zu kontrollieren. Abgesehen davon, dass ich mit sehr vielen Ansichten von Nick Bostrom grundsätzliche Probleme habe (Transhumanismus, Longtermismus etc.), macht er in dem Buch durchaus gute Punkte. Die KI muss uns nichtmal feindlich gesinnt sein, damit ihre Existenz für den Menschen zur Katastrophe werden kann. Wir sind den anderen Tieren auf diesem Planeten auch nicht feindlich gesinnt, dennoch werden sie durch unsere Handeln massiv in Mitleidenschaft gezogen. Diese Dominanz entsteht nur durch den Intelligenz-Gap zwischen uns und den Tieren, von denen uns viele ja sogar physisch überlegen sind. All das illustriert nur, dass die Bedenken gegenüber KI mehr als berechtigt sind. Diese ändern jedoch nichts am Fakt, dass auch aktuelle Sprachsysteme beeindruckende und nützliche Fähigkeiten haben, die über reines Googlen hinausgehen. Ich glaube nicht, dass die AGI bereits erreicht wurde, aber die neueren Entwicklungen der kognitiven Algorithmen sind trotzdem extrem disruptiv und die ersten Vorzeichen von einem neuen Zeitalter. Der andere Standpunkt zu den aktuellen Entwicklungen im Feld der KI ist deutlich optimistischer. Zu optimistisch für meinen Geschmack. Alles ist jetzt KI oder KI-Assisted, für jede Aufgabe gibt es einen Agent und KI-Startupgründer unterbieten sich mit Prognosen für das Aussterben diverser Berufszweige. LLMs sind sehr praktisch und nützlich aber haben immer noch sehr starke Limitierungen. Momentan kann niemand wirklich prognostizieren, ob Sprachmodelle irgendwann an eine gläserne Decke prallen werden. Denn aktuell werden Verbesserungen vor allem durch Skalierung erreicht, also mehr Daten mehr Hardware, mehr Daten, mehr Hardware etc. Die Auswirkungen auf die Umwelt sind natürlich absolut Katastrophal. Abgesehen vom absurden Wasserverbrauch sind die riesigen Sprachmodelle extrem energieintensiv. Bei den Hyperscalern (Google, Amazon, Meta) die sich vor kurzem noch auf C0² Neutralität committed haben, sieht die Welt durch den KI Hype mittlerweile ganz anders aus: Dabei sind, und das ist mir hier noch einmal wichtig zu betonen, diese Modelle nicht im klassischen Sinne intelligent. Sie erzeugen einfach eine Reihe von Sprachbausteinen(tokens) und wählen jeweils den nächst wahrscheinlichen Sprachbaustein (extrem vereinfacht). Dabei wird auf Plausibilität optimiert, nicht auf Korrektheit, weshalb es zu den bekannten Halluzinationen kommt. Diese Fehler sind in der Praxis sehr gefährlich, weil sie plausibel aussehen und nur von Menschen mit Fachkenntnis im betroffenen Themengebiet enttarnt werden können. Woher soll der durchschnittliche Patient wissen, dass ihm der Gesundheits-Chatbot soeben eine tödliche Dosis eines Medikamentes verschrieben hat. KI Modelle, modellieren Wahrscheinlichkeiten, auf eine sehr komplexe, einzigartige Weise, aber dennoch arbeiten sie auf Basis von Stochastik. Hier besteht natürlich eine extreme Gefahr für diverse Formen von Bias. Die KI ist mit Daten aus unserer Gesellschaft trainiert worden und wird somit all ihre diskriminierenden Defizite übernehmen. Hinzu kommt, dass die Modelle von Tech Bros mit fragwürdigem bis problematischem ideologischem Hintergrund kontrolliert werden. Zu diesem Thema kann ich das Büchlein Künstliche Intelligenz und der neue Faschismus von Rainer Mühlhoff empfehlen. Die Künstliche Intelligenz in ihrer aktuell verbreitetsten Form extrem nützlich, aber noch weit von einer Superintelligenz entfernt. Diese Nützlichkeit kommt jedoch zu einem sehr hohen ökologischen Preis und könnte bisher ungeahnte Folgen auf die Kognition der Menschen haben, die der KI große Teile des Denkens überlassen. Ich glaube die KI Revolution ist noch nicht gekommen, aber wir haben einen kleinen Vorgeschmack bekommen, wie disruptiv diese Revolution sein könnte. Die Technologie wird zugleich unter- und überschätzt und beide Lager haben ihre Gründe für ihre Standpunkte, aber die eigentlich zentrale Frage bleibt: wer entscheidet darüber wie diese Modelle eingesetzt werden. Ich finde es falsch, dass private Unternehmen mit Profitinteressen entscheiden wie diese Modelle umgesetzt und eingesetzt werden. Das abgebildete Wissen in den Modellen wurde von der gesamten Gesellschaft produziert, weshalb ihr meiner Meinung ein Mitspracherecht zusteht. Außerdem ist die Technologie existenziell zu relevant, um sie nur in die Obhut von ein paar Silicon Valley “Strategen” zu geben.“Die jetzige KI ist nur Blendwerk”
“Die Revolution ist da”
Meta plant den Bau eines Datacenters so groß wie Manhattan, ausschließlich im die eigene KI Infrastruktur zu verbessern. Auch wenn sich beim Befragen von KI Modellen einiges optimieren lässt (Stichwort: Speculative Decoding, Early Exciting etc.), ist aus einer ökologischen Sicht sehr davon abzuraten die Anzahl der KI Anfragen insgesamt zu steigern. Genau das würde allerdings bei einer breiten Einbindung von Sprachmodellen in Arbeitsprozesse passieren.Fazit