Rezension
von Sabine Ibing
Weiß die KI, dass sie nichts weiß?
von Katharina Zweig
Als soziale Wesen kommunizieren wir, was uns gerade passiert, was wir gesehen, gespürt oder gehört haben. Dazu müssen diese gleichzeitig stattfindenden Vorgänge in unserem Körper wieder diskretisiert werden. Sprache ist ein Weg, diesen kontinuierlichen Bewusstseinsstrom in diskrete Einheiten namens Wörter zu zerlegen und ihn damit kommunizierbar zu machen. Dass diese Wörter dann auch verstanden werden, liegt daran, dass wir sie in geeigneten Situationen verwenden und damit auf etwas in der Welt verweisen - die Linguisten nennen das eine Referenz. Wenn ich also jetzt von einem Baum spreche, den ich gerade gesehen habe, dann werden Sie an Bäume denken, die Sie schon gesehen haben ...
Chatbots wie ChatGPT und Co helfen uns bei der Arbeit, in der Freizeit. KI-Agentensystemen beantworten Fragen, schreiben eigenständig Texte, erledigen Suchaufgaben – sind die (dummen) Serviceassistenten von Firmen, die nie mein Problem verstehen, mich zur Weißglut treiben, weil ein echter Mensch, das Problem sofot verstanden hätte. Doch wie genau funktionieren die Sprachmodelle: Haben sie intellektuelle Fähigkeiten? Sie können weder denken, noch sind sie intelligent – sie basieren auf Musterfindung dessen, was der Mensch ihnen eingegeben hat. Katharina Zweig, Informatikprofessorin, zeigt, was ChatGPT und Co. wirklich können und und vielleicht niemals können werden. Zweig gelingt es, komplexe Zusammenhänge zwischen KI, Fehlerverhalten und Ethik verständlich zu machen, die Grenzen aufzuzeigen.
Beziehung wichtiger Begriffe in der Künstlichen Intelligenz. Künstliche Intelligenz bezeichnet auf der einen Seite das wissenschaftliche Feld, in dem die Methoden entwickelt werden, verwirrenderweise aber auch die Methoden selbst und - im allgemeinen Sprachgebrauch - meistens die resultierende Software ebenfalls. In den Medien wird CharGPT daher oft als ‹KI› oder sogar als ‹die KI› bezeichnet. Maschinelles Lernen ist dann eine der Methoden des wissenschaftlichen Feldes ‹Künstliche Intelligenz›. Neuronale Netzwerke sind innerhalb der Methoden des maschinellen Lernens eine komplexe Art und Weise, mit der Computer maschinell lernen können. Diese Netzwerke können unterschiedlich aufgebaut sein, man spricht von ihrer Architektur. Eine der Architekturen mit besonders vielen Schichten nennt man ‹Deep Learning›. Damit können zuletzt dann auch die sogenannten großen Sprachmodelle (Large Language Models, LLMs) realisiert werden. Ein Sprachmodell ist also ein neuronales Netzwerk mit einer Deep-Learning Architektur und gehört damit zum Bereich des maschinellen Lernens, das wiederum ein Teilgebiet der Forschung zur Künstlichen Intelligenz ist.
Sprachmodelle können weder mit Verstand etwas zusammenfassen, vergleichen, analysieren oder bewerten, auch wenn es manchmal so scheint. Katharina Zweig zeigt, wie wichtig es ist, menschliche und maschinelle Leistungen nicht zu verwechseln, zeigt die Grenzen von Heuristiken liegen, und welche Verantwortung der Einsatz von KI mit sich bringt. Sie warnt eindrücklich vor spektakulären, vielleicht sogar fatalen Misserfolgen die beim Einsatz von KI-Agentensystemen eintreten können, die auf Sprachmodellen basieren. Computer werden lediglich Regeln statistisch aus den Daten aus, die ihnen zur Verfügung stehen.
«Searles chinesisches Zimmer: 1. Etwas, das rein mechanisch abgearbeitet werden kann, bedarf keines Verständnisses. 2. Ewas, das rein mechanisch abgearbeitet werden kann, kann uns nicht erklären, wie Verständnis funktioniert. 3. Etwas, das rein mechanisch abgearbeitet werden kann, erzeugt kein Verständnis. 4. Jedes Computerprogramm kann rein mechanisch abgearbeitet werden. 5. Damit kann ein Computerprogramm kein Verständnis erzeugen.»
Katharina Zweig zeigt nicht nur die technischen Möglichkeiten von Künstlicher Intelligenz auf, sondern auch deren wissenschaftliche Grenzen und philosophisch zeigt sie ethische Grenzen und warnt vor falscher Anwendung und Missbrauch. Wer entscheidet darüber, wie KI eingesetzt wird? Ihr Buch ist eine unaufgeregte, aber unglaublich präzise Einladung, KI nicht nur als Werkzeug, sondern als gesellschaftliches Phänomen zu begreifen. Ein Sprachmodell zerlegt eigenständig ein Wort in Einzelteile wie B-rom-be-ere oder M-orgen – die wir nicht verstehen, weil das nichts mit Silbentrennung zu tun hat. Das Modell lernt eine Worteinbettung, «OpenAl hat für die kleineren Modelle wie GPT-2 z.B. Einbettungen mit 768 Richtungen (Dimensionen) benutzt, für GPT-3 cine mit 12288 Dimensionen. Dabei ist es noch einmal wichtig, zu betonen, dass die «Wörter» hier Token sind, also in den allermeisten Fällen nur Wortbruchstücke, die für Menschen keinen Sinn ergeben müssen.» Das Modell schaut sich viele Texte an und lernt, auf welches Wort ein anderes folgen könnte, um einen Satz zu bilden, versucht, lediglich das noch nicht geschriebene Wort zu erkennen.
Ich glaube, dass sich langfristig die Welt stark verändern wird - aber dazu bedarf es der menschlichen Gestaltung. Am Ende steht die Frage: Wie wollen wir als Menschen miteinander leben?
Es sind Heuristiken, keine Algorithmen. Katharina Zweig sagt, man sollte dabei nicht von «Wissen» sprechen, da die Maschine nichts weiß, lediglich Daten abgreift. Die Maschine kennt die Bedeutung dieser Wörter nicht, die obendrein in mehrere Token zerlegt werden. Auch wenn es scheint, dass die Maschine sich mit uns unterhalten könnte, das Einfügen einer Stimme untermalt das noch, so ist dies eine komplette Illusion. Sprachmodelle sind lediglich Verknüpfungen zwischen den Wörtern, es sind keine Lexika – was manche Menschen verwechseln. Und natürlich können sie nicht denken. Und genau deshalb produzieren sie ziemlich viele Fehler. Es gibt sicherlich einige Bereiche, wo solche Sprachmodelle sinnvoll sind, Arbeit abnehmen. Dort wo Entscheidungen getroffen werden müssen, Kunden beraten werden sollen, können sie gefährlich sein. Nehmen wir als Beispiel eine psychologische Beratung. Katharina Zweig zeigt anschaulich und gut verständlich, wie sie funktionieren und wo Grenzen an die Maschinen gesetzt sind. Ein Buch, das zum Nachdenken anregt und langfristig den Blick auf unsere technologische Zukunft verändert.
Katharina Zweig, geboren 1976 in Hamburg, ist eine deutsche Forscherin. Sie leitet als Universitätsprofessorin am Fachbereich Informatik der TU Kaiserslautern das Algorithm Accountability Lab. Sie studierte Biochemie und Bioinformatik. Sie hat den deutschlandweit einmaligen Studiengang «Sozioinformatik» ins Leben gerufen hat. Sie ist als Expertin für verschiedene Bundesministerien tätig, Mitglied der Enquete-Kommission des Bundestages zum Thema «Künstliche Intelligenz». Zweig ist verheiratet und hat zwei Kinder.
Katharina Zweig Weiß die KI, dass sie nichts weiß?
Sachbuch, Sprachmodelle, KI, Informatik
Heyne Verlag, 2025
Sachbücher
Hier stelle ich Sachbücher vor, die im Prinzip nichts mit Fachliteratur zu tun haben. Eben Sachbücher jeder Art, die ein breites Publikum interessieren könnte.Sachbücher
Kommentare
Kommentar veröffentlichen