Die KI sei mit euch von Helga Nowotny - Rezension

Rezension

von Sabine Ibing

Intro mit KI erstellt

Die KI sei mit euch 

von Helga Nowotny

Angetrieben wird die Maschine von prädiktiven Algorithmen mit genügend Energie, um uns über die erreichte Zukunft hinaus in eine unbekannte Zukunft zu schleudern, die wir unbedingt enträtseln wollen. So können wir gar nicht eifrig genug Prognosen erstellen und widmen uns einer mannigfaltigen Zukunftsforschung, um wenigstens ein wenig Kontrolle über etwas zu erlangen, was aufgrund seiner unvorhersehbaren Komplexität andernfalls unkontrollierbar erscheinen würde.

Wie viel Verantwortung sind wir bereit, an Maschinen abzugeben? Künstliche Intelligenz entscheidet längst mit, welche Nachrichten wir lesen, welche Produkte uns angeboten werden und wie Menschen von Unternehmen oder Behörden beurteilt werden. Algorithmen analysieren unser Verhalten, erkennen Muster und berechnen Wahrscheinlichkeiten. Doch was geschieht, wenn wir beginnen, diesen Berechnungen mehr zu vertrauen als unserem eigenen Urteilsvermögen? Mit dieser Frage beschäftigt sich die österreichische Wissenschaftsforscherin Helga Nowotny in ihrem Sachbuch. Dabei interessiert sie weniger, wie künstliche Intelligenz technisch funktioniert, sondern welche Auswirkungen sie auf unsere Gesellschaft, unser Denken und unsere Vorstellung von Zukunft hat.

Ungleichheiten aufgrund statistischer Merkmale

Nowotny führt uns zunächst weit zurück in die Geschichte. Schon immer wollten Menschen wissen, was sie erwartet. Früher befragten sie Orakel oder suchten nach göttlichen Zeichen, heute vertrauen sie auf Daten und mathematische Modelle. Die Methoden haben sich grundlegend verändert, das menschliche Bedürfnis nach Sicherheit ist geblieben. Und genau hier sieht die Autorin ein Problem: Wir verwechseln zunehmend berechnete Wahrscheinlichkeiten mit verlässlichem Wissen. Besonders interessant fand ich ihre Überlegungen zur selbsterfüllenden Prophezeiung. Algorithmen greifen auf Daten aus der Vergangenheit zurück, um zukünftiges Verhalten vorherzusagen. Werden ihre Ergebnisse jedoch zur Grundlage von Entscheidungen, können sie bestehende gesellschaftliche Ungleichheiten verstärken. Wer aufgrund statistischer Merkmale schlechtere Chancen auf eine Arbeitsstelle oder bestimmte Fördermaßnahmen erhält, wird möglicherweise genau in jene Situation gedrängt, die der Algorithmus vorhergesagt hat. Aus einer Prognose wird so eine Wirklichkeit, die wir selbst mitgeschaffen haben.

Abstrakt wechselnd zwischen wissenschaftlichen, historischen und philosophischen Betrachtungen 

Nowotny betrachtet diese Entwicklung auch aus historischer und philosophischer Perspektive. Sie zieht Verbindungen zur Industrialisierung, zur gesellschaftlichen Bedeutung von Fortschritt und zu unserem veränderten Zeitverständnis. Während Maschinen früher vor allem körperliche Arbeit übernahmen, werden heute zunehmend geistige Tätigkeiten automatisiert. Damit stellt sich nicht nur die Frage, welche Aufgaben künftig von Menschen erledigt werden, sondern auch, wie viel eigenständiges Denken wir uns bewahren wollen. Dieses Buch verlangt seinen Lesern einiges ab. Nowotny argumentiert häufig abstrakt, wechselt zwischen wissenschaftlichen, historischen und philosophischen Betrachtungen und verliert dabei gelegentlich den konkreten Alltag aus dem Blick. Gerade bei einem Thema, das uns inzwischen unmittelbar betrifft, hätte ich mir mehr anschauliche Beispiele und eine stärkere Auseinandersetzung mit tatsächlichen Anwendungen gewünscht. Manche Überlegungen werden ausführlich entwickelt, ohne dass daraus wirklich neue Erkenntnisse entstehen. Auch ihre Befürchtung, algorithmische Vorhersagen könnten unsere Zukunft zunehmend festlegen, erscheint mir stellenweise zu folgenschwer, zu abstrakt, nicht glaubwürdig. Schließlich sind Prognosen keineswegs so zuverlässig, wie es der technologische Fortschritt manchmal vermuten lässt.

Längst überholt

Das englische Original erschien bereits 2021, die deutsche Ausgabe 2023. Angesichts der rasanten Entwicklung generativer KI merkt man dem Buch diesen zeitlichen Abstand teilweise an. Wer konkrete Antworten auf aktuelle Fragen zu ChatGPT, Sprachmodellen oder den neuesten technischen Möglichkeiten sucht, wird hier nur bedingt fündig. Andererseits liegt die Stärke des Buches gerade darin, dass Nowotny über einzelne technische Entwicklungen hinausblickt. Ihre Haltung ist weder technikfeindlich noch von unkritischer Begeisterung geprägt. Sie plädiert für einen digitalen Humanismus, bei dem künstliche Intelligenz dem Menschen dienen soll und nicht umgekehrt. Technische Leistungsfähigkeit allein bedeutet schließlich noch keine Weisheit, und nicht alles, was sich berechnen lässt, sollte automatisch zur Grundlage menschlicher Entscheidungen werden.

KI-Ergebnisse kritisch hinterfragen

Es ist ein anspruchsvolles, gedankenreiches Sachbuch, das weniger Antworten liefert, als grundsätzliche Fragen aufwirft. Nicht jede Argumentation hat mich überzeugt, und manche Passagen hätten durchaus straffer ausfallen können. Dennoch gelingt es Helga Nowotny, den Blick auf eine entscheidende gesellschaftliche Frage zu lenken: Wer trägt am Ende die Verantwortung, wenn wir unsere Entscheidungen zunehmend Algorithmen überlassen? Denn die eigentliche Gefahr liegt möglicherweise nicht darin, dass Maschinen immer intelligenter werden, sondern darin, dass wir aufhören, ihre Ergebnisse kritisch zu hinterfragen.

Helga Nowotny ist emeritierte Professorin für Wissenschaftsforschung der ETH Zürich und ehemalige Leiterin des Collegium Helveticum. Sie ist Vorsitzende von EURAB, des European Research Advisory Board der Europäischen Union und Gründungsdirektorin von «Society in Science: The Branco Weiss Fellowship».

Nowotny 

Die KI sei mit euch 

Macht, Illusion und Kontrolle algorithmischer Vorhersage 

Künstliche Intelligenz; KI; Vorhersage; Algorithmen; Religionsgeschichte; Kulturgeschichte; Digitalisierung; Techno-Determinismus; Techno-Utopismus; AMS-Algorithmus; Überwachungskapitalismus; Wissenschaft & Technik

Taschenbuch, 287 Seiten

Matthes & Seitz Verlag, 2023

Weiß die KI, dass sie nichts weiß? von Katharina Zweig

Chatbots wie ChatGPT und Co helfen uns bei der Arbeit, in der Freizeit. KI-Agentensystemen beantworten Fragen, schreiben eigenständig Texte, erledigen Suchaufgaben. Doch wie genau funktionieren die Sprachmodelle: Haben sie intellektuelle Fähigkeiten? Sie können weder denken, noch sind sie intelligent – sie basieren auf Musterfindung dessen, was der Mensch ihnen eingegeben hat. Katharina Zweig, Informatikprofessorin, zeigt, was ChatGPT und Co. wirklich können und und vielleicht niemals können werden. Zweig gelingt es, komplexe Zusammenhänge zwischen KI, Fehlerverhalten und Ethik verständlich zu machen, die Grenzen aufzuzeigen. Ein feines Sachbuch, das Sprachmodelle, KI, in seiner Funktionsweise verständlich erklärt.

Weiter zur Rezension:   Weiß die KI, dass sie nichts weiß? von Katharina Zweig