KI verschiebt die Macht

Wissenschaftler:innen machen nicht gerne Prognosen über die Zukunft. Schon gar nicht über eine Zukunft, in der es so viele Unbekannte gibt wie bei der weiteren Entwicklung von KI und ihrer Auswirkung auf Arbeit und Gesellschaft. Trotzdem haben sich der Historiker Matthieu Leimgruber und der Philosoph Friedemann Bieber Gedanken über unsere Zukunft mit KI gemacht. Sie äussern sich zu drei Fragen: Macht uns die KI bald arbeitslos? Kann KI denken? Und: Wer kontrolliert die Prozesse, mit denen KI weiterentwickelt wird?

Matthieu Leimgruber: Es wird viel darüber spekuliert, dass KI den Menschen die Arbeit wegnimmt. Bisher sehen wir davon nichts. Die Menschen arbeiten immer noch sehr viel – nur unwesentlich weniger als vor 50 Jahren – trotz aller technischen Innovationen. Ich halte Massenarbeitslosigkeit wegen KI deshalb für unwahrscheinlich. Unsere Arbeit wird sich verändern, aber sie wird nicht verschwinden.

Können Sie dazu ein Beispiel machen?

Leimgruber: Etwa die Sekretär:innen: Früher haben sie viel repetitive Arbeit gemacht, wie Briefe kopieren oder Diktate abtippen. Das macht heute niemand mehr. Trotzdem gibt es immer noch Sekretär:innen, sie haben einfach anspruchsvollere Aufgaben.

Friedemann Bieber: Heute können selbst die besten KI-Programme bestimmte Dinge noch nicht selber machen, weil ihnen die kognitiven Fähigkeiten dazu fehlen oder die körperliche Erfahrung in der Welt. Sollte sich das eines Tages ändern, stellt sich für die Menschen die Frage, was für sie noch zu tun bleibt.

Was bliebe uns noch zu tun?

Bieber: Formen von Arbeit wie «emotionale Arbeit» oder «Sorgearbeit», die sich möglicherweise nicht durch KI ersetzen lassen. Emotionale Arbeit wäre beispielsweise, sich die Probleme anderer Personen anzuhören und darauf einzugehen. Sorgearbeit ist etwa die Pflege von Kranken oder das Aufziehen von Kindern. Ausserdem wird es wohl noch andere Bereiche geben, wo wir auf Menschen nicht verzichten wollen, etwa bei der Rechtsprechung oder der politischen Kontrolle.

Was tun wir mit unserer Zeit, wenn uns KI einen Grossteil der Arbeit abnimmt?

Bieber: Dann hätten wir Musse für andere Dinge, für die wir uns interessieren, statt einen Job machen zu müssen, nur um Geld zu verdienen. Das wäre das positive Szenario. Sollten wir aber irgendwann an einen Punkt kommen, an dem Maschinen praktisch alles besser können, würde das uns Menschen wohl in eine existenzielle Krise stürzen: Denn für uns ist es wichtig, etwas beitragen zu können.

KI ist fleissig und unermüdlich. Sie wird wohl einige Menschen sehr reich machen.

Bieber: Ja, KI könnte den Wohlstand stark steigern. Wir könnten in eine Welt des Überflusses eintreten. Die Frage, wird allerdings sein, wie dieser Wohlstand verteilt wird. Denn zunächst werden davon vor allem jene profitieren, denen die intelligenten Maschinen gehören.

Leimgruber: KI macht die Wirtschaft nicht nur produktiver. Sie ist auch mit grossen Kosten verbunden und braucht enorme Mengen Energie. Das verschärft unsere Umweltprobleme. Die Frage, die wir uns stellen müssen: Wollen wir wirtschaftliches Wachstum um jeden Preis, auch um den, die Erde zu zerstören? Wenn nicht, dann wird die verfügbare Energie dem Einsatz von KI Grenzen setzen, genauso wie anderen energieintensiven Prozessen wie etwa der Herstellung von Bitcoins.

Leimgruber: Nein, KI denkt nicht. Sie kann zusammenfassen und wiedergeben, was es schon gibt, und das sehr schnell. Das sieht aus wie Magie, aber es ist nicht vergleichbar mit dem kritischen Denken, das uns Menschen möglich ist. Deshalb produziert KI teilweise vollkommen unsinnige Dinge, ohne es zu merken. Ganz einfach, weil sie kein Bewusstsein hat wie wir Menschen. Das versuche ich auch meinen Studierenden immer wieder vor Augen zu führen.

Bieber: Es hängt davon ab, wie wir «denken» definieren. Dass Maschinen nicht denken können, scheint mir zumindest nicht offensichtlich. Wenn ein KI-Programm beispielsweise Witze erklären kann oder Analogien erkennt – denkt es dann nicht, zumindest in einem gewissen Sinne? Es gibt die These, KI sei ein «stochastischer Papagei», der Dinge nur nachkaut. Doch KI kann schon mehr. Das Training von KI erzeugt eine optimierte Repräsentation der Welt. In diesem Rahmen kann die KI dann auch Schlüsse ziehen. Das gelingt nicht immer, aber häufig eben doch.

Für die Weiterentwicklung von KI gibt es zwei Szenarien. Das konservative ist, dass KI an die kognitive Grenze stösst, die das reaktive vom reflexiven Denken trennt, und diese nicht überwinden kann. Dann werden wir in Zukunft mit KI zusammenarbeiten in verschiedenen Formen, wobei der Mensch bestimmt und die Prozesse steuert. Was geschieht, wenn KI diese Grenze durchbricht?

Bieber: Es könnte zu dem kommen, was der britische Mathematiker I.J. Good als «Intelligenz-Explosion» bezeichnet hat. Das wäre der Moment, wo sich intelligente Systeme selbst verbessern und sich möglicherweise rekursiv weiterentwickeln könnten – mit einem nicht absehbaren Endpunkt. Da könnten wir Menschen tatsächlich abgehängt werden.

Falls sich die oben genannte Intelligenz-Explosion tatsächlich ereignet und sich KI selbst weiterentwickeln kann, stellt sich die Frage, ob wir KI noch kontrollieren können oder ob die künstliche Intelligenz die Macht übernimmt. Eine Zukunftsperspektive, die die Entwickler von KI selbst für durchaus möglich halten und vor der sie warnen. Wie schätzen Sie das ein?

Leimgruber: Im Moment ist es noch der Mensch, der die Zügel in der Hand hält. Wie sich das in Zukunft entwickelt, ist noch nicht klar.

Bieber: Selbst wenn wir davon ausgehen, dass KI nicht selbst die Macht übernimmt, kann sie unsere Gesellschaft gefährden, weil jene, die die Maschinen besitzen und kontrollieren, über sehr viel Macht verfügen, die es ihnen ermöglicht, auf die Gesellschaft einzuwirken. Sie könnten demokratische Strukturen manipulieren und unterminieren.

Eine Vorstellung davon, wie das aussehen könnte, vermitteln heute grosse Technologiekonzerne wie Facebook oder Google, die oft sehr eigenmächtig handeln. Ein neues Kapitel aufgeschlagen hat in dieser Hinsicht X-Besitzer Elon Musk, der seine Plattform einsetzte, um für Donald Trump Wahlkampf zu machen. Müssen wir uns vor einer Zukunft mit KI fürchten? Und: Was können wir tun, damit die unerfreulichen und allenfalls gefährlichen Szenarien nicht Wirklichkeit werden?

Bieber:  Ich denke, die Zukunft ist hier radikal unsicher. Viele Prognosen zur Entwicklung von KI haben sich als viel zu optimistisch herausgestellt. 1956 etwa gab es am Dartmouth College eine heute berühmte Konferenz zu KI: Damals dachten die Forschenden, in einigen Wochen könnten sie Durchbrüche dabei erzielen, Maschinen in die Lage zu versetzen, sich selbst zu verbessern. Heute fühlt sich der Fortschritt sehr greifbar und rasant an, aber vielleicht stösst das aktuelle Forschungsparadigma bald an Grenzen. Trotzdem sollten wir die Entwicklung ernst nehmen.

Weshalb?

Bieber: KI beginnt schon jetzt die Machtverhältnisse zu verschieben. In totalitären Staaten etwa ermöglicht sie eine nahezu perfekte Überwachung aller Bürger. Die Zentralisierung von Kontrolle – in staatlichen oder privaten Händen – ist eine Gefahr, der wir mit strikter Regulierung und Wachsamkeit begegnen können. Allgemeiner sollten wir darüber hinaus auf internationale Regeln für die Forschung, insbesondere an KI-Spitzenmodellen, drängen, mit externen Kontrollen und klaren Haftungsregeln. Hier könnten wir uns etwa an den Regeln für die Arbeit mit Viren orientieren. Und ganz allgemein sollten wir uns alle fragen: wollen wir überhaupt Maschinen entwickeln, die uns kognitiv in allen Bereichen überlegen sind? Aktuell treiben einige tausend Forschende und Risikokapitalgeber diese Entwicklung voran. Aber wenn wir ihnen glauben sollen, dass es eine reale Chance gibt, dass sie Erfolg haben, dann scheint mir offensichtlich: Diese Entscheidung muss demokratisch gefällt werden, von der gesamten Menschheit.

Leimgruber: Führende Wissenschaftler:innen und Unternehmer:innen, darunter Elon Musk, haben bereits 2023 einen Aufruf unterzeichnet, in dem sie eine Pause bei der Entwicklung grosser Sprachmodelle (Large Language Models) vorschlagen, damit unsere Gesellschaften über die Steuerung und sogar Regulierung von Entwicklungen auf der Grundlage von KI nachdenken können. Die aktuellen Zweifel ähneln denen, die bereits Mitte des 20. Jahrhunderts über die Gefahren und Risiken der Atomspaltung geäussert wurden. Wie damals gibt auch heute eine bahnbrechende Technologie Anlass zu grossen Hoffnungen und Ängsten. Die Frage nach der Zukunft der KI ist also nach wie vor offen und wird uns noch lange beschäftigen, ähnlich wie die homerischen Debatten über die Energie- und die Atomwaffenfrage.

Dieser Artikel stammt aus dem Dossier «Mit Köpfchen und KI» aus dem UZH Magazin 3/2024