«Verantwortlich ist der Mensch, nicht die Künstliche Intelligenz»

Herr Hidber, mit ChatGPT hat die generative Künstliche Intelligenz (KI) breite Kreise der Gesellschaft aber auch die Hochschulen erreicht. Sind Sie erstaunt über die Fähigkeiten dieser Systeme?

Thomas Hidber: Da ist es mir wohl wie vielen anderen ergangen: Als ich im Dezember 2022 zum ersten Mal mit ChatGPT experimentierte, war auch ich überrascht, wie das System in Sekunden einen kohärenten und stilistisch ordentlichen Text zu allen möglichen Fragen generieren kann. Auch wenn sich später bei genauerem Hinsehen auch schnell die Limitationen etwa bezüglich Faktizität, Zitationen oder Urteilsfähigkeit zeigten, war ich beeindruckt. Bemerkenswert ist ja auch das Tempo, mit der die Entwicklung in den wenigen Monaten seither weitergegangen ist, ob mit GPT-4 oder auch im Bereich der Bild-, Video-, Ton- oder Code-Generatoren.

Sie leiten an der UZH die Abteilung Lehrentwicklung und haben zum Thema KI eine Auslegeordnung verfasst. In dem Memo plädieren Sie dafür, diese Instrumente in die Lehre und das Lernen einzubeziehen. Wieso?

KI-gestützte Inhaltsgeneratoren werden die meisten Lebens- und Arbeitsbereiche und natürlich auch die Wissenschaft in immer stärkerem Masse beeinflussen und verändern. Von unseren Absolventinnen und Absolventen wird zurecht erwartet, dass sie die Entwicklung und die Auswirkungen der KI im fachlichen wie auch im weiteren Kontext kritisch reflektieren, deren Instrumente souverän und verantwortungsvoll einsetzen und schliesslich auch die entsprechenden Ergebnisse überprüfen und kritisch hinterfragen können.

Kenntnisse in Datenwissenschaften und Künstlicher Intelligenz (Data bzw. AI Literacies) gehören in allen Fachbereichen zu den Schlüsselkompetenzen der Zukunft. Es geht darum, einen informierten und reflektierten Umgang mit diesen Systemen im Einklang mit den Regeln wissenschaftlicher Redlichkeit zu finden und einzuüben. Das betrifft nicht nur die Forschung, wo das zum Teil schon länger geschieht, sondern auch die Lehre und das Lernen.

KI-Systeme bergen Chancen und Risiken. Mit Blick auf die Lehre und das Lernen: Welche sinnvollen Aspekte oder Vorteile sehen Sie?

Lehrende können diese Technologie zur Unterstützung etwa bei der Erstellung von Lernmaterialien, Präsentationen, Prüfungsfragen und (falschen) Multiple-Choice-Antworten, Codes oder Quiz nutzen. Auch lassen sich bestehende Ressourcen und Literatur rascher überblicken und zusammenfassen oder in die eigene Muttersprache übersetzen. Die dadurch geschaffenen Freiräume können für die konzeptionelle Weiterentwicklung der Lehre, für das Umsetzen von Innovationen, die Etablierung von Kooperationen etc. genutzt werden.

Studierende können mithilfe solcher Systeme zusätzliche Perspektiven auf ein Thema gewinnen, Zusammenfassungen erstellen lassen und sich dann auf die genaue Lektüre der einschlägigen Literatur fokussieren. Textgeneratoren können auch helfen, etwaige Schreibblockaden zu überwinden oder eigene Texte zu korrigieren und allenfalls stilistisch zu verbessern.

Generell bietet sich die Chance, den Fokus im Studium weniger auf Fleissarbeit, sondern noch stärker auf kritisches und disruptives Denken zu legen: Auf Kreativität und Innovationsfähigkeit im jeweiligen fachlichen Kontext sowie auf Debattierfähigkeit, Empathie und soziale Kompetenzen.

Wo orten Sie Gefahren?

Wissenschaftliches Fehlverhalten ist vermutlich so alt wie die Wissenschaft selbst, auch wenn nicht immer das Gleiche darunter verstanden wurde. Wenn es darum geht, eine Leistung oder Erkenntnis fälschlicherweise als die eigene auszugeben, stellen KI-gestützte Inhaltsgeneratoren jedoch eine neue Herausforderung des traditionellen Verständnisses von Autorschaft dar. Wissenschaftsverlage wie Springer Nature haben darauf reagiert, indem sie die Nennung von KI-Systemen als Mitautoren verbieten, weil die Verantwortung für die geprüfte Faktizität nur bei der menschlichen Autorschaft liegen könne. Zweitens wird verlangt, dass die Nutzung von Assistenzsystemen transparent gemacht und dokumentiert wird. Anders als beim «klassischen» Plagiat wird sich ein möglicher Einsatz von generativer KI je länger desto weniger durch Detektionssoftware nachweisen lassen. Umso grössere Bedeutung gewinnen die Grundsätze wissenschaftlicher Integrität.

Könnte die Wissenschaft an Glaubwürdigkeit verlieren?

In der Tat besteht die grösste Gefahr für die Wissenschaft in den erheblichen Reputationsrisiken, zu denen ein unreflektierter und nachlässiger oder gar ein destruktiver Einsatz von generativer KI führen kann. So ist zu erwarten, dass sich das Wachstum des Outputs von wissenschaftlichen Publikationen mit geringem Neuigkeitswert oder Erkenntnisgewinn weiter verstärkt. Eine noch grössere Gefahr geht vom Potenzial solcher Systeme aus, mit geringem Aufwand pseudowissenschaftliche Desinformationskampagnen mit grosser Reichweite fahren zu können.

Sie sehen Chancen im Unterricht mit Studierenden. Könnten Sie zwei, drei konkrete Beispiele für einen sinnvollen Umgang in der Lehre beschreiben?

Es kann erhellend sein, in Gruppen parallel eine Fragestellung mal mit, mal ohne KI-Unterstützung zu bearbeiten und anschliessend die Ergebnisse kritisch zu vergleichen. Auch die Überprüfung von maschinell erstellten Forschungsstandberichten und Bibliographien kann helfen, die Limitationen der KI zu erkennen.

“Prompt Engineering” und “Prompt Revision” haben zum Ziel, möglichst nützliche Formulierungen von Eingabeaufforderungen für KI-Inhaltsgeneratoren zu finden. Dies ist nicht nur eine wertvolle Kompetenz für Studierende, sondern bietet ihnen auch die Möglichkeit, aktiv und fachbezogen den Umgang mit KI-Systemen zu erlernen. Eine Aufgabe für Studierende – alleine oder in Gruppen – könnte somit sein, passende Prompts für fachtypische Herausforderungen zu formulieren oder iterativ mittels “Prompt Revision“ an sinnvolle Outputs zu gelangen.

Mit Studierenden könnte in unterschiedlichen Kontexten diskutiert werden, wann der Einbezug von KI-Systemen bei fachbezogenen Herausforderungen unterstützend wäre, aber auch welche Kompetenzen unabhängig von KI für eine erfolgreiche Berufspraxis innerhalb oder ausserhalb der Wissenschaft benötigt werden. Die intrinsische Motivation zum eigenständigen Lernen würde dabei gefördert.

Wird die KI dazu führen, dass in Zukunft vermehrt mündliche anstelle von schriftlichen Prüfungen stattfinden werden?

Generell ist es ratsam, sowohl die Formate von Leistungsnachweisen wie auch die entsprechenden Fragestellungen zu überprüfen. Wo es die Studierendenzahlen erlauben, ist es sinnvoll, unterschiedliche Arten von Leistungsnachweisen einzusetzen. Dazu gehören interaktive mündliche Formate wie Podien, Debattenbeiträge oder Kurzpräsentationen. In den Studienprogrammen mit sehr vielen Studierenden werden schriftliche Online-Prüfungen jedoch weiterhin eine zentrale Rolle spielen. Diese werden nun in der Regel in einer kontrollierten Umgebung vor Ort und auf einem «Safe Exam Browser» durchgeführt oder explizit als Open-Book-Prüfungen gestaltet, bei denen die Nutzung von Hilfsmitteln gestattet ist und die Prüfungsfragen so formuliert sind, dass die Nutzung von KI-Inhaltsgeneratoren keinen Mehrwert bietet. Es dürfte sich auch lohnen, in Zukunft vermehrt alternative schriftliche Prüfungsformate auszuprobieren wie etwa das Schreiben kurzer Essays vor Ort oder die Gestaltung von audiovisuellen Medien wie z.B. einem Video, einem Podcast oder einem Website-Inhalt.

Verliert Fachwissen wegen KI-Systemen an Bedeutung oder wird es im Gegenteil wichtiger?

Generative KI erzeugt Inhalte nach Wahrscheinlichkeiten, nicht nach Faktizität. Informationen und Hypothesen unabhängig zu überprüfen, wird als wissenschaftliche Schlüsselkompetenz noch weiter an Bedeutung gewinnen. Die Verantwortung für das Ergebnis liegt umfassend bei der menschlichen Urheberin bzw. dem menschlichen Urheber; sie kann an keine Assistenzsysteme delegiert werden.

Vor dem Hintergund der KI-Systeme plädieren Sie dafür, den Studierenden gleich zu Studienbeginn die Grundsätze einer guten Forschungspraxis zu vermitteln, Stichwort «Academic Integrity». Wieso?

Die Vermittlung und Aneignung der Grundsätze wissenschaftlicher Redlichkeit gehören neben der Einführung in die fachlichen Wissensgrundlagen und Methoden seit jeher zu den Kernelementen einer Studieneingangsphase. Angesichts der zunehmenden Bedeutung von generativer KI braucht es zusätzlich eine Reflexion zur Bedeutung der Autorschaft. Dabei soll es auch darum gehen, in welchem Umfang und unter welchen Transparenzregeln diese Systeme im Einklang mit den Grundsätzen von guter wissenschaftlicher Praxis genutzt werden können.

Die Einhaltung wissenschaftlicher Standards, die akademische Integrität, ist also Dreh- und Angelpunkt für einen guten Umgang mit KI-Systemen?

Absolut; so sieht es auch die European University Association, der Dachverband aller Europäischen Hochschulen und Hochschulrektorenkonferenzen. Denn es geht letztlich um nichts Geringeres als um die Wahrung der Glaubwürdigkeit und Reputation von Wissenschaft und Hochschulen – mithin das höchste Gut der Akademie und die Grundlage der gesellschaftlichen Akzeptanz.

Sind verbindliche Vorgaben oder Empfehlungen im Umgang mit KI-Systemen für die Lehre seitens der UL (oder anderen Gremien) geplant?

Universitätsweit verbindliche Vorgaben für die Nutzung von generativer KI in der Lehre sind nicht geplant, da deren Implikationen je nach Fach sehr unterschiedlich sind. Es liegt daher an den Fach-Communities, Instituten und Fakultäten ggf. fachspezifische Richtlinien zu publizieren. Studierende müssen wissen, zu welchen Zwecken und unter welchen Rahmenbedingungen und Voraussetzungen sie Instrumente der generativen KI etwa bei der Erstellung von schriftlichen Arbeiten nutzen dürfen. Dabei geht es wie gesagt insbesondere um die transparente Dokumentation der Nutzung solcher Assistenzsysteme und darum, dass Studierende die umfassende Verantwortung der Autorschaft übernehmen. Hingegen wird in einer kleinen gemeinsamen Arbeitsgruppe der Prorektorate Forschung und Lehre geprüft, ob unsere Regularien betreffend Academic Integrity ergänzt oder angepasst werden müssen. 

KI-Systeme wie ChatGPT verändern auch die Berufswelt, u.a. im Bereich der Texterstellung (Werbung, Journalismus) oder der Juristerei. Was heisst das für die Hochschulen?

Die Verantwortlichen von Studienprogrammen mit klarem Professionsbezug wie etwa die Rechtswissenschaften, Psychologie oder Medizin werden im engen Austausch mit den Fachgesellschaften und Verbänden erörtern, welche Anpassungen sich für die Qualifikationsprofile der Absolventinnen und Absolventen möglicherweise ergeben und was das wiederum für den Kompetenzerwerb in den einzelnen Curricula bedeutet. Die UZH unterstützt ausserdem den individuellen Wissens- und Kompetenzerwerb auf Zukunftsfeldern wie Machine Learning oder den gesellschaftlichen Auswirkungen der digitalen Transformation durch die Vermittlung von fakultätsübergreifenden Angeboten durch die School for Transdisciplinary Studies. Schliesslich sind auch die Studien- und Karriereberatungsstellen gefragt, die Entwicklungen auf den verschiedenen Berufsfeldern zu antizipieren und in die Beratung mit aufzunehmen.

Die UZH setzt sich mit dem Thema Generative KI intensiv auseinander, es gibt Podiumsdiskussionen, Veranstaltungen und Weiterbildungen. Wie unterstützt sie die Dozierenden?

Wir organisieren verschiedene Anlässe etwa im Rahmen unserer Reihe «Teaching Inspiration» zum Austausch über gute Praxis. So haben am 30. März  über 60 Dozierende an einem Forum zu spezifischen Fragestellungen über KI teilgenommen. Im Rahmen des LernLabors Hochschuldidaktik veranstalten wir ausserdem gemeinsam mit den anderen Zürcher Hochschulen eine Webinar-Reihe zur KI in der Hochschullehre, und auf unserer Plattform Teaching Tools betreuen wir eine laufend aktualisierte Linkliste und Materialiensammlung und weisen auf Veranstaltungen hin. Weitere Inhalte mit konkreten Empfehlungen und Anregungen spezifisch für UZH-Dozierende für den Einsatz von KI in der Lehre wie auch dem Umgang mit Leistungsnachweisen werden ebenfalls in Kürze auf dieser Plattform publiziert. Dozierende und Programmverantwortliche können schliesslich in der Förderlinie «open_innovation» der Universitären Lehrförderung (ULF) Fördermittel für innovative, modellhafte und curricular relevante Entwicklungsprojekte z.B. auch zur Integration von KI in die Lehre beantragen.

Die Entwicklung der KI ist in vollem Gange – was erwarten Sie kurzfristig in den nächsten zwei, drei Jahren?

Das aktuelle Tempo der Entwicklung ist bemerkenswert hoch, während viele ethische und rechtliche Fragen noch nicht geklärt sind, so dass Tech-Grössen um Elon Musk ein halbjähriges Moratorium fordern und Italien ChatGPT gleich ganz verboten hat. Dessen ungeachtet ist zu erwarten, dass die Entwicklung in Richtung umfassender multimodaler Systeme weiterhin rasch voranschreitet und auch bald Möglichkeiten zu deren Training auf persönliche Eigenheiten wie Schreibstil etc. enthalten werden. Manche wollen auch bereits in GPT-4 «Funken» einer Allgemeinen Künstlichen Intelligenz festgestellt haben. Da kommt noch einiges auf uns zu.