Kriminalitätsforschung und verantwortungsvolle KI

Das universitäre Förderprogramm TRANSFORM ermöglicht mit Anschubfinanzierungen, dass an der UZH innovative Ideen umgesetzt und neue Organisationsstrukturen in zukunftsweisenden Forschungsbereichen aufgebaut werden können. Nun hat die Universitätsleitung zwei neue Projekte bewilligt: Mit 1,5 Millionen Franken in den nächsten vier Jahren unterstützt wird das Projekt CrimeLab^UZH, das sich inter- und transdisziplinär mit der Kriminalitätsforschung beschäftigt. 1,7 Millionen Franken erhält das Projekt Responsible AI (RAI), das sich fächerübergreifend damit beschäftig, wie mit künstlicher Intelligenz verantwortungsvoll umgegangen werden kann.

RAI will die verantwortungsvolle Forschung, Lehre und Wissensvermittlung im Bereich der künstlichen Intelligenz (KI) an der Universität Zürich vorantreiben, den Technologietransfer fördern und die an der UZH vorhandenen interdisziplinären Kompetenzen bündeln. Mit dem Thema «verantwortungsvolle KI» beschäftigen sich an der UZH bereits viele Bereiche in Forschung und Lehre intensiv – von der Informatik, über die Sozial- und Wirtschaftswissenschaften bis hin zu Ethik und Recht. RAI will diese verteilten Kompetenzen an der UZH besser vernetzen und sichtbar machen. «Responsible AI ist kein scharf definierter Begriff, sondern ein breites, fächerübergreifendes Forschungsfeld», sagt Reinhard Furrer, Professor am Institut für Mathematische Modellierung und Machine Learning und einer der Projektleiter.

Im Zentrum des Projekts stehen transparente, faire und gesellschaftlich verantwortbare KI-Systeme und in diesem Zusammenhang methodische, aber auch ethische, rechtliche und soziale Fragen des Einsatzes von KI, die es zu beantworten gilt. Die UZH wolle bewusst nicht in den Wettlauf um das Training grosser Sprachmodelle einsteigen, sondern Grundlagenforschung betreiben und kritische Reflexion und gesellschaftliche Einordnung leisten, sagt Furrer. RAI soll eine der tragenden Säulen von UZH.ai werden – der Plattform, die alle Initiativen zu Themen der künstlichen Intelligenz an der UZH bündelt.

Das Projekt sieht vor, je eine Professur am Institut für Informatik und am Institut für Mathematische Modellierung und Machine Learning zu schaffen, Nachwuchsforschende zu fördern und damit die Forschung in beiden Institutionen zu stärken. «Angesichts der Dominanz grosser Tech-Konzerne spielen die Hochschulen eine wichtige Rolle als unabhängige Instanzen für eine kritische und verantwortungsvolle KI-Forschung», ist Reinhard Furrer überzeugt.

Mit dem CrimeLab^UZH soll künftig ein transdisziplinäres Zentrum für die Kriminalitäts­forschung realisiert werden. An verschiedenen Fakultäten der UZH, aber auch in ausseruniversitären Institutionen wie dem Forensischen Institut Zürich, der Forschungsabteilung des Zürcher Justizvollzugs oder der Stadt- und Kantonspolizei wird seit längerem zu kriminalitätsbezogenen Fragenstellungen geforscht – dies sowohl in der Grundlagenforschung als auch in der angewandten Forschung. «Oftmals war es aber eher dem Zufall überlassen, ob die verschiedenen Forschungsgruppen voneinander wussten und ob sie ihre Ressourcen in interdisziplinären Projekten zusammenführten», sagt Rechtsprofessor Thierry Urwyler, der Teil des Direktoriums von CrimeLab^UZH ist.

Deshalb entstand die Idee, Forschungsstränge zusammenzuführen und Synergien gezielt zu nutzen. «Die Universität Zürich hat mit ihren ausseruniversitären Forschungspartnern ein enormes Potenzial, um das Thema Kriminalität interdisziplinär und multimethodisch zu untersuchen», sagt Urwyler, «damit solche Verknüpfungen zwischen Forschungs­gruppen und Arbeitspartnern in der Praxis entstehen können, braucht es aber eine gemeinsame Plattform.» Eine solche wird durch die TRANSFORM-Finanzierung nun ermöglicht.

Einer der vier Forschungsschwerpunkte am CrimeLab^UZH beschäftigt sich mit neuen Kriminalitätsformen. Im Fokus stehen unter anderem die Digitalisierung und die fortschreitenden Möglichkeiten der künstlichen Intelligenz: «Bereits heute stellt sich beispielsweise die Frage, ob und wie das Strafrecht anwendbar bleibt, wenn (voll-)autonome Systeme eingesetzt werden – etwa im Strassenverkehr», sagt Thierry Urwyler. Darüber hinaus werde sich künstliche Intelligenz auch auf bereits bekannte Kriminalitätsbereiche auswirken, etwa weil es mit Large Language Models auch für Personen ohne einschlägige Programmierkompetenz möglich wird, schädliche Software zu entwickeln.

KI mache kriminelle Handlungen zudem zugänglicher und besser skalierbar, so Urwyler, was durch die weitreichende Digitalisierung der Gesellschaft noch einmal verstärkt wird. Phishing, Ransomware-Attacken und zahlreiche weitere Delikte können daher von vielen Personen gegen viele Personen verübt werden, ohne dass dafür spezifische IT-Vorkenntnisse erforderlich sind. «Diesem sich anbahnenden oder teilweise bereits vorhandenen Problem muss sich die Wissenschaft gewahr werden und es müssen neue Strategien auf präventiver und strafrechtlicher Ebene entwickelt werden, um mit der Dynamik der technologischen Entwicklung Schritt halten zu können», sagt Thierry Urwyler.

Ein Teilziel des CrimeLab^UZH besteht darin, Forschungsdaten aus unterschiedlichen Projekten zusammenzuführen. Gelingt dies, erhalten Forschende mit spezifischen thematischen Interessen schneller Zugriff auf geeignete Datengrundlagen. Mit einem wachsenden Datenpool können zudem optimale Voraussetzungen geschaffen werden, um grosse Datensätze mittels maschinellen Lernens systematisch auszuwerten. Um den wissenschaftlichen Nachwuchs in diesem Forschungsbereich zu fördern, sollen in Zukunft durch das CrimeLab^UZH zudem postgraduale Weiterbildungen und ein interdisziplinärer Masterlehrgang angeboten werden.