Theresa Züger ist Leiterin des AI & Society Labs und der vom Bundesministerium für Bildung und Forschung (BMBF) geförderten Nachwuchsforscher:innengruppe Public Interest AI am Alexander von Humboldt Instituts für Internet und Gesellschaft. Sie ist erstmalig Teil unserer Jury für die Kategorie „Künstliche Intelligenz“. Mit uns spricht sie über die eigene Forschungsarbeit und ihre Erwartungen an die Bewerber:innen des Deep Tech Awards 2023.
Liebe Frau Züger! Vielen Dank, dass Sie sich die Zeit genommen haben, unsere Interviewfragen zu beantworten. Könnten Sie sich zunächst vorstellen und erklären, welche Beziehung Sie zu der Kategorie haben, für die Sie in der Jury des Deep Tech Awards sitzen – nämlich „Künstliche Intelligenz“?
Hallo, sehr gerne. Ich leite eine Forschungsgruppe am Alexander von Humboldt Institut für Internet und Gesellschaft, die sich mit Künstlicher Intelligenz beschäftigt. Wir entwickeln ein Konzept und auch praktische Prototypen von KI-Systemen, die dem Gemeinwohl dienen, vor allem im Bereich des Natural Language Processing. Ich habe dadurch praktische Einblicke in die Entwicklung von KI, denke aber vor allem viel darüber nach, wie KI unsere Gesellschaft und die moderne Demokratie verändert.
Haben Sie sich als neues Jurymitglied etwas Besonderes für den Deep Tech Award vorgenommen? Was sind Ihre Erwartungen an die Bewerber:innen?
Ich gehe mit großer Offenheit an diese spannende Aufgabe heran und bin erst einmal gespannt, welche Bewerber:innen es geben wird. Für mich besonders spannend wird sein, inwiefern die Bewerber:innen den Impact ihrer Projekte für die Gesellschaft mit reflektieren und welchen gesellschaftlichen Visionen sie mit ihren Produkten dienen.
Hätten Sie Tipps, die Sie den Bewerber:innen mit auf den Weg geben möchten?
Ich glaube jede:r Bewerber:in sollte sich auch zu kritischen Fragen zu ihrem Produkt Gedanken machen, also: Welche Limitationen hat das System, wie gewährleistet man Transparenz und beugt Bias vor? Wie integriert man Menschen, die vom System betroffen sind im Entstehungsprozess? Welche unerwünschten Folgen könnte das Produkt auch haben und wie geht man damit um?
Ihre Arbeit fokussiert sich auf die Entwicklung von Künstlicher Intelligenz im Sinne des Gemeinwohls. Was ist die größte Hürde bei der KI-Nutzung, um sicherzustellen, dass ihre Vorteile für alle Menschen zugänglich sind und nicht nur für bestimmte privilegierte Gruppen?
Da gibt es leider nicht nur eine Hürde, sondern recht viele. Das beginnt bei fehlender Erklärbarkeit von Systemen für die Nutzer:innen, geht weiter bei einem Machtgefälle zwischen KI-Industrie und der Zivilgesellschaft und auch bei fehlender Bildung zu Künstlicher Intelligenz in der Bevölkerung. Ein Thema, bei dem ich große Hoffnung habe, dass sich viel ändern kann, ist ein besserer Zugang zu offenen und guten Daten – und der ist wichtig für die Entwicklung gemeinwohlorientierter KI.
Was halten Sie von ChatGPT und anderen KI-Programmen, die zurzeit Einzug in die breite Öffentlichkeit halten? Bringen diese viele Vorteile?
Sie sind sicher für manche Aufgaben nützlich, da wo schnell viel generischer Text entstehen muss, aber hilfreich sind sie nur dann, wenn man sich ihrer Limitationen bewusst ist. Im wissenschaftlichen Kontext ist die Verifizierbarkeit von Behauptungen zentral, weshalb ein System wie ChatGPT keine große Hilfe ist, da es viel Unsinn oder zumindest Ungenaues ausspuckt. Andere Systeme, wie Elicit.org, die z. B. bei der wissenschaftlichen Recherche unterstützen, halte ich für wesentlich gehaltvoller und aussichtsreicher im wissenschaftlichen Kontext. Gesellschaftlicher Impact hängt jedoch (leider) nicht immer von der Qualität der Outputs von KI-Systemen ab.
Wie sehen Sie die Entwicklungen im Bereich Künstliche Intelligenz in der nahen Zukunft?
Ich sehe Potentiale für KI, sonst würde ich vermutlich nicht in diesem Bereich arbeiten, doch ich glaube und hoffe, dass wir in eine KI-Phase jenseits des Hypes kommen, die nicht den überhöhten Versprechungen hinterherjagt, sondern KI-Systeme in den Fällen einsetzt, in denen sie wirklich vielversprechend sind. Dabei müssen wir eben auch die Limitationen und Nebeneffekte der KI-Systeme im Auge behalten.
Und als Letztes: Was macht für Sie die Deep Tech-Szene Berlins aus?
Ich kann natürlich nur aus meiner Perspektive sprechen und habe keinen Einblick in die ganze Szene, aber ich habe bislang den Eindruck, dass die Technolgieszene in Berlin äußert politisch und gesellschaftlich interessiert ist und ein hohes Interesse dafür mitbringt zu reflektieren, wie Technologien und Gesellschaft in Wechselwirkung zueinanderstehen – aber dieser Eindruck mag auch ein beruflicher Bias sein, den ich im Prozess der Juryarbeit überprüfen kann.