Camp-Spende: ISTA startet Responsible AI Programm

Das Institute of Science and Technology Austria (ISTA) hat sein „Responsible AI Program“ gestartet. Eine neue Initiative, die durch eine Spende des kanadischen Unternehmers Garrett Camp in Höhe von fünf Millionen Euro ermöglicht wurde, die Anfang dieses Jahres bekannt gegeben wurde. Das Programm unterstützt innovative Forschung, die künstliche Intelligenz als zuverlässige, menschenzentrierte Technologie vorantreibt. Die ersten ausgewählten Projekte befassen sich mit zentralen Herausforderungen in den Bereichen Datenschutz, Transparenz, Robustheit und Sicherheit – den Kernsäulen verantwortungsvoller KI.

Das Programm wurde durch eine Spende des kanadischen Unternehmers und Philanthropen Garrett Camp, Mitbegründer von Uber, ermöglicht. Es fördert Doktorand:innen, Postdocs, wissenschaftliche Praktikant:innen und Residents, deren Projekte Fairness, Transparenz, Datenschutz und Verantwortung in der Künstlichen Intelligenz (KI) fördern.

Die erste Ausschreibung stieß bei Nachwuchswissenschafter:innen aus verschiedenen Disziplinen auf große Resonanz. Nach einer sorgfältigen Bewertung durch das Responsible AI Komitee, das sich aus Expert:innen innerhalb und außerhalb des ISTA zusammensetzt, wurden nun vier Postdocs für die erste Kohorte des Programms ausgewählt und beginnen mit ihren Projekten.

Wegweisende Forschung für verantwortungsvolle Innovation

Die vier neu geförderten Projekte verkörpern den interdisziplinären Ansatz des ISTA in der grundlegenden KI-Forschung und das Engagement des Instituts für die Entwicklung von Technologien, die der Gesellschaft verantwortungsvoll dienen.

Joel Daniel Andersson, Postdoc in der Forschungsgruppe von Monika Henzinger, hat mit dem Projekt „Streaming Differential Privacy: Efficient and Explicit Mechanisms“ überzeugt.

Von Gesundheits-Apps bis hin zu Sprachmodellen – heutige KI-Systeme stützen sich oft auf riesige Mengen an personenbezogenen Daten, was kritische Fragen zum Schutz der Privatsphäre aufwirft. Anderssons Forschung geht diese Herausforderung an, indem sie neue Wege entwickelt, wie KI-Modelle aus sensiblen Daten lernen können, ohne diese offenzulegen. Anderssons Projekt konzentriert sich auf die Entwicklung speichereffizienter und mathematisch fundierter Methoden für Differential Privacy – damit private Informationen sicher bleiben und die Modelle gleichzeitig genau und nützlich bleiben.

Filip Cano, Postdoc in der Forschungsgruppe von Thomas Henzinger, wird am Projekt „Adaptive Enforcement of Safety and Fairness of AI Decision Makers at Runtime“ arbeiten.

Viele moderne KI-Systeme arbeiten in Umgebungen, in denen ihre Entscheidungen erhebliche Konsequenzen haben können und sie sich an wechselnde Bedingungen anpassen müssen. Canos Forschung untersucht, wie solche Systeme während des Betriebs überwacht und angepasst werden können, um sicherzustellen, dass ihr Verhalten in Echtzeit sicher und fair bleibt. Sein Ziel ist es, erklärbare, flexible Eingriffe zu entwickeln, die potenzielle Probleme ohne unnötige Unterbrechungen beheben – wodurch KI sowohl zuverlässiger als auch für Menschen leichter verständlich und vertrauenswürdiger wird.

Valentino Maiorca, Postdoc in der Forschungsgruppe von Francesco Locatello, gehört mit seinem Projekt „Input-Conditional Inference on Frozen Transformers“ ebenfalls zur ersten Kohorte des Responsible AI Program des ISTA.

Große KI-Modelle, wie sie beispielsweise hinter Chatbots oder Bildgeneratoren stehen, aktivieren bei jeder Eingabeverarbeitung Tausende interner Komponenten – selbst wenn viele dieser Teile irrelevant sind. Maiorcas Forschung untersucht, wie man erkennen kann, welche Module für eine bestimmte Aufgabe oder Eingabe tatsächlich benötigt werden, sodass andere übersprungen werden können. Dieser Ansatz kann KI-Systeme verständlicher machen, anzeigen, wann ihre Vorhersagen möglicherweise unzuverlässig sind, und ihren Energieverbrauch senken, indem unnötige Berechnungen vermieden werden.

Marco Pegoraro, Postdoc in der Forschungsgruppe von Alexander Bronstein, wird zu „Adversarially Robust Confidence Estimation for AI in Computational Biology“ arbeiten.

Biolog:innen verlassen sich zunehmend auf KI-Modelle, um die 3D-Strukturen von Proteinen vorherzusagen. Diese spezialisierten Modelle – wie beispielsweise AlphaFold – spielen daher eine entscheidende Rolle bei der Entwicklung neuer Medikamente und Therapien. Diese Systeme liefern auch Konfidenzwerte, die angeben, wie vertrauenswürdig jede Vorhersage ist, doch diese Werte können manchmal irreführend sein. Pegoraros Projekt untersucht, warum das passiert, und entwickelt Methoden, um KI-Konfidenzmaße robuster zu machen. So hilft es Forschenden, besser zu entscheiden, welchen Vorhersagen sie vertrauen können, und verbessert letztlich die Zuverlässigkeit KI-gestützter Entdeckungen.

Ein zukunftsweisendes Programm mit langfristiger Wirkung

„Das Responsible AI Programm spiegelt die Vision des ISTA wider, KI-Forschung voranzutreiben, die sowohl wissenschaftlich fundiert als auch gesellschaftlich bedeutsam ist“, sagt ISTA-Präsident Martin Hetzer. „Dank der großzügigen Unterstützung von Garrett Camp befähigen wir junge Forschende wegweisende Fragestellungen anzugehen, konkret dazu wie KI verantwortungsvoll gestaltet, verstanden und eingesetzt werden kann.“

Die drei jährlichen Ausschreibungen des Programms werden dafür sorgen, dass Nachwuchsforschende am ISTA kontinuierlich die Möglichkeit haben, zu dieser Mission beizutragen. Jedes ausgewählte Projekt steht beispielhaft für die einzigartige Kultur der Zusammenarbeit des Instituts zwischen Computerwissenschaften, Mathematik und Naturwissenschaften.

Diese Initiative basiert auf der im Jänner bekannt gegebenen Spende, die Camps erste philanthropische Zuwendung an ein europäisches Forschungsinstitut war. Dies unterstreicht eine gemeinsame Vision von Spender und Institut für verantwortungsvolle Innovation und globale Zusammenarbeit im Bereich KI.  In einer Welt, in der KI-Systeme wissenschaftliche Entdeckungen und den Alltag zunehmend prägen, leistet das Responsible AI Program des ISTA einen entscheidenden Beitrag dazu, dass sich diese Technologien im Einklang mit menschlichen Werten entwickeln.