AI@HPI Konferenz: KI braucht Verantwortung

Wie kontrollieren wir die Auswirkungen von künstlicher Intelligenz? Was tun, wenn Realität und Fiktion nicht mehr zu unterscheiden sind? Und wie können wir eine KI schaffen, die vertrauenswürdig ist, anstatt Ungleichheiten zu verstärken? 

Darum ging es am 3. und 4. Dezember 2024 bei unserer AI@HPI Konferenz am Hasso-Plattner-Institut (HPI) in Potsdam. Gemeinsam mit renommierten KI-Expert:innen aus Politik, Wissenschaft und Industrie wie der ehemaligen Ethikrat-Vorsitzenden Prof. Alena Buyx und SAP Chief AI Officer Dr. Philipp Herzig hat Konferenzhost Prof. Gerard de Melo, Leiter des Fachgebiets “Artificial Intelligence and Intelligent Systems” am HPI unter anderem diskutiert, 

1. wie man Verzerrungen (Biases) in KI-Systemen reduziert,
2. welche Auswirkungen KI auf Wahlen und unsere demokratische Gesellschaft als Ganzes hat,
3. wie sich die Vertrauenswürdigkeit von KI erhöhen lässt,
4. die Auswirkungen moderner KI-Trainings auf das Urheberrecht,
5. wie KI-Systeme gemäß dem EU AI Act reguliert werden sollten und
6. wie sie eingesetzt werden können, ohne Innovationen in der EU zu behindern.
    

Neben Keynotes, Paneldiskussionen und Spotlight Talks standen praxisorientierte Workshops auf dem Programm. Das detaillierte Konferenzprogramm finden Sie hier.

Auf der AI@HPI Conference hatten wir die Gelegenheit, uns intensiv mit einer der drängendsten Fragen unserer Zeit auseinanderzusetzen: den ethischen Herausforderungen künstlicher Intelligenz. Bereits jetzt hat KI maßgeblichen Einfluss darauf, welche Medieninhalte wir konsumieren oder auch welche Datingpartner einander vorgeschlagen werden. In Zukunft werden immer weitere Aufgaben an KI-Systeme delegiert werden. Die aufschlussreichen Gespräche auf unserer Konferenz haben noch einmal verdeutlicht, wie wichtig es ist, gezielt an fairen und zuverlässigen KI-Lösungen zu arbeiten, die unsere Zukunft positiv gestalten.

KI-Experte und Konferenzhost Prof. Gerard de Melo

Was mit verantwortungsvoller KI schon jetzt alles möglich ist, haben Forschende und Studierende des HPI auf der Konferenz anhand von drei interaktiven Exponaten demonstriert, die die Teilnehmenden der Konferenz vor Ort selbst testen konnten.

Kann KI Gorillas retten?

Mit ihrem “Gorilla Tracker” haben HPI-Doktorand Maximilian Schall und sein Team vom Fachgebiet “Artificial Intelligence and Intelligent Systems” ein KI-Modell entwickelt, das vom Aussterben bedrohte westliche Flachlandgorillas automatisch auf Videoaufnahmen identifiziert, wiedererkennt und über einen längeren Zeitraum beobachtet. Die Technologie basiert auf Deep Learning und Computer Vision und ermöglicht das Tracking von Bewegungen und Verhaltensweisen der Gorillas. 

Innerhalb der von den installierten Kameras aufgezeichneten Bilder sucht die KI zunächst nach Gorillas und deren Gesichtern. Ein speziell trainiertes neuronales Netz analysiert die spezifischen Gesichtsmerkmale und erstellt daraus einen digitalen Fingerabdruck. Dieser digitale Fingerabdruck kann dann (numerisch) zwischen den verschiedenen Bildern verglichen werden und dem jeweiligen Tier zugeordnet werden. Die Hoffnung: Fortschritte im Artenschutz. Mithilfe der gesammelten Daten können etwa Seuchenausbrüche frühzeitig erkannt und schneller Gegenmaßnahmen ergriffen werden. 

"Anna, bist es wirklich du?"

AI Engineer und Forscherin Johanna Reiml und ihr Team vom KI-Servicezentrum Berlin-Brandenburg am HPI arbeiten aktuell an einem besonders effizienten KI-Modell, das innerhalb weniger Sekunden präzise Stimmen von deutschsprachigen Sprachaufnahmen nachahmen kann. “Stellen Sie sich das Modell wie einen sehr aufmerksamen Schüler vor, der nach kurzem Zuhören jeden beliebigen Text in genau dieser Stimme wiedergeben kann”, erklärt Johanna das Exponat. ️

Die Besonderheit: Die Spezialisierung auf die deutsche Sprache, die bisherige öffentlich zugängliche Modelle noch nicht leisten können. Und genau diese Rarität bringt Herausforderungen mit sich. So ist der Zugang zu qualitativ hochwertigen deutschen Trainingsdaten begrenzt und die Rechenkapazität – im Vergleich zu großen Technologieunternehmen – meist limitiert. “Liegen ausreichend qualitativ gute Sprachaufnahmen der Person vor, die man imitieren möchte, ist es technisch aber möglich”, sagt Johanna. Die Technologie bietet Hoffnung für Menschen, die ihre Stimme verloren haben, kann bei Sprachtherapien unterstützen oder etwa als Stimmassistenz dienen, um Interaktionen mit Chatbots menschlicher zu gestalten. 

Mask me if you can!

Ein von HPI-Forscher Babajide Owoyele und seinem Team entwickeltes Masking-Tool ermöglicht es, Personen in Videos oder Livefeeds zu maskieren, d.h. zu anonymisieren und gleichzeitig weiterhin ihr Verhalten zu beobachten. So lassen sich unter anderem Menschenmengen oder Bewegungsabläufe in der Medizin oder im Sport, etwa zu Trainingszwecken, anonymisiert analysieren.

"Positiver Nutzen von KI-Technologien überwiegt"

Wie viel Potenzial in den vorgestellten KI-Modellen für viele gesellschaftliche Bereiche auch steckt, so groß ist auch die Gefahr, dass die Technologien missbraucht werden – etwa um mithilfe von Deepfakes gezielt Desinformation im Netz zu verbreiten, Wahlen zu manipulieren oder unerlaubt persönliche Daten zu sammeln. Ein verantwortungsvoller Umgang mit KI ist daher unverzichtbar. Werden ihrem Einsatz technisch und ethisch klare Grenzen gesetzt, so wird aus Sicht von Prof. de Melo künftig aber der positive Nutzen von KI-Technologien überwiegen.

Die Konferenz wurde von der ELLIS Unit Potsdam (ELLIS Sustainable Life Potsdam) mitorganisiert. ELLIS (European Laboratory for Learning and Intelligent Systems) ist ein europaweites Exzellenznetzwerk für künstliche Intelligenz, das sich auf Grundlagenforschung, technische Innovation und gesellschaftliche Auswirkungen konzentriert. Die ELLIS Unit Potsdam umfasst das Hasso-Plattner-Institut (HPl), die Universität Potsdam (UP) und das Zentrum für KI in der Gesundheitsforschung (ZKl-PH). Ihr Ziel ist es, die Entwicklung und Anwendung von KI-Algorithmen in den Bereichen Nachhaltigkeit und Gesundheit voranzutreiben.