Mitbestimmung ist in unserem demokratischen System fest verankert. Doch wenn viele Menschen ihre Meinung abgeben dürfen, zum Beispiel, wenn tausende Bürger:innen online Ideen zur Stadtentwicklung einbringen können, wird es schnell schwierig, den Überblick zu behalten. Wie findet man in der Fülle der Vorschläge einen Konsens? Bisher setzten Entwickler:innen in solchen Fällen auf Systeme, die Gruppen von ähnlichen Meinungen identifizieren oder zum Beispiel besonders konsensfähige Beiträge highlighten.
HPI-Professor Niclas Böhmer und seine Mitautor:innen Sara Fisch und Prof. Ariel D. Procaccia (Harvard University, USA) entwickelten nun ein neues System, das solche Großsammlungen an verschiedenen Meinungen mifhilfe von KI noch fairer und übersichtlicher zusammenfassen soll. In ihrem Paper “Generative Social Choice: The Next Generation” stellen sie dafür die Proportional Slate Engine (PROSE) vor. “Typischerweise würde eine Zusammenfassung zum Beispiel aus den beliebtesten Kommentaren bestehen”, erklärt Niclas Böhmer, Fachgebietsleiter “Algorithmic Decision Making and Society” am HPI. “PROSE hingegen nutzt ein Sprachmodell, um neue Aussagen zu generieren, die jeweils die Überzeugungen größerer Nutzergruppen synthetisieren.”
Besonderer Fokus liegt dabei auf Fairness und Vertrauenswürdigkeit: “Inspiriert von Ideen aus der sogenannten Social Choice Theorie verfolgt PROSE das Ziel der proportionalen Repräsentation: Jede Sichtweise soll entsprechend ihrer Verbreitung in der Zusammenfassung repräsentiert werden.” Das bedeutet: Wenn 50 Prozent einer Gruppe einer bestimmten Meinung sind, soll sich die Hälfte der Zusammenfassung auch um diese Meinung drehen.
Gerade die Vertrauenswürdigkeit ist im Bereich von Sprachmodellen besonders wichtig, aber zugleich auch schwer zu erfüllen, erklärt Prof. Böhmer. “Wir wählen einen theoretisch fundierten Zugang zu dieser Herausforderung, der auf beweisbare Garantien abzielt: Wir zeigen, dass – selbst wenn das Sprachmodell in den Anfragen, die wir an es stellen, ein gewisses Maß an Fehlern macht – die generierte Zusammenfassung dennoch ungefähr proportional die Meinungen der Teilnehmenden widerspiegelt.”
Ein naheliegendes Anwendungsgebiet wären “Collective Response” Systeme. Hierbei handelt es sich um Online-Plattformen zur großangelegten Mitbestimmung und Diskussion, wie im einleitend beschriebenen Fall der Bürgerbefragung. “PROSE könnte diesen Auswertungsprozess vereinfachen, indem es eine kompakte, proportionale Zusammenfassung liefert: eine Liste von Aussagen, die anteilig die Breite der Diskussion widerspiegelt, einschließlich Vorschlägen, die so vielleicht gar nicht explizit geäußert wurden”, sagt Prof. Böhmer.
Böhmer und sein Team stehen in Kontakt zu Entwickler:innen solcher Collective Response Systeme, um mögliche nächste Schritte auszuloten. Vor einem Einsatz in der Praxis betont Prof. Böhmer jedoch die Notwendigkeit weiteren Trainings und Tests der Modelle, um insbesondere Bias bei den Antworten und Ergebnissen vorzubeugen.
Kürzlich durfte das Autor:innenteam um Prof. Böhmer sein Paper auf der International Conference on Machine Learning vorstellen. Die ICML ist eine der Top 3 Konferenzen zum Thema Machine Learning und fand dieses Jahr in Vancouver, Kanada statt. Nur etwa ein Prozent aller Einreichungen werden als sogenannte oral paper angenommen und somit eingeladen, ihr Thema als Vortrag auf der Konferenz zu präsentieren.
Besonders bemerkenswert findet Prof. Böhmer das auf der Konferenz thematisierte Wachstum des Forschungsfeldes Machine Learning. Gab es 1983 etwa 572 Paper auf diesem Feld, wurden dieses Jahr alleine ganze 3368 Paper auf der ICML vorgestellt. “Diese geballte Forschungsmacht vor Augen geführt zu bekommen, löst bei mir eine Mischung aus Inspiration, Ansporn, Ehrfurcht und gelegentlich auch Einschüchterung aus. In jedem Fall ist es aber aufregend und großartig, ein (ganz, ganz kleiner) Teil davon zu sein.”
Das vollständige Paper zum Thema “Generative Social Choice: The Next Generation” gibt es hier zum Nachlesen: https://arxiv.org/abs/2505.22939