Technology and Regulation

Prof. Dr. Sandra Wachter, (MSc Oxon) ist Humboldt Professor für Technologie und Regulierung am Hasso-Plattner-Institut und Professorin für Technologie und Regulierung an der University of Oxford am Oxford Internet Institute. Sie erforscht die rechtlichen und ethischen Implikationen von KI, Big Data und Robotik sowie Internet- und Plattformregulierung. Prof. Wachter berät zudem Regierungen, Unternehmen und NGOs weltweit zu regulatorischen und ethischen Fragen im Zusammenhang mit neuen Technologien.

Prof. Wachter veröffentlicht in führenden Fachzeitschriften wie Science und Nature und ihr Forschungsschwerpunkt umfasst die rechtlichen, ethischen und technischen Aspekte von KI und inferenzieller Analytik, erklärbarer KI, algorithmischem Bias, Plattformregulierung, Profiling sowie Emotions- und Gesichtserkennungssoftware. Die gesellschaftlichen Auswirkungen von generativer KI und Halluzinationen in Bereichen der Arbeitswelt, Misinformation, freie Presse und Menschenrechte stehen ebenfalls im Zentrum ihrer Forschung.

Prof. Wachter ist Mitglied zahlreicher Institutionen, darunter Berkman Klein Center for Internet & Society at Harvard University, Global Futures Council on Values, Ethics and Innovation des Weltwirtschaftsforums, UNESCO, EU-Parlament Arbeitsgruppe zur KI-Haftung, der Rechtsausschuss des IEEE, Task Force der Weltbank für Zugang zu Justiz und Technologie, Ethik-Council der britischen Polizei, British Standards Institution, Law Faculty at Oxford, Bonavero Institute of Human Rights, Oxford Martin School  und Oxford University Press.

Zuvor war Prof. Wachter Gastprofessorin an der Harvard Law School. Vor ihrer Tätigkeit am HPI studierte sie an der Universität Oxford und der Rechtsfakultät der Universität Wien. Sie arbeitete zudem am Alan Turing Institute, der Royal Academy of Engineering und dem österreichischen Gesundheitsministerium.

Über Prof. Wachter wurden zahlreiche Medienporträts veröffentlicht, darunter Financial Times, Wired, Nature, TechCrunch, der Spiegel, und Business Insider. Ihre Arbeit wurde in mehreren Dokumentationen vorgestellt, unter anderem von Wired , Reuters und der BBC, und sie wurde ausführlich von Medien wie The New York Times, Time Magazine, Reuters, Forbes, Fortune, CNN, Harvard Business Review, Guardian, BBC, Telegraph, CNBC, CBC, Huffington Post, Washington Post, Science, Nature, MIT Tech Review, New Scientist, HBO, The Sunday Times und Vice Magazine behandelt.

Prof. Wachter hat zahlreiche Auszeichnungen erhalten, darunter den the Alexander von Humboldt Foundation Research Award (2025)  mit einer Förderung von 3,5 Mio. EUR, den O2RB Excellence in Impact Award (2018 und 2021), den Computer Weekly Women in UK Tech award, den Privacy Law Scholar (PLSC) Award für ihren Artikel A Right to Reasonable Inferences: Re-Thinking Data Protection Law in the Age of Big Data and AI, sowie den the CognitionX Outstanding Achievements & Research Contributions – AI Ethics Award X (2017 und 2023) für ihre Beiträge zur KI-Governance.

Ihre Forschung zur "Öffnung der KI-Blackbox" zur Förderung von Verantwortlichkeit, Transparenz und Erklärbarkeit ist weltweit erfolgreich. Ihr Erklärbarkeitstool – Counterfactual Explanations wurde von großen Technologieunternehmen wie Google, Accenture,  IBM, Microsoft, Arthur und Vodafone implementiert.

Prof. Wachters Arbeit zur Bekämpfung von Bias hat gezeigt, dass die Mehrheit (13 von 20) der gängigen Bias-Tests und Tools nicht den Standards des EU-Antidiskriminierungsrechts entspricht. In Reaktion darauf entwickelte sie einen Bias-Test (‘Conditional Demographic Disparity’ oder CDD), der den EU- und UK-Standards entspricht. Amazon  und IBM übernahmen ihre Arbeit und implementierten CDD in ihre Cloud-Dienste. 2024 wurde CDD genutzt, um systemische Diskriminierung im niederländischen Bildungssystem aufzudecken. Der niederländische Bildungsminister entschuldigte sich für indirekte Diskriminierung und arbeitet nun an der Verbesserung des betreffenden Algorithmus.

Ihr Artikel The Unfairness of Fair Machine Learning  zeigte die schädlichen Auswirkungen vieler "Gruppenfairness"-Maßnahmen, indem er nachwies, dass sie oft allen Beteiligten schaden, anstatt benachteiligte Gruppen zu unterstützen. Der NHS und die britische Medicines and Healthcare products Regulatory Agency (MHRA) nutzen diese Erkenntnisse nun intern, um die Zulassungspraktiken für Medizinprodukte zu überarbeiten und einen fairen und sicheren Zugang zur Gesundheitsversorgung zu gewährleisten.

Ihre Forschung zu generativer KI und Halluzinationen untersucht, ob große Sprachmodelle eine rechtliche Verpflichtung zur Wahrheitstreue haben, und konzentriert sich auf Werkzeuge zur Reduzierung von Halluzinationen, ungenauen, falschen, und schädlichen Ergebnissen sowie das von ihr geprägte Konzept der "careless speech" (unachtsame Sprache), um die Erosion von Wissen, Fakten und Geschichte sowie die Verbreitung von Misformationen einzudämmen.