Seminar Tübingen-Nancy
Philosophical aspects of computer sciences – Ethics, Norms & Responsibility
Organisation : Maël Pégny, Reinhard Kahle, Thomas Piecha, Anna Zielinska, Cyrille Imbert
Maël Pégny
Mathematizing fairness?
On statistical metrics of algorithmic fairness
Mathématiser l'équité ? Sur les métriques statistiques de l'équité algorithmique
15 Nov 2021
17:00 (CET/heure de Paris)
Please register by clicking here (for this and for the future meetings of the seminar)
En ligne – inscrivez-vous ici pour recevoir les identifiants de connexion
Facebook
Recording: https://youtu.be/eC5az5rYj9o
Both the lecture and the discussion will be in English. It will start at 5 PM (Paris time), on Monday, November 15, 2021.
Lundi 15 novembre 2021, à 17h00, en ligne. L'exposé et la discussion auront lieu en anglais.
Abstract / Résumé
English
One of the great topic of the AI ethics literature has been the discussion of possible metrics of algorithmic fairness. Those are statistical metrics designed to determine whether the input-output behavior of a given model exhibits biases towards a given population. The topic has grown in relevance as several early mathematical results, called "incompatibility results", demonstrated the impossibility of a simultaneous satisfaction of several current metrics, even when those seem both natural and desirable. In this talk, we will tackle two philosophical issues. The first issue is the exact status of those metrics, and hence of incompatibility results: are we dealing with definitions or simple indicators? Should we consider that we face several competing definitions, or should we defend a form of pluralism? The second issue, structurally tied to the first one, bears on the risk of bureaucratization of fairness issues through the use of those metrics: what are the risks of abusive reduction of the difficult issues raised by (algorithmic) discrimination to the simple satisfaction of a metric?
Français
L'un des grands sujets de la littérature en éthique de l'IA a été la discussion des possibles métriques de l'équité algorithmique. Il s'agit de métriques statistiques visant à déterminer si le comportement entrées-sortie d'un modèle exhibe des biais discriminatoires à l'égard d'une population. Le sujet a pris une importance d'autant plus aïgue que plusieurs résultats mathématiques, dits "résultats d'incompatibilité", sont vite venus démontrer l'impossibilité d'optimiser simultanément selon les diverses métriques couramment proposées, alors même que plusieurs d'entre elles semblent naturelles et désirables. Dans le cadre de cette présentation, nous nous intéresserons à deux questions philosophiques. La première est celle du statut exact de ces métriques, et donc des résultats d'incompatibilité : a-t-on affaire à des définitions ou à de simples indicateurs statistiques ? Doit-on les considérer comme des tentatives concurrentes, ou doit-on défendre une forme de pluralisme ? La seconde question, profondément liée à la première, porte sur le risque d'une forme de bureaucratisation des questions d'équité par le biais de ces métriques : quels sont les risques de réduction des difficiles problématiques de discrimination (par un algorithme) à la simple satisfaction d'une métrique ?
Our first season 2021-2022
15 November 2021
Maël Pégny
Mathematizing fairness? On statistical metrics of algorithmic fairness
21 February 2022
Carmela Troncoso
TBA
21 March 2022
Marija Slavkovik
Digital Voodoo Dolls
11 April 2022
Karoline Reinhardt
Dimensions of trust in AI Ethics
For the recording of the seminar, please check here:
https://www.youtube.com/playlist?list=PL_7w_H-zjjuEqhh4gLTWg5MbmbTfGmXIU