Développement de technologies responsables

8 avril 2019 de 14h à 17h - Séminaire académique

Sciences Po, salle Goguel

Avec l’objectif de créer un espace de discussion, d’échange et de collaboration entre les chercheurs de l’institut Mines Telecom et des Laboratoires et Départements de Sciences Po sur les questions d’innovation numérique responsable et de technologies/IA responsables, la Chaire lance un appel à participation sur l'axe 2 de la chaire Good in Tech pour un séminaire organisé le 8 Avril de 14h à 17h à Telecom Paris Tech en Amphi Opale. Le séminaire comprendra une séance plénière avec les chercheurs qui présenteront leur recherche, une séance en petits groupes et une séance d'affichage.

Registration

Le développement mondial des usages et des services numériques depuis plus d’une vingtaine d’années a entraîné une production massive de données numériques par les individus, que ce soit sur des sites web, des blogs, des forums, des réseaux sociaux, ou encore via des objets connectés. Les algorithmes et les méthodes d’apprentissage automatique, au travers notamment du machine learning et du deep learning, utilisés aujourd’hui dans de nombreux services digitaux, que ce soient les moteurs de recherche, les réseaux sociaux, les systèmes de recommandations, la publicité en ligne, ou encore les chatbots et les robots. Ainsi, les algorithmes constituent des intermédiaires de plus en plus présents dans les interactions entre les entreprises et les consommateurs, et entre les individus eux-mêmes. Dans ce contexte, la collecte et l’exploitation de ces données sont devenues des enjeux majeurs à la fois pour les chercheurs, pour les entreprises ou pour les Etats. Ce phénomène est source d’inquiétudes et de débats, qui ont donné lieu ces dernières années à la production de plusieurs rapports et missions gouvernementaux et européens, ainsi qu’au développement d’un courant de recherche interdisciplinaire et international sur la nécessité de développer des technologies et algorithmes « éthiques by design ». Le séminaire rassemblera une communauté transdisciplinaire travaillant sur la définition, le développement et les enjeux des algorithmes et des technologies dits « éthiques by design ». Peuvent notamment être explorées les questions suivantes :


Biais des algorithmes
  • Que signifie la notion de biais dans les algorithmes ? Comment formaliser une définition dans le cadre de la conception et du développement d’algorithmes ?
  • Biais des données. Vulnérabilité, mauvaise qualité des données, données incomplètes
Discrimination des algorithmes
  • Quels sont les risques de discrimination liés à l’usage des algorithmes ?
  • Comment développer de nouvelles techniques afin de rendre compte des discriminations induits par l’utilisation des algorithmes ?
  • La législation concernant les discriminations (et les biais) est-elle suffisante ? Celles-ci sont-elles traduisibles techniquement ?
Equité des algorithmes
  • Comment définir le concept d’équité ?
  • Peut- on mesurer techniquement l’équité d’un algorithme ?
  • Comment assurer une gouvernance pour piloter les algorithmes dits équitables ?
Explicabilité / Opacité des algorithmes
  • Comment définir un algorithme explicable ? Comment formaliser cette définition dans le cadre de la conception et du développement d’algorithmes ?
  • Comment développer des algorithmes plus interprétables ?
  • Quels sont les enjeux derrière les algorithmes interprétables ? Comment développer des algorithmes interprétables tout en évitant que le concepteur dévoile les informations privées lors de la construction du modèle ?
Redevabilité des algorithmes
  • Quelles méthodes pour assurer la redevabilité des algorithmes ?
  • Comment assurer l’autonomie des sujets face à la sur-catégorisation des algorithmes ?
  • Quelle est la valeur économique d’un algorithme dit responsable ?
  • Comment peut-on prouver à l’utilisateur final que l’algorithme utilisé est responsable ?
  • Robustesse des algorithmes, prophétie auto-réalisatrice.
  • Loyauté des algorithmes. Possibilité de certification étant donné un cahier des charges défini
  • Enjeux derrière les techniques d’anonymisation des algorithmes
Soumission des papiers

Les papiers de recherche sont à soumettre avant fin mars à jeanmarie.johnmathews@sciencespo.fr (copie : christine.balague@imt-bs.eu et marielaure.djelic@sciencespo.fr). Le format des papiers est au minimum de 5 pages incluant figures et tableaux.

L’innovation numérique responsable et ses dimensions

  • Qu’est-ce que l’innovation numérique responsable ?
  • Quelles sont ses dimensions ?

Mesurer l’innovation numérique responsable

  • Quelles sont les métriques pour l’innovation numérique responsable ?
Responsabilité sociale numérique des entreprises
  • Comment définir le concept de responsabilité sociale numérique des entreprises ?
  • La responsabilité sociale numérique des entreprises peut-elle une dimension de la RSE ?
interventions
  • "Algorithmes, biais discrimination et équité", Stéphan Clémençon", Professeur à Telecom Paris Tech
  •  "Towards incorporating fairness in recommendation systems", El Mehdi Roch & Christine Balagué, Post-doctorant et Professeur à IMT-BS
  • "STEM and teens: An algorithm bias on a social media ", Grazia Cecere, Professeur à IMT-BS
  • "Some Research Directions for an Ethical Use of the Internet of Things: towards Fair and Unbiased Algorithmic Decisions", Sophie Chabridon, Professeur à Telecom SudParis
  • "Perspectives à l'ère actuel du numériques", Dominique Cardon, Professeur à Sciences Po
  • "Interprétabilité en Machine Learning, revue de littérature et perspectives", Jean-Marie John-Mathews

Register for the event

Registration