Séance double du 6 avril 2018 :

• Archéologie de la fuite de nos données personnelles par le biais de nos téléphones
  Intervention de Vincent Roca (Inria, équipe PRIVATICS)

  Le smartphone est devenu un véritable compagnon de notre quotidien, un peu trop proche même? La question est aujourd'hui de comprendre dans quelle mesure smartphones et respect de la vie privée peuvent co-exister.
  Plusieurs aspects doivent être considérés lorsqu'on aborde cette question, à commencer par la réglementation qui encadre ces pratiques, mais aussi l'éco-système sous jacent -- actuellement largement basé sur la collecte de données personnelles -- ainsi que les moyens techniques mis en place par les éditeurs de systèmes d'exploitation pour smartphones pour réguler les pratiques et donner le contrôle à l'utilisateur.
  Que peut on en dire? Quelles en sont les limites ? Y a-t-il des différences entre les différents éditeurs de systèmes d'exploitation ?

   

• Philosophie de l'intelligence artificielle et du big data
  Interventions de Maël Pegny (CNRS-IHPST- université de Paris 1) et Armen Khatchatourov (Télécom École de Management, chaire Valeurs et politiques des informations personnelles)
  • Maël Pegny : Quelle transparence pour les algorithmes d'apprentissage machine?
    La notion de «transparence des algorithmes», a récemment pris une grande importance à la fois dans le débat public et dans le débat interne à la communauté informaticienne. Partant de la prolifération des emplois du terme de «transparence», nous distinguons deux familles d'usages fondamentaux du concept: une famille descriptive portant sur des propriétés épistémiques intrinsèques des programmes, au premier rang desquels l'intelligibilité et l'explicabilité, et une famille prescriptive portant sur des propriétés normatives de leurs usages, au premier rang desquels la loyauté et l'équité.
    Parce qu'il faut comprendre un algorithme pour l'expliquer et en réaliser l'audit, l'intelligibilité est logiquement première dans l'étude philosophique de la transparence. Afin de mieux cerner les enjeux de l'intelligibilité dans l'emploi public des algorithmes, nous introduisons dans un deuxième temps une distinction entre intelligibilité de la procédure et intelligibilité des sorties. Nous appelons aussi de nos voeux la formation d'un comité dédié aux enjeux d'intelligibilité de l'apprentissage machine pour la rédaction des codes de conduite de l'industrie, qui sont encouragés par le règlement général sur la protection des données (RGPD). Dans un dernier temps, nous appliquons cette distinction au cas particulier de l'apprentissage machine.
  • Armen Khatchatourov : «Datafication» et pouvoir
    Au sein des Big Data, nous distinguons deux tendances qui permettent de décrire les nouveaux «diagrammes» du pouvoir, les modes de gouvernementalité qui leur correspondent, ainsi que leurs relations complexes avec les savoirs. Cette analyse, convoquant le paradigme cybernétique, nous amène à formuler cette hypothèse: il en va désormais non pas simplement d'une nouvelle forme historique de la relation entre les savoirs et le pouvoir mais de l'auto-actualisation indéfinie de ce dernier.

En savoir plus sur l'Atelier...

Contact : Éric Guichard

Courriel: Eric.Guichard@enssib.fr