3e session du séminaire Génic : Pilotage par les datas, pouvoir d’agir et éthique à l’ère numérique

25 janvier 2023 : 16h30 – 18h

Avec Armen Khatchatourov et Camille Roelens.

Animation : Lucile Desmoulins, Samuel Szoniecky, Marta Severo.

Programme

16h30 – Accueil et mot de bienvenue Carsten Wilhelm & Jean-Claude Domenget (rappel séminaire, thématique du jour), présentation du PAD. 

16h35 – introduction et présentation des deux intervenants.

16h40 – Armen (20 minutes) : Piloter et gouverner : les datas entre l’ajustement perpétuel et la légitimation.

17h00 – Camille (20 minutes) : Pour une éthique du numérique résolument anti-paternaliste. Quelques propositions politiquement libérales et moralement minimalistes.

17h20 – Armen et Camille : Regards croisés. Q&R

17h55 – 18h00 Conclusion, date du prochain séminaire.

Modalités d’inscription et de connexion

Nous vous invitons à vous inscrire via le formulaire en ligne (sauf si vous êtes déjà inscrit depuis la première session) : https://educ.sphinxonline.net/v4/s/o34nx9

Le lien de connexion via zoom sera envoyé par email aux inscrits avant la séance. 

Contacts : Carsten Wilhelm : carsten.wilhelm@uha.fr 

Jean-Claude Domenget : jean-claude.domenget@univ-fcomte.fr 

 

En fin de document, vous trouverez deux exemples de “pilotage” d’une introduction de séminaire par les données (production d’un texte par des applications d’IA) avec https://chat.openai.com/chat et https://app.jenni.ai/ 

 

Introduction

Le pilotage par les données tendrait à se généraliser à l’ère numérique. Il s’agit d’exploiter des grands volumes de données pour guider des prises de décision, pour orienter des actions, faire émerger des solutions ou arbitrer entre des scenarii alternatifs. Cette approche est séduisante et rassurante en ce qu’elle permettrait d’optimiser des processus décisionnels en utilisant des données précises et actualisées pour guider les décisions et ensuite les légitimer à partir de l’argument supposé imparable de la scientificité de la méthode utilisée et de sa rationalité gestionnaire. L’utilisation intensive des données pour faire émerger ou justifier des décisions fait émerger des questionnements et dilemmes éthiques. En effet, cette démarche gomme la dimension politique volontariste des décisions, elle peut supposer des mécanismes de surveillance, impliquer des atteintes à la vie privée. On observe aussi concrètement de fortes inégalités d’accès aux données ainsi qu’un manque de professionnalisme et d’honnêteté dans le traitement-même de ces données d’où l’émergence de ces fameux “biais” que des méthodologies entendent éliminer, limiter ou contrôler… 

 

Le concept de biais est polysémique. Erreur de méthode par manque de professionnalisme, non-respect involontaire de règles de protocole qui engendrerait des résultats erronés, le biais peut aussi être utilisé délibérément, il peut être fabriqué pour produire des résultats qui vont orienter une décision parfois prise très en amont, et cela de manière à l’imposer sans discussion possible, la justifier et la légitimer a posteriori. Les techniques de collecte, de nettoyage, de tri et de traitement des données ne sont pas neutres. Les deux interventions de Camille Roellens et Armen Khatchatourov montrent bien que ces techniques et leur mise en œuvre (même sincère!) questionnent le droit des individus à une vie privée, leur droit aussi à connaître la manière dont leurs données sont traitées, utilisées et la finalité de cette utilisation. Car souvent, l’imaginaire des données occulte le fait que les enquêtes quantitatives s’appuyant sur des Big Data ne devraient être que des ressources d’information – parmi d’autres ! – à la disposition des décideurs plutôt qu’en tant qu’arbitres suprêmes et infaillibles. 

 

Enfin, – et c’est à la fois une analyse et un plaidoyer de nos deux intervenants – il est crucial de s’assurer que les personnes conservent un pouvoir d’agir sur les décisions qui les concernent, en respectant leur consentement –  qui s’obtient très facilement -, en leur donnant accès aux données et à la manière dont elles sont traitées et articulées à des choix politiques et pas uniquement gestionnaires, qu’il s’agisse de guider ces choix, de les orienter, ou de les justifier… Le pilotage par les données ne doit pas dispenser de mettre en place et respecter des procédures et mécanismes démocratiques de participation, ni de réfléchir à une éthique des usages, ou même plus simplement de participer à la défense et la promotion de certaines valeurs jugées désirables dans chaque contexte socio-culturel.

 

Une approche éthique dans l’utilisation des données (collecte, traitement, exploitation dans le cadre d’une processus décisionnel) suppose donc à la fois une réflexion sur le respect du droit et de protocoles précis, de la transparence et du professionnalisme, mais aussi un souci éthique permanent impliquant une grande vigilance à ce que les personnes aient le pouvoir d’agir sur les décisions qui les concernent.

 

Présentation des intervenants

Piloter et gouverner : les datas entre l’ajustement perpétuel et la légitimation

Armen Khatchatourov

Biographie de l’intervenant

Armen Khatchatourov est maître de conférences à l’Université Gustave Eiffel et membre du laboratoire DICEN-Idf. Philosophe et ingénieur de formation, il s’est spécialisé dans l’étude de l’interaction homme-machine, des identités numériques, de la surveillance et la protection des données personnelles (pseudonymat, métriques, corps connectés, RGPD), en conjuguant la philosophie, les sciences cognitives et les SIC. Il est codirecteur de la revue Etudes Digitales (Classiques Garnier).

Résumé de l’intervention d’Armen Khatchatourov

La majorité des discours sur les blockchains mettent l’accent sur le caractère potentiellement inaltérable de ces dernières. Elles seraient le registre immuable du passé – du moins dans l’ordre des événements qui s’y sont produits -, et la confiance en elles ne saurait être remise en cause.

Le premier enjeu de cette contribution consiste à montrer comment l’essor des blockchains est en réalité la promesse de résorber la tension quasi-ontologique inhérente au phénomène qui l’a précédé, celui du Big Data. En effet, le Big Data oscille entre le fantasme de l’exhaustivité mémorielle et le doute permanent sur la véracité des données (veracity) qui en atténue la portée. De par la promesse de validité contractuelle des données, la blockchain participerait ainsi à valider ce qui est désormais considéré comme « le réel ».

Le deuxième enjeu consiste à s’interroger sur les évolutions plus récentes d’association de la blockchain avec les smart contacts basés sur l’IA (AI on-chain) et l’éclairage différent des problématiques d’éthique à l’ère numérique. Ici, la notion même de l’événement quitte le terrain de la preuve intangible pour aller vers une modulation infinie du « réel » et de sa légitimation. À ce titre, nous interrogerons dans quelle mesure cette nouvelle figure du réel est en rapport avec les formes de gouvernementalité propres à l’ère du néolibéralisme tardif.

 

Pour une éthique du numérique résolument anti-paternaliste. Quelques propositions politiquement libérales et moralement minimalistes.

Camille Roelens

Biographie de l’intervenant

Camille Roelens est chercheur au Centre Interdisciplinaire de Recherche en Éthique de l’Université de Lausanne, où son projet de recherche principal s’intitule « éthique, numérique et démocratie » (visant à explorer les trajectoires entremêlées de la démocratisation, de l’individualisation et de la numérisation du monde).

Philosophe et docteur en sciences de l’éducation et de la formation (thèse sur l’autorité en démocratie), il prépare actuellement une HDR en philosophie politique et éthique de l’éducation sur le thème de l’individualisme démocratique.

Résumé de l’intervention de Camille Roelens

Cette intervention mobilise le travail en éthique dans ses trois principaux volets : appliqué, compréhensif, normatif. Le domaine d’application est celui de la numérisation du monde et, en cohérence avec le thème de la journée, du pilotage par les datas en particulier. Au plan de la compréhension, nous nous attachons à montrer à quelles conditions un tel pilotage peut être qualifié de paternaliste au sens que ce terme revêt en philosophie morale – et le mettons en regard avec d’autres formes de paternalisme numérique qui peuvent être à l’œuvre aujourd’hui. D’un point de vue normatif, enfin, nous plaidons – dans la continuité d’un libéralisme politique rawlsien – pour un rejet radical de toute forme de paternalisme quel qu’il soit dans ce domaine. Nous examinons donc ce que les différents courants classiques (déontologisme, vertuisme, conséquentialisme) et plus contemporains (éthiques de la justice, de la discussion, du care ou encore minimale) en éthique normative ont à offrir ou à laisser craindre pour ce faire. Enfin, nous discutons des conditions auxquelles la proposition éthique anti-paternaliste que nous formulons peut être compatible avec une promotion du pouvoir d’agir des individus que l’on qualifie de soutien au développement de capabilités numériques, conditions de l’autonomie numérique.

 

Voici un choix de textes d’Armen Khatchatourov et Camille Roelens en lien avec la problématique pour vous familiariser avec leurs points de vue sur le pilotage par les datas le pouvoir d’agir et l’éthique à l’ère numérique.

 

Articles Armen Khatchatourov

  • Khatchatourov, A. (2019). La question des identités numériques à l’ère du RGPD : privacy ou protection des données ?. I2D – Information, données & documents, 1, 34-39. 
  • Résumé: Le Règlement général sur la protection des données (RGPD) est entré en application le 25 mai 2018. Plaçant l’Europe à l’avant-garde de la protection des données à caractère personnel, il constitue à ce titre une avancée majeure en la matière. Il serait cependant dommage de s’arrêter en si bon chemin, en pensant que les questions de privacy sont désormais réglées. En particulier, ce nouveau règlement ne doit pas nous dissuader de nous interroger en profondeur sur la question des identités, dont les contours se sont redéfinis à l’ère numérique : il convient alors de conserver une approche critique envers le RGPD et ses propres limitations.
  • https://doi-org.univ-eiffel.idm.oclc.org/10.3917/i2d.191.0034 (https://www.researchgate.net/publication/337344943_La_question_des_identites_numeriques_a_l’ere_du_RGPD_privacy_ou_protection_des_donnees)
  •  
  • Khatchatourov, A. (2016).Big Data entre l’archive et le diagramme. Études digitales – 2, n° 2. Le gouvernement des données, 67-87.
  • Résumé: Au sein des Big Data, nous distinguons deux tendances qui permettent de décrire les nouveaux « diagrammes » du pouvoir, les modes de gouvernementalité qui leur correspondent, ainsi que leurs relations complexes avec les savoirs. Cette analyse, convoquant le paradigme cybernétique, nous amène à formuler cette hypothèse : il en va désormais non pas simplement d’une nouvelle forme historique de la relation entre les savoirs et le pouvoir mais de l’auto-actualisation indéfinie de ce dernier.
  • https://www.researchgate.net/publication/328875856_Big_data_entre_l’archive_et_le_diagramme

 

Articles Camille Roelens

Sur le rapport du minimalisme à l’autonomie : Roelens, C. (2021). Penser l’autonomie avec Ruwen Ogien. Un minimalisme appliqué comme geste philosophique dans la modernité démocratique ?. Actes de la 1ère Pré-Biennale Internationale de Philosophie Pratique en ligne, «Philosophie en praxis Le geste philosophique : engagements politiques, éthiques, éducatifs, artistiques», 09-10 Mai 2020, Rhodes: L.R.Ph.P., p. 166-179.

 

Sur l’éthique minimale appliquée au numérique : Roelens, C. (2022). Jalons pour une éthique minimaliste de l’éducation et de la formation à l’autonomie dans un monde numérique. Actes du colloque international LUDOVIA-CH « Vivre et apprendre dans un monde num’éthique », Yverdon-les-Bains, 11-13 avril 2022, p. 1-4. En ligne : https://ludovia.ch/new/wp-content/uploads/2022/04/actes_Ludovia_22.pdf

 

Un exemple d’examen des différentes éthiques normatives face au numérique dans un domaine d’application (ici l’éducation) : Roelens, C. (2022). Quelle(s) éthique(s) pour la numérisation de l’école ? Les Cahiers pédagogiques (dossier « Éduquer au numérique »), n° 580, p. 51-52.

 

Un exemple de rapport politiquement libéral et antirationaliste aux institutions publiques et privées : Roelens, C. (2022). Des conditions de légitimité de l’institution scolaire dans une société des individus. Réflexions à partir du concept libéral de neutralité axiologique de l’État. Éducation et socialisation, n°64. En ligne : https://journals.openedition.org/edso/18998.

 

Deux exemples de “pilotage” d’une introduction de séminaire par les données

Production de textes par des applications d’IA ;-D

https://chat.openai.com/chat

La question posée sur l’application d’IA était : Pilotage par les datas, pouvoir d’agir et éthique à l’ère numérique. La réponse est la suivante : 

“Le pilotage par les données, ou l’utilisation de données pour prendre des décisions et orienter les actions, est de plus en plus courant à l’ère numérique. Cette approche permet d’optimiser les processus en utilisant des données précises et actualisées pour guider les décisions. Cependant, l’utilisation intensive des données peut également poser des défis éthiques, en ce qu’elle peut entraîner des biais dans les décisions, des violations de la vie privée et des inégalités d’accès aux données.

Pour gérer ces défis éthiques, il est important d’adopter une approche éthique dans l’utilisation des données. Cela signifie s’assurer que les données sont collectées de manière éthique, en respectant la vie privée des individus et en les informant sur la manière dont leurs données seront utilisées. Il est également important de veiller à ce que les données soient utilisées de manière transparente et équitable, en prenant en compte les différences culturelles et en veillant à ce que les décisions basées sur les données ne soient pas biaisées.

Enfin, il est crucial de s’assurer que les personnes ont le pouvoir d’agir sur les décisions qui les concernent, en leur donnant accès aux données et en leur permettant de participer au processus de prise de décision. Cela peut être accompli en mettant en place des mécanismes de participation, en fournissant des informations claires et en veillant à ce que les décisions soient prises de manière transparente et équitable.

En résumé, l’utilisation des données pour orienter les décisions peut être un outil puissant pour améliorer les processus, mais elle doit être gérée de manière éthique pour éviter les biais, les violations de la vie privée et les inégalités d’accès aux données. En adoptant une approche éthique dans l’utilisation des données, en veillant à ce que les personnes aient le pouvoir d’agir sur les décisions qui les concernent et en veillant à ce que les décisions soient prises de manière transparente et équitable, nous pouvons tirer pleinement parti des avantages du pilotage par les données tout en préservant les valeurs éthiques fondamentales.”

 

https://app.jenni.ai/

La question est : Pilotage par les datas, pouvoir d’agir et éthique à l’ère numérique. La réponse est : 

“Pilotage par les datas, pouvoir d’agir et éthique à l’ère numérique

The digital age has ushered in an era of unprecedented power and opportunity for individuals, businesses, and societies. With access to an ever-growing repository of data, individuals can now make informed decisions and take actions that affect their well-being, including voting.[1]In 2012, UK Prime Minister David Cameron[2] pledged to increase transparency and increase public participation in policy-making. In particular, the government announced plans to develop a new open data platform that would facilitate the publication of data on various aspects of public life (including government spending and healthcare outcomes) for public scrutiny and analysis.

  • Access to data and new tools to analyze it has allowed government workers to make better decisions by obtaining feedback from citizens on policy proposals and programs.
  • The IRS[3] launched a Data Retrieval Tool, which allows victims of tax identity theft to retrieve their tax transcripts from their bank accounts using the personal information thieves had provided.
  • In the health sector, doctors can use patient data to identify the most effective treatments and monitor their patients’ progress. Hospitals can also use data to forecast the demand for health services and determine the most efficient way to allocate resources.

1.3. Concerns about democracy in the digital age (https://www.pewresearch.org/internet/2020/02/21/concerns-about-democracy-in-the-digital-age/)

  1. Thesis, antithesis and synthesis: A constructive direction for politics and policy after Brexit and Trump (https://www.nesta.org.uk/blog/thesis-antithesis-and-synthesis-a-constructive-direction-for-politics-and-policy-after-brexit-and-trump/)
  2. 2020 Open Government Plan January 14, 2020 (https://www.ftc.gov/system/files/attachments/open-government/2020_ftc_open_government_plan.pdf)“.

Commentaires

Les deux textes ci-dessus ont été générés par deux IA à partir du titre de la séance du séminaire. Leur pertinence toute relative illustre les effets du pilotage par les données du métier de chercheur en SHS d’un point de vue éthique : stimuler “une formation de la volonté” à travers des règles pratiques d’échanges (Habermas 2013, p. 22).

L’enjeu de l’éthique est d’exercer sa “volonté” en tant qu’individu ou qu’institution face à une situation de choix : “L’éthique classique, comme d’ailleurs les théories modernes, partent de la question qui s’impose à un individu ayant besoin d’orientation lorsque dans une certaine situation, il se trouve, indécis, devant une tâche à maîtriser pratiquement : comment dois-je me comporter, que dois-je faire ?” (ibid. p. 96). Contrairement à une volonté politique, la “volonté éthique” ne s’exerce pas sur les “physicalités” (Descola 2005) extérieures en cherchant par exemple à éliminer les biais inhérents à toutes informations nécessairement inadéquates, mais se pratique dans la dimension des idées, celle de “l’intériorité” (ibid.) individuelle ou collective :

“Tout dans l’existence nous condamnait à n’avoir que des idées inadéquates : nous n’avions ni l’idée de nous même, ni l’idée des corps extérieurs, mais seulement des idées d’affections, indiquant l’effet d’un corps extérieur sur nous. Mais précisément, à partir de cet effet, nous pouvons former l’idée de ce qui est commun à un corps extérieur et au nôtre. Compte tenu des conditions de notre existence, c’est pour nous la seule voie capable de nous mener à une idée adéquate. La première idée adéquate que nous ayons, c’est la notion commune, l’idée de ce “quelque chose de commun”.” (Deleuze 1968 p. 259)

Pour parvenir à ce “commun”, nous avons élaboré une multitude de “jeux de langages” (Wittgenstein 1987), de diagrammes (Guattari 1989), de dispositifs (Gardies 2012)… dont ceux utilisés aujourd’hui par les chercheurs pour produire grâce au numérique une infinité de “physicalités”, de documents, de données, de ressources. Ce développement exponentiel des physicalités renvoie les chercheurs à deux questions éthiques fondamentales : 

Comment exercer nos volontés éthiques dans cette noosphère pilotée exclusivement par des machines ? Peut-on concevoir des documents pilotés par des données (https://d3js.org/) dédiés à l’exercice de la volonté éthique ?

Bibliographie

Deleuze, Gilles. Spinoza et Le Problème de l’expression. Éditions de Minuit, 1968.

Descola, Philippe. Par-Delà  Nature et Culture. NRF : Gallimard, 2005

Gardies, C. (2012). Dispositifs info-communicationnels de médiation des savoirs : Cadre d’analyse pour l’information-documentation [Thesis, Université de Toulouse 2 Le Mirail]. https://hal.archives-ouvertes.fr/tel-01725359

Guattari, Félix. Cartographies Schizoanalytiques. Galilée, 1989.

Habermas, Jürgen. De l’éthique de la discussion, Flammarion, 2013, p. 22

Wittgenstein, Ludwig. De La Certitude. Gallimard, 1987.



Citer ce billet
samszon (2023, 13 janvier). 3e session du séminaire Génic : Pilotage par les datas, pouvoir d’agir et éthique à l’ère numérique. GENIC - Groupe sur l'éthique et le numérique en SIC. Consulté le 19 avril 2024, à l’adresse https://genic.hypotheses.org/96

Vous aimerez aussi...

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search