Initiez-vous à l'éthique de l'ingénierie dans le numérique

Selon le contexte présenté lors du chapitre précédent, notre monde est façonné par le numérique, et n’en déplaise au vertige de la virtualité, la première des responsabilités qu’il faut assumer vis-à-vis de ceux, humains et non humains, qui composent ce monde, consiste à assurer et maintenir concrètement notre existence.

Parallèlement à la perte du jugement critique, nous assistons à une montée des risques, des risques environnementaux qui possèdent un caractère d’urgence tout comme des risques politiques, financiers et sociaux, en partie liés à l’activité numérique. Prendre des risques, cela revient à considérer la responsabilité de faire fonctionner le monde en mettant en suspens celle de le faire exister. 

Dans cette perspective, le philosophe des techniques Andrew Feenberg souligne au niveau professionnel que « La majorité des ingénieurs et des managers en sont là : ils s’emparent volontiers du concept de "fonction", mais ils ne savent pas quoi faire du "sens" » (source : Andrew Feenberg, Pour une théorie critique de la technique, Lux, 2014). Ainsi, dans le monde de l’ingénierie en général comme du numérique, le syndrome du « problem solver », pour le dire autrement, du professionnel dont la mission assignée et continue est d’apporter des solutions à un problème, met en évidence la considération de sa responsabilité à l’aune de la seule efficacité de la solution de nature technologique (source : Philippe Bihouix, Le bonheur était pour demain. Rêveries d’un ingénieur solitaire, Paris, Seuil, Collection Anthropocène, 2019). Dans la plupart des cas, cette approche favorise la logique d’une solution à court terme, évaluée selon son impact économique et sa faisabilité technique.

Tant à l’échelle individuelle que systémique, la responsabilité peine à s’exprimer en raison notamment d’un manque de réflexion sur la technologie. Cette lacune pointée par Hans Jonas à la fin des années 1970, et qui va l’amener à refonder la notion de responsabilité comme nous allons le voir dans la seconde partie de ce chapitre, est susceptible de connaître de nouvelles évolutions par rapport au numérique.

L’emploi du mot « responsabilité » par les acteurs du numérique, à tort ou à raison, signale tout de même un questionnement grandissant dans la société.

Généralement, en tant que citoyen, professionnel, parent, étudiant, membre d’une association, à titre individuel et/ou collectif, nous nous demandons quel rôle nous assumons dans la société. De manière volontariste mais inquiète, la question généralement soulevée est la suivante : Comment penser et agir de manière responsable dans un monde aujourd’hui si complexe ?

Par un retour aux origines de la notion de responsabilité, dans la morale, le droit et l’éthique, notre visée est moins de réfléchir au contenu de la responsabilité qu’aux conditions de possibilité qui permettent de saisir cette idée pour l’appliquer aux situations problématiques auxquelles l’individu et la société doivent faire face.

Premier fondement théorique dans la morale : les principes de responsabilité

L’origine morale, de fondement judéo-chrétien, désigne la responsabilité comme le fait de considérer avec sérieux l’objet ou la personne dont on a la charge. Cela s’exprime par un ensemble de devoirs et/ou de principes connus et reconnus, qui entrent en considération dans l'élaboration d'un projet, politique comme technique, et qui ont pour but de faire fonctionner la société. Le principe de l'universalité de l'Internet, permettant un accès ouvert et sécurisé à tous, définit des règles pratiques liées au respect des droits humains, à l'ouverture, à l'accessibilité et à la participation d'acteurs multiples. 

Le raisonnement moral peut s'appliquer à des tâches plus précises. Par exemple, cela motive qu'en tant que parent, organisme de contrôle audio-visuel, concepteur d’un système de contrôle parental, on mette en place des limitations d’accès à différents contenus numériques selon les tranches d’âge, d’après les études en pédopsychiatrie qui soulignent les impacts du numérique. Par ailleurs, on peut voir que la force contraignante de la morale s’incarne différemment dans des rôles que l’on endosse, personnel, politique, professionnel, et vis-à-vis desquels on ne déroge pas à ses principes.

Deuxième fondement théorique dans le droit : les règles de la responsabilité

Quant à l’origine juridique, les règles de la responsabilité sont construites à partir de critères multiples selon les types de droit considérés (droit civil, droit administratif, droit pénal, droit des affaires, etc.). Considérons les critères établis par le droit civil dans la mesure où ils nous éclairent sur l’esprit et la lettre du droit des responsabilités. De manière générique, la responsabilité est individuelle ou collective, au niveau de la personne majeure et saine d’esprit, et est déclenchée par la réalisation d’une faute. Les conditions d’engagement de la responsabilité sont donc l’imputation d’une faute ou d’une omission caractérisée par un type de personne, de manière rétrospective devant les tribunaux compétents.

Par rapport au numérique, l’évolution du cadre juridique est élaborée en relation avec la Commission nationale de l'informatique et des libertés (CNIL). La CNIL, en tant qu’institution administrative française, a pour missions d’accompagner les professionnels dans leur mise en conformité et d’aider les particuliers à maîtriser leurs données personnelles et exercer leurs droits. En séance plénière, son activité est consacrée à l’examen de projets de loi et de décrets qui lui sont soumis pour avis par le gouvernement. Elle analyse les conséquences des nouveautés technologiques sur la vie privée.

Les fondements pratiques de la responsabilité dans l’éthique

Mettre en œuvre la responsabilité du point de vue éthique consiste, à partir des principes de la morale et des règles du droit, à examiner des cas particuliers afin de prendre une ou des décisions appropriées en fonction du contexte et de ses effets prévisibles (source : Alain Badiou, L’'Éthique. Essai sur la conscience du mal, Caen, Nous, 2019 (2003)). Éthique relative à une situation donnée, la responsabilité implique d’identifier les intentions et les actes en présence. Le sociologue Max Weber établit une relation entre les moyens et les fins dans l’éthique de la responsabilité (source : Max Weber, Le Savant et le Politique, Paris, Plon, 1959 (1919)), en fonction de laquelle l’individu doit examiner quel sera le résultat de son action.

De façon synthétique, le juriste Alain Supiot résume la responsabilité comme :

« […] l’obligation de prévenir ou réparer les conséquences dommageables de ses agissements » (source : Alain Supiot et Mireille Delmas-Marty (dir.), Prendre la responsabilité au sérieux, Paris, PUF, 2015). 

Ce sens pratique de la responsabilité va se retrouver dans les démarches en ingénierie visant à considérer les implications éthiques des technologies du numérique. Dans cette perspective, nous reviendrons par exemple sur la question du respect de la vie privée dès la conception de dispositifs techniques et, plus largement, sur les façons de concevoir de manière responsable, dans les parties suivantes de ce cours.

Cependant, la notion de responsabilité est traversée par une recomposition des critères qui la fondent. En examinant cette évolution, nous allons tenter de mieux ancrer cette notion dans la réalité contemporaine, en relation avec le numérique, en vue de nous permettre de penser et d’agir de manière responsable.

La montée des risques systémiques, d’ordre financier, environnemental, politique et social, à l’échelle mondialisée, fait considérablement évoluer les points d’ancrage de la responsabilité. En effet, nous assistons à un dépassement partiel de ces critères traditionnels, si l’on regarde de plus près des évènements récents.

Par exemple, l’avènement de la prise de décision algorithmique bouscule le statut de l’individu physique, majeur et sain d’esprit, comme seul acteur responsable du point de vue juridique. L’illustration d’une telle situation se retrouve dans la mise en circulation de la voiture autonome, avec les difficultés des concepteurs, des assureurs et des décideurs à déterminer la chaîne de responsabilités en situation d’accident. Nous détaillerons cet exemple dans la deuxième partie de ce cours.

En outre, face à la mobilisation populaire pour lutter contre le réchauffement climatique, ne voit-on pas la responsabilité être revendiquée par des adolescents voire des enfants, personnes mineures, prêtes à assumer les transformations globales pour sauver la planète ? Dans cette perspective, les relations entre numérique et environnement constituent un enjeu majeur à penser pour et par les jeunes générations.

En montrant les limites des critères d’imputation et de visée rétrospective de la responsabilité, ces auteurs ont contribué à faire évoluer la notion vers les idées d’assomption et de prospective. L’assomption, expliquée par Frédéric Rognon (source : Frédéric Rognon (dir.), La Responsabilité et ses équivoques, Strasbourg, PUS, 2015), signifie être transporté vers ; cela revient à dire que l’engagement de la responsabilité individuelle et collective n’est plus seulement imputable pour des fautes, mais doit être développé intérieurement par des dispositions à avoir conscience de son action et par le fait d’assumer ses responsabilités en relation au monde. La prospective, par opposition à la dimension rétrospective, examine les conséquences lointaines des actions humaines. Elle tourne le regard du passé vers le futur afin que la responsabilité soit déterminée par les « générations futures », selon le philosophe H. Jonas.

L’exercice de la responsabilité face au numérique se situe à différentes échelles : au niveau individuel (le concepteur ; l’usager) ; collective au sein des organisations (la stratégie et la décision en entreprise ; les avis des comités d’éthique ou de différentes instances sur le numérique) ; au niveau de la société (orientations politiques sur le numérique ; lois du type RGPD). Dans le prochain chapitre, nous étudierons les manifestations concrètes de ces types de responsabilité à partir d’une grille de lecture fondée sur quatre courants théoriques éthiques.

Gérard Dubey et Pierre de Jouvancourt, Mauvais Temps. Anthropocène et numérisation du monde. Éditions Dehors, 2018.