Lorsqu’il s’agit d’analyser une situation d’un point de vue éthique, il convient de prendre en considération le contexte particulier et le rôle des acteurs en présence, mis en jeu pour atteindre la meilleure fin possible au regard des valeurs considérées.
Théoriquement, l’examen d’une réflexion ou d’un moyen d’action en vue d’exercer ses responsabilités s’opère à partir d’une relation tripartite entre soi, autrui et le cadre institutionnel dans lequel cela s’inscrit.
Dans le cadre d’une approche pratique sur l’apport de l’éthique au domaine professionnel du numérique, nous retiendrons qu’il s’agit d’une recherche des possibilités inscrites dans une ou des situations, lesquelles se développent dans des processus singuliers, permettant de dire des vérités relatives à ce contexte, qui conditionnent le dénouement de l’action.
L’éthique ne permet pas de découvrir la « bonne » solution face à un dilemme. L’éthique est principalement affaire de justification.
Son raisonnement méthodologique peut s’énoncer sous la forme interrogative suivante : si je fais ceci plutôt que cela dans telle situation, au nom de quoi pourrai-je dire que ma décision est bonne (ou la moins mauvaise possible) ?
Dans ce chapitre, nous allons explorer quatre courants éthiques principaux, mobilisables dans le but de déterminer des principes et des règles de conduite. Ce découpage a l’avantage de distinguer les mécanismes de raisonnement fréquemment utilisés ; cependant il convient de noter qu’il existe d’autres catégories éthiques, complémentaires ou conceptualisées autrement par les philosophies morales, et également que, selon une perspective pluraliste, elles peuvent se combiner au sein d’une même situation.
L’éthique de la vertu
D’origine aristotélicienne, l’éthique de la vertu propose que la moralité de l’action réside toujours et exclusivement dans l’exercice d’une vertu. Celle-ci se forge dans l’acquisition de dispositions, intellectuelles ou pratiques, pour faire ce qui est bon dans toute situation donnée. Contrairement à l’énoncé d’un critère universel déterminant l’action, la vertu est chose relative en ce sens qu’elle se juge et s’apprécie en fonction de son apprentissage et de sa pratique. Selon Aristote, la vertu consiste à choisir le juste milieu entre le défaut et l’excès, lesquels ne correspondront pas aux mêmes seuils selon les propriétés de l’individu qui les exerce et les circonstances entourant l’action. Par exemple, la prudence s’apprend par l’habitude de tirer des enseignements des expériences similaires passées et de ne pas céder à l’action impulsivement, en anticipant les conséquences possibles.
Dans le monde du numérique, nous pouvons prendre comme exemple l’exercice de la vertu requis par l’activité de modération des réseaux sociaux. Favorisant les bonnes règles d’échange telles que le respect, l’écoute et la tolérance parmi la communauté des usagers, la modération peut se lire en termes déontologique (la liberté d’expression) et conséquentialiste (le débat démocratique), mais également en faisant appel à la vertu de ceux et celles qui lisent, organisent, décryptent les contenus illicites ou dégradants. Cette dimension éthique ressort nettement dans la situation actuelle où l’on cède à la détection automatisée des contributions problématiques, relativement efficace en matière d’images mais limitée dans l’interprétation des multiples sens possibles des textes. Cela requiert les compétences fines d'analyse par des modérateurs mesurés.
Le déontologisme
Fondé sur l’éthique kantienne, le raisonnement déontologique (du grec déon : devoir) s’appuie sur une règle ou une norme d’action, énonçable en une proposition, et qui se présente à la fois comme justifiant l’action, et comme étant à elle-même sa propre justification. Ces règles ou ces normes forment le principe qui est en morale ce qu’est l’axiome en logique ou en sciences. Par opposition aux autres courants éthiques, le déontologisme situe le principe de moralité de l’action, non pas dans ses conséquences, ni dans le ressenti de l’agent, ni dans les dispositions qu’il manifeste, mais dans le principe sur lequel l’action se fonde.
À côté de ce sens moral large, la déontologie désigne aussi l’ensemble des devoirs qu’impose à des professionnels l’exercice de leur métier. En pratique donc, la déontologie constitue un ensemble de règles reconnues par un groupe professionnel et inscrites dans un texte faisant référence pour l’ensemble de ses membres.
En considérant les enjeux contemporains du domaine numérique – l’intelligence artificielle, par exemple – nous constatons que cette éthique peine à s’organiser en vue de proposer une réglementation ainsi que des politiques internationales efficaces. Souvent internalisé au sein des entreprises elles-mêmes pour mieux en maîtriser les issues, ou récupéré entre géants du web, le débat éthique se présente comme peu opérationnel, voire soumis à une forme d’instrumentalisation par ses propres organisateurs.
Le conséquentialisme
Le raisonnement conséquentialiste situe la moralité de l’action, non plus dans le principe sur lequel cette dernière s’adosse, mais dans les conséquences prévisibles de l’action. Ce courant identifie les contraintes qui pèsent sur l’action. Il s’agit d’une action rationnelle par rapport à une fin poursuivie par celui qui agit. Dans cette perspective, l’emploi des moyens est soumis à leur efficacité en vue d’atteindre le but donné.
Au sein de l'approche conséquentialiste, le courant utilitariste raisonne plus précisément en fonction du besoin de maximiser ses plaisirs et minimiser ses peines. L’examen des conséquences implique une approche relativement complexe selon que l’on se place du point de vue individuel ou collectif. La nature, la portée et l’évaluation des conséquences pouvant ainsi varier, le conséquentialisme nous rappelle que le domaine éthique s’entend comme un effort de justification de la moralité de son action et non la morale elle-même.
À l’aide de l’éthique conséquentialiste, relisons à présent les évènements que la ville de Boston a connus en décembre 2017, lors de la tentative de mettre en place un système algorithmique afin d’améliorer le ramassage des enfants par les bus scolaires (soit 25 000 élèves à répartir dans 200 écoles).
Face à la contestation des familles des classes favorisées, cette politique a rapidement été abandonnée par les autorités alors que la maximisation de ces critères pour un fort taux d’usagers des bus de la ville semblait rationnellement assuré. Si la nécessaire médiation du contenu de l’algorithme, son objectif, ses critères, son poids, furent insuffisamment présentés à la population locale, il n’en reste pas moins que les déterminants éthiques de la situation ne se trouvent pas que dans le dispositif technique, mais également dans les choix politiques.
Par cet exemple, l’approche conséquentialiste s’illustre autrement que par la logique de profit économique et de satisfaction quantitative, puisqu’elle raisonne à partir des conséquences politiques et du poids d’un petit groupe de citoyens. Ainsi, rien n’exclut que la réponse puisse varier ; le conséquentialisme navigue entre les intérêts personnel, partiel et général au sein d’un même contexte.
L’éthique du sentiment
L’éthique du sentiment considère que la moralité de l’action est fonction, non pas d’un raisonnement, par exemple d’une assignation de principes ou d’un calcul de conséquences, ni même de l’exercice d’une disposition entraînée, mais de l’expression d’un ressenti, d’une émotion – par exemple, la pitié, l’empathie, le souci de l’autre, l’amour, etc.
Un de ses courants majeurs est né aux États-Unis dans les années 1980 autour de la notion de « care », d’éthique du soin. Son attention se porte sur la considération des personnes, dans leur singularité, ainsi que sur l’activité orientée vers les besoins d’autrui (source : Carol Gilligan, Une voix différente. La morale a-t-elle un sexe ?, Paris, Flammarion, 2019 (1982)).
Ce courant éthique comprend une certaine critique des éthiques, vues ci-dessus, axées sur le culte de l’autonomie, de l’indépendance de la réflexion critique et de la prise de décision, en s’attachant à analyser et comprendre la vulnérabilité humaine. Elle remet au centre les sentiments et les émotions en éthique.
En situation concrète dans le monde du numérique, nous assistons à un débat éthique sur le besoin d’amener de la diversité (ethnique, de genre, de formation) au niveau des postes professionnels, dans le but notamment de développer l’empathie des équipes de conception vis-à-vis des usagers des dispositifs techniques. Cette démarche tend in fine à favoriser la mise en œuvre de valeurs et de pratiques plus démocratiques au sein de la société. Par exemple, cela se retrouve dans un des nombreux projets menés au sein de l’université de Stanford sur les liens entre le genre et l’innovation, au niveau du design de jeux vidéo limitant les stéréotypes et la prescription de normes sexuées.
L'apport des courants éthiques pour comprendre la relation du numérique à la société permet d'analyser les valeurs, les pratiques et les connaissances embarquées dans la réalisation d'un dispositif technique et autour ses visions politiques, économiques, environnementales et sociales. Dans le chapitre suivant, nous examinerons un ensemble de postures des acteurs du domaine qui mobilisent ces réflexions éthiques pour agir de façon professionnelle et citoyenne.
Sources complémentaires
Aristote, Éthique à Nicomaque, Paris, Flammarion, 2004. Traduction de Richard Bodéüs.
Emmanuel Kant, Fondements de la métaphysique des mœurs, Paris, Flammarion, 2018. Traduction d'Alain Renaut.
Max Weber, Le savant et le politique, Paris, 10/18, 2006. Traduction de Julien Freund.
