• 6 heures
  • Facile

Ce cours est visible gratuitement en ligne.

course.header.alt.is_certifying

J'ai tout compris !

Mis à jour le 29/07/2021

Identifiez les enjeux éthiques de l’intelligence artificielle

Connectez-vous ou inscrivez-vous gratuitement pour bénéficier de toutes les fonctionnalités de ce cours !

Les techniques d’IA ont un potentiel formidable. Les opportunités sont nombreuses mais soulèvent aussi des questions éthiques. Ces questions couvrent de nombreux domaines comme l’utilisation des données personnelles, les impacts écologiques ou l'émergence de systèmes d’intelligence artificielle capables de prendre des décisions par eux-mêmes.

Dans ce chapitre, nous allons évoquer ces enjeux éthiques plus en détail. À chaque fois, nous vous proposerons des pistes de réflexion que vous pourrez suivre pour rester vigilant et adopter un comportement responsable. Vous êtes prêt ?

Découvrez les enjeux d’utilisation des données

Vous échangez des emails tout au long de la journée. Pour vous déplacer, vous ouvrez sans doute vos applications d’itinéraires préférées. Vous utilisez des services numériques au quotidien.

Majoritairement, ces services, le plus souvent gratuits, ont un revers de la médaille à ne pas négliger. Lorsque vous les utilisez, les données produites peuvent être compilées et analysées, notamment à des fins publicitaires. Votre profil est ensuite analysé au fil des utilisations pour vous proposer les publicités les mieux ciblées et les fonctionnalités correspondant aux habitudes observées.

Un adage résume ce mécanisme : "si c’est gratuit, c’est que vous êtes le produit !". Celui-ci se vérifie chez la grande majorité des géants du numérique et constitue souvent le cœur de leur modèle économique.

Comment alors m'assurer que mes données ne sont pas utilisées à des fins indésirables ?

En utilisant votre esprit critique ! Lorsque vous utilisez un service numérique, prenez un peu de temps pour identifier les données qui sont récoltées et pour comprendre comment elles peuvent être utilisées. 

Par exemple, lorsqu’on vous demande d’identifier des images pour prouver que vous n'êtes pas un robot (système CAPTCHA), vous participez à entraîner des algorithmes de reconnaissance d’images. Lorsque vous acceptez que votre activité sur une page soit suivie, en consentant aux "cookies", vous permettez à des algorithmes de vous proposer des publicités ciblées en fonction de vos préférences.

Certaines pratiques vous paraîtront acceptables et d’autres non. L’important, c’est d’en être conscient !

Dans certains pays, on observe certaines utilisations qui peuvent poser question. C’est le cas de la Chine où on assiste à une surveillance de l'État qui analyse l’activité web de ses citoyens ainsi que leurs déplacements et comportements par reconnaissance d’images, les villes étant en majorité vidéosurveillées. Les données des citoyens et des systèmes d’IA sont utilisées pour attribuer à chaque citoyen un score en fonction de ses actions, qui lui permettra ensuite d’accéder plus ou moins facilement à des services, comme des crédits ou les transports, par exemple.

 Comment garder le contrôle sur les données qui sont collectées ?

Concernant les services des géants du numérique, vous pouvez dans un premier temps consulter les informations collectées (par exemple pour Google, vous pouvez ici voir toutes vos données enregistrées) pour mieux comprendre leur nature. N’hésitez pas ensuite à modifier vos paramètres de confidentialité ! Par exemple, le pistage GPS des applications d'itinéraires, de sport ou de matching peut être désactivé. Vous pouvez également réduire leur activation en choisissant uniquement de l’activer lorsque vous utilisez les applications. 

Existe-t-il des acteurs qui ne collectent pas de données ?

Oui, des acteurs comme Qwant, Firefox ou Framasoft ne collectent pas ou ne font pas usage des données personnelles.

Découvrez les enjeux des décisions algorithmiques 

Nous l’avons vu, les géants du numérique collectent beaucoup de données. Elles sont utilisées à des fins publicitaires, mais pas seulement. Avec l’avènement de l’intelligence artificielle, elles permettent d’automatiser certaines tâches. Ainsi, des décisions sont prises non plus par des humains mais par des algorithmes.

Quel risque de biais cela pose-t-il ?

Nous allons le voir, les algorithmes peuvent reproduire les biais. Les algorithmes ne sont jamais neutres, car ils s’appuient sur des bases de données d’apprentissage. Les données peuvent être biaisées par exemple en étant une représentation imparfaite du monde (tel qu'un algorithme de reconnaissance visuelle qui apprend majoritairement sur des sujets blancs), ou en imitant un monde imparfait. Ainsi, si les données contiennent des traces de discrimination, l'algorithme pourra à son tour avoir un comportement discriminatoire.

Prenons un exemple concret : celui du recrutement. Les directions des ressources humaines aujourd’hui utilisent de plus en plus de solutions d’intelligence artificielle. Par exemple, des logiciels analysent automatiquement les documents tels que les CV pour retenir les profils les plus pertinents.

Ainsi, en 2015, Amazon a mis au point un logiciel de recrutement pour analyser les candidatures à ses offres d’emploi. Amazon a réalisé que l’algorithme était en fait biaisé à l’encontre des candidatures féminines. Le système écartait de lui-même plus souvent les candidatures de femmes que celles des hommes.  Et pour cause : le système avait été entraîné sur les données de l’organigramme des employés d’Amazon où 85 % des effectifs étaient masculins. Une fois cette information révélée, Amazon a décidé d’abandonner l’outil.

Bien entendu, de telles dérives ne sont pas systématiques, et de nombreux services à base d’intelligence artificielle sont tout à fait utiles. Dans le cas du recrutement, les services proposés sont souvent pertinents pour le chercheur d’emploi.

Si vous consultez par exemple des offres d’emploi, des systèmes d’IA sont mis en place pour vous présenter les offres qui correspondent le mieux à votre profil.

Le point de vigilance est que ces produits soient au service de tout le monde, qu’ils ne reproduisent pas des comportements sexistes ou racistes, par exemple. Il faut donc garder un esprit critique envers ces solutions d’IA qui nous entourent et exiger de la transparence de ces systèmes.

Découvrez les enjeux d’information

Vous avez peut-être déjà vu passer ces vidéos surréalistes : Barack Obama est en train d'insulter Donald Trump ou Mark Zuckerberg déclarant manipuler ses utilisateurs de Facebook. Apparus courant 2018, il s'agit bien entendu de trucages vidéo, mais leur réalisme est saisissant. La technologie sous-jacente repose sur une technique récente d’intelligence artificielle. Ces montages sont souvent qualifiés de deepfake, qu’on pourrait traduire en français par "hypertrucage".

Euh, mais le trucage vidéo, ça existait bien avant l'intelligence artificielle, non ?

En fait, le trucage de photos était auparavant la sphère de quelques experts en retouche photo. Il est aujourd’hui à la portée d’un nombre croissant d’individus. Et les résultats sont de plus en plus convaincants. On peut l’observer en visitant le site This person does not exist qui compile une série de portraits générés avec cette technique d’intelligence artificielle (il vous suffit de rafraîchir la page pour les faire défiler). On peut facilement se méprendre et croire à de réels visages, alors qu’ils sont générés artificiellement.

Le deepfake concerne à la fois le trucage photo, audio et vidéo. En 2019, une application chinoise (Zao) a fait grand bruit. Elle permet à ses utilisateurs de remplacer le visage de l’acteur d’un clip musical ou d’un film par le portrait photo de leur choix.

 Ces nouvelles techniques suscitent des risques, notamment celui de désinformation massive. 

Comment s’en prémunir ?

Ici, deux outils pour vous protéger du deepfake : votre bon sens et votre esprit critique ! Et cela passe par quelques conseils assez simples à mettre en place :

  • questionnez vos sources : regardez si la source de l’information est légitime, si c’est un média reconnu, par exemple ;

  • recoupez vos informations : en allant voir sur d’autres sites d’information ; 

  • vous pouvez également utiliser des sites de fact-checking, comme le proposent des initiatives comme Les décodeurs par Le Monde, Factuel par l’AFP…

Bien utilisée, cette technique peut aussi trouver des applications artistiques. Elle est notamment très pertinente quand il s’agit par exemple de dessiner « à la manière de ».

Vous pouvez ainsi transformer une photo en peinture à la manière de Van Gogh, par exemple. La technologie peut aussi être utilisée dans la composition de morceaux de musique ou dans le cinéma, pour réaliser certains effets spéciaux ou effectuer des doublages hyperréalistes où les lèvres des acteurs et actrices bougent de manière synchronisée avec la langue du doublage...

Encore une fois, ce n'est pas la technologie qui est problématique mais bien les utilisations qu'on en fait.

Découvrez les enjeux écologiques 

On entend parfois dire que la donnée est le nouveau pétrole du XXIe siècle. L’intelligence artificielle carbure à ce nouvel or noir.

Mais quel est l’impact environnemental de cette industrie ?

Le numérique en tant que secteur économique, la fabrication et l'utilisation des équipements inclus, a un bilan écologique non négligeable. On estime qu’il représentait environ 3,5% des émissions mondiales de CO2 en 2015 (pour vous donner une idée de comparaison, le transport aérien en émet 2 % et les réseaux télécoms 0,5%).

Pour fonctionner, l’économie numérique repose sur tous nos périphériques digitaux (smartphones, ordinateurs, tablettes, etc.), mais aussi sur de nombreuses infrastructures qui sont moins visibles du grand public : les réseaux fixes et mobiles, les réseaux d’entreprises et les centres de données ou data centers. Ces centres abritent les serveurs qui rendent possibles Internet et ses services.

Concrètement, dès que vous utilisez Internet ou un de ses services, vous sollicitez un serveur dans le monde qui va traiter votre demande et y apporter une réponse. Et pour cela, le serveur va consommer de l’énergie !

Et à échelle individuelle, comment limiter notre impact écologique au quotidien ?

Au quotidien, on peut œuvrer à réduire son empreinte écologique numérique. Il y a des gestes simples ; par exemple : supprimer ses vieux emails, se désabonner des newsletters inutiles ou limiter son usage des plateformes de streaming.

Le développement de l’intelligence artificielle s’ajoute tout de même à cet impact environnemental. En effet, l’intelligence artificielle demande de grandes capacités de stockage et de grandes capacités de calcul. Si les algorithmes du quotidien sont si performants, c’est notamment parce qu’ils ont été entraînés pendant des journées entières en utilisant des serveurs extrêmement puissants et très consommateurs d’énergie.

Bien que les algorithmes d’IA soient très énergivores, de nombreuses applications permettent d’améliorer les chaînes de production ainsi que notre consommation de ressources et d’énergie.

En résumé

  •  Pour être sûr que vous contrôlez toujours l'utilisation de vos données, choisissez à qui vous les partagez et paramétrez vos services selon vos usages. 

  • Des biais algorithmiques peuvent exister lors de la conception des programmes d'intelligence artificielle. S'informer et demander un cadre de régulation permettent d'assurer un risque minimum. 

  • Les deepfakes participent à la désinformation. Pour contrer cela, rien de tel qu'un esprit critique et un peu de recherches pour croiser vos sources.

  • L'IA utilise beaucoup d'énergie. L'optimisation de ses coûts écologiques est un sujet important à garder en tête pour le futur. 

Dans le prochain chapitre, vous découvrirez l'impact de l'intelligence artificielle sur le marché du travail et sur les emplois en général. 

Exemple de certificat de réussite
Exemple de certificat de réussite