• 2 heures
  • Facile

Ce cours est visible gratuitement en ligne.

course.header.alt.is_certifying

J'ai tout compris !

Mis à jour le 09/07/2024

Connaissez les risques liés à ChatGPT

Protégez la confidentialité de vos données

Par défaut, ChatGPT stocke les données des utilisateurs pour améliorer l'outil et les services. Il ne s'en cache pas, comme cela vous est signalé la première fois que vous l'utilisez, rappelez-vous :

La première fois, ChatGPT vous prévient qu'il réutilisera ce que vous lui enverrez
Message d'information sur la collecte de data par ChatGPT

Supposons que vous discutiez avec ChatGPT de votre prochain projet d'entreprise, de vos informations financières personnelles ou de problèmes de santé. Il est essentiel que ces informations restent confidentielles et ne soient pas utilisées pour améliorer l'IA ou à des fins malveillantes.

Cela a déjà été un problème pour Samsung qui a interdit l'usage de ChatGPT après une fuite de données. En effet, des employés un peu trop enthousiastes ont discuté avec lui de projets confidentiels qui sont maintenant dans les mains d'OpenAI. Ces données pourraient servir à entraîner l'IA, qui se mettrait à son tour à partager des informations de Samsung à des concurrents involontairement. 😱

Le premier réflexe à avoir est… de ne pas partager de données confidentielles et sensibles, qu'elles soient personnelles ou professionnelles.

Pour configurer ChatGPT afin qu'il n'utilise pas vos données, allez dans le menu en bas à gauche et sélectionnez Settings & Beta :

Allez dans les options pour désactiver le partage de données
Allez dans les options pour désactiver le partage de données.

Ensuite, cliquez sur "Show" dans Data Controls puis désactivez l'option "Chat History & Training". Par défaut, elle est activée comme sur cette capture d'écran, il suffit alors de cliquer sur le bouton vert pour la désactiver :

Cliquez sur Show dans Data controls
Cliquez sur Show dans Data Controls

Luttez contre les biais et la discrimination

ChatGPT est une intelligence artificielle qui s'entraîne sur d'immenses données textuelles. Il a donc "lu" de nombreuses pages web et de nombreux livres.

Malheureusement, ces sources peuvent contenir des biais qui sont naturellement présents dans notre société. Ces biais peuvent se manifester de différentes manières, notamment dans les domaines du genre, de la race, de l'orientation sexuelle et de la religion, pour n'en nommer que quelques-uns. Si vous faites un usage aveugle de ChatGPT,  vous pourriez vous retrouver malgré vous à amplifier ces biais et à augmenter la discrimination de certains groupes de personnes (y compris le vôtre).

Imaginons que vous demandiez à ChatGPT de décrire les compétences d'un bon programmeur. Il pourrait, par inadvertance, utiliser des stéréotypes de genre et suggérer que les hommes sont plus compétents en programmation que les femmes. Dans un autre exemple, ChatGPT pourrait associer certaines professions ou compétences à des groupes ethniques spécifiques, renforçant ainsi des stéréotypes négatifs.

OpenAI travaille à limiter ces biais en configurant ChatGPT régulièrement. Néanmoins, vous ne devriez pas miser entièrement dessus. En tant qu'utilisateur, soyez vigilant et critique vis-à-vis des réponses fournies par ChatGPT et prenez du recul : "Est-ce que le texte fourni par ChatGPT me paraît biaisé ?". Propose-t-il une vue du monde un peu trop simplifiée ?

Dans un contexte professionnel, il serait dangereux de répéter ces biais car vous pourriez être accusé de discrimination. Soyez donc prudent : s'il y a un problème, vous ne pourrez pas vous défendre en indiquant que le message vient à l'origine de ChatGPT. Vous avez une responsabilité car c'est vous qui diffusez ensuite les messages rédigés par ChatGPT.

N'hésitez pas à signaler les réponses inappropriées ou discriminatoires afin d'aider OpenAI à améliorer le modèle. À côté de chaque réponse, vous pouvez cliquer sur le pouce vers le bas pour indiquer que la réponse n'est pas satisfaisante :

Le pouce vers le bas permet d'indiquer un problème dans la réponse
Le pouce vers le bas permet d'indiquer un problème dans la réponse.

Une fenêtre apparaît ensuite où vous pouvez indiquer la nature du problème. Pour un souci de discrimination, vous devriez cocher la première case "This is harmful / unsafe" ("c'est dangereux").

Indiquez que le contenu est dangereux
Indiquez que le contenu est dangereux.

Minimisez les hallucinations

Il arrive parfois que ChatGPT "invente" des réponses absolument fausses, mais qu'il vous les raconte avec aplomb comme s'il était sûr de lui. Ce fonctionnement a un nom : on dit que l'IA "hallucine" des réponses. 😵‍💫

Pourquoi ChatGPT ferait-il cela ?

Il faut bien comprendre que ChatGPT est une IA dont le rôle est de "générer du texte". Il n'a aucune notion de vérité. Il a certes "lu" de nombreuses pages web et de nombreux livres lorsqu'il a été entraîné par des chercheurs à l'origine, mais il n'est pas conçu pour donner la vérité. Il est à la base plus à l'aise pour inventer du texte, écrire des histoires, etc.

OpenAI travaille à rendre ChatGPT plus fiable, mais il ne faut pas tout miser dessus.

Si vous demandez à ChatGPT de vous donner un exemple d'animal qui peut voler et nager, il pourrait répondre "un manchot volant", ce qui n'est pas exact, car les manchots ne volent pas. 🐧

Dans un autre exemple, ChatGPT pourrait inventer un événement historique qui n'a jamais eu lieu, causant des confusions ou des malentendus.

Pour minimiser les hallucinations, posez des questions claires et précises, et n'hésitez pas à reformuler votre question si la réponse obtenue n'est pas satisfaisante. De plus, vérifiez toujours les réponses fournies par ChatGPT avant de les utiliser à des fins sérieuses ou sensibles.

Vous devriez également consulter des sources externes pour confirmer ou infirmer les informations fournies par l'IA. Oui, c'est un comble, mais malgré ce que l'on dit parfois, à ce stade ChatGPT ne peut pas remplacer Google combiné à votre esprit critique. 😉

En résumé

ChatGPT n'est pas parfait (eh non !). Gardez en particulier ces points en tête lorsque vous l'utilisez :

  • Soyez attentif à la confidentialité des données : évitez de partager des informations sensibles et configurez ChatGPT pour ne pas réutiliser vos données.

  • Restez vigilant face aux biais et à la discrimination : soyez critique envers les réponses de ChatGPT et signalez les réponses inappropriées.

  • Méfiez-vous des hallucinations, ces réponses fausses inventées de toutes pièces par ChatGPT avec aplomb. Vérifiez les informations fournies par ChatGPT et consultez des sources externes pour confirmer ou infirmer les réponses.

Après cette petite mise en bouche, je vous propose de découvrir, après le quiz qui suit, plusieurs cas d'utilisation typiques de ChatGPT qui fonctionnent. Tout l'intérêt de ChatGPT est de l'adapter à votre métier et à votre secteur, donc ouvrez bien les yeux !

Et si vous obteniez un diplôme OpenClassrooms ?
  • Formations jusqu’à 100 % financées
  • Date de début flexible
  • Projets professionnalisants
  • Mentorat individuel
Trouvez la formation et le financement faits pour vous
Exemple de certificat de réussite
Exemple de certificat de réussite