Skip to content
Étape 1 / –
flag Introduction

Vérifier le résultat

L’IA peut faire des erreurs sans que tu reçoives d’avertissement. Vérifie donc ce que tu envoies ou utilises comme base pour une décision. Dans ce module, tu vas apprendre à quoi faire attention.

target Ce que tu vas apprendre dans ce module
  • check_circle Ce que tu vérifies toujours avant d'utiliser un texte produit par l'IA
  • check_circle Comment les biais se glissent dans les réponses de l'IA
  • check_circle Pourquoi une véritable évaluation humaine est nécessaire
draw C'est toi qui signes

C’est toi qui signes, pas l’IA

L’IA invente parfois des chiffres, des citations, des articles de loi ou des sources qui n’existent pas. C’est ce qu’on appelle Halluciner Un outil IA qui affirme avec une grande assurance quelque chose de faux : un chiffre inventé, une citation qui ne figure nulle part ou une source qui n'existe pas. Cela arrive avec tous les outils IA, même les meilleurs. . La réponse a l’air aussi convaincante que lorsqu’elle est juste.

Vérifie donc toujours :

  • les chiffres et les calculs : recalcule-les ou compare-les avec la source ;
  • les noms, les dates et les citations : figurent-ils vraiment dans le document original ?
  • les affirmations juridiques ou fiscales : fais-les vérifier par quelqu’un qui s’y connaît ;
  • le ton et le contenu : écrirais-tu cela ainsi toi-même à ce client ou à ce collègue ?
balance Biais

Attention aux biais

L’IA peut apprendre à partir de données contenant des biais, comme des textes venant d’internet. Ceux-ci peuvent se retrouver dans les réponses sans que tu t’en aperçoives.

Voici à quoi cela peut ressembler :

  • Pour les offres d’emploi : l’IA propose surtout des hommes pour les postes techniques et des femmes pour les postes de soins.
  • Pour les candidats : un CV avec un certain nom ou un certain lieu de résidence reçoit un score plus bas.
  • Pour les textes : les exemples et les images montrent toujours le même type de personnes.
balance Ce que tu fais

Lis d’un œil critique, surtout si la réponse concerne des personnes. Demande-toi : prendrais-je la même décision si l’IA ne l’avait pas proposée ?

groups Décider sur des personnes

Assure une véritable évaluation humaine

La règle pratique pour les collaborateurs : ne prends pas l’initiative de laisser l’IA décider seule au sujet de personnes. N’utilise qu’une application évaluée et approuvée au préalable, avec une véritable évaluation humaine. Pense à :

  • sélectionner ou refuser des candidats ;
  • évaluer les prestations de collaborateurs ;
  • refuser un client ou fixer un prix sur la base d’un profil.

L’IA peut aider dans le cadre d’une application approuvée, par exemple avec des résumés de CV. L’évaluateur doit pouvoir vérifier les informations sources pertinentes, disposer de connaissances et d’une autorité suffisantes, et pouvoir rejeter la proposition de l’IA. Se contenter de cliquer sur « d’accord » n’est pas une véritable évaluation.

Le RGPD limite les décisions entièrement automatisées qui produisent des effets juridiques ou des effets similaires importants. Il existe des exceptions, assorties de conditions et de garanties. Tu ne les appliques pas toi-même : fais évaluer une telle application au préalable par le responsable au sein de ton organisation. Même avec une évaluation humaine, l’usage de l’IA dans le recrutement n’est pas automatiquement autorisé.

gavel Pas de reconnaissance des émotions

Utiliser l’IA pour déduire les émotions, au travail ou dans l’enseignement, à partir de données biométriques comme les traits du visage ou de la voix est interdit dans l’UE, sauf à des fins médicales ou de sécurité. Analyser le ton ou le sentiment d’un texte ne relève pas de cette interdiction spécifique. Cela ne signifie pas que tout usage en est permis : n’utilise pas de tels outils pour des collègues, des candidats ou des clients de ta propre initiative.

quiz Que ferais-tu ?

Un résumé qui ne colle pas

description
Tu fais résumer un contrat de 20 pages par l'IA. Le résumé mentionne un préavis de trois mois, mais tu ne retrouves cette clause nulle part dans le contrat.

Que fais-tu ?

quiz Exercice · question 1 sur 2
info Juste pour t'entraîner, ça ne compte pas pour ta progression
L'IA rédige un devis avec une remise que tu n'as jamais convenue. Que fais-tu avant de l'envoyer ?
Exact : l'IA est un outil d'aide. Ce que tu envoies ou décides sur la base de l'IA, tu le vérifies toi-même.
quiz Exercice · question 2 sur 2
Que peut faire l'IA dans une procédure de recrutement ?
Exact : cette application doit d'abord avoir été évaluée et approuvée. Un évaluateur compétent vérifie les informations sources pertinentes, pèse lui-même les candidats et peut rejeter la proposition de l'IA.
summarize Résumé

Ce que tu retiens du module 4

  • bolt L'IA invente parfois des faits, des citations et des sources, et peut avoir l'air sûre d'elle en le faisant.
  • bolt Vérifie les chiffres, les noms, les citations et les affirmations juridiques avant d'utiliser quoi que ce soit.
  • bolt L'IA peut reprendre des biais des données à partir desquelles elle a appris. Lis d'un œil critique.
  • bolt Pour les décisions concernant des personnes, n'utilise l'IA que dans le cadre d'une application approuvée avec une véritable évaluation humaine.
  • bolt La reconnaissance biométrique des émotions au travail est interdite, avec des exceptions médicales et de sécurité. N'utilise pas de tels outils de ta propre initiative.
workspace_premium Module terminé

Module 4 terminé 🎉

Tu sais maintenant comment vérifier le résultat de l’IA. Dans le module 5, tu vas apprendre quand dire que l’IA a participé à la rédaction, et comment gérer l’IA qui enregistre les réunions.

lock_open 4 sur 8 modules

En route vers le quiz d’entraînement « Utiliser l’IA en toute sécurité »

Termine les 8 modules et fais le quiz d’entraînement gratuit. L’examen officiel avec certificat se trouve dans l’app GDPRWise.

check_circle Modules 1-4 terminésradio_button_unchecked Modules 5-7radio_button_unchecked Examen final ≥ 70 %
workspace_premium