Dico des effets et phénomènes liés à l’IA
Vigilance épistémique : la compétence pour ne pas croire trop vite une IA
Comprendre le phénomène, ses risques, ses symptômes et les remèdes pour garder la main face à l’IA.
Définition : capacité à évaluer la fiabilité d’une information, d’une source ou d’un raisonnement avant de l’accepter et de l’utiliser.
Origine et histoire
Le concept moderne d’« epistemic vigilance » est formalisé par Dan Sperber et ses coauteurs dans Mind & Language en 2010 pour expliquer comment les humains évaluent la fiabilité des messages et de leurs sources.
Depuis l’essor des LLM, la vigilance épistémique est mobilisée pour décrire la nécessité de vérifier les sources, comparer les affirmations et résister à la fluidité persuasive des réponses générées.
Comment ce repère se traduit en pratique
Évaluer la compétence et les intentions de la source ; examiner le contenu ; rechercher cohérence, preuves, traçabilité et alternatives ; ajuster sa confiance au niveau d’incertitude.
Risques, symptômes et remèdes
Le cœur pratique de la fiche : comprendre le risque, reconnaître les symptômes et savoir comment agir.
Risques
Les risques auxquels ce repère répond
- En cas de vigilance insuffisante : acceptation de fausses informations
- surconfiance
- manipulation
- dépendance à des sources non vérifiées.
Symptômes
Comment repérer que ce repère manque ?
- Accepter une affirmation sans demander de preuve
- ne pas distinguer source et simple formulation du chatbot
- ne jamais recouper
- conserver le même niveau de confiance malgré l’incertitude ou l’absence de traçabilité.
Remèdes
Comment le mettre en pratique ?
- Demander les sources
- distinguer affirmation et preuve
- comparer au moins une source indépendante
- ajuster son niveau de confiance
- suspendre le jugement lorsque la preuve manque.
Ce que l’on sait aujourd’hui
Ce qui est établi
Le concept est solidement établi en sciences cognitives et sociales. Son application aux IA génératives est directe car les chatbots produisent des affirmations sans porter la responsabilité épistémique d’un humain.
Ce qui reste à confirmer
Le mécanisme est solidement documenté. Les prochains travaux doivent surtout préciser son intensité selon les usages, les publics et la durée d’exposition.
Sources
Diagnostic cognitif
Cet effet peut-il vous concerner ?
Le Diagnostic cognitif Permis-IA permettra d’identifier les domaines solides, ceux à consolider et ceux qui demandent davantage de vigilance dans votre manière d’utiliser l’IA.
Diagnostic cognitif — bientôt disponibleNewsletter Permis-IA
Suivre les nouveaux effets liés à l’IA
Les fiches du Dico évoluent lorsque de nouveaux travaux, termes ou usages apparaissent.
Newsletter — connexion en cours