Dico des effets et phénomènes liés à l’IA
Epistemicídio computacional : épistémicide computationnel
Traduction française proposée par Permis-IA. Le terme original est conservé pour respecter son histoire, sa langue et son contexte d’apparition.
Définition : Phénomène par lequel l’architecture d’un système d’IA réduit des personnes ou des réalités à des représentations calculables qui rendent certains sujets moins visibles, moins reconnaissables ou moins légitimes pour le système.
Origine du terme
Nina da Hora propose au Brésil le concept d’« epistemicídio computacional » pour décrire un effacement produit dans les opérations mêmes des systèmes de vision et de reconnaissance, avant ou au-delà d’une simple erreur finale.
Pourquoi cette traduction ?
Le portugais « epistemicídio computacional » étend au domaine informatique le concept d’« épistémicide », mobilisé par Nina da Hora à partir des travaux de Sueli Carneiro sur l’effacement et la négation de sujets comme producteurs de connaissance.
Visual Learning
Épistémicide computationnel en 20 secondes
L’épistémicide computationnel décrit un mécanisme où la mise en données et le calcul rendent certaines réalités visibles tout en en effaçant ou en déformant d’autres.
La réalité est traduite en données
Personnes, comportements ou situations sont transformés en catégories, variables et représentations calculables.
Le système privilégie ce qu’il peut traiter
Les catégories retenues déterminent ce qui devient mesurable, comparable ou détectable.
Ce qui entre mal dans le modèle devient moins visible
Des expériences, groupes ou savoirs peuvent être sous-représentés, mal reconnus ou absents des décisions produites.
Représentation
Le système ne voit jamais la réalité entière
Il agit sur une traduction construite à partir de données, de catégories et de choix techniques.
Effacement
Ce qui n’est pas correctement représenté pèse moins
L’enjeu porte sur les conséquences de cette invisibilité dans la connaissance et la décision.
Comment le phénomène se manifeste
- Non-détection ou détection inégale de certains visages
- réduction du visage à un proxy numérique présenté comme représentation autorisée de l’identité
- écarts de performance masqués par des moyennes globales
- personnes ou groupes transformés en bruit, cas atypiques ou données insuffisamment lisibles pour le système.
Ce que les recherches montrent
Des audits de systèmes de détection faciale montrent que certaines étapes du pipeline créent des écarts importants de visibilité et de reconnaissance entre groupes. Le concept d’« epistemicídio computacional » fournit un cadre critique pour analyser cet effacement architectural. À ce stade, le terme reste principalement porté par une même ligne de recherche brésilienne et ne dispose pas encore d’une mesure standardisée ni d’une estimation générale de fréquence.
Risques, symptômes et remèdes
Risques
- L’effacement architectural entraîne des exclusions ou des décisions inégales lorsque le système ne détecte pas certains visages, les représente moins fidèlement ou traite un proxy numérique comme identité de référence. Dans des usages de sécurité, d’accès ou de vérification, ces écarts exposent à des refus injustifiés, à une surveillance disproportionnée et à des erreurs difficiles à contester. Les métriques moyennes masquent en outre les groupes pour lesquels le système échoue le plus.
Symptômes
- Aucun symptôme spécifique fiable n’a été identifié à ce jour
- le phénomène se repère surtout par des échecs répétés de détection ou de reconnaissance, des demandes anormalement fréquentes de repositionnement ou de nouvelle capture, des écarts marqués entre groupes, ou l’impossibilité de faire corriger une identité numérique qui contredit l’expérience de la personne concernée.
Remèdes
- Auditer séparément chaque étape du pipeline, notamment la détection avant la reconnaissance
- mesurer la couverture et les erreurs par groupes pertinents plutôt que seulement une moyenne globale
- documenter jeux de données, seuils et transformations
- prévoir une voie humaine de contrôle et de contestation
- éviter l’usage de la reconnaissance faciale dans les situations à fort enjeu lorsqu’une erreur ou une non-détection prive une personne d’un droit, d’un accès ou d’une possibilité de recours.
Ce que l’on sait aujourd’hui
Ce qui est bien étayé
Des audits de systèmes de détection faciale montrent que certaines étapes du pipeline créent des écarts importants de visibilité et de reconnaissance entre groupes. Le concept d’« epistemicídio computacional » fournit un cadre critique pour analyser cet effacement architectural. À ce stade, le terme reste principalement porté par une même ligne de recherche brésilienne et ne dispose pas encore d’une mesure standardisée ni d’une estimation générale de fréquence.
Ce qui reste à confirmer
La fréquence générale reste non cotée. Le corpus ne permet pas encore d’estimer à quel point le phénomène est répandu dans l’ensemble de la population.
Appellations et termes associés
Terme original : epistemicídio computacional (portugais). Traduction proposée : épistémicide computationnel. Cette traduction est utilisée dans cette fiche pour faciliter la compréhension en français, tout en conservant l’appellation d’origine dans l’index tant qu’aucune traduction française établie n’est attestée.
- Illusion d’objectivité
- Biais d’automatisation
- Vigilance épistémique
- biais algorithmique
- racisme algorithmique