Éthique et transparence de l'IA
Concevoir et utiliser une IA pose des questions éthiques : transparence, non-discrimination, et responsabilité en cas d'erreur.
À quoi ça sert ?
Juger si une IA est utilisée de façon juste : éviter les discriminations, exiger de la transparence, et savoir qui est responsable en cas de problème. Certaines applications (notation sociale, reconnaissance faciale de masse) posent de fortes questions sur les libertés et les droits — au point d'être strictement encadrées, voire interdites.
Un peu d'histoire
En 2016, l'enquête sur le logiciel COMPAS, utilisé par la justice américaine, a montré qu'un algorithme pouvait défavoriser certains groupes : le débat sur les biais des IA est devenu mondial. L'Europe a réagi avec le RGPD (appliqué en 2018) puis l'IA Act (adopté en 2024), premier grand texte au monde à classer les usages de l'IA par niveau de risque.
Définition
L'éthique de l'IA est la réflexion sur ce qu'un système d'IA doit faire ou ne pas faire : elle exige la transparence (comprendre le système), l'explicabilité (expliquer ses décisions), la non-discrimination et la justice, et pose la question de la responsabilité en cas d'erreur.
Propriétés
Les principes
Transparence (comprendre le système), explicabilité (expliquer ses décisions), non-discrimination et justice.
La responsabilité
Quand une IA cause un dommage, se pose la question : qui est responsable de l'erreur ?
Les cadres
Le RGPD protège les données personnelles ; l'IA Act classe les usages selon leur niveau de risque (de minime à interdit).
1. Transparence
Comprendre comment l'IA fonctionne.
2. Explicabilité
Pouvoir expliquer ses décisions.
3. Non-discrimination
Éviter de reproduire des inégalités.
4. Responsabilité
Qui répond en cas d'erreur ?
Exemples corrigés
Une IA se trompe
Une décision automatique cause un dommage à quelqu'un.
Quelle question éthique se pose ?
Celle de la responsabilité : qui est responsable de l'erreur ?
Pièges à éviter
- Croire qu'une IA est toujours neutre et juste.
- Penser que la rapidité prime sur la transparence.
- Oublier les questions de responsabilité.
À retenir
- Principes : transparence, explicabilité, non-discrimination, justice.
- Une erreur d'IA pose la question de la responsabilité.
- Le RGPD protège les données personnelles.
- L'IA Act classe les usages par niveau de risque.
Je m'entraîne
1. Cite deux principes éthiques pour une IA.
Voir la correction
Par exemple la transparence et la non-discrimination.
2. Qu'est-ce que l'explicabilité d'une IA ?
Voir la correction
Pouvoir expliquer comment elle arrive à sa décision.
3. Que protège surtout le RGPD ?
Voir la correction
Les données personnelles des individus.
📚 Révise cette fiche en flashcards
Connecte-toi pour retourner cette fiche en cartes de rappel actif — et garder ta progression.
Se connecter