Éthique et transparence de l'IA
Concevoir et utiliser une IA pose des questions éthiques : transparence, non-discrimination, et responsabilité en cas d'erreur.
À quoi ça sert ?
Juger si une IA est utilisée de façon juste : éviter les discriminations, exiger de la transparence, et savoir qui est responsable en cas de problème.
Le savais-tu ?
Certaines applications (notation sociale, reconnaissance faciale de masse) posent de fortes questions sur les libertés et les droits — au point d'être strictement encadrées, voire interdites.
1. Les principes
Transparence (comprendre le système), explicabilité (expliquer ses décisions), non-discrimination et justice.
2. La responsabilité
Quand une IA cause un dommage, se pose la question : qui est responsable de l'erreur ?
3. Les cadres
Le RGPD protège les données personnelles ; l'IA Act encadre les usages selon leur niveau de risque.
Les principes éthiques
| Transparence | Comprendre comment l'IA fonctionne. |
|---|---|
| Explicabilité | Pouvoir expliquer ses décisions. |
| Non-discrimination | Éviter de reproduire des inégalités. |
| Responsabilité | Qui répond en cas d'erreur ? |
Le RGPD protège les données personnelles ; l'IA Act classe les usages selon leur niveau de risque (de minime à interdit).
Exemples
Une IA se trompe
Une décision automatique cause un dommage à quelqu'un.
Quelle question éthique se pose ?
Celle de la responsabilité : qui est responsable de l'erreur ?
Pièges à éviter
- Croire qu'une IA est toujours neutre et juste.
- Penser que la rapidité prime sur la transparence.
- Oublier les questions de responsabilité.
À retenir
- Principes : transparence, explicabilité, non-discrimination, justice.
- Une erreur d'IA pose la question de la responsabilité.
- Le RGPD protège les données personnelles.
- L'IA Act classe les usages par niveau de risque.
Je m'entraîne
1. Cite deux principes éthiques pour une IA.
Voir la correction
Par exemple la transparence et la non-discrimination.
2. Qu'est-ce que l'explicabilité d'une IA ?
Voir la correction
Pouvoir expliquer comment elle arrive à sa décision.
3. Que protège surtout le RGPD ?
Voir la correction
Les données personnelles des individus.