Les grands modèles de langage
Les chatbots et autres assistants génératifs reposent sur de grands modèles de langage (LLM). Ils produisent du texte en prédisant, mot après mot, la suite la plus probable.
À quoi ça sert ?
Comprendre comment fonctionne un grand modèle de langage aide à bien l'utiliser : savoir pourquoi il peut inventer, et donc pourquoi il faut toujours vérifier ses réponses.
Le savais-tu ?
Un grand modèle de langage est d'abord « pré-entraîné » sur d'énormes quantités de textes du Web. Puis des humains notent ses réponses pour l'améliorer (apprentissage par renforcement).
1. Le principe
Le modèle prédit le mot suivant le plus probable, à partir du contexte, pour construire sa réponse petit à petit.
2. L'entraînement
Pré-entraînement sur beaucoup de textes, puis alignement : des humains donnent des exemples et notent les réponses.
3. Les limites
Il ne vérifie pas la vérité. Il peut « halluciner » : inventer une information fausse présentée comme vraie.
Comment ça marche
| Entrée | Ta requête, appelée « prompt ». |
|---|---|
| Traitement | Le modèle calcule le contexte, mot après mot. |
| Sortie | Les mots suivants les plus probables. |
| Limite | Aucune garantie de vérité → il faut vérifier. |
Une « hallucination » est une information inventée présentée comme vraie. Ce n'est pas un bug : c'est lié à la façon même dont le modèle génère du texte.
Exemples
Repérer une hallucination
Une IA cite, avec assurance, un livre qui n'existe pas.
Que fais-tu ?
Tu vérifies que le livre existe vraiment avant de le citer : c'est probablement une hallucination.
Pièges à éviter
- Croire que le modèle « sait » si c'est vrai.
- Prendre une réponse fluide et sûre d'elle pour une réponse exacte.
- Recopier sans vérifier les informations importantes.
À retenir
- Un grand modèle de langage prédit le mot suivant le plus probable.
- Il est pré-entraîné sur d'énormes textes, puis affiné par des humains.
- Il ne garantit pas la vérité : il peut halluciner.
- On vérifie toujours les informations importantes.
Je m'entraîne
1. Comment un chatbot construit-il sa réponse ?
Voir la correction
En prédisant, mot après mot, la suite la plus probable à partir du contexte.
2. Qu'est-ce qu'une hallucination ?
Voir la correction
Une information inventée par l'IA et présentée comme vraie.
3. Quel est le rôle des humains dans l'entraînement d'un modèle de langage ?
Voir la correction
Donner des exemples et noter les réponses pour améliorer le modèle.