Dès qu'on parle d'intelligence artificielle, les mots techniques arrivent vite : tokens, inférence, RAG, agents… Pas besoin d'être développeur pour les comprendre, et les connaître aide beaucoup à poser les bonnes questions, à lire un devis ou à comparer deux offres.
Voici dix mots, dans un ordre où chacun s'appuie sur le précédent.
Modèle de langage
En une phrase : un programme qui a appris, à partir d'énormément de textes, à prédire la suite la plus probable d'un texte.
C'est le moteur derrière ChatGPT, Claude, Mistral et les autres. On parle aussi de LLM, pour large language model. Il ne « cherche » pas une réponse dans une base de données : il produit la réponse mot après mot, en choisissant à chaque fois la suite la plus plausible au vu de tout ce qu'il a appris.
Certains modèles sont seulement accessibles en ligne, chez leur éditeur. D'autres sont publiés « à poids ouverts » : on peut les télécharger et les faire tourner sur son propre serveur.
Exemple : quand vous écrivez « Rédige un e-mail pour relancer un client qui n'a pas payé sa facture », le modèle n'a jamais vu votre client, mais il a vu des milliers de relances polies. Il en produit une nouvelle, adaptée à votre demande.
Token
En une phrase : le petit morceau de texte avec lequel le modèle travaille réellement.
Un modèle ne lit pas des lettres ni des mots entiers : il découpe le texte en tokens. Un mot courant fait souvent un seul token, un mot long ou rare est coupé en plusieurs morceaux, et la ponctuation compte aussi.
Pourquoi c'est important : presque tout se mesure en tokens. Le prix d'une IA en ligne (on paie les tokens envoyés et les tokens reçus), la vitesse de réponse, et la quantité de texte qu'on peut lui donner d'un coup.
Exemple : « Bonjour » tient probablement en un token, alors qu'« anticonstitutionnellement » sera découpé en plusieurs morceaux. Un document de dix pages représente quelques milliers de tokens : c'est ce volume qui sera facturé à chaque fois qu'on l'envoie au modèle.
Prompt
En une phrase : le texte qu'on donne au modèle : la question, les consignes, et parfois des documents.
Dans une application, il y a souvent deux niveaux. Le prompt système, écrit une fois pour toutes par le développeur, fixe le rôle et les règles (« Tu es l'assistant du service client. Réponds en français, poliment, sans jamais promettre de remboursement. »). Le prompt utilisateur, lui, est la question tapée à chaque fois.
La qualité des réponses dépend énormément de la qualité du prompt : des consignes claires, un exemple de résultat attendu, et le bon contexte.
Exemple : « Résume ce compte rendu » donnera un résumé quelconque. « Résume ce compte rendu en cinq points maximum, pour un directeur qui n'était pas à la réunion, en mettant les décisions en premier » donnera exactement ce dont vous avez besoin.
Fenêtre de contexte
En une phrase : la quantité maximale de texte, en tokens, que le modèle peut prendre en compte en une seule fois.
Imaginez un bureau : tout ce qui est posé dessus, le modèle peut le lire. Le prompt, les documents fournis, l'historique de la conversation et la réponse en cours d'écriture doivent tous tenir sur ce bureau. Ce qui n'y est pas, le modèle ne le voit pas.
Point important : un modèle n'a pas de mémoire entre deux conversations. Quand une application semble « se souvenir », c'est qu'elle renvoie elle-même l'historique à chaque message.
Exemple : pour analyser un contrat de 30 pages, il faut que le contrat tienne dans la fenêtre de contexte. Pour interroger 3 000 documents d'entreprise, ce n'est pas possible d'un coup : il faut d'abord retrouver les quelques passages utiles (voir RAG, plus bas).
Inférence
En une phrase : le moment où le modèle travaille pour produire une réponse.
Il y a deux grandes étapes dans la vie d'un modèle. L'entraînement, qui se fait une fois, chez l'éditeur, sur d'énormes quantités de textes, avec des moyens de calcul considérables. Puis l'inférence, qui a lieu à chaque utilisation : le modèle, déjà entraîné, reçoit un prompt et calcule une réponse.
Quand vous utilisez une IA dans votre application, vous ne faites que de l'inférence. C'est elle qui coûte à chaque requête, en ligne, ou qui demande une machine puissante si le modèle tourne chez vous.
Exemple : l'entraînement, ce sont les années d'études d'un médecin. L'inférence, c'est chaque consultation : il ne réapprend pas la médecine, il applique ce qu'il sait au patient qui est devant lui.
Hallucination
En une phrase : une réponse qui a l'air juste et sûre d'elle, mais qui est inventée.
Comme le modèle produit la suite la plus plausible, il peut fabriquer une information plausible mais fausse : une référence produit qui n'existe pas, un article de loi imaginaire, un chiffre au hasard. Il ne ment pas volontairement : il n'a simplement pas de notion de « vrai » ou de « faux », seulement de « probable ».
On ne supprime pas complètement ce risque, mais on le réduit beaucoup : en fournissant les bons documents au modèle, en lui demandant de citer ses sources, en vérifiant par du code ce qui peut l'être (des totaux, des dates, des références), et en gardant une validation humaine sur ce qui compte.
Exemple : vous demandez « Quel est le délai de rétractation dans nos CGV ? » à une IA qui n'a pas vos CGV. Elle risque de répondre « 14 jours » avec aplomb, parce que c'est fréquent, même si vos conditions disent autre chose.
Embedding
En une phrase : une traduction d'un texte en une liste de nombres qui représente son sens.
Deux textes qui parlent de la même chose obtiennent des listes de nombres proches, même s'ils n'utilisent pas les mêmes mots. C'est ce qui permet de faire une recherche « par le sens » plutôt que par mots-clés.
Exemple : un salarié cherche « comment renvoyer une pièce défectueuse au fournisseur ». La procédure s'intitule « Retours SAV — marche à suivre ». Une recherche classique par mots-clés ne trouve rien, aucun mot en commun. Avec les embeddings, les deux textes sont reconnus comme proches, et la procédure remonte en premier.
RAG
En une phrase : une technique qui consiste à retrouver les bons documents, puis à les donner au modèle pour qu'il réponde à partir d'eux.
RAG signifie retrieval-augmented generation, génération augmentée par la recherche. Elle combine les mots précédents : on utilise les embeddings pour retrouver les passages utiles parmi vos documents, on les place dans la fenêtre de contexte, et on demande au modèle de répondre uniquement à partir d'eux. C'est l'une des meilleures parades contre les hallucinations, et la réponse peut citer sa source.
Exemple : un assistant interne qui répond aux questions sur vos procédures, en indiquant à chaque fois le document et la page d'où vient l'information. C'est le cas que je détaille dans l'article sur la documentation interne.
Fine-tuning
En une phrase : un entraînement complémentaire d'un modèle existant, sur vos propres exemples, pour adapter son comportement.
On reprend un modèle déjà entraîné et on lui montre quelques centaines ou milliers d'exemples « question, bonne réponse » propres à votre activité. Il apprend un style, un format, une façon de classer.
C'est souvent confondu avec le RAG, mais ça ne sert pas à la même chose. Le fine-tuning sert à changer la façon de répondre. Pour lui apporter des connaissances à jour (vos tarifs, vos procédures), le RAG est en général plus simple, moins cher et plus facile à maintenir : un document modifié est pris en compte immédiatement, sans réentraîner quoi que ce soit.
Exemple : une entreprise qui reçoit des demandes clients très typées peut affiner un petit modèle pour les classer dans ses 12 catégories internes, avec son vocabulaire maison. Pour répondre aux questions sur son catalogue, elle utilisera plutôt le RAG.
Agent
En une phrase : une IA à qui on donne des outils et un objectif, et qui enchaîne elle-même les étapes pour l'atteindre.
Un modèle seul ne fait que produire du texte. Un agent peut, en plus, agir : consulter un agenda, chercher dans une base de données, créer un brouillon d'e-mail, remplir une fiche dans le CRM. Il décide de l'étape suivante en fonction du résultat de la précédente.
C'est puissant, et ça demande des garde-fous : des accès limités au strict nécessaire, et une validation humaine avant toute action qui engage l'entreprise (envoyer, payer, supprimer).
Exemple : « Trouve un créneau de 30 minutes avec M. Dupont la semaine prochaine et prépare l'invitation. » L'agent consulte votre agenda, repère les créneaux libres, rédige l'invitation, et vous la propose. C'est vous qui cliquez sur « Envoyer ».
Le mémo
| Mot | En une phrase |
|---|---|
| Modèle de langage | Le programme qui produit le texte, mot après mot |
| Token | Le morceau de texte qui sert d'unité de mesure, et de facturation |
| Prompt | Ce qu'on donne au modèle : question, consignes, documents |
| Fenêtre de contexte | Ce que le modèle peut lire en une fois |
| Inférence | Le modèle qui travaille pour répondre, à chaque requête |
| Hallucination | Une réponse plausible, mais inventée |
| Embedding | Le sens d'un texte, traduit en nombres |
| RAG | Retrouver les bons documents, puis répondre à partir d'eux |
| Fine-tuning | Réentraîner un modèle pour changer sa façon de répondre |
| Agent | Une IA qui utilise des outils pour atteindre un objectif |