La température est un paramètre de génération qui modifie la distribution de probabilités avant l’échantillonnage du prochain token. Elle ne rend pas mécaniquement un modèle “meilleur” ou “plus créatif” dans tous les cas. Elle change la propension à choisir des tokens moins probables, selon le runtime et les autres paramètres.
Repère documentaire : documentation officielle du fonctionnement présenté.
Mécanisme simplifié
À chaque étape, le modèle produit des scores pour les tokens possibles. Le sampling transforme ces scores en choix. Une température basse concentre davantage la probabilité sur les options déjà fortes ; une température haute aplatit la distribution et laisse plus de place à des options moins probables. Si le décodage est greedy, c’est-à-dire choix systématique du token le plus probable, la température peut avoir peu ou pas d’effet selon l’implémentation.
Température, top_p et seed
top_p limite l’échantillonnage à un noyau de probabilité cumulée. Une température haute avec un top_p très bas peut rester assez contrainte. Une seed peut rendre certains tirages reproductibles si le runtime la supporte et si les autres conditions restent identiques. Mais entre modèles, versions et serveurs, ne présumez pas une reproductibilité parfaite.
Exemple fictif
Pour le prompt “Donne un titre pour un guide sur Docker”, trois sorties fictives pourraient être :
- Température basse : “Installer Docker : guide simple pour débuter”.
- Température moyenne : “Docker sans panique : lancer votre premier conteneur”.
- Température haute : “La boîte magique des conteneurs : comprendre Docker en pratique”.
Ce ne sont pas des observations mesurées d’un modèle donné. Elles illustrent seulement le type de variation qu’on cherche souvent.
Réglage par usage
- Extraction JSON, classification, conformité : température basse, schéma strict, validation.
- Brainstorming titres, angles, slogans : température moyenne à haute, tri humain.
- Code critique : température basse et tests, pas confiance aveugle.
- Création éditoriale : tester plusieurs sorties et sélectionner, plutôt que chercher le paramètre parfait.
La température est un bouton de diversité, pas une garantie de vérité, de qualité ou d’originalité. Une sortie fausse à température 0 reste fausse ; une sortie brillante à température élevée peut être instable. Le bon réglage se mesure sur une tâche précise.
Température et vérité
Une température basse peut donner un ton plus stable, mais elle ne vérifie pas les faits. Une température haute peut proposer de bons angles, mais aussi plus d’inventions. Pour une réponse sourcée, le paramètre principal reste la qualité des sources et la validation des affirmations, pas seulement la température.
Protocole de choix
Testez trois réglages sur dix prompts représentatifs. Comptez sorties exploitables, erreurs de format, répétitions et besoin de retouche. Pour un usage éditorial, vous pouvez générer large puis filtrer. Pour une intégration automatique, privilégiez stabilité, schéma et tests.
Quand la fixer
Pour un pipeline automatique, fixez la température et versionnez-la avec le prompt. Pour un atelier créatif, autorisez plusieurs températures et sélectionnez manuellement. Le même réglage n’a pas le même rôle selon qu’on cherche stabilité ou variété.
Format strict
Si la sortie doit respecter un schéma, combinez température basse, instructions précises et validation automatique. Le paramètre ne remplace jamais le contrôle du format produit.
Pour les bases : définition d’un modèle de langage.
