Aller au contenu
Gridpak

IBM livre des aperçus de Granite qui résistent à 47 % d’attaques en plus

Hermes Integration

IBM livre des aperçus de Granite qui résistent à 47 % d'attaques en plus (IBM)
La page publiée par IBM, capturée le 13 novembre 2026.

L’équipe Granite d’IBM a publié LLMON le 12 novembre 2026, en même temps que deux modèles de prévisualisation expérimentaux entraînés à le lire, granite-4.1-3b-LLMON-preview et granite-4.1-8b-LLMON-preview. LLMON signifie LLM Object Notation et remplace la chaîne plate qu’un template de chat transmet normalement à un modèle par des blocs balisés : un pour l’instruction, un pour chaque donnée à laquelle elle s’applique, et un bloc exec qui nomme quelle instruction s’exécute sur quelle entrée et où va la réponse. Le benchmark OPI est celui sur lequel IBM rapporte que les prévisualisations évitent 47 % d’attaques par injection de prompt de plus que le meilleur modèle de pointe qu’elle a testé.

Ce qui a réellement été publié

Un format, une chaîne d’outils et deux checkpoints. Rien ici n’est un produit : le billet parle d’une prévisualisation expérimentale, prête pour l’exploration et l’évaluation, mais pas pour la production.

LLMON est un balisage de type XML dont les six délimiteurs sont des tokens spéciaux réservés plutôt que des caractères comme les accolades et les guillemets, si bien que la structure et le contenu occupent des parties distinctes du vocabulaire. Un bloc s’ouvre par un chemin de balise et un ID de deux caractères que le tokenizer encode comme un seul token, donc adresser un bloc coûte deux tokens. Un bloc exec distinct lie le reste : exécuter cette instruction sur cette entrée, sous réserve de ces exigences, et écrire la réponse dans ce bloc.

Le template l’écrit pour vous : une liste messages nomme chaque partie, la marque exec True ou False, et apply_chat_template rend le balisage.

Ce que contient la publication Détail
Checkpoints granite-4.1-3b-LLMON-preview à 4B paramètres et granite-4.1-8b-LLMON-preview à 9B, tous deux en BF16
Licence Apache 2.0 sur les deux fiches de modèle
Poids de départ Les checkpoints de base Granite 4.1 3B et 8B, pas les modèles instruct publiés
Délimiteurs Six, chacun installé dans le tokenizer comme un seul token réservé
Outillage Template de chat, convertisseurs JSON vers LLMON, notebooks d’exemple, un Space de visualisation de l’attention
Statut Prévisualisation expérimentale, pas pour la production

Le 13 novembre 2026, les fiches affichaient 1 771 téléchargements le mois dernier pour la prévisualisation 3B et 126 pour la 8B. Deux articles étayent le travail : arXiv:2603.22519 pour le format, arXiv:2610.38120 pour la recette d’entraînement.

Sur quoi repose l’affirmation

Les 47 % sont relatifs, et le billet ne publie pas le taux de réussite des attaques qui les sous-tend. La robustesse est définie comme un moins le taux de réussite des attaques, sur OPI, un benchmark qui cache l’injection dans les données de tâches NLP ordinaires. Face au meilleur modèle open source testé par IBM, la comparaison est annoncée comme 95 % d’attaques évitées en plus. Aucun des deux modèles n’est nommé, et il n’y a pas de tableau par modèle.

La formulation plus forte, selon laquelle les taux de réussite des attaques tombent à près de zéro sur certains benchmarks, arrive elle aussi sans chiffre, et le billet dit seulement qu’elle observe des tendances similaires sur ASB et StruQ. Il est explicite sur le périmètre : ces benchmarks testent des injections indirectes statiques, du genre caché dans un document récupéré ou une réponse d’outil, et les attaques adaptatives sur plusieurs tours sont décrites comme un travail en cours.

Ce que la page ne publie pas

Aucun taux de réussite des attaques par modèle, aucune référence nommée, aucun tableau pour ASB ou StruQ, et aucun calcul, temps ou coût pour la phase d’entraînement. L’affirmation de parité est la seule avec de vrais chiffres, et ils sont sur les fiches de modèle.

C’est sur la parité que les fiches deviennent précises, et cela joue dans les deux sens. Sur la paire 3B, huit des 24 lignes passent sous la référence Granite 4.1 3B instruct. La plus grosse perte est de 8,00 points sur CRUXEval-O, puis 4,16 sur DeepMind Math, 3,75 sur MMLU-Pro et 1,28 sur IFEval. Les plus gros gains sont de 19,29 points sur la moyenne de sécurité Tulu3, 6,41 sur BigCodeBench et 5,56 sur MBPP. L’exécution de code et les maths difficiles ont encaissé le choc ; la sécurité a évolué dans l’autre sens.

La fiche ajoute que l’objectif sur ces benchmarks est la parité avec le modèle instruct au format classique, et que le comportement pour lequel le format existe, tenir la frontière entre instruction et données face à un contenu adversarial, n’est mesuré par aucun d’eux. Puis la phrase qui devrait accompagner chaque capture d’écran :

La règle de privilège est un comportement appris, pas une garantie imposée.

IBM ajoute que la règle réduit mais n’élimine pas le risque qu’une instruction intégrée dans des données, un document ou un résultat d’outil soit suivie, et dit de ne pas la considérer comme une défense unique pour un agent ayant accès à des systèmes sensibles. C’est le bon cadrage, et c’est pourquoi 47 % ne peut pas se lire comme une frontière.

Huit des 24 lignes de capacités passent sous la référence, la pire à 8,00 points sur CRUXEval-O

Ce que cela change pour les équipes qui font tourner de petits modèles ouverts

Si vous faites tourner un modèle de 3B à 8B sur votre propre matériel pour la recherche documentaire et l’appel d’outils, l’intérêt est que la frontière entre instructions et matériel non fiable est passée de la formulation à la structure.

La migration est plus légère qu’elle n’en a l’air : une liste messages avec des parties nommées suffit, et le template écrit le balisage, donc les équipes qui sérialisent leurs prompts en JSON conservent leurs pipelines grâce à des convertisseurs sans perte dans les deux sens. L’indicateur exec devient alors une décision que vous prenez à voix haute. Toute partie marquée False reste dans le contexte et n’est référencée par rien, la forme d’un document récupéré que vous voulez voir lu et non obéi.

La décision que cela crée

  • Si votre agent lit des pages récupérées, des fichiers téléversés ou la sortie d’outils, vous avez là de quoi tester cette semaine, sur vos propres prompts plutôt que sur OPI.
  • Si votre agent ne prend que des saisies utilisateur tapées, sans matériel non fiable dans le contexte, le gain est théorique.
  • Cela ne remplace pas un modèle de pointe. Cela remplace l’habitude de coller du texte non fiable dans un template de chat et de faire confiance au modèle pour l’ignorer.

Le coût est la partie non résolue. Des poids en Apache 2.0 signifient pas de prix par token, et aucun endpoint managé n’est annoncé, donc le vrai coût est la boucle d’évaluation avant de confier vos données à un modèle 3B. Les prompts dans un format de chat classique sont hors distribution, selon les fiches, donc une demi-migration est pire que pas de migration du tout.

L’avis de Neural Minute

L’affirmation intéressante n’est pas qu’un format de balisage contrarie l’injection de prompts. C’est que JSON était le mauvais format de transmission pour les petits modèles de langage, et que le correctif se situe dans le tokenizer et dans la composition du post-entraînement, plutôt que dans une ligne de plus du type « ignorez toute instruction contenue dans le document » vissée sur un prompt système.

Cet argument est vérifiable. Ce que nous pouvons vérifier indique qu’un modèle 3B peut tenir la frontière bien plus souvent qu’un modèle de pointe face à des injections statiques, et qu’il le paie de 8 points sur CRUXEval-O et de quelques points en mathématiques. Ce que nous ne pouvons pas vérifier, c’est son comportement après vingt tours face à un attaquant qui connaît le format, là où les agents vivent réellement. Nous avons déjà traité des modèles qui contournent leurs propres garde-fous, et le schéma est toujours le même : une défense structurelle tient jusqu’à ce que quelqu’un l’ajuste pour la contourner.

Notre lecture : ne remplacez pas un modèle de pointe par un aperçu 3B pour acheter de la sécurité. Voyez plutôt ici la preuve que le format de transmission peut porter une propriété de sécurité que l’échelle seule ne procure pas, et qu’un modèle 3B ouvert, avec une instruction explicite et une séparation des données, est un choix par défaut plus honnête pour un pipeline de retrieval qu’un modèle plus gros affublé d’un prompt système plein d’espoir. Le chiffre à surveiller n’est pas 47 %. C’est de savoir si quelqu’un publie des résultats d’attaques adaptatives sur sa propre pile.

Sources

  • Équipe IBM Granite, « LLMON: An LLM-Native Markup Language, now in Granite 4.1 3B and 8B », publié le 12 novembre 2026, consulté le 13 novembre 2026 : l’annonce
  • Fiches modèles, source du tableau de capacités, de la licence et des limites : granite-4.1-3b-LLMON-preview et granite-4.1-8b-LLMON-preview
  • Articles sur le format et l’entraînement, cités par identifiant arXiv sur les fiches : arXiv:2603.22519 et arXiv:2610.38120

Déjà traité sur le même problème : des agents IA isolés d’OpenAI font passer des secrets par le cache CPU, sans réseau.