LLM : Large Language Model
IA
Modèle de langage capable de générer et transformer du texte. Sans garde-fous, il peut affirmer des choses fausses avec assurance.
Nature : Prédit le token suivant à partir d’un vaste entraînement ; « raisonne » par motifs statistiques, pas par vérité.
Garde-fous : Ancrer (RAG), contraindre le format, valider les sorties, journaliser. Sinon : hallucinations et fuites de données.
Ce qui arrive si on s'en passe
Un modèle de langage employé sans garde-fous affirme des choses fausses avec l'aplomb d'un témoin de moralité : sans ancrage dans des sources vérifiées, il invente références, chiffres ou procédures, et sans validation des sorties, ces inventions passent directement dans un document, une réponse client ou une commande exécutée. Sans contrainte de format, le traitement automatique en aval reçoit n'importe quoi ; sans journalisation, impossible ensuite de retrouver ce qui a été demandé et répondu. Des données sensibles fournies dans les requêtes peuvent en outre ressortir là où personne ne les attendait. Le modèle prédit le mot suivant, pas la vérité, ce qui le rend très convaincant et parfaitement indifférent au fait d'avoir raison.
Explication de la marmotte
Imagine un robot qui a lu des millions de livres et peut écrire des textes ou répondre à des questions en utilisant ce qu’il a appris. Ce robot, c’est un grand modèle de langage. Il essaie de deviner les mots qui viennent ensuite pour faire des phrases qui ont du sens. Mais attention, comme il ne comprend pas vraiment ce qu’il dit, il peut parfois inventer des choses fausses en parlant avec beaucoup d’assurance, un peu comme quelqu’un qui raconte une histoire sans vérifier si elle est vraie.
Où ce terme est utilisé
- Différence entre IA et LLM : un champ entier, un type de modèle (52 occurrences)
- Pseudonymisation par LLM, fuite de contexte et réidentification (11 occurrences)
- Gardien IA pour LLM, fonctionnement, exemples et choix de produit (10 occurrences)
- Apprentissage automatique et réseaux de neurones, attaques du modèle (8 occurrences)
- Comment valider le function calling d’un LLM (8 occurrences)
- Evals LLM comment mesurer qu'un assistant IA répond juste (7 occurrences)
- Comment observer un LLM en production (5 occurrences)
- Faille chatbot Chevrolet 2023, Tahoe à 1 dollar et injection (5 occurrences)
- Fine-tuning en IA, définition, usages et limites (5 occurrences)
- Relier FinOps et MLOps pour piloter le coût de l'IA en production (5 occurrences)