NLP : Natural Language Processing
IA
NLP : Natural Language Processing. « Traitement automatique du langage naturel », par analogie avec l'interprète qui traduit, résume et classe sans avoir jamais eu d'avis sur rien.
Périmètre : Classification, extraction d'entités, traduction, résumé, recherche sémantique, génération de texte : toutes les tâches où une machine manipule la langue humaine.
Des règles aux modèles : Longtemps fondé sur des grammaires et des statistiques, le domaine est aujourd'hui dominé par les réseaux de neurones et les LLM. Les règles écrites à la main n'ont pas disparu pour autant : elles attendent, dans un coin du code, avec la patience des vieux serviteurs, que le modèle se trompe.
Représentation vectorielle : Les textes sont convertis en vecteurs qui capturent leur sens : deux phrases proches par le sens deviennent deux points proches dans l'espace. C'est la base de la recherche sémantique et du RAG.
Risques : Un système qui interprète la langue interprète aussi les instructions cachées dans ses données : l'injection de prompt relève du NLP autant que de la sécurité.
Ce qui arrive si on s'en passe
Un système de traitement du langage traite ce qu'il lit comme ce qu'on lui demande : ignorer cette confusion, c'est laisser une instruction cachée dans un document, une page web ou un courriel détourner le modèle qui les analyse, par injection de prompt. Il résume alors ce qu'on lui dicte, divulgue ce qu'on lui a confié, ou déclenche les actions auxquelles on l'a relié. Sans règles de contrôle ni relecture en sortie, une classification ou une extraction erronée passe en outre dans la chaîne sans que personne ne la voie. L'interprète n'a d'avis sur rien, ce qui l'autorise à adopter celui du dernier qui a parlé.
Explication de la marmotte
C'est la branche de l'informatique qui apprend aux ordinateurs à comprendre et à produire du langage humain, écrit ou parlé. Grâce à elle, un correcteur repère les fautes, un assistant vocal comprend une question, un traducteur en ligne passe d'une langue à l'autre. La difficulté vient de ce que nos phrases sont pleines de sous-entendus et de doubles sens, qu'une personne saisit sans effort mais qu'une machine doit apprendre à partir d'énormes quantités de textes.
Où ce terme est utilisé
- Embeddings : vecteurs, recherche sémantique et RAG (3 occurrences)