VRAM : Video Random Access Memory
Infrastructure
VRAM : Video Random Access Memory. « Mémoire vive vidéo », par analogie avec l'établi d'un artisan, où tout ce qui sert au travail en cours reste posé à portée de main. C'est la mémoire propre au GPU, qui contient les données qu'il traite.
Rôle : La VRAM contient tout ce que le GPU doit lire et écrire vite : textures, tampons d'image, et désormais les poids des modèles d'IA et leurs données intermédiaires. Le processeur central ne la remplace pas : passer par la mémoire système coûte un aller-retour sur le bus PCIe, nettement plus lent.
Bande passante : On juge la VRAM sur sa capacité, mais aussi sur son débit : GDDR6 et GDDR7 sur les cartes grand public, HBM empilée au plus près de la puce sur les accélérateurs de calcul. En inférence, c'est souvent ce débit qui plafonne le nombre de tokens générés par seconde.
Limite pour l'IA : Un modèle doit tenir en VRAM avec son KV cache, sinon il déborde vers la mémoire système et ralentit nettement, quand il démarre. Les plaquettes de lancement parlent de puissance de calcul ; en pratique, c'est presque toujours la VRAM qui dit non la première, avec un « out of memory » plus franc que n'importe quelle slide.
Mémoire partagée ou unifiée : Les puces graphiques intégrées et certaines architectures à mémoire unifiée puisent dans la mémoire système au lieu d'avoir une VRAM dédiée. Cela offre plus de capacité, mais généralement moins de bande passante qu'une carte dédiée.
Explication de la marmotte
Dans un ordinateur, la carte graphique est la pièce qui fabrique les images affichées à l'écran ; elle fait aussi tourner beaucoup de programmes d'intelligence artificielle. Elle possède sa propre mémoire, rien qu'à elle et très rapide. On peut l'imaginer comme le plan de travail d'un cuisinier : tous les ingrédients posés dessus s'attrapent en une seconde. Si le plan de travail est trop petit, le cuisinier doit sans cesse aller chercher des choses au placard. Tout ralentit, et certaines recettes deviennent même impossibles. Plus cette mémoire est grande, plus un jeu peut afficher de détails et plus un gros programme d'intelligence artificielle peut fonctionner.
Où ce terme est utilisé
- Dimensionner GPU et RAM pour un LLM local (9 occurrences)
- Calculer le coût d’un LLM local à grande échelle (3 occurrences)
- Comparer GGUF GPTQ et AWQ pour LLM local (2 occurrences)
- Déployer Ollama sur un poste de travail et dimensionner la mémoire (2 occurrences)
- Fine-tuning en IA, définition, usages et limites (1 occurrence)