- La taille d’un modèle en mémoire se calcule simplement : nombre de paramètres multiplié par le nombre de bits, divisé par huit, plus une marge pour le contexte.
- 16 Go permettent de faire tourner confortablement les modèles de 7 à 14 milliards de paramètres quantifiés, et la plupart des générateurs d’images.
- La vitesse de génération de texte dépend surtout de la bande passante mémoire : 448 Go/s pour une RTX 5060 Ti, 1 792 Go/s pour une RTX 5090.
- CUDA reste l’écosystème le plus simple ; ROCm prend officiellement en charge les RX 9000 et la plupart des RX 7000, sous Linux et Windows 11.
Discuter avec un modèle de langage hors ligne, générer des images dans ComfyUI, transcrire des heures d’audio, résumer ses documents sans les envoyer sur un serveur : l’IA locale est devenue un usage à part entière, et il repose presque entièrement sur la carte graphique. Les outils grand public les plus courants, comme Ollama, LM Studio, llama.cpp ou ComfyUI, s’installent en quelques minutes.
Contrairement au jeu, où une carte un peu juste se contente de baisser les réglages, l’IA pose une limite nette : si le modèle ne tient pas dans la mémoire vidéo, il déborde vers la mémoire du PC et ralentit énormément, ou refuse de se lancer. La VRAM passe donc avant la puissance de calcul.
Les cartes et produits que l’on retient
Chaque bouton ouvre une recherche Amazon ciblée : plusieurs fabricants proposent la même puce, à vous de comparer refroidissement, longueur et garantie. Prix indicatifs, très variables.
La GeForce RTX 5060 Ti 16 Go pour débuter
16 Go et CUDA pour 429 $ au lancement : le ticket d’entrée le plus sûr en IA locale. Sa bande passante de 448 Go/s limite la vitesse de génération sur les gros modèles, pas leur fonctionnement.
- 16 Go de VRAM
- CUDA et FP4
- 180 W seulement
- Bus mémoire 128 bits
- Bus PCIe x8
La Radeon RX 9070 XT pour l’IA sous ROCm
16 Go sur 256 bits à 640 Go/s, et une place officielle dans la liste de compatibilité ROCm, Windows compris. Ollama et ComfyUI la prennent en charge, avec un peu plus de réglages qu’une GeForce.
- 16 Go, 640 Go/s
- Prise en charge ROCm officielle
- FP8 sur RDNA 4
- Écosystème moins universel que CUDA
- 304 W en charge
La GeForce RTX 5070 Ti pour aller plus vite
Toujours 16 Go de GDDR7, mais sur un bus de 256 bits : 896 Go/s, deux fois la bande passante d’une RTX 5060 Ti. La même taille de modèle, générée nettement plus vite.
- 896 Go/s
- FP4 et FP8
- CUDA
- 16 Go comme les cartes moins chères
- 750 W conseillés
La GeForce RTX 3090 d’occasion et ses 24 Go
24 Go de GDDR6X à 936 Go/s : une référence notoire pour les modèles de 30 milliards de paramètres. Achetez-la testée, et vérifiez son passé de minage et sa température mémoire.
- 24 Go de VRAM
- 936 Go/s
- NVLink possible
- 350 W et 750 W conseillés
- Pas de FP8 ni FP4
- Garantie souvent expirée
La GeForce RTX 5090 et ses 32 Go
32 Go de GDDR7 à 1 792 Go/s : la plus grosse mémoire et la plus grosse bande passante du grand public. Prévoyez 1 000 W, un boîtier bien ventilé et un budget électricité.
- 32 Go de VRAM
- 1 792 Go/s
- FP4 et FP8
- 575 W en charge
- Prix très élevé
01Combien de VRAM pour quel modèle
La taille d’un modèle en mémoire se calcule simplement : nombre de paramètres multiplié par le nombre de bits par paramètre, divisé par huit. Un modèle de 8 milliards de paramètres en 16 bits occupe environ 16 Go ; quantifié en 4 bits, environ 4 Go. Il faut ajouter le contexte (la mémoire de la conversation), qui grossit avec la longueur des échanges, et un peu de place pour le logiciel. Comptez donc 20 à 30 % de marge.
| Taille du modèle | En 16 bits | En 8 bits | En 4 bits, marge comprise | Carte adaptée |
|---|---|---|---|---|
| 7 à 8 milliards de paramètres | 14 à 16 Go | 7 à 8 Go | environ 5 à 6 Go | 8 Go et plus |
| 12 à 14 milliards | 24 à 28 Go | 12 à 14 Go | environ 8 à 10 Go | 12 à 16 Go |
| 24 milliards | environ 48 Go | environ 24 Go | environ 14 à 16 Go | 16 Go (juste) à 24 Go |
| 30 à 32 milliards | 60 à 64 Go | 30 à 32 Go | environ 18 à 20 Go | 24 Go |
| 70 milliards | environ 140 Go | environ 70 Go | environ 40 Go | plusieurs cartes ou débordement |
Ce sont des ordres de grandeur prudents, pas des mesures : la place exacte dépend du format de quantification, de la longueur du contexte et de l’outil. Les modèles à « mélange d’experts » ne calculent qu’une partie de leurs paramètres à chaque mot, mais tous doivent tenir en mémoire, ou déborder vers la mémoire vive. Notre dossier sur la VRAM explique ce qui se passe quand elle sature.
À savoir. La quantification en 4 bits divise par quatre la taille d’un modèle par rapport au 16 bits, avec une perte de qualité généralement modérée. C’est elle qui rend l’IA locale possible sur une carte grand public.
02La bande passante fixe la vitesse
Pour générer chaque mot, un modèle de langage relit l’essentiel de ses poids en mémoire. La vitesse de génération dépend donc d’abord de la bande passante mémoire, bien plus que du nombre d’unités de calcul. D’après notre base :
| Carte | Mémoire | Bande passante | Prix de lancement |
|---|---|---|---|
| Arc B580 | 12 Go | 456 Go/s | 249 $ |
| RTX 5060 Ti 16 Go | 16 Go | 448 Go/s | 429 $ |
| RX 9070 XT | 16 Go | 640 Go/s | 599 $ |
| RTX 5070 Ti | 16 Go | 896 Go/s | 749 $ |
| RTX 3090 | 24 Go | 936 Go/s | 1 499 $ |
| RX 7900 XTX | 24 Go | 960 Go/s | 999 $ |
| RTX 4090 | 24 Go | 1 008 Go/s | 1 599 $ |
| RTX 5090 | 32 Go | 1 792 Go/s | 1 999 $ |
À modèle égal, une RTX 5090 dispose de quatre fois la bande passante d’une RTX 5060 Ti. Quand un modèle déborde, la carte doit passer par le bus PCIe : environ 63 Go/s en PCIe 5.0 x16, soit des dizaines de fois moins que sa propre mémoire. D’où l’effondrement de la vitesse.
La puissance de calcul compte pour le traitement initial du texte et surtout pour la génération d’images. Les RTX 50 calculent en FP4, les RTX 40 et 50 en FP8, tout comme les Radeon RDNA 4 selon AMD. NVIDIA annonce par exemple 1 406 AI TOPS en FP4 pour la RTX 5070 Ti : un chiffre constructeur, qui ne se compare pas d’une marque à l’autre.
03Génération d’images et vidéo
Les modèles d’images de la génération SDXL tournent dès 8 Go. Les modèles plus récents et plus gros, d’une douzaine de milliards de paramètres, pèsent environ 24 Go en 16 bits et 12 Go en 8 bits : 16 Go deviennent le bon repère, avec des versions quantifiées pour descendre plus bas. La génération de vidéo, encore plus gourmande, profite pleinement de 24 à 32 Go.
ComfyUI, l’une des interfaces les plus utilisées, sait décharger une partie du modèle vers la mémoire vive pour faire tourner de gros modèles sur des cartes modestes, au prix d’une vitesse moindre. Ici, la puissance de calcul pèse davantage que pour le texte, ce qui favorise les cartes haut de gamme récentes.
04CUDA, ROCm, Vulkan : la question du logiciel
- NVIDIA (CUDA) : tout fonctionne, partout, souvent en premier. Ollama prend en charge toutes les GeForce récentes, et PyTorch comme la plupart des projets ciblent CUDA en priorité. C’est l’option la plus simple.
- AMD (ROCm) : la matrice de compatibilité ROCm la plus récente (version 10.1, octobre 2026) liste les RX 9070 XT, 9070 GRE, 9070, 9060 XT, 9060 XT LP, 9060 et 9050, ainsi que les RX 7900 XTX, 7900 XT, 7900 GRE, 7800 XT, 7700 XT, 7700 et 7600, sous Ubuntu, RHEL et Windows 11. Les RX 6000 grand public n’y figurent pas.
- Vulkan : Ollama et llama.cpp s’appuient aussi sur Vulkan pour les cartes non couvertes par ROCm ou CUDA, dont les Intel Arc et les anciennes Radeon. Moins optimisé, mais universel.
- Intel (oneAPI, PyTorch XPU) : les Arc fonctionnent avec PyTorch et ComfyUI, qui propose des versions portables pour les trois marques. L’Arc B580 est, dans notre base, la carte 12 Go au prix de lancement le plus bas.
Sous Linux, ces piles logicielles s’installent plus naturellement : notre page carte graphique sous Linux détaille pilotes et paquets.
05Quelle carte selon votre projet
- Découvrir (chat avec des modèles de 7 à 14 milliards de paramètres, images SDXL) : RTX 5060 Ti 16 Go, RX 9060 XT 16 Go ou Arc B580. La première est la plus simple à mettre en route.
- Utilisation régulière (images récentes, modèles de 14 à 24 milliards de paramètres) : RTX 5070 Ti ou RX 9070 XT, 16 Go chacune, mais avec 40 % de bande passante en plus pour la GeForce. Notre sélection de la meilleure carte graphique 16 Go les compare.
- 24 Go (modèles d’environ 30 milliards de paramètres) : RTX 4090, RX 7900 XTX ou une RTX 3090 d’occasion, choix notoire des amateurs d’IA locale pour sa mémoire. Pour une carte de seconde main, suivez notre guide pour acheter une carte graphique d’occasion.
- 32 Go : la RTX 5090, seule carte grand public de notre base à atteindre cette capacité.
06Consommation et usage prolongé
Une génération d’images en série ou un petit entraînement fait tourner la carte à pleine charge pendant des heures. Les 575 W d’une RTX 5090 ou les 350 W d’une RTX 3090 se ressentent sur la facture et dans la pièce. Un undervolting réduit souvent nettement la consommation pour une perte de vitesse limitée, et une alimentation 1000 W ATX 3.1 de qualité s’impose avec les cartes les plus gourmandes.
FAQQuestions fréquentes
Quelle carte graphique pour faire tourner un LLM en local ?
Pour des modèles de 7 à 14 milliards de paramètres quantifiés en 4 bits, une carte de 12 à 16 Go suffit, comme la RTX 5060 Ti 16 Go ou la RX 9060 XT 16 Go. Pour 30 milliards de paramètres, visez 24 Go, comme une RTX 3090 ou une RX 7900 XTX. Au-delà, il faut 32 Go, plusieurs cartes ou accepter un débordement lent vers la mémoire du PC.
Combien de VRAM pour Stable Diffusion ?
Les modèles d’images de la génération SDXL fonctionnent dès 8 Go, plus confortablement avec 12 Go. Les modèles récents plus gros, autour de 12 milliards de paramètres, pèsent environ 24 Go en 16 bits et 12 Go en 8 bits : 16 Go deviennent alors le bon repère, ou des versions quantifiées. La vidéo générée par IA réclame encore davantage.
Une carte graphique AMD est-elle utilisable pour l’IA ?
Oui, de mieux en mieux. La matrice de compatibilité ROCm d’AMD liste officiellement les RX 9000 et la plupart des RX 7000, de la RX 7600 à la RX 7900 XTX, sous Linux et sous Windows 11. Ollama et ComfyUI les prennent en charge. Les RX 6000 ne figurent pas dans la liste officielle d’AMD : sous Linux, Ollama prend tout de même en charge les RX 6800 et supérieures via ROCm ; les autres modèles, et toutes les RX 6000 sous Windows, passent par Vulkan, avec moins de fonctions.
8 Go de VRAM suffisent-ils pour l’IA ?
Pour découvrir, oui : un modèle de langage de 7 à 8 milliards de paramètres en 4 bits tient dans 8 Go avec un contexte modeste, et les modèles d’images SDXL fonctionnent. Mais vous buterez vite sur la mémoire. Entre une carte 8 Go et une carte 16 Go de même puce, la seconde est nettement plus intéressante pour l’IA.
Peut-on utiliser deux cartes graphiques pour l’IA ?
Oui pour les modèles de langage : llama.cpp, Ollama et plusieurs outils répartissent les couches d’un modèle sur plusieurs cartes, ce qui additionne leur mémoire. Il faut deux ports PCIe bien espacés, une alimentation solide et un boîtier ventilé. Pour les images, une seule grosse carte reste plus simple.
