IA & Machine Learning

Le fossé logiciel de Nvidia : pourquoi AMD ne rattrape pas CUDA

Nvidia domine l'IA grâce à CUDA, un logiciel dévoilé en 2006 que personne ne veut réécrire. Voici comment ce fossé s'est creusé, et pourquoi il tient.

Editorial Team / /9 min de lecture
Une carte GPU Nvidia câblée dans un serveur illuminé, à côté d'une carte AMD identique posée seule et débranchée.

La valorisation boursière de Nvidia se situe au-dessus de 5 mille milliards de dollars depuis fin 2025. Chaque article sur l’entreprise parle de sa dernière puce, Blackwell, H100, et la suivante. Presque aucun ne mentionne la vraie raison pour laquelle un vendeur de matériel reste quasiment imbattable : un logiciel dévoilé en 2006, baptisé CUDA (Compute Unified Device Architecture). Ce n’est ni une puce ni un modèle d’IA. C’est la couche de programmation qui permet à une carte graphique de faire des calculs pour lesquels elle n’a jamais été conçue au départ, et c’est elle qui explique pourquoi AMD, le concurrent matériel le plus proche de Nvidia, continue de perdre une course qu’il ne perd plus sur le papier.

L’enjeu n’a rien d’abstrait. Chaque laboratoire d’IA, chaque fournisseur cloud, chaque startup qui achète des GPU fait un pari sur le logiciel dont elle dépendra pendant des années. Comprendre pourquoi ce pari retombe toujours sur Nvidia dit quelque chose de durable sur la façon dont les monopoles technologiques se forment vraiment, longtemps après que l’effet de mode est retombé.

Une puce conçue pour faire plein de petites choses à la fois

Pour qui a déjà hésité à acheter un GPU pour faire tourner des modèles d’IA chez soi, autant poser d’abord la différence entre un CPU et un GPU. Un processeur classique, le CPU (processeur central), est conçu pour exécuter une tâche complexe très vite, puis la suivante, puis la suivante, dans l’ordre. Un processeur graphique, le GPU, fait l’inverse : il traite des milliers de petites tâches simultanément. Cette architecture existe parce qu’afficher l’écran d’un jeu vidéo demande de calculer la couleur de millions de pixels en même temps, pas un par un.

Il se trouve que ce même principe, faire beaucoup de petites choses d’un coup, est exactement ce que demandent l’entraînement et l’exécution des modèles d’IA. Les deux consistent à multiplier d’énormes grilles de nombres entre elles, encore et encore. Un CPU avale ce calcul une opération à la fois. Un GPU le répartit sur des milliers de petits cœurs et termine en une fraction du temps.

Mais voici ce que la plupart des explications laissent de côté : pour beaucoup de tâches d’IA aujourd’hui, en particulier faire tourner un modèle déjà entraîné pour générer une réponse (ce qu’on appelle l’inférence), le goulot d’étranglement n’est pas du tout le calcul. C’est le déplacement des données. Pour produire un seul mot de la réponse d’un chatbot, la puce doit sortir de la mémoire l’ensemble des valeurs apprises du modèle, ses poids, et les amener jusqu’aux cœurs de calcul. L’arithmétique elle-même ne prend presque pas de temps ; déplacer des milliards de nombres à travers la puce, si. C’est pour cela que la bande passante mémoire d’un GPU, sa vitesse à faire circuler les données en interne, compte autant que sa puissance de calcul brute. Sur la puce H100 de Nvidia, cette bande passante atteint environ 3,35 To/s (version SXM). C’est aussi pour cela que la taille d’un modèle qu’on peut réellement faire tourner dépend de la mémoire embarquée, la VRAM : un modèle à 7 milliards de paramètres a besoin d’environ 14 gigaoctets juste pour loger ses poids, un modèle à 70 milliards en demande plus que n’en offre la plupart des cartes seules, et au-delà, les laboratoires doivent enchaîner des dizaines de GPU pour simplement faire tenir le modèle en mémoire.

Page officielle développeurs du NVIDIA CUDA Toolkit

NVIDIA CUDA Toolkit : la page officielle développeurs de la plateforme dont parle cet article.

Le projet à côté d’un étudiant en thèse

CUDA n’est pas né d’une décision de conseil d’administration. Au début des années 2000, un doctorant de Stanford nommé Ian Buck expérimentait l’idée de faire tourner des cartes graphiques classiques, conçues pour les jeux vidéo, sur des calculs scientifiques généralistes qui n’avaient rien à voir avec l’affichage d’images. Il a construit un langage de recherche baptisé Brook pour y arriver sur les cartes GeForce de l’époque. C’était une bidouille, pas un produit : les puces graphiques n’étaient pas conçues pour ça, et les faire plier dans ce sens demandait de tromper le matériel en lui faisant croire que des données scientifiques étaient des pixels à l’écran.

Nvidia a repéré le filon. L’entreprise a embauché Buck et, en novembre 2006, a dévoilé CUDA avec sa carte graphique GeForce 8800, le SDK public suivant en février 2007. Là où Brook était une bidouille académique, CUDA était un vrai kit de développement : un moyen pour n’importe quel programmeur, pas seulement une poignée de chercheurs rompus aux rouages de la carte graphique, d’écrire du code qui tourne sur les cœurs parallèles d’un GPU sans faire semblant de résoudre un problème graphique. À l’époque, il n’y avait aucun marché pour ça. L’IA grand public n’existait pas encore. Nvidia a construit et financé le terrain pour un usage qui n’avait pas encore été inventé.

La plateforme, pas la puce, est le vrai produit

Ce point compte plus que presque tout le reste de cette histoire : CUDA est un logiciel, pas du silicium. C’est une plateforme de programmation, un ensemble d’outils et une extension de langage qui permet aux développeurs d’écrire des instructions pour les GPU Nvidia. Une puce s’achète une fois. Une plateforme, c’est ce sur quoi des milliers d’ingénieurs construisent des carrières, des bibliothèques de code, et des entreprises entières.

Une fois que les chercheurs ont commencé à écrire leur code d’entraînement en CUDA, en changer ne voulait plus simplement dire acheter une autre marque de carte. Cela voulait dire réécrire le logiciel, reformer le personnel, et abandonner une décennie d’outils accumulés et taillés spécifiquement pour la plateforme Nvidia. cuDNN, la bibliothèque de deep learning de Nvidia, et la plupart des grands frameworks d’IA comme PyTorch et TensorFlow, ont tous été bâtis avec CUDA comme fondation première, le reste venant après. La puce est remplaçable. La plateforme qui tourne dessous, et la familiarité que tout le monde a développée avec elle, ne l’est pas.

Le moment où tout le secteur a basculé

Le tournant date de 2012. Trois chercheurs de l’université de Toronto, Alex Krizhevsky, Ilya Sutskever et leur directeur de thèse Geoffrey Hinton, se sont présentés à un concours de reconnaissance d’images appelé ImageNet avec un modèle de deep learning plus tard connu sous le nom d’AlexNet. Il a gagné avec une marge spectaculaire : un taux d’erreur top-5 de 15,3 % contre 26,2 % pour la deuxième meilleure entrée. Le détail qui a compté pour Nvidia : Krizhevsky a entraîné son modèle avec CUDA, au prix d’un entraînement de cinq à six jours sur deux GPU GTX 580.

Ce résultat unique est largement considéré comme l’étincelle qui a sorti le deep learning de l’obscurité académique pour en faire le domaine qui façonne aujourd’hui toute l’industrie. Chaque laboratoire qui a étudié ce résultat est arrivé à la même conclusion : les GPU, tournant sous CUDA, étaient la voie à suivre. En quelques années, CUDA n’était plus une option parmi d’autres pour les chercheurs en IA. C’est devenu le choix par défaut, enseigné dans les cours de fac, intégré dans tous les grands frameworks, présupposé par chaque nouveau diplômé qui entrait dans le domaine.

Pourquoi les puces équivalentes d’AMD ne comblent toujours pas l’écart

C’est là que la comparaison avec AMD devient utile, pas comme un tableau de score mais comme preuve de la thèse elle-même. AMD a sorti des GPU réellement compétitifs face à Nvidia sur les specs brutes. Sa réponse à CUDA s’appelle ROCm, une plateforme open source qui fait, sur le papier, une bonne partie de ce que fait CUDA. Il existe aussi OpenCL, un standard industriel ouvert censé fonctionner sur le matériel de n’importe quel fabricant. Ni l’un ni l’autre n’a vraiment percé dans les charges de travail d’IA : Nvidia détient encore environ 80 % du chiffre d’affaires des accélérateurs d’IA pour centres de données, selon des estimations d’analystes, AMD se situant entre quelques pour cent et près de 10 %.

La raison n’est pas une fonctionnalité manquante. C’est deux décennies de dépendance accumulée. Chaque tutoriel, chaque modèle pré-entraîné téléchargeable, chaque optimisation de bibliothèque open source, chaque réflexe d’ingénieur présuppose CUDA en dessous. Changer de plateforme ne ressemble pas à changer de marque de téléphone, c’est plus proche d’un secteur entier qui devrait quitter l’App Store d’un seul coup. Aucune entreprise ni aucun laboratoire ne veut être le premier à jouer son produit sur une plateforme moins éprouvée, donc presque personne ne le fait, même quand le matériel sous-jacent est comparable. AMD doit non seulement égaler la puce de Nvidia, il doit aussi convaincre tout un écosystème de développeurs de réécrire du code qui fonctionne déjà. Cette même dépendance se retrouve plus bas dans la pile : quand on choisit des modèles d’IA ouverts à faire tourner en local, presque toute la chaîne d’outils présuppose encore CUDA par défaut, ce qui explique en partie pourquoi le matériel Nvidia reste le chemin de moindre résistance, même pour les amateurs.

Page officielle de la plateforme logicielle open source AMD ROCm

AMD ROCm : la réponse open source d’AMD à CUDA, construite pour son matériel Instinct, Radeon et Ryzen AI.

Le fossé qui s’élargit tout seul

CUDA explique le verrouillage technique. Ce qui fait que l’écart continue de grandir, c’est ce que Nvidia a fait de la position de marché qui en découle. Les résultats de l’exercice fiscal 2026 de Nvidia montrent un chiffre d’affaires Data Center, le segment qui couvre les puces IA et les serveurs construits autour, de 193,7 milliards de dollars, près de 90 % des 215,9 milliards de dollars de revenu total de l’entreprise sur l’année. Ce sont les chiffres déclarés par Nvidia elle-même, pas des estimations de presse.

Nvidia a utilisé une partie de cette position pour racheter Mellanox, une entreprise de matériel réseau, pour environ 7 milliards de dollars, tout en numéraire (125 $ par action), dans un rachat finalisé le 27 avril 2020. Le réseau InfiniBand de Mellanox est devenu la colonne vertébrale qui relie des racks entiers de GPU à l’échelle d’un data center, en complément de NVLink, le connecteur haute vitesse propre à Nvidia, construit des années plus tôt pour relier les GPU au sein d’un même serveur, afin que des milliers de puces se comportent, pour les grosses charges de travail d’IA, comme une seule puce géante. C’est la vraie couche concurrentielle au-dessus de CUDA : il ne suffit plus de construire un GPU rapide. Entraîner les plus gros modèles actuels demande des milliers de GPU qui travaillent de concert, et l’entreprise qui contrôle à la fois la couche logicielle et l’interconnexion qui relie le matériel contrôle toute la pile dans laquelle un client doit investir.

En octobre 2026, la valorisation boursière de Nvidia tournait autour de 5,2 mille milliards de dollars. Ce chiffre sera dépassé dans quelques mois, les marchés bougent. Ce qui ne bougera pas aussi vite, c’est l’avance de deux décennies que CUDA a bâtie sur toute alternative, article de recherche après article de recherche, framework après framework, ingénieur formé après ingénieur formé.

Carte de décision sur le choix entre Nvidia et AMD pour les charges de travail IA : privilégier Nvidia et CUDA en production, ne pas réécrire une base de code CUDA existante, envisager AMD ROCm seulement avec un budget serré et du temps d'ingénierie disponible, et vérifier explicitement le support ROCm lors du choix d'un nouveau framework

FAQ

C’est quoi, CUDA, concrètement ?

CUDA est une plateforme logicielle conçue par Nvidia et dévoilée en novembre 2006, le SDK public suivant en février 2007, qui permet aux programmeurs de faire tourner des calculs généralistes sur une carte graphique, pas seulement de l’affichage. Elle a transformé les GPU, conçus à l’origine pour les jeux vidéo, en outils de calcul généralistes, ce qui en a fait ensuite des machines idéales pour entraîner des modèles d’IA.

CUDA et un GPU, c’est la même chose ?

Non. Un GPU, le processeur graphique, c’est la puce physique. CUDA est la couche logicielle qui tourne au-dessus des GPU Nvidia et qui permet aux développeurs d’écrire du code pour eux. Il faut les deux : un GPU Nvidia comme matériel, et CUDA comme kit pour le programmer.

Pourquoi AMD ne crée pas simplement sa propre version de CUDA ?

AMD en a déjà créé une, ROCm, et elle fonctionne techniquement. Le blocage n’est pas l’ingénierie, c’est l’adoption : presque tous les frameworks d’IA, tutoriels et outils pré-entraînés ont été construits et testés d’abord sur CUDA, donc changer coûte aux laboratoires et aux entreprises bien plus en code à réécrire et en reformation que ce que la plupart sont prêts à dépenser.

Pourquoi la vitesse mémoire compte-t-elle autant que la puissance de calcul brute pour les puces IA ?

Faire tourner un modèle d’IA déjà entraîné pour générer une réponse est surtout un problème de déplacement de données, pas de calcul. La puce doit sortir des milliards de valeurs stockées en mémoire avant de pouvoir calculer quoi que ce soit, donc la bande passante mémoire d’un GPU, sa vitesse à faire circuler les données en interne, détermine souvent la vitesse réelle plus que son pic de calcul.

Est-ce que Stanford a inventé CUDA ?

Non, et c’est une confusion fréquente. Ian Buck, alors doctorant à Stanford, a construit un langage de recherche antérieur baptisé Brook au début des années 2000 qui a inspiré CUDA, mais CUDA lui-même a été construit et dévoilé par Nvidia en 2006. La percée AlexNet de 2012, qui a fait de CUDA le choix par défaut de l’industrie de l’IA, a eu lieu à l’université de Toronto, pas à Stanford.

#nvidia#cuda#amd#rocm#gpu#ai-ml