Nvidia a cuisiné un « Raspberry Pi » surpuissant : à quoi ça sert ?

Dans une vidéo publiée sur YouTube, le président de Nvidia Jensen Huang a littéralement sorti de son four le Jetson Orin Nano Super Developer Kit, à savoir un kit de développement, ou plutôt un petit ordinateur. Un PC très performant et très compact qui permet de faire fonctionner des IA génératives en local. Son but : l’intégrer dans plein d’objets connectés.

Ce « Raspberry Pi » est capable de faire tourner ChatGPT (ou presque)

102 Go/s de bande passante et 67 000 milliards d’opérations par seconde : ce sont les performances de ce qui ressemble à un Raspberry Pi. Une carte mère, un ventilateur, des puces et des ports : ce n’est pas l’un de ces petits PC, mais bel et bien un kit de développement de Nvidia.

L’entreprise le vend à des développeurs d’IA commerciales qui voudraient l’intégrer dans leurs appareils électroniques. Pour les plus connaisseurs, sachez que ce kit de développement se compose d’un système de module (SoM) de 8 Go, équipé d’un GPU Nvidia Ampere et d’un CPU Arm de 6 cœurs qui monte à 1,7 GHz. Une architecture qui permet de faire fonctionner plusieurs applications d’IA en simultané. Pour les usages de vision par ordinateur, le kit peut prendre en charge quatre caméras.

Ce que propose Nvidia, c’est de faire fonctionner des intelligences artificielles génératives « en local » sur ce PC qui tient dans la main. Le tout sur une petite alimentation : l’appareil consomme 25 W, ce qui reste raisonnable. C’est-à-dire sans connexion Internet requise, sans utiliser des serveurs distants. Que ce soient des chatbots alimentés par des LLM, des générateurs d’images ou autres, Nvidia présente son Jetson Orin Nano Super comme la « solution idéale ».

La puissance de cette dernière ne permet pas de faire fonctionner un « vrai » ChatGPT ou un « vrai » Midjourney, mais des modèles un peu plus petits.

On peut très bien imaginer cette carte présente dans quelques années à l’intérieur de divers appareils. Un robot de cuisine pour créer des recettes avec les aliments qu’on a dans son frigo par exemple. La gestion des caméras pourrait permettre d’avoir un système de vidéosurveillance intelligent, mais dont les données ne soient pas mises en ligne sur un service. Le dirigeant de Nvidia imagine même des robots entièrement autonomes, fonctionnant sur ce petit ordinateur.

Pourquoi Nvidia vend ce kit de développement

Le Jetson Orin Nano Super est le support parfait pour l’entreprise afin de vendre ses logiciels : Isaac pour la robotique, Metropolis pour l’IA visuelle, Holoscan pour le traitement des caméras, ou même LATTE3D pour la génération 3D d’objets.

De quoi créer un écosystème logiciel et matériel pour Nvidia, entré dans la course pour devenir un géant de l’intelligence artificielle. En 2024, l’entreprise a vécu une montée en puissance fulgurante : son action a grimpé de 160 % en un an. En termes de capitalisation boursière, l’entreprise se situe à 3,19 milliards de dollars, derrière Apple et Microsoft. De beaux résultats financiers dus à la demande croissante en GPU, qui servent à faire fonctionner les IA génératives dans les datacenters. Avec ce petit PC, l’entreprise veut aussi conquérir les appareils électroniques qui vont se complexifier encore plus. En clair, Nvidia a toutes les armes pour confirmer son avance.