AMD révolutionne l'IA locale avec son mini PC
AMD présente un mini PC avec le processeur Ryzen AI Max+ 395, capable d'exécuter des modèles IA de 235 milliards de paramètres en local. Cette solution évite les abonnements cloud et améliore la confidentialité des données. Les performances rivalisent avec certaines cartes graphiques haut de gamme.
« AMD affirme ainsi qu’il est possible d’exécuter des modèles atteignant 235 milliards de paramètres en local sur son mini PC. » — Le Big Data
Que faut-il retenir ?
- Le mini PC d'AMD utilise le processeur Ryzen AI Max+ 395 avec 128 Go de mémoire unifiée.
- La machine peut allouer jusqu'à 96 Go de VRAM pour exécuter des modèles IA volumineux.
- AMD affirme que le mini PC dépasse une RTX 5080 dans certaines tâches d'inférence IA.
- Le logiciel ROCm d'AMD continue de rattraper son retard sur CUDA de Nvidia.
Pourquoi cette nouvelle compte-t-elle ?
Cette innovation permet aux professionnels et aux entreprises de réduire les coûts liés au cloud tout en améliorant la confidentialité des données. Elle ouvre la voie à une exécution locale plus accessible des modèles IA complexes, ce qui pourrait révolutionner les workflows dépendants de l'IA.
235 milliards de paramètres
💬 Lisa Su, PDG d'AMD
Public concerné : développeurs, entreprises
