NVIDIA a lancé Dynamo, une bibliothèque logicielle d'inférence open-source conçue pour accélérer et mettre à l'échelle les modèles de raisonnement dans les centres de données d'IA
NVIDIA a lancé Dynamo, une bibliothèque logicielle d'inférence open-source conçue pour accélérer et mettre à l'échelle les modèles de raisonnement dans les centres de données d'IA. Nvidia annonce NVIDIA Dynamo, une bibliothèque open-source qui augmenterait les performances d'inférence tout en réduisant les coûts de mise à l'échelle du calcul en temps de test. NVIDIA Dynamo peut ajouter, supprimer et réaffecter dynamiquement des GPU en réponse à la fluctuation des volumes et des types de requêtes,...

Nvidia annonce NVIDIA Dynamo, une bibliothèque open-source qui augmenterait les performances d'inférence tout en réduisant les coûts de mise à l'échelle du calcul en temps de test. NVIDIA Dynamo peut ajouter, supprimer et réaffecter dynamiquement des GPU en réponse à la fluctuation des volumes et des types de requêtes,...