À l'aide du logiciel LM Studio, nous avons testé les performances du Deepseek-R1. LLM sur le SER9 Pro HX370 et le SER9 Pro IA 365 à travers différentes échelles de paramètres et de quantification niveaux permettant de fournir une référence de performance complète.
Aperçu du test :
Ce test a été réalisé sur deux PC: Les modèles SER9 Pro HX370 (avec 64 Go de RAM) et SER9 Pro AI 365 (avec 32 Go de RAM) ont été utilisés. Le modèle distillé Deepseek-R1 a été employé, avec des échelles de paramètres allant de 1,5B à 14B et une quantification. niveaux du T2 au T8.
Les résultats des tests ont montré que les deux PC a parfaitement fonctionné lors du déploiement LLM localement. Le SER9 Pro est non seulement capable de Il utilise le processeur pour les calculs, mais privilégie également l'utilisation du GPU intégré.
Comparaison des performances :
Performance en mode GPU :
-Lors du traitement des modèles 1,5G et 7G, le SER9 Pro HX370 a démontré des performances supérieures grâce à sa puissance accrue. Radeon 890M iGPU.
-Pour le modèle 14B, la différence de performances entre les deux PC Le niveau de stress était minimal, les deux systèmes fonctionnant de manière stable.
-Le mode GPU offre des avantages en termes d'utilisation de la VRAM et de vitesse de réponse, ce qui le rend adapté aux scénarios exigeant des performances plus élevées.
Performance en mode CPU :
En mode CPU, les performances des deux PC lors de l'exécution LLM était similaire.
Configuration de la mémoire et de la VRAM :
-Le SER9 Pro avec 64 Go de RAM peut allouer jusqu'à 48 Go comme La version 32 Go prend en charge jusqu'à 24 Go de mémoire vidéo dédiée, tandis que la version 32 Go prend en charge jusqu'à 24 Go de mémoire vidéo dédiée.
-Cette conception permet de courir des modèles à plus grande échelle de paramètres sur le GPU.
Recommandations :
-Utilisation quotidienne : Le modèle 8B est le meilleur choix, offrant une parfait équilibre entre performances et matériel Utilisation adaptée à la plupart des situations.
-Besoins de haute performance : Le modèle 14B est capable de gérer des tâches plus complexes, idéal pour les scénarios nécessitant des performances plus élevées.
