Select Your Country/Region

Comparación de rendimiento entre Beelink SER9 Pro HX370 y SER9 Pro AI 365 en el despliegue local de Deepseek-R1 LLM

February 28, 2025

Utilizando el software LM Studio, probamos el rendimiento del Deepseek-R1. Máster en Derecho en el SER9 Pro HX370 y el SER9 Pro AI 365 en diferentes escalas de parámetros y cuantización niveles para proporcionar una referencia de rendimiento integral.

Descripción general de la prueba:

Esta prueba se realizó en dos PCs: el SER9 Pro HX370 (con 64 GB de RAM) y el SER9 Pro AI 365 (con 32 GB de RAM). Se utilizó el modelo destilado Deepseek-R1, con escalas de parámetros que van desde 1,5 B hasta 14 B y cuantización. niveles del segundo al octavo trimestre.

Los resultados de la prueba mostraron que ambos ordenador personal tuvo un desempeño excelente al desplegarse Másteres en Derecho (LLM) localmente. El SER9 Pro es no solo capaz de Utiliza la CPU para los cálculos, pero también prioriza el uso de la GPU integrada.

Comparación de rendimiento:

Actuación en modo GPU:

-Al procesar los modelos 1.5B y 7B, el SER9 Pro HX370 demostró un rendimiento superior debido a su mayor potencia. GPU integrada Radeon 890M.

-Para el modelo 14B, la diferencia de rendimiento entre los dos PC fue mínimo, y ambos funcionaron de forma estable.

El modo GPU ofrece ventajas en términos de uso de VRAM y velocidad de respuesta, lo que lo hace adecuado para escenarios con mayores exigencias de rendimiento.

Actuación en modo CPU:

En modo CPU, el rendimiento de ambos PC al ejecutar Másteres en Derecho (LLM) era similar.

Configuración de memoria y VRAM:

-El SER9 Pro con 64 GB de RAM puede asignar hasta 48 GB como La versión de 32 GB admite hasta 24 GB de VRAM dedicada, mientras que la versión de 32 GB admite hasta 24 GB de VRAM dedicada.

-Este diseño permite correr modelos de escala de parámetros más grandes en la GPU.

Recomendaciones:

-Uso diario: el modelo 8B es la mejor opción, ya que ofrece una perfecto equilibrio entre rendimiento y hardware Uso adecuado para la mayoría de los escenarios.

-Necesidades de alto rendimiento: El modelo 14B es capaz de manejar tareas más complejas, ideal para escenarios que requieren un mayor rendimiento.

VENTAS DE VACACIONES

TODOS LOS PRODUCTOS

20% DE DESCUENTO

TIEMPO LIMITADO: 2023.10.1-10.31

COMPRAR AHORA
Cannot place order, conditions not met:
OK