Select Your Country/Region

Deepseek-R1 LLM のローカル展開における Beelink SER9 Pro HX370 と SER9 Pro AI 365 のパフォーマンスの比較

February 28, 2025

LM Studioソフトウェアを使用して、Deepseek-R1の性能をテストしました。 法学修士 SER9 Pro HX370 および SER9 Pro さまざまなパラメータスケールと量子化におけるAI 365 包括的な性能基準を提供するためのレベル。

テスト概要:

このテストは2つの PC: SER9 Pro HX370(RAM 64GB搭載)とSER9 Pro AI 365(RAM 32GB搭載)を使用しました。Deepseek-R1蒸留モデルを使用し、パラメータスケールは1.5Bから14Bまで、量子化は Q2からQ8までの水準。

試験結果によると、両方とも PC 展開時に優れたパフォーマンスを発揮した 法学修士 ローカル。SER9 Pro だけでなく できる 計算処理にはCPUを利用するが、統合GPUの使用も優先する。

パフォーマンス比較:

パフォーマンス GPUモードでは:

-1.5Bおよび7Bモデルの処理において、SER9 Pro HX370はより強力な処理能力により優れた性能を発揮しました。 Radeon 890M iGPU。

-14Bモデルの場合、2台のPCの性能差は 影響は最小限で、両方とも安定して動作していた。

-GPUモードは、VRAMの使用量と応答速度の点で優位性があり、より高いパフォーマンスが要求されるシナリオに適しています。

パフォーマンス CPUモードの場合:

CPUモードでは、両方のPCのパフォーマンスは 法学修士 同様だった。

メモリとVRAMの設定:

-64GBのRAMを搭載したSER9 Proは最大48GBまで割り当て可能 として 専用VRAMを搭載している一方、32GB版は最大24GBの専用VRAMをサポートする。

-この設計により、 より大きなパラメータスケールモデル GPU。

推奨事項:

-日常使い:8Bモデルは、 完璧 パフォーマンスとハードウェアのバランス ほとんどの場面に適した使用方法。

-高性能が求められる場合:14Bモデルはより複雑なタスクを処理できるため、より高いパフォーマンスが求められるシナリオに最適です。

Cannot place order, conditions not met:
OK