LM Studioソフトウェアを使用して、Deepseek-R1の性能をテストしました。 法学修士 SER9 Pro HX370 および の SER9 Pro さまざまなパラメータスケールと量子化におけるAI 365 包括的な性能基準を提供するためのレベル。
テスト概要:
このテストは2つの PC: SER9 Pro HX370(RAM 64GB搭載)とSER9 Pro AI 365(RAM 32GB搭載)を使用しました。Deepseek-R1蒸留モデルを使用し、パラメータスケールは1.5Bから14Bまで、量子化は Q2からQ8までの水準。
試験結果によると、両方とも PC 展開時に優れたパフォーマンスを発揮した 法学修士 ローカル。SER9 Pro は だけでなく できる 計算処理にはCPUを利用するが、統合GPUの使用も優先する。
パフォーマンス比較:
パフォーマンス GPUモードでは:
-1.5Bおよび7Bモデルの処理において、SER9 Pro HX370はより強力な処理能力により優れた性能を発揮しました。 Radeon 890M iGPU。
-14Bモデルの場合、2台のPCの性能差は 影響は最小限で、両方とも安定して動作していた。
-GPUモードは、VRAMの使用量と応答速度の点で優位性があり、より高いパフォーマンスが要求されるシナリオに適しています。
パフォーマンス CPUモードの場合:
CPUモードでは、両方のPCのパフォーマンスは 法学修士 同様だった。
メモリとVRAMの設定:
-64GBのRAMを搭載したSER9 Proは最大48GBまで割り当て可能 として 専用VRAMを搭載している一方、32GB版は最大24GBの専用VRAMをサポートする。
-この設計により、 より大きなパラメータスケールモデル GPU。
推奨事項:
-日常使い:8Bモデルは、 完璧 パフォーマンスとハードウェアのバランス ほとんどの場面に適した使用方法。
-高性能が求められる場合:14Bモデルはより複雑なタスクを処理できるため、より高いパフォーマンスが求められるシナリオに最適です。
