Lehetőségünk volt tesztelni egy NVIDIA RTX Pro 6000 Workstation Edition 600W kártyát. Ez a monstrum nemcsak brutális számítási teljesítményt kínál, hanem hihetetlen energiaigénnyel is bír – akár 600 wattot is képes felvenni teljes terhelés alatt.
Első gondolatom az volt, hogy érdemes lehet kicsit kísérletezni a fogyasztás korlátozásával:
Meddig érdemes limitálni a Wattot, anélkül hogy jelentősen visszaesne a teljesítmény?
Tesztkörnyezet
- Modell: Flux.1 Dev Generations
Ez egy képgeneráló AI modell (image diffusion), melyet fejlesztési és tesztelési célokra is használunk. - Felbontás: 1024²
A generált képek mérete: 1024×1024 pixel. A felbontás fontos, mert nagyobb képnél sokkal több számítást kell végezni. - Lépések: 30
A diffusion modell képgenerálási folyamata több iterációból áll. Itt 30 lépésen keresztül finomítja a zajból a képet. Minél több lépés, annál jobb minőség – de annál több számítás is. - Sampler: dpmpp_2m/beta
Ez a képgenerálásnál használt algoritmus (mintavételező/scheduler). A különböző sampler-ek különböző sebesség és minőség kompromisszumokat kínálnak. - Beállítás: 8 kép sorban (queued x8)
Nem egyszerre, hanem sorban egymás után 8 képet generált a rendszer, így átlagolhatóvá vált az idő és pontosabb lett a mérés.
Eredmények
| Power Limit (W) | Átlagidő / kép (s) | Hőmérséklet (°C) |
|---|---|---|
| 600 | 9.2 | 76 |
| 550 | 9.7 | 73 |
| 500 | 9.9 | 70 |
| 450 | 10.8 | 66 |
| 400 | 11.7 | 63 |
| 350 | 13.2 | 60 |
| 300 | 15.1 | 58 |
| 250 | 18.2 | 54 |
| 200 | 24.2 | 51 |
| 150 | 37.3 | 48 |
A táblázatból jól látszik, hogy 450–500 watt között a kártya még mindig majdnem a maximális teljesítményt hozza, miközben 10–15%-kal kevesebb energiát fogyaszt, és a hőmérséklete is számottevően alacsonyabb.
Mit jelent ez a gyakorlatban?
-
600 W-on a kártya valóban kihozza magából a maximumot, de a 76 °C-os hőmérséklet és a hatalmas fogyasztás hosszú távon nem biztos, hogy ideális.
-
500 W környékén viszont csak pár tizedmásodperccel lassabb a képgenerálás, miközben a kártya hűvösebben és csendesebben üzemel.
-
450 W-on már érzékelhetően hosszabb az idő (kb. +17%), de még mindig bőven használható teljesítményt kapunk, kevesebb hőtermeléssel.
Következtetés
Nem mindig a nyers erő a legjobb választás. Ha hosszú ideig futtatunk nagy modelleket, akkor a 450–500 wattos teljesítménykorlát ideális kompromisszum lehet:
-
közel maximális teljesítményt nyújt,
-
csökkenti a hőterhelést,
-
és akár jelentős áramköltséget is megspórolhatunk.
Összességében: ha nem minden másodperc számít, érdemes kissé visszafogni a GPU-t – a hatékonyság és a hosszabb élettartam érdekében.
