Tegyük fel, hogy egy profi kódoló vagy, aki olyan kódokon dolgozik, amelyek egyáltalán „nem hagyhatják el az ajtót”. Olyan Know-how-t jelentenek, amit természetesen nem tölthetsz fel a ChatGPT-re, bármely publikus felhőbe, hogy segítséget kérj bármiben. Egyedüli megoldásnak egy lokális munkaállomáson futtatott kódoló LLM model tűnik, ami ott duruzsol a lábadnál, vagy bárhol az irodában. A cél egy olyan konfig, ami értelmezhetően tud futtani egy akár 60-70b paraméterű LLM modell, pl. egy Llama 3.3 70B-t, vagy codellama:70b-t.
Álljon itt egy friss LocalAI Workstation árajánlat két különböző lokális AI munkaállomáshoz.
Két opciót is javasoltunk. Kezdjük pl. egy Dell Precision WS konfiggal. Olyat választunk, amiben nics diszkrét VGA kártya, hogy mi építhessünk bele egy nagyobbat.
Dell Precision 3680 Workstation
- Dell Precision 3680 Core i9-14900K (24-core), 32GB, 1TB SSD, Intel Graphics, Win 11 Pro --- 745.500 Ft +ÁFA
Specifikációk:
- Intel Core i9 14900K (36 MB cache, 24 cores/32 threads, up to 6.00 GHz Turbo, 125 W)
- Intel Graphics, integrált VGA
- 32GB: 2 x 16 GB, DDR5, 4400 MT/s, non-ECC
- 1TB M.2 2280, Gen 4 PCIe NVMe, SSD
- 8x DVD+/-RW 9,5 mm-es optikai meghajtó
- No Wireless LAN Card (no WiFi enablement)
- Precision 3680 Tower with 1000W (80 Plus Platinum) PSU
- Windows 11 Pro, Multi Language
- Dell KB216 Multimedia USB Keyboard, Dell MS116 Optical Mouse
- Garancia: 3 év Dell ProSupport és NBD helyszíni garancia
Memória upgrade 64GB-ra:
- 2 db. RAM memória 16 GB Samsung NON-ECC UNBUFFERED DDR5 5600MHz PC5-44800 UDIMM --- 26.500 Ft +ÁFA/db, összesen 53.000 Ft +ÁFA
Kompatibilis GPU-k:
- PNY NVIDIA® RTX™ 4000 Ada Generation, 20GB GDDR6, max. 130W, 4x DisplayPort --- 529.500 Ft +ÁFA
- PNY NVIDIA® RTX™ 4500 Ada Generation, 24GB GDDR6, max. 210W, 4x DisplayPort --- 995.500 Ft +ÁFA
- PNY NVIDIA® RTX™ 5000 Ada Generation, 32GB GDDR6, max. 250W, 4x DisplayPort --- 1.837.500 Ft +ÁFA
- PNY NVIDIA® RTX™ 6000 Ada Generation, 48GB GDDR6, max. 300W, 4x DisplayPort --- 3.267.500 Ft +ÁFA
Ezek közül valójában csak az RTX 5000 Ada, ami még a „megfizethető” top kategória. Tehát max. 32GB VRAM-ig lehet „ésszerűen” bővíteni a Dell Precision-t. Ezzel együtt is 2.636.000 Ft +ÁFA lenne a teljes konfiguráció 32GB VRAM-mal.
Ennél tudunk jobbat, magasabb ár/érték viszonnyal: egy épített LocalAI munkaállomás!
Épített LocalAI munkaállomás
Olyan szép ez a WS ház, hogy a barátnőd/feleséged sem fog kivágni vele, ha hazavinnéd.
Ára: 799.500 Ft +ÁFA
Ajánlott GPU-k:
Beépítenénk 2 db. Nvidia RTX 4000 Ada-t, vagy 2 db. RTX 4500 Ada-t a 40GB, ill. 48GB összes VRAM-ért a fenti árakon. Ezzel együtt is még értelmezhető a teljes költség.
Például 2 db. PNY NVIDIA RTX 4000 Ada Generation, 20GB GDDR6 kártyával 1.850.500 Ft. +ÁFA összesen 40GB VRAM-mal.
AI-szervert keresel?
Speciális munkafolyamatokra szabott AI szervereket és munkaállomásokat építünk akár előtelepített Linux/AI/LLM/RAG környezettel.
Nem tudod, hol kezd? Mi segítünk!
Lépj kapcsolatba AI műszaki tanácsadóink egyikével még ma! Segítünk kiválasztani az adott feladara legalkalmasabb LLM modellt és hozzá a megfelelő hardvert.
