4× Veikia
NVIDIA RTX 3090
24 GB
Viena veikia kaip eGPU serveris. Turime 4 lizdų NVLink tiltelį.
Matavimai
Lokalių kalbos modelių greitis mūsų įrangoje: kokia įranga, koks modelis, kokie nustatymai ir koks rezultatas. Sąrašas pildomas po kiekvieno naujo bandymo.
Čia skelbsime tik tai, ką patys išmatavome savo įrangoje: modelį, nustatymus ir rezultatą. Kol kas paruošta įranga.
Mūsų įranga ↓Laboratorija
Matuojame savo įrangoje: nuo vienos vartotojiškos vaizdo plokštės iki kelių NVIDIA DGX Spark ir Apple Silicon kompiuterių.
24 GB
Viena veikia kaip eGPU serveris. Turime 4 lizdų NVLink tiltelį.
128 GB
Sujungti per ConnectX-7. Matuojame, kaip modeliai keičiasi nuo 1 iki 4 įrenginių.
11 GB
Planuojame atminties praplėtimą iki 22 GB ir dviejų plokščių 44 GB stendą.
12 GB
8 GB
Du Mac, sujungti per Thunderbolt RDMA.