100 миллиард параметрге дейін: NVIDIA DGX Spark-тың 64GB нұсқасы шығады

Бір DGX Spark жүйесі 100 миллиард параметрге дейінгі модельдерді іске қоса алады. NVIDIA Newsroom хабарлауынша, DGX Spark 64GB конфигурациясы осы айда Acer, ASUS, Dell, Gigabyte, HP және MSI серіктестері арқылы қолжетімді болады. Жаңа нұсқа әзірлеушілерге, зерттеушілерге және жасанды интеллект әуесқойларына модельдерді өз құрылғысында іске қосуға мүмкіндік береді.

DGX Spark 64GB мүмкіндігі

Жаңа конфигурацияда GB10 Grace Blackwell Superchip, DGX OS және NVIDIA AI software stack болады. Бағдарламалық жасақтама жүйемен бірге дайын ұсынылады. NVIDIA мәліметінше, 64GB бірыңғай жад 100 миллиард параметрге дейінгі модельдерді құрылғының өзінде іске қосуға қолдау көрсетеді.

Жергілікті есептеу жасанды интеллект агенттерін бұлтқа қосылмай пайдалануға жағдай жасайды. DGX Spark агенттермен жұмыс істеуге, модельдерден жауап алуға, оларды баптауға, деректер ғылымы мен шеткі құрылғыларға арналған әзірлеуге арналған платформа ретінде сипатталған. Пайдаланушы модельді және өз деректерін жергілікті ортада қолдана алады.

Жүйе NVIDIA Grace Blackwell есептеу платформасын, бірыңғай жадты, NVIDIA ConnectX-7 желілік құрылғысын және CUDA жеделдететін жасанды интеллект бағдарламалық жасақтамасын біріктіреді. NVIDIA мәліметінше, DGX Spark агенттерді әзірлеуге қажет құралдармен дайын келеді. Қолдау көрсетілетін бағдарламалар қатарында NVIDIA Agent Toolkit, CUDA-X AI кітапханалары, Nemotron ашық модельдері, Ollama, vLLM және CUDA бар PyTorch аталған.

Екі жүйені кластерлеу

Жұмыс көлемі артса, екі DGX Spark-ты NVIDIA Sync Cluster Assistant арқылы қосымша баптаусыз кластерлеуге болады. Жүйелерді NVIDIA ConnectX-7 порттары арқылы қосқанда, олардың жады бірігіп, жалпы көлемі 128GB болады. NVIDIA бұл тәсіл 200 миллиард параметрге дейінгі модельдерді қолдауға мүмкіндік беретінін хабарлады.

NVIDIA Sync қолданбасындағы кластер көмекшісі жалғанған құрылғыларды анықтап, олардың конфигурациясын тексереді және ConnectX-7 желісін реттейді. Әр құрылғыда бірдей NVIDIA бағдарламалық стек жұмыс істейтіндіктен, бір жүйеден екі жүйеге өткенде бағдарламалық ортаны қайта баптау қажет емес.

NVIDIA жариялаған Qwen 3.8 27B сынағында екі кластерленген 64GB жүйе бір жүйемен салыстырғанда 1.7 есеге дейін жоғары өнімділік көрсетті. Компанияның дерегінше, екі құрылғының жады ғана емес, өткізу қабілеті де екі еселенеді.

Өндіруші серіктестер арқылы қолжетімді

64GB конфигурациясы Acer, ASUS, Dell, Gigabyte, HP және MSI өндірушілерінен ұсынылады. NVIDIA жүйені әзірлеушілер мен зерттеушілердің жергілікті жасанды интеллектпен жұмысын бастауға арналған нұсқа ретінде таныстырды.

Бір құрылғыдағы жад белгілі бір модельге немесе жұмысқа жеткілікті болса, пайдаланушы содан бастай алады. Үлкенірек модель, ұзақ контекст немесе қатар жүретін агенттерге көбірек ресурс қажет болғанда, екі жүйені кластерге біріктіруге болады. Осы конфигурацияда да DGX OS пен NVIDIA AI software stack қолданылады.

Тақырып бойынша оқыңыз

• Flow қызметкерлердің өтінішін Slack пен Teams ішінде орындайды
• Project Suncatcher спутнигі орбитаға жетті: Google TPU төзімділігін сынайды
• Жасанды интеллект: қалай жұмыс істейді және оны күнделікті өмірде дұрыс қолдану керек

Дереккөз: blogs.nvidia.com