창간 준비호

엔비디아, 책상 위 4노드 슈퍼컴 키트 공개

DGX Spark 4대를 링으로 연결, 메모리 512GB 제공

쎈프레스 편집국읽는 데 2분
엔비디아, 책상 위 4노드 슈퍼컴 키트 공개

엔비디아(NVIDIA)가 미국 시카고에서 열리는 슈퍼컴퓨팅 학회 SC26에서 연구자용 'DGX Spark HPC 개발자 키트'를 선보였다. DGX Spark 4대를 묶은 이 키트는 현재 판매 중이며, 연구자가 공용 GPU 클러스터 순서를 기다리지 않고 책상에서 작업을 돌리게 하는 것이 목표라고 회사는 밝혔다.

지금까지

대규모 과학 계산과 AI 학습은 대학과 연구소가 함께 쓰는 GPU 클러스터에서 돌리는 것이 일반적이었다. 연구자는 배정된 서버 시간 안에서 작업을 신청하고 차례를 기다려야 했다. 코드를 고치고 시험하는 단계에서도 대기열 때문에 시간이 걸리는 일이 잦았다.

AI 시대에는

엔비디아는 DGX Spark 4대를 각각 이웃한 두 대와 직접 잇는 링 구조로 묶었다고 밝혔다. 연결에는 ConnectX-7 네트워킹을 쓰며, 네트워크 스위치를 따로 사거나 설치할 필요가 없다고 설명했다. 4대를 합치면 메모리는 512GB, NVMe 저장장치는 20TB다. 회사는 NVFP4 방식을 쓰면 최대 7000억 개 매개변수의 모델을 로컬에서 돌릴 수 있다고 주장했다. 사례로 든 버클리 캘리포니아대 연구실 두 곳은 클러스터 대기 시간을 피했다고 전했는데, 이는 엔비디아 블로그가 소개한 내용이며 독립적으로 검증된 결과는 아니다. 과학 계산용 개발 도구인 HPC SDK 설치 안내서(playbook)는 아직 나오지 않았고 곧 공개될 예정이다.

지금 해 볼 것

  • 자주 쓰는 AI 모델의 매개변수 수와 필요한 메모리를 비교해 보고, 양자화(저정밀도 표현)를 쓰면 내 장비에서 얼마나 줄어드는지 확인한다.
  • 연구나 개발 중인 작업에서 대기열에 오래 걸리는 단계를 적어 보고, 그중 작은 규모로 로컬에서 먼저 시험할 수 있는 부분을 가려낸다.

원문에서 확인한 사실

  • 엔비디아가 시카고에서 열리는 SC26에서 DGX Spark HPC 개발자 키트를 소개했다.
  • 키트는 DGX Spark 4대를 링 형태로 직접 연결한 클러스터이며 네트워크 스위치가 필요 없다고 한다.
  • 4대를 합치면 메모리 512GB, NVMe 저장장치 20TB를 제공한다.
  • 엔비디아는 NVFP4로 최대 7000억 매개변수 모델을 4대 클러스터에서 로컬로 배포할 수 있다고 밝혔다.
  • NVIDIA HPC SDK 설치 안내서는 곧 공개될 예정이다.
  • 키트는 SC26 전시장에 나와 있고 판매 중이며, 에이서·에이수스·델 등 제조 파트너를 통해 구매할 수 있다.
  • 버클리 캘리포니아대 하트위그 그룹은 DGX Spark 한 대에서 1200억 매개변수급 모델의 LoRA 미세조정을 했다고 보고했다.
#DGX Spark#슈퍼컴퓨팅#로컬 AI#SC26

이 기사는 쎈프레스 편집국이 공개된 원문을 바탕으로 정리했습니다. 원문에 없는 내용은 싣지 않는 것을 원칙으로 하며, 틀린 곳은 010-8114-3468로 알려 주시면 바로 고칩니다.

넘겨 보기로 이어 보기

이어서 읽기