무슨 일이에요 Nvidia DGX Spark가 여기에 있으며 세계에서 가장 작은 AI 슈퍼 컴퓨터로 평가받고 있습니다. GB 10 Grace Blackwell Superchip이 내장된 이 제품은 꽃잎 포포팔 1개, 128GB 통합 메모리 및 최대 2,000억 개의 매개변수를 갖춘 모델을 실행할 수 있는 용량을 모두 3,999달러에 제공합니다. 이것은 일반적인 데스크탑 PC는 아니지만. 대신, 컴팩트한 쉘의 데이터 센터 엔진입니다. 워크스테이션과 데이터 센터 시스템 사이의 경계가 어떻게 모호해지는지는 이미 주목을 받고 있습니다.
- 운전한 사람 GB 10 그레이스 블랙웰 슈퍼칩통합 메모리 및 공동 패킹 GPU + CPU NVLK-C 2 C 상호 일치그만큼
- 분포 AI 컴퓨터의 꽃잎팝 최대 1개 (FP4 정확도)이며 최대 2,000억 개의 매개변수까지 모델을 지원할 수 있습니다.
- 함께 오세요 128GB 통합 메모리 그리고 최대 4TB NVME SSD 고속 데이터 저장용.
- 착륙 $3,999이전 기대치보다 $ 3,000.
- 컴팩트한 형태의 요소 USB 4, 10GB LAN 및 포트 포함 ConnectX -7 네트워킹 지원 클러스터링을 위해 4,050억 매개변수 시스템에서 두 개의 DGX 스파크가 발생합니다.
- 일체 포함NVEDIA 전체 AI 스택을 사용하여 Piteyorch 및 Tensorflows와 같은 대규모 프레임워크를 지원합니다.
중요한 이유: 멀리 떨어져 있는 클러스터에 대한 의존성을 깨고 원래의 AI 계산을 데스크톱으로 가져오는 것은 여전히 분명한 단계입니다. 엔터프라이즈급은 모니터 아래에 딱 맞는 크기로 축소되어 Nvidia 연구소와 거실 사이의 벽을 무너뜨립니다. AI 혁신이 어디에서 일어나는지 정의할 수 있는 단계다. DGAX Spark는 또한 Nvidia의 의도 선언문 역할을 합니다. AI는 단순한 클라우드 서비스가 아니라 제조업체, 연구원 및 개발자를 위한 로컬 장비입니다.
- AI 개발 작업 흐름의 변화 클라우드에서 하이브리드/로컬 설정까지.
- 소규모 팀, 연구원, 스타트업이 프로토타입을 만들고 미세하게 조정할 수 있습니다. 옥수수 속그만큼
- 만든다 심각한 AI 마력이 더 저렴합니다Pocket은 3,999달러를 고려하여 데이터 센터 비용 측면으로 변경합니다.
- 신호 역할을 해라 무거운 AI 컴퓨팅 서버 회사는 잠글 필요가 없습니다.
- 경쟁자들이 다시 방문하도록 강요함으로써 AI 근육을 얼마나 누를 수 있는지 컴팩트한 파워 사우스 머신에서.
내가 왜 관심을 가져야 합니까? 대부분의 사람들에게 이는 DGX 스파크가 Mac Mini를 대체하거나 차세대 가정용 PC가 될 수 없다는 의미는 아닙니다. 하지만 그게 핵심이에요. 이것은 고객 데스크탑이 아닙니다. 개발자, 연구원, 대규모 AI 모델을 연구하는 스타트업을 위해 제작된 소형 슈퍼컴퓨터입니다. 제너레이터 AI로 머신러닝, 트레이닝 작업, 심화 작업을 하고 있다면 DGX 스파크가 게임맨이 될 수 있습니다. Seri의 데이터 센터 근육을 책상에 가져와 클라우드 GPU를 임대하지 않고도 로컬에서 많은 업무 스트레스를 실행할 수 있습니다. 개인 AI 연구소라고 생각해보세요. 고급 AI를 다루지 않는 사람을 위한 작고 강력하며 예상치 못한 오버콜입니다.
- 연구원 지역적으로 더 큰 모델은 훈련하거나 섬세할 수 있습니다.클라우드 비용을 지연하고 줄입니다.
- 민감하거나 소유한 데이터 세트는 온프레미스에 있을 수 있습니다. 구름에 노출되지 않도록그만큼
- 두 개의 장치를 클러스터링하는 기능을 사용하면 다음을 수행할 수 있습니다. 더 큰 모델의 영역으로 밀려남 (405B 매개변수 클래스).
- 이는 다리 역할을 합니다. 로컬에서 스파크를 생성한 다음 Nvidia DGX Cloud 또는 Greater AI 인프라를 배치합니다.
알았어, 그럼 어쩌지? 좋아요, Nvidia DGX는 스파크만으로 끝나지 않습니다. 회사는 이미 Acer, Dell, HP, Lenovo 및 MSI를 포함한 주요 PC 제조업체가 자체 버전을 떠났다는 것을 확인했습니다. 따라서 스파크에서 영감을 받은 시스템이 증가하면 어디에서나 팝업이 나타날 것으로 예상할 수 있습니다. Nvidia가 끝나면 이제 DGX 소프트웨어 생태계 생성으로 초점이 옮겨져 개발자는 작업 부담을 조금도 피하지 않고 데스크톱에서 클라우드로 쉽게 확장할 수 있습니다. 이는 우리가 개인적으로 AI 컴퓨팅을 주목하고 있는 큰 추세의 일부이다. 서버 랙과 기업 예산을 사용하여 점점 작고 조용한 상자에 갇혀 있는 것을 수용합니다.
