이 게시물은 Dell Pro Max GB10 AI 워크스테이션의 아키텍처, 설정, 성능 및 활용성을 실사용 관점에서 정리한 실사용기입니다.

핵심 요약

• 20코어 ARM CPU와 Blackwell GPU를 단일 패키지로 통합, 128GB LPDDR5x 통합 메모리(273GB/s)로 CPU·GPU가 메모리 풀 공유
• NVFP4 양자화·TensorRT-LLM 조합으로 Llama-3.3-70B 모델을 로컬에서 로드·추론 가능
• 벤치마크: 출력 약 198 tokens/sec, TTFT 661ms, ITL 240ms로 실사용에 적합한 응답성
• 장점: 높은 VRAM 가성비·우수한 전성비·저소음, 단점: aarch64 라이브러리 호환성 및 업그레이드 제한
• 활용처: 온프레미스 대형 LLM 개발, 다중 모델 파이프라인 및 보안 분리된 환경에서의 로컬 AI