이 게시물은 AWS EFA 환경에서 NCCL을 이용한 GPU 간 통신과 최적화 방법을 소개합니다.

NCCL 개요

• GPU 간 집합 통신 라이브러리로 AllReduce, AllGather, ReduceScatter 등 연산 제공
• 하드웨어 토폴로지 자동 감지해 링·트리 알고리즘과 청킹·파이프라인 자동 선택

AWS EFA 통합

• aws-ofi-nccl 플러그인으로 NCCL 호출을 libfabric/EFA로 브리지해 SRD와 GPUDirect RDMA 활용
• EFA Installer와 Deep Learning AMI, ParallelCluster AMI에 관련 소프트웨어 사전 설치되어 사용 편의성 제공

운영 권장 및 한계

• 대부분 기본값으로 충분하며 FI_EFA_USE_HUGE_PAGE=0 권장, NCCL_DEBUG는 진단용
• 노드 내 NVLink/NVSwitch의 초고속 통신과 노드 간 EFA 성능 차이 존재, MoE 등 비대칭 통신 패턴은 NCCL 한계로 다음 글에서 대체 기법 소개 예정