이 게시물은 AWS의 인터커넥트 기술과 EFA를 선택한 이유를 설명합니다.

핵심 요약

• 분산 트레이닝에서 GPU간 통신 오버헤드가 트레이닝 시간에 큰 영향
• 인피니밴드: 전용 하드웨어·전용 패브릭·lossless RDMA로 온프레미스 HPC에 최적화
• RoCE: 이더넷 기반 RDMA 구현, PFC·ECN 등 설정 필요 및 PFC storm 위험
• EFA: SRD와 libfabric 기반으로 이더넷 인프라에서 RDMA 수준 성능 제공
• AWS가 EFA 선택한 이유: 멀티테넌시 지원·비용 효율성·운영 유연성·공급망 통제
• 결론: 인피니밴드는 전용 클러스터용, EFA는 클라우드 확장성과 통합을 우선시하는 환경에 적합