Scaling Pêlagos: Multi-GPU Orchestration for Relay Belief-Propagation Decoding

발행일
출처
arXiv
논문 번호
1466
분야
Distributed Systems
arXiv 번호
2611.16285

이 논문은 양자 오류 수정 디코더 시뮬레이션을 여러 GPU 에서 효율적으로 확장하는 프로세스 고립형 오케스트레이션을 만든 연구다.

이 논문은 한마디로 Relay-BP 양자 오류 수정 디코더를 한 노드의 8개 GPU 에서 거의 선형에 가깝게 확장시킨 연구다. 저자들은 GPU 마다 프로세스를 분리하고 호스트 전처리를 병렬화하며 출력을 공유 메모리로 모았다. 그 결과 8개 GPU 에서 엔드투엔드 가속이 최대 7.01배에 달했다. 시스템은 오크리지 국립연구소의 Lux 슈퍼컴퓨터에 배포됐다.

핵심 요약

  • 저자들은 GPU 마다 프로세스를 분리하고 호스트 전처리를 병렬화하며 결과를 공유 메모리로 돌려주는 다중 GPU 오케스트레이션을 설계했다.
  • 원래 구조에서 8개 GPU 가속은 한 그로스 코드에서 2.20배와 3.22배에 그쳤지만 개선 후 5.68배와 6.23배로 올랐다.
  • 두 그로스 회로에서 8개 GPU 엔드투엔드 가속은 MI300X 에서 6.92배, MI355X 에서 7.01배였다.
  • GPU 디코딩 시간만 계산한 두 그로스 가속은 7.58배와 7.45배로 거의 선형 확장에 가까웠다.
  • MI355X 는 메모리 대역폭 8.0 TB/s 로 MI300X 의 5.3 TB/s 보다 모든 GPU 수에서 더 높은 처리량을 보였다.
  • 한계로, 배치 크기는 부호 있는 32비트 인덱싱 때문에 한 그로스에서 5,114, 두 그로스에서 1,707으로 제한됐다.

논문 링크

외부 연구를 정리한 자료입니다. HDATF가 발표한 논문이나 제품 성능을 측정한 결과는 아닙니다.

원문 보기 (새 탭에서 열림)