Scaling Pêlagos: Multi-GPU Orchestration for Relay Belief-Propagation Decoding
- 발행일
- 출처
- arXiv
- 논문 번호
- 1466
- 분야
- Distributed Systems
- arXiv 번호
- 2611.16285
이 논문은 양자 오류 수정 디코더 시뮬레이션을 여러 GPU 에서 효율적으로 확장하는 프로세스 고립형 오케스트레이션을 만든 연구다.
이 논문은 한마디로 Relay-BP 양자 오류 수정 디코더를 한 노드의 8개 GPU 에서 거의 선형에 가깝게 확장시킨 연구다. 저자들은 GPU 마다 프로세스를 분리하고 호스트 전처리를 병렬화하며 출력을 공유 메모리로 모았다. 그 결과 8개 GPU 에서 엔드투엔드 가속이 최대 7.01배에 달했다. 시스템은 오크리지 국립연구소의 Lux 슈퍼컴퓨터에 배포됐다.
핵심 요약
- 저자들은 GPU 마다 프로세스를 분리하고 호스트 전처리를 병렬화하며 결과를 공유 메모리로 돌려주는 다중 GPU 오케스트레이션을 설계했다.
- 원래 구조에서 8개 GPU 가속은 한 그로스 코드에서 2.20배와 3.22배에 그쳤지만 개선 후 5.68배와 6.23배로 올랐다.
- 두 그로스 회로에서 8개 GPU 엔드투엔드 가속은 MI300X 에서 6.92배, MI355X 에서 7.01배였다.
- GPU 디코딩 시간만 계산한 두 그로스 가속은 7.58배와 7.45배로 거의 선형 확장에 가까웠다.
- MI355X 는 메모리 대역폭 8.0 TB/s 로 MI300X 의 5.3 TB/s 보다 모든 GPU 수에서 더 높은 처리량을 보였다.
- 한계로, 배치 크기는 부호 있는 32비트 인덱싱 때문에 한 그로스에서 5,114, 두 그로스에서 1,707으로 제한됐다.
논문 링크
외부 연구를 정리한 자료입니다. HDATF가 발표한 논문이나 제품 성능을 측정한 결과는 아닙니다.