핵심 요약

Meta PyTorch 팀은 2026년 10월 TorchTitan 업데이트에서 FlexShard의 블록 단위 FP8 전송(BlockShard)을 도입해 파라미터 all-gather 통신량을 약 50% 줄였다고 밝혔다. 그러나 통신량 감소가 학습 속도 개선으로 이어지는지는 FP8 변환 비용과 스텝 시간에 미치는 영향을 함께 고려하여 평가해야 한다. Llama 3 405B를 256개 H100 GPU로 학습하는 실험에서 최대 20%의 전체 스텝 시간 개선을 관찰했으며, 이는 통신 대기 시간 감소와 변환 비용의 상호작용 결과이다.

FlexShard의 FP8 경로 특징

  • 가중치는 128×128 크기의 타일 단위로 관리하며, 타일 단위 스케일링을 적용한다.
  • 타일을 자르지 않는 BlockShard 방식에서는 각 GPU가 온전한 타일을 양자화한 후 all-gather로 FP8 데이터와 대응하는 스케일 값을 함께 주고받는다.
  • 이 방식은 스케일 조정을 위한 별도 통신 단계를 제거해 통신량을 줄인다.

통신량 감소 및 스텝 시간 영향

  • 파라미터 all-gather 통신량은 약 50% 감소한다.
  • 전체 학습 스텝 시간은 최대 20% 개선된다.
  • 통신량 감소가 계산에 완전히 가려지지 않으면 스텝 시간이 감소하지만, 변환 비용이 클 경우 체감 속도 향상은 미미할 수 있다.

성능 비교 및 측정 방법

  • FP8 전송 경로와 BF16 전송 후 양자화 경로를 동일한 샤딩 레이아웃, 모델 구성, GPU 토폴로지 등 조건에서 비교한다.
  • 스텝 시간은 워밍업 후 측정하며 중앙값과 상위 지연 시간을 함께 기록한다.
  • 통신 대기는 계산과 겹치지 않아 다음 연산 실행을 지연시키는 시간을 기준으로 산출한다.
  • 손실은 동일 초기 조건 및 누적 토큰 수 기준으로 비교한다.

실험 환경 및 적용 조건

  • FlexShard FP8 경로는 실험 단계 기능이며, fp8-stack 브랜치를 사용한다.
  • 요구사항은 NVIDIA GPU, Linux, Python 3.10 이상, Triton 3.8.0 버전대, CUDA 빌드 PyTorch 2.16 이상이다.
  • TorchTitan 0.4.0 릴리스는 PyTorch 2.15 기반으로 FlexShard 기능 일부를 포함한다.
  • FP8 경로 채택 여부는 손실 제한 내에서 통신 대기 감소와 스텝 속도 향상 여부에 따라 결정한다.

실무 유의점

  • FP8 변환 비용과 통신 대기 시간 감소 효과를 모두 고려하여 학습 속도 개선 여부를 판단해야 한다.
  • 샤딩 레이아웃 변경 없이 비교하는 것이 정확한 성능 평가에 필수적이다.
  • FP8 경로는 아직 실험적 기능으로 실제 적용 시 안정성 및 호환성을 사전에 점검해야 한다.
  • 통신 최적화가 전체 스텝 시간에 미치는 영향은 시스템 환경과 GPU 토폴로지에 따라 달라질 수 있다.

1차 출처