람다, GPU 1만 개 넘는 망에 광 스위치 도입
엔비디아 포토닉스로 전력·안정성 높였다고 밝혔다

클라우드 업체 람다(Lambda)가 엔비디아(NVIDIA)의 광학 일체형(CPO) 스위치로 GB300 NVL72 랙 1만 개 이상의 GPU를 연결했다. 업체는 기존 방식보다 전력을 덜 쓰고 장애에 더 잘 버틴다고 밝혔다.
지금까지
AI 모델을 학습시키려면 수천 개의 GPU가 한꺼번에 움직여야 해서, GPU를 잇는 네트워크가 빠르고 안정적이어야 한다. 지금까지는 전기 신호를 빛으로 바꾸는 꽂아 쓰는(pluggable) 광 모듈을 스위치에 달아 연결하는 방식이 쓰였다. 이 방식에서는 레이저가 고장 나면 모듈 전체를 바꿔야 했다.
AI 시대에는
새로 나온 방식은 전기 신호를 빛으로 바꾸는 광 엔진을 스위치 칩과 같은 패키지에 얹는 것이다. 엔비디아는 이 방식이 기존 꽂아 쓰는 광 모듈보다 전력 효율이 최대 5배, 신뢰성이 최대 15배 높고 레이저도 4분의 1만 쓴다고 밝혔다. 람다는 자체 시험에서 네트워크 지연이 랙 규모에서 약 4%, 포드 규모에서 최대 약 10% 줄었고 처리량은 기존 광 모듈과 같았다고 전했다. 광학 부품의 중간 온도도 36°C로, 기존 광 모듈의 51°C보다 낮았다고 한다. 다만 이 수치는 모두 엔비디아와 람다가 내놓은 것이며, 원문에는 외부 검증 내용이 없다.
지금 해 볼 것
- ‘CPO’와 ‘꽂아 쓰는 광 모듈’이 어떻게 다른지 찾아 읽고, 자신이 쓰는 클라우드 GPU가 어떤 네트워크로 묶여 있는지 확인해 본다.
- AI 학습이나 추론 작업을 돌리고 있다면 로그에서 통신 때문에 GPU가 기다린 시간이 얼마나 되는지 살펴본다.
원문에서 확인한 사실
- 람다는 엔비디아 포토닉스 CPO 스위치로 GB300 NVL72 랙 1만 개 이상의 GPU를 연결했다.
- 람다의 시험에서 네트워크 지연은 랙 규모에서 약 4%, 포드 규모에서 최대 약 10% 줄었다.
- 랙, 스케일러블 유닛, 포드 구성 모두에서 처리량은 기존 꽂아 쓰는 광 모듈과 같았다.
- 엔비디아는 기존 광 모듈보다 전력 효율이 최대 5배, 신뢰성이 최대 15배 높고 레이저는 4배 적게 쓴다고 밝혔다.
- 스위치 한 대는 800Gb/s 포트 144개를 갖췄고, 탈착 가능한 외부 광원 18개를 쓴다.
- 람다는 광학 부품 중간 온도가 36°C로 기존 광 모듈의 51°C보다 낮았다고 밝혔다.
이 기사는 쎈프레스 편집국이 공개된 원문을 바탕으로 정리했습니다. 원문에 없는 내용은 싣지 않는 것을 원칙으로 하며, 틀린 곳은 010-8114-3468로 알려 주시면 바로 고칩니다.



