[Project Log] AI 인프라 구축 사례: NVIDIA H100 SXM5

TecAce Software
Jan 3, 2024
2 min read

배경

AI산업이 급성장함에 따라, 온프레미스 AI 인프라 구축사례가 지속 증가하고 있습니다. 저희 테크에이스는 컴퓨팅 솔루션 전문 기업 에이맥스와의 파트너쉽을 통하여, 엔비디아의 고성능 텐서 코어 장비인 H100, A100 모델 등을 정부기관 및 산업체에 공급 하고 있습니다.

특히 고사양 HPC의 경우 발주부터 설치까지의 리드타임이 최대 52주 이상 발생되는 상황이지만, 저희 테크에이스는 미국 워싱턴에 본사를 두고 20년이상 영업망을 구축하고 있기에, 보다 빠르게 제품을 확보하여 적기에 공급하고 있습니다. 아울러 AI 인프라 구축시 수반되는 물류 관리, 전력 및 공간을 포함한 환경셋업, 스펙 및 기능점검, 클러스터링, 모니터링 등 설치 및 운영 작업에 대한 전문적 컨설팅과 기술 지원까지 제공하고 있습니다.

이번 아티클에서는 H100 장비의 주문, 배송 및 설치 작업이 어떻게 진행되는지에 대한 실제 고객납품 사례를 바탕으로 설명해 드리고자 합니다.

1. 제품컨설팅 및 발주

클라이언트로부터 HPC 도입을 위한 문의를 받은 후, 장비사용 목적을 포함하여 배송 및 운영일정 전반에 대한 상담을 진행하였습니다. 최종적으로 8X NVIDIA H100 SXM5 모델로 선정이되어 견적 및 상세한 스펙을 체크한 후 제품발주를 진행하였습니다.

도착지는 한국(서울)이며 재고를 확보한 상황이었기에 2주 안에 제품셋업 완료를 목표로 진행하였습니다.

8X NVIDIA H100 SXM5 Data Sheet Download

2. 제품 준비 및 운송

미국에서 제품을 발송하기 전에 OS 설치 및 성능 테스트를 먼저 진행합니다. 고객사의 OS 설치사양과, drive/Volume 파티션 여부, OS설치 희망 드라이브에 맞추어서 동일한 환경에 실시합니다. 이후 테스트가 완료되면 패킹 작업에 들어갑니다.

제품배송은 전문 운송업체를 통하여 국제 운송과 국내 운송으로 나누어 진행됩니다.

통관비용과 창고 보관 수수료를 최소화 하여 일정을 준비해야 되며, 통관을 위한 국가 인증 작업도 체크해야됩니다. 이번 클라이언트는 국내 정부기관 이었기에 출입을 위해서 까다로운 인허가 작업을 사전에 진행하여, 승인 일자에 맞추어 배송 일정을 조율하였습니다.

제품의 무게가 상당하다 보니, 전문 운송 장비를 필요로 합니다. 패킹 사이즈 또한 이동 동선을 정할 때 중요한 역할을 합니다. 최종적으로 세관 통과 후, 무진동 차량으로 이동하게 되며 전문 인력 구성도 체크하게 됩니다.

3. 설치 작업

설치 전에 반드시 설치장소를 체크해야 합니다. 렉에 대한 사이즈를 사전에 체크하여 현장에서 발생할 수 있는 트러블 이슈를 방지하고, 안정적인 전력 공급을 위한 환경들도 점검해야 합니다.

주요 환경 체크리스트

시스템 전원 이중화 공급 방안
PDU 활성화 방안
PDU 비활성화에 따른 시스템 대응 방안
전력 초과시 대응 방안

설치가 완료되면 전원을 연결하고 스펙 및 기능을 체크하여 정상적으로 작동함을 확인합니다.

본 계약의 경우, 3년동안 기술 및 부품에 대한 워런티 지원을 받게 됩니다. 모든 정상 작동 확인을 마치게 되면 고객 인도 확인서에 사인을 하고 8X NVIDIA H100 SXM5 장비 및 인프라 설치 작업을 완료하였습니다.

지금까지 H100장비의 도입을 위한 컨설팅부터 배송 및 설치 작업이 어떻게 진행되는지 소개드렸습니다. 이 글을 읽으시고 H100, A100 등 AI 인프라 구축에 관심이 있으신 분들은 아래 연락처로 문의 주시기 바랍니다. 보다 자세한 제품소개는 테크에이스 홈페이지에서 설명하고 있으니 아래 링크를 참고해주세요.

TecAce

저희 테크에이스는 AI인프라 구축부터 솔루션 개발운영까지 AI산업의 End-to-end 서비스 제공업체입니다. AI 기반 서비스를 자체 비즈니스에 도입·확장하려는 기업에 도움을 드리길 원합니다.