1. 대규모 GPU 자원 활용 가능

AI 모델은 점차 대형화되고 있으나, 종래의 Cloud향 GPU Server는 Pass-through방식으로
구현되어 각 VM에 개별 물리 장비에 실장된 수량 이상의 GPU 할당이 어려운 한계가 있었습니다.
반면 Hyperscale AI Computing는 가상화 기술을 통해 GPU Farm에 분산된 다량의 GPU를
클러스터링하여 연산에 활용할 수 있습니다. 현재 GPU 전용 데이터센터 상에 대규모의 GPU
인프라가 구축되어 있으며, 자연어 모델 등 초대형 모델 학습도 지원 가능합니다

2. 실 사용량 기반의 종량제 서비스

기존 Pass-through 방식의 GPU VM과 달리 GPU를 실제 사용하는 시간 동안만 요금이 부과되는
완전한 종량제 방식으로 설계되어, 이용자의 사용 패턴에 맞추어 기존 대비 대규모의 비용 절감이 가능합니다.
연산이 수행되는 시점에 on-demand로 Hyperscale AI Computing 자원이 할당되어 합리적인
비용으로 GPU 컴퓨팅 자원을 활용할 수 있습니다.

Hyperscale AI Computing VM 요금은 Hyperscale AI Computing의 요금과 VM 요금으로 구분되어 부과됩니다.

AI 가속기

시간요금제, GPU 실사용 시간만 요금 부과

VM 요금

시간요금제, 정지 시 정지요금 부과

3. 모델 프로그래밍 호환성

기존에는 Single GPU를 기준으로 개발된 서비스의 규모를 후속 확장할 경우,
각각의 GPU에서 처리할 연산을 Multi-GPU 기준으로 배분하는 재설계 및 코드 수정이 필요했습니다.
Hyperscale AI Computing은 가상화된 1 GPU 단위로 제공되므로, 사용자가 분산 처리에 대한
개발을 고려하지 않아도 Hyperscale AI Computing 내 컴파일러가 자동으로 GPU 자원의 분산 처리를 수행합니다.

또한 Hyperscale AI Computing은 GPU의 모델에 따른 종속성을 최소화하고
기존 코드의 변경 없이 모델을 개발할 수 있는 환경을 지원합니다. 가장 널리 쓰이는 AI 모델을 대상으로 연중 Pytorch와
TensorFlow를 100% 완벽하게 지원할 예정입니다. (각각 6월, 11월)

4. 개발의 유연성 및 연속성 제고

AI 모델에 필요한 GPU 리소스의 규모는 개발 단계에 따라 지속적으로 변동될 수 있는 요소입니다.
기존의 GPU server는 모델 개발 과정에서 불가피하게 GPU 자원 규모를 변경해야 할 경우, GPU VM 삭제 후
재생성하여 다시 데이터를 업로드하는 번거로운 환경 세팅을 반복해야 하는 불편함이 있었습니다.
Hyperscale AI Computing은 할당 받은 자원의 규모를 사용자의 필요에 따라
VM 종료/재생성 없이 자원 Live 상태에서 탄력적으로 변경 가능한 편의성을 제공합니다.