서비스 개요

GPU server는 GPGPU(General-Purpose computing on Graphics Processing Units) 기술을 사용하여 전통적으로 CPU가 담당했던 응용 프로그램들의 계산에 이용할 수 있는 서버입니다. CPU 대비 코어의 성능은 훨씬 떨어지나 그 수가 매우 방대하여 병렬 연산에 큰 장점을 가지고 있습니다.

서비스 특장점

GPU Server 서비스 특장점
안전한 데이터 처리 가능
  • 금융업 3대 가이드라인 준수/국내외 클라우드 보안 인증 획득
  • 물리적 FW/IPS로 대규모 공격에서 안전, 보유 민감정보는 별도 Zone에서 보호
업무 처리시간 감소
  • CPU 대비 9999X9999 매트릭스 계산 시 초당 275배 우수한 성능
  • 계리, 위험분석 등 병렬 계산이 많은 업무 고성능 처리 가능
30%의 비용절감 효과
  • 기존 시스템 대비 5년 기준 초기투자비 + 운영유지비 30% 비용절감
  • 사용한 시간만 요금 지불 및 타사 대비 저렴한 네트워크 비용

구성도

GPU Server 구성도

서비스 주요 기능

  • Cloud VM에서 GPU 제공
    • Cloud VM에서 GPU를 유연하게 사용 가능하도록 제공
    • VM에서 GPU 1개를 Pass Through 방식으로 할당하여 제공

    * Pass Through 방식: 하나의 GPU 자원을 하나의 VM이 dedicated하게 사용하여 고성능 제공 및 자원 공유 불가

  • GPU VM 자동화된 이미지 제공
    • GPU 서버와 CloudPlatform, 포탈 간 연동으로 GPU VM 생성/삭제, 배포/확장/회수 등 자동화 개발/제공
    • NVIDIA GPU CUDA Driver 8.0 최신 버전 설치
    • GPU 고성능을 위한 Boost 관련 설정

활용 사례

증권사, 보험사, 딥러닝, 3D 렌더링

고객 니즈

  • 금융 HPC, 딥러닝 모델 AI, 3D 렌더링 등 계산이 많은 작업에 GPU 고성능 컴퓨팅 필요
  • 보험사 계리 시스템에 사용될 GPU 고성능 컴퓨팅 필요

구성 방안

증권사, 보험사, 딥러닝, 3D 렌더링 구성방안

구성도

증권사, 보험사, 딥러닝, 3D 렌더링 구성도

연관 상품

  • watch
    • 고객 고유의 자원을 감시하고 관리할 수 있는 서비스입니다. 사용자는 watch를 통하여 자원의 모니터링 데이터를 저장하고 조회할 수 있으며, watch가 제공하는 알람 기능을 이용하면 사용자 자원의 특이 상황에 대하여 이메일로 통보받을 수 있습니다.
  • hybrid cloud
    • public cloud의 기본상품들과 고객의 Legacy 시스템을 연결하여 유연하게 자원 활용률을 극대화할 수 있으며, Hybrid Cloud 구성이 용이합니다. KT Cloud 역량 및 자사 IDC, 네트워크 역량을 기반으로 고객 시스템에 최적화된 구성이 가능하도록 제공합니다.
  • NAS
    • 고성능의 NAS(Network Attached Storage)를 네트워크를 통해 server 고객이 사용할 수 있도록 제공하는 서비스입니다.
    • 대용량 데이터의 분석을 위해 대용량 데이터 저장을 위한 스토리지로 구성이 가능하도록 제공합니다.

주요 Q&A

  • QGPU Server와 일반 Server와 사용상 차이점이 있나요?
    • GPU Server도 일반 Server와 Disk 추가, Snapshot 생성 등 모든 사용법이 동일합니다. 부가서비스도 모두 동일하게 사용이 가능합니다.
    • 베어메탈용 서버의 청약 후 KT Cloud 포탈에서 CIP 연동신청 등 관련 프로세스를 진행해주시면 됩니다.
  • QGPU server를 일반 연산용이 아닌 그래픽용으로 사용할 수 있나요?
    • GPU server는 NVIDIA Tesla K80모델을 사용합니다.
    • 해당 GPU 모델은 그래픽용이 아닌 CUDA, AI등 연산 개발용으로 나온 GPU이므로 그래픽용 보다는 연산개발용으로의 사용을 권장합니다.
  • QGPU Server에서 GPU가 할당되었는지 어떻게 확인하나요?
    • nvidia-smi 명령어를 사용하여 확인하며, Windows의 경우는 제어판-하드웨어-장치 관리자-디스플레이 어댑터에서도 확인이 가능합니다.
    • cloud GPU Server 이용방법 가이드를 참고하시면 자세하게 확인 방법이 나와있습니다.
  • QGPU Server용 이미지에 설치된 NVIDIA CUDA Driver 버전은 몇인가요?
    • NVIDIA CUDA Driver 8.0 버전을 사용합니다.
  • QGPU Server가 일반 CPU Server 대비 성능이 얼마나 좋은가요?
    • GPU Server는 BlackScholes 시험 시 CPU 대비 234배 우수하며 채권수익률 측정 시 2.57배 우수합니다.
  • QGPU Server 소개 페이지에 GPU 제원이 CUDA Core 2* 2496, GDDR5 Memory 2 * 12GB라고 적혀있는데 GPU 1개에 대한 제원인가요?
    • K80 GPU 2개에 대한 내용입니다. K80 GPU의 경우 GPU 카드 1개에 칩셋이 2개여서 GPU 2개가 사용이 가능합니다. 따라서 Passthrough 방식으로 VM에 K80 GPU 1개를 할당한다면 CUDA Core는 2496, GDDR5 Memory는 12GB입니다.이 외의 Half Precison, Single Precision 등 2*로 표시 안된 부분들은 모두 K80 GPU 1개에 대한 내용입니다.