GPU에 분할 슬라이싱 기술 적용···비용 절감·가변적 활용 가능
[서울파이낸스 이도경 기자] KT클라우드가 슬라이싱 기술을 GPU(그래픽처리장치)에 적용한 인공지능(AI) 추론 전용 인프라 서비스 'AI SERV'를 출시했다고 16일 밝혔다.
이번 'AI SERV'는 AI 개발·학습을 마치고 AI 서비스를 제공 중인 AI 전문기업과 스타트업 등이 고성능 GPU 인프라를 각 서비스에 필요한 만큼만 분할해 최적의 양을 사용할 수 있는 서비스다.
이 기술에 적용된 슬라이싱 기술은 기존 한 장으로 제공되던 GPU 서비스를 5분할해 0.2장 단위로 제공한다. 필요한 만큼의 인프라를 사용할 수 있어 가격 부담이 줄어들고, 다양한 상황에 맞춰 가변적인 활용이 가능하다고 회사 측은 전했다.
또 기존의 슬라이싱 기술은 분할된 단위의 GPU에서 성능 열화가 발생할 수 있다는 단점이 있었으나, AI SERV는 슬라이싱 분할에도 성능 열화 없이 인프라를 100% 활용할 수 있다는 점도 특징으로 꼽힌다.
KT클라우드는 향후 AI SERV에 사용자의 손쉬운 인프라 확장 지원을 위한 모니터링 및 컨테이너 이미지 클로닝 기능 등을 추가하는 한편, 부하 발생시 인프라를 자동 확장시키는 '오토 스케일링' 기능을 도입하는 등 서비스를 지속적으로 고도화해 나갈 계획이다.
저작권자 © 서울파이낸스 무단전재 및 재배포 금지
