KT클라우드 직원들이 하이퍼스케일 AI 존이 구축된 IDC에서 장비를 점검하고 있다. [사진=KT클라우드]
KT클라우드는 이번 사업을 통해 경쟁사인 구글클라우드처럼 '초거대 AI 컴퓨팅(Hyperscale AI Computing, HAC) 인프라'를 구축해 최적의 성능과 운영 효율성 등을 검증한다.
초거대 AI란 대용량의 연산이 가능한 GPU 인프라를 바탕으로 대규모 데이터를 빠르게 학습해 사람처럼 말하고, 듣고, 쓰고, 그릴 수 있는 AI를 말한다. KT는 초거대 AI 사업을 추진하며 빠른 AI 모델 학습을 위한 GPU 컴퓨팅 인프라를 확보하기 위해 KT클라우드의 HAC와 미국 엔비디아의 GPU 어플라이언스를 병행 도입하기로 했다.
KT클라우드는 이번 사업 참여를 통해 HAC의 초거대 AI 주요 사업 사례를 확보하게 됐다. 초거대 AI 학습 성능 개선과 재학습결과 등을 검토·보완해 글로벌 최고 수준까지 기술력을 끌어올린다는 계획이다.
KT클라우드는 국내 AI 기업인 '모레'와 협력해 최적화된 AI 프레임워크를 개발하고, AI 반도체 기업인 '리벨리온'과 함께 국산 데이터센터용 AI 반도체 칩 개발도 진행하고 있다.
KT클라우드의 HAC는 지난해 12월 출시된 세계 최초 종량제 GPU 서비스다. AI 모델 대형화에 필요한 △비즈니스 민첩성 △비용 효율성 △개발 유연성·연속성 △프로그래밍 호환성 등의 강점을 갖추고 있다. HAC의 AI 반도체로는 비용 효율이 높은 AMD사 제품을 채택했다.
KT클라우드는 HAC에서 초거대 AI 언어모델 학습 테스트를 진행한 결과 동등한 조건의 기존 구축형 GPU 인프라 대비 30~50%의 비용 절감 효과를 낼 수 있는 것으로 조사됐다. KT클라우드는 서버 팜을 지속해서 증설할 계획이다. 향후 최대 10분의 1 수준의 효율적 비용으로 동급 연산 자원을 제공할 수 있을 것으로 기대하고 있다.
윤동식 KT클라우드 대표는 "HAC는 초거대 AI 연구 및 서비스 개발에 필수적인 대규모 인프라를 제공하는 혁신적인 기술이자 서비스"라며 "초거대 AI 산업의 문턱을 낮춰 대규모 GPU 인프라가 필요한 AI 전문기업·스타트업 등과 성공 사례를 만들어가고 있다. 뿐만 아니라 국내외 AI 선도기업들과 초거대 AI 산업 성장을 이끌어 갈 것"이라고 말했다.
HAC 구조 [사진=KT클라우드]
