초거대 AI '믿음' 엔비디아 플랫폼 활용…'GTC'서 협업 공유
김영섭 KT 사장이 AI(인공지능) 산업 주도권을 잡기 위해 글로벌 빅테크 기업과 협력을 강화한다.
12일 업계에 따르면, KT는 최근 마이크로소프트(MS)와 전략적 파트너십을 체결하고 AI·클라우드(Cloud)·IT 분야 협력을 약속했다. 동시에 AI 반도체 선두 주자인 엔비디아와도 전방위 협력에 나선다.
김 사장은 지난 3일(현지시간) 미국 워싱턴주 레드먼드 MS 본사에서 사티아 나델라 MS CEO 겸 이사회 의장을 직접 만나 AI·클라우드 연구개발 공동 프로젝트를 비롯해 △한국형 AI·클라우드·IT 서비스 개발 △AI·클라우드 이노베이션 센터 구축 △AI·클라우드 인재 양성을 함께하기로 했다.
KT는 마이크로소프트와 국내 AI·클라우드 산업의 혁신과 성장을 위해 대규모의 협력과 지원 영역을 9월까지 상세화 할 예정이다
김 사장은 “마이크로소프트와 전방위적 협력으로 시장의 변화에 신속히 대응하고 한국의 디지털 혁신에 이정표가 될 수 있도록 최선을 다 하겠다”고 말했다.
엔비디아와 협력도 주목할 만하다. KT의 초거대 AI 모델 ‘믿음(Mi:dm)’을 구축하는데 엔비디아 DGX 슈퍼팟(NVIDIA DGX SuperPOD) 플랫폼을 활용했다.
믿음은 대규모의 데이터를 학습한 대규모 언어 모델(LLM)로 파라미터 70억개로 이뤄진 경량 LLM부터 최대 파라미터 2000억개 규모 LLM까지 다양한 모델로 맞춤형 서비스를 제공한다. 믿음 파운데이션 모델 학습에는 엔비디아 네모 프레임워크가 활용됐다. 네모 프레임워크는 데이터 처리·학습·평가·생성 AI 모델 추론 등 전반에 걸친 솔루션이다. 엔비디아는 KT와 협력해 최적의 3D 병렬처리(parallelism)을 찾아 초거대AI 믿음 학습에 사용되는 계산 처리량을 극대화했다.
배순민 KT AI2X 연구소장은 지난 3월 미국 캘리포니아주에서 열린 엔비디아의 AI 콘퍼런스 'GTC 2024'에 연사로 참석했다. 이 자리에서 KT와 엔비디아가 함께 초거대AI 믿음을 구축한 과정과 AI 기반 통신사 혁신을 구현하기 위해 어떻게 협업했는지 설명했다.
또한 KT클라우드도 엔비디아 GPU(그래픽처리장치)를 적용한 AI 학습 전용 인프라 서비스, 'AI Train'을 선보였다. AI Train은 초거대 AI 분야에서 단기간 집중적으로 대용량, 고사양의 GPU 공급이 필요한 학습 영역에 특화된 서비스다.
KT는 이같은 협력을 바탕으로 출시할 한국형 AI·클라우드·IT 서비스를 통해 본격적인 ‘AICT(AI·ICT) 컴퍼니’로 도약한다는 목표다.