BIZSTORY

메타스토리

CareCon
2023-02-17 10:45:38
2

MS·구글 ‘AI 장군멍군’... GPT-4, 새 프롬프트로 ‘제미나이’ 성능 다시 앞서

KT클라우드가 인공지능산업융합사업단(AICA)와 함께 진행하는 'AI반도체 시험검증 환경 조성' 사업 1차년도 과제의 인프라 구축 목표를 달성하고, 서비스 실증까지 진행했다.

'AI반도체 시험검증 환경 조성' 사업은 과학기술정보통신부가 주관하는 'K-클라우드' 프로젝트 중 하나다. 광주광역시 지원을 받아 AI반도체 산업 생태계를 조성하기 위해 인프라 구축, 클라우드 기반 운영플랫폼 구축, 공공 분야 응용서비스 실증, 시험검증 체계 구축 등을 추진한다.

KT클라우드 주관사로 국내 주요 클라우드 서비스 공급기업(CSP) 네이버클라우드, NHN클라우드와 컨소시엄을 구성하고, 국내 AI반도체 업체인 리벨리온, 퓨리오사AI, 사피온코리아와 각각 협업했다. 슈퍼브AI, 심플랫폼, 엘리스, 아이브스, 휴먼ICT 등 국내 AI 응용 서비스 기업과 실증에 나선다. 올해 5월부터 2024년 11월까지 진행되는 본 사업은 총 19.95페타플롭스(PF) 이상의 인프라 구축을 목표로 한다. KT클라우드는 신경망처리장치(NPU) 서버 3.45PF를 구축하고, 운영플랫폼 구축과 실증 전반을 지휘한다. 참여사인 네이버클라우드와 NHN클라우드는 각각 서버 3.5PF, 10PF 구축과 실증을 진행한다.

KT클라우드 컨소시엄에 참여한 CSP사는 1차년도 목표인 1PF 이상 용량의 국산 AI반도체 인프라를 구축하고, AI서비스 운영 플랫폼 기능 개발을 완료했다.

KT클라우드 AI서비스 운영플랫폼은 컨테이너 환경 기반으로 구성한다. 스케쥴링 기능과 그룹별 할당이 가능해 고성능 컴퓨팅 자원의 효율적 사용을 지원한다. 컨소시엄은 올해 플랫폼 구축에서 한 걸음 나아가 실제 AI 실증 서비스까지 시작하며 공공 분야 활용에 기대감을 높이고 있다. KT클라우드는 리벨리온과 협업하며 글로벌 시장에서도 고성능을 인정받은 '아톰' 칩을 적용한 NPU 팜(Farm)과 클라우드 플랫폼 설계·구축, 다양한 AI 응용서비스 실증을 진행하고 있다.

남충범 KT클라우드 본부장은 “광주 AI 데이터센터에서 진행해온 AI 반도체 시험검증 환경 조성 사업이 안정적으로 순항하고 있다”며 “KT클라우드는 참여사들과 함께 협력해 성공적으로 사업을 마무리하고, AI반도체 기술이 실제 공공 서비스로 구현될 수 있도록 최선을 다할 것”이라고 말했다.