인터넷을 통해 서버, 스토리지, 네트워크, 소프트웨어 등을 제공하는 기술 클라우드 컴퓨팅(Cloud Computing)은 기업과 개인의 IT 인프라 활용 방식을 혁신적으로 바꿔놓았다. 과거에는 기업이 온프레미스(on-premise)* 형태로 자체 데이터센터를 구축하고 유지 보수하는 데 막대한 비용과 노력을 들여야 했지만, 클라우드 컴퓨팅은 이를 단순화하고 효율적으로 변화시켰다.
1961년 ‘컴퓨팅이 공공 서비스처럼 유틸리티 형태로 제공될 것’이라는 컴퓨터과학자 존 매카시(John McCarthy)의 예견 후에도 단순히 이론적 개념에 머무르던 클라우드 컴퓨팅은 2006년 아마존 웹 서비스(AWS)가 세계 최초로 상업용 퍼블릭 클라우드 서비스를 출시하며 비로소 현실화됐다. 사용자가 필요할 때만 컴퓨터 자원을 임대해 사용할 수 있는 Elastic Compute Cloud(EC2)와 같은 서비스를 통해 클라우드 컴퓨팅의 가능성을 입증한 것이다. AWS의 성공 이후, 구글 클라우드 플랫폼(Google Cloud Platform), 마이크로소프트 애저(Microsoft Azure) 등 다른 글로벌 빅테크 기업 역시 시장에 뛰어들면서 마침내 클라우드 컴퓨팅은 현대 IT 환경의 표준으로 자리 잡았다.
초기 클라우드는 범용적인 컴퓨팅과 서버에 정보를 저장하는 스토리지 서비스를 제공하는 형태에 그쳤으나, 2010년대에 들어서며 ‘산업별 맞춤형 서비스’라는 정교화된 수요에 대응해야 했다. 특히 금융, 의료, 제조 등 데이터 보안과 규제 준수가 중요한 산업군에서 이러한 요구가 커졌으며 이에 따라 일부 클라우드 제공업체들이 ‘수직 클라우드(Vertical Cloud)’ 또는 ‘산업 클라우드’라는 개념의 특정 산업 맞춤형 솔루션을 개발하기 시작했다. 대표적인 것이 바로 AWS와 애저의 의료 클라우드, 구글의 교육 클라우드 등이다.
2020년 이후 클라우드 운영에 따른 비용과 복잡성에 환멸을 느낀 일각에서 리소스를 다시 온프레미스 데이터센터로 옮기는 클라우드 송환(Cloud repatriation) 이슈가 대두되기도 했지만, 인공지능의 부상은 클라우드 컴퓨팅 시장에 더 큰 힘을 실어주었다. AI라는 새로운 표준이 퍼블릭 클라우드를 미래 핵심기술로 재정의하며 그 가치를 더욱 공고하게 만든 것이다. 수치상으로 살펴보면 2024년 퍼블릭 클라우드 서비스에 대한 전 세계 지출은 8,050억 달러로 추정되며, 2028년에는 그 규모가 두 배로 늘어나는 등 5년간 연평균 19.4%의 성장률을 기록할 것으로 전망된다. 이를 예측한 글로벌 리서치기업 IDC의 관계자의 말을 빌리면 인공지능의 발전은 클라우드에 대한 지출을 급증시키고 있고, AI 혁신과 클라우드 인프라의 상호 의존성이 높아지며 클라우드 서비스는 이제 분명한 AI 개발 및 배포의 중추로 자리매김하고 있다. 이처럼 산업의 변화와 필요를 바탕으로 성장해 온 클라우드 컴퓨팅 기술은 오늘날에 이르러 인공지능 시대의 필수 인프라로서 더욱 주목받고 있다.
클라우드 시장의 성장을 가속화한 핵심 동력 중 하나로는 인공지능 중에서도 Chat GPT와 같은 생성형 AI를 꼽을 수 있다. 방대한 데이터를 학습하고 이를 바탕으로 콘텐츠를 생성하는 생성형 AI에는 기계학습과 자연어 처리와 같은 첨단 기술이 활용된다. 특히, 그 핵심은 ‘매개변수(Parameter)’라는 데이터 단위에 있다.
매개변수란 AI가 연산 과정에서 고려하는 다양한 변수로, 마치 뉴런 사이에서 정보를 전달하는 시냅스와 같은 역할을 한다. 시냅스가 많을수록 처리할 수 있는 정보의 양이 많아지고 복잡성을 띨 수 있는 것처럼, 매개변수의 규모가 클수록 모델의 성능도 높아진다. 생성형 AI의 대표주자 구글의 제미나이 울트라는 약 1조 5,600억 개, GPT-4는 약 1조 7,000억 개의 매개변수를 보유한 것으로 알려져 있다. 이렇게 막대한 데이터를 처리하고 저장하기 위해서는 클라우드 기술이 수반되어야 하며, 그중에서도 클라우드 스토리지(Cloud Storage)와 GPU 기반 인프라가 필수적이다.
클라우드 스토리지는 이름 그대로 ‘클라우드 저장소’를 뜻하는데, 쉽게 말해 인터넷을 통해 데이터를 원격 서버에 저장하고 관리, 백업하는 시스템이다. 생성형 AI가 필요로 하는 대규모 데이터를 효율적으로 저장하고 관리할 수 있는 핵심 솔루션이기도 하다. 미국 하드디스크 제조 기업 씨게이트의 연구에 따르면, AI 데이터의 폭발적 증가로 클라우드 스토리지 시장은 앞으로 3년 동안 두 배 이상 성장할 것으로 전망된다.
한편 생성형 AI 시장이 확장됨에 따라 모델의 성능과 경쟁력을 크게 좌우하는 고성능 GPU에 대한 수요 역시 폭발적으로 증가했다. ‘GPU 대란’이라 불릴 정도의 상황 속에서, 엔비디아 GPU를 확보하기 어려운 소규모 스타트업과 기업을 중심으로 클라우드 기반 GPU 서비스를 도입하는 경향이 두드러지기 시작했다. 특히 고성능 GPU의 경우 발열 그리고 높은 전력 소모 문제 등으로 인해 일반 기업에서 직접 운용하기 쉽지 않아, 비용 효율과 접근성이 높은 클라우드 GPU 서비스가 최적의 대안으로 여겨진다. AI 산업의 지속적인 성장이 예측되는 만큼, 2032년까지 하이엔드 GPU 시장은 연평균 28.5%의 성장률을 기록할 것으로 기대되고 있다.
지금까지 클라우드 컴퓨팅 시장은 AWS, 마이크로소프트 애저, 구글 클라우드로 대표되는 이른바 ‘빅3’ 사업자들이 주도해 왔다. 그러나 한편으로 생성형 AI의 확산은 대안 클라우드, 즉 시장에 새롭게 도전하는 스타트업의 성장에 원동력이 되고 있다.
대표적인 사례가 바로 코어위브(CoreWeave)와 같은 AI 특화 클라우드 스타트업들이다. GPU 클라우드 인프라를 구축, 서버 임대 서비스를 제공하는 코어위브는 2023년 7월 엔비디아와 GPU 공급 파트너십을 맺은 후 2024년 5월 기준 누적 투자액 약 120억 달러를 달성하는 등 그야말로 업계의 새로운 별로 떠올랐다. 코어위브는 현재 AI, 머신러닝, 시각 효과, 렌더링 등 다양한 워크로드에 최적화된 클라우드 서비스를 운영하고 있으며, 이는 기존 빅3 클라우드보다 최대 35배 빠르고, 80% 저렴한 컴퓨팅 솔루션을 제공한다는 점에서 주목받고 있다.
국내 클라우드 기업들도 AI 중심의 시장 변화를 빠르게 수용하고 있다. 네이버, KT 클라우드와 같은 대기업 사업자는 물론 우리나라에도 대안 클라우드, 특히 AI에 특화된 클라우드 서비스를 제공하는 스타트업과 중소기업이 존재한다. 한 예로 몬드리안에이아이(주)는 ‘런유어에이아이(Runyour.ai)’라는 클라우드 기반 GPU 중개 서비스를 통해 유휴 GPU 자원을 대여·활용할 수 있는 플랫폼을 선보였다. 이 플랫폼은 고성능 GPU를 필요로 하는 다양한 AI 작업을 더 저렴하고 손쉽게 실행할 수 있게 함으로써, AI 기술 개발의 장벽을 크게 낮추고 있다. 이처럼 대안 클라우드는 AI 발전에 필수적인 고성능 인프라를 비용 효율적으로 제공하여 소규모 기업들이 고성능 GPU에 보다 쉽게 접근할 수 있도록 돕고, AI 시장 성장을 더욱 촉진하는 동력으로 자리매김하고 있다.
그간 우리 정부 역시 클라우드의 중요성을 인지하고 다양한 지원책을 펼쳤으나 국내 공공부문 민간 클라우드 이용률이 2023년 기준 11.6%에 그치는 등 여전히 도입이 더딘 상황에서, 중요한 것은 실행력이다. 각종 혼란스러운 인증체계를 바로잡고 AI 컴퓨팅 인프라를 확충하는 한편, 이제 K-클라우드는 기술 자립과 글로벌 협력이라는 두 축을 중심으로 우리나라의 디지털 전환을 이끄는 핵심 동력이 되어야 한다. 실행력 있는 정책과 민간의 혁신이 어우러진다면, K-클라우드 역시 AI 시대를 선도하는 중요한 발판이 될 수 있을 것이다.