컴퓨팅 파워 부족의 시대: 왜 기업들은 NVIDIA Blackwell 컴퓨팅 리스에 몰려드는가

현재 전 세계 인공지능 산업은 전례 없는 컴퓨팅 파워 부족 시대를 맞이하고 있습니다. 대규모 언어 모델(LLM)의 파라미터 수가 기하급수적으로 증가하고, AI 에이전트가 대규모로 실전 배치되며, 멀티모달 애플리케이션이 폭발적으로 확산되면서 예상을 훨씬 뛰어넘는 컴퓨팅 수요가 발생하고 있습니다. 이런 배경 속에서 컴퓨팅 리스는 기업이 고성능 GPU 컴퓨팅 파워를 가장 빠르고 경제적으로 확보할 수 있는 수단으로, ‘선택지’에서 ‘필수 요소’로 자리 잡고 있습니다. AI 스타트업, 전통 산업의 디지털 전환 기업, 대형 인터넷 플랫폼 할 것 없이 모두 안정적이고 유연하며 비용 효율적인 컴퓨팅 리스 솔루션을 적극적으로 모색하고 있습니다.

I. 컴퓨팅 부족의 현실: NVIDIA GB300/B300 ‘구하기 어려움’

2026년 6월, 컴퓨팅 부족에 대한 경보가 다시 울렸습니다. Wedbush Securities의 최신 보고서에 따르면 NVIDIA Grace Blackwell 시스템(GB300 및 B300 포함)에 대한 수요는 계속해서 높은 수준을 유지하고 있으며, 납기는 길어지고 확보 난이도는 높아지고 있습니다. 애널리스트 Matt Bryson과 Antoine Legault는 “Ampere/Hopper 이후 NVIDIA 가속기 주기 후반에 이렇게 심각한 공급 부족을 기억하지 못한다. 이는 수요가 예상보다 훨씬 빠르게 증가하고 있음을 시사한다”고 지적했습니다. 일부 고객들의 Blackwell 납품은 2027년 1분기까지 연기되었으며, 공식 가이드 가격 대비 상당한 프리미엄이 붙은 것으로 알려졌습니다.

공급 부족의 배경에는 여러 요인이 복합적으로 작용하고 있습니다. 첫째, 글로벌 AI 인프라 건설 수요가 예상을 훨씬 뛰어넘는 속도로 증가하고 있습니다. Microsoft, Google, Amazon, Meta 등의 하이퍼스케일 클라우드 공급업체들은 2026년 1분기 합산 자본 지출을 전년 동기 대비 35% 이상 늘렸으며, 이 중 대부분을 AI 서버와 데이터센터에 투자했습니다. 둘째, Blackwell 시스템에 필수적인 고대역폭 메모리(HBM)와 첨단 패키징 용량이 여전히 주요 공급망 병목 현상으로 남아 있습니다. HBM3E와 HBM4의 생산 수율은 아직 개선 단계에 있으며, TSMC의 CoWoS 첨단 패키징 용량은 확대되고 있지만 여전히 수요를 따라가지 못하고 있습니다. 그럼에도 불구하고 NVIDIA는 DRAM과 HBM 공급을 일찍 확보하는 전략적 움직임을 통해 “전체 기술 생태계 내에서 가장 유리한 위치에 있습니다.”

기관 전망 측면에서도 NVIDIA의 시장 지배력은 계속해서 강화되고 있습니다. TrendForce는 2026년에 Blackwell 솔루션이 NVIDIA 고급 GPU 출하량의 71%를 차지할 것으로 예측합니다. 한편, 차세대 Rubin 아키텍처는 HBM4 인증, 전력 관리 등의 과제에 직면해 있으며, 대규모 출하는 2026년 하반기 이후에나 가능할 것으로 보입니다. 이는 최소 앞으로 6~9개월 동안 Blackwell 시리즈가 고급 AI 컴퓨팅 시장을 계속 주도할 것이며, 수급 불균형이 쉽게 해소되지 않을 것임을 의미합니다.

동시에 미국 상무부는 2026년 6월 1일 AI 칩 수출 통제를 강화하여, 그동안 중국 기업들이 해외 자회사를 통해 간접적으로 구매하던 ‘허점’을 막았습니다. 새로운 가이드라인은 법인 자체가 중국 이외의 지역에 있더라도 본사가 중국에 있는 경우 NVIDIA Rubin, Blackwell, AMD MI350X 등의 고급 AI 칩에 대한 수출 허가 요건을 준수해야 한다고 명시하고 있습니다. 이 정책으로 인해 국내 기업들이 해외 고급 컴퓨팅 파워를 확보하는 난이도는 더욱 높아졌고, 국산 AI 칩 대안 및 국내 컴퓨팅 리스 서비스에 대한 수요가 급격히 증가하고 있습니다.

II. 컴퓨팅 리스 가격 지속 상승: 공급자 우위 시장 도래

컴퓨팅 부족은 시장 가격에 직접적으로 반영되고 있습니다. Guojin Securities의 보고서에 따르면 NVIDIA B300의 온디맨드 리스 가격은 2025년 11월 대비 105% 폭등했고, H100 리스 가격도 약 25% 상승했습니다. 구체적으로 B300 GPU 1개당 시간당 리스 가격은 4.5달러를 넘어섰고, 1년 장기 리스 계약 단가는 시간당 3.2달러 이상에 달합니다. 반도체 리서치 기관 SemiAnalysis가 발표한 데이터 역시 같은 추세를 보여줍니다. H100의 1년 GPU 리스 계약 가격은 2025년 10월 시간당 약 1.70달러의 저점에서 2026년 3월 시간당 2.35달러로 40% 가까이 급등했습니다. 2026년 5월 말에는 일부 컴퓨팅 플랫폼의 H100 현물 리스 가격이 시간당 2.80달러까지 치솟기도 했습니다.

더욱 주목해야 할 점은 컴퓨팅 시장의 긴장이 단기 현상이 아니라는 것입니다. Blackwell, H100, H200 신규 클러스터의 납기가 2027년까지 길어짐에 따라, 납기 병목 현상이 가격 상승을 계속해서 압박할 것입니다. 총소유비용(TCO) 관점에서 볼 때, 현재 GPU 한 장 구하기 어려운 가격 전망 속에서 컴퓨팅 리스는 연구개발 테스트부터 대규모 추론까지 모든 컴퓨팅 수요를 일회성 구매 비용의 몇 분의 1로 해결해 주며, 그 경제적 이점이 점점 더 뚜렷해지고 있습니다. 예를 들어, H100 8개를 탑재한 서버의 일회성 구매 비용은 약 30만~35만 달러인 반면, 동일한 구성을 1년 리스할 경우 총 비용은 약 16만~20만 달러로 초기 투자의 약 40%를 절감할 수 있을 뿐만 아니라, 장비 감가상각, 전력, 냉각, 유지보수 등의 추가 부담도 없습니다.

또한 리스 시장 내 가격 차별화도 심화되고 있습니다. 온디맨드 리스 가격은 장기 예약 인스턴스보다 훨씬 높지만, 많은 기업들은 앞으로 몇 달간의 컴퓨팅 수요를 예측할 수 없기 때문에 유연성을 확보하기 위해 프리미엄을 지불하는 것을 선택하고 있습니다. 일부 컴퓨팅 리스 플랫폼은 온디맨드와 예약형을 결합한 ‘하이브리드 리스’ 모델을 도입하여 기업이 비용과 유연성 사이의 균형을 맞출 수 있도록 돕고 있습니다.

III. 컴퓨팅 수요의 구조적 성장: 1조 위안 시장, 폭발 직전

이처럼 강력한 컴퓨팅 수요를 이끄는 원동력은 무엇일까요? 답은 토큰 사용량의 폭발적 증가에 있습니다. 공개 데이터에 따르면 중국의 일평균 토큰 호출 수는 140조를 돌파하여 2025년 말 대비 40% 이상 증가했습니다. 2024년 초 1000억, 2025년 말 100조, 그리고 현재 140조 수준으로의 곡선 급등은 AI 애플리케이션이 데모나 시험판에서 대규모 상용 운영으로 이동하고 있음을 명확히 보여줍니다. ByteDance의 Doubao, Baidu의 Wenxin Yiyan, Alibaba의 Tongyi Qianwen 등의 주요 모델을 예로 들면, 이들의 API 호출량은 지난 6개월 사이 수 배 증가했으며, 이는 백엔드 컴퓨팅 수요를 기하급수적으로 끌어올렸습니다.

Dongwu Securities의 보고서에 따르면 2026년 1분기, 주요 클라우드 업체와 대규모 모델 개발사들은 컴퓨팅 리스 회사가 보유한 고급 컴퓨팅 파워를 확보하기 위해 경쟁적으로 가격을 올려 입찰했습니다. 고급 컴퓨팅 파워를 충분히 확보할 수 있는 곳은 주요 클라우드 업체(Alibaba Cloud, Huawei Cloud, Tencent Cloud 등)뿐이며, 2선 클라우드 업체와 모델 개발사들의 수요는 턱없이 부족하여 그 격차가 매우 큽니다. 현재 국내 고급 AI 컴퓨팅 수요의 총 부족분은 50 EFLOPS(엑사플롭스)를 초과하는 것으로 추산되며, 이는 약 30만 장의 H100 상당 컴퓨팅 파워에 해당합니다.

이러한 수급 불균형 뒤에는 몇 가지 기술적 현실이 자리 잡고 있습니다. 중국의 LLM이 수천억 파라미터에서 1조 파라미터 규모의 MoE 아키텍처로 전환되고 있다는 점, 멀티모달 AI는 기존 단일모달 모델보다 7~15배 더 많은 컴퓨팅을 소비한다는 점, 그리고 글로벌 AI 컴퓨팅 인프라 시장이 1조 달러 규모로 빠르게 돌파하고 있다는 점입니다. 구체적으로, OpenAI의 GPT-5는 MoE 아키텍처를 채택할 것이라는 소문이 있으며, 활성화 파라미터는 전체 파라미터보다 훨씬 적지만 훈련에는 여전히 초대규모 컴퓨팅 클러스터가 필요합니다. 한편, Sora, Kling과 같은 비디오 생성 모델은 단일 추론에 텍스트 모델보다 수천 배 많은 컴퓨팅을 소비합니다. 이러한 애플리케이션이 대규모로 배포되면 컴퓨팅 공급에 막대한 압박을 가할 것입니다.

IDC의 최신 예측에 따르면 2026년 글로벌 AI 컴퓨팅 시장 규모는 1,200억 달러에 달하고, 이 중 컴퓨팅 리스(GPU as a Service) 세그먼트는 약 35%인 420억 달러를 차지할 것으로 보입니다. 중국 시장에서는 컴퓨팅 리스 규모가 800억 위안을 돌파하고 연간 성장률이 60%를 초과할 것으로 예상됩니다.

IV. 컴퓨팅 리스는 기업의 고민을 어떻게 해결하는가? 6가지 핵심 이점 상세 분석

현재의 극심한 공급 부족 상황 속에서 컴퓨팅 리스는 독특한 가치 제안을 통해 점점 더 많은 기업의 선택을 받고 있습니다. 다음의 6가지 핵심 이점에 주목해야 합니다.

1. 수급 불균형 해소와 희귀 컴퓨팅 파워에의 신속한 접근
고급 GPU는 구하기가 매우 어렵고, 조달 리드 타임은 수개월에서 1년까지 걸릴 수 있습니다. 반면 컴퓨팅 리스 플랫폼은 일반적으로 사전에 확보된 재고와 공급망 자원을 보유하고 있어, 수일 내 또는 당일 납품이 가능하며 기업은 즉시 AI 프로젝트를 시작할 수 있습니다. 긴급한 훈련 작업이나 제품 출시 일정이 있는 팀에게는 생명선이나 다름없습니다.

2. 높은 자본 효율성 – CAPEX에서 OPEX로의 전환
H100이 가득 탑재된 서버 한 대의 구매 비용은 30만 달러를 넘어서, 중소기업과 스타트업에게는 큰 자본 부담입니다. 컴퓨팅 리스는 이러한 대규모 일회성 지출을 월 단위 또는 시간 단위 지불로 분할하여, 기업이 핵심 연구개발과 시장 확장에 자금을 유보할 수 있도록 해줍니다. 재무 관점에서 운영 비용은 자산 감가상각보다 세제상 유리한 경우가 일반적입니다.

3. 비즈니스 변동에 대응하는 탄력적 스케일링
AI 프로젝트의 컴퓨팅 수요는 종종 피크와 밸리의 패턴을 보입니다. 모델 훈련 단계에는 많은 양의 집중적인 컴퓨팅이 필요한 반면, 추론 단계는 상대적으로 안정적이지만 지속적입니다. 컴퓨팅 리스를 통해 기업은 필요에 따라 규모를 늘리거나 줄일 수 있습니다. 훈련 시에는 수천 개의 GPU 클러스터를 가동하고, 훈련이 끝난 후에는 리소스를 해제하여 실제 사용한 만큼만 비용을 지불하면 됩니다. 이러한 탄력성은 자체 데이터센터로는 달성하기 어렵습니다.

4. 기술적 진부화 방지 및 항상 최신 GPU 아키텍처 사용
GPU의 세대 교체는 매우 빠르게 진행되어 평균 1.5~2년마다 새로운 세대가 등장합니다. 일시에 구매한 하드웨어는 2~3년 후면 주류 요구사항에 뒤처져 중고 잔존 가치가 급락할 수 있습니다. 컴퓨팅 리스를 통해 기업은 최신 Blackwell, Rubin 또는 그 이후의 아키텍처로 언제든지 원활하게 전환할 수 있어 기술적 경쟁력을 항상 유지할 수 있습니다.

5. 운영 장벽을 낮추고 AI 애플리케이션에 집중
자체 GPU 클러스터를 구축하려면 하드웨어 유지보수, 네트워크 구성, 냉각 관리, 전력 보호 등 전담 팀이 필요하며, 이는 인프라에 주력하지 않는 기업에게는 큰 부담입니다. 컴퓨팅 리스 플랫폼은 24/7 모니터링, 자동 장애 복구, 데이터 백업 등 풀매니지드 서비스를 제공합니다. 기업은 API나 콘솔을 통해 작업을 제출하기만 하면 됩니다.

6. 국내 컴퓨팅 리스라는 새로운 선택지 – 성능과 규정 준수의 균형
미국의 수출 규제가 강화됨에 따라 Huawei Ascend, Hygon DCU, Cambricon, Enflame 등의 국산 AI 칩이 빠르게 성장하고 있습니다. 많은 국내 컴퓨팅 리스 플랫폼이 Ascend 910B/950PR 기반의 컴퓨팅 인스턴스 제공을 시작했으며, 주요 LLM 훈련 및 추론 시나리오에서 그 성능은 (일부 연산자에서는) NVIDIA A100/H100에 근접하거나 능가하는 수준에 도달했습니다. 국내 컴퓨팅 리스를 선택하면 공급망 리스크를 피할 수 있을 뿐만 아니라 규제 준수 요건도 충족할 수 있어, 특히 정부, 금융, 에너지 등 중요 인프라 분야 고객에게 적합합니다.

V. 국산 대체 가속화: 국내 컴퓨팅 리스에 전략적 기회 도래

미국의 AI 칩 수출 통제가 계속해서 강화되는 가운데, 국산 AI 칩은 역사적인 기회의 창을 맞이하고 있습니다. 공개 데이터에 따르면 2025년 중국 AI 가속기 카드 시장에서 국내 제조사들은 합산 약 165만 장을 출하하여 시장 점유율이 처음으로 40%를 돌파했습니다. Huawei Ascend는 2025년 약 81만 2천 장을 출하했으며, 2026년 출시된 Ascend 950PR은 (일부 연산자에서) NVIDIA H200을 능가하는 성능을 목표로 하고 있습니다. Hygon의 Deep Computing 2호 DCU도 상업용 애플리케이션에서 상당한 진전을 이루었으며, Lenovo, Inspur 등의 서버 공급업체들이 Hygon DCU 기반 AI 서버를 잇달아 출시하고 있습니다.

연구 기관들은 2026년 국산 AI 칩 출하량이 2배 이상 증가할 것으로 예측합니다. 동시에 국내 컴퓨팅 리스 시장도 빠르게 ‘국산화’ 방향으로 이동하고 있습니다. 베이징, 상하이, 선전, 청두 등 핵심 지역의 지방 정부들은 국산 컴퓨팅 사용을 장려하기 위해 컴퓨팅 바우처, 컴퓨팅 보조금 정책을 잇달아 도입했습니다. 예를 들어 베이징시 경제정보화국이 도입한 ‘인공지능 컴퓨팅 바우처’ 정책은 기업이 지역 내 국산 컴퓨팅을 리스할 때 최대 30%의 보조금을 제공하며, 기업당 연간 상한액은 500만 위안입니다.

Parallel Technology, QingCloud, UCloud, Capital Online 등 주요 컴퓨팅 리스 플랫폼은 모두 Huawei Ascend 기반의 리스 제품을 출시했습니다. 일부 플랫폼은 NVIDIA GPU와 국산 GPU를 혼합한 ‘이종 컴퓨팅 풀’도 구현하여 사용자가 작업 특성에 따라 최적의 컴퓨팅 자원을 선택할 수 있게 했습니다. Ascend 생태계(CANN 소프트웨어 스택, PyTorch 적응, 모델 마이그레이션 도구)가 지속적으로 개선됨에 따라, 국내 컴퓨팅 리스의 사용성과 접근성은 빠르게 향상되고 있으며, 향후 1~2년 내에 컴퓨팅 리스 시장의 주요 축으로 자리 잡을 것으로 기대됩니다.

VI. 실제 사례: 컴퓨팅 리스가 다양한 유형의 기업 성공을 어떻게 돕는가

컴퓨팅 리스의 실질적 가치를 더욱 구체적으로 보여주기 위해 다음은 세 가지 대표적인 사례 연구입니다.

사례 1: LLM 스타트업 – 1,000억 파라미터 모델을 신속하게 검증
베이징 소재 AI 스타트업은 1,000억 파라미터 규모의 기초 모델을 3개월 내에 처음부터 훈련할 계획이었습니다. 기존 채널로는 충분한 H800 GPU를 조달할 수 없었기에, 이 회사는 컴퓨팅 리스 플랫폼을 통해 8개의 H800 GPU를 탑재한 서버 64대(총 512개의 H800 GPU)를 2개월간 리스했습니다. 플랫폼은 5영업일 이내에 환경 설정과 네트워크 디버깅을 완료했습니다. 결국 훈련 작업은 일정보다 1주일 일찍 완료되었고, 총 리스 비용은 동등한 하드웨어를 구매하는 비용의 약 5분의 1 수준이었습니다. 프로젝트 종료 후 컴퓨팅 자원은 해제되어 유휴 능력 문제가 발생하지 않았습니다.

사례 2: 전통 제조 기업 – AI 비전 검사 시스템 배포
한 자동차 부품 제조업체는 비전 파운데이션 모델 기반의 AI 비전 검사 시스템을 도입하려 했으나, 자체 GPU 서버를 구축하는 것은 비용과 시간이 많이 소요되었습니다. 대신 이 회사는 T4 및 A10 기반의 추론 최적화 GPU 인스턴스를 시간 단위로 리스하기로 했습니다. 초기에는 모델 미세 조정을 위해 GPU 2대만 리스했고, 실제 가동 후에는 생산 라인 수에 따라 GPU 20대로 탄력적으로 확장했습니다. 총 초기 투자 비용은 5만 위안 미만이었고, 일평균 추론 비용은 2,000위안 미만으로 유지되었습니다. 구매 방식과 비교했을 때 초기 투자의 80%를 절감했습니다.

사례 3: 대학 연구팀 – 학술 연구에 국산 컴퓨팅 활용
한 상위권 대학의 자연어 처리 연구실은 Ascend 플랫폼 기반의 중국어 멀티모달 모델을 훈련해야 했지만, 연구실에는 물리적인 Ascend 하드웨어가 없었습니다. 이 연구팀은 컴퓨팅 리스 플랫폼을 통해 Ascend 910B 서버 4대를 3개월간 리스하고, 지역 컴퓨팅 바우처로 30%의 비용 절감 혜택을 받았습니다. 팀은 성공적으로 실험을 완료하고 국제 최고 학회에 논문을 게재했으며, Ascend 플랫폼 튜닝에 관한 귀중한 경험을 얻을 수 있었습니다.

VII. 미래 전망: 컴퓨팅 리스가 AI 인프라의 핵심 형태로

중국과 미국의 주요 모델 발전, 국산 AI 칩의 동시다발적 부상, NVIDIA 고급 컴퓨팅 용량의 글로벌 부족, 그리고 중국 내 산업을 초월한 컴퓨팅 계약의 집중 체결 등 외부 환경이 어떻게 변하든, AI 산업의 ‘물, 전기, 석탄’으로서 컴퓨팅의 근본적 가치는 지속적으로 검증되고 증폭되고 있습니다. 향후 몇 년 동안 컴퓨팅 리스는 다음과 같은 추세를 보일 것으로 예상됩니다.

• 집중화 및 플랫폼화: 대규모 컴퓨팅 리스 플랫폼이 분산된 중소 규모의 컴퓨팅 자원을 통합하여 통합 API, 통합 스케줄링, 통합 운영을 제공함으로써 기업의 진입 장벽을 낮출 것입니다.

• 하이브리드 컴퓨팅의 표준화: NVIDIA GPU는 훈련 및 추론의 일부에, 국산 GPU는 추론 및 규정 준수가 중요한 시나리오에 사용되어 하이브리드 리스가 대기업의 표준 전략이 될 것입니다.

• 컴퓨팅 증권화 및 선물 모델: 클라우드 컴퓨팅의 예약 인스턴스를 참고하여 컴퓨팅 리스 플랫폼은 더 유연한 ‘컴퓨팅 선물’을 도입하여 기업이 향후 6개월 또는 1년치 가격을 미리 고정하고 시장 변동성을 헤지할 수 있도록 할 것입니다.

• 그린 컴퓨팅의 우대: ‘탄소 중립’ 정책에 힘입어 액침 냉각 데이터센터나 청정 에너지 전력을 사용하는 컴퓨팅 리스 제품은 프리미엄 가격과 보조금 혜택을 받을 것입니다.

결론: 희소한 컴퓨팅 파워를 선점하기 위해 신속히 행동하라

컴퓨팅은 이제 AI 경쟁력을 결정하는 핵심 자원이 되었습니다. 공급 부족, 가격 상승, 국산 대체 가속화가 동시에 진행되는 현재 환경 속에서 기업은 가능한 한 빨리 컴퓨팅 확보 전략을 수립해야 합니다. 대규모 AI 모델 훈련의 개발 병목 현상에 직면하든, AI 추론 애플리케이션의 대규모 배포를 계획하든, 비용 효율적인 GPU 서버 한 대로 시작하여 수천, 수만 대 규모의 컴퓨팅 클러스터로 확장해 나갈 때까지, 컴퓨팅 리스는 원스톱 컴퓨팅 솔루션을 제공합니다.

고성능 GPU 컴퓨팅은 바로 사용할 수 있으며, 전문가 팀의 기술 지원이 제공됩니다. 시간별, 일별, 월별, 연별 등 유연한 과금 모델과 H100, A100, Ascend 910B, B300 등 다양한 인스턴스 유형을 통해 귀사의 AI 프로젝트 가속화를 도와드립니다. 지금 문의하시면 맞춤형 컴퓨팅 리스 플랜을 제공해 드리며, 다음 AI 혁신의 물결에서 주도권을 잡으실 수 있습니다.