본문으로 건너뛰기

추론의 전환: 탈중앙화 GPU 네트워크가 AI의 가장 빠르게 성장하는 워크로드를 처리하기 위한 경쟁에서 승리하고 있는 이유

· 약 8 분
Dora Noda
Dora Noda
Software Engineer

NVIDIA는 전력에 너무 굶주린 나머지 GTC 2026에서 궤도 데이터 센터를 발표했습니다. 한편, 올해 모든 AI 연산의 3분의 2는 학습 클러스터 근처에도 가지 않을 것입니다. 대신 실제 사용자들을 위해 모델을 실제로 실행하는, 화려하진 않지만 미션 크리티컬한 작업인 추론(inference)이 그 자리를 차지할 것입니다. 그리고 탈중앙화 GPU 네트워크는 조용히 이 수요를 충족시키기에 가장 유리한 인프라로 자리 잡고 있습니다.

위대한 연산의 역전 (The Great Compute Inversion)​

현대 AI 시대의 대부분 동안 학습(training)이 대화와 자본을 지배해 왔습니다. 프런티어 모델을 구축한다는 것은 수천 개의 연결된 H100 GPU를 몇 달 동안 점유하고, 단일 데이터 센터에서 수 메가와트의 전력을 소모하는 것을 의미했습니다. 이러한 집중화로 인해 중앙 집중식 하이퍼스케일러들은 자연스럽게 독점적 지위를 갖게 되었습니다.

하지만 경제 지형이 뒤집혔습니다. 딜로이트(Deloitte)는 2025년 전체 AI 연산 워크로드의 절반을 추론이 차지할 것으로 추정합니다. 2026년에는 그 수치가 3분의 2로 치솟을 것입니다. 추론 최적화 칩 시장만 해도 올해 500억 달러를 넘어설 것으로 예상됩니다.

왜 이런 변화가 일어날까요? 기업들이 실험을 멈추고 실제 배포를 시작했기 때문입니다. 모든 챗봇, AI 코파일럿, 프로덕션에서 실행되는 모든 자율 에이전트는 추론 워크로드입니다. 그리고 학습과 달리 추론은 멈추지 않습니다. 수백만 명의 사용자에게 서비스를 제공하는 단일 GPT-4 급 모델 배포는 모델을 생성한 몇 달간의 학습 과정보다 더 많은 누적 연산 수요를 발생시킵니다.

여기 결정적인 아키텍처적 차이가 있습니다. 학습에는 단일 시설 내에서 NVLink를 통해 긴밀하게 결합된 수천 개의 GPU가 필요합니다. 하지만 추론은 그렇지 않습니다. 단일 GPU 또는 소규모 클러스터만으로도 모델 요청을 독립적으로 처리할 수 있습니다. 이는 추론이 본질적으로 분산 가능하며, 지리적으로 유연하고, 탈중앙화 네트워크에 완벽하게 적합하다는 것을 의미합니다.

지연 시간이 새로운 병목 현상이 된 이유​

추론으로의 전환은 학습 시대에는 중앙 집중식 클라우드가 최적화할 필요가 없었던 제약 사항을 가져왔습니다. 바로 지연 시간(latency)입니다.

사용자를 대신해 감지하고, 추론하고, 행동하는 자율 도구인 에이전틱 AI(Agentic AI) 시스템에는 수십 밀리초 단위로 측정되는 응답 시간이 필요합니다. 차익 거래를 실행하는 트레이딩 봇, 음성 명령을 처리하는 AI 비서, 실시간으로 유동성을 라우팅하는 DeFi 프로토콜 등은 다른 대륙에 있는 중앙 집중식 데이터 센터로의 200밀리초 이상의 왕복 지연 시간을 감당할 수 없습니다.

업계 분석가들은 이제 "에지 추론(edge inference)"을 주요 대도시 지역에서 100마일 이내에 배포된 연산으로 정의합니다. 이것은 원시 연산 능력의 문제가 아니라 지리적 분포의 문제입니다. 그리고 이는 버지니아, 오레곤, 아일랜드에 있는 소수의 하이퍼스케일 시설보다 50,000개 이상의 분산된 GPU 호스트 네트워크가 더 자연스럽게 해결할 수 있는 문제입니다.

DePIN 추론 가설 — 대규모 검증 완료​

탈중앙화 물리적 인프라 네트워크(DePIN)는 원래 활용도가 낮은 하드웨어를 크라우드소싱하는 방법으로 제안되었습니다. 초기 비판은 타당했습니다. 탈중앙화 연산은 프런티어 모델 학습에 필요한 긴밀한 결합을 따라갈 수 없었기 때문입니다. 하지만 추론은 계산법을 완전히 바꿉니다.

수치가 이를 증명합니다. CoinGecko는 현재 약 250개의 DePIN 프로젝트를 추적하고 있으며, 이들의 총 시가총액은 190억 달러를 넘어섰습니다. 이는 불과 12개월 전의 52억 달러에서 265% 상승한 수치입니다. 특히 AI 관련 DePIN이 전체 시가총액의 48%를 차지하며 시장을 주도하고 있습니다.

더 중요한 것은, 이러한 네트워크가 더 이상 이론에 머물지 않는다는 점입니다. 실제 프로덕션 트래픽이 흐르고 있습니다:

  • Akash Network는 사용량이 전년 대비 428% 성장했으며, 가동률은 80% 이상을 기록했다고 보고했습니다. 2025년 말에 출시된 AkashML 서비스는 80개 이상의 글로벌 데이터 센터 중 가장 가까운 곳으로 트래픽을 라우팅하는 OpenAI 호환 API를 제공하여 200ms 미만의 응답 시간을 달성했습니다. 비용 절감 효과는 기존 클라우드 대비 최대 85%에 달합니다.

  • Aethir는 14억 시간 이상의 연산 시간을 제공하고 약 4,000만 달러의 분기 수익을 보고하며, 하이퍼스케일러 수준의 처리량을 입증한 최초의 DePIN 프로젝트 중 하나가 되었습니다.

  • Nosana는 50,000개 이상의 독립적인 GPU 호스트를 확보했으며, 솔라나(Solana) 기반 네트워크에서 스테이블 디퓨전(Stable Diffusion) 이미지 생성 및 LLM 서빙과 같은 추론 워크로드에 특히 집중하고 있습니다.

경제성: 45~60% 저렴하지만, 주의사항이 있습니다​

DePIN 네트워크의 원시 GPU 가격은 하이퍼스케일러보다 훨씬 낮습니다. Hyperbolic은 NVIDIA H100 인스턴스를 시간당 1.49달러에 제공합니다. 이는 2025년 가격 인하 이후의 AWS(시간당 3.90달러), Azure(6.98달러), Google Cloud(3.00달러)와 비교해도 매우 저렴한 수준입니다.

챗봇이나 이미지 생성 서비스를 위해 추론을 실행하는 스타트업의 경우, 이는 4560%의 인프라 비용 절감으로 이어집니다. 규모가 커질수록 절감 효과는 배가됩니다. 추론 연산에 매달 100만 달러를 쓰는 기업은 연간 45만60만 달러를 제품 개발에 재투자할 수 있게 됩니다.

하지만 원시 가격이 전부는 아닙니다. 탈중앙화 네트워크의 신뢰성 편차로 인해 오버프로비저닝이 필요할 수 있습니다. AWS의 99.99% 수준의 업타임 SLA를 보장하려면 20~30% 더 많은 용량을 예약해야 할 수도 있습니다. 운영 복잡성도 더 높습니다. 또한 SOC 2, HIPAA와 같은 기업 컴플라이언스 요구 사항은 규제 산업에서 여전히 장벽으로 남아 있습니다.

이러한 문제를 정면으로 돌파하는 프로젝트들이 탄력을 받고 있습니다. UC 버클리 및 컬럼비아 대학교 연구진과 함께 개발한 Hyperbolic의 차기 샘플링 증명(Proof of Sampling, PoSP) 프로토콜은 GPU 제공자를 신뢰할 필요 없이 추론 결과가 정확하게 계산되었음을 암호학적으로 검증합니다. Akash의 Starcluster 이니셔티브는 프로토콜 소유의 엔터프라이즈급 데이터 센터를 탈중앙화 마켓플레이스와 결합하여, 비용 절감과 신뢰성 보장을 동시에 제공하는 하이브리드 모델을 구축하고 있습니다.

베라 루빈의 역설 (The Vera Rubin Paradox)​

GTC 2026에서 NVIDIA CEO 젠슨 황(Jensen Huang)은 하나의 거대한 AI 슈퍼컴퓨터로 설계된 7개의 새로운 칩과 5가지 랙 유형인 베라 루빈(Vera Rubin) 플랫폼을 공개했습니다. 주요 지표는 이전 모델인 그레이스 블랙웰(Grace Blackwell) 대비 와트당 성능이 10배 향상되어, 기가와트당 5배 더 많은 수익을 창출한다는 것입니다.

황 CEO는 또한 2027년까지 블랙웰과 베라 루빈의 누적 주문량이 1조 달러에 달할 것으로 전망했습니다. 그리고 전력 위기가 얼마나 심각해졌는지를 보여주는 가장 분명한 신호로, NVIDIA는 지상 전력망의 제약을 완전히 우회하기 위해 설계된 궤도 데이터 센터인 베라 루빈 스페이스-1 (Vera Rubin Space-1)을 발표했습니다.

여기에 역설이 있습니다. 베라 루빈의 효율성 이득은 놀랍지만, 이는 기가와트 규모의 AI 팩토리 (AI factories)를 위해 설계되었습니다. 이는 NVIDIA가 말 그대로 우주에서 해결책을 찾을 정도로 전력 소모가 극심한 중앙 집중식 시설입니다. 반면, 추론 (inference) 워크로드는 기가와트급 시설이 필요하지 않습니다. 대신 지리적으로 분산되어 최종 사용자에게 가까운 수천 개의 소규모 배포가 필요합니다.

NVIDIA는 지금까지 구상된 것 중 가장 강력한 중앙 집중식 추론 머신을 구축하고 있습니다. DePIN 네트워크는 가장 분산된 머신을 구축하고 있습니다. 문제는 어떤 방식이 승리하느냐가 아니라, 각 방식이 어떤 워크로드에 가장 적합하느냐입니다. 프런티어 모델 학습과 대규모 배치 추론은 계속해서 중앙 집중식 시설에서 이루어질 것입니다. 실시간성, 지연 시간에 민감한 성능, 지리적 다양성이 요구되는 추론은 탈중앙화 네트워크가 구조적 우위를 점하는 영역입니다.

특화된 추론 계층 (The Specialized Inference Layer)​

범용 GPU 공유를 넘어선 목적 기반 추론 DePIN 네트워크라는 다음 진화가 이미 나타나고 있습니다.

Ritual은 블록체인을 위한 최초의 AI 코프로세서로 자리매김했습니다. 이를 통해 스마트 컨트랙트는 오라클에 가격 데이터를 요청하는 것과 동일한 방식으로 신경망 추론을 요청할 수 있습니다. 이는 DeFi 프로토콜이 오프체인 API를 신뢰하지 않고도 AI 의사 결정을 통합할 수 있는 네이티브 온체인 추론 계층을 생성합니다.

Hyperbolic은 모든 계산을 암호학적으로 증명할 수 있는 검증 가능한 추론 네트워크를 구축하고 있습니다. 금융 서비스, 의료, 법률 등 AI 결과물을 감사해야 하는 기업들에게 이는 탈중앙화 컴퓨팅 채택을 가로막았던 신뢰 문제를 해결해 줍니다.

이러한 전문 네트워크는 DePIN이 "저렴한 GPU"에서 하이퍼스케일러가 경제적으로 복제하기 어려운 세밀한 수준의 검증 가능한 계산, 온체인 통합 및 지리적 분산과 같은 중앙 집중식 클라우드가 해결할 수 없는 문제를 해결하는 인프라로 성숙했음을 의미합니다.

향후 전망 (What Comes Next)​

추론 시대는 학습 시대보다 DePIN의 독창적인 논리를 더 잘 입증합니다. 학습은 긴밀한 결합 (tight coupling)이 필요하지만, 추론은 광범위한 분산이 필요합니다. 학습은 배치 프로세스인 반면, 추론은 연속적입니다. 학습은 비용 센터이지만, 추론은 수익이 발생하는 곳입니다.

향후 12개월 동안 주목해야 할 세 가지 발전 사항은 다음과 같습니다:

  1. 기업의 하이브리드 도입: 프로토콜 소유의 기업용 하드웨어와 탈중앙화된 용량을 결합한 Akash의 Starcluster 모델이 템플릿이 될 것입니다. 기업들이 하룻밤 사이에 완전히 탈중앙화되지는 않겠지만, 버스트 용량 (burst capacity) 확보와 에지 배포를 위해 DePIN 네트워크를 사용하는 비중이 점점 늘어날 것입니다.

  2. 검증 가능한 추론의 필수화: AI 에이전트가 금융 거래, 의료 결정 및 법률 분석을 처리함에 따라, 추론이 올바르게 계산되었음을 증명하는 능력은 선택 사항에서 규제 요구 사항으로 바뀔 것입니다. Hyperbolic과 Ritual 같은 프로젝트들이 현재 이 인프라를 구축하고 있습니다.

  3. 500억 달러 규모의 추론 칩 시장이 하드웨어 다양성을 창출: NVIDIA, AMD, Intel 및 맞춤형 ASIC 제조사들이 추론에 최적화된 실리콘을 시장에 쏟아내면서, DePIN 네트워크는 하이퍼스케일러가 따라올 수 없는 워크로드별 최적화를 제공하며 단일 클라우드 공급업체보다 이러한 이기종 하드웨어를 더 효과적으로 통합할 것입니다.

글로벌 AI 인프라 시장은 2026년에 1조 3,600억 달러에 달할 것으로 예상됩니다. 지출의 대부분은 학습 클러스터에서 추론 인프라로 이동하고 있습니다. 탈중앙화 GPU 네트워크가 이 시장 전체를 점유하지는 못하겠지만, 그럴 필요도 없습니다. 추론 시장의 단 한 자릿수 퍼센트만 차지하더라도, 안정성, 지연 시간 및 비용 측면에서 성과를 낼 수 있는 DePIN 네트워크에게는 수십억 달러 규모의 기회가 될 것입니다.

학습 시대는 중앙 집중식 하이퍼스케일러의 시대였습니다. 추론 시대의 주도권은 누구에게나 열려 있으며, 탈중앙화 네트워크의 아키텍처가 바로 이 시대가 요구하는 정답일 수 있습니다.

BlockEden.xyz는 차세대 DePIN 프로토콜을 구동하는 Sui, Aptos, Ethereum을 포함한 주요 블록체인 네트워크를 위해 고성능 API 인프라를 제공합니다. API 마켓플레이스 탐색하기를 통해 탈중앙화된 미래를 위해 설계된 인프라 위에서 개발을 시작해 보세요.

Share on Twitter