지난 2년 동안 인공지능은 그 중심을 변화시켰습니다. 2022-2023년에는 모든 것이 대형 모델과 그 훈련에 초점을 맞추고 있었다면, 오늘날 진정한 전쟁은 더 이상 모델의 구축이 아니라, 그들의 지속적인 실행, 매일 수십억 개의 쿼리에 응답할 수 있는 능력에 있습니다. 이것이 바로 inference의 전쟁이며, 이는 생각보다 훨씬 중요합니다.
Messari는 보고서 “State of AI 2025”에서 명확히 밝히고 있습니다: 2030년까지 추론은 전 세계 계산 수요의 50%에서 75%를 차지할 것입니다. 이는 AI 인프라의 지형을 완전히 재구성할 만큼 높은 수치입니다.
오늘날 사용자가 ChatGPT를 열 때마다 이미지를 생성하고, 조언을 구하고, 텍스트를 분석하고, 웹 탐색을 요청하거나 결정을 내리도록 요청할 때마다 inference를 소비하고 있습니다. 그리고 이는 아무도 보지 않는 가운데 지속적으로 작업을 수행하는 수천 개의 AI 에이전트에게도 동일하게 적용됩니다.
결과적으로 계산 소비가 수직으로 증가하여, 모델 자체를 훈련하는 데 필요한 것보다 훨씬 더 커집니다.
목차
새로운 압박: 실제 사용자, 실제 상호작용
이 성장의 이유는 여러 가지가 있지만, 모두 하나의 방향으로 수렴합니다: AI는 이제 대중적인 서비스입니다. 사용자들은 더 이상 실험에 그치지 않고, AI를 일상적이고 지속적이며 점점 더 복잡한 방식으로 사용하고 있습니다.
ChatGPT 세션이 더 길고 복잡해졌습니다: Messari의 데이터에 따르면, 모델에 소비된 시간이 1년 만에 두 배로 증가했으며, 단일 세션의 평균 지속 시간은 75% 상승했습니다. 이는 명확한 신호입니다: AI는 더 이상 “일시적인” 보조자가 아니라, 사용자가 더 오래 머물며 더 확장되고 토큰 밀도가 높은 요청을 하는 진정한 운영 환경이 되었습니다.
여기에 AI 소비자의 폭발적인 증가가 더해졌습니다. 2024년에는 인공지능 앱이 다운로드 수 10억 건을 돌파하며 연간 100% 이상의 성장을 기록했습니다. ChatGPT는 현재 주간 사용자 수가 7억 명을 넘었으며, Gemini, Copilot, Claude도 유사한 속도로 성장하고 있습니다. 이는 지속적인 요청의 물결로, 컴퓨팅으로 이어지며 결국 비용으로 연결됩니다.
“reasoning” 요소: 지능형 모델의 높은 비용
모든 것을 더욱 무겁게 만드는 것은 “reasoning”에 중점을 둔 모델의 부상입니다. 이 모델들은 단순히 문장을 완성하는 데 그치지 않고, 논리적으로 사고하고, 설명하며, 계획을 세우려고 시도합니다. 이러한 모델들은 전통적인 모델에 비해 동일한 질문에 답하기 위해 최대 열 배 더 많은 토큰을 소비합니다.
여기에 DeepSeek이 입증한 바와 같이, 업계가 이제 강화 학습 기반의 포스트 트레이닝 기법을 채택했다는 사실을 더하면, 컴퓨팅에 대한 압박은 더욱 폭발적으로 증가합니다. 강화 학습은 각 문제마다 수천 번의 반복을 생성하여 산업 규모로 계산 소비를 곱합니다.
다시 말해: AI가 더 똑똑해질수록, 운영 비용이 더 많이 든다.
비용 문제: 추론이 AI의 새로운 “핵심”이 되다
자주 간과되는 점이 하나 있습니다: 트레이닝은 엄청난 비용이 들지만, 이는 일회성 비용입니다. 일단 모델이 훈련되면 존재하게 됩니다. 반면에 인퍼런스는 지속적인 비용으로, 이를 사용하는 사용자, 에이전트 및 애플리케이션의 수에 비례하여 무한히 발생합니다.
대형 연구소 — OpenAI, Anthropic, Google — 에게 inference는 지배적인 지출 항목이 되었습니다. 이 동향은 crypto 생태계와 매우 밀접하게 관련된 조용한 혁명을 위한 공간을 창출하고 있습니다.
오픈 소스가 균형을 뒤집다: 더 작고, 더 빠르고, 훨씬 더 경제적인 모델
모델의 크기와 복잡성이 계속 증가함에 따라 오픈 소스는 빠르게 격차를 좁히고 있습니다. Messari가 인용한 Artificial Analysis 벤치마크에 따르면, 최고의 closed 모델과 대규모 open 모델 간의 차이는 오늘날 비용과 비교했을 때 놀랍도록 줄어들었습니다.
1200억 개의 매개변수를 가진 오픈 모델은 ChatGPT-5에 비해 추론 비용이 최대 90%까지 절감되며, 전반적으로 미미한 수준의 성능 손실이 있습니다.
하지만 진정한 혁신은 small 및 mid-size 모델, 즉 4억에서 40억 개의 파라미터를 가진 모델에 관한 것입니다. 오늘날, 이러한 모델 중 다수는 RTX 4090 또는 5090과 같은 단일 소비자용 GPU에서도 복잡한 작업을 해결할 수 있습니다. 이는 추론이 더 이상 거대한 데이터 센터에 중앙 집중화될 필요가 없으며, 분산될 수 있음을 의미합니다.
그리고 바로 이곳에서 decentralized AI의 세계가 자연스러운 기반을 찾습니다.
탈중앙화 컴퓨팅 네트워크(DCN)의 부상: 새로운 컴퓨팅 경제
탈중앙화 컴퓨팅 네트워크 (DCN) — Render, Akash, io.net, Aethir, Hyperbolic, EigenCloud 및 Exabits와 같은 — 전 세계에 분산된 수백만 개의 GPU를 집계합니다. 수년간 이러한 네트워크는 진정한 시장을 찾는 데 어려움을 겪었습니다. 대규모 모델의 훈련은 GPU 간의 지연과 지속적인 정보 교환으로 인해 단순히 너무 복잡했습니다.
하지만 추론은 또 다른 이야기입니다.
추론은 수평적 통신이 훨씬 적게 필요하며, 고도로 병렬화된 방식으로 실행될 수 있고 이기종 하드웨어를 활용할 수 있습니다. 완벽하고 초동기화된 클러스터가 필요하지 않습니다. 이는 특히 더 작은 모델들이 놀라울 정도로 강력해지고 있는 지금, 수천 개의 분산된 노드에 이상적인 작업입니다.
이번에는 시장이 실제로 존재합니다. 그리고 Messari는 이를 전체 deAI 부문의 첫 번째 진정한 “product-market fit”이라고 정의합니다.
Fortytwo 사례: 실용적인 예시로서의 스웜 인텔리전스
가장 흥미로운 혁신 중 하나로, 보고서는 Fortytwo Network를 언급합니다. 이 네트워크는 사용자들의 노트북에 설치된 작은 모델들을 조정합니다. 이러한 모델들은 군집처럼 함께 작동하며, 각각 동일한 질문에 답하고, 다른 모델들의 답변을 평가한 후, 네트워크는 합의에 기반한 최적화된 답변을 생성합니다.
이 메커니즘은 온체인에서 신용, 평판 및 보상을 생성합니다. 그리고 Fortytwo는 이 메커니즘의 효율성을 통해 swarm에서 완전히 생성된 데이터셋을 생산하고, Rust에서 전문화된 모델을 후속 학습하여 훨씬 더 큰 모델보다 우수한 결과를 얻을 수 있었습니다.
탈중앙화가 단순히 바람직한 것에 그치지 않고 이미 경쟁력을 갖추고 있다는 구체적인 예입니다.
검증 문제: 탈중앙화 추론을 위한 필수 요소
분산 노드에서 요청이 실행될 때마다 중요한 질문이 제기됩니다: 결과가 올바른지 어떻게 확신할 수 있을까요? 바로 이 지점에서 crypto가 결정적으로 작용합니다.
Messari는 오늘날 지배적인 세 가지 접근 방식을 분석합니다:
- 영지식 증명(zkML), 느리지만 극도로 안전함;
- 낙관적 시스템, 결과가 challenge가 없는 한 유효한 것으로 간주되는 경우;
- 하드웨어 신뢰를 기반으로 하지만 더 빠른 하드웨어 인클레이브(TEE).
이 분야의 선구자 중 하나로 언급되는 EigenCloud는 OpenAI의 API와 호환되며, Coinbase와 Google의 에이전트 프레임워크에 이미 사용되고 있는 결정론적이고 검증 가능한 추론을 시장에 선보이고 있습니다.
검증은 단순한 기술적 세부사항이 아닙니다: 이는 AI를 금융, 건강, 거버넌스, 자율 거래에 적합하게 만드는 요소입니다. 이는 AI와 Web3를 연결하는 다리입니다.
미래: 지속적으로 컴퓨팅을 소비하는 에이전트 경제
보고서의 결론은 명확합니다: AI의 미래는 더 큰 모델에 의해 지배되는 것이 아니라, 추론을 가장 확장 가능하고 경제적이며 검증 가능한 방식으로 제공할 수 있는 자에 의해 지배될 것입니다. 오늘날 인간 사용자가 수백만 건의 요청을 생성한다면, 내일은 자율 에이전트가 수십억 건을 생성할 것입니다. 그리고 이러한 요청 각각은 계산 비용을 수반할 것입니다.
그 시점에서 decentralized compute networks는 더 이상 실험적인 대안이 아니라 경제적 필수가 될 것입니다.
결론
우리는 training이 아닌 inference의 시대에 접어들고 있습니다.
수요가 무한히 증가하고, 계산이 더 이상 고립된 투자가 아니라 지속적인 흐름이 되는 시대이며, 수백만 개의 모델 — 크든 작든 — 매초마다 서비스되어야 하는 시대입니다.
바로 이 거대한 경제 공간에서, 암호화폐 세계는 가장 자연스러운 역할을 찾고 있습니다: 점점 더 지능화되는 사회를 지탱하기 위해 필요한 계산 능력을 조정하고, 검증하며, 분배하고 경제화하는 것입니다.




