ChatGPT와 AI 검색 서비스가 빠르게 확산되면서 기업들은 데이터센터를 짓고 GPU를 확보하는 데 막대한 자금을 투입하고 있습니다.

사용자가 늘고 AI 매출이 증가하면 기업의 이익도 같은 속도로 늘어날 것처럼 보입니다. 그러나 생성형 AI는 기존 소프트웨어와 비용이 발생하는 방식부터 다릅니다.

기존 소프트웨어는 한 번 개발한 프로그램을 더 많은 사용자에게 제공하더라도 추가 비용이 크게 늘지 않았습니다. 반면 생성형 AI는 사용자가 질문하거나 이미지와 영상을 만들 때마다 GPU가 작동하고 전력과 데이터센터 자원이 사용됩니다.

저도 예전에는 빅테크 실적을 볼 때 매출 성장률과 영업이익부터 확인했습니다. 하지만 AI 투자가 본격적으로 확대된 뒤에는 매출이 늘어도 설비투자와 현금 지출이 더 빠르게 증가하는 경우가 눈에 들어오기 시작했습니다.

그때부터 AI 기업을 볼 때는 매출뿐 아니라 CAPEX와 자유현금흐름이 어떻게 변하고 있는지를 함께 확인하고 있습니다.

AI 산업의 핵심은 사용자가 얼마나 늘어나는지가 아니라, 늘어난 사용량을 얼마나 낮은 비용으로 처리할 수 있는가에 있습니다.

---

핵심 요약

AI 한계비용은 AI 서비스를 한 번 더 제공할 때 발생하는 추가 비용입니다.

기존 소프트웨어보다 생성형 AI는 사용자 요청을 처리하는 데 필요한 연산 부담이 큽니다.

이용량이 늘면 GPU와 전력 비용뿐 아니라 데이터센터 투자도 확대될 수 있습니다.

AI 기업은 매출 성장뿐 아니라 비용 효율과 투자 이후 남는 현금을 함께 확인해야 합니다.

장기적으로는 모델 성능뿐 아니라 운영 효율과 가격 결정력이 중요합니다.

---

AI 한계비용이란 무엇일까?

경제학에서 한계비용(Marginal Cost)​은 상품이나 서비스를 하나 더 생산하거나 제공할 때 추가로 발생하는 비용을 의미합니다.

예를 들어 빵집에서 빵 한 개를 더 만들려면 밀가루와 버터, 전기료가 추가로 필요합니다. 이때 들어가는 비용이 한계비용입니다.

디지털 서비스에도 같은 개념을 적용할 수 있습니다.

기존 소프트웨어는 프로그램을 한 번 개발하면 수많은 사용자에게 반복해서 판매할 수 있습니다. 이용자가 늘어나면 서버와 고객 지원 비용이 증가할 수 있지만, 사용자마다 프로그램을 새로 만들 필요는 없습니다.

반면 생성형 AI는 사용자가 요청할 때마다 새로운 연산을 수행합니다. 질문에 답하거나 이미지를 생성하는 과정에서 GPU가 가동되고 전력, 네트워크, 데이터센터 자원이 사용됩니다.

즉, 생성형 AI는 서비스 이용량이 증가하면 요청을 처리하는 데 필요한 실제 운영비도 함께 늘어날 수 있는 구조입니다.

다만 AI 한계비용이 존재한다고 해서 반드시 수익성이 낮다는 뜻은 아닙니다. 요청 한 건당 비용보다 고객에게 받는 금액이 충분히 크고, 기술 발전으로 단위 비용을 계속 낮출 수 있다면 높은 이익을 만들 수 있습니다.

---

AI 한계비용은 기존 소프트웨어와 무엇이 다를까?

비교 항목	기존 IT·소프트웨어	생성형 AI
추가 이용 비용	비교적 낮은 편	요청량에 따라 증가
주요 인프라	일반 서버·클라우드	GPU·AI 서버·고성능 네트워크
전력 사용	비교적 안정적	연산량과 함께 증가 가능
데이터센터 역할	저장·전송 중심	연산·전력·냉각 중심
수익성 핵심	사용자 확대와 규모의 경제	단위 비용 절감과 가격 결정력
주요 확인 지표	매출·영업이익	매출·마진·CAPEX·자유현금흐름

결국 두 산업의 가장 큰 차이는 사용량이 늘어날 때 AI 한계비용이 얼마나 함께 증가하느냐에 있습니다.

기존 IT 기업에도 서버와 네트워크 비용은 발생합니다. 따라서 기존 소프트웨어의 한계비용이 완전히 0이라고 볼 수는 없습니다.

차이는 사용자의 요청을 처리할 때 필요한 연산량에 있습니다.

생성형 AI는 단순히 저장된 정보를 전달하는 것이 아니라, 요청이 들어올 때마다 모델이 답변을 새롭게 만들어야 합니다. 이용량이 늘면 GPU 가동 시간과 전력·냉각 비용도 함께 증가할 수 있습니다.

---

AI 사용량이 늘면 기업의 비용은 어떻게 달라질까?

AI 한계비용은 사용자의 요청을 한 건 더 처리할 때 추가로 발생하는 연산과 전력, 인프라 비용을 의미합니다.

사용자가 늘어나면 먼저 추론 요청이 증가합니다. 요청이 많아질수록 GPU 가동 시간이 길어지고, 전력과 냉각, 네트워크 비용도 함께 커질 수 있습니다. 여기까지는 이용량 증가에 따라 발생하는 운영비에 가깝습니다.

이후 기존 처리 용량만으로 요청을 감당하기 어려워지면 기업은 GPU를 추가로 구매하거나 새로운 데이터센터를 확보해야 합니다. 이 과정에서 장기 설비투자인 CAPEX가 늘어나고, 이후에는 감가상각비 부담도 점차 커질 수 있습니다.

실제로 마이크로소프트는 AI 인프라 수요에 대응하기 위해 데이터센터 용량을 확대하고 있으며, 2025 회계연도 기준 전 세계 70개 지역에서 400개가 넘는 데이터센터를 운영하고 있다고 밝혔습니다.

AI 이용량 증가가 기업 재무에 미치는 영향은 다음 세 가지로 나누어 볼 수 있습니다.

1. 운영비 증가
   GPU 가동, 전력, 냉각, 네트워크 비용이 늘어납니다.
2. 설비투자 확대
   늘어난 이용량을 처리하기 위해 GPU와 데이터센터 투자가 확대됩니다.
3. 현금흐름과 이익률 부담
   투자 시점에는 현금이 빠져나가고, 이후에는 감가상각비가 이익률에 반영됩니다.

따라서 AI 사용자가 늘어나는 것은 분명 긍정적이지만, 비용이 매출보다 더 빠르게 증가한다면 수익성은 기대만큼 좋아지지 않을 수 있습니다.

---

AI 학습(Training)과 추론(Inference)은 무엇이 다를까?

생성형 AI에 들어가는 연산 비용은 크게 모델을 만드는 학습과 실제 서비스를 운영하는 추론으로 나눠 볼 수 있습니다.

Training은 대규모 데이터를 이용해 AI 모델을 학습시키는 과정입니다. 새로운 모델을 만들거나 기존 모델의 성능을 높일 때 많은 GPU와 전력이 필요합니다. 주로 모델 개발 단계에서 발생하는 대규모 선행 비용에 가깝습니다.

Inference는 학습이 끝난 모델이 실제 사용자의 질문에 답하거나 콘텐츠를 생성하는 과정입니다. 서비스를 이용할 때마다 반복되기 때문에 사용자 증가와 직접적으로 연결되는 운영비 성격이 강합니다.

간단히 정리하면 다음과 같습니다.

• 학습(Training): 좋은 모델을 만들기 위한 대규모 선행 연산
• 추론(Inference): 완성된 모델로 실제 요청을 처리하는 반복 연산

투자자 입장에서는 학습 비용만큼이나 추론 효율을 살펴볼 필요가 있습니다. 사용자가 빠르게 늘어도 요청 한 건을 처리하는 비용이 충분히 낮아지지 않는다면 서비스 확장이 이익 증가로 바로 이어지지 않을 수 있기 때문입니다.

---

한계비용과 CAPEX는 같은 비용일까?

AI 한계비용과 CAPEX는 서로 연결되어 있지만 같은 비용은 아닙니다. 전자는 AI 요청 한 건을 추가로 처리할 때 발생하는 GPU 사용료와 전력비, 네트워크 비용 등에 가깝습니다.

CAPEX(Capital Expenditure)​는 데이터센터, GPU 서버, 네트워크 장비처럼 여러 해 동안 사용하는 설비에 투자하는 비용입니다.

사용량이 증가하면 당장의 운영비가 늘어납니다. 이후 기존 설비만으로 요청을 처리하기 어려워지면 새로운 GPU와 데이터센터 투자가 필요해지고 CAPEX도 확대될 수 있습니다.

알파벳도 AI 인프라를 중심으로 CAPEX를 확대하면서, 과거 설비투자가 감가상각비 증가를 통해 손익계산서에 부담을 줄 수 있다고 설명했습니다.

기업의 비용을 이해할 때는 다음 네 가지 용어를 구분하면 좋습니다.

용어	의미	투자자가 확인할 부분
AI 한계비용	요청 한 건을 추가 처리하는 비용	이용량 증가에 따른 단위 비용
CAPEX	GPU·데이터센터 등에 투자한 금액	선행 투자 규모와 회수 가능성
감가상각비	설비투자를 여러 해에 나누어 반영한 비용	향후 이익률 영향
자유현금흐름	영업현금흐름에서 CAPEX를 차감한 현금	투자 후 실제 남는 현금

이 네 가지를 함께 보면 AI 사업의 성장과 경제성을 보다 명확하게 구분할 수 있습니다.

AI 매출이 성장하고 있다는 사실과 AI 사업의 경제성이 개선되고 있다는 사실은 같은 의미가 아닙니다.

---

왜 자유현금흐름을 함께 봐야 할까?

기업이 데이터센터를 짓거나 GPU를 구매하면 현금은 투자 시점에 먼저 빠져나갑니다.

반면 손익계산서에서는 투자금 전체를 바로 비용으로 처리하지 않고, 여러 해에 걸쳐 감가상각비로 반영합니다. 이 때문에 영업이익은 좋아 보여도 실제 현금흐름은 약해질 수 있습니다.

자유현금흐름은 일반적으로 다음과 같이 이해할 수 있습니다.

영업활동으로 벌어들인 현금 – 설비투자 = 자유현금흐름

AI 매출이 빠르게 늘더라도 CAPEX가 더 빠르게 증가하면 기업에 남는 현금은 줄어들 수 있습니다.

그래서 AI 기업의 실적을 볼 때는 손익계산서뿐 아니라 현금흐름표까지 함께 확인해야 합니다.

---

GPU 효율이 좋아지면 비용은 줄어들까?

최신 GPU는 이전 세대보다 전력 대비 더 많은 연산을 처리하고 있습니다. AI 모델 역시 같은 성능을 더 적은 연산량으로 구현하도록 개선되고 있습니다.

기업들은 모델 경량화, 캐싱, 배치 처리, 전용 AI 반도체 등을 활용해 요청 한 건당 비용을 낮추려 하고 있습니다. 이런 개선이 실제 서비스에 적용되면 요청 한 건당 AI 한계비용도 낮아질 수 있습니다.

AI 추론 비용을 비교할 때는 GPU 가격만 보는 것이 아니라 처리 속도와 서버 이용률, 토큰당 비용을 함께 살펴봐야 합니다.

하지만 단위 비용이 낮아지는 것과 기업의 전체 비용이 줄어드는 것은 다른 문제입니다.

질문 한 번의 처리 비용이 절반으로 줄어도 전체 질문 횟수가 열 배 증가하면 총비용은 오히려 커질 수 있습니다. AI 활용 범위 역시 챗봇에서 검색, 코딩, 고객 상담, 이미지·영상 생성, 업무 자동화로 계속 확대되고 있습니다.

경제학에서는 효율이 개선됐음에도 사용량이 더 크게 늘면서 전체 소비가 증가하는 현상을 제번스의 역설이라고 부릅니다.

AI 산업이 반드시 같은 결과를 보인다고 단정할 수는 없습니다. 다만 투자자는 단위당 비용 감소만 볼 것이 아니라 전체 사용량과 총비용이 어떻게 변하는지도 함께 확인해야 합니다.

---

AI 한계비용이 낮아지면 수익성은 좋아질까?

요청 한 건당 비용이 낮아지면 매출총이익률 개선에는 긍정적입니다.

하지만 비용 감소가 자동으로 이익 증가로 이어지는 것은 아닙니다. 경쟁이 심해지면 기업이 서비스 가격을 낮추거나 무료 이용 범위를 확대할 수 있기 때문입니다.

AI 기업의 수익성을 판단할 때는 세 가지를 함께 봐야 합니다.

단위 비용: 요청 한 건을 처리하는 비용이 얼마나 빠르게 낮아지는가?

가격 결정력: 비용과 서비스 가치를 구독료나 사용료에 반영할 수 있는가?

고객당 수익성: 고객당 매출이 서비스 제공 비용보다 빠르게 증가하는가?

결국 AI 기업의 경쟁력은 기술 효율뿐 아니라 이를 매출과 현금으로 연결하는 수익화 능력에 의해 결정됩니다.

---

투자자는 무엇을 확인해야 할까?

저는 AI 관련 기업의 실적을 볼 때 매출 성장률만 따로 보지 않습니다. AI 수요가 실제 유료 매출로 이어지고 있는지 확인한 뒤, 그 성장을 유지하는 데 필요한 비용과 현금을 함께 살펴봅니다.

1. 매출 성장률

AI 수요가 실제 유료 매출로 이어지고 있는지 살펴봅니다. 사용자 수만 늘고 매출이 따라오지 않는다면 수익화가 충분하지 않을 수 있습니다.

2. 매출총이익률

서비스 이용량이 증가해도 수익성이 유지되는지 확인합니다. 매출은 늘지만 매출총이익률이 하락한다면 서비스 제공 비용이 더 빠르게 증가하고 있을 가능성이 있습니다.

3. CAPEX

데이터센터와 GPU 투자가 얼마나 빠르게 확대되는지 확인합니다. CAPEX 증가는 미래 성장을 위한 선행 투자일 수 있지만, 매출이나 영업현금흐름보다 지나치게 빠르게 늘면 부담이 될 수 있습니다.

4. 자유현금흐름

대규모 투자를 마친 뒤에도 기업에 실제 현금이 남는지 살펴봅니다. 영업이익은 늘었지만 자유현금흐름이 감소한다면 현재의 성장에 많은 현금이 필요하다는 의미일 수 있습니다.

5. 감가상각비

과거의 설비투자가 현재 이익률을 얼마나 압박하는지 확인합니다. CAPEX가 크게 늘어난 기업은 향후 감가상각비도 증가할 가능성이 높습니다.

6. 가격 결정력

비용이 상승해도 이를 서비스 가격에 반영할 수 있는지 살펴봅니다. 고객당 매출이 서비스 제공 비용보다 빠르게 증가하는지도 중요합니다.

자주 묻는 질문 FAQ

---

마무리

AI 산업은 기존 소프트웨어 산업과 비슷해 보이지만, 비용이 발생하는 방식에는 분명한 차이가 있습니다.

생성형 AI는 사용자가 서비스를 이용할 때마다 GPU와 전력, 데이터센터 자원을 사용합니다. 이용량이 늘면 매출뿐 아니라 AI 한계비용과 설비투자 부담도 함께 커질 수 있습니다.

따라서 AI 기업을 사용자 수나 매출 성장률만으로 판단하기는 어렵습니다. 늘어난 매출이 실제 이익과 현금으로 남고 있는지, 그 성장을 유지하기 위해 얼마나 많은 설비와 비용이 필요한지를 함께 살펴봐야 합니다.

앞으로 빅테크 실적을 볼 때는 두 가지 질문을 함께 던져볼 필요가 있습니다.

AI 매출은 얼마나 늘었는가?
그 매출을 만들기 위해 얼마의 현금과 설비가 필요했는가?

결국 중요한 것은 기업이 AI 한계비용을 얼마나 효율적으로 낮추고, 증가한 비용을 가격과 매출로 얼마나 빠르게 회수하느냐입니다.

AI 시대의 경쟁력은 뛰어난 모델 하나만으로 결정되지 않습니다. 좋은 기술을 낮은 비용으로 제공하면서 충분한 현금까지 남길 수 있는 기업이 장기적으로 더 강한 경쟁력을 갖게 될 가능성이 높습니다.