[반도체 경제학 11편] AI는 반도체를 얼마나 먹어치우는가 — 엔비디아·HBM·전력·양자컴퓨터
[반도체 경제학 11편] AI는 반도체를 얼마나 먹어치우는가 — 엔비디아·HBM·전력·양자컴퓨터
📌 도입 — "공급 이야기를 10편이나 했는데, 그 수요는 어디서 왔나"
안녕하세요, 오십보입니다.
1편부터 10편까지, 긴 여정이었습니다. 반도체가 뭔지, 어떻게 만드는지, 소재를 누가 쥐고 있는지, 공장이 어디에 들어서는지를 살펴봤습니다.
그런데 가만히 생각해보면 이런 질문이 남습니다. 왜 중국은 갈륨과 헬륨 관련 소재를 지금 통제할까요? 왜 용인 클러스터에 그렇게 큰 돈이 계획될까요? 왜 TSMC는 애리조나 투자를 계속 늘릴까요? 왜 ASML의 EUV 장비는 주문 후 한참을 기다려야 할까요?
이 모든 공급 측면의 움직임은 결국 수요 하나로 상당 부분 수렴합니다. AI입니다.
오늘 11편은 1~10편에서 다룬 공급 이야기를 AI라는 수요의 렌즈로 다시 읽는 편입니다. 그리고 이 수요가 만들어내는 새로운 전장 — HBM 경쟁, 전력·패키징 병목, 그리고 양자컴퓨터라는 다음 챕터 — 을 함께 살펴봅니다.
◼ 1부 — AI는 전력을 얼마나 먹어치우나
숫자로 규모감을 잡아보겠습니다. 다만 데이터센터 전력 전망은 조사기관마다 기준이 달라서, 출처를 구분해서 보는 것이 안전합니다.
시장조사기관 가트너는 2026년 전 세계 데이터센터 전력 소비가 전년 대비 26% 늘어날 것으로 전망했고, 이 중 AI 최적화 서버가 전체 데이터센터 전력의 약 31%를 차지할 것으로 봤습니다. 국제에너지기구(IEA)는 조금 더 긴 시계열로, 전 세계 데이터센터 전력 사용량이 2024년 약 415TWh(테라와트시)에서 2030년 약 945~950TWh로 두 배 이상 늘어날 것으로 전망합니다. 다만 이 규모가 세계 전체 전력 소비에서 차지하는 비중은 2030년에도 대략 3% 안팎 수준으로 추정됩니다. 세계 전체로 보면 비중 자체는 크지 않지만, 데이터센터가 몰린 특정 지역의 전력망과 신규 발전 수요에는 이야기가 다릅니다. 그 지역 전력망에는 상당히 큰 부담이 될 수 있습니다.
이 전력을 가장 많이 쓰는 것이 AI용 GPU입니다. 엔비디아의 최신 AI 시스템인 GB200 NVL72(GPU 72개를 하나의 랙으로 묶은 구성)는 랙 한 대가 약 120kW 안팎의 전력을 쓰는 것으로 알려져 있습니다. 일반적인 기업용 서버 랙보다 훨씬 높은 전력 밀도입니다. 그래서 대규모 AI 클러스터에는 GPU 확보 못지않게 고압 전력 공급, 수랭식 냉각, 변압기·배전 설비를 함께 갖추는 것이 관건이 됩니다.
◼ 2부 — 엔비디아 생태계 해부: GPU만 파는 게 아니다
7편에서 엔비디아를 팹리스의 대표 사례로 배웠습니다. 오늘은 한 층 더 들어갑니다.
엔비디아의 강점을 GPU 하드웨어만으로 설명하기는 부족합니다. CUDA(Compute Unified Device Architecture)라는 소프트웨어 플랫폼이 함께 작동하기 때문입니다. CUDA는 2006년 엔비디아가 공개한 GPU 병렬 연산 플랫폼으로, 2012년 딥러닝 모델이 GPU로 큰 성과를 내면서 AI 연구자들 사이에서 널리 쓰이는 표준 도구가 됐습니다. 오랜 시간 라이브러리·개발자 교육·프레임워크·운영 경험이 쌓이면서, CUDA는 강한 전환비용을 만드는 생태계로 자리 잡았습니다.
다만 모든 AI 코드가 오직 엔비디아 GPU에서만 작동한다고 보는 것은 과장입니다. AMD의 ROCm, 인텔의 oneAPI 같은 대안이 존재하고, 파이토치(PyTorch)나 JAX 같은 프레임워크도 여러 하드웨어를 지원합니다. 다만 기존에 CUDA로 최적화된 코드를 다른 생태계로 옮기려면 성능 재최적화와 검증에 상당한 비용과 시간이 든다는 것이 현실적인 진입장벽입니다.
엔비디아의 실제 실적을 보면, 2027 회계연도 1분기 기준 전체 매출은 816억 달러였고, 이 가운데 데이터센터 부문 매출이 752억 달러로 대부분을 차지했습니다. 데이터센터 AI 가속기 시장에서 엔비디아의 매출 점유율은 조사기관에 따라 대략 75~85%대로 추정되는데, 정확한 수치는 자체 개발 칩(구글 TPU, 아마존 트레이니엄, 메타 MTIA 등)을 포함하는지 여부에 따라 크게 달라집니다. 다만 어떤 기준으로 봐도 압도적인 우위라는 점은 공통적입니다.
엔비디아가 하드웨어 회사인 줄 알았다면, 사실은 소프트웨어 생태계 위에 하드웨어를 얹은 플랫폼 회사에 더 가깝다는 것이 AI 시대에 더 정확한 설명입니다.
◼ 3부 — HBM 경쟁: SK하이닉스는 어떻게 앞서 나갔나
AI GPU 안에는 대부분 HBM(High Bandwidth Memory, 고대역폭 메모리)이 함께 들어갑니다. 3편에서 간략하게 다뤘지만, 오늘은 조금 더 들여다봅니다.
AI 모델은 매우 많은 데이터를 아주 빠른 속도로 GPU 안으로 넣어야 하는데, 단일 채널의 일반 DRAM만으로는 이 정도의 대역폭과 에너지 효율을 충족하기가 쉽지 않습니다. HBM은 메모리 다이 여러 개를 수직으로 쌓고 GPU 바로 옆에 배치해, 넓은 인터페이스로 아주 높은 대역폭을 제공하는 방식으로 이 문제를 완화합니다. 일반 DDR 메모리 대비 구체적인 속도 차이는 구성과 비교 기준에 따라 달라지므로 하나의 배수로 단정하기는 어렵습니다.
HBM은 AMD와 SK하이닉스 등 여러 기업의 협력과 2013년 JEDEC(반도체 표준화 기구) 표준화를 거치며 발전해온 기술입니다. SK하이닉스가 단독으로 발명했다기보다는, 이후 초기 양산과 HBM3·HBM3E 공급에서 빠르게 생산 능력을 확보하며 AI 가속기 수요가 폭발했을 때 선점 효과를 크게 누렸다고 보는 것이 정확합니다. 2022년 이후 엔비디아 GPU 수요가 급증하면서 HBM 수요도 함께 폭발했는데, SK하이닉스는 이미 HBM3 양산 체계를 갖추고 있었던 덕에 엔비디아의 핵심 파트너로 자리 잡았습니다.
HBM4를 둘러싼 경쟁 구도는 현재진행형입니다. 엔비디아의 차세대 시스템 베라 루빈(Vera Rubin NVL72)에 HBM4가 탑재된다는 것은 엔비디아 공식 자료로 확인되지만, SK하이닉스·삼성전자·마이크론 각 사의 정확한 공급 비중이 공식적으로 확정 공개된 것은 아닙니다. 시장 전망도 기관마다 다릅니다. 예를 들어 한 증권사 리서치는 2026년 SK하이닉스가 HBM 비트 출하량 기준 절반에 가까운 점유율을 차지하지만, 2027년에는 삼성전자와 SK하이닉스가 비슷한 수준으로 좁혀지고 마이크론이 그 뒤를 잇는 구도를 전망하기도 했습니다. 삼성전자는 HBM4에서 세계 최초 양산 타이틀을 확보하며 추격 중입니다. 즉 현재는 SK하이닉스의 선점 우위가 이어지는 가운데, 삼성전자와 마이크론이 생산 능력과 수율을 높이며 3강 경쟁으로 이동하는 국면으로 보는 것이 정확합니다.
한 가지 덧붙이면, HBM 경쟁은 메모리 셀 성능만의 경쟁이 아닙니다. 메모리 다이를 쌓고 GPU와 연결하는 인터포저·TSV(실리콘관통전극)·첨단 패키징·열 관리·테스트 수율이 함께 중요합니다. 앞으로의 경쟁에서는 HBM 생산량뿐 아니라 이 패키징·수율·고객 인증을 동시에 갖춘 기업이 유리할 가능성이 큽니다.
◼ 4부 — AI 반도체의 병목: 메모리, 전력, 그리고 시스템 전체
AI 가속기 시스템이 직면한 물리적 한계 몇 가지가 앞으로의 기술 방향을 결정하고 있습니다.
메모리 대역폭 병목은 오래된 컴퓨터 구조의 한계에서 비롯됩니다. 연산하는 곳(프로세서)과 데이터를 저장하는 곳(메모리)이 분리된 구조에서는, AI 모델이 커질수록 이 둘 사이를 오가는 구간이 병목이 됩니다. GPU가 아무리 빨라도 메모리에서 데이터를 가져오는 속도가 못 따라가면 GPU는 놀게 됩니다. 이를 흔히 '메모리 월(Memory Wall)'이라고 부릅니다. HBM이 이 문제를 상당 부분 완화하지만 완전히 없애지는 못하며, PIM(Processing-In-Memory)이나 CXL(Compute Express Link) 같은 차세대 기술이 이 한계를 더 밀어내려는 시도로 연구되고 있습니다.
전력도 핵심 변수입니다. 앞서 본 것처럼 랙 한 대가 100kW를 훌쩍 넘는 전력을 쓰는데, 대규모 AI 훈련 클러스터에는 이런 랙이 수백~수천 대 단위로 연결됩니다. 그런데 AI 반도체 시대의 병목은 GPU나 HBM 한 가지로 좁혀지지 않습니다. GPU와 HBM을 확보해도 고압 전력, 수랭식 냉각, 네트워크 스위치와 광통신 부품, 첨단 패키징, 데이터센터 부지가 함께 준비되지 않으면 AI 서버는 제대로 돌아가지 않습니다. 그래서 AI 인프라 투자는 반도체 기업만의 문제가 아니라 전력회사·케이블 기업·냉각 설비업체·건설사까지 얽힌 문제이기도 합니다.
빅테크 기업들의 AI 설비 투자 규모는 해마다 크게 늘고 있고, 이 투자가 실제 매출·이익으로 충분히 회수되고 있는지에 대한 논쟁, 이른바 'AI 버블론'도 함께 커지고 있습니다. 이 논쟁은 사실 세 가지 서로 다른 질문을 담고 있다고 볼 수 있습니다. AI가 실제로 유용한 성능을 내고 있는가라는 기술의 문제, AI 관련 매출이 막대한 설비투자와 감가상각을 감당할 만큼 나오고 있는가라는 수익화의 문제, 그리고 기업의 장기 이익 전망보다 주가가 먼저 과도하게 오른 것은 아닌가라는 주가의 문제입니다. 이 세 질문에 대한 답은 서로 다를 수 있다는 점이, 'AI 버블이냐 아니냐'를 단순하게 결론 내리기 어렵게 만드는 이유입니다.
한 가지 더 짚어볼 부분은 '학습(training)'과 '추론(inference)'의 구분입니다. 지금까지의 반도체 수요는 거대 모델을 만드는 학습 과정에 초점이 맞춰져 있었지만, 생성형 AI 서비스 이용자가 늘어날수록 서비스를 실제로 실행하는 추론 수요가 반복적으로 발생합니다. 앞으로 AI 인프라의 경제성은 '얼마나 큰 모델을 만들었는가'보다 '하나의 응답을 얼마나 적은 비용과 전력으로 처리하는가'로 점점 더 평가받을 가능성이 있습니다.
◼ 5부 — 양자컴퓨터: 다음 챕터인가, 아직 먼 미래인가
AI 반도체 이야기가 나올 때마다 "양자컴퓨터가 결국 기존 반도체를 대체하지 않을까?"라는 질문이 따라옵니다. 냉정하게 짚어보겠습니다.
기존 컴퓨터는 0 또는 1인 비트(bit)로 계산합니다. 양자컴퓨터는 큐비트(qubit)를 씁니다. 큐비트는 측정 전에는 0과 1의 중첩 상태로 표현될 수 있는데, 이것이 모든 계산을 동시에 해결한다는 뜻은 아닙니다. 양자 알고리즘이 중첩·얽힘·간섭이라는 양자역학적 성질을 특정 문제에 맞게 활용할 때만, 특정 유형의 문제(암호 해독, 분자 시뮬레이션, 일부 최적화 문제 등)에서 기존 컴퓨터보다 이론적으로 유리해질 수 있습니다.
2026년 현재 구글은 초전도 큐비트 방식의 윌로우(Willow) 칩으로 특정 벤치마크에서 의미 있는 성과를 보여줬고, IBM은 2029년까지 실용적인 오류보정 양자컴퓨터를 제공하겠다는 로드맵을 제시했습니다. 아이온Q 같은 이온트랩 방식 기업들도 정부·연구기관과의 계약을 확보하며 틈새 영역을 넓히고 있습니다. 다만 이런 발전들은 중요한 연구 성과이지, 실용적인 범용 양자컴퓨터가 이미 완성됐다는 뜻은 아닙니다.
양자컴퓨터가 지금 당장 기존 실리콘 반도체를 대체하기 어려운 이유는 크게 세 가지로 정리됩니다. 첫째, 큐비트는 외부 간섭에 매우 취약해 계산 오류(디코히어런스)가 잦고, 신뢰할 수 있는 연산을 위해서는 다수의 물리적 큐비트로 하나의 안정된 논리 큐비트를 구현하는 오류 수정 기술이 필요합니다. 이 극저온 환경이 필요한 것은 주로 초전도 큐비트 방식의 특징이며, 이온트랩·중성원자·광자 등 다른 방식은 요구되는 작동 환경이 각기 다릅니다. 둘째, 모든 연산에 양자컴퓨터가 유리한 것은 아닙니다. 범용 AI 연산이나 일반적인 데이터 처리에서는 여전히 기존 GPU·CPU가 더 효율적이어서, 양자컴퓨터는 현재 기술 수준에서 대체재라기보다 보완재에 가깝습니다. 셋째, 큐비트 수 확장, 오류율 감소, 소프트웨어 생태계 구축 등 상용화까지 넘어야 할 과제가 여전히 많이 남아 있습니다.
양자컴퓨팅 시장 규모에 대한 전망은 조사기관마다 편차가 매우 큽니다. 어떤 전망은 수백억 달러 규모를, 어떤 전망은 수천억 달러 규모를 이야기하기도 해서, 지금 시점에 하나의 확정된 숫자로 제시하기는 어렵습니다. 종합하면, 양자컴퓨터는 특정 산업 분야에서 오류보정 기술의 발전과 함께 점차 실질적인 역할을 넓혀갈 것으로 예상되지만, 그 시점을 지금 정확히 못 박기는 어렵고, 반도체 산업의 주류 자리를 가까운 시일 내에 대체하지는 않을 것으로 보입니다. 투자자 관점에서는 실적에 기반한 투자보다는 기대감이 앞선 테마 투자 영역에 가깝다고 보는 시각이 많습니다.
◼ 6부 — 1~10편을 AI 렌즈로 다시 읽기
여기서 잠깐 되돌아봅니다.
5편에서 배운 중국의 갈륨·게르마늄 관련 소재 통제는 AI 가속기용 전력반도체 수요 확대와 무관하지 않습니다. 9편의 ASML EUV 장비 품귀 현상 뒤에는 AI 칩을 만들기 위한 TSMC·삼성의 첨단 공정 수요 폭증이 있습니다. 10편의 용인 클러스터와 구마모토 공장 건설 러시도 결국 HBM과 AI 파운드리 생산 능력을 확보하려는 움직임입니다. 번외편의 TSMC 애리조나 투자 확대 역시, AI 칩 생산 기반을 미국 본토에도 확보하려는 수요와 맞닿아 있습니다.
이 인과관계를 이해하면, 앞으로 반도체 뉴스를 볼 때 "이게 이 사슬의 어느 단계에서 일어난 일인가"를 조금 더 쉽게 짚을 수 있게 됩니다.
📌 정리 — 네 줄 요약
첫째, AI 수요는 GPU뿐 아니라 HBM·첨단 패키징·네트워크·전력·냉각 인프라를 동시에 끌어올리고 있습니다. 세계 전체 전력 소비에서 데이터센터가 차지하는 비중 자체는 아직 크지 않지만, 데이터센터가 몰린 지역의 전력망에는 상당한 부담이 되고 있습니다.
둘째, 엔비디아는 CUDA·GPU·시스템을 묶은 플랫폼 경쟁력으로 AI 가속기 시장에서 압도적인 위치를 유지하고 있지만, 정확한 점유율은 조사기관과 집계 기준에 따라 달라집니다.
셋째, HBM4 경쟁은 SK하이닉스의 선점 우위가 이어지는 가운데 삼성전자와 마이크론이 수율과 생산 능력을 높이며 3강 구도로 이동하고 있습니다.
넷째, 양자컴퓨터는 특정 분야에서 점차 역할을 넓혀갈 보완적 연산 장치에 가까우며, 지금 당장 기존 반도체 산업의 주류를 대체하는 단계는 아닙니다.
💬 오십보 한마디
10편에 걸쳐 공급 이야기를 다뤘는데, 결국 이 모든 것의 상당 부분이 AI 수요와 맞닿아 있다는 게 흥미롭습니다. 트랜지스터가 전화 통신의 필요에서 태어났듯(2편), HBM도 지금의 AI 붐이 오기 훨씬 전부터 개발돼왔습니다. 반도체 산업의 역사를 보면, 미래의 수요를 먼저 준비한 쪽이 유리한 자리를 차지하는 경우가 많았습니다.
다음 12편(마지막 편)에서는 이 모든 이야기를 투자자 관점으로 총정리합니다. 소재·공정·지정학·클러스터·AI 수요를 하나로 꿰어, 반도체 섹터를 볼 때 어떤 질문을 던져야 하는지를 다루겠습니다.
오늘도 한 걸음, 오십보.
📚 함께 읽으면 좋은 글
- [반도체 경제학 10편] 반도체는 혼자 못 만든다 — 실리콘밸리·신주·구마모토·용인
- [반도체 경제학 9편] ASML과 EUV
- [반도체 경제학 7편] 공장을 가졌다는 죄 — 팹리스·파운드리·IDM
- [반도체 경제학 3편] 메모리 vs 비메모리
- [공부노트] HBM — 기억과 계산의 경계
- [공부노트] 엔비디아 — 냅킨에서 3조 달러 AI 제국까지
태그
#반도체경제학 #AI반도체 #엔비디아 #CUDA #GPU #HBM #HBM4 #SK하이닉스 #삼성전자 #양자컴퓨터 #데이터센터전력 #메모리대역폭 #AI버블 #반도체투자 #초보자공부노트 #오십보 #50대투자 #반도체공부