새벽에 구형 노트북 램을 업그레이드하다가 문득 스마트폰으로 기사 하나를 봤습니다. 엔비디아가 차세대 베라(Vera) CPU를 내세우며 올해 CPU 관련 매출을 200억 달러(약 30조 원)로 예상한다는 내용이었습니다. 작업대 위의 낡은 노트북과 글로벌 AI 팩토리가 사실 같은 문제를 안고 있다는 생각이 들었습니다.
병목 해소: GPU 시대의 끝, CPU가 다시 주인공이 된 이유
저는 주말이면 집 안의 오래된 기기를 분해해서 기판을 만지는 하드웨어 튜닝을 즐깁니다. 이 취미를 하다 보면 자연스럽게 병목(Bottleneck) 현상을 자주 마주칩니다. 여기서 병목이란, 시스템 전체의 성능이 가장 느린 부품 하나에 발목 잡히는 상황을 말합니다. GPU를 아무리 고성능으로 바꿔도 CPU와 메모리가 데이터를 제때 공급하지 못하면 GPU가 놀 수밖에 없는 바로 그 현상입니다.
지금 글로벌 AI 인프라가 겪고 있는 문제도 저는 그것과 같다고 봅니다. 대규모 병렬 연산에 특화된 GPU(그래픽처리장치)가 AI 학습 시대를 이끌어왔다면, 이제 스스로 판단하고 작업을 분배하는 AI 에이전트 시대로 넘어오면서 시스템의 '관제탑' 역할을 하는 CPU(중앙처리장치)의 중요성이 급격히 커지고 있습니다. CPU란 컴퓨터가 수행할 작업을 나누고 순서를 정하고 각 부품에 명령을 내리는 두뇌에 해당하는 장치입니다.
실제로 제가 직접 경험해 온 것과도 맞닿아 있습니다. 고성능 GPU를 장착한 서버라도 CPU가 처리 흐름을 제대로 제어하지 못하면 전체 시스템이 멍하게 굳어버립니다. AI 서버 한 대를 구성할 때 CPU와 GPU의 비율이 과거에는 1:4에서 1:8 수준이었는데, 이제는 1:2 혹은 1:1까지 좁혀질 것이라는 전망이 나오는 이유가 바로 이것입니다.
이 흐름을 보는 시각은 다양합니다. 엔비디아가 풀스택 AI 플랫폼(Full-stack AI Platform)을 선언하며 CPU 시장까지 진출하는 것을 두고, 생태계 전체가 건강하게 발전하는 신호로 보는 분들도 있습니다. 반면 저는 이 부분을 상당히 비판적으로 봅니다. 풀스택 플랫폼이란 GPU, CPU, 소프트웨어까지 한 회사가 전체를 설계하고 공급하는 수직 통합 구조를 뜻합니다. 기존 CPU 강자인 인텔과 AMD의 영역까지 엔비디아가 Arm 기반의 베라 CPU로 침범하는 것은, 장기적으로 경쟁 구도를 무너뜨리고 단가를 끌어올릴 가능성이 있습니다.
AMD의 리사 수 CEO는 데이터센터 서버용 CPU 시장 규모가 2030년까지 1,200억 달러(약 168조 원)를 넘어설 것이라고 밝혔습니다(출처: AMD 공식 투자자 페이지). 인텔과 AMD 두 회사의 주가가 올해 들어 각각 약 200%, 100% 오른 배경에는 이 기대감이 깔려 있습니다. 하지만 시장이 커진다고 해서 경쟁이 건강하게 유지된다는 보장은 없습니다.
CPU와 AI 에이전트 시대를 이해하는 데 핵심이 되는 개념들을 정리하면 다음과 같습니다.
- CPU(중앙처리장치): 연산 흐름을 조율하는 시스템의 두뇌. AI 에이전트 시대에 중요성 급부상
- GPU(그래픽처리장치): 대규모 병렬 연산에 특화. AI 학습 시대의 주역
- 풀스택 AI 플랫폼: GPU·CPU·소프트웨어를 한 회사가 통합 공급하는 수직 구조
- 병목(Bottleneck): 전체 시스템 성능이 가장 느린 부품에 제한되는 현상
- AI 에이전트: 사람의 지시 없이 스스로 판단하고 작업을 수행하는 AI 시스템
메모리 수요: 진짜 수혜자는 누구인가, 냉정하게 봐야 합니다
새벽에 노트북 램을 업그레이드하다가 기사를 읽었다고 했는데, 사실 그 경험 자체가 이 섹션의 핵심과 직결됩니다. CPU가 더 많은 작업을 처리하려면 그 옆에 충분한 메모리가 받쳐줘야 합니다. 집에서 저가 노트북의 CPU 성능을 올리려고 해도 결국 램 용량이 뒤따르지 않으면 체감 성능이 거의 달라지지 않는 것을 제가 직접 경험해 봤습니다.
글로벌 AI 서버에서는 이 문제가 훨씬 극단적인 규모로 벌어집니다. 엔비디아의 베라 CPU에는 LPDDR5X 메모리가 최대 1.5TB 탑재될 것으로 예상됩니다. 여기서 LPDDR5X란 저전력 고속 더블데이터레이트(Low Power Double Data Rate 5X) 메모리의 약어로, 전력 소비는 줄이면서 데이터 전송 속도를 극대화한 규격입니다. 이전 모델 대비 3배에 달하는 용량입니다.
AI 인프라에서 메모리 수요가 커지는 구조를 보면, GPU에는 HBM(고대역폭 메모리), CPU에는 D램이 짝꿍처럼 붙습니다. HBM(High Bandwidth Memory)이란 여러 개의 D램 칩을 수직으로 쌓아 기존 대비 수십 배 빠른 데이터 전송 속도를 구현한 메모리로, AI 가속기의 핵심 부품입니다. GPU가 AI 서버의 주인공이던 시절에는 HBM 수요가 집중됐고, 이제 CPU가 부각되면서 D램 수요까지 함께 올라가는 셈입니다.
이 구조적 호재를 두고, 삼성전자와 SK하이닉스 같은 국내 메모리 기업들이 수혜를 받을 것이라는 시각이 우세합니다. 그 전망 자체는 맞습니다. 하지만 저는 이 낙관론을 그대로 받아들이기가 어렵습니다. 우리 기업들이 HBM과 D램 공급에서 핵심 역할을 하는 것은 사실이지만, 그 공급 규격과 수요 타이밍을 결정하는 것은 여전히 엔비디아입니다. 엔비디아가 베라 CPU의 메모리 아키텍처를 변경하거나 공급망 전략을 바꾸면, 국내 기업들의 실적이 한 분기 만에 뒤집히는 것을 우리는 이미 여러 번 봐왔습니다.
메모리 반도체 산업의 현황을 살펴보면, 2024년 기준 전 세계 D램 시장 점유율에서 삼성전자와 SK하이닉스가 70% 이상을 차지하고 있습니다(출처: 한국반도체산업협회). 점유율 자체는 인상적이지만, 설계 주도권 없이 공급자 위치에 머무르는 구조는 변하지 않았습니다. 지수의 외형적 성장에 들뜰 것이 아니라, 이번 CPU 붐이 진짜 국내 기업들의 독자적 경쟁력을 키우는 계기가 되는지 냉정하게 따져봐야 한다고 생각합니다.
저는 날이 밝자마자 엑셀을 열고 메모리 패키징 관련 핵심 기업들의 기술 특허 리스트를 정리하기 시작했습니다. 테마주처럼 단순히 오르내리는 종목을 좇는 것이 아니라, 이 '병목 해결' 구조에서 실제 설계 지배력을 가진 기업이 어디인지 파악하는 것이 먼저라고 보기 때문입니다.
결국 AI 에이전트 시대로의 전환은 분명한 흐름이고, CPU와 메모리 수요 증가라는 방향성도 맞습니다. 다만 그 흐름이 특정 기업의 독점 심화로 이어지는지, 아니면 건강한 경쟁 생태계를 만드는지에 따라 수혜의 크기와 지속성이 완전히 달라질 것입니다. 저는 표면적 호재보다 물리적 구조를 먼저 들여다보는 습관이, 결국 더 밀도 높은 판단으로 이어진다고 생각합니다. 이 글은 개인적인 경험과 의견을 공유한 것이며, 전문적인 투자 조언이 아닙니다.