2026년 4월, 인공지능 업계의 무게중심이 이동하고 있습니다. 그간 그래픽처리장치(GPU)가 AI 시장의 절대 강자로 군림해왔지만, 에이전트형 AI(Agentic AI)가 확산하면서 CPU의 역할이 재조명받고 있습니다. 엔비디아는 왜 기존 강자들의 영역인 CPU 시장에 본격적으로 뛰어들었을까요? 그 이유와 앞으로 다가올 기술적 변화를 짚어봅니다.
왜 에이전트형 AI는 CPU가 필수일까
최근 AI의 흐름은 단순한 챗봇을 넘어, 스스로 판단하고 작업을 수행하는 에이전트형 모델로 진화했습니다. 이러한 모델은 방대한 데이터를 실시간으로 옮기고 여러 에이전트를 조직하는 정교한 연산이 필요합니다. 엔비디아의 AI 인프라 책임자 디온 해리스는 CPU가 AI 워크플로우의 병목 현상을 일으키고 있다고 지적했습니다. GPU가 수천 개의 코어로 연산을 병렬 처리한다면, CPU는 고성능 코어를 통해 순차적인 작업을 처리하며 시스템 전체를 지휘하는 사령탑 역할을 수행하기 때문입니다.
엔비디아 그레이스 CPU의 전략적 가치
엔비디아는 2021년 데이터 센터용 CPU ‘그레이스’를 발표한 이후, 차세대 프로세서 ‘베라’를 통해 생산량을 늘리고 있습니다. 이들의 전략은 범용 CPU 시장을 단순히 따라가는 것이 아닙니다. GPU가 쉴 틈 없이 데이터를 처리할 수 있도록 최적화된 ‘연결 고리’로서 CPU를 설계하는 데 집중하고 있습니다. 특히 메타 데이터 센터 등에 독자적인 CPU를 공급하며 그 효율성을 증명하고 있는데, 이는 AI 인프라의 주도권을 완전히 확보하겠다는 계산이 깔려 있습니다.
전력 효율성, CPU가 중심에 선 이유
젠슨 황 엔비디아 CEO는 “성능당 전력비(performance-per-watt)가 모든 것”이라고 강조했습니다. 에이전트형 AI가 생성하는 토큰 수가 기하급수적으로 증가함에 따라, 서버 한 대가 처리해야 할 일반 연산 능력도 함께 폭증하고 있습니다. 데이터 센터 내에서 수많은 서버 랙을 효율적으로 구동하려면 전력을 적게 먹으면서도 연산 능력을 극대화하는 CPU 설계가 필수적입니다. 이러한 흐름은 인텔과 AMD가 지배하던 CPU 시장에 새로운 공급 긴장감을 불러일으키고 있습니다.
2026년 CPU 시장의 공급 부족 위기
더 퓨처럼 그룹은 현재 CPU 시장이 ‘조용한 공급 위기’에 직면해 있다고 분석합니다. AI 수요 폭증으로 인해 2028년에는 CPU 시장 성장률이 GPU를 앞지를 것이라는 전망까지 나옵니다. 현재 AMD와 인텔은 글로벌 공급 부족으로 인해 리드 타임이 6개월 이상 길어지는 상황입니다. 실리콘 웨이퍼의 생산은 한정적인데, AI 인프라 확장을 위한 CPU 수요는 전례 없는 속도로 증가하고 있기 때문입니다.
엔비디아는 x86 생태계와 어떻게 공존하나
엔비디아는 Arm 기반의 CPU를 고집하지만, 기존의 x86 생태계를 완전히 배척하지 않습니다. NVLink 네트워킹 기술을 인텔, 퀄컴 등에 개방하며 타사 CPU와의 연동성을 높이는 ‘플랫폼 무관(platform agnostic)’ 전략을 펼치고 있습니다. 이는 고객이 어떤 환경을 사용하든 엔비디아 GPU를 최적으로 활용할 수 있게 하려는 계산입니다. 하드웨어의 종류와 관계없이 최고의 성능을 끌어내는 것이 엔비디아의 생존 전략입니다.
마무리하며: AI 인프라의 세대교체
지금까지 CPU는 AI 시대에 보조적인 역할로 치부되었습니다. 하지만 에이전트형 AI의 도입은 하드웨어 시장의 체질 개선을 강요하고 있습니다. 엔비디아를 필두로 한 데이터 센터용 CPU의 성장은 향후 5년 내 컴퓨팅 환경을 근본적으로 변화시킬 것입니다. 이제 AI 도입을 고민하는 기업들은 GPU뿐만 아니라 이를 뒷받침할 고효율 CPU 인프라를 얼마나 확보하느냐가 생존의 열쇠가 될 것입니다.
출처: https://www.cnbc.com/2026/03/13/nvidia-gtc-ai-jensen-huang-cpu-gpu.html
이어서 보면 좋은 글
#AI칩 #엔비디아 #데이터센터 #CPU #GPU #에이전트AI #젠슨황 #반도체시장 #차세대컴퓨팅 #인프라전략