AI의 새로운 주인공으로 떠오른 'CPU의 부활'과 투자 전략

 

AI의 주인공이 바뀌고 있습니다 — GPU 시대를 넘어, CPU의 귀환

멀티 에이전트 AI 시대가 열리면서 '두뇌' 역할을 맡은 CPU의 전략적 가치가 급등하고 있습니다. 서버 CPU 공급 부족과 가격 급등, 그리고 골드만삭스의 엇갈린 경고까지. AI 투자의 판이 다시 짜이고 있습니다.

2026년 5월 4일  ·  6분 읽기  ·  AI & 반도체

AI 모델 성능 경쟁에 가려 오랫동안 GPU의 그늘에 있던 CPU가 극적인 반등을 준비하고 있습니다. AI 기술의 핵심 축이 '더 똑똑한 모델 만들기'에서 '여러 AI가 협업하는 시스템 운영'으로 이동하면서, 복잡한 작업을 조율하고 분배하는 CPU의 전략적 가치가 급격히 높아지고 있습니다.

10~15% 서버 CPU 가격 상승률

8~12주 CPU 평균 납기 대기 기간

90% AI 에이전트 지연의 CPU 기인 비율

GPU는 '근육', CPU는 '두뇌' — 멀티 에이전트 시대의 새 공식

올해 1분기부터 인텔(INTC), AMD 등 주요 제조사의 서버 CPU 공급이 심각한 부족 상태에 빠졌습니다. 가격은 10~15% 올랐고, 기존에 1~2주면 납품되던 CPU 모델들의 대기 기간이 8~12주로 늘어났습니다. 모건 스탠리는 "AI가 생성 단계에서 자율 행동 단계로 전환되면서 컴퓨팅 병목이 CPU와 메모리 쪽으로 이동하고 있다"고 진단하였습니다.

단순히 질문에 답하는 생성형 AI를 넘어, 여러 AI 에이전트가 각자 역할을 맡아 협업하는 시스템이 속속 등장하고 있습니다. 업계의 경쟁력이 이제 "더 똑똑한 AI 모델을 만드는 것"에서 "이 에이전트들을 더 효율적으로 지휘하는 것"으로 이동하고 있습니다.

조지아 공대 연구진의 분석에 따르면, AI 에이전트 작업에서 전체 지연 시간의 최대 90%가 CPU에서 발생하였습니다. GPU가 대규모 병렬 연산을 처리하는 '근육'이라면, CPU는 작업의 우선순위를 정하고 자원을 배분하는 '두뇌'입니다. 에이전트 간 협업이 복잡해질수록 CPU의 성능이 전체 서비스 품질을 좌우하게 됩니다.

핵심 포인트 멀티 에이전트 AI 시스템에서 전체 지연의 90%는 CPU에서 발생합니다. 데이터센터 내 CPU:GPU 비율도 현재 1:4~1:8에서 향후 1:1~1:2 수준으로 조정될 것으로 전망됩니다.

빅테크도 움직였습니다 — 커스텀 CPU로의 대전환

메타(META)와 앤스로픽은 최근 아마존(AMZN)의 자체 설계 CPU인 '그래비톤(Graviton)'의 대규모 도입을 발표하였습니다. 구글(GOOGL)과 마이크로소프트(MSFT) 역시 자사 설계 CPU를 데이터센터에 공격적으로 배치하며 GPU 의존도를 낮추고 있습니다.

이에 따라 한때 매각설로 홍역을 앓던 인텔을 포함한 CPU 기업들의 주가가 폭넓게 반등하였으며, 'CPU 제2의 황금기'가 시작됐다는 분석이 나오고 있습니다. 시장조사업체 GroseResearch는 서버 내 CPU:GPU 비율이 현재 1:4~1:8에서 향후 1:1~1:2 수준으로 조정될 것으로 전망하였습니다.

구분	현재	향후 전망	의미
CPU:GPU 비율	1:4 ~ 1:8	1:1 ~ 1:2	CPU 수요 대폭 증가
CPU 납기	1~2주 → 8~12주	공급 부족 지속	가격 10~15% 상승
엔비디아 순이익	ChatGPT 3.5 출시 후	25배 증가	반도체 쏠림 현상

골드만삭스의 경고 — AI 수익은 반도체에만 쏠려 있습니다

CPU 르네상스에 대한 기대감과 달리, 월가의 시각은 엇갈리고 있습니다. 골드만삭스는 최근 보고서에서 AI의 경제적 혜택이 현재 반도체 기업에만 집중되어 있다고 지적하였습니다. ChatGPT 3.5 출시 이후 엔비디아의 순이익은 25배 증가한 반면, 마이크로소프트·구글·아마존·메타 등 주요 클라우드 기업의 이익 성장은 상대적으로 미미하였습니다.

하이퍼스케일러들은 2025년 한 해에만 데이터센터 관련 부채로 1,820억 달러(약 260조 원)를 발행하며 운영 현금을 소진하고 자본 지출을 이어가고 있습니다. 골드만삭스는 이를 "전례 없는 일이며 지속 가능하지 않다"고 지적하였습니다.

주의 요인 — 골드만삭스 경고 기업의 95%가 생성형 AI 도입 후 ROI 제로를 경험하였으며, 기업당 평균 손실은 440만 달러에 달합니다. 골드만삭스는 클라우드 기업 비중 확대, 반도체 비중 축소를 권고하고 있습니다.

해법은 SLM과 오케스트레이션 레이어입니다

골드만삭스가 제시한 해법은 특정 업무에 특화된 소형 언어 모델(SLM)과 데이터 구조 및 워크플로를 관리하는 '오케스트레이션 레이어'입니다. 데이터독(Datadog)은 내부 데이터로 훈련된 SLM이 범용 대형 언어 모델(LLM)보다 낮은 비용에 더 높은 정확도를 제공함을 입증하였습니다. 한 공급망 기업은 SLM 도입 후 응답 지연을 47% 줄이고 비용을 50% 절감하였습니다.

"기업들은 저가치 작업에 고비용 LLM을 남용하고 있습니다. 질문의 복잡도에 따라 적절한 모델로 라우팅하는 오케스트레이션 레이어 없이는 IT 예산 낭비가 계속될 것입니다." 골드만삭스의 분석입니다.

마치며

멀티 AI 에이전트 시대의 도래는 CPU라는 하드웨어 자원의 지위 변화만을 요구하는 것이 아닙니다. AI를 바라보는 투자·비즈니스 모델 관점의 패러다임 전환도 동시에 요구하고 있습니다. CPU 공급 부족이 관련 기업 주가에 순풍을 불어넣고 있는 지금, AI가 실제 기업 이익과 연결되는 선순환 구조가 구축되지 않는다면 오늘의 CPU 품귀 현상은 또 하나의 거품으로 끝날 수 있다는 경고도 함께 새겨두어야 할 것입니다.

CPU GPU 멀티 에이전트 AI 인텔 AMD 골드만삭스 데이터센터