AI 반도체 시장, 패러다임이 바뀌고 있다

2022년 10월 ChatGPT 등장 이후 AI 반도체 시장은 GPU와 HBM 중심으로 폭발적으로 성장했습니다. 그러나 2024년 3분기를 기점으로 시장의 무게중심이 학습(Training)에서 추론(Inference)으로 이동하고 있습니다. 추론은 CPU가 담당하는 순차 연산 비중이 높아, 범용 D램과 LPDDR 수요가 동반 상승하는 구조입니다. 인텔 DCAI 사업부의 2024년 3분기부터의 실적 반등은 이 전환을 보여주는 대표적 지표입니다.

이 글에서는 AI 추론 시대의 반도체 수요 구조 변화와 삼성전자·SK하이닉스의 LTA(장기공급계약) 전략을 데이터 기반으로 분석합니다.

삼성전자 메모리 램 데스크탑용 DDR4 8GB PC4-21300, DDR4 8GB PC4-21300, 1개 AI 추론 시대, 메모리 반도체 슈퍼사이클의 중심! 삼성전자 DDR5로 차세대 컴퓨팅 성능을 경험하세요. 삼성전자 메모리 램 데스크탑용 DDR4 8GB PC4-21300, DDR4 8GB PC4-21300, 1개

추론 시대로의 전환 — 왜 CPU와 범용 D램인가

학습 vs 추론: 무엇이 달라지는가

학습 단계는 대규모 병렬 연산이 필요해 GPU와 HBM이 핵심이었습니다. 반면 추론 단계는 사용자 요청에 순차적으로 응답하는 구조로, CPU의 순차 연산 효율이 중요해집니다. 이에 따라 HBM이 아닌 범용 D램(DDR5, LPDDR5X) 수요가 급증하게 됩니다.

2024년 9월 범용 D램 가격 급등의 진짜 원인

기존 시장 분석가들은 ① HBM 할당으로 인한 범용 D램 공급 부족, ② 단순 사이클 반등으로 설명했습니다. 그러나 실제 데이터를 보면 인텔 DCAI(데이터센터 CPU) 사업부 실적이 2024년 3분기부터 개선되었고, 이는 추론 워크로드 증가에 따른 CPU 수요 확대가 원인입니다. 시장 조사 기관들의 보고서에 따르면 AI 가속기 성장률은 완만해지는 반면, CPU 포함 추론 인프라는 가파른 성장 곡선을 그리고 있습니다.

에이전틱 AI와 KV 캐시 저장 수요

에이전틱 AI(예: 오픈클로)는 사용자 PC 로컬 자원을 활용해 KV 캐시를 저장하는 방식으로 동작합니다. 이는 클라우드 기반 챗봇과 달리 로컬 메모리·스토리지 수요를 직접 자극합니다. 엔비디아가 CES에서 발표한 ICMS(추론 컨텍스트 메모리 스토리지)는 낸드 플래시 기반으로, 시장 분석에 따르면 내년 ICMS 시장 규모는 아이폰 연간 판매량(약 2억 3천만 대)의 1.7배에 달할 것으로 추정됩니다.

CPU와 메모리의 상관관계를 더 깊이 이해하려면 AI 노트북 성능 비교 가이드를 참고하면 좋습니다.

data center server racks with CPU and memory modules for AI inference Tech Illustration

LTA(장기공급계약) — 반도체 슈퍼사이클의 방어막

LTA 세 가지 유형

메모리 3사(삼성전자, SK하이닉스, 마이크론)가 추진 중인 LTA는 크게 세 가지 형태로 논의되고 있습니다.

유형구조공급자 리스크수요자 리스크
가격 밴드형최고·최저가 범위 내 거래가격 상한 제한가격 하한 보장
선수금형총액의 30~40% 선납물량 확보자금 선투입
캐펙스 쉐어형신규 라인 투자 분담, 전용 라인 할당감가상각비 부담 완화대규모 초기 투자

왜 캐펙스 쉐어형이 가장 강력한가

반도체 라인 운영 비용의 최대 항목은 감가상각비입니다. 캐펙스 쉐어형은 고객사가 라인 투자비의 일부(예: 5조~10조 원)를 분담하는 대신 전용 라인을 확보하는 구조로, 공급자는 가동률 하락 시에도 손실을 최소화할 수 있습니다. 업계 보고서에 따르면 실제 계약은 선수금형과 캐펙스 쉐어형 중심으로 진행되고 있으며, 가격 밴드형은 구속력이 낮아 후순위로 밀리고 있습니다.

2025년 9월 역기저 효과와 커뮤니케이션 전략

2024년 9월부터 범용 D램 가격이 급등했기 때문에, 2025년 9월에는 전년 대비 성장률이 둔화되는 역기저 효과가 발생할 수밖에 없습니다. 이는 실제 수요 둔화가 아닌 통계적 착시입니다. 시장 심리 악화를 방어하기 위해 삼성전자와 SK하이닉스는 2025년 2분기 실적 발표(7월경)에서 LTA 진행 상황을 적극적으로 커뮤니케이션할 것으로 예상됩니다.

메모리 반도체의 실물 수요를 체감하려면 TCL 넥스트 페이퍼 60 울트라 리뷰에서 최신 모바일 D램·낸드 탑재 사례를 확인할 수 있습니다.

semiconductor memory chip market analysis chart showing DRAM demand growth IT Gadget Setup

결론 — 사이클이 아닌 구조적 수요 창출

AI 추론 시대로의 전환은 단순한 반도체 사이클이 아니라 새로운 수요의 창출입니다. 에이전틱 AI, 피지컬 AI로 진화하는 흐름 속에서 CPU·범용 D램·낸드 플래시 수요는 구조적으로 지속될 전망입니다.

투자 시 주의사항:

  • 2025년 9월 역기저 효과로 성장률 둔화가 보일 수 있으나, 이는 통계적 착시입니다.
  • 금리 인상 또는 고금리 장기화는 위험 신호이므로 반드시 모니터링해야 합니다.
  • 2025년 2분기 실적 발표에서 LTA 관련 구체적 언급이 나올 것으로 예상됩니다.

함께 보면 좋은 글

📅 정보 기준일: 2025-06-01

humanoid robot powered by agentic AI needing CPU and memory chips Technology Concept Image

본 콘텐츠는 신뢰할 수 있는 출처를 바탕으로 AI 도구를 활용하여 초안이 작성되었으며, 편집자의 검토를 거쳐 발행되었습니다. 전문가의 조언을 대체하지 않습니다.