온디바이스 AI 메모리 총정리: LPDDR5X·CAMM2·LPCAMM2가 중요한 이유
안녕하세요, 마스터마인드(MasterMind)입니다.
AI는 앞으로도 거대한 데이터센터에서만 돌아가게 될까요?
우리는 지금까지 생성형 AI를 사용할 때 스마트폰이나 PC에서 질문을 입력하고, 실제 연산은 데이터센터의 GPU가 처리한 뒤 결과를 다시 받아오는 방식에 익숙했습니다.
하지만 최근 AI 산업에서는 또 하나의 변화가 진행되고 있습니다.
바로 스마트폰, PC, 자동차 같은 기기 자체에서 AI를 실행하는 On-Device AI(온디바이스 AI)입니다.
그렇다면 온디바이스 AI가 확산될수록 왜 NPU뿐만 아니라 LPDDR5X와 CAMM2 같은 메모리 기술이 중요해지는 것일까요?
핵심은 AI 반도체의 성능이 단순히 연산 장치의 속도만으로 결정되지 않기 때문입니다.
AI 모델이 커질수록 연산 장치에 데이터를 얼마나 빠르게 공급할 수 있는지, 그리고 그 과정에서 얼마나 적은 전력을 사용하는지가 시스템 전체 성능을 결정하게 됩니다.
한 줄 핵심 결론
On-Device AI가 확산될수록 AI 성능의 병목은 연산 능력뿐 아니라 메모리 대역폭·용량·전력 효율로 확대되며, LPDDR5X와 CAMM2 계열 메모리는 이 문제를 해결하면서 PC와 모바일 메모리 시장의 경계를 바꿀 가능성이 있습니다.
On-Device AI란 무엇인가?
On-Device AI란 중앙 데이터센터나 클라우드에 모든 연산을 보내지 않고 스마트폰, PC, 자동차 등의 기기 내부에서 AI 연산을 직접 수행하는 기술입니다.
기존 클라우드 AI에서는 사용자가 데이터를 서버로 보내면 데이터센터에 있는 GPU나 AI 가속기가 계산을 수행한 뒤 결과를 다시 전송합니다.
반면 온디바이스 AI에서는 기기 내부의 CPU, GPU, 그리고 NPU(Neural Processing Unit) 등이 AI 연산을 나누어 처리합니다.
현재 AI PC 역시 CPU·GPU·NPU를 함께 활용해 로컬 AI 작업을 수행하는 구조로 발전하고 있습니다. 특히 NPU는 지속적으로 실행되는 AI 작업을 낮은 전력으로 처리하는 데 초점을 맞춘 전용 가속기입니다.
쉽게 비유하면 기존 클라우드 AI는 거대한 중앙 주방에서 음식을 만들어 배달받는 구조이고, 온디바이스 AI는 집 안에 작은 전문 주방을 설치하는 것과 비슷합니다.
모든 요리를 집에서 할 필요는 없습니다.
복잡하고 거대한 연산은 여전히 데이터센터에서 처리하고, 번역이나 문서 요약, 이미지 보정, 음성 인식처럼 빠른 반응이 필요한 일부 작업은 기기 안에서 직접 처리할 수 있습니다.
따라서 앞으로의 AI 구조는
클라우드 AI vs 온디바이스 AI
라는 양자택일보다는,
클라우드와 디바이스가 역할을 나누는 하이브리드 AI
방향으로 발전할 가능성이 높습니다.
On-Device AI가 중요한 이유
온디바이스 AI가 주목받는 이유는 단순히 인터넷 없이 AI를 사용할 수 있기 때문만은 아닙니다.
지연시간을 줄일 수 있다
데이터를 서버로 보내고 결과를 기다릴 필요가 줄어들기 때문에 AI의 반응 속도를 개선할 수 있습니다.
실시간 번역, 음성 인식, 카메라 처리처럼 즉각적인 반응이 필요한 작업에서는 특히 중요합니다.
개인정보 보호 측면에서 유리하다
모든 데이터를 외부 데이터센터로 보낼 필요가 없기 때문에 민감한 개인 정보나 기업 데이터를 기기 내부에서 처리할 수 있습니다.
네트워크 의존도를 낮출 수 있다
인터넷 연결이 불안정하거나 없는 상황에서도 일부 AI 기능을 사용할 수 있습니다.
클라우드 AI 비용을 분산할 수 있다
AI 사용량이 크게 늘어날수록 모든 추론 연산을 데이터센터에서 처리하는 방식에는 서버 투자비와 전력비, 네트워크 비용이 따라옵니다.
일부 연산을 사용자 기기로 분산할 수 있다면 AI 생태계 전체의 연산 구조 역시 달라질 수 있습니다.
하지만 여기에는 중요한 조건이 있습니다.
기기 자체가 AI 모델을 실행할 수 있을 정도로 충분한 연산 성능과 메모리 성능을 갖춰야 한다는 것입니다.
On-Device AI 시대에는 왜 메모리가 중요할까?
AI 반도체를 이야기하면 대부분 GPU나 NPU부터 떠올립니다.
하지만 연산 장치가 아무리 빨라도 필요한 데이터를 제시간에 공급받지 못하면 성능을 충분히 활용할 수 없습니다.
AI 모델을 실행하려면 수많은 파라미터와 중간 연산 데이터를 메모리에서 계속 불러와야 합니다.
여기서 발생하는 대표적인 문제가 메모리 병목(Memory Bottleneck)입니다.
고속도로에 자동차가 아무리 좋은 엔진을 달고 있어도 도로가 좁으면 전체 이동 속도는 빨라지지 않습니다.
AI에서도 마찬가지입니다.
NPU가 빠르게 계산할 수 있어도 메모리에서 데이터가 늦게 들어온다면 NPU는 데이터를 기다려야 합니다.
따라서 AI 시스템의 핵심 경쟁력은 점점
연산 성능 + 메모리 대역폭 + 메모리 용량 + 전력 효율
의 조합으로 이동하고 있습니다.
데이터센터에서 HBM이 중요해진 이유 역시 같은 원리입니다.
GPU 성능이 빠르게 높아지면서 데이터를 공급하는 메모리 대역폭이 병목이 되었고, 이를 해결하기 위해 HBM이라는 고대역폭 메모리의 가치가 크게 높아졌습니다.
온디바이스 AI에서도 비슷한 변화가 나타날 수 있습니다.
다만 조건이 다릅니다.
데이터센터에서는 어느 정도 높은 전력 소비를 감수할 수 있지만, 스마트폰과 노트북은 배터리로 작동합니다.
따라서 온디바이스 AI에는
높은 대역폭 + 높은 용량 + 낮은 소비전력
을 동시에 만족하는 메모리가 필요합니다.
여기서 LPDDR5X의 중요성이 커집니다.
LPDDR5X란 무엇인가?
LPDDR은 Low Power Double Data Rate의 약자로, 높은 성능과 함께 낮은 전력 소비에 초점을 맞춘 D램입니다.
LPDDR5X는 LPDDR5를 기반으로 데이터 전송 속도와 전력 효율을 더욱 개선한 메모리 규격입니다.
스마트폰과 태블릿에서 주로 활용됐지만 최근에는 초슬림 노트북, 자동차, AI 엣지 장비 등으로 적용 범위가 확대되고 있습니다.
삼성전자는 LPDDR5X의 적용 범위가 모바일을 넘어 PC·서버·자동차·온디바이스 AI로 확대되고 있다고 설명하고 있으며, 10.7Gbps급 제품도 공개한 바 있습니다.
On-Device AI와 LPDDR5X의 관계
온디바이스 AI에서는 AI 모델의 데이터를 계속 메모리와 연산 장치 사이에서 이동시켜야 합니다.
이때 중요한 것은 단순한 메모리 용량이 아닙니다.
얼마나 빠르게 데이터를 보내느냐,
얼마나 적은 전력을 사용하느냐,
얼마나 큰 모델을 메모리에 올릴 수 있느냐가 동시에 중요합니다.
| 구분 | On-Device AI에서 중요한 이유 |
| 메모리 대역폭 | NPU·GPU에 AI 데이터를 빠르게 공급 |
| 메모리 용량 | 더 큰 AI 모델과 여러 프로그램 동시 실행 |
| 소비전력 | 노트북·스마트폰 배터리 지속시간과 직결 |
| 발열 | 얇은 기기에서 지속적인 AI 연산 가능 여부 결정 |
| 공간 효율 | 배터리·NPU·냉각 구조를 위한 내부 공간 확보 |
따라서 AI PC 경쟁에서 NPU의 TOPS 같은 연산 성능만 비교하는 것은 충분하지 않을 수 있습니다.
NPU가 얼마나 빠른가보다 중요한 것은 NPU가 실제 연산 능력을 사용할 수 있도록 데이터를 얼마나 빠르고 효율적으로 공급할 수 있느냐입니다.
LPDDR에는 한 가지 문제가 있었다
LPDDR은 높은 전력 효율과 빠른 데이터 전송 속도를 제공하지만 PC 시장에서는 구조적인 단점이 있었습니다.
대부분의 LPDDR은 메인보드에 직접 납땜되는 온보드 방식으로 사용됩니다.
이 방식은 신호 전달 거리를 줄이고 공간을 절약하는 데 유리하지만 사용자가 나중에 메모리를 교체하거나 업그레이드하기 어렵습니다.
반대로 기존 노트북에서 많이 사용된 SODIMM은 메모리를 슬롯에 꽂는 방식이기 때문에 교체가 쉽습니다.
하지만 상대적으로 많은 공간을 사용하고 초슬림·저전력 설계에서는 제약이 생길 수 있습니다.
PC 제조업체 입장에서는 오랫동안 선택지가 나뉘어 있었습니다.
전력 효율과 공간을 원하면 온보드 LPDDR
또는
교체와 확장성을 원하면 SODIMM
을 선택해야 했습니다.
이 두 구조의 장점을 결합하려는 시도가 바로 CAMM2 계열입니다.
CAMM2란 무엇인가?
여기서는 한 가지를 정확히 구분해야 합니다.
CAMM2는 D램의 종류가 아니라 메모리를 장착하는 모듈 규격입니다.
CAMM은 Compression Attached Memory Module의 약자입니다.
기존 SODIMM처럼 메모리 모듈을 슬롯에 세워 꽂는 구조와 달리 비교적 넓고 얇은 모듈을 메인보드에 압착해 연결하는 방식입니다.
그리고 On-Device AI와 LPDDR5X를 연결해서 볼 때 더욱 중요한 것은 LPCAMM2입니다.
CAMM2와 LPCAMM2의 차이
CAMM2라는 큰 모듈 규격 안에서 어떤 메모리를 사용하는지에 따라 성격이 달라집니다.
특히 LPCAMM2(Low Power CAMM2)는 LPDDR5·LPDDR5X 같은 저전력 메모리를 모듈 형태로 구현합니다.
따라서 이번 주제에서는 단순히 CAMM2라고 부르는 것보다
LPDDR5X + LPCAMM2
의 조합을 이해하는 것이 더 정확합니다.
삼성전자 역시 LPCAMM2를 LPDDR 기반의 차세대 저전력 모듈로 설명하며, 납땜형 LPDDR의 전력 효율과 성능을 활용하면서도 탈부착이 가능하도록 설계했다고 설명합니다.
LPCAMM2는 무엇을 바꾸는가?
LPCAMM2의 핵심은 간단합니다.
납땜형 LPDDR의 장점과 기존 모듈형 메모리의 업그레이드 가능성을 결합하려는 것입니다.
LPDDR5X를 사용하면서도 메모리를 모듈 형태로 만들기 때문에 필요하면 교체하거나 용량을 확장할 수 있습니다.
또한 기존 SODIMM보다 메인보드에서 차지하는 공간을 줄일 수 있습니다.
삼성전자는 자사 LPCAMM2가 두 개의 SODIMM을 사용하는 구성과 비교했을 때 탑재 면적을 약 60% 줄일 수 있다고 설명합니다. Micron도 LPDDR5X 기반 LPCAMM2를 차세대 얇고 가벼운 PC용 메모리로 공급하며 공간·전력 효율과 업그레이드 가능성을 주요 장점으로 제시하고 있습니다.
SODIMM과 LPCAMM2 비교
| 구분 | SODIMM | LPCAMM2 |
| 주요 메모리 | DDR 계열 | LPDDR 계열 |
| 장착 방식 | 슬롯·에지 커넥터 | 압착형 연결 |
| 교체·업그레이드 | 가능 | 가능 |
| 공간 효율 | 상대적으로 낮음 | 높음 |
| 전력 효율 | 일반적 | 저전력 설계에 유리 |
| 초슬림 노트북 | 제약 존재 | 구조적으로 유리 |
| AI PC | 사용 가능 | 저전력·고대역폭 환경에 유리 |
중요한 것은 단순히 노트북을 더 얇게 만들 수 있다는 점이 아닙니다.
메모리가 차지하는 공간을 줄이면 남은 공간을 더 큰 배터리나 냉각 시스템에 사용할 수도 있습니다.
온디바이스 AI에서는 NPU가 지속적으로 연산하면서 전력과 열을 발생시키기 때문에 이러한 공간 효율이 시스템 전체 설계와 연결됩니다.
On-Device AI 시대, 왜 LPDDR5X와 CAMM2가 중요한가?
가장 큰 이유는 AI 산업의 성장축이 대규모 모델의 학습(Training)뿐 아니라 실제 사용자 서비스에서 발생하는 추론(Inference)으로 확대되고 있기 때문입니다.
거대한 AI 모델을 학습하는 과정은 여전히 데이터센터가 중심입니다.
하지만 완성된 AI 모델이 수많은 PC와 스마트폰, 자동차, 로봇에 배포된다면 AI 연산이 발생하는 위치도 점차 다양해집니다.
이때 온디바이스 AI에는 세 가지 조건이 중요합니다.
전력과 배터리의 한계
데이터센터는 대규모 전력을 공급받을 수 있지만 스마트폰과 노트북은 배터리로 작동합니다.
따라서 단순한 최고 성능보다 Performance per Watt, 즉 전력당 성능이 중요합니다.
지연시간과 개인정보 보호
실시간 번역이나 음성 인식처럼 빠른 반응이 필요한 기능에서는 서버와 데이터를 주고받는 시간을 줄일 필요가 있습니다.
또한 개인 데이터를 기기 내부에서 처리할 수 있다는 장점도 있습니다.
메모리 대역폭과 용량
온디바이스 AI 모델이 커질수록 더 많은 데이터를 빠르게 연산 장치에 공급해야 합니다.
따라서 AI PC가 발전할수록 NPU뿐 아니라 메모리의 속도와 용량 역시 중요한 성능 요소가 될 가능성이 높습니다.
HBM과 LPDDR5X는 같은 AI 흐름에서 나온다
HBM과 LPDDR5X는 서로 경쟁하는 제품이라기보다 사용 환경이 다른 메모리입니다.
데이터센터 AI에서는 수많은 GPU 연산을 지원하기 위해 극도로 높은 대역폭이 필요하기 때문에 HBM이 중요합니다.
반면 스마트폰과 AI PC에서는 최고 대역폭만큼 배터리와 발열, 공간이 중요하기 때문에 LPDDR 계열의 장점이 커집니다.
| AI 영역 | 주요 연산 환경 | 중요한 메모리 특성 |
| 데이터센터 AI | GPU·AI 가속기 | 초고대역폭·고용량 |
| AI PC | CPU·GPU·NPU | 고대역폭·저전력·공간 효율 |
| AI 스마트폰 | AP·NPU | 저전력·고집적 |
| 자동차·엣지 AI | SoC·NPU | 저전력·안정성·응답속도 |
결국 HBM의 부상과 LPDDR5X의 확대는 서로 다른 사건이 아닙니다.
둘 모두
AI 연산 성능이 높아지면서 메모리가 시스템 전체의 병목으로 부상하고 있다는 현상
에서 출발합니다.
LPDDR5X와 CAMM2가 반도체 시장을 바꾸는 이유
과거 PC와 모바일 메모리 시장은 비교적 명확하게 구분됐습니다.
PC는 DDR,
스마트폰은 LPDDR이라는 구조가 강했습니다.
하지만 AI PC가 성장하면 이 경계가 점차 흐려질 수 있습니다.
PC에서도 스마트폰처럼
높은 성능 + 낮은 전력 + 높은 공간 효율
이 중요해지기 때문입니다.
모바일 D램의 시장이 PC로 넓어진다
LPDDR은 오랫동안 스마트폰 중심으로 성장했습니다.
하지만 AI PC가 확대되면 LPDDR 계열의 수요처가 PC까지 넓어질 수 있습니다.
이는 단순히 D램 수요가 늘어난다는 의미보다 중요합니다.
AI가 어떤 메모리의 수요를 증가시키는지 자체가 바뀔 수 있다는 뜻입니다.
PC 한 대당 메모리 용량이 중요해진다
온디바이스 AI 모델을 실행하려면 운영체제와 일반 프로그램 외에도 AI 모델을 메모리에 올려야 합니다.
따라서 향후 AI PC에서는 저장장치뿐 아니라 시스템 메모리 용량이 다시 중요한 제품 차별화 요소가 될 가능성이 있습니다.
16GB,
32GB,
64GB처럼 평균 탑재 메모리 용량이 어떻게 변화하는지가 메모리 산업에서는 중요한 지표가 될 수 있습니다.
메모리의 부가가치가 높아질 수 있다
범용 D램은 오랫동안 가격 사이클의 영향을 크게 받았습니다.
그러나 AI 기기에서는 단순한 용량보다 전력 효율과 대역폭, 패키징과 시스템 최적화가 중요해집니다.
시장에서는 결국 단순히 많은 D램을 생산하는 기업보다 고성능·저전력 제품의 비중을 높이고 이를 실제 이익으로 연결하는 기업에 관심이 집중될 가능성이 있습니다.
On-Device AI가 반도체 및 금융시장에 미치는 영향
온디바이스 AI는 금리나 달러처럼 금융시장 전체를 직접 움직이는 거시 변수는 아닙니다.
가장 직접적인 변화는 반도체와 IT 하드웨어 산업에서 나타날 가능성이 높습니다.
| 산업 및 자산 | 주요 영향 |
| 메모리 반도체 | LPDDR 계열·고용량 메모리 수요 확대 가능성 |
| CPU·NPU·AP | 온디바이스 AI 연산 확대 |
| PC 제조사 | AI PC 교체 수요와 제품 고급화 여부가 중요 |
| 스마트폰 제조사 | 프리미엄 AI 기능과 메모리 탑재량 증가 가능성 |
| 패키징·기판 | 고성능·고집적 시스템 확대로 기술 요구 증가 |
| 전력관리반도체 | 배터리 기반 AI 연산에서 효율 중요성 확대 |
| 데이터센터 | 온디바이스와 경쟁하기보다 클라우드·디바이스 역할 분담 가능성 |
여기서 중요한 오해가 하나 있습니다.
온디바이스 AI가 커진다고 데이터센터 AI가 줄어드는 것은 아닙니다.
AI 이용자가 늘어나면 전체 AI 연산량 자체가 증가할 가능성이 있습니다.
간단한 작업은 스마트폰이나 PC에서 처리하고, 거대한 모델이나 복잡한 연산은 데이터센터에서 처리하는 식으로 역할이 나뉠 수 있습니다.
따라서 AI 시장을
클라우드냐 디바이스냐
로 볼 것이 아니라,
어떤 연산이 어디에서 가장 효율적으로 처리되는가
라는 관점에서 봐야 합니다.
돈은 어디로 이동할까?
AI 투자 초기에는 시장의 관심이 GPU와 HBM에 집중됐습니다.
이후 데이터센터 규모가 커지면서 광통신, 네트워크, 전력기기, 냉각 인프라까지 자금의 관심이 확대됐습니다.
온디바이스 AI가 본격적으로 성장한다면 다음 단계에서는 또 다른 분야가 중요해질 수 있습니다.
NPU → 저전력 메모리 → 전력관리반도체 → 패키징 → AI PC·AI 스마트폰 생태계
로 시장의 관심 범위가 넓어질 수 있습니다.
하지만 여기서 가장 경계해야 할 것은 모든 관련 기업이 같은 수혜를 받는다고 생각하는 것입니다.
시장의 본질은 기술 이름이 아니라 그 기술이 실제로 기업의 판매량, 판매가격, 이익률과 현금흐름을 얼마나 바꾸느냐에 있습니다.
AI라는 단어가 붙었다는 사실보다 중요한 것은
기기 한 대에 들어가는 반도체의 가치가 실제로 증가하는가
입니다.
투자자가 알아야 할 핵심 포인트
온디바이스 AI와 LPDDR5X, CAMM2 시장을 볼 때는 신제품 발표보다 다음 지표를 확인하는 것이 중요합니다.
AI PC와 AI 스마트폰의 실제 출하량
제품이 출시됐다는 것과 소비자가 실제로 구매한다는 것은 다른 문제입니다.
AI 기능이 새로운 PC와 스마트폰의 교체 수요를 만들어내는지 확인해야 합니다.
기기당 D램 탑재량
온디바이스 AI 확산이 실제로 16GB에서 32GB, 32GB에서 64GB처럼 평균 메모리 탑재량 증가로 이어지는지가 중요합니다.
LPDDR 계열의 PC 침투율
AI PC 시장에서 기존 DDR과 LPDDR이 어떤 비중으로 채택되는지를 볼 필요가 있습니다.
LPCAMM2 채택 속도
좋은 기술이라고 반드시 산업 표준이 되는 것은 아닙니다.
PC 제조사와 CPU 플랫폼이 실제로 LPCAMM2를 얼마나 빠르게 채택하는지가 중요합니다.
ASP와 수익성
출하량 증가보다 더 중요한 것은 고부가가치 제품 비중이 증가하면서 평균판매단가와 이익률이 개선되는지입니다.
AI 소프트웨어 생태계
NPU와 대용량 메모리가 있어도 소비자가 사용할 AI 애플리케이션이 부족하다면 교체 수요는 느려질 수 있습니다.
하드웨어와 소프트웨어가 함께 성장하는지를 확인해야 합니다.
자산가들은 이 흐름에서 무엇을 볼까?
자산가들은 기술의 화려함보다 기술이 만들어내는 현금흐름의 변화를 봅니다.
온디바이스 AI가 유망하다는 사실만으로는 충분하지 않습니다.
실제로 AI PC 판매량이 늘어나는지,
PC 한 대당 들어가는 메모리 용량이 증가하는지,
고부가가치 메모리의 판매 비중이 높아지는지,
그리고 그 변화가 기업의 영업이익과 현금흐름으로 연결되는지를 확인해야 합니다.
돈의 이동
AI 시장의 자금이 GPU와 HBM에만 머무르는지, 아니면 AI PC와 스마트폰의 저전력 반도체 생태계까지 확산되는지를 봐야 합니다.
현금흐름
기술을 개발했다는 사실보다 실제 고객의 주문과 매출, 이익으로 연결되는지가 중요합니다.
자산 생존력
반도체 산업은 기술 전환이 빠릅니다.
오늘의 핵심 기술이 몇 년 뒤에는 새로운 규격으로 대체될 수 있습니다.
따라서 특정 제품 하나에 의존하는 기업보다 여러 세대의 기술 변화에서도 경쟁력을 유지할 수 있는 기업의 구조를 살펴볼 필요가 있습니다.
장기 투자 관점
시장은 항상 미래를 먼저 가격에 반영합니다.
산업이 성장해도 이미 과도한 기대가 반영되어 있다면 좋은 산업과 좋은 투자는 서로 다른 결과를 만들 수 있습니다.
스스로 이런 질문을 던져볼 필요가 있습니다.
이 기업은 On-Device AI라는 단어가 사라져도 경쟁력을 유지할 수 있는가?
AI PC 판매가 예상보다 천천히 증가해도 버틸 수 있는 현금흐름을 가지고 있는가?
메모리 탑재량 증가가 실제 ASP와 이익률 상승으로 이어지고 있는가?
새로운 규격이 확산돼도 경쟁사가 따라오기 어려운 기술 또는 원가 경쟁력이 존재하는가?
미래의 성장 기대가 현재 주가에 어느 정도 반영되어 있는가?
투자에서 중요한 것은 가장 화려한 미래를 정확하게 예측하는 것이 아닙니다.
예상과 다른 미래가 왔을 때도 살아남을 수 있는 자산을 구분하는 것이 더 중요합니다.
HBM 다음에 봐야 할 메모리는 무엇인가?
AI 메모리 시장을 HBM 하나로만 보면 전체 흐름을 놓칠 수 있습니다.
HBM은 데이터센터 AI의 핵심 메모리입니다.
LPDDR5X는 스마트폰, AI PC, 자동차와 같은 온디바이스·엣지 환경에서 낮은 전력으로 높은 성능을 제공하는 역할이 중요해지고 있습니다.
그리고 LPCAMM2는 LPDDR의 저전력 장점을 PC의 교체 가능한 모듈 구조와 결합하려는 기술입니다.
즉 AI 시대의 메모리 시장은 하나의 메모리가 모든 영역을 지배하는 구조보다
데이터센터에는 HBM, 디바이스에는 LPDDR, PC에서는 새로운 모듈 구조
처럼 사용 환경에 따라 더욱 세분화될 가능성이 있습니다.
이 변화의 핵심은 단순한 D램 수요 증가가 아닙니다.
AI가 메모리 산업을 범용 제품 중심에서 고대역폭·저전력·고용량·고부가가치 제품 중심으로 이동시키고 있다는 점입니다.
마무리
On-Device AI는 AI 연산을 클라우드에만 의존하지 않고 스마트폰과 PC 같은 기기 내부에서도 직접 수행하는 기술입니다.
이 변화가 커질수록 중요한 것은 NPU의 연산 성능만이 아닙니다.
AI 모델을 빠르게 실행하려면 충분한 메모리 용량과 대역폭이 필요하고, 배터리 기반 기기에서는 낮은 소비전력까지 동시에 요구됩니다.
이 때문에 LPDDR5X가 모바일을 넘어 AI PC와 엣지 컴퓨팅으로 영역을 확대하고 있습니다.
여기에 CAMM2 계열, 특히 LPDDR5X를 교체 가능한 모듈로 구현하는 LPCAMM2가 확산된다면 기존의
PC = DDR
모바일 = LPDDR
이라는 경계 역시 점차 희미해질 수 있습니다.
그리고 이것은 HBM과 전혀 별개의 이야기가 아닙니다.
데이터센터에서 HBM이 부상한 것도,
온디바이스에서 LPDDR5X가 중요해지는 것도,
결국 하나의 원리로 연결됩니다.
AI 시대에는 연산 장치가 빨라질수록 데이터를 공급하는 메모리의 가치가 함께 높아진다는 것입니다.
오늘 기억해야 할 핵심은 이것입니다.
On-Device AI는 단순히 AI가 스마트폰과 PC 안으로 들어오는 변화가 아니라, 반도체 경쟁의 중심을 연산 성능에서 메모리 대역폭·용량·전력 효율까지 확장시키는 구조적 변화입니다.
앞으로의 AI 반도체 경쟁은 누가 더 빠른 연산 장치를 만드는가뿐 아니라,
누가 더 많은 데이터를 더 빠르게, 더 적은 전력으로 연산 장치에 공급할 수 있는가
에서도 결정될 가능성이 있습니다.
마스터 마인드였습니다.
'[Korea] 마스터마인드' 카테고리의 다른 글
