스마트폰이나 노트북에서 AI에게 질문을 던졌을 때 답변이 늦어지는 이유는 단순히 연산 장치의 성능이 부족해서가 아닐 수 있습니다. 데이터를 저장하는 메모리와 실제 계산을 수행하는 프로세서 사이에서 데이터가 반복적으로 이동하는 과정이 병목으로 작용하기 때문입니다.
삼성전자는 이 문제를 해결하기 위해 메모리 안에 작은 연산기를 넣은 LPDDR5X-PIM 기술을 공개했습니다. PIM(Processing-in-Memory)은 데이터를 연산 장치로 모두 보내는 대신, 데이터가 저장된 메모리 내부에서 일부 계산을 처리하는 방식입니다.
기존 구조에서는 AI 가속기가 메모리에서 데이터를 불러온 뒤 연산하고, 결과를 다시 메모리에 저장해야 합니다. 데이터 이동이 많아질수록 처리 시간이 길어지고 전력 소비도 커집니다. 반면 LPDDR5X-PIM은 데이터가 있는 자리에서 연산을 수행해 이동량을 줄이는 데 초점을 맞췄습니다.
삼성전자에 따르면 LPDDR5X-PIM은 기존 규격과의 호환성을 높이면서 온디바이스 AI 추론 성능을 2배 이상 향상할 수 있는 기술입니다. 스마트폰과 PC처럼 전력과 공간이 제한된 기기에서 이러한 구조는 특히 의미가 큽니다. 클라우드 서버에 데이터를 보내지 않고 기기 안에서 AI 기능을 실행할 때 속도와 전력 효율을 동시에 개선할 가능성이 있기 때문입니다.
결국 온디바이스 AI의 경쟁력은 더 강력한 프로세서만으로 결정되지 않을 수 있습니다. 데이터를 얼마나 빠르고 효율적으로 전달하느냐, 더 나아가 데이터가 이동하지 않아도 되도록 만들 수 있느냐가 핵심이 됩니다. LPDDR5X-PIM은 메모리를 단순한 저장 공간에서 AI 연산에 참여하는 핵심 부품으로 바꾸려는 삼성전자의 전략을 보여줍니다.
스마트폰 D램의 다음 역할은 저장이 아니라 추론 — 삼성, PC·스마트폰 D램에도 AI 연산 심는다…LPDDR5X-PIM 공개
스마트폰과 PC의 D램이 단순히 데이터를 저장하고 전달하는 역할을 넘어, AI 추론을 직접 수행하는 부품으로 진화하고 있습니다. 삼성전자가 핫칩스 2026에서 공개한 ‘LPDDR5X-PIM’은 저전력 D램 내부에 소형 연산 기능을 더한 기술입니다.
기존 구조에서는 AI 가속기가 메모리에서 데이터를 가져온 뒤 연산을 수행해야 했습니다. 데이터 이동이 반복되면서 처리 지연과 전력 소모가 커지는 문제가 발생했죠. 반면 LPDDR5X-PIM은 데이터가 저장된 메모리 내부에서 일부 연산을 처리해 이동량을 줄이는 방식입니다.
특히 기존 LPDDR5X 규격과의 호환성을 크게 유지하면서 AI 추론 성능을 2배 이상 높이는 것을 목표로 한다는 점이 주목됩니다. 스마트폰 제조사와 PC 업체가 완전히 새로운 메모리 생태계를 구축하지 않고도 온디바이스 AI 기능을 강화할 가능성이 열리는 셈입니다.
상용화가 이뤄지면 음성 인식, 이미지 보정, 번역, 생성형 AI 같은 기능을 클라우드에 덜 의존하면서 실행할 수 있습니다. 사용자는 더 빠른 응답 속도와 향상된 개인정보 보호 효과를 기대할 수 있고, 기기 제조사는 네트워크 연결이 불안정한 환경에서도 안정적인 AI 서비스를 제공할 수 있습니다.
이는 메모리 반도체 시장의 경쟁 방식도 바꿀 수 있습니다. 앞으로는 D램의 용량과 속도뿐 아니라, 어떤 AI 연산을 얼마나 효율적으로 수행할 수 있는지가 중요한 평가 기준이 될 가능성이 큽니다. 메모리가 AI의 데이터를 보관하는 부품에서, AI의 일부를 직접 실행하는 핵심 부품으로 넘어가는 순간입니다.
Reference
한국경제: https://www.hankyung.com/article/202608262636i
