Reference by 한국경제 AI 반도체의 왕좌는 오랫동안 GPU의 차지였습니다. 대규모 데이터를 빠르게 병렬 처리하는 GPU는 생성형 AI와 대형 언어 모델의 핵심 연산장치로 자리 잡았고, 엔비디아는 이 흐름을 주도하며 독보적인 지위를 구축했습니다. 하지만 아무리 연산 속도가 빠른 칩이라도 데이터가 제때 도착하지 않으면 성능을 온전히 발휘할 수 없습니다. GPU의 처리 능력이 가파르게 향상되는 동안, 메모리에서 데이터를 불러오는 […]
[뉴스] 삼성, PC·스마트폰 D램에도 AI 연산 심는다…LPDDR5X-PIM 공개
Reference by 한국경제 스마트폰이나 노트북에서 AI에게 질문을 던졌을 때 답변이 늦어지는 이유는 단순히 연산 장치의 성능이 부족해서가 아닐 수 있습니다. 데이터를 저장하는 메모리와 실제 계산을 수행하는 프로세서 사이에서 데이터가 반복적으로 이동하는 과정이 병목으로 작용하기 때문입니다. 삼성전자는 이 문제를 해결하기 위해 메모리 안에 작은 연산기를 넣은 LPDDR5X-PIM 기술을 공개했습니다. PIM(Processing-in-Memory)은 데이터를 연산 장치로 모두 보내는 대신, […]
