[뉴스] 삼성, 계산하는 HBM 공개…GPU 연산 aHBM이 맡는다

지금까지 HBM은 GPU에 데이터를 빠르게 전달하는 고속 저장공간, 말하자면 ‘창고’에 가까웠습니다. 데이터를 저장하고 필요한 순간 GPU로 보내는 것이 핵심 역할이었습니다. 하지만 삼성전자가 공개한 aHBM(advanced HBM)은 이 역할의 경계를 넘어섭니다. 메모리 내부에 연산 기능을 넣어 AI 작업의 일부를 직접 처리하겠다는 구상입니다.

AI 연산에서는 데이터를 메모리와 GPU 사이에서 반복적으로 이동시키는 과정이 큰 병목으로 작용합니다. 데이터가 오가는 거리가 길어질수록 처리 시간과 전력 소모도 늘어납니다. aHBM은 메모리 내부에서 AI의 핵심 작업 중 하나인 ‘어텐션 연산’을 수행해 불필요한 데이터 이동을 줄이는 방향을 제시합니다.

이 변화가 현실화되면 GPU는 모든 연산을 혼자 맡는 대신, 복잡하고 범용적인 작업에 집중할 수 있습니다. 반면 aHBM은 데이터가 저장된 가까운 위치에서 반복적이고 대규모인 연산을 나눠 담당합니다. GPU와 메모리가 각자 잘하는 일을 분담하는 구조인 셈입니다.

삼성전자는 cHBM에서 aHBM을 거쳐 zHBM으로 이어지는 차세대 HBM 로드맵도 제시했습니다. cHBM이 메모리 컨트롤러 기능을 메모리 쪽으로 확장하는 단계라면, aHBM은 메모리 자체가 연산에 참여하는 단계입니다. 최종적으로는 GPU 위에 메모리를 직접 쌓는 zHBM으로 진화해 데이터 이동 거리를 더욱 줄이는 것이 목표입니다.

결국 “삼성, 계산하는 HBM 공개…GPU 연산 aHBM이 맡는다”는 소식은 메모리가 단순한 저장장치를 넘어 AI 시스템의 연산 파트너로 변하고 있음을 보여줍니다. 앞으로의 AI 반도체 경쟁은 GPU의 성능뿐 아니라, 메모리가 얼마나 똑똑하게 계산에 참여하느냐에 따라 달라질 수 있습니다.

삼성, 계산하는 HBM 공개…GPU 연산 aHBM이 맡는다: cHBM에서 zHBM까지

aHBM은 끝이 아닙니다. 삼성전자가 제시한 로드맵은 cHBM에서 aHBM을 거쳐 GPU 위에 HBM을 쌓는 zHBM으로 이어집니다. 메모리가 단순히 데이터를 저장하고 전달하는 부품을 넘어, GPU와 하나의 시스템처럼 움직이는 방향입니다.

cHBM, 메모리 컨트롤러를 HBM 가까이로

첫 단계인 cHBM은 GPU의 메모리 컨트롤러 기능을 HBM 쪽으로 옮기는 개념입니다. AI 연산에서 메모리 병목을 줄이려면 데이터를 이동시키는 거리와 횟수를 줄여야 합니다. cHBM은 메모리와 제어 기능을 가깝게 배치해 GPU와 HBM 사이의 데이터 처리 효율을 높이는 데 초점을 둡니다.

이는 HBM이 연산에 직접 참여하기 위한 기반이기도 합니다. 메모리 내부에서 데이터를 더 빠르게 제어할 수 있어야 다음 단계인 연산 기능을 안정적으로 구현할 수 있기 때문입니다.

aHBM, 메모리 안에서 AI 연산 수행

aHBM은 cHBM에서 한 단계 더 나아갑니다. 삼성전자가 공개한 ‘계산하는 HBM’의 핵심으로, 메모리 내부에 연산 회로를 넣어 AI 작업의 일부를 직접 처리하는 방식입니다.

특히 AI 모델에서 반복적으로 발생하는 어텐션 연산을 HBM이 맡으면 GPU와 메모리 사이를 오가는 데이터가 줄어듭니다. 데이터 이동량이 감소하면 연산 지연과 전력 소모를 낮추는 효과를 기대할 수 있습니다. GPU가 모든 연산을 홀로 처리하는 대신, HBM이 특정 작업을 나눠 맡는 구조입니다.

다만 aHBM이 GPU를 대체하는 것은 아닙니다. 고성능 범용 연산은 여전히 GPU가 담당하고, 메모리 내부에서 처리하는 편이 효율적인 작업을 aHBM이 분담하는 형태에 가깝습니다.

zHBM, GPU 위에 쌓이는 최종 단계

삼성전자가 제시한 최종 목표는 zHBM입니다. HBM을 GPU 옆에 배치하는 현재의 구조를 넘어, GPU 위에 메모리를 직접 쌓는 방식입니다. GPU와 HBM의 물리적 거리가 더욱 짧아지면 데이터 전달 속도를 높이고 시스템 공간을 줄이는 데 유리할 수 있습니다.

zHBM이 구현되면 GPU와 메모리는 개별 부품의 조합을 넘어 하나의 통합된 컴퓨팅 시스템에 가까워집니다. 메모리는 저장 공간이면서 동시에 연산을 보조하는 역할을 맡고, GPU는 필요한 데이터를 더 빠르게 공급받을 수 있습니다.

물론 발열 제어, 패키징 기술, 수율, 전력 공급 등 해결해야 할 과제도 적지 않습니다. 특히 GPU 위에 HBM을 쌓는 구조에서는 열을 어떻게 배출할지가 핵심 문제가 될 수 있습니다. 그럼에도 cHBM, aHBM, zHBM으로 이어지는 로드맵은 AI 반도체의 경쟁 무대가 GPU 성능만이 아니라 메모리와 연산을 얼마나 가깝게 결합하느냐로 이동하고 있음을 보여줍니다.

Reference

한국경제: https://www.hankyung.com/article/202608247371i