[아이포럼 2026] 포스트 HBM은?…"메모리가 직접 계산하고, 고객과 함께 설계"

[아이뉴스24 박지은 기자] 인공지능(AI) 반도체의 핵심 부품인 고대역폭메모리(HBM) 다음은 무엇일까.

메모리가 직접 계산하는 기술과 여러 메모리를 효율적으로 조합하는 능력이 다음 경쟁을 이끌 것이라는 전망이 나왔다. 메모리 기업도 제품 공급자를 넘어 고객과 AI 시스템을 함께 설계하는 파트너가 돼야 한다는 진단이다.

22일 서울 용산구 서울드래곤시티에서 열린 '아이포럼 2026' 세션1 '반도체 최강국'에서는 '포스트 HBM'을 준비할 방향이 논의됐다.

김양팽 산업연구원 전문연구원이 좌장을 맡고 명석주 SK하이닉스 AI 인프라·HBM 마케팅 팀장, 강경수 카운터포인트리서치 연구위원이 참여했다.

"데이터 옮기는 데 드는 전력 줄여야"…PIM에 주목

김 연구원은 토론에서 "AI 시대가 진행되면서 HBM으로 끝나지 않을 것 같다"며 두 사람에게 차세대 메모리의 방향을 물었다.

강 연구위원은 해외 기업들이 데이터를 저장하는 메모리와 이를 계산하는 연산장치 사이의 거리를 줄이는 데 집중하고 있다고 설명했다. 두 장치 사이에서 데이터가 빠르고 효율적으로 오가도록 하는 것이 경쟁의 핵심이라는 것이다.

그는 고객의 요구에 맞춘 HBM과 반도체를 연결하는 패키징 기술로 효율을 높인 뒤 메모리 내 연산(PIM)으로 나아갈 가능성에 주목했다.

PIM은 메모리에서 직접 계산 일부를 처리하는 기술이다. 저장된 데이터를 그래픽처리장치(GPU)나 중앙처리장치(CPU)로 옮겨 계산하는 과정을 줄일 수 있다.

명 팀장도 PIM을 유력한 해법으로 꼽았다. 그는 데이터를 연산장치로 옮기는 과정에서 전력이 소모되고 대기 시간이 생긴다며 메모리 자체에서 연산하면 이를 줄일 수 있다고 설명했다.

고객의 비용을 낮추는 기술로는 컴퓨트익스프레스링크(CXL)도 제시했다. 메모리를 확장하고 남는 자원을 효율적으로 활용하도록 돕는 기술이다. 구글과 아마존웹서비스(AWS) 등 고객 입장에서는 AI 시스템을 구축하고 운영하는 비용을 줄이는 것이 중요한 과제라는 설명이다.

"특정 제품 넘어 여러 메모리 조합하는 경쟁으로"

명 팀장은 포스트 HBM을 개별 제품의 성능 경쟁보다 넓게 봐야 한다고 강조했다. 속도와 용량, 가격이 다른 여러 메모리를 어떻게 배치하고 활용하느냐가 중요해질 것이라는 전망이다.

그는 S램과 D램, 낸드플래시 등 기존 메모리에 새로운 종류가 추가될 수 있다며 시스템 전체를 고려한 설계가 필요하다고 설명했다.

명 팀장은 "여러 메모리 계층을 시스템에서 통합하고 활용하면서 전체적인 최적점을 찾아가는 방향으로 나아가지 않을까 생각한다"고 말했다. 이를 위해 시스템을 만드는 고객과 메모리 공급사가 협력해야 한다는 것이다.

앞선 발표에서 소개한 맞춤형 HBM과 3차원(3D) 적층 D램도 같은 맥락이다. 고객이 원하는 기능을 HBM에 넣거나 연산용 반도체 위에 D램을 직접 쌓아 데이터 이동 거리를 줄이는 방식이다.

다만 기술적 과제도 남아 있다. 최기영 서울대 명예교수가 토론 중 D램을 연산용 반도체 위에 쌓을 때 발생하는 열 문제를 묻자 명 팀장은 고객과 함께 해결 방안을 개발하고 있다고 답했다.

김 연구원은 논의를 마무리하며 "시스템을 만드는 수요자와 협의해서 만드는 전략적 파트너가 되는 것, 그것이 포스트 HBM이라고 생각된다"고 말했다.

아이뉴스24가 주최한 '아이포럼 2026'은 'AI 패권 전쟁, 새로운 질서: AI 3대 강국, 대한민국의 현재와 미래'를 주제로 열렸다. 최기영 서울대 명예교수(전 과학기술정보통신부 장관)의 기조연설에 이어 '반도체 최강국', 'AI 데이터센터 고도화', '피지컬 AI 주도국' 등 3개 세션에서 발표와 토론이 진행됐다.