SK하이닉스가 2023년 8월 공개한 HBM3E 제품 [출처=SK하이닉스 뉴스룸]

SK하이닉스가 올해 고대역폭메모리(HBM) 경쟁에서 우위를 점하면서 인공지능(AI) 메모리 시장 내 두드러진 존재감을 더욱 공고히 했다고 자평했다.

HBM은 여러 개의 D램을 수직으로 연결해 데이터 처리 속도를 높인 초고성능 D램이다. 고속 병렬 연산에 적합하도록 메모리 대역폭을 극대화한 것이 특징이다. 지난해 혜성처럼 등장한 생성형 AI 챗GPT 열풍에 힘입어 시장 수요가 빠르게 늘어나고 있다.

SK하이닉스는 20일 뉴스룸을 통해 “(SK하이닉스는) 올해 AI 메모리 시장에서 가장 큰 두각을 보였다”며 “글로벌 1위 HBM을 필두로 극저전력(PIM) 반도체 GDDR6-AiM 기반의 가속기 카드 ‘AiMX’ 시제품을 선보였고, 차세대 메모리 솔루션 ‘컴퓨트익스프레스링크(CXL)’ 상용화에도 힘썼다”고 밝혔다.

SK하이닉스는 일찌감치 HBM 시장에 뛰어들었다. 2013년 실리콘 관통전극(TSV) 기술로 D램 칩 사이사이에 수천 개의 데이터 이동 통로를 만들어 고용량, 고대역폭 HBM을 구현했다. 이후 매스리플로-몰디드언더필(MR-MUF) 기술로 D램 칩을 쌓고 포장해 생산성을 높였다. 최근에는 어드밴스드 MR-MUF까지 개발하면서 더 작은 크기로 고용량 패키지를 만들고 열 방출 성능도 개선했다.

SK하이닉스는 높은 기술력을 바탕으로 HBM 기술 경쟁을 주도했다. 올해 24GB(기가바이트) 12단 HBM3를 개발하는 데 성공했다. 지난 8월에는 세계 최고 성능의 HBM3E 개발을 마쳤다. 해당 제품의 핀당 처리 속도는 초당 9.2Gb 이상으로 데이터 처리량은 초당 1.15TB(테라바이트)에 달한다. 용량은 12단 HBM3와 같지만, 층수는 8단으로 더 적다. 12단 개발 시 더 많은 용량을 확보할 수 있는 셈이다.

해당 제품은 고객 인증 과정에서 고사양 GPU의 성능을 최상위로 끌어올리는 것으로 밝혀지면서 기대를 모았다. HBM3E 개발을 성공적으로 마친 뒤에는 국내외 행사에 참여하며 기술 리더십을 공고히 했다. 지난 10월 OCP 글로벌 서밋 2023에서 HBM3E를 세계 최초로 공개했다. 하반기에는 각종 주요 행사에 참석해 HBM3E의 경쟁 우위를 널리 알렸다.

김왕수 SK하이닉스 GSM 팀장은 “내년에는 HBM3E의 양산·판매가 계획되어 있어 자사의 시장 지배력이 다시 한번 극대화할 것”이라며 “후속 제품인 HBM4 개발도 본격화할 예정이기에 내년은 SK하이닉스의 HBM이 새로운 국면을 맞는 한 해가 될 것”이라고 언급했다.

이어 김 팀장은 “AI 산업이 빠르게 성장하는 만큼 HBM 제품도 현재 AI 서버에 국한된 것을 뛰어넘어 AI와 관련된 모든 영역으로 확장할 것”이라며 “이 시점에 자사의 HBM 제품은 AI 산업을 이끄는 매우 중요한 역할을 맡을 것”이라고 내다봤다.

아울러 SK하이닉스는 HBM을 비롯해 PIM, CXL 등 메모리 3종 솔루션을 개발하면서 AI 메모리 라인업을 탄탄히 구축했다.

PIM은 메모리 반도체에 연산 기능을 더한 지능형 메모리 반도체다. 그래픽처리장치(GPU)와 중앙처리장치(CPU)가 메모리에서 데이터를 불러와 연산하는 폰노이만 구조와 달리 메모리 내부에서 연산하는 것이 특징이다. 연산을 마친 소량의 데이터만 xPU로 전달해 병목 현상과 데이터 이동 거리를 획기적으로 줄여 전력 소모량을 절감하는 효과가 있다.

CXL은 PCIe 기반으로 CPU, GPU, 가속기 등 여러 장치와 메모리를 연결하는 통합 인터페이스 기술이다. AI 연산 시 메모리 용량과 대역폭 확장이 필수적이다. PCIe 기반의 CXL을 사용하면 모듈을 추가하는 방식으로 메모리 용량과 대역폭을 대폭 늘릴 수 있다. 여러 장치에 CXL 메모리를 효율적으로 나눠 쓸 수 있고, 가속기를 붙여 연산에 활용할 수도 있다.

SK하이닉스는 내년에는 메모리 확장 솔루션과 제품 상용화에 주력하겠단 목표다.

최원하 SK하이닉스 GSM TL은 “96GB와 128GB 제품을 중심으로 24년 상반기에는 고객 인증을 마치고, 하반기에 상용화할 예정”이라며 “CXL 2.0 메모리 확장 솔루션을 적용한 고객은 DDR5만 탑재한 기존 시스템 대비 최대 50% 대역폭 향상을 기대할 수 있고, 용량 확장도 최대 50~100%까지 가능하다”고 강조했다.

그러면서 “SK하이닉스는 공유, 연산 등 다양한 응용 사례를 창출하는 동시에 HBM이 주도하는 AI 시장에 더불어 더 많은 용량으로 유연하게 확장할 수 있는 CXL 제품을 개발할 것”이라고 밝혔다.