AI 반도체 경쟁의 중심이 단순히 HBM을 얼마나 빠르게 만들고 많이 쌓느냐에서 새로운 단계로 넘어가고 있습니다. 삼성전자가 HBM의 최하단에 GPU와 유사한 연산 기능을 담당하는 일종의 ‘소형 두뇌’를 탑재하는 기술을 추진하는 가운데, SK하이닉스는 HBM을 20단까지 쌓는 초고적층 기술 개발에 속도를 내고 있기 때문입니다.
삼성전자와 SK하이닉스가 서로 다른 방향에서 차세대 HBM 시장의 주도권을 노리고 있다는 점이 눈에 띕니다.
삼성전자 HBM 승부수, 메모리가 직접 연산한다
기존 HBM의 핵심 역할은 GPU가 AI 연산에 필요한 데이터를 빠르게 전달하는 것입니다. 아무리 강력한 GPU를 사용하더라도 메모리에서 데이터를 가져오는 시간이 길어지면 전체 AI 시스템의 성능과 전력 효율이 떨어질 수밖에 없습니다.
삼성전자가 주목하는 부분이 바로 이 지점입니다.
HBM의 최하단에는 여러 개의 D램을 제어하고 GPU와 연결하는 베이스 다이가 위치합니다. 삼성전자는 이 영역에 단순 데이터 전달을 넘어 일부 연산까지 처리할 수 있는 기능을 넣는 방향을 추진하고 있습니다.
쉽게 말하면 GPU가 모든 작업을 직접 처리하는 대신 메모리 내부에 작은 두뇌를 넣어 일부 연산을 나눠 처리하는 방식입니다.
이 기술이 본격적으로 적용되면 HBM은 더 이상 데이터를 저장하고 전달하는 부품에 머물지 않습니다. 데이터를 저장하는 메모리와 계산을 담당하는 프로세서의 경계가 점차 희미해지는 셈입니다.
HBM에 GPU 기능이 들어가면 무엇이 달라질까?
AI 연산에서는 GPU와 HBM 사이에서 엄청난 양의 데이터가 이동합니다. 문제는 데이터 이동 자체에도 시간과 전력이 필요하다는 점입니다.
HBM이 일부 연산을 직접 처리한다면 GPU까지 데이터를 계속 이동시켜야 하는 부담을 줄일 수 있습니다. AI 데이터센터 입장에서는 연산 속도를 높이는 동시에 전력 소비를 줄일 가능성이 생깁니다.
특히 생성형 AI 모델이 대형화될수록 필요한 데이터와 연산량이 폭발적으로 증가하기 때문에 이러한 구조의 중요성은 더욱 커질 수 있습니다.
삼성전자의 전략이 성공한다면 향후 HBM 경쟁의 기준 역시 대역폭과 용량에서 ‘얼마나 똑똑한 메모리인가’로 확대될 가능성이 있습니다.
SK하이닉스는 20단 HBM으로 초고적층 승부
SK하이닉스의 방향도 흥미롭습니다. HBM 시장에서 강력한 경쟁력을 확보한 SK하이닉스는 차세대 제품에서 D램을 더 높게 쌓는 초고적층 기술에 집중하고 있습니다.
현재 12단, 16단을 넘어 향후 20단 HBM 시대까지 준비하는 것입니다.
HBM은 D램을 수직으로 쌓아 용량과 대역폭을 높이는데, 층수가 증가할수록 같은 면적에서 더 많은 데이터를 처리할 수 있습니다. AI 모델이 커지면서 GPU 한 개가 요구하는 메모리 용량도 계속 증가하고 있기 때문에 고단 적층 기술은 HBM 경쟁력의 핵심으로 평가됩니다.
하지만 단순히 많이 쌓는 것만으로 해결되는 것은 아닙니다. HBM 층수가 높아질수록 두께와 발열, 수율, 패키징 난도가 함께 상승합니다. 결국 20단 HBM의 핵심은 얼마나 높게 쌓느냐와 동시에 얼마나 얇고 안정적으로 연결하느냐에 달려 있습니다.
삼성전자와 SK하이닉스, HBM 경쟁 방향이 달라진다
두 회사의 전략을 비교하면 차이가 더욱 선명합니다.
SK하이닉스가 초고적층을 통해 HBM의 용량과 성능을 끌어올리는 방향이라면 삼성전자는 HBM 자체에 연산 기능을 추가하면서 메모리의 역할을 확대하려는 모습입니다.
결국 차세대 HBM 시장에서는 ‘더 높이 쌓는 기술’과 ‘메모리를 더 똑똑하게 만드는 기술’이 동시에 경쟁하게 될 가능성이 있습니다.
AI 반도체 시장이 커질수록 GPU만큼 중요한 것이 HBM입니다. 그리고 앞으로는 HBM 역시 단순 메모리가 아니라 AI 연산 시스템의 핵심 구성요소로 진화할 가능성이 높습니다.
삼성전자의 소형 두뇌 HBM과 SK하이닉스의 20단 HBM 경쟁은 결국 같은 질문으로 향합니다. AI 시대에 가장 빠르고 효율적으로 데이터를 처리하는 메모리를 누가 먼저 만들 것인가입니다.
HBM4와 차세대 HBM 시장에서 삼성전자와 SK하이닉스의 기술 경쟁을 계속 지켜봐야 하는 이유입니다.