■ 진행 : 이태연 아나운서
■ 방송일 : 2024년 8월 2일 (금요일)
■ 대담 : 김정남 이데일리 기자
* 아래 텍스트는 실제 방송 내용과 차이가 있을 수 있으니 보다 정확한 내용은 방송으로 확인하시기를 바랍니다.
◆ 이태연 아나운서 (이하 이태연) : 다양한 산업 분야와 기업들의 움직임, 그 이면까지 생생히 전달해드리기 위해 마련한 코넙니다. 취재부터 뉴스까지, 한큐에 전해드릴 <취재수첩 생생타임즈> 이데일리 김정남 기자, 전화로 연결합니다. 기자님, 안녕하세요. 생생경제 들어오신 분들이라면 많이 접하셨을 단어, 바로 반도체 그 중에서도 HBM입니다. 그런데 이게 정확히 뭘 말하는 거냐, 묻는다면, ‘글쎄...’ 하는 분들, 좀 있으실 것 같거든요? 오늘 기자님께서, HBM과 관련된 기초정보들, 아주 말끔히 정리해주신다, 들었습니다.
◇ 김정남 이데일리 기자 (이하 김정남) : 일단 HBM에 대한 설명부터 드리자면, HBM은 영어로 High Bandwidth Memory, 즉 이름 그대로 넓은 대역폭을 지닌 메모리를 뜻합니다. 여기서 ‘대역폭’이라는 것은 주어진 시간 안에 데이터를 전송하는 속도나 처리량, 다시 말해 데이터 운반 능력을 의미합니다. HBM은 현재 메모리 반도체 시장에서 가장 넓은 대역폭을 지닌 제품입니다. 그럼 이게 왜 이렇게 요즘 많이 회자되냐, 그 이유가 있겠죠. 그것은 바로 AI에 있습니다. 대용량 데이터를 스스로 학습해 인간처럼 종합적인 추론이 가능한 초거대 AI가 등장한 게 가장 큰 이유인데요. 예컨대 챗GPT가 인간처럼 질문에 답하는 것은 파라미터, 즉 매개변수가 수천억개에 달하는 수많은 데이터를 학습한 언어모델이기 때문입니다. 이렇게 AI가 고도화할수록 AI 서비스를 원활하게 구동하려면 더 많은 양의 데이터를 기반으로 여러 연산을 동시에 빠르게 수행해야 하는데, 지금 반도체업계가 찾은 해법이 HBM인 것이죠.
◆ 이태연 : HBM, 반도체 이야기하면 아마 많은 분들이 가장 먼저 떠올릴 만한 기업, 바로 엔비디아거든요. 이건 왜 그런 거죠?
◇ 김정남 : HBM에는 워낙 복잡한 기술들이 들어가는데, 딱 한가지만 설명하면요. TSV(Through Silicon Via)라는 기술을 적용했다는 게 가장 핵심입니다. TSV는 D램 메모리 칩을 수직으로 쌓고, 적층된 칩 사이에 얇은 금속 터널을 만들어 전기적 신호가 칩 사이에 직접 전달되게 하는 패키징 기술을 말합니다. TSV 기술이 있기 때문에 적은 전력으로 거대한 데이터를 처리할 수 있고 데이터 전송 속도의 지연도 최소화할 수 있습니다. 이런 HBM이 세트로 같이 붙어 있는 게 또 요즘 많이 회자되는 그래픽저장장치(GPU)입니다. GPU는 쉽게 말해서 컴퓨터의 중앙처리장치(CPU)와 비슷하다고 보면 됩니다. 그 대신 CPU는 명령어를 순서대로 처리하는데, GPU는 한 번에 여러 계산을 하기 때문에 AI 시대에 최적화돼 있다는 평가를 받는 것이죠. 이 시장을 장악하고 있는 엔비디아가 전세계 시가총액 1위에도 오르고 하는 게 이 때문입니다. GPU에 데이터처리용 메모리로 HBM 여러 개를 조립해 만드는 게 요즘 없어서 못 판다는, AI 산업혁명의 핵심 엔진인 AI 가속기입니다. 이것은 엔비디아가 설계하고요. 대만 TSMC가 패키징 작업을 거쳐서 납품합니다. 그 과정에서 사실상 엔비디아에 HBM을 독점 공급하고 있는 SK하이닉스의 HBM이 함께 탑재되는 겁니다.
◆ 이태연 : SK하이닉스 이야기 해주셨습니다만 삼성전자도 있잖아요. 이 두 기업의 HBM 양산과 개발, 어느 정도 수준까지 와 있습니까.
◇ 김정남 : 네. 지금 시장을 이끄는 SK하이닉스부터 볼까요. 현재 HBM 시장의 대세는 5세대 제품인 HBM3E입니다. 올해 5세대 HBM3E의 출하량이 전체 HBM의 절반 이상을 차지할 것이라는 게 회사 측의 설명입니다. SK하이닉스는 올해 3월 메모리 업체 중 처음으로 엔비디아에 HBM3E 8단 제품을 납품하기 시작했고요. HBM3E 12단 제품도 4분기에 공급을 시작할 예정입니다. 권재순 SK하이닉스 수율 담당은 최근 영국 파이낸셜타임스(FT)와 인터뷰에서 “HBM3E는 목표 수율 80%에 거의 도달했다”고 밝혀 화제를 모았습니다. 반도체 사업에서 결국 성패를 가르는 것은 수율이거든요. 당분간 SK하이닉스가 시장을 주도할 것으로 보입니다.
◆ 이태연 : 삼성전자도 엔비디아에 곧 납품.. 가능하겠죠? 통과됐다는 보도들도, 삼성측에서 후에 부인하긴 했습니다만 여러 번 나왔었거든요.
◇ 김정남 : 네. 요즘 반도체업계에서 가장 주목 받고 있는 게 바로 삼성전자의 엔비디아 HBM 납품 여부입니다. 앞서 말씀 드렸듯이 AI 가속기를 만드는데 있어서 엔비디아의 GPU 설계와 SK하이닉스의 HBM 납품, TSMC의 생산 등 세 업체의 협업이 견조한데요. 그 사이를 삼성전자가 뚫고 들어가서 엔비디아에 HBM을 수주해야 하는 것입니다. 일단 전망은 매우 긍정적입니다. 바로 어제였죠. 삼성전자가 2분기 실적을 발표하면서 컨퍼런스 콜을 진행했는데, 그 자리에서 HBM3E 8단 제품을 3분기 내에 양산해 공급을 본격화하고 12단 제품은 하반기에 공급할 예정이라고 밝혔습니다. 현재 삼성전자는 엔비디아로부터 HBM3E 제품의 품질 테스트를 진행 중입니다. 그런데 공개석상에서 ‘공급’을 밝힌 의미는 주요 고객사를 이미 확보했다는 뜻으로 보입니다. 통상 HBM은 사전에 고객사와 계약을 토대로 공급 물량을 결정하기 때문입니다. 그 고객사는 당연히 엔비디아일 것으로 보이고요. 엔비디아에 이은 2위인 AMD에 공급할 가능성도 높습니다. 삼성전자는 “고객사와의 비밀유지계약(NDA) 준수”를 이유로 더 구체적인 얘기는 하지 않았는데요. 이 정도만 해도 큰 틀에서 HBM 실적이 좋아질 것이라는 점은 짐작할 수 있었습니다. 12단 제품 역시 마찬가지죠. 하반기 공급을 거론한 것은 SK하이닉스의 12단 제품 공급 시기와 거의 비슷합니다. HBM3E 12단 제품부터는 삼성전자가 HBM 시장에서 존재감을 키울 수 있다는 의미입니다.
◆ 이태연 : HBM3E에 이은 6세대 HBM4에 대한 관심도 뜨겁다면서요. 이건 뭔가요?
◇ 김정남 : 그렇습니다. 현재 삼성전자와 SK하이닉스, 마이크론은 모두 HBM4를 개발 중입니다. 그런데 시장의 눈은 이미 HBM4로 넘어가고 있다고 해도 과언이 아닌 게 HBM4부터는 이전과 구조 자체가 완전히 달라지기 때문입니다. 말씀 드렸듯이 현재 AI 가속기는 GPU와 HBM을 바로 옆에 수평으로 붙이는 패키징 기법을 쓰고 있습니다. 그런데 HBM4부터는 HBM이 GPU 위에 수직으로 올라가는 패키징 기법을 도입합니다. GPU(로직)와 HBM(메모리)이 사실상 한몸이 되는 겁니다. 이를 통해서 GPU와 HBM 사이에서 데이터가 오가는 속도와 효율을 더 높이겠다는 목적입니다. 그런데 이때 HBM 받침대 역할을 하는 핵심 부품인 ‘베이스 다이’라는 게 있는데요. 이게 지금은 말 그대로 받침대 역할을 하는데, HBM4부터는 GPU와 HBM 사이에 놓이게 되는 것이죠. 그 중간에서 약간의 연산까지 직접 하는 식으로 진화하게 됩니다.
◆ 이태연 : 그렇다면 베이스 다이의 역할 변화에 따라 각 업체들의 HBM 전략도 달라질 수 있겠군요.
◇ 김정남 : 네 그렇습니다. 시간이 부족하니 현재 선두인 SK하이닉스만 간단히 살펴보겠습니다. SK하이닉스는 5세대까지는 베이스 다이를 비롯해 HBM의 모든 부분을 직접 만들었는데, 6세대부터는 베이스 다이의 성능 개선을 위해 TSMC와 협업을 더 강화하기로 했습니다. TSMC와 엔비디아의 대만 동맹에 합류해서 HBM 시장에서 승기를 굳히겠다는 건데요. 다만 SK하이닉스 입장에서는 고민 역시 있을 것으로 보입니다. 아무래도 부품을 받아야 하니 나중에는 TSMC에 다소 끌려다닐 수 있다는 점이 있습니다. 지금 업계에서는 초미세 공정 생산이 가능한 파운드리가 TSMC와 삼성전자밖에 없습니다. TSMC가 아니면 삼성 파운드리를 택해야 하는데, HBM 경쟁사다 보니 아무래도 어렵겠죠. 그런 점에서 운신의 폭이 좀 작아질 수 있다 이런 관측도 있습니다.
◆ 이태연 : 기자님, 오늘 말씀은 여기까지 듣겠습니다. 지금까지 이데일리 김정남 기자였습니다.
[저작권자(c) YTN radio 무단전재, 재배포 및 AI 데이터 활용 금지]