■ 진행 : 조태현 기자
■ 방송일 : 2026년 3월 21일 화요일
■ 출연 : 김창욱 MD&파트너 (보스턴컨설팅그룹 코리아)
- 터보퀀트, '추론'AI-에이전트AI가 변곡점? 이 수요만큼 AI데이터센터가 커진면 에너지 감당될까? 어떤 방식으로든 줄여내야..터보퀀트가 일종의 모델인셈
- "그런데, 과연 AI의 엄청난 메모리 사용량을 1/6로만 줄여도 될까?" 기울기를 다소 낮춰줄 뿐, 메모리 수요는 여전히 높을 것
- 오히려 메모리 부족과 부담 때문에 증설하지 못했던 데이터센터 건설을 더 용이하게 해줄 수도..상용화까지도 꽤 시간 걸릴 것
- "터보퀀트, 인류의 재앙 막은 셈..오히려 메모리 수요 더 촉발시킬 수 있어"
- HBM 최종승자? "SK하이닉스가 50% 공급 1위라면, 5대3대2의 구도에서 삼성전자가 30 또는 20% 정도 가져갈 것"
- 대만 TSMC 독점 구도의 파운드리업계, 불만 커..파운드리 이원화 시급
- 고객사인 엔비디아 구글 테슬라 등이 삼성전자 파운드리로 쏠리는 중..삼성에겐 '호재'
아래 텍스트는 실제 방송 내용과 차이가 있을 수 있으니 보다 정확한 내용은 방송으로 확인하시기를 바랍니다.
◆ 조태현 : 최근에 구글이 내놓은 기술이 반도체 시장에 영향을 많이 미치고 있어요. 소위 말하는 터보퀀트인데요. 이게 뭡니까?
◇ 김창욱 : 모델 측면에서, 추론했을 때의 메모리 반도체 사용량을 6분의 1로 줄인다라고 하는 기술이고, 모델을 어떻게 사용하느냐에 대한 모델의 알고리즘이에요. 우리 약간 좀 투머치인가 싶은데 트랜스포머라는 알고리즘을 지금 모든 LLM들이 쓰고 있거든요.
◆ 조태현 : 로봇 얘기하는 줄 알았는데 아니군요.
◇ 김창욱 : 구글이 개발했어요. 구글이 옛날부터 이런 알고리즘을 열심히 개발한 회사고 챗GPT가 나타났을 때 "우리는 왜 저렇게 챗봇을 생각을 안 했지?"라고 약간 후회는 했지만, 그 후에도 끊임없이 이렇게 모델을 계속 개량해 나가고 있고요. 이 터보퀀트가 어찌 됐든 추론 시대가 왔을 때, 곧 아까 말씀드린 AI 에이전틱이 오면 메모리 사용량이 너무 과다하고 아무리 GPU나 아니면 TPU가 성능이 좋아도 메모리에서 이 인터커넥트를 받아주지 못해서, 메모리 바운드 현상, 메모리 월 현상, 메모리 때문에 연산이 늦어진다라고 하는데.
◆ 조태현 : 그러니까 아까 말씀하셨던 것처럼 얘가 다 감당을 못해서 뻗는다.
◇ 김창욱 : 그렇죠. 그래서 어떻게 하면 메모리를 덜 쓰고 효율적으로 운영할 거냐에 대한 기술이죠.
◆ 조태현 : 그런데 그런 말씀을 들어보면요. 메모리를 덜 쓴다, 6분의 1로 사용량을 줄인다는 거잖아요. 그러면 앞으로 메모리에 대한 어떤 수요 같은 것들 줄어들 가능성이 있는 거 아니에요? 시장이 또 그걸 예민하게 보는 거고.
◇ 김창욱 : 저도 미래학자는 아니지만 그래도 이렇게 생각은 해요. 그러니까 앞에서 수요가 폭발적으로 증가를 한다. 그런데 추론 AI, 그러니까 추론이 변곡점을 일으킨다고 생각했었는데 크진 않았고, 에이전틱 AI가 다시 한 번 변곡점을 일으키면서 시장의 수요 기울기를 다시 한 번 급등시킨다. 익스포넨셜하게 늘린다라고 얘기를 하는데요. 이렇게 되면 이 수요를, 그냥 이대로 데이터센터가 커지면 저는 인류의 재앙이 올 것, 이 수많은 에너지를 어떻게 감당할 거냐. 그러니까 누구나 이런 것들에 대한 고민들을 해야만 했고 특히 에이전틱 AI 때문에 오는 급증 수요는 어떤 방식으로든 줄여내야 한다. 이거는 그냥 인류를 위해서라도 저는 필요한 일이라고 보여지는 거고, 터보퀀트가 그거를 일종의 모델을 하나 제시를 한 거죠. 그렇게 되면 다시 6분의 1로 줄인다. 근데 에이전틱 AI, 아까 제가 잠깐 말씀드렸던 수많은 Chain of Thought들을 계속해야 되는 건데 얘가 6배만 메모리를 증가시킬까요? 훨씬 더 증가시킬 거라는 거죠. 그러니까 에이전틱 AI 자체가 엄청난 메모리 사용량을 그나마 6분의 1로 줄여준다고 하면, 그러니까 기존에 폭발적으로 늘어나는 것보다는 완화는 되겠지만 메모리는 여전히 많이 쓰이니까 그거를 어떻게든 덜 쓰이게 만드는 방법, 그러니까 성장의 기울기를 다소 낮춰줄 뿐이지, 기울기는 여전히 높다라고 저는 생각이 된다가 첫 번째 얘기고요. 또 하나는 이게 그러면 뭔가 메모리 자체를 그냥 아예 획기적으로 줄여주는 거냐라고 하면 생각을 해 보면, 어찌 보면 지금의 데이터센터를 늘리지 못하는 이유가 메모리에 대한 비용 부담 혹은 성능 부담이 있었던 거잖아요. 그러면 이게 원활해진다고 했을 때 데이터센터의 건설은 좀 더 용이해질 수도 있겠죠. 그러니까 시장의 성장을 오히려 도와줄 수 있는, 그냥 당연히 도와줘야만 하는 기술처럼 보여진다. 그래서 너무 지금은 주식시장에서는 단기적 모습으로 이게 6분의 1로 지금에서 시장이 확 곧 줄어들 거야, 메모리 시장이 6분의 1이 될 거야로 오해하시는 것 같은데 그건 아닐 거예요. 아닐 수밖에 없는 모습이에요.
◆ 조태현 : 아마 너무 올랐기 때문에 울고 싶은데 뺨 맞은 그런 기분으로 이런 게 아닐까 싶긴 한데요. 실제로 이것 때문에 우리 반도체라든지 주가가 많이 빠진 거는 사실이긴 합니다. 그런데 이거 언제부터 도입이 된다는 거예요? 하긴 한다는 거예요?
◇ 김창욱 : 그냥 실험적으로 이런 기술이 가능하다라는 게 나온 거잖아요. 일종의 그냥 연구실, 실험실 수준에서 나온 거기 때문에 기술의 상용화가 되기까지 꽤나 시간은 많이 걸릴 수밖에 없죠.
◆ 조태현 : 그렇게 보면 어떤 측면에서는, 주가 말씀하시기 곤란할 수 있겠지만, 지금이 찻잔 속의 태풍 때문에 이렇게 주가가 많이 하락했다면 기회도 될 수가 있겠네요.
◇ 김창욱 : 그렇죠. 전쟁에 여러 가지가, 주가가 많이 빠졌으니까. 오늘도 아침부터 굉장히, 어제 필라델피아 주 지수 보면 뚝 떨어졌던데.
◆ 조태현 : 30개 주가 다 떨어졌어요.
◇ 김창욱 : 그렇죠. 그러니까 어찌 보면 그냥 매크로를 믿으신다면 계속 수요는 증가할 거고, 터보퀀트가 나타나도 오히려 워낙 그냥 인류의 재앙을 막은 거였고, 오히려 수요를 더 촉발시킬 수 있는 여러 가지 요인들을 고려해 보면 나쁜 선택은 아니지 않을까, ‘지금 담는 것도?’ 라는 생각은 듭니다.
◆ 조태현 : 알겠습니다. 이거는 조금 우려가 과도한 거는 맞는 것 같아요. 그렇다고 해도 전쟁 상황에 많은 영향을 받고 있기 때문에 조금 조심해서 접근하는 게 좋긴 하겠고요. 끝으로 이 내용 한번 살펴보죠. 지금까지는 HBM 고대역폭 메모리 경쟁에서 SK하이닉스가 확실한 강자로 자리매김을 해 왔잖아요. 그런데 삼성도 많이 따라잡은 것 같기는 해요. 어떤 상황입니까? 지금 경쟁력 차원에서 비교를 하자면.
◇ 김창욱 : 양사의 경쟁력을 제가 다루기는 좀 어려워요. 이거는 좀 민감한 얘기니까. 하지만 그냥 NVIDIA나 구글에서의, 브로드컴의 움직임을 보면 삼성이 먼저 일단은 들어왔다라는 얘기도 있었고, 그런 기사들을 보면 일단 기본적으로 제품의 경쟁력이 안 되는 거를 쓸 수가 없기 때문에. 그리고 먼저 들어갔다라는 거는, 사실은 선언을 누가 했느냐의 차이여서 이거 자체는 핵심은 아닐 거고요. 어쨌든 그냥 여러 뉴스 기사에 나타나는 거는 하이닉스가 일단은 가장 많이 HBM을 공급하게 될 거고, 그다음에 삼성이 두 번째로 들어간다라고 하면 업계에서 환급률이 5 대 3 대 2 혹은 7 대 2 대 1 이 정도의 비율 사이에서 움직이니까 3위나 2 정도는 삼성전자가 가져가는 것 같다. 그러면 실적 자체가 좋아질 수밖에 없는 거고, 그래서 좋은 소식이라고 저는 생각합니다.
◆ 조태현 : 둘 다 잘 나가면 좋은 거니까요. 아, 이게 뭔가 비밀을 살짝살짝 여쭤보려고 그랬는데 이번에도 실패를 했습니다. 끝으로 하나만 더 살펴보죠. 삼성의 파운드리, 지금까지는 아픈 손가락이었는데 이쪽 분위기도 많이 달라지는 것 같아요. 어떻게 보고 계십니까?
◇ 김창욱 : 일단 고객사들이 엄청나게 불만이 크다라는 걸 이해하시면 좋아요. 그러니까 소위 극단적으로 ‘탈 대만’이라는 얘기가 나올 정도로 워낙 TSMC, 그다음에 그 밑에 있는 ASE라고 하는 패키징 회사, 그다음에 NVIDIA도 젠슨 황도 결국은 대만계, 그다음에 데이터센터에 들어가는 냉각 솔루션들 보면 요즘은 리퀴드 쿨링으로 액체로 쿨링하는 것들도 다 대만의 업체들, 부품 업체들, 폭스콘이 연결되어 있는 부품 업체들이 다 공급을 합니다. 그러니까 고객들 입장에서는, 근데 심지어는 독점 공급밖에 없잖아요. 그러니까 너무 불만이 크고 그래서 파운드리의 이원화가 가장 시급합니다.
◇ 김창욱 : 예를 들면 엔비디아는 칩을 만들지 못해서 칩만 만들 수 있으면 그냥 무조건 팔리는 상황이니까 어떤 식으로든 파운드리의 캐파, 그다음에 파운드리에서 아까 어드밴스드 패키징, GPU랑 HBM을 엮어주는 2.5D 패키징을 파운드리가 해주고 있으니까 누구라도 이걸 할 수 있으면 좋겠다라는 게 고객사들의 움직임이고, 문제는 근데 해주기를 바라고 기도만 하고 있던 게 고객사들의 움직임에서 "이거는 이대로 놔두면 인텔이든 삼성이든 일어나기 어렵겠다. 우리가 나서서 도와야 된다." 그래서 작은 물량이라도 억지로 주자. 그래서 이들이 선단 로드에 대한 훈련이 되고 기술적 발전을 만들어야 된다. 그래서 테슬라도 도와주기 시작한 거고, 구글 같은 경우도 전 세대 모델은 삼성 파운드리로 맡기고 특히나 지금 3나노대의 노드에 다 몰려 있거든요. 이게 그 AI 관련된 반도체들이. 그래서 이런 쪽에 대해서 삼성의 실력을 높여주려고 하는 거고 삼성의 입장에서는 호재가 되고 있는 거죠.
◆ 조태현 : 나쁠 건 없죠. 알겠습니다. 반도체 지금 흔들리고 있지만 말씀을 들어보면 앞으로도 그렇게까지 걱정할 그런 문제는 아닌 것 같아요. 지금의 파고만 잘 헤쳐나갔으면 좋겠습니다. 지금까지 김창욱 보스턴 컨설팅 그룹 코리아 MD 파트너와 함께했습니다. 오늘 말씀 고맙습니다.
◇ 김창욱 : 감사합니다.
[저작권자(c) YTN radio 무단전재, 재배포 및 AI 데이터 활용 금지]