인공지능(AI) 열기 속에 AI산업을 이끌어 갈 고대역폭메모리(High Bandwidth Memory) 반도체 경쟁도 치열해지고 있다. HBM(1세대)-HBM2(2세대)-HBM2E(3세대)-HBM3(4세대)-HBM3E(5세대)-HBM4(6세대) 순으로 개발된 HBM은 현재 HBM3E 양산을 시작해 상용화를 눈앞에 두고 있다. 경쟁업체인 SK하이닉스와 마이크론에 비해 HBM3E 양산시점이 뒤진 삼성전자는 기술로 승부를 걸겠다는 복안이다.

27일 삼성전자에 따르면 업계 최초로 36GB(기가바이트) HBM3E 12H(12단 적층) D램 개발에 성공하고, 샘플을 고객사에게 제공하기 시작했다. 올해 상반기 양산할 예정이다.

HBM은 메모리 반도체의 한 종류로 D램을 적층으로 쌓은 뒤 구멍을 뚫어 통로(TSV)를 만들어 연결한 제품이다. 저장용량이 크고 빠르다. 삼성전자는 24Gb(기가비트) D램 칩을 TSV 기술로 12단까지 적층해 업계 최대 용량인 36GB HBM3E 12H를 구현했다.

HBM3E 12H는 초당 최대 1280GB의 대역폭과 현존 최대 용량인 36GB을 제공해 성능과 용량 모두 전작인 HBM3 8H(8단 적층) 대비 50% 이상 개선된 제품이다.

HBM3E 12H는 1024개의 입출력 통로(I/O)에서 초당 최대 10Gb를 속도를 지원한다. 초당 1280GB를 처리할 수 있어 1초에 30GB 용량의 UHD 영화 40여편을 업(다운)로드 할 수 있다.

삼성전자는 'Advanced TC NCF'(Thermal Compression Non Conductive Film·열압착 비전도성 접착 필름) 기술로 12H 제품을 8H 제품과 동일한 높이로 구현해 HBM 패키지 규격을 만족시켰다.

'Advanced TC NCF' 기술을 적용하면 HBM 적층수가 증가하고, 칩 두께가 얇아지면서 발생할 수 있는 '휘어짐 현상'을 최소화 할 수 있는 장점이 있어 고단 적층 확장에 유리하다.

삼성전자는 NCF 소재 두께도 지속적으로 낮춤으로써, 업계 최소 칩간 간격인 '7마이크로미터(um)'를 구현했다. 이를 통해 HBM3 8H 대비 20% 이상 향상된 수직 집적도를 실현했다.

특히 칩과 칩사이를 접합하는 공정에서 신호 특성이 필요한 곳은 작은 범프(Bump·전도성 돌기)를, 열 방출 특성이 필요한 곳에는 큰 범프를 목적에 맞게 사이즈를 맞춰 적용했다. 크기가 다른 범프 적용을 통해 열 특성을 강화하는 동시에 수율도 극대화했다.

또 삼성전자는 NCF로 코팅하고 칩을 접합해 범프 사이즈를 다양하게 하면서 동시에 공극(Void)없이 적층하는 업계 최고 수준의 기술력도 선보였다.

성능과 용량이 증가한 이번 제품을 사용할 경우 GPU 사용량이 줄어 기업들이 총 소유 비용을 절감할 수 있는 등 리소스 관리를 유연하게 할 수 있는 것도 큰 장점이다. 예를 들어 서버 시스템에 HBM3E 12H를 적용하면 HBM3 8H를 탑재할 때 보다 평균 34% AI 학습 훈련 속도 향상이 가능하며, 추론의 경우에는 최대 11.5배 많은 AI 사용자 서비스가 가능할 것으로 기대된다.

삼성전자 메모리사업부 상품기획실장 배용철 부사장은 “삼성전자는 AI 서비스를 제공하는 고객사의 고용량 솔루션 니즈에 부합하는 혁신 제품 개발에 힘쓰고 있다”며 “앞으로 HBM 고단 적층을 위한 기술 개발에 주력하는 등 고용량 HBM 시장을 선도하고 개척해 나갈 것”이라고 했다.

◇ SK하이닉스·마이크론, 2분기 엔비디아에 제품 공급

지난해 8월 업계 최초로 HBM3E를 개발한 SK하이닉스는 3월 HBM3E 양산을 시작해 초도물량을 엔비디아에 공급할 계획이다. SK하이닉스는 엔비디아의 성능 평가를 무사히 마치고 지난 1월 중순 HBM3E 개발을 공식 종료했다. 

삼성전자도 현재 엔비디아에 HBM3E 샘플을 제공한 상태지만, 납품 가능한 품질인지 확인하는 최종 퀄테스트 돌입 시기는 3월로 예상된다. SK하이닉스가 이미 1월 중 최종 퀄 테스트를 거쳐 3월엔 납품을 하는 만큼 로드맵 상 최소 2개월 이상 앞서는 셈이다.

SK하이닉스가 제공하는 HBM3E는 엔비디아가 올해 2분기 말 또는 3분기 초 출시할 예정인 차세대 AI용 그래픽처리장치(GPU)인 B100에 들어간다. 

업계 관계자는 “엔비디아는 AI GPU 글로벌 시장 점유율 90% 이상을 차지하는 독점 기업”이라면서 “SK하이닉스가 엔비디아에 가장 먼저 HBM3E 샘플들을 공급하고 최종 검증을 마치면서 양산 경쟁에서 앞섰고, 올해 생산할 HBM3E 제품 모두 엔비디아에 공급할 것”이라고 했다. 

미국 마이크론도 HBM3E 양산을 시작해 제품을 엔비디아에 공급한다. 마이크론 측은 “올해 2분기 출시 예정인 엔비디아 H200 텐서 코어 GPU에 HBM3E가 적용될 것”이라고 밝혔다.