AI 반도체 발열 한계…설계 기준이 PPA에서 PPAT로
AI 반도체 고집적화로 발열이 한계에 도달했다. HBM이 온도 상한을 정하고 냉각은 칩 내부로 들어온다. 전력·성능·면적에 열을 더한 PPAT 설계가 새 기준으로 떠올랐다.
AI 반도체는 왜 성능이 아니라 온도에 발목이 잡혔나?
AI 반도체 설계의 판단 기준이 바뀌고 있다. 전력·성능·면적(PPA)만 따지던 시대가 저물고, 여기에 열(Thermal)을 더한 PPAT가 새 문법으로 떠올랐다. 칩을 위아래로 쌓는 3D 적층이 확산되면서 열이 빠져나갈 통로가 좁아졌기 때문이다. 특히 D램을 여러 장 쌓은 HBM이 AI 반도체 전체의 온도 상한선을 사실상 결정하는 구조가 됐다. 냉각도 칩 바깥이 아니라 칩 안쪽으로 파고드는 방향으로 이동 중이다.
목차
발열이 왜 지금 설계의 최우선 변수가 됐나?
지난 3일 경기 안산 대부도에서 열린 인하대학교 반도체 산학연 교류 워크숍에서 학계는 한목소리로 발열 관리가 AI 반도체 설계와 생산의 필수 조건이 됐다고 진단했다. 최리노 인하대 교수, 최창환 한양대 교수, 유현용 고려대 교수, 조재훈 인하대 교수가 각각 소자·소재·배선·기판 관점에서 열 문제를 짚었다. 지금 업계가 쓰는 방식은 GPU와 HBM을 인터포저 위에 나란히 올리는 2.5D 구조인데, 앞으로 칩을 수직으로 쌓는 3D 구조로 넘어가면 열을 빼내기가 훨씬 까다로워진다. 미세화가 진행될수록 단위 면적당 전력밀도는 올라가는 반면, 열이 흘러나갈 경로는 오히려 좁아지는 역설이 발생한다.
At a semiconductor workshop held in Ansan on September 3, Korean academics agreed that thermal management has become a mandatory condition for AI chip design, not an afterthought.
HBM이 AI 반도체의 온도 상한을 정한다는 말은 무슨 뜻인가?
직관과 달리 열의 병목은 GPU가 아니라 메모리다. 최리노 교수 계산에 따르면 GPU는 800W를 소비해도 한계 온도까지 약 40도의 여유가 남는다. 반면 HBM은 GPU의 16분의 1 수준인 50W만 쓰는데도 한계 온도에 먼저 도달한다. D램을 여러 장 쌓은 구조 탓에 열이 밖으로 빠져나가지 못하고 적층 내부에 갇히기 때문이다. 게다가 D램이 견딜 수 있는 온도 자체가 GPU보다 약 20도 낮다. 결국 시스템 전체가 감당할 수 있는 온도 천장을 HBM이 먼저 결정하는 셈이다. 산업 현장의 대응도 여기에 몰려 있다. SK하이닉스는 HBM 패키지 안에 일체형 냉각 요소(ICE)를 넣은 iHBM으로 열저항을 30% 이상 낮췄다고 밝혔고, 삼성전자는 코어다이와 실리콘 관통 전극에 저전압·저전력 설계를 적용해 방열 성능을 30%가량 개선했다고 설명했다. 열을 덜 만들 것인가, 만들어진 열을 더 빨리 빼낼 것인가로 전략이 갈린 것이다.
HBM, not the GPU, sets the thermal ceiling: it consumes only 50W versus the GPU's 800W but hits its temperature limit first because stacked DRAM traps heat and tolerates 20 degrees less.
소재와 구조에서 확인된 숫자는 무엇을 말하나?
가장 구체적인 수치는 접합 방식 비교에서 나왔다. 최창환 교수 연구팀 시뮬레이션 결과 D램 8장을 쌓았을 때 기존 마이크로범프 방식은 95도까지 올라간 반면, 범프를 없애고 구리끼리 직접 붙이는 하이브리드 본딩은 70도에 머물렀다. 25도 차이다. 다만 구리 주변 절연막이 열을 잘 통과시키지 못한다는 숙제가 남아, 연구팀은 이 절연막을 질화알루미늄(AlN)이나 질화붕소(BN)처럼 열전도가 좋은 소재로 대체하는 기술을 파고들고 있다. 칩과 냉각판 사이를 메우는 열계면소재(TIM)도 딜레마를 안고 있다. 열전도도를 올리려고 전도성 물질을 많이 섞으면 소재가 딱딱해져 칩에 제대로 밀착되지 않고, 그 틈이 오히려 열 전달을 막는다. 해법은 충전재를 더 넣는 대신 그래핀처럼 열이 잘 통하는 물질을 일정한 방향으로 정렬해 길을 내주는 쪽이다. 시스템 차원의 압박도 만만치 않다. 엔비디아 로드맵상 GPU 랙 한 대의 소비전력은 2023년 호퍼 세대 40kW에서 2027년 600kW로, 4년 만에 15배가 된다.
Simulations showed eight stacked DRAM dies reaching 95C with micro-bumps but only 70C with hybrid bonding, while GPU rack power is set to jump 15-fold from 40kW in 2023 to 600kW by 2027.
냉각은 앞으로 어디까지 칩 안으로 들어오나?
최리노 교수는 냉각이 칩 바깥에서 식히는 방식에서 칩에 점점 가까이 다가가는 쪽으로 바뀔 것이라고 내다봤다. 현재는 칩 위 금속판에 냉각수를 흘려 열을 빼내지만, 앞으로는 칩 내부에 미세 통로를 뚫어 냉각수를 직접 흘려보내는 방식까지 갈 것이라는 전망이다. 이 방향은 이미 파운드리 로드맵에도 올라 있다. TSMC는 실리콘과 패키지에 미세 유로를 직접 새기는 마이크로채널 냉각을 연구개발 로드맵에 넣었고, 자사 CoWoS 플랫폼에서 열계면소재를 우회해 실리콘에 곧바로 냉각수를 붙이는 실험을 진행하고 있다. TSMC는 SEMICON 대만 2026에서 향후 5년간 AI 시스템 전체 전력이 약 6배 늘어날 수 있다고 전망하기도 했다. 다만 시간표는 냉정하다. 최창환 교수는 하이브리드 본딩이 HBM4에는 들어가지 않고 2030년대 초반쯤 적용될 것이라고 못 박았다. 유현용 교수는 트랜지스터가 핀펫(FinFET)을 지나 게이트올어라운드(GAA)로 바뀌면서 전류가 흐르는 채널이 실리콘 기판에서 떨어져 아래쪽 방열이 어려워졌다며, 금속 배선으로 한곳에 몰린 열을 주변에 퍼뜨리는 설계가 필요하다고 강조했다. 조재훈 교수 연구팀은 전력반도체용 AlN 방열 기판에 강화 소재를 넣어 열전도 성능을 유지하면서 깨지지 않는 성질을 두 배로 높이는 연구를 진행 중이다.
Cooling is moving inside the chip: TSMC has put microchannel cooling on its R&D roadmap, though hybrid bonding for HBM is not expected until the early 2030s.