HBM은 가속기 옆에 앉아 대역폭 벽을 풀었습니다. 동시에 용량·할당 천장도 만들었습니다. 2026년 내내 CXL 기반 메모리 풀링은 표준 슬라이드에서, 여러 호스트가 끌어 쓸 공유 풀에 DDR급 DRAM을 묶는 출하 스위치 실리콘·랙 설계로 옮겼습니다.
산업적 제안은 대체 경제입니다. 풀링 메모리는 가장 뜨거운 텐서에서 HBM을 대체할 수 없지만, 연결된 용량만 열려고 다른 GPU를 사는 일을 막을 수 있습니다. HBM 스택과 첨단 패키지가 BOM의 희소·고가 부분으로 남는 한 중요합니다.
CXL 풀링이 사려는 것
- 다른 패키지 없는 용량 — 모든 노드를 과잉 장착하지 않고 서버 간 DRAM 공유.
- 활용률 — 한 호스트의 유휴 메모리가 다른 호스트의 가용 재고가 됨.
- 더 큰 패브릭으로의 길 — CXL 3.x 스위칭은 멀티노드 메모리 네트워크를 겨냥하고, 광학이 나중에 반경을 넓힐 수 있음.
채택을 여전히 제한하는 것
지연·대역 계층이 소프트웨어에 명시되어야 합니다. 풀링 DRAM을 로컬 HBM처럼 다루는 애플리케이션은 thrash합니다. 스위치 실리콘·케이블·펌웨어 버전이 랙 전체에서 맞아야 합니다. 공유 메모리의 보안·멀티테넌트 격리는 클라우드·다사업부 플랜트에서 선택이 아닙니다.
CXL이 HBM 경쟁을 지우지도 않습니다. 보완 계층—우선 전기·근거리—이고 광학 메모리 아이디어는 더 멀리 있습니다.
앞으로 볼 포인트
- 랩 데모가 아니라 카탈로그 옵션으로 풀링 메모리를 출하하는 하이퍼스케일러·OEM SKU.
- HBM 풍부 가속기 추가 대비 측정된 $/GB·지연 히스토그램.
- 용량 압박이 심한 추론 플릿에서 CXL 풀링이 가속기 과구매를 먼저 줄이는지.
패키징과 HBM은 여전히 피크 AI 성능을 정합니다. CXL 풀링은 용량 장입니다. 다음 스택이 틀린 답일 때의 분리 DRAM.