PR CENTER

PR센터

홈>PR센터>보도자료

보도자료

게시물 상세
[GIGABYTE] 데이터 센터를 AI에 대비시키는 방법? 1부: 고급 냉각
작성자 : 관리자(khkim@goak.co.kr)  작성일 : 2024.08.08   조회수 : 208
첨부파일 2024-08-08-g2.jpg

인공 지능의 확산으로 인해 전 세계 데이터 센터에서 고급 냉각 및 클러스터 컴퓨팅과 같은 혁신적인 기술이 더 광범위하게 채택되었습니다. 특히, TDP가 더 높은 강력한 AI 프로세서의 출시로 인해 데이터 센터에서 인프라를 업그레이드하거나 개조하여 에너지 효율적이고 비용 효율적인 냉각을 활용하는 것이 사실상 필수가 되었습니다. GIGABYTE Technology의 최신 기술 가이드 1부에서는 업계에서 가장 진보된 냉각 솔루션을 살펴보고 데이터 센터에서 이를 활용하여 AI 시대에 대비할 수 있는지 평가할 수 있습니다.

 

 

현대 데이터 센터 의 자연스러운 진행에 익숙한 업계 관계자들은   현재의  인공지능(AI) 추세가 정보 기술(IT) 세계  의 이 기반을 변화시키기보다는 오히려 가속화했다는  점을 인식할 것입니다. 기술이 발전함에 따라 서버 프로세서가 더욱 강력해지고 더 많은 전력을 소모하는 것은  자연스러운 일  이므로 에어컨으로 냉각하는 주된 방법은 항상 벽에 부딪힐 것입니다. AI의 출현은 전례 없는 열 설계 전력(TDP)  을 특징으로 하는   최첨단  CPU  및  GPU 의 도입을 촉진했습니다 . 그 결과, 공랭만으로는 더 이상 충분하지 않은 불가피한 날이 조만간 올 수 있습니다. 이미 시중에서 가장 진보된 AI 칩은 공랭의 열 한계를 넘어섰습니다. 이 글을 쓰는 시점에서 공랭 서버 랙의 평균 전력 밀도는 20킬로와트(kW)보다 훨씬 낮습니다. 단일 NVIDIA H100 가속기의 최대 TDP는 최대 700와트인 반면, NVIDIA B100 및 B200과 같은 차세대 엔터프라이즈 GPU의 최대 TDP는 1,000와트일 수 있습니다.GIGABYTE의  G593-ZD1  AI 서버를 예로 들면, 5U 서버에 8개의 GPU를 장착할 수 있습니다.즉, 적당히 채워진 랙(42~48개의  랙 유닛  공간 제공)조차도 일반적으로 공랭에 비용 효율적인 것으로 간주되는 것보다 더 많은 열을 발생시킵니다.이로 인해 NVIDIA의 랙 스케일 AI 슈퍼컴퓨터인 GB200 NVL72가 처음부터 액체 냉각과 함께 배포되도록 설계된 것은 놀라운 일이  아닙니다 . 자세히 알아보기: GIGABYTE의 고급 냉각 솔루션 심층 분석GIGABYTE의 인공지능 솔루션 페이지 방문GIGABYTE의 AI 교육 및 추론 서버 탐색AI 웨이브가 데이터 센터 운영자가 새로운 열 관리 도구를 평가하도록 동기를 부여하는 "밀어내기"라면, "끌어당기기"는 이러한 도구를 활용하는 이점일 것입니다. 이는 "성능", "지속 가능성" 및 "비용 효율성"의 업그레이드로 요약할 수 있습니다. ● 성능 세계에서 가장 정교한 칩이라도 계속 너무 뜨거워지면 잠재력을 최대한 발휘할 수 없습니다. 프로세서가 최대 용량으로 실행될 때 발생하는 열은 과열 및 조절을 방지하기 위해 신속하게 분산되어야 합니다. 효과적인 냉각은 최대 성능과 안정적인 작동을 보장할 수 있습니다. ● 지속 가능성 더 나은 냉각을 위해 AC를 크랭크업하는 것은 양날의 검입니다. 왜냐하면 더 많은 에너지를 소모하기 때문에 데이터 센터의  전력 사용 효율성(PUE)을 방해하기 때문입니다.
 











 

 탄소 발자국을 늘리는 동시에. 고급 냉각의 강점은 적은 에너지로 더 많은 열을 발산할 수 있어 조직이 생산성을 높이는 동시에 배출량을 줄이고 ESG 목표를 향해 나아갈 수 있다는 것입니다.

● 비용 효율성
새로운 냉각 장비를 구매하면 IT 예산에서 큰 비중을 차지할 수 있지만, 전기 요금이 저렴해 장기적으로 운영 비용(OpEx)을 줄이는 데 도움이 됩니다. 운영 안정성이 향상되면 다운타임이 줄어들고 수리 및 교체해야 할 구성 요소가 줄어들어 총 소유 비용(TCO)이 줄어듭니다. 더 높은 비용 효율성은 어떤 조직도 놓칠 수 없는 경쟁 우위입니다. 위에 나열된 세 가지 이점은 AI가 채택의 원동력이 되든 아니든 고급 냉각이 전 세계 데이터 센터와 서버실

의 주류가 될 것임을 보장  합니다. 다음 섹션에서는 액체 냉각, 침지 냉각 , 공랭  이라는 세 가지 주요 냉각 방법  과 GIGABYTE가 이를 IT 인프라에 통합하는 데 어떻게 도움을 줄 수 있는지에 대해 설명합니다.
 
 
직접 액체 냉각(DLC) 또는 직접 칩(D2C) 액체 냉각
냉각 루프를 통해 액체 냉각수를 서버로 파이프하고 냉각판을 통해 핵심 구성 요소의 열을 흡수하는 액체 냉각은 AI 프로세서의 요구 사항 덕분에 그 어느 때보다 빠르게 인기를 얻고 있다는 데 의심의 여지가 없습니다. 이미 언급했듯이 많은 AI 슈퍼컴퓨터는 액체 냉각을 염두에 두고 설계되었습니다. 주요  클라우드 서비스 공급업체(CSP) 를 포함한 데이터 센터 운영자 가 인프라를 업그레이드하여 액체 냉각을 채택함에 따라 이것이 업계의 새로운 표준이 되는 것은 시간 문제일 수 있습니다.
 
 
데이터 센터에 DLC를 추가하는 것은 생각보다 쉬울 수 있습니다. 기존의 공랭 인프라를 크게 정비할 필요가 없는 "액체 대 공기" 옵션으로 시작할 수 있습니다. 서버에서 나오는 뜨거운 냉각수는 열을 뜨거운  통로로 방출하는 냉각수 분배 장치(CDU) 로 냉각  되며, 이는 공랭 서버 랙과 동일한 방식입니다. "액체 대 액체" 변형은 더 많은 열을 발산할 수 있지만 시설에 현장 소스에서 물을 끌어오는 내장형 액체 기반 냉각 루프가 있어야 합니다. 에너지 효율성을 높이기 위해 서버 랙 뒷면에 후면 도어 열교환기(RDHx)를 추가할 수도 있습니다.

액체 냉각을 구현할 때 신뢰성과 안전성이 매우 중요하기 때문에 GIGABYTE는 검증된 파트너와 긴밀히 협력하여 완벽한 솔루션을 제공합니다. 서버 내부의 냉각판부터 업계 베테랑인 Stäubli가 공급한 품질 보증 커넥터, 냉각수 누출에 대한 추가 보호를 위한 누수 센서 보드, 랙 레벨의 매니폴드 및 CDU에 이르기까지 DLC를 위해 GIGABYTE를 선택하면 쇼핑할 필요가 없습니다. 게다가 GIGABYTE는  액체 냉각 서버의 전체 라인업 을 자랑할 뿐만 아니라 빠르고 쉬운 배포를 위한 DL90-ST0 과 같은 랙도 제공합니다   . 가장 인기 있는 제품은   액체 냉각을 통해 AI 칩의 성능을 강화하는 멀티 랙  클러스터 컴퓨팅 솔루션인 GIGABYTE의 GIGAPOD 입니다. 자세히 알아보기: GIGABYTE의 직접 액체 냉각 솔루션 경험GIGABYTE, 독일 항공 우주 센터에 액체 냉각 제공




 
 
침지 냉각: 단상 및 2상
미리 계획하고 인프라를 미래에 대비하고자 하는 데이터 센터 운영자에게 침지 냉각은 액체 냉각에 이어 논리적으로 다음 단계입니다. 서버를 비전도성 냉각수 욕조에 직접 담그면 구성 요소의 열이 CDU(  단상 침지 냉각 의 경우 )를 통해 또는 탱크 내부의 냉각수의 자연 증발( 2상 침지 냉각 )을 통해 분산될 수 있습니다. 침지 냉각은 PUE를 1.02로 낮출 수 있으며, 이는 컴퓨팅에 사용되는 전력보다 2%만 더 많은 전력이 냉각에 필요하다는 것을 의미합니다. 그러나 진입 장벽은 물리적 인프라에서 안전 허가에 이르기까지 데이터 센터의 많은 측면이 침지 냉각을 위해 특별히 준비되어야 한다는 것입니다.
 
 
침지 냉각이 IT 로드맵에 있다면 GIGABYTE를 파트너로 선택해야 하는 두 가지 훌륭한 이유가 있습니다. 첫째, GIGABYTE는  침지 준비 서버 부터  EIA 또는  OCP 서버에 사용할 수 있는  2상 및  단상 종류의 침지 탱크에 이르기까지 모든 것을 포괄하는 포괄적인 제품 라인을 보유하고  있습니다. 탱크에서 서버를 수직으로 들어올리는 IT 리프트, 유지 관리 중에 서버를 올려놓는 IT 드라이 랙, 서버를 담그는 검증된 냉각수 제품과 같은 액세서리도 GIGABYTE와 파트너에서 구입할 수 있습니다.

두 번째로, GIGABYTE는 고객이 데이터 센터에 침지 냉각을 설치하도록 돕는 데 실제 경험이 있습니다. 몇 가지 예를 들자면,  일본의 거대 통신사 KDDI는  "컨테이너형 침지 냉각 소규모 데이터 센터"에 단상 침지를 선택했고,  대만의 가장 중요한 반도체 거대 기업 중 하나는 "친환경 HPC 데이터 센터"  에 2상 침지를 선택했습니다   . 이러한 성공 사례는 업계 선구자들이 컴퓨팅 성능, 지속 가능성 및 비용 효율성을 극대화하려면 침지 냉각이 최상의 옵션임을 인식하고 있음을 보여줍니다. 또한 GIGABYTE가 다양한 수직 부문에 침지 냉각을 배포하는 데 필요한 실제 전문 지식을 보유하고 있음을 보여줍니다.

 
 
GIGABYTE의 독점적인 디자인과 RDHx를 통한 더 나은 공기 냉각
AI 워크로드에 대비하기 위해 액체 또는 침지 냉각을 고려하는 것이 절대적으로 권장되지만, 프로세스가 복잡할 수 있다는 것은 충분히 이해할 수 있으며, 따라서 공랭식 서버가 가까운 미래에도 여전히 주요 컴퓨팅 소스가 될 것입니다. 다행히도 GIGABYTE의 공랭식 솔루션은 최고의 성능과 최적의 냉각을 염두에 두고 설계되었습니다.
 
 
GIGABYTE의  공랭식 서버는  시뮬레이션 소프트웨어에서 평가한 대로 가장 최적화된 환기를 제공하는 독점적인 공기 흐름 친화적 하드웨어 디자인을 특징으로 합니다. 강력한 방열판은 특별히 설계된 공기 덕트와 결합되어 방열을 향상시킵니다. 섀시 내부에 전략적으로 배치된 센서에 연결된 자동 팬 속도 제어 시스템은 주요 구성 요소의 온도에 따라 팬 속도를 조정하여 비용 효율적이고 에너지 효율성을 유지하면서도 타의 추종을 불허하는 열 제어를 가능하게 합니다. RDHx는 공랭식 서버 랙에 설치하여 데이터 센터의 성능과 PUE를 개선할 수도 있습니다.
이전글 [GIGABYTE] 데이터 센터를 AI에 대비시키는 방법? 2부: 클러스터 컴퓨팅
다음글 [GIGABYTE] NYCU의 Advanced IC Lab이 대만 반도체 산업과 인재를 향상시키기 위해 업그레이드되었습니다.