현재 컴퓨팅 시장에서는 AI가 가능한 기계를 개발하기 위한 기업 간의 경쟁이 치열해지고 있습니다. 문제는 누가 가장 크고 가장 나쁜 기계를 만들 수 있느냐가 아닙니다. 가장 열 효율적인 기계를 만들 수 있는 사람이 바로 그 사람입니다.
현재 컴퓨팅 시장에서는 AI가 가능한 기계를 개발하기 위한 기업 간의 경쟁이 치열해지고 있습니다. 문제는 누가 가장 크고 가장 나쁜 기계를 만들 수 있느냐가 아닙니다. 가장 열 효율적인 기계를 만들 수 있는 사람이 바로 그 사람입니다.
서버가 AI 프로세스를 실행할 때, 그들은 엄청난 양의 열을 발생시킵니다, 표준 비즈니스 프로세스 및 서비스를 실행하는 일반적인 서버보다 더 많습니다. 이로 인해 이러한 서버가 포함된 시스템을 설계하는 엔지니어는 보다 강력한 냉각 및 열 교환 구성 요소를 고려해야 합니다.
CPU 소켓이 사용하는 전력량과 시스템이 최대 부하 상태에서 소멸되도록 설계된 열 사이에는 관계가 존재합니다. 이를 열 설계 포인트 또는 TDP라고 합니다. 기업은 TDP를 가이드로 사용하여 서버에서 가장 강력한 칩을 사용하는 동시에 대규모 데이터 센터 환경의 밀도를 위해 가장 물리적으로 효율적인 상자와 보드를 설계합니다. 상자가 클수록 더 많은 열 방출에 영향을 미칠 수 있습니다. 그러나 이로 인해 데이터 센터의 서버 밀도가 손실됩니다. 미묘한 균형입니다.
Cloudflare는 최신 세대 컴퓨팅 서버의 출시로 이러한 관계의 상한선에 직면한 것 같습니다. 그들은 12세대 서버의 설계를 계획하면서 최신 AMD EPYC x86 프로세서와 모든 부속품, 특히 이 수준에서 모든 것을 실행하는 데 필요한 40개의 XNUMXmm 듀얼 로터 팬을 넣는 것이 더 이상 가능하지 않다는 것을 발견했습니다. 그들의 노동자 AI 프로그램에서는 100% 듀티 사이클로 풀타임으로 실행됩니다.
잠재적인 미래 길
더 큰 팬과 CPU의 열 방출을 위한 냉각 핀을 수용하기 위해 서버의 물리적 크기를 늘릴 수 있지만 이 접근 방식은 금방 비효율적입니다.
데이터 센터에 40kW 캐비닛이 배포되어 있다고 상상해 보십시오. 공냉식 시스템에서는 해당 캐비닛에 공급되는 에너지의 최대 30%가 잠재적으로 서버 팬에 전력을 공급하는 데 사용될 수 있습니다. 즉, 해당 캐비닛의 실제 컴퓨팅 용량은 약 28kW에 불과합니다. 이와 대조적으로 액체 냉각 시스템이 지원되는 동일한 캐비닛은 작업 부하를 계산하는 데 최대 39kW의 전력을 할당할 수 있습니다. 즉, 액체 냉각을 사용하면 동일한 전력으로 더 많은 작업을 수행할 수 있습니다.
또한 물은 공기보다 4배 더 많은 열 용량을 보유할 수 있기 때문에 이러한 새로운 수냉식 서버는 더 낮은 전력 요구 사항과 더 높은 안정성으로 더 높은 빈의 더 빠른 프로세서를 지원할 수 있습니다. 기존 공냉식을 고효율 수냉식으로 교체하거나 보완함으로써 데이터 센터의 전반적인 운영 효율성이 향상됩니다.
Dell은 냉각 및 에너지 효율성 50~60% 향상 데이터 센터에 액체 냉각 기술을 적용했습니다. Cloudflare가 물리적 상자 확장을 중단하고 액체 냉각 혁명을 수용한다면 총 소유 및 운영 비용을 낮추면서 스토리지 및 컴퓨팅 용량을 성공적으로 압축하는 시스템 설계자 대열에 합류하게 될 것입니다.
StorageReview에 참여
뉴스레터 | 유튜브 | 팟캐스트 iTunes/스포티 파이 | 인스타그램 | 트위터 | 틱톡 서비스 | RSS 피드
