현재 컴퓨팅 시장에서는 AI가 가능한 기계를 개발하기 위한 기업 간의 경쟁이 치열해지고 있습니다. 문제는 누가 가장 크고 가장 나쁜 기계를 만들 수 있느냐가 아닙니다. 가장 열 효율적인 기계를 만들 수 있는 사람이 바로 그 사람입니다.
AI 프로세스를 실행하는 서버는 일반적인 비즈니스 프로세스 및 서비스를 실행하는 서버보다 훨씬 더 많은 열을 발생시킵니다 . 따라서 이러한 서버를 포함하는 시스템을 설계하는 엔지니어는 더욱 강력한 냉각 및 열 교환 구성 요소를 고려해야 합니다.
CPU 소켓이 사용하는 전력량과 시스템이 최대 부하 상태에서 소멸되도록 설계된 열 사이에는 관계가 존재합니다. 이를 열 설계 포인트 또는 TDP라고 합니다. 기업은 TDP를 가이드로 사용하여 서버에서 가장 강력한 칩을 사용하는 동시에 대규모 데이터 센터 환경의 밀도를 위해 가장 물리적으로 효율적인 상자와 보드를 설계합니다. 상자가 클수록 더 많은 열 방출에 영향을 미칠 수 있습니다. 그러나 이로 인해 데이터 센터의 서버 밀도가 손실됩니다. 미묘한 균형입니다.
클라우드플레어는 최신 세대 컴퓨팅 서버 출시와 함께 이러한 관계의 한계에 도달한 것으로 보입니다. 12세대 서버 설계를 계획하는 과정에서 최신 AMD EPYC x86 프로세서와 모든 부속품, 특히 필요한 8개의 40mm 듀얼 로터 팬을 서버에 탑재하는 것이 더 이상 실현 가능하지 않다는 사실을 발견했습니다. 이러한 팬을 탑재하면 클라우드플레어의 Workers AI 프로그램을 실행하는 데 필요한 모든 작업을 100% 가동률로 항상 처리해야 하기 때문입니다.
잠재적인 미래 길
더 큰 팬과 CPU의 열 방출을 위한 냉각 핀을 수용하기 위해 서버의 물리적 크기를 늘릴 수 있지만 이 접근 방식은 금방 비효율적입니다.
데이터 센터에 40kW 캐비닛이 배포되어 있다고 상상해 보십시오. 공냉식 시스템에서는 해당 캐비닛에 공급되는 에너지의 최대 30%가 잠재적으로 서버 팬에 전력을 공급하는 데 사용될 수 있습니다. 즉, 해당 캐비닛의 실제 컴퓨팅 용량은 약 28kW에 불과합니다. 이와 대조적으로 액체 냉각 시스템이 지원되는 동일한 캐비닛은 작업 부하를 계산하는 데 최대 39kW의 전력을 할당할 수 있습니다. 즉, 액체 냉각을 사용하면 동일한 전력으로 더 많은 작업을 수행할 수 있습니다.
또한 물은 공기보다 4배 더 많은 열 용량을 보유할 수 있기 때문에 이러한 새로운 수냉식 서버는 더 낮은 전력 요구 사항과 더 높은 안정성으로 더 높은 빈의 더 빠른 프로세서를 지원할 수 있습니다. 기존 공냉식을 고효율 수냉식으로 교체하거나 보완함으로써 데이터 센터의 전반적인 운영 효율성이 향상됩니다.
델은 자사 데이터센터에 액체 냉각 기술을 적용하여 냉각 및 에너지 효율을 50~60% 향상시켰음을 입증했습니다 . 클라우드플레어가 물리적 서버 확장을 중단하고 액체 냉각 혁명을 도입한다면, 스토리지 및 컴퓨팅 용량을 성공적으로 축소하면서 총 소유 및 운영 비용을 절감하는 시스템 설계 기업들의 대열에 합류할 수 있을 것입니다.
아마존