GPU Rack Soğutma Stratejileri: Yerel LLM ve Yoğun Hesaplama için Multi-GPU Kurulumlarını Serin Tutmak

GPU Yoğunluğu Problemi

Tek bir GPU çalıştırmak basittir. Bir rackte dört, sekiz veya on altı çalıştırmak termal mühendislik sorunudur. Her üst düzey GPU, sınırlı bir alana 300–700W ısı atar. Birkaçını üst üste koyun ve bir buzdolabından küçük bir hacimde kilowattlarca termal çıktı yönetiyorsunuz.

Bu her zamankinden daha önemli. Yerel LLM çıkarımı, Stable Diffusion, yapay zeka ince ayarı, bilimsel simülasyon — evde veya küçük ofiste multi-GPU kurulum nedenleri patladı. Ancak tek bir oyun PC'si için işe yarayan soğutma stratejileri rack ölçeğinde tamamen çöker.

Bu rehber, gerçekten işe yarayanı kapsar — veri merkezi pratiğinden alınıp, hyperscale tesisleri dışında ciddi GPU hesaplaması yapan büyüyen topluluk için uyarlanmıştır.

Isı Yükünü Anlamak

Ne kadar ısıdan bahsediyoruz?

GPU	TDP	Tipik yük (LLM çıkarımı)	Tepe yük (eğitim)
RTX 4090	450W	300–350W	450W
RTX 5090	575W	400–450W	575W
A100 (SXM)	400W	300–350W	400W
H100 (SXM)	700W	500–550W	700W
L40S	350W	250–300W	350W

RTX 4090'larla 4 GPU kurulumu, tipik LLM iş yüklerinde 1.200–1.800W ısı üretir. 8 GPU H100 düğümü 4.000–5.600W'a ulaşır. Bu bir soğutma problemi değil — bir ısıtma sistemi.

LLM İş Yükleri Neden Termal Olarak Farklıdır

LLM çıkarımı ve eğitimi spesifik bir termal profil oluşturur:

• Sürekli yüksek kullanım. Oyundan (dalgalanan) farklı olarak, LLM çıkarımı GPU'ları saatlerce veya günlerce %80–100'de tutar.
• Bellek yoğun yükler VRAM'i ısıtır. Büyük modeller VRAM'i tamamen doldurarak GPU çipinin ötesinde termal yük ekler.
• Toplu işleme tüm GPU'ların aynı anda ateşlenmesi demektir. Kademeli yük yok — her GPU aynı anda tepe noktasına ulaşır.

Bu sürekli, eşzamanlı ısı çıktısı, rack soğutmayı masaüstü soğutmadan temelden farklı kılar.

Rack Ölçeğinde Hava Soğutma

Sıcak Koridor / Soğuk Koridor İlkesi

Veri merkezleri bunu onlarca yıl önce çözdü: giriş havasını egzoz havasından ayırın.

Ev veya küçük ofis rackında:

1. Tüm ekipman aynı yöne bakar. Soğuk hava önden girer, sıcak hava arkadan çıkar.
2. Sıcak egzozun öne geri dönmesine izin vermeyin. Ev rack kurulumlarındaki en yaygın hata budur.
3. Boş paneller her boş rack slotunu doldurur. Bunlar olmadan sıcak hava boşluklardan soğuk tarafa geri döner.

Basit bir açık rack bile tutarlı hava akışı yönünden büyük fayda sağlar. Bir set boş panel, resirkülasyonu önleyerek GPU sıcaklıklarını 5–10°C düşürebilir.

Hava Hacmi Gereksinimleri

Hesap basittir. 10°C sıcaklık artışıyla 1kW ısıyı uzaklaştırmak için yaklaşık 280 CFM hava akışı gerekir. Yük altında 4× RTX 4090 kurulumu için:

• ~1.500W ısı çıktısı
• ~420 CFM minimum gerekli
• Bu yalnızca GPU'lar için tam hızda yaklaşık 4–6 yüksek statik basınçlı 120mm fan demektir

5.000W'da 8× H100 için 1.400+ CFM gerekir — bu noktada rack montajlı fan tepsilerine veya üfleme sistemlerine bakıyorsunuz.

Fan Yerleştirme Stratejileri

Giriş fanları (rack önü):

• GPU giriş yüksekliğine monte edin — rackın üst veya altına değil
• Yüksek statik basınçlı fanlar (3+ mmH₂O)
• Ev kurulumları için 2000+ RPM'de Noctua NF-A12x25 veya Phanteks T30-120
• Ciddi yoğunluk için endüstriyel 40mm kalınlığında fanlar

Egzoz fanları (rack arkası):

• Ön basınç yeterliyse daha az kritik
• Kapalı racklarda sıcak noktaları önlemek için faydalı
• Üstten egzoz etkilidir çünkü ısı yükselir

Gürültü gerçeği: Multi-GPU rack için etkili hava soğutma gürültülüdür. Yük altında 4 GPU ev kurulumu 50–65 dBA üretir. Sunucu fanlarıyla 8 GPU rack kolayca 75 dBA+ seviyesine ulaşır. Buna göre planlayın — bodrum, garaj veya adanmış sunucu odaları yaygın çözümlerdir.

GPU Rackları için Sıvı Soğutma

Hava Yetmediğinde

Hava soğutma çoğu ev/ofis ortamında rack başına yaklaşık 2–4kW'da pratik sınırlara ulaşır. Ötesinde ya aşırı gürültüyle ya da yetersiz soğutmayla karşılaşırsınız. Sıvı soğutma pratik cevap olur.

Seçenek 1: GPU Başına AIO / CLC

En basit yaklaşım — GPU başına bir kapalı döngü soğutucu.

Avantajlar:

• Özel tesisata gerek yok
• Her GPU bağımsız soğutulur
• Bireysel GPU değişimi kolay
• Tüketici GPU'ları için garanti güvenli

Dezavantajlar:

• Radyatör alanı darboğaz olur — 4 GPU × 240mm radyatör ≈ neredeyse 1 metre
• Rackte hortum yönlendirme karışık
• Radyatör ısısını hâlâ racktan çıkarmanız gerekir

İdeal: Standart rack veya açık çerçeveli kasalarda 2–4 GPU kurulumları.

Seçenek 2: Harici Radyatörlü Özel Döngü

Tüm GPU'lardan tek bir soğutucu döngüsü geçirin, radyatörü tamamen dışarıya monte edin.

Avantajlar:

• Isıyı racktan tamamen uzaklaştırır
• Daha sessiz — dış radyatördeki fanlar daha büyük ve yavaş olabilir
• Tek döngüde 4–8 GPU'ya ölçeklenir

Dezavantajlar:

• Birden fazla GPU su bloğuyla karmaşık tesisat
• Tek arıza noktası — pompa arızası tüm GPU'ları etkiler
• Bakım (sıvı değişimi, sızıntı kontrolleri)

İdeal: Gürültü veya ortam sıcaklığının sorun olduğu 4–8 GPU kurulumları.

Seçenek 3: Arka Kapı Isı Değiştiricileri

Rack arka kapısına monte edilen ısı değiştirici, soğutulmuş su ile egzoz ısısını yakalar.

Avantajlar:

• Hava soğutmalı GPU'larla çalışır — modifikasyon gerekmez
• Rack başına 20–40kW'ı kaldırabilir
• Standart veri merkezi yaklaşımı

Dezavantajlar:

• Soğutulmuş su altyapısı gerektirir
• Pahalı (sadece ünite için 50.000–250.000₺+)
• Çoğu ev kullanıcısı için aşırı

İdeal: Küçük veri merkezi dağıtımları, 8+ GPU rackları.

Seçenek 4: Daldırma Soğutma

GPU'yu tamamen dielektrik soğutma sıvısına batırın.

Avantajlar:

• Aşırı yoğunluğu kaldırır — rack başına 100kW+
• Neredeyse sessiz çalışma
• Fan yok, toz yok, minimum bakım

Dezavantajlar:

• Çok pahalı (başlamak için 250.000₺+)
• Özel donanım ve sıvılar
• Donanım servisi tanktan çıkarmak demektir

İdeal: Araştırma laboratuvarları, madencilik operasyonları veya diğer seçenekleri tüketenler.

Rack Düzeni En İyi Uygulamaları

GPU Aralıkları

GPU'ları hiçbir zaman hava boşluğu olmadan yan yana slotlara koymayın. Açık hava soğutuculu tüketici GPU'ları kartlar arasında en az bir boş slot gerektirir. Rackte:

• 1U sunucu kasası: Özel GPU sunucuları aralığı dahili olarak yönetir
• 4U sunucu kasası: Entegre hava kanallarıyla tipik olarak 4–8 GPU barındırır
• Tower GPU'larla açık rack: Kartlar arasında minimum 40–60mm, yönlendirilmiş hava akışıyla

Güç Kaynağı Yerleşimi

PSU'larınız da ısı üretir. Rackte:

• PSU'ları egzozları GPU girişini beslemeyecek şekilde monte edin
• GPU gücü için ayrı devreler — 4× RTX 4090 kurulumu tam yükte 220V'da 15–20A çeker
• Sunucu sınıfı PSU'lar (80+ Titanium) kullanın — daha yüksek verimlilik = daha az atık ısı

Kablo Yönetimi Termal Olarak Önemlidir

Bu estetik meselesi değil. Yoğun GPU rackında hava akışını engelleyen kablolar sıcak noktalar oluşturur:

• Güç kablolarını rack yanlarından geçirin, hava yolundan değil
• Kısa kablolar kullanın — fazla kablo uzunluğu toplanıp havayı engeller
• Cırt cırt kullanın, kablo bağı değil — donanım ekledikçe yönlendirmeyi ayarlayacaksınız

Ölçekte İzleme

Neleri İzlemeli

Tek GPU izlemek kolaydır. Multi-GPU bir sistem gerektirir:

• GPU başına sıcaklık: Gerçek zamanlı okumalar için nvidia-smi veya HWiNFO64
• Giriş ortam sıcaklığı: Rack önünde bir USB sıcaklık sensörü (~200₺)
• Egzoz ortam sıcaklığı: Arkada aynı sensör — delta soğutmanın yeterli olup olmadığını gösterir
• GPU başına güç çekişi: nvidia-smi --query-gpu=power.draw

Sürekli Çalışma İçin Sıcaklık Hedefleri

Bileşen	Hedef	Dikkat
GPU die	80°C altı	Throttling tipik olarak 83–90°C'de başlar
VRAM (GDDR6X/HBM)	95°C altı	GDDR6X 110°C'de kısıtlar, ama 95°C üzerinde uzun vadeli bozulma
Giriş havası	30°C altı	Daha sıcak giriş = daha sıcak GPU, 1:1
Egzoz havası	50°C altı	Üstü yetersiz hava hacmi
Delta (egzoz - giriş)	20°C altı	Yüksek delta = ısı yeterince hızlı uzaklaştırılmıyor

Otomatik Uyarılar

7/24 LLM çıkarımı veya eğitim çalışmaları için uyarılar kurun:

# Basit nvidia-smi sıcaklık kontrolü (Linux)
gpu_temp=$(nvidia-smi --query-gpu=temperature.gpu --format=csv,noheader,nounits | sort -rn | head -1)
if [ "$gpu_temp" -gt 85 ]; then
  echo "GPU sıcaklık uyarısı: ${gpu_temp}°C" | mail -s "GPU Thermal Alert" [email protected]
fi

Veya gösterge panelleri ve geçmiş veriler için Prometheus + Grafana ile nvidia_gpu_exporter kullanın.

Oda Seviyesi Değerlendirmeler

Rackınız Vakumda Yaşamıyor

Bir yatak odasına 3kW ısı atan GPU rackı, bir saat içinde oda sıcaklığını 5–10°C artırır. Soğutma zinciri rackın ötesine uzanır:

1. GPU → Rack hava akışı ısıyı GPU'dan uzaklaştırır

2. Rack → Oda bu ısıyı ortam alanına iter

3. Oda → Dış klima veya havalandırma gerektirir

4. adım başarısız olursa, oda sıcaklığı giriş havası etkili GPU soğutma için çok ılık olana kadar yükselir. Bu termal kaçış, ev GPU rackları için en yaygın arıza modudur.

Pratik Oda Soğutma

• Adanmış klima: 3kW GPU rack yaklaşık 12.000 BTU (3,5kW) klima gerektirir. Bütçe: 5.000–25.000₺.
• Egzoz kanalı: Rack egzozundan pencereye bir kanal. En ucuz seçenek, şaşırtıcı derecede etkili.
• Bodrum yerleşimi: Doğal olarak daha düşük sıcaklıklar = bedava termal marj.
• Garaj veya teknik oda: Gürültü ve ısıyı yaşam alanlarından izole eder.

Nem Önemlidir

GPU'lar normal aralıklarda (% 30–70 RH) neme duyarsızdır. Ama yoğuşma:

• Rack egzozu soğuk dış havaya açılıyorsa, giriş bileşenlerinde yoğuşma oluşabilir
• Nemli odada çok soğuk klima aynı sorunu yaratır
• Oda sıcaklığını çiğ noktasının üstünde tutun — normal nemde genellikle 18°C+

Hobiden Küçük Veri Merkezine Ölçekleme

1–4 GPU: Meraklı Seviyesi

• Standart kule veya açık çerçeve rack montajı
• İyi fanlarla hava soğutma genellikle yeterli
• Tek 20A devre gücü karşılar
• Oda kliması veya egzoz kanalı ısıyı yönetir
• Bütçe: 2.000–10.000₺ soğutma altyapısı için

4–8 GPU: Ciddi Seviye

• Özel GPU sunucu kasası veya özel açık rack
• Hava çalışır ama gürültülü olur — GPU başına AIO veya özel döngü düşünün
• Adanmış 30–40A devre veya çoklu devreler
• Soğutma planıyla adanmış oda
• Bütçe: 10.000–60.000₺ soğutma altyapısı için

8–32 GPU: Küçük Veri Merkezi Seviyesi

• Sıcak/soğuk koridor yönetimli profesyonel rack
• Sıvı soğutma şiddetle tavsiye edilir
• Üç fazlı güç veya çoklu adanmış devreler
• Oda seviyesi soğutma altyapısı
• Uzaktan izleme ve uyarı esastır
• Bütçe: 60.000–400.000₺+ soğutma altyapısı için

32+ GPU: Veri Merkezine İhtiyacınız Var

Bu ölçekte veri merkezi soğutma profesyonellerine danışın. Gereksinimler DIY alanını aşar.

Yaygın Hatalar

1. "Daha fazla fan ekleyeceğim." Fanlar havayı hareket ettirir, ama havanın gidecek serin yeri yoksa sıcak havayı geri dolaştırırsınız. İlk adım her zaman giriş/egzoz ayrımıdır.

2. VRAM sıcaklıklarını görmezden gelmek. GPU die sıcaklığı tüm ilgiyi alır, ama 4090 gibi kartlardaki GDDR6X VRAM 15–25°C daha sıcak çalışır.

3. Boş panel yok. En ucuz, en büyük etkili değişiklik. Her boş slotu doldurun.

4. Giriş sıcaklığı izlemeden çalıştırmak. Odanız 35°C ise GPU'larınız serin olamaz.

5. Yetersiz boyutta oda soğutma. GPU'larınızın tükettiği her watt odanızda bir watt ısıya dönüşür.

6. Hava akışı yönlerini karıştırmak. Racktaki her cihaz havayı aynı yönden çekmelidir.

Sonuç

GPU rack soğutma çözülmüş bir problemdir — veri merkezleri bunu onlarca yıldır yapıyor. Temel ilkeler basittir:

1. Sıcak havayı soğuk havadan ayırın (sıcak/soğuk koridor, boş paneller)
2. Yeterli hava taşıyın (watt bazlı CFM hesabı)
3. Isıyı odadan çıkarın (klima, egzoz kanalları veya ikisi)
4. Her şeyi izleyin (GPU sıcaklıkları, ortam sıcaklıkları, güç çekişi)
5. Soğutmayı yoğunlukla ölçekleyin (hava → sıvı → daldırma büyüdükçe)

Bunları doğru yapın ve multi-GPU çıkarım ile eğitimi 7/24 throttling, donanım bozulması veya beklenmeyen kapanmalar olmadan çalıştırabilirsiniz.

GPU stres testi mi çalıştırıyorsunuz? Soğutma iyileştirmelerinden önce ve sonra GPU sıcaklıklarınızı ölçmek için ThermalStats stres testini deneyin.

İlgili Rehberler:

• Güvenli CPU ve GPU Sıcaklıkları — Termal hedeflerinizi bilin
• PC Kasa Hava Akışı Rehberi — Racklere ölçeklenen temeller
• CPU ve GPU'nun Ötesinde: Bütünsel Soğutma — VRM, RAM ve SSD'leri unutmayın
• Hava Soğutma vs AIO — Soğutma tipi ödünleşimleri
• Undervolting Rehberi — Isıyı kaynağında azaltın