AI Kapasitesi İçin Genişleme Planı
Bir GPU kümesi eklemek yalnızca yazılım kararı değildir. Artan işlem yükü; güç, soğutma, ağ ve alan kapasitesini birlikte değerlendirmeyi gerektirebilir.
AI talebi için veri merkezi genişlemesini güç, soğutma, ağ, depolama, bütçe ve operasyon başlıklarıyla birlikte değerlendirin. GPU siparişi vermek, binanın bu yükü taşıyabileceğini veya uygulamanın ek kapasiteden yararlanacağını göstermez. Önce mevcut sınırları ve beklenen iş yükünü belirlemek, yatırımların sırasını seçmenizi sağlar.
Bu rehber, kapasite planlaması için karar noktalarını açıklar. Bir tesisin mühendislik projesi veya cihaz boyutlandırma hesabı yerine geçmez; fiziksel sınırlar ve uygulanabilir seçenekler ilgili tesis ve ekipman için doğrulanmalıdır.
Eğitim ve Çıkarım İş Yüklerini Ayırmak
AI denince gözümüzde kodlar canlanıyor ama perde arkasında güç ve ısı gereksinimleri de değişebiliyor. Daha fazla veriyle veya daha büyük modellerle eğitim, hesaplama ihtiyacını artırabilir; ancak daha doğru sonuçlar her zaman daha fazla GPU gerektirmez. Model, veri ve yazılım verimliliği de sonucu etkiler. Eğitim uzun süreli yüksek yük oluşturabilir. İnferans dediğimiz canlıda cevap üretme tarafı da kendi başına sürekli kapasite planlaması gerektiren bir hizmet; kullanım arttıkça, yanıt süresini düşük tutmak için ek kapasite veya verimlilik iyileştirmeleri gerekebilir.
İşte bu zincir beklenmedik yerlerden geriliyor. Elektrik panosunda boşta duran bir kaç sigorta yetmiyor. Merkezinizin bulunduğu binanın trafo kapasitesi, mahalledeki altyapı, hatta şebekeye olan uzaklık bile bir gün karşınıza çıkıyor. Sonra soğutma sahneye giriyor: GPU yoğun iş yükleri klasik hava akışıyla bir yere kadar idare ediyor, sonra sıcak hava koridoru kış güneşi gibi içeri doluyor. Birkaç ay önce “sadece iki sunucu daha” derken, bugün “arka kapı ısı değiştirici mi, yoksa doğrudan sıvı soğutma mı?” sorusuna bakıyorsunuz.
Büyüme, altyapı eşikleri aşıldığında sıçramalı yatırım gerektirebilir. Birkaç ek sunucu mevcut dağıtım ve soğutma sınırlarını aşınca yalnız sunucu maliyeti değil, bağlı tesis işlerinin kapsamı da değişir. Bu eşikleri kapasite planında ayrı karar noktaları olarak gösterin.
Mevcut Alanı Büyütmek veya Yeni Alan Kurmak
Bir gün toplantı odasında şu cümle havada asılı kalır: “Mevcut odanın duvarlarını biraz daha geri itsek?” Kulağa pratik geliyor, çünkü kablolar orada, güvenlik orada, insanlar orada. Fakat gerçek hayatta, mevcut alana ek güç ve soğutma getirmek bazen yeni bir yer kurmaktan daha zor olabilir. Binanın altındaki altyapı, çatıdaki kondenser alanı, dış üniteler için izin, komşu parselin duvarı… Hepsi birer “acaba?” sorusu.
Yeni bir alan kurmak ise bambaşka bir koşu. İnşaat izinleri, trafo için bekleme süresi, fiber çekilecek güzergâh, jeneratörün koyulacağı yer… İlk bakışta yorucu görünüyor ama uzun vadeli nefes alanı sağlıyor. Burada kilit, geçiş sürecini iyi planlamak. Mesela şöyle düşünün: Önce küçük bir çekirdek oda ile başlayıp, modüler adımlarla genişlemek. Böylece hem yatırımın ritmini gerçek ihtiyaçlarınız belirler, hem de gereksiz boş kapasiteye bakıp iç çekmezsiniz.
Trafo ve şalt ekipmanlarının tedarik süreleri proje takvimini belirleyebilir. Enerji şirketiyle erken görüşün; bağlantı kapasitesini, gerekli tesis işlerini ve geçici seçeneklerin uygulanabilirliğini doğrulayın. Bekleme dönemindeki yazılım verimliliği çalışmaları da kaynak talebini azaltabilir; etkiyi ölçmeden bunları fiziksel kapasite artışının yerine koymayın.
Soğutma Seçenekleri ve İşletme Gereksinimleri
Soğutma tarafı, veri merkezi hikâyelerinin asıl başrolü. İlk başta sıcak-soğuk koridor düzeni, iyi bir hava akışı, doğru basınç yönetimi derken gayet mutlusunuz. GPU yoğun iş yükleri arttıkça, hava hâlâ iyi ama yetmez hale gelebiliyor. İşte arka kapı ısı değiştiricileri burada devreye giriyor; kabinden çıkan havanın ısısını sıvı devresine aktararak daha serin bir çıkış sağlayabiliyor. Uzaklaştırılabilecek ısı miktarı, eşanjör kapasitesine, hava ve sıvı akışına ve çalışma sıcaklıklarına bağlıdır; kalan oda soğutma ihtiyacı ayrıca değerlendirilmelidir.
Daha ileri bir adım, çip üzerindeki soğuk plakalarda sıvı dolaştırarak ısıyı uzaklaştırmak. Kulağa ürkütücü gelebilir ama pratikte düzenli ve kontrollü bir sistem. Boruların güvenliği, sızıntı algılama, bakım süreçleri işin mutfağında disiplin istiyor. Bir de daldırma soğutma var; uyumlu sunucu donanımı, elektriksel olarak yalıtkan bir soğutma sıvısının içinde çalışıyor. Gürültü ve enerji üzerindeki sonuçlar sistem tasarımına bağlıdır. Karar verirken sadece derece hesabı yapmıyorsunuz; bakım alışkanlıklarınızı, rezerv parça stoklarınızı, ekibin rahat ettiği çalışma biçimini düşünüyorsunuz.
Suyun hikâyesi burada bitmiyor. Isıyı dışarı bırakma şekliniz, su tüketimi ve çevresel etkiler bir gün kapınızı çalıyor. Kimi ekip, kuru soğutucularla su kullanımını azaltmayı tercih ediyor; kimi, atık ısıyı binanın ısıtma sistemine taşıyarak faydaya çeviriyor. ASHRAE’nin veri merkezi soğutma rehberleri bu yolculukta iyi bir harita sunuyor; ama nihayetinde sizin sahadaki tecrübeleriniz ve iklim koşullarınız kararın en güçlü pusulası oluyor.
Güç Kapasitesi ve Kesinti Senaryoları
Enerji tarafında ilk soru hep basit: “Kaç kilovat?” Sonra ikinci soru geliyor: “Peki, her zaman mı?” Çünkü güç ihtiyacı iş yüküne göre değişebilir; eğitim uzun süre yüksek yük oluşturabilir ve bakım planlarıyla kesişebilir. Şebeke ile iyi bir ilişki kurmak burada altın değerinde. Talep yönetimi, pikleri bölmek, bazı işleri uygun saatlere kaydırmak, hatta güneş-batarya gibi destekleri düşünmek rahatlatıyor. Enerji şirketi ile erken konuşmak, trafo kapasitesi ve hat güzergâhı için yol almanızı sağlıyor.
UPS ve batarya boyutlandırmasında kritik yük, tepe güç ihtiyacı ve gerekli yedekleme süresi esas alınmalı. Jeneratör testi sırasında eğitim işlerinin durumu ve korunacak hizmet düzeyi ekip içinde net olmalıdır. Uygulama destekliyorsa daha hafif bir model, acil durum için değerlendirilebilecek bir seçenek olabilir; kalite, kapasite ve geçiş davranışı önceden sınanmadan minimum hizmeti koruyacağı varsayılmamalıdır.
Yatırımı yalnız PUE gibi tek bir sayıya indirgemeyin. Tesisin enerji verimliliği, kullanıcıya sunulan işin miktarı, yedeklilik gereksinimi ve işletme maliyeti farklı kararları etkiler. Bir göstergenin iyileşmesi bütün sistemin daha ekonomik veya daha güvenilir olduğunu tek başına kanıtlamaz.
Ağ ve Depolama Darboğazları
AI için hesap gücünü artırdınız diyelim. Peki veri nereden, nasıl akacak? Model eğitimi sırasında depolama ile sunucular arasındaki hat, bir anda otoyola dönüşüyor. Doğu-batı trafiği yükseliyor, gecikmeye takılmak istemiyorsunuz. Burada fiber sayısı, omurga topolojisi, erişim katmanının düzeni sessizce belirleyici oluyor. Fiziksel olarak ayrı bir güzergâhtaki yedek hat, uygun otomatik geçiş ve yeterli kapasiteyle bir kablo arızasının hizmete etkisini azaltabilir.
Canlı çıkarım hizmetlerinde trafik değişken olabilir. L4/L7 yük dengeleme ile ölçekleme yaklaşımını, uygulamanın durum yönetimi ve bağlantı gereksinimleriyle birlikte değerlendirin. Sağlık kontrolleri sorunlu düğümleri belirlemeye yardımcı olur; seans yapışkanlığı ise yalnız ihtiyaç varsa seçilmelidir. Trafiği dağıtmak, bütün düğümlerin paylaştığı kapasite veya bağımlılık sorununu ortadan kaldırmaz.
Depolama tarafında da şu soruyla tanışırsınız: Sıcak veri nerde, soğuk veri nerde? Sık erişilen veri için hızlı depolama ve önbellek, arşiv için daha düşük maliyetli katmanlar düşünülebilir. Yedekleme ve replikasyon ayrıca planlanmalı. Veri kümeleri, model kontrol noktaları, yapılandırma ve erişim kontrollerini kurtarma planına dahil edin; replikasyonu tek başına yedek yerine koymayın. Geri yükleme provalarında geçen süreyi ve hizmetin kullanılabilirliğini kurtarma hedefleriyle karşılaştırın. Model dosyalarının bütünlüğü, dağıtım kimlik bilgileri ve erişim yetkileri de devreye alma ve olay müdahale kontrollerine dahil edilmelidir. Ağır işleri trafiğin düşük olduğu saatlere kaydırmak kaynak rekabetini azaltabilir; bu saatler her hizmette gece olmayabilir.
Enerji, Su ve Çevresel Etki
Bir veri merkezinin kalbinde sürekli bir ısı diyaloğu var. İçeri giren enerji, işini görüp dışarı ısı olarak çıkıyor. Bu ısıyı yok saymak yerine işe dönüştürmek, şehrin vicdanına iyi geliyor. Bazı kampüslerde atık ısıyı yakındaki binalara taşıyan sistemler kuruluyor. Böylece binaların başka kaynaklardan karşılanan ısı ihtiyacı azaltılabilir; elektrik ve su üzerindeki net etki sistem tasarımına bağlıdır. Bir de gürültü ve dış aydınlatmadan kaynaklanan ışık kirliliği gibi konular var; gece geç saatlerde dönen ekipmanların sesi, komşu binalarla ilişkide ince ayar gerektiriyor.
Uptime Institute’un Tier standardı anlatımları, tesisin yedeklilik ve bakım tasarımını değerlendirmek için bir başvuru kaynağıdır. Operasyon planı ise bu tasarımın sahada nasıl sürdürüleceğini açıklamalı: bakım pencereleri, yakıt ikmali, yedek parçalar ve kablo etiketleri için sorumlular belirlenmelidir. Bir sertifika, günlük işletme kontrollerinin yerini tutmaz.
Erişim, İzleme ve Bakım Operasyonları
Veri merkezi büyüdükçe, “kim, nereye, ne zaman girecek?” sorusu sadece kartlı geçişle çözülemez hale geliyor. Ziyaretçi planlama, teslim noktaları, uzaktan eller dediğimiz sahadaki destek ekipleriyle uyum zamanla bir koreografiye dönüşüyor. Bir saat geç kalmış bir kargo, tüm günün planını bozabilir; bunu görüp planları esnek kurgulamak, moralin düşmesini engelliyor.
Güç, sıcaklık, nem, ağ, disk, uygulama ve kullanıcı deneyimini birlikte izleyin. Tek bir gösterge tablosunda sorun görülmemesi, diğer katmanların sağlıklı olduğunu kanıtlamaz. Olay kayıtları ve devreye alma notlarıyla değişiklikleri ilişkilendirin; hangi eşikte kimin inceleme başlatacağı ve hangi bilgilerle karar vereceği ekipçe anlaşılır olsun.
Bakım pencerelerini seçerken, her şeyi geceye yığmak zorunda değilsiniz. Kullanıcı davranışını tanıdıkça, bazı işlerin gündüz yürütülmesi daha az stresli olabilir. Hele ki yapay zekâ özellikleriniz, bazı saatlerde daha az kullanılıyorsa, orayı nazikçe değerlendirmek işlerliği artırıyor.
Raf Yerleşimi ve Kablolama
Raf yerleşimi yaparken ilk akla gelen “nasıl sığdırırım” oluyor. Oysa asıl mesele “nasıl nefes aldırırım.” Ağ ekipmanının konumunu cihazların hava akış yönüne ve bakım erişimine göre seçmek, kablo yollarını düzenli tutmak ve kör panellerle hava akışını yönetmek, sıcak noktaları azaltmaya yardımcı olabilir. Kablo uzunluğunu seçerken yalnızca kısalığı değil, bağlantılarda gerilim oluşmamasını ve bakım için gereken hareket payını da gözetin.
Etiket konusu, her seferinde dostunuz. Basit ama tutarlı bir etiketleme dili, gece 03:00’te aradığınız kabloyu bulmayı kolaylaştırır. Yedek parça çekmecesinde sık kırılan plastik bir klips, en kritik anda yoksa bütün planı bekletebilir. O yüzden küçük bir liste, “en çok istenenler” köşesi yapıp düzenli doldurmak büyük kazanım.
Modüler Kapasite Artışı
AI talebinin belirsizliği, modüler büyümeyi değerlendirmek için bir nedendir. Küçük bir çekirdek kapasiteyle başlayıp doğrulanmış bir tasarımı genişletmek, yatırımın aşamalara bölünmesini sağlayabilir. Her yeni modülün güç dağıtımı, soğutma devresi, kablo yolları ve izleme üzerindeki etkisini hesaplayın; ortak bağımlılıkların kapasitesini ayrıca kontrol edin.
Burada açık donanım tasarımlarını takip etmek de rahatlatıcı. Open Compute Project’in açık donanım tasarımları, raf yerleşiminden güç dağıtımına kadar bir sürü pratik ipucu barındırıyor. Kendi ortamınıza birebir uyarlamak zorunda değilsiniz; örneğin, kablo yönüne ilişkin bir tasarım fikri kendi yerleşim planınızı değerlendirmenize yardımcı olabilir.
İzinler, Tedarik ve Geçiş Riskleri
Mevsim koşulları, montaj takvimi ve izin süreçleri genişleme planını etkileyebilir. Sıcak hava, dış ünitelerin yerleşimi veya çalışma koşulları için ek değerlendirme gerektirebilir; yağışlar saha işlerini geciktirebilir. Tedarik, resmi onay ve sahada çalışılabilir tarihleri aynı takvimde izleyin; kritik bağımlılıklar için gerçekçi pay bırakın.
Planlı geçiş için kullanıcı duyurusu, ekip rolleri, geri dönüş koşulları ve doğrulama adımları belirleyin. Uygunsa yedek hizmet akışı veya önbelleğe alınmış içerik geçişin etkisini azaltabilir; bunların her uygulamada hizmeti sürdüreceğini varsaymayın. Prova ve ikinci kişi kontrolü, eksik bağımlılıkları devreye almadan önce bulmaya yardımcı olur.
Kolokasyon, Kendi Tesisiniz ve Hibrit Seçenekler
Geldik para kısmına. Kolokasyon seçmek, şebeke ve bina derdini büyük ölçüde devretmek demek. Kendi alanınızı kurmak, her cıvatayı tanımak ve uzun vadede birim maliyeti düşürme şansı. Hibrit yaklaşım ise nefes aldıran bir orta yol. Burada sihirli bir formül yok. Takımınızın uzmanlığı, büyüme hızınız, finansal esnekliğiniz, hatta şehrinizin iklimi bile kararın rengini değiştiriyor.
Seçenekleri karşılaştırmadan önce temsilî iş yüküyle bir pilotun kapsamını ve kabul ölçütlerini belirleyin. Güç, soğutma, ağ erişimi, bakım erişimi ve izleme açısından görülen sınırlamaları kaydedin. Pilotun başarılı olduğu koşulları genişleme varsayımlarına bağlayın; küçük ölçekteki sonuçların daha büyük tesise doğrudan taşınacağını kabul etmeyin.
Uygulama Katmanını Kapasite Artışına Hazırlamak
Uygun cevapları önbelleğe almak, ön ısıtma ve arka planda yenileme beklemeyi azaltabilir; kişiye özel yanıtlar ve güncellik gereksinimleri bu kararları sınırlar. Eğitim ve canlı çıkarım farklı yerleşim ihtiyaçlarına sahip olabilir. Gecikmeye duyarlı çıkarımı kullanıcılara yaklaştırmayı düşünüyorsanız önce uçtan uca gecikmeyi ve model dağıtımının işletme maliyetini ölçün.
Gözden kaçan bir detay da sürüm yönetimi. Büyük bir model güncellemesi, küçük bir kernel güncellemesinden daha gürültülü olabilir. Versiyon geçişlerini porsiyonlara bölmek, yeni sürümü az sayıda düğümde denemek, hataları yaygın dağıtımdan önce fark etmeye yardımcı olur; ancak ortak bağımlılıklar nedeniyle etkiler bu düğümlerle sınırlı kalmayabilir. Sakin sakin yükseltmek, “yine mi gece 2 oldu” hissini azaltır.
Yatırım Öncesi Karar ve Doğrulama
Yatırım kararını, iş yükü tahminiyle doğrulanmış tesis sınırlarının buluştuğu noktada verin. Güç, soğutma, ağ ve depolamadan biri hazır değilse yalnız GPU kapasitesini artırmak beklenen hizmet düzeyini sağlamayabilir. Her aşama için sorumlu ekip, kabul ölçütü ve geri dönüş koşulu belirleyin.
Pilot sonuçlarını, izin ve tedarik takvimini, seçilen modüler büyüme adımını ve işletme hazırlığını aynı karar kaydında toplayın. Devreye alma sonrasında ölçülen kullanım ile tahmini karşılaştırın. Bir sonraki kapasite artışının zamanını bu fark, hizmet hedefleri ve kalan fiziksel kapasite belirlesin.
AI talebine uygun genişleme, kapasite artışını operasyonel hazırlıkla birlikte planlamayı gerektirir.
