Sorunları, kesintiye dönüşmeden yakalayan bir altyapı
Sunucu sorunları çoğu zaman bir şey durduğunda fark edilir: disk dolmuştur, yedek alınmamıştır ya da güvenlik güncellemeleri aylardır yapılmamıştır. Sunucularınızı kuruyor, izliyor ve yedekliyoruz; yapay zeka için GPU sunucularını da aynı özenle yapılandırıyoruz.
Bu durumlardan biri tanıdık geliyorsa
Yedeklerin gerçekten çalışıp çalışmadığını ve geri yüklemenin ne kadar süreceğini bilmiyorsunuz.
Sunuculardan anlayan tek bir kişi var; o kişi olmadığında kimse müdahale edemiyor.
Bir yapay zeka projesi için GPU sunucusu almanız gerekiyor ama hangi donanımın yeteceğinden emin değilsiniz.
Uygulamalar elle kuruluyor ve her güncelleme bir kesinti riski taşıyor.
Yedekleme ve izleme nasıl kurgulanır?
Verinin en az üç kopyası, iki farklı ortamda ve biri ayrı bir konumda tutulur. Ayrı konumdaki kopyanın değiştirilemez olması, verinizi fidye yazılımlarına karşı korumaya yardımcı olur. İzleme sistemi sorunları büyümeden alarma dönüştürür; geri yükleme düzenli olarak test edildiği için bir sorun anında sistemlerin ne kadar sürede geri döneceği bilinir.
Neler yapıyoruz
Tek bir sunucudan GPU kümelerine kadar, altyapınızın her katmanında çalışıyoruz.
Sunucu kurulumu ve yapılandırma
Fiziksel sunucuların kurulumunu, disk (RAID) yapılandırmasını, uzaktan yönetimini ve işletim sistemi güvenlik sıkılaştırmasını yapıyoruz. Dilerseniz donanım seçiminde ve tedarik sürecinde de destek oluyoruz.
Yapay zeka için GPU sunucuları
Model eğitimi ve çalıştırma için GPU sunucularını sürücü, CUDA ve izleme katmanlarıyla birlikte kullanıma hazır hale getiriyoruz. İş yüküne göre doğru GPU sayısını ve bellek miktarını belirleyerek gereksiz yatırımın önüne geçiyoruz.
Konteyner ve Kubernetes ortamları
Uygulamalarınızı konteynerlere taşıyor, güncellemeleri kesinti olmadan ve gerektiğinde geri alınabilecek şekilde yapabilmenizi sağlıyoruz. İhtiyaç varsa yüksek erişilebilirlikli Kubernetes kümeleri kuruyoruz.
İzleme ve alarm
İşlemci, bellek, disk, ağ ve GPU kullanımını sürekli izleyen paneller ve alarmlar kuruyoruz. Disk dolmadan ya da bir servis durmadan önce ilgili kişiye bildirim gider.
Ağ güvenliği
İç ağınızı bölümlere ayırıyor (VLAN), güvenlik duvarı kurallarını düzenliyor ve uzaktan erişim için şifreli VPN kuruyoruz. Böylece bir cihazda çıkan sorunun tüm ağa yayılma riski azalır.
Yedekleme ve felaket kurtarma
3-2-1 kuralına uygun, şifreli ve değiştirilemez (immutable) yedekler kurguluyoruz. Daha da önemlisi, geri yüklemeyi düzenli olarak test ediyor ve bir sorun anında sistemlerin ne kadar sürede geri döneceğini önceden belirliyoruz.
Bir altyapı projesinin seyri
- 1
Değerlendirme
Sunucuları, yedekleri ve ağı inceliyor; riskleri öncelik sırasına koyuyoruz.
- 2
Kurulum
Yeni sunucuları, yedekleme ve izleme sistemlerini test ortamında hazırlıyoruz.
- 3
Geçiş
Sizinle planladığımız bakım zamanında canlıya geçiyor, her adımı geri alınabilir tutuyoruz.
- 4
İzleme ve bakım
İsterseniz sistemi izliyor, güvenlik güncellemelerini ve yedek kontrollerini düzenli olarak yapıyoruz.
Tipik altyapı projeleri
Aşağıdaki senaryolar, altyapı çalışmalarının şirketlerde hangi sorunları çözdüğünü gösteriyor.
Fidye yazılımına karşı yedekleme
- Sorun
- Yedekler, ana sunucuyla aynı ağdaki bir diskte duruyor; bir fidye yazılımı saldırısında onlar da şifrelenebilir.
- Yaklaşım
- Yedekler ayrı bir ağa ve değiştirilemez depolamaya taşınır; geri yükleme her ay test edilir.
- Beklenen fayda
- Bir saldırı ya da donanım arızasında sistemlerin ne kadar sürede geri döneceği önceden bilinir.
Şirket içi yapay zeka sunucusu
- Sorun
- Şirket, veri koruma gereksinimleri nedeniyle bir dil modelini kendi altyapısında çalıştırmak istiyor ama donanım ihtiyacını bilmiyor.
- Yaklaşım
- Kullanıcı sayısı ve model boyutuna göre GPU sunucusu seçilir, kurulur ve model sunucusu izlemeye alınır.
- Beklenen fayda
- Ekip modeli kendi altyapısında kullanır; kapasite, kullanım ölçülerek ihtiyaç oldukça artırılır.
Elle yapılan güncellemelere son
- Sorun
- Uygulama güncellemeleri mesai sonrasında elle yapılıyor; sorun çıktığında eski sürüme dönmek saatler sürüyor.
- Yaklaşım
- Uygulamalar konteynerlere taşınır ve güncellemeler otomatik bir yayın hattından (CI/CD) geçer.
- Beklenen fayda
- Güncellemeler mesai içinde güvenle yapılabilir; sorun çıkarsa önceki sürüme dakikalar içinde dönülür.
Sıkça sorulan sorular
Donanımı siz mi tedarik ediyorsunuz?
İki şekilde de çalışıyoruz. Mevcut donanımınızın kurulumunu ve iyileştirmesini yapabiliyor ya da ihtiyacınıza uygun donanımın seçiminde ve tedarik sürecinde size destek olabiliyoruz.
Kurulumdan sonra bakımı kim yapıyor?
İsterseniz izleme ve bakımı biz üstleniyoruz: güvenlik güncellemeleri, disk ve donanım sağlığı, yedek kontrolleri. Kendi ekibiniz yönetmek isterse gerekli eğitimi veriyoruz. Kapsam ve müdahale süreleri destek anlaşmasında belirlenir.
Mevcut sunucularımızı Kubernetes'e taşıyabilir misiniz?
Evet, ancak her uygulama Kubernetes gerektirmez. Önce uygulamalarınızın ihtiyacını değerlendiriyoruz; uygunsa mevcut sunucularınız veya sanallaştırma katmanınız (Proxmox, VMware) üzerine bir küme kurup uygulamaları kademeli olarak taşıyoruz.
Bulut mu, kendi sunucumuz mu?
İkisinin de yeri var. Sürekli ve öngörülebilir iş yükleri, özellikle GPU gerektirenler, kendi sunucunuzda çoğu zaman daha ekonomiktir; trafiği dalgalanan servisler için bulut daha esnek olabilir. Maliyet ve veri koruma gereksinimlerinize göre karşılaştırmalı bir öneri hazırlıyoruz.
İlgili hizmetler
Altyapınızın bugünkü durumunu birlikte görelim
Sunucularınızı, yedeklerinizi ve ağınızı değerlendiriyor; öncelikli riskleri ve iyileştirme adımlarını yazılı olarak paylaşıyoruz.