BareStax, GPU kümesini kendi veri merkezinde işleten kurumlar içindir
Kurumsal yapay zekâ ekipleri, araştırma merkezleri ve üniversiteler, kamu kurumları. Finans, sağlık, telekom, enerji ve sanayi gibi düzenlemeye tabi sektörler. Ortak noktaları açık: donanım kendi raflarında, veri kendi ağlarında kalır.
Operatörden araştırmacıya her rol kendi işinde kazanır
-
Küme operatörü
Kernel, sürücü ve fabric sürümlerini elle eşlemek yerine bir profil tanımlarsınız. Arıza olduğunda etkiyi görür, kurtarmayı politikaya bırakır ya da onaylarsınız. Konsolda yaptığınız işi
barestaxctlile betiğe de taşıyabilirsiniz.Profilden sapan bir ayar, kesinti gerektirmiyorsa düzeltilir; gerektiriyorsa bakım penceresini bekler. Her hata kodlu bir açıklama ve çevrimdışı bir runbook ile gelir.
-
Kurum (GPU sahibi)
GPU doğrudan işe ayrılır; bir sanal makineye sabitlenip boşta beklemez. Kullanım raporu, iş beklerken boşta duran GPU'ları ortaya çıkarır. Yeni bir sunucu sınıfı için ayrı bir küme kurmak gerekmez.
Lisans çevrimdışı çalışır, her minör sürüm hattı 24 ay desteklenir. İsterseniz kaynak kodu emaneti de sözleşmeye eklenir.
-
Güvenlik birimi
Kritik işlemler dört göz onayından geçer, denetim kaydı hash zinciriyle korunur. Kiracılar birbirini görmez, hesap node'larında yalnız imzalı imaj çalışır. Küme internete çıkmaz; sürüm paketleri imza, bütünlük ve tarama denetiminden geçerek girer.
Kullanıcılar kurumsal dizininizdeki hesaplarıyla girer; ikinci faktör air-gap'te de çalışır.
-
Araştırmacı ve mühendis
İşinizi komut satırından, hazır şablonla ya da portal formuyla gönderirsiniz. İşin neden beklediğini ve kotanızı görürsünüz. Jupyter, VS Code, RStudio ya da uzak masaüstü tarayıcıda, kendi ortamınızla açılır.
Kurduğunuz paketler ve ortamlar oturumlar arasında korunur. Node düşerse
barestax runile gönderdiğiniz iş kuyruğa kendiliğinden geri döner.
BareStax farklı küme tiplerinde aynı modelle çalışır
-
Kurumsal yapay zekâ eğitim kümesi
HGX sistemleri InfiniBand üzerinden çok node'lu eğitim yürütür. Hiçbir node, iki node arası NCCL doğrulamasından geçmeden iş almaz; işin CPU payı GPU başına ayrılır. Güncellemeler kanaryalı ve bütçeli ilerler, çalışan eğitim işi korunur.
-
Araştırma merkezi ve üniversite
Birçok grup aynı kümeyi paylaşır ve her grup bir kiracıdır; kota ve fairshare kuyruğu düzenler, kiracı yöneticisi kendi grubunu yönetir. Unutulan etkileşimli oturumlar GPU'yu tutmaz.
-
Air-gap gerektiren kurum
Sürümler imzalı paketle, onaylı medya ya da veri diyotuyla gelir; lisans, ikinci faktör ve runbook'lar ağsız ortamda çalışır.
-
Farklı GPU kuşakları tek havuzda çalışır
Hopper ve Blackwell kuşağı HGX sunucular ile PCIe kartlı makineler aynı havuzu paylaşır. Her sınıfın kendi kuyruğu vardır ve her node'a donanımına uyan profil envanterden eşleşir. Yeni bir kuşak geldiğinde sunucular aynı katılım yolundan eklenir.
Her yaklaşım kuruma farklı bir iş bırakır
| Yaklaşım | Güçlü yanı | Kuruma kalan |
|---|---|---|
| Küme yöneticisi ve betikler | Olgun kurulum araçları | Yükseltme, kurtarma ve air-gap süreci kurumun el işidir; betikler yanlış sırayla çalışırsa kurulum sessizce eksik kalır. |
| Kubernetes ve GPU operatörü | Servis yüklerinde güçlüdür | Büyük batch eğitimde ek zamanlama ve RDMA katmanları gerekir; işletim sistemi, sürücü, fabric ve BMC katmanları dışarıda kalır. |
| Sanallaştırma ve PCIe passthrough | Tanıdık bir işletim modeli | GPU sanal makineye sabittir; sanal makine boştayken GPU da boştadır, zamanlama ve paylaşım yoktur. |
| BareStax | Çıplak sunucudan iş kuyruğuna tek ürün; bildirimsel ve kendi kendini onaran; air-gap'te de baştan sona çalışır | Kurum işletim sistemini kurar ve donanımı rafa takar. |
BareStax'in bilinçli olarak yapmadığı işler
- Kubernetes dağıtımı değildir. GPU kümesinin üstüne Kubernetes koymaz.
- Sanallaştırma platformu değildir. GPU sanal makineye sabitlenmez, işe ayrılır.
- Bulut hizmeti değildir. Kendi veri merkezinizde çalışır, dışarıya veri göndermez, uzaktaki bir sunucuya bağlanmaz.
- Otomatik ölçekleme ve yük dengeleme sağlamaz. Servislere dış erişim kurumunuzun yük dengeleyicisiyle verilir.
- İşletim sistemini sıfırdan kurmaz. Kurumunuzun kurduğu Ubuntu'nun üstüne gelir.
Kümenizin hangi senaryoya uyduğunu birlikte bulalım
Kullanıcı gruplarınızı, GPU sınıflarınızı ve ağ kısıtlarınızı bilmemiz yeterli.