BareStax, GPU kümesini kendi veri merkezinde işleten kurumlar içindir

Kurumsal yapay zekâ ekipleri, araştırma merkezleri ve üniversiteler, kamu kurumları. Finans, sağlık, telekom, enerji ve sanayi gibi düzenlemeye tabi sektörler. Ortak noktaları açık: donanım kendi raflarında, veri kendi ağlarında kalır.

Operatörden araştırmacıya her rol kendi işinde kazanır

  • Küme operatörü

    Kernel, sürücü ve fabric sürümlerini elle eşlemek yerine bir profil tanımlarsınız. Arıza olduğunda etkiyi görür, kurtarmayı politikaya bırakır ya da onaylarsınız. Konsolda yaptığınız işi barestaxctl ile betiğe de taşıyabilirsiniz.

    Profilden sapan bir ayar, kesinti gerektirmiyorsa düzeltilir; gerektiriyorsa bakım penceresini bekler. Her hata kodlu bir açıklama ve çevrimdışı bir runbook ile gelir.

  • Kurum (GPU sahibi)

    GPU doğrudan işe ayrılır; bir sanal makineye sabitlenip boşta beklemez. Kullanım raporu, iş beklerken boşta duran GPU'ları ortaya çıkarır. Yeni bir sunucu sınıfı için ayrı bir küme kurmak gerekmez.

    Lisans çevrimdışı çalışır, her minör sürüm hattı 24 ay desteklenir. İsterseniz kaynak kodu emaneti de sözleşmeye eklenir.

  • Güvenlik birimi

    Kritik işlemler dört göz onayından geçer, denetim kaydı hash zinciriyle korunur. Kiracılar birbirini görmez, hesap node'larında yalnız imzalı imaj çalışır. Küme internete çıkmaz; sürüm paketleri imza, bütünlük ve tarama denetiminden geçerek girer.

    Kullanıcılar kurumsal dizininizdeki hesaplarıyla girer; ikinci faktör air-gap'te de çalışır.

  • Araştırmacı ve mühendis

    İşinizi komut satırından, hazır şablonla ya da portal formuyla gönderirsiniz. İşin neden beklediğini ve kotanızı görürsünüz. Jupyter, VS Code, RStudio ya da uzak masaüstü tarayıcıda, kendi ortamınızla açılır.

    Kurduğunuz paketler ve ortamlar oturumlar arasında korunur. Node düşerse barestax run ile gönderdiğiniz iş kuyruğa kendiliğinden geri döner.

BareStax farklı küme tiplerinde aynı modelle çalışır

  • Kurumsal yapay zekâ eğitim kümesi

    HGX sistemleri InfiniBand üzerinden çok node'lu eğitim yürütür. Hiçbir node, iki node arası NCCL doğrulamasından geçmeden iş almaz; işin CPU payı GPU başına ayrılır. Güncellemeler kanaryalı ve bütçeli ilerler, çalışan eğitim işi korunur.

  • Araştırma merkezi ve üniversite

    Birçok grup aynı kümeyi paylaşır ve her grup bir kiracıdır; kota ve fairshare kuyruğu düzenler, kiracı yöneticisi kendi grubunu yönetir. Unutulan etkileşimli oturumlar GPU'yu tutmaz.

  • Air-gap gerektiren kurum

    Sürümler imzalı paketle, onaylı medya ya da veri diyotuyla gelir; lisans, ikinci faktör ve runbook'lar ağsız ortamda çalışır.

  • Farklı GPU kuşakları tek havuzda çalışır

    Hopper ve Blackwell kuşağı HGX sunucular ile PCIe kartlı makineler aynı havuzu paylaşır. Her sınıfın kendi kuyruğu vardır ve her node'a donanımına uyan profil envanterden eşleşir. Yeni bir kuşak geldiğinde sunucular aynı katılım yolundan eklenir.

Her yaklaşım kuruma farklı bir iş bırakır

YaklaşımGüçlü yanıKuruma kalan
Küme yöneticisi ve betiklerOlgun kurulum araçlarıYükseltme, kurtarma ve air-gap süreci kurumun el işidir; betikler yanlış sırayla çalışırsa kurulum sessizce eksik kalır.
Kubernetes ve GPU operatörüServis yüklerinde güçlüdürBüyük batch eğitimde ek zamanlama ve RDMA katmanları gerekir; işletim sistemi, sürücü, fabric ve BMC katmanları dışarıda kalır.
Sanallaştırma ve PCIe passthroughTanıdık bir işletim modeliGPU sanal makineye sabittir; sanal makine boştayken GPU da boştadır, zamanlama ve paylaşım yoktur.
BareStaxÇıplak sunucudan iş kuyruğuna tek ürün; bildirimsel ve kendi kendini onaran; air-gap'te de baştan sona çalışırKurum işletim sistemini kurar ve donanımı rafa takar.

BareStax'in bilinçli olarak yapmadığı işler

  • Kubernetes dağıtımı değildir. GPU kümesinin üstüne Kubernetes koymaz.
  • Sanallaştırma platformu değildir. GPU sanal makineye sabitlenmez, işe ayrılır.
  • Bulut hizmeti değildir. Kendi veri merkezinizde çalışır, dışarıya veri göndermez, uzaktaki bir sunucuya bağlanmaz.
  • Otomatik ölçekleme ve yük dengeleme sağlamaz. Servislere dış erişim kurumunuzun yük dengeleyicisiyle verilir.
  • İşletim sistemini sıfırdan kurmaz. Kurumunuzun kurduğu Ubuntu'nun üstüne gelir.

Kümenizin hangi senaryoya uyduğunu birlikte bulalım

Kullanıcı gruplarınızı, GPU sınıflarınızı ve ağ kısıtlarınızı bilmemiz yeterli.