NVIDIA, gizli hesaplama altyapısını genişleterek, sınır modeli geliştiricilerine küresel altyapı üzerinde güvenli bir şekilde ölçeklenme imkanı sunuyor.
NVIDIA’nın Yeni Altyapı Seçeneği
NVIDIA, bugün gizli hesaplama altyapısını genişleterek yeni bir dağıtım seçeneği olan Confidential Bare Metal’ı tanıttı. Bu seçenek, sınır modeli geliştiricilerine üçüncü taraf altyapı üzerinde hassas iş yüklerini çalıştırma imkanı sunarken, aynı zamanda modelleri ve verileri üzerinde kontrol sağlamalarına olanak tanıyor.
Confidential Bare Metal, kullanıcıların özel yazılım yığınlarını sahiplenmelerine ve işletmelerine imkan verecek şekilde tasarlandı. Kullanıcılar, NVIDIA’nın hızlandırılmış hesaplama altyapısı üzerinde kendi özel yazılımlarını kullanarak, sunucu ve platform altyapı yazılımlarını yönetebilirler.
Yeni Güvenlik Kontrolleri ve Seçenekler
NVIDIA, yeni platform güvenlik kontrolleri sunarak, verilerin aktarım sırasında korunmasını, platform bütünlüğünün ölçülmesini ve donanım düzeyinde erişim sınırlamaları uygulanmasını sağlıyor. Bu kontroller, kullanıcıların güvenlik sınırlarına ve işletim gereksinimlerine uygun modeller seçmelerine olanak tanıyor.
Artık, Confidential Computing üç farklı dağıtım seçeneği sunuyor: Confidential Bare Metal, Confidential Containers ve Confidential Virtual Machines. Her bir seçenek, farklı iş yükü gereksinimleri için uygun çözümler sağlıyor.
Küresel Kapasiteyi Artırma
Confidential Bare Metal, yüksek değerli iş yüklerini korumak için gerekli güçlü model ve veri gizliliği koruma seçenekleri sunarak desteklenen sağlayıcılara yeni bir yol sunuyor. Model geliştiricileri, genişleyen ekosistem sayesinde dünya çapında daha fazla coğrafi, egemen ve operasyonel seçenekle ölçeklenme imkanı buluyor.
Cohere, Confidential Bare Metal’ı Cohere Model Vault’a entegre etmeyi planlıyor. Bu entegrasyon, kullanıcı verilerini hafıza ve bağlantılar boyunca koruyarak, NVIDIA’nın güvenilir çalışma ortamları aracılığıyla donanım kökenli güvenliği doğrudan GPU’ya taşıyacak.
Google Cloud’un Destekleri
Google Cloud, Confidential Bare Metal desteğini NVIDIA GB300 NVL72 sistemleriyle güçlendirilmiş A4X Max örneklerine genişletiyor. Bu örnekler, eğitim verileri ve model fikri mülkiyetini şifreleme korumasıyla birleştirerek, sanallaştırılmamış NVIDIA hızlandırmalı hesaplama sunuyor.
Google Cloud’un mühendislik lideri Andrés Lagar-Cavilla, “Confidential Bare Metal, AI laboratuvarlarına donanım izolasyonlu, sanallaştırılmamış hesaplama ortamları ve uçtan uca şifreleme koruması sağlamaktadır” diyerek, bu yeni altyapının privasiyi nasıl sağladığını vurguluyor.
Destekleyen Ortaklar
NVIDIA Confidential Computing, CoreWeave, Firmus, GMI Cloud, Google Cloud, IREN, Lambda, Microsoft Azure Infrastructure, Nebius, Nscale ve Vultr gibi şirketler tarafından destekleniyor. Ayrıca, Cisco, Dell Technologies, HPE, Lenovo, Supermicro ve Bull gibi küresel sistem ortakları, NVIDIA Sertifikalı Sistemleri ile bu yetenekleri destekleyecek.
NVIDIA DSX OS, tüm NVIDIA Confidential Computing modlarını destekleyerek, bulut sağlayıcılarına gizli iş yüklerini destekleyen AI fabrikaları oluşturma ve işletme konusunda yazılım temeli sunuyor.
