NVIDIA ve Oracle, yapay zeka (AI) uygulamalarında artan talebi karşılamak için işbirliklerini genişlettiklerini açıkladı.
Yeni Genişleme Planları
NVIDIA ve Oracle, Oracle Cloud Infrastructure (OCI) Superclusters’ı NVIDIA Vera Rubin NVL72 sistemleriyle çok gigawatt ölçeğine taşımayı planlıyor. Bu genişleme, AI eğitim, çıkarım ve ajans uygulamaları için artan müşteri talebini desteklemeyi amaçlıyor. Ayrıca, NVIDIA Vera Rubin NVL72 ve NVIDIA Vera CPU’ların OCI üzerinde genel kullanıma sunulmasıyla AI altyapı işbirlikleri de genişletildi.
OCI Superclusters ile Hızlandırılmış AI Çözümleri
OCI Superclusters, NVIDIA NVL72 sistemleri, Oracle Acceleron ağı ve NVIDIA Spectrum-X™ Ethernet ağı ile NVIDIA BlueField®-4 DPUs’yu bir araya getirerek en büyük AI modellerinin eğitim ve hizmetini sağlıyor. Her rack, NVIDIA NVLink™ ölçeklenebilir ağı ile 72 GPU’yu birbirine bağlıyor ve OCI’nin dayanıklı, çok katmanlı ağı, yüz binlerce GPU arasında ölçekleniyor.
Vera Rubin ve Yeni Donanım Özellikleri
Planlanan Vera Rubin genişlemesi, OCI’nin mevcut NVIDIA destekli altyapısını temel alıyor. NVIDIA’nın ortak CUDA® yazılım temeli ve sürekli yazılım optimizasyonu, müşterilerin donanım nesilleri arasında gelişen modelleri ve iş yüklerini desteklemesine yardımcı oluyor. OCI, NVIDIA HGX Rubin NVL8’yi tanıtmayı da planlıyor; bu sistem, NVLink ile bağlanmış sekiz Rubin GPU içeriyor.
AI Ajanları için Hızlandırılmış İşlem Gücü
NVIDIA Vera CPU’lar, AI ajanlarının yanıt üretiminden daha fazlasını yapmalarını sağlıyor. Ajanlar, araç çağırma, kod yürütme ve bilgi alma gibi CPU yoğun görevleri yerine getiriyor. Bu CPU yoğun işlemlerin yavaş yürütülmesi, sonuçları geciktirebilir ve GPU’ların model çağrıları arasında beklemesine neden olabilir. OCI Compute, NVIDIA Vera CPU’larla yüksek tek iş parçacığı performansı sunarak bu sorunları çözmeyi hedefliyor.
Müşterilerin Deneyimleri ve Gelecek Beklentileri
Ayrıca, OpenAI gibi müşteriler, NVIDIA Vera CPU’ları OCI üzerinde erken erişimle kullanarak AI iş yükleri üzerindeki potansiyelini keşfediyor. OpenAI’nin mühendislik lideri Sreekanth Pothanis, “NVIDIA Vera Rubin, model eğitimini hızlandırmak ve artan AI iş yüklerini karşılamak için gereken hesaplama performansını sağlıyor” şeklinde yorumda bulundu.
Oracle ve NVIDIA’nın İşbirliği
Oracle Cloud Altyapısı Başkanı Mahesh Thiagarajan, “Oracle Cloud Infrastructure, müşterilere frontier AI’yi geliştirmek için gereken performans, güvenlik ve ölçek sunuyor” dedi. NVIDIA’nın yüksek performanslı hesaplama başkanı Ian Buck ise, “AI fabrikalarının verimli, dayanıklı ve değişken olması gerekiyor. Oracle ile birlikte, Vera Rubin ve Vera CPU’ları OCI’ye getirerek müşterilerin altyapılarını daha verimli kullanmalarını sağlıyoruz” ifadelerini kullandı.
