Gelişim, birlikte başlar.
Banner alanı
IFM Sensor

NVIDIA Altyapısı Meta’nın Hiperskala AI Genişlemesine Güç Veriyor

Cengiz Özemli

Akademisyen
  • Dokuz Eylül Üniversitesi
  • 1771423488375_0_r1sncyg5.jpg

    ## NVIDIA Altyapısı Meta’nın Hiperskala AI Genişlemesine Güç Veriyor

    Meta, AI eğitim ve çıkarım süreçlerini küresel veri merkezlerinde ölçeklendirmek için NVIDIA Grace ve Vera CPU'ları, Blackwell ve Rubin GPU'ları, Spectrum-X ağ teknolojisi ile Gizli Hesaplama çözümlerini kullanıyor.

    Hiperkapsamlı AI altyapısında büyük dil modeli eğitimi, öneri sistemleri ve gerçek zamanlı çıkarım yüksek işlem yoğunluğu, ağ bant genişliği ve enerji verimliliği gerektirir. NVIDIA ile Meta arasındaki iş birliği, hem yerel hem de bulut ortamlarında büyük ölçekli AI altyapısını oluşturmayı hedefleyerek, Meta’nın uzun vadeli AI planlarını destekliyor.

    ### CPU ve GPU Hiperskala Dağıtımı

    Meta, hem AI eğitimi hem de çıkarımı için optimize edilmiş hiperkapsamlı veri merkezleri kurmayı planlıyor. Bu merkezlerde Arm tabanlı NVIDIA Grace CPU’lar üretim ortamına entegre edilecek ve bu, Grace tabanlı sistemlerin ilk büyük ölçekli kullanımı olacak.

    Donanım birlikte tasarımı ve yazılım optimizasyonu sayesinde CPU performansı watt başına artırılırken, NVIDIA Vera CPU’lar üzerinde de iş birliği devam ediyor ve büyük ölçekli kullanımların 2027’de başlaması hedefleniyor.

    GPU tarafında Meta, NVIDIA GB300 platformlarına dayalı Blackwell ve Rubin GPU mimarilerini kullanacak. Amaç, Meta’nın yerel veri merkezleri ile NVIDIA Bulut Ortakları arasında birleşik ve ölçeklenebilir bir AI altyapısı oluşturarak operasyonları kolaylaştırmak.

    ### Spectrum-X Ethernet ile AI Ölçekli Ağ

    Meta, dağıtık AI iş yüklerini desteklemek için altyapısına NVIDIA Spectrum-X Ethernet platformunu entegre ediyor. Bu ağ mimarisi, büyük model eğitimi ve çıkarımı için düşük gecikmeli, yüksek bant genişliği sağlayarak performans verimliliği sunuyor.

    AI-optimzed Ethernet anahtarlama teknolojisi, Meta’nın Facebook Open Switching System platformuna entegre edilerek ağ verimliliği ve enerji tasarrufu artırılıyor.

    ### Gizli Hesaplama ile Gizlilik Odaklı AI

    Meta, WhatsApp için NVIDIA Gizli Hesaplama teknolojisini devreye aldı. Bu yapı, kullanıcı verisinin gizliliği ve bütünlüğü korunurken AI tabanlı özelliklerin güvenli şekilde kullanılmasını sağlıyor.

    Gelecekte bu gizli hesaplama yöntemlerinin WhatsApp dışındaki diğer Meta servislerine de yayılması planlanıyor, böylece şirket genelinde gizlilik odaklı AI iş yükleri desteklenecek.

    ### Nesil AI Modelleri için Birlikte Tasarım

    Meta ve NVIDIA mühendislik ekipleri, donanım ve yazılımı birlikte tasarlayarak AI model performansını optimize etmek için çalışıyor. Bu, işlem gücü, bellek ve ağ altyapısını büyük ölçekli kişiselleştirme ve öneri sistemlerine uygun hale getiriyor.

    CPU, GPU, ağ ve güvenlik teknolojileri tek bir mimaride birleşerek, hiperskala AI altyapısında hesaplama verimliliği, sistem ölçeklenebilirliği ve operasyonel yönetimde gelişmeler hedefleniyor.
     
    Geri
    Üst