NVIDIA Minerva, AI fabrikalarında operasyonel görünürlüğü hedefliyor

NVIDIA, 22 Ekim’de Minerva’yı, klasik altyapı izleme araçlarının hızlandırıcılar, ağ bileşenleri ve yapay zekâ iş yükleri arasındaki etkileşimleri kaçırabildiği AI fabrikalarına yönelik bir yapay zekâ operasyon platformu olarak duyurdu. Şirket, Minerva’nın tüm sistem katmanlarından telemetri toplayıp ortak bir operasyon görünümü oluşturmasını hedefliyor. Bu, genel amaçlı bir sohbet robotu ya da model eğitimi ürünü değil; büyük ve dağıtık hesaplama ortamlarını yöneten ekipler için tasarlanmış bir sistem olarak sunuluyor.

Duyurunun merkezinde NVIDIA’nın “yield” dediği, kapasitenin ne kadar yararlı AI işi ürettiğini izleme fikri bulunuyor. Şirket; GPU saatleri, goodput, küme çalışma süresi ve üretilen token miktarını operatörlerin kapasitenin üretkenliğini ve kesintilerin hizmete etkisini anlamasına yardımcı olabilecek ölçüler arasında sayıyor. Bunlar Minerva ile elde edilmiş sonuçlar olarak açıklanmıyor; platformun görünür kılabileceği operasyon göstergeleri olarak tanımlanıyor.

NVIDIA’ya göre Minerva’nın bilgi grafiği GPU’lar, SuperNIC’ler, anahtarlar, kablolar ve iş yükleri arasındaki ilişkileri eşliyor. Bu katman, uygulama sorununu onu taşıyan hesaplama ve ağ bileşenlerine kadar izlemeye yardımcı olmayı amaçlıyor. Şirket sistemin saatte milyarlarca veri noktasını analiz ettiğini; denetimli ve denetimsiz makine öğrenmesi kullanarak anormallikleri saptayabildiğini, arızaları öngörebildiğini, olayları ilişkilendirebildiğini ve bağlantılı sinyalleri vaka gruplarına dönüştürebildiğini belirtiyor.

Duyurudaki iş akışı, tespit ile müdahaleyi birleştiriyor. Yerleşik asistan olayların yorumlanmasına yardımcı olabilir; platform ayrıca harici ajan tabanlı araçlara bağlanabiliyor. Ekipler müdahaleyi kendileri yapabilir veya API’ler üzerinden düzeltme adımlarını otomatikleştirebilir. NVIDIA, bütün sorunların insan denetimi olmadan çözülebileceğini ya da otomasyon izinlerinin her kurulumda aynı olduğunu söylemiyor; yetkilendirme ve uygulama kararları işletmecilere kalıyor.

NVIDIA, IREN’i mevcut kullanıcı olarak adlandırdı; Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI ve Tesla’nın Minerva’yı kullanmayı planladığını bildirdi. Dell, Lenovo ve Supermicro da ürünü sistemleriyle sunan ortaklar arasında sayıldı. Bunlar tedarikçi duyurusundaki müşteri ve dağıtım açıklamalarıdır; bağımsız pazar payı araştırması değildir. Açıklamada karşılaştırmalı başlangıç ölçümü, kontrollü test veya kesinti süresi, işletme maliyeti ya da enerji tüketiminde nicel azalma verilmiyor.

Operatörler için temel öneri, ayrı izleme araçlarındaki sinyalleri birleştirip olayları donanım bağımlılıkları ve iş yükleri bağlamında önceliklendirmek. Bunun teşhis süresini azaltıp azaltmayacağı entegrasyon kapsamına, verinin kalitesine ve ekiplerin önerilere nasıl karşılık verdiğine bağlı. Dolayısıyla duyuru bir ürün kabiliyeti ve dağıtım ekosistemini anlatıyor; performans sonuçlarının kurulumlarda ölçülmesi gerekiyor.