ICT Media
Açık kaynak çözümleri sağlayıcısı Red Hat, NVIDIA ile iş birliğini genişleterek kurumsal ölçekte yapay zekâ üretimini hızlandırmayı hedefleyen yeni platformunu duyurdu.
Red Hat AI Enterprise ile NVIDIA AI Enterprise çözümlerini tek çatı altında buluşturan platform, kurumlara uçtan uca, ölçeklenebilir ve yüksek performanslı bir yapay zekâ altyapısı sunuyor. “Red Hat Factory with NVIDIA” adı verilen çözüm, özellik üretim ortamında çalışan ve yoğun çıkarım (inference) gereksinimi olan yapay zekâ uygulamaları için optimize edildi.
Kurumsal yapay zekâ yatırımlarının “agentic AI” olarak tanımlanan otonom ve görev odaklı sistemlerin etkisiyle 2029’a kadar 1 trilyon doların üzerine çıkmasının beklendiği belirtilirken, şirketler de bu büyümeye paralel olarak altyapılarını yeniden şekillendiriyor. Yeni platform, BT ekiplerinin hem geleneksel iş yüklerini gem de gelişen yapay zekâ yığınını tek bir operasyonel çerçevede yönetmesini kolaylaştırmayı amaçlıyor.
NVIDIA GPU’lar üzerinde hızlandırılmış bilgi işlem mimarisiyle çalışan çözüm; Cisco, Dell Technologies, Lenovo ve Supermicro gibi üreticilerin AI odaklı sistem altyapılarıyla da uyumlu şekilde tasarlandı. Böylece kurumlar, yapay zekâ dağıtımlarını diğer kurumsal iş yükleriyle aynı operasyonel disiplinle ölçeklendirebiliyor.
Platform; model ayarlama, özelleştirme, çıkarım optimizasyonu ve ajan yönetimi gibi temel yetenekleri kapsıyor. Şirket içi veri merkezlerinden genel buluta ve uç ortamlara kadar farklı mimarilerde çalışabilen yapı, hibrit bulut stratejileriyle de entegre bir yaklaşım sunuyor.
Öne çıkan başlıklardan biri, yapay zekâ projelerinde “değere ulaşma süresini” kısaltma hedefi. NVIDIA NIM mikro servisleri üzerinden IBM Granite ailesi, NVIDIA Nemotron ve NVIDIA Cosmos gibi önceden optimize edilmiş modellere erişim sağlanabiliyor. Ayrıca NVIDIA NeMo ile kurumların kendi verileri üzerinden model uyarlaması yaparak maliyet ve zaman tasarrufu elde etmesi mümkün.
Performans ve maliyet optimizasyonu da platformun odak alanları arasında yer alıyor. vLLM, NVIDIA TensorRT-LLM ve NVIDIA Dynamo destekli çıkarım özellikleri sayesinde GPU kullanımının daha verimli hale getirilmesi ve toplam sahip olma maliyetinin (TCO) düşürülmesi hedefleniyor. Yerleşik gözlemlenebilirlik araçları ise hizmet seviyelerinin takibini kolaylaştırıyor.
Akıllı GPU düzenleme ve havuzlama özellikleri sayesinde kaynaklara talep üzerine erişim sağlanırken, otomatik kontrol noktası (checkpoint) mekanizmaları uzun süreli iş yüklerinde sürekliliği destekliyor. Güvenlik tarafında ise Red Hat Enterprise Linux temelli yapı, gelişmiş uyumluluk ve izolasyon özellikleri sunuyor. NVIDIA DOCA mikro servisleriyle desteklenen mimari, sıfır güven yaklaşımına dayalı bir güvenlik çerçevesi oluşturuyor.
Red Hat Global Mühendislik Teknoloji Direktörü ve Kıdemli Başkan Yardımcısı Chris Wright, yapay zekânın deneysel aşamadan kurumsal üretim seviyesine geçişinin bilgi işlem yığınının yeniden ele alınmasını gerektirdiğini belirterek, yeni platformla bu sürecin hızlandırıldığını ifade etti.
NVIDIA Kurumsal Yapay Zekâ Platformları Başkan Yardımcısı Justin Boitano ise üretim düzeyinde hibrit bulut altyapısının önemine dikkat çekerek, çözümün yeni nesil yapay zekâ uygulamalarının güvenilir biçimde geliştirilmesini sağlayacağını vurguladı.
