ICT Media
Yapay zekâ alanında güvenlik ve güvenilirlik konusuna odaklanan OpenAI, AI sistemlerini test eden girişimlerden Promptfoo’yu satın almak üzere anlaşmaya vardığını açıkladı. Satın alma ile birlikte Promptfoo’nun geliştirdiği güvenlik ve değerlendirme araçlarının OpenAI’nin kurumsal yapay zekâ platformlarına entegre edilmesi planlanıyor.
Promptfoo, geliştiricilerin ve şirketlerin yapay zekâ uygulamalarını devreye almadan önce güvenlik açıklarını tespit etmesine yardımcı olan bir test ve değerlendirme platformu olarak riskleri belirlemek, hataları analiz etek ve güvenlik açıklarını gidermek amacıyla kullanılıyor.
OpenAI, satın alma sonrasında Promptfoo’nun teknolojisini şirketin kurumsal müşterilere yönelik “OpenAI Frontier” platformuna entegre etmeyi planlıyor. Bu entegrasyon sayesinde işletmelerin kullandığı yapay zekâ ajanları için güvenlik testleri, değerlendirme süreçleri ve risk analizi araçlarının plaformun temel bir parçası haline gelmesi hedefleniyor.
2024 yılında kurulan Promptfoo, kısa sürede yapay zekâ güvenliği alanında önemli bir kullanıcı tabanı elde etti. Platformun araçları 350 binden fazla geliştirici tarafından kullanılıyor ve Furtone 500 şirketlerinin yaklaşık yüzde 25’inde AI sistemlerini test etmek için tercih ediliyor.
Promptfoo’nun geliştirdiği sistemler, yapay zekâ uygulamalarını öncelikle promt injection jailbreak girişimleri, veri sızıntıları ve araç kötüye kullanımı gibi risklere karşı test edebiliyor. Bu tür testler, AI ajanlarının gerçek iş süreçlerine entegre edildiği kurumsal ortamlarda güvenlik açısından kritik görülüyor.
OpenAI yetkilileri, yapay zekâ sistemlerinin şirketin iş süreçlerinde giderek daha aktif rol almaya başladığını ve bu nedenle güvenlik testlerinin yazılım geliştirme süreçlerinin ayrılmaz bir parçası haline gelmesi gerektiğini vurguluyor. Satın alma ile birlikte AI ajanlarının güvenli şekilde gerçekleştirilmesi ve devreye alınması için daha kapsamlı test altyapısının oluşturulması hedefleniyor.
