ICT Media
Yapay zekâ şirketi Anthropic, Claude modellerinin biyoloji alanındaki hassas çalışmalarda kötüye kullanılmaya çalışıldığını açıkladı. Şirketin yayımladığı yeni tehdit istihbaratı raporunda, Aralık 2025 ile Ağustos 2026 arasında beş ayrı biyolojik kullanım vakasının tespit edildiği ve bunlara müdahale edildiği bildirildi.
Söz konusu vakalar, yapay zekânın biyoloji alanındaki yeteneklerinin hem bilimsel araştırmalara katkı sağlayabileceğini hem de kötüye kullanım riskleri oluşturabileceğini gösteriyor. Anthropic, örneklerdeki çalışmaların doğrudan biyolojik silah geliştirme amacı taşıdığının kesin olarak belirlenemediğini özellikle belirtiyor. Aynı araştırmaların aşı, tedavi ve diğer meşru bilimsel çalışmalar kapsamında da yürütülebileceğine dikkat çekiliyor.
Raporda yer alan vakalardan birinde bir araştırmacının, chikungunya virüsü üzerine yürütülmesi planlanan çalışma için Claude’dan yararlandığı aktarıldı. Araştırmanın bir askeri araştırma enstitüsüyle bağlantılı olması nedeniyle vaka, şirketin güvenlik sistemleri tarafından hassas kullanım kapsamında değerlendirildi.
Başka bir olayda ise bir araştırmacının kuş gribinin memelilere uyum sağlamasıyla ilgili deneylerin planlanmasında Claude’u kullanmaya çalıştığı belirtildi. Sistem tarafından tespit edilen talepler sınırlandırılırken ilgili hesaplara yönelik de işlem yapıldı.
Anthropic, tespit edilen kullanıcıların hesaplarını kapattığını ve elde edilen bulguları güvenlik önlemlerini geliştirmek için kullandığını açıkladı. Şirket ayrıca gerekli gördüğü durumlarda ilgili bilgileri yetkililer ve diğer yapay zekâ şirketleriyle paylaşacağını bildirdi.
Biyoloji alanındaki yapay zekâ kullanımı mercek altında
Claude’un biyoloji alanındaki yetenekleri, şirketin güvenlik politikalarında da değişikliğe yol açıyor. Anthropic, özellikle virüsbilimi, toksikoloji ve moleküler tasarım gibi çift kullanımlı alanlarda daha sıkı kontroller uyguluyor.
Şirketin raporuna göre biyolojik çalışmalar, Claude’un kötüye kullanılmaya çalışıldığı tek alan değil. Modelin siber saldırılar, gözetleme, propaganda ve konvansiyonel silahlarla bağlantılı faaliyetlerde kullanılmasına yönelik girişimler de tespit edildi.
Anthropic’in son raporu, yapay zekâ modellerinin karmaşık bilimsel süreçlerde daha fazla rol üstlenmesiyle birlikte güvenlik kontrollerinin de aynı hızda geliştirilmesi gerektiğine ilişkin tartışmayı yeniden gündeme taşıdı.
