Anthropic: Yapay zekâ modellerinin biyolojik silah geliştirme amacıyla kullanılması engellendi
ABD merkezli yapay zekâ şirketi Anthropic, yapay zekâ modellerinin biyolojik silah geliştirmeye yönelik çalışmalarda kullanılmaya çalışıldığı 5 vakayı tespit ederek engellediğini açıkladı. Şirket, gelişmiş yapay zekâ sistemlerinin biyolojik tehditler konusunda kötüye kullanım riskinin arttığına dikkati çekti.
Anthropic, yapay zekâ sistemlerinin kötüye kullanımına ilişkin yayımladığı yeni raporda, modellerinin biyolojik silah geliştirme potansiyeli taşıyan çalışmalarda kullanılmaya çalışıldığını bildirdi.
Şirket, bu kapsamda 5 vakayı tespit ederek erişimleri engellediğini belirtti. Vakaların tamamının 2026’da gerçekleştiği ve Anthropic’in en yeni modellerinden daha eski yapay zekâ sistemlerinin kullanıldığı aktarıldı.
Askeri bilim insanı tespit edildi
Raporda yer alan vakalardan birinde, askeri bağlantılı bir bilim insanının Claude’u chikungunya virüsü üzerine araştırma için finansman başvurusu hazırlamak amacıyla kullandığı belirtildi.
Söz konusu araştırmanın aşı geliştirme gibi meşru amaçlarla kullanılabileceği ancak virüsün daha tehlikeli varyantlarının geliştirilmesine yönelik çift kullanımlı potansiyel taşıdığı değerlendirildi.
Diğer vakalarda ise kuş gribi ve dirençli çiçek virüsü gibi biyolojik tehditlere yönelik çalışmaların tespit edildiği bildirildi.
Biyolojik silah riskine karşı önlem
Anthropic, bazı kullanıcıların şirketin resmi olarak faaliyet göstermediği bölgelerden sahte hesaplar veya aracılar üzerinden sistemlere erişmeye çalıştığını belirtti.
Şirket, gelişmiş modellerinin temel teknik bilgiye sahip kişilerin kimyasal veya biyolojik silahlara ilişkin çalışmalarına önemli ölçüde yardımcı olabilecek kapasiteye ulaşmış olabileceğini değerlendiriyor. Bu nedenle gerçek zamanlı güvenlik sınıflandırıcıları ve erişim kontrolleri gibi ek önlemler uygulanıyor.
Anthropic, alınan önlemlerle biyolojik ve kimyasal silahlara ilişkin büyük ölçekli riskin düşük seviyede tutulduğunu ancak riskin tamamen ortadan kalkmadığını bildirdi.
