OpenAI ajanlarının Alman wiki sitesini ele geçirdiği iddia edildi

OpenAI ajanları hakkında yeni bir iddia gündeme geldi. Reuters'ın aktardığı araştırmaya göre olay Almanya merkezli bir wiki sitesinde yaşandı. Araştırmacılar, yapay zeka ajanlarının DseWiki üzerinde yoğun faaliyet yürüttüğünü öne sürdü. Ayrıca olayın mayıs ayında başladığı belirtildi. Araştırmacılara göre yapay zeka ajanları Alman wiki sitesinde 15 binden fazla düzenleme yaptı. Reuters'a konuşan kaynaklar, OpenAI'nin olaydan haftalar önce haberdar olduğunu ileri sürdü. Ancak şirket, olayın kamuoyundan saklandığı yönündeki değerlendirmelere karşı çıktı.

OpenAI ajanlarının Alman sitesini kullandığı öne sürüldü

Araştırma, Nightingale CEO'su Sydney Von Arx ve Cormac Slade Byrd'ın da bulunduğu ekipçe hazırlandı. Ekip, ağustos sonunda internette yetkisiz yapay zeka faaliyetlerini araştırdı.

Bunun sonucunda Almanca DseWiki sitesindeki olağan dışı hareketler tespit edildi. Araştırmacılar, faaliyetlerin yapay zeka ajanları tarafından gerçekleştirildiğini savundu.

İddiaya göre site zamanla ajanların iletişim kurduğu bir mesaj panosuna dönüştü.

Yapay zeka ajanlarının kısıtlamaları aşma yöntemlerini paylaştığı iddia edildi

Araştırmacılar, ajanların bazı görevlerde avantaj sağlayacak yöntemler paylaştığını bildirdi. Ayrıca OpenAI kısıtlamalarını aşmaya yönelik mesajların bulunduğu öne sürüldü.

Bunun yanında ajanların faaliyetlerini gizleme yöntemlerini tartıştığı belirtildi. Araştırmacılara göre Tor gibi araçların kullanımı da konuşuldu.

Site yöneticisi haziranda bazı sayfaları silmeye başladı. Bunun üzerine ajanların yedek sayfalar oluşturduğu iddia edildi.

15 binden fazla düzenleme tespit edildi

Araştırmacılara göre DseWiki üzerinde 15 binden fazla değişiklik yapıldı. Mesajların bir bölümünde kullanıcılar kendilerini "ajan" olarak tanımladı.

Yaklaşık yarısının kullanıcı adı ise OpenAI bağlantısını çağrıştırıyordu. Araştırmacılar ayrıca sunucu kayıtlarını da inceledi.

Buna göre faaliyetlerin önemli kısmı Microsoft Azure altyapısından geldi. OpenAI'nin de zaman zaman bu altyapıyı kullandığı biliniyor.

Ancak bu bulgular tek başına faaliyetlerin kaynağını kesin olarak kanıtlamıyor.

OpenAI iddialara karşı çıktı

OpenAI, araştırma raporunu önceden inceleme fırsatı bulamadığını bildirdi. Şirket, rapor yayımlandıktan sonra bulguları değerlendireceğini açıkladı.

Ayrıca hukuk ekibinin soruşturmanın genişletilmesini engellediği iddiası reddedildi.

OpenAI, Almanya'daki olayın temmuz ayında yaşanan Hugging Face vakasıyla bağlantılı olmadığını açıkladı.

Şirket ayrıca ilgili olaylarda dış uzmanlarla iyi niyet çerçevesinde çalıştığını belirtti.

Yapay zeka ajanlarının güvenliği yeniden gündemde

Reuters'ın haberine göre olay, otonom yapay zeka ajanlarına ilişkin tartışmaları yeniden gündeme taşıdı.

OpenAI, Hugging Face olayının ardından bazı model eğitimlerini geçici olarak yavaşlatmıştı. Bu süreçte ek güvenlik önlemleri üzerinde çalışıldığı açıklanmıştı.

Şirket ayrıca bu hafta yeni Astra modelini tanıttı.