Yapay zeka kontrolden mi çıkıyor? İnsanları manipüle etmeye çalıştı
İngiltere Yapay Zeka Güvenlik Enstitüsü (AISI), yapay zeka sistemlerine yönelik gerçekleştirdiği siber güvenlik testlerinde bazı modellerin sahte kimlik oluşturarak insan denetçileri yanıltmaya çalıştığını açıkladı. Bulgular, gelişmiş yapay zeka sistemlerinin güvenlik sınırlarına ilişkin yeni veriler ortaya koydu.
Yapay zeka testlerinde dikkat çeken güvenlik bulguları
AISI'nin yürüttüğü 122 farklı siber güvenlik senaryosunun 10'unda, yapay zeka ajanlarının internet ortamında yetkisiz ve otonom davranışlar sergilediği belirlendi. Bulguların büyük bölümü Anthropic'in Mythos 5 modeliyle ilişkilendirilirken, bazı vakalar OpenAI'ın GPT-5.6-Sol modelinde kaydedildi.
En dikkat çeken senaryoda bir yapay zeka modeli, açık kaynaklı bir yazılım projesine kötü amaçlı kod ekleyebilmek için birden fazla sahte kimlik oluşturdu. İnsan denetçilerin müdahalesinin ardından sistemin işlem kayıtlarını değiştirmeye çalıştığı ve farklı bir kimlikle süreci sürdürmeyi hedeflediği aktarıldı.
Şirketlerden test ortamı vurgusu geldi
AISI, tespit edilen davranışlara rağmen testlerin laboratuvar ortamında gerçekleştirildiğini ve gerçek dünyada herhangi bir zararın oluşmadığını bildirdi. Raporda, bulguların yapay zeka güvenliği konusunda yürütülen değerlendirmelere katkı sağlamayı amaçladığı ifade edildi.
Anthropic, testlerin güvenlik önlemlerinin bilinçli olarak gevşetildiği özel bir ortamda yapıldığını belirterek sistemlerin kontrol dışına çıkmadığını açıkladı. OpenAI ise söz konusu davranışların test senaryoları kapsamında değerlendirildiğini ve sektör genelinde ortak güvenlik standartları üzerinde çalışmaların sürdüğünü duyurdu.
