AB’den yapay zekâ için küresel kurallar çağrısı
Avrupa Birliği (AB) Komisyonunun Teknolojik Egemenlik, Güvenlik ve Demokrasiden Sorumlu Başkan Yardımcısı Henna Virkkunen, yapay zekânın oluşturabileceği risklerin yalnız bölgesel düzenlemelerle ele alınamayacağını belirterek küresel kurallara ihtiyaç duyulduğunu söyledi.
Virkkunen, İrlanda’nın başkenti Dublin’de çocukların çevrim içi güvenliğine ilişkin düzenlenen konferansın ardından yapay zekâ riskleri ve uluslararası işbirliğine ilişkin değerlendirmelerde bulundu.
“Yapay zekâda küresel kurallara gerçekten ihtiyaç duyulduğunu görüyorum” diyen Virkkunen, ülkeler arasındaki işbirliğinin sürdürülmesinin önemini vurguladı.
AB’de gelişmiş yapay zekâ modellerine risk yükümlülüğü
AB’de yapay zekâ alanındaki düzenlemeler, gelişmiş modeller geliştiren şirketlere güvenlik ve risk yönetimi konusunda çeşitli yükümlülükler getiriyor.
Virkkunen, Anthropic ve OpenAI gibi şirketlerin gelişmiş yapay zekâ modellerinin kontrolden çıkma riskini değerlendirmek ve buna karşı önlem almakla yükümlü olduğuna işaret etti. Benzer kuralların küresel ölçekte uygulanmadığını belirtti.
AB, yapay zekâ alanında uluslararası işbirliğini de gündeminde tutuyor. Virkkunen, eylül başındaki G20 toplantılarında düzenleyici parçalanmanın önlenmesi için daha fazla uluslararası işbirliği ve uyumluluk çağrısında bulunmuştu.
Eski çalışanlardan yapay zekâ risklerine ilişkin uyarı
Küresel düzenleme tartışmaları, yapay zekâ sektöründe görev yapmış bazı araştırmacıların teknolojinin gelecekte oluşturabileceği risklere ilişkin açıklamalarının ardından yeniden gündeme geldi.
Anthropic’te araştırmacı olarak görev yapan Evan Hubinger, yapay zekâ teknolojilerinin gelecek 10 yıl içinde insanlığın varlığını tehdit edebilecek seviyeye ulaşması konusunda ciddi risk gördüğünü açıklamıştı.
OpenAI ve Anthropic bünyesinde araştırmacı olarak çalıştıktan sonra istifa eden Jacob Coxon da sektördeki bazı çalışanların gelişmiş yapay zekâ sistemlerinin oluşturabileceği riskler konusunda kamuoyuna yansıyandan daha ciddi endişeler taşıdığını öne sürmüştü.
