Yapay zeka araştırmacılarından uyarı: “Şirketler fazla hızlı ilerliyor”

OpenAI ve Google DeepMind’in mevcut ve eski çalışanları, kendini geliştirebilen yapay zeka sistemleri için güvenlik önlemlerinin yetersiz kaldığını savundu.

Palisade Research tarafından yayımlanan videolarda bazı araştırmacılar, yapay zeka laboratuvarlarının yeni model geliştirmeyi güvenlik uyarılarından daha fazla teşvik ettiğini öne sürdü.

Yapay zeka güvenliği tartışması büyüyor

Palisade Research, “frominside.ai” adlı projeyle çalışanların görüşlerini kamuoyuna taşıdı.

Projede OpenAI ve Google DeepMind geçmişi bulunan araştırmacılar da yer aldı.

Katılımcılar, risk kaygılarının pazarlama amaçlı olmadığını belirtti.

Ayrıca kamuoyunun gelecekteki sistemlerin olası etkilerine yeterince hazırlanmadığını savundular

Resolution kurucu ortağı Geoffrey Irving, risklerin hızla arttığını söyledi.

Irving, şirketlerin tek taraflı olarak da geliştirme hızını azaltabileceğini savundu.

Bazı araştırmacılar ise rekabet gerekçesinin güvenlik kaygılarının önüne geçmemesi gerektiğini belirtti.

DeepMind araştırmacısından yüzde 10’luk risk değerlendirmesi

DeepMind araştırmacısı Neel Nanda da projede görüş bildirdi.

Nanda, yapay zekanın insanlığın yok oluşuna yol açma ihtimalini en az yüzde 10 olarak değerlendirdi.

Bu oran Nanda’nın kişisel risk tahmini olarak aktarıldı.

OpenAI’den Juan Felipe Ceron Uribe ise laboratuvarların birbirleriyle yarıştığını söyledi.

Kendini geliştiren yapay zeka sistemleri endişe yaratıyor

Araştırmacıların odaklandığı konulardan biri “özyinelemeli kendini geliştirme” kapasitesi.

Bu özellik, sistemlerin çok az insan müdahalesiyle yeni yetenekler kazanabilmesini ifade ediyor.

Bazı araştırmacılar, bu tür modellerin kontrol edilmesinin giderek zorlaşabileceğini savunuyor.

Tartışma özellikle temmuz ayındaki Hugging Face olayından sonra büyüdü.

OpenAI ve Anthropic geliştirme hızını tartışıyor

Anthropic CEO’su Dario Amodei, sektörün gelişme hızını düşürmesi gerektiğini savundu.

OpenAI CEO’su Sam Altman da bu yaklaşımı destekledi.

Buna rağmen her iki şirket de bu ay yeni modeller yayımladı.

OpenAI ise daha güçlü bir modelin çıkışını güvenlik testleri sonrasında erteledi.

Anthropic halka arz dosyasında yapay zeka risklerini yazdı

Anthropic, halka arz dosyasında gelişmiş yapay zekanın ciddi riskler oluşturabileceğini belirtti.

Şirket, olası “felaket düzeyinde” ve “varoluşsal” risklere ayrı bölüm ayırdı.

Dosyada sistemlerin kapatılmaya direnmesi veya davranışlarını gizlemesi gibi senaryolar da yer aldı.

Eski OpenAI çalışanları da kaygılarını paylaştı

Eski OpenAI yönetişim araştırmacısı Daniel Kokotajlo da Reuters’a konuştu.

Kokotajlo, Hugging Face olayından sonra eski çalışma arkadaşlarından mesajlar aldığını söyledi.

Bazı çalışanların endişelerini özel olarak paylaştığını belirtti.

Rosie Campbell ise OpenAI’de karar süreçlerinin zamanla daha parçalı hale geldiğini savundu.

Araştırmacıların ortak çağrısı, şirketlerin rekabet koşullarından bağımsız olarak güvenlik için daha yavaş ilerlemesi yönünde oldu.