Microsoft’tan yapay zeka modellerine insan kontrolü şartı
Microsoft, gelecekte geliştireceği yapay zeka modellerinin davranışlarını sınırlandıracak “Hümanist Yapay Zeka Davranış Kuralları” taslağını yayımladı. Şirket, modellerin insan kontrolünü aşmadan anlamlı bir gözetim altında çalışmasını hedefliyor.
ABD merkezli teknoloji şirketi Microsoft, yapay zeka güvenliği konusunda artan tartışmaların ardından yeni bir kurallar taslağını kamuoyuyla paylaştı.
Taslak, şirketin gelecekte geliştireceği yapay zeka modellerinin insanlığa tabi kalmasını ve insan kontrolünün dışına çıkmamasını öngörüyor.
Silah ve tehlikeli madde taleplerine sınır
Belgede yapay zeka modellerinin silah üretimine yönelik taleplere yardımcı olmaması ve tehlikeli maddelerin temin edilmesini kolaylaştırmaması hedefleniyor.
Modellerin şiddet içeren veya cinsel açıdan açık içerikler üretmesinin önlenmesi de taslakta yer alan kurallar arasında bulunuyor.
Uygulama 2027’de başlayacak
Microsoft, taslağa ilişkin altı hafta boyunca kamuoyundan görüş alacak. Gelen değerlendirmeler doğrultusunda yıl sonunda revize edilmesi planlanan kurallar, 2027’den itibaren şirketin yapay zeka modellerinin geliştirilmesine rehberlik edecek.
Microsoft’un adımı, Anthropic CEO’su Dario Amodei ve OpenAI CEO’su Sam Altman’ın yapay zeka modellerinin geliştirilme hızının güvenlik amacıyla kontrollü biçimde yavaşlatılması yönündeki çağrılarının ardından geldi.
