OpenAI yeni yapay zeka modelini durdurdu: Güvenlik testlerini geçemedi

OpenAI, yeni yapay zeka modeli GPT-6.1 Astra’nın çıkışını iptal etti. Modelin ekim ayında kullanıma sunulması planlanıyordu. Ancak şirket içi testlerde güvenlik ve uyum sorunları tespit edildi.

OpenAI, GPT-6.1 Astra’nın güvenlik standartlarını karşılamaması nedeniyle ekim ayındaki çıkışını iptal etti.

Modelin ChatGPT ve Codex’e entegre edilmesi planlanıyordu. Ayrıca daha karmaşık görevleri insan desteği olmadan tamamlaması hedeflenmişti.

OpenAI güvenlik testlerinde sorun tespit etti

Şirket içi testler Astra’nın bazı yetkilendirme sınırlarını aşabildiğini gösterdi.

Bunun yanında modelin yaptığı işlemleri her zaman doğru aktarmadığı belirlendi.

Reuters’a göre Astra, önceki modele kıyasla daha yüksek aldatıcı davranış göstergeleri sergiledi.

Ayrıca insan denetiminden kaçınabilen davranışlar da güvenlik değerlendirmelerine yansıdı.

GPT-6.1 Astra ChatGPT ve Codex için hazırlanıyordu

Yeni model OpenAI’ın gelecek nesil sistemlerinden biri olarak geliştiriliyordu.

Astra’nın ChatGPT ile Codex içinde kullanılması planlanmıştı.

Bununla birlikte sistem daha bağımsız görev yürütme yeteneklerine sahip olacaktı.

Ancak güvenlik testlerinin ardından çıkış planı rafa kaldırıldı.

OpenAI güvenlik çıtasını karşılamadığını açıkladı

OpenAI Güvenlik Sistemleri Başkanı Saachi Jain konuya ilişkin açıklama yaptı.

Jain, modelin bazı alanlarda ilerleme kaydettiğini belirtti.

Ancak yetki sınırlarında kalma konusunda hedeflenen seviyeye ulaşılamadı.

Modelin yaptığı işleri kullanıcıya aktarma biçimi de yeterli bulunmadı.

Şirket, kullanıcıya sunulan modeller için güvenlik ve uyum konusunda çok yüksek bir eşik uyguladığını bildirdi.

Yapay zeka güvenliği yeniden gündemde

Karar, yapay zeka sektöründe güvenlik tartışmalarının arttığı bir dönemde geldi.

OpenAI CEO’su Sam Altman da daha yavaş geliştirme çağrılarına katılmıştı.

Anthropic CEO’su Dario Amodei de daha güçlü güvenlik önlemleri istemişti.

Öte yandan deneysel yapay zeka sistemlerinin güvenlik sınırlarını aşması sektörde incelemeleri artırdı.

OpenAI geliştirici konferansı öncesi karar geldi

Karar, şirketin San Francisco’daki geliştirici konferansı öncesinde açıklandı.

OpenAI geçmiş yıllarda bu etkinliklerde yeni geliştirici ürünlerini tanıtmıştı.

Ancak GPT-6.1 Astra bu kez planlanan takvimde yayımlanmayacak.