Yapay zekâda yeni tehlike: Virüs tasarımında kullanılabilir mi?

Yapay zekânın biyoloji ve ilaç araştırmalarındaki kullanım alanı hızla genişlerken, teknolojinin tehlikeli virüslerin geliştirilmesini kolaylaştırabileceğine ilişkin endişeler de büyüyor. Anthropic’in biyolojik silah geliştirmeyi destekleyebilecek 5 potansiyel kötüye kullanım vakasına müdahale ettiğini açıklaması tartışmayı yeniden gündeme taşıdı.

Anthropic’in yayımladığı tehdit değerlendirmesine göre şirket, Aralık-Ağustos döneminde modellerinin biyolojik silah geliştirilmesini destekleyebilecek biçimde kullanıldığı beş potansiyel vakayı tespit ederek müdahale etti.

Vakaların ikisinde araştırmacıların Claude’dan tehlikeli virüsler üzerinde “gain-of-function” araştırmalarında yardım almaya çalıştığı belirtildi. Bu araştırmalar, patojenlerin özelliklerini değiştirerek nasıl davrandıklarını ve salgın oluşturma potansiyellerini anlamayı amaçlayabiliyor.

Anthropic: Yakın bir tehdit anlamına gelmiyor

Anthropic ise tespitlerin Claude’un biyolojik tehditleri yakın zamanda artıracağı anlamına gelmediğinin altını çiziyor.

Şirkete göre asıl dikkat çekici nokta, hem faydalı hem de zararlı amaçlarla kullanılabilecek ileri düzey biyolojik araştırmalar yürüten bazı aktörlerin yapay zekâ sistemlerinin erişim kontrollerini aşmaya çalışması.

Bu nedenle Anthropic, yalnızca model içindeki güvenlik önlemlerinin yeterli olmayabileceğini; kullanıcıların ve kurumların meşruiyetini doğrulayabilecek sistemlere ve kötüye kullanımı tespit edebilecek izleme mekanizmalarına ihtiyaç bulunduğunu savunuyor.

Yapay zekâ biyolojide neleri yapabiliyor?

Fordham, Johns Hopkins, Oxford, Stanford, Columbia ve New York Üniversitesi’nden araştırmacıların değerlendirmelerine göre mevcut yapay zekâ sistemlerinin biyolojik araştırmalarda kullanılabilecek yetenekleri giderek genişliyor.

Modeller; virüslerin genetik materyalini çevreleyen yapıların tasarlanması, patojenlerin nasıl evrimleşebileceğinin tahmin edilmesi ve DNA veya RNA dizilerinin oluşturulması gibi araştırmalara yardımcı olabiliyor.

Uzmanların endişelerinden biri ise bu kapasitenin güvenlik taramalarından kaçabilecek genetik dizilerin veya laboratuvarda sentezlendiğinde daha tehlikeli özellikler gösterebilecek viral genomların tasarlanmasında kötüye kullanılabilmesi.

Uzmanların yüzde 70’i risk görüyor

Tartışmanın boyutunu gösteren bir başka veri ulusal güvenlik uzmanlarından geldi.

Institute for Security and Technology tarafından 100’den fazla ulusal güvenlik uzmanıyla gerçekleştirilen araştırmada katılımcıların yüzde 70’i, yapay zekânın biyolojik silah geliştirme riskini halihazırda anlamlı ölçüde artırdığını veya önümüzdeki 2-3 yıl içerisinde artıracağını düşünüyor.

Uzmanlara göre temel risk, yapay zekânın daha az bilgi ve deneyime sahip aktörlerin karmaşık biyolojik çalışmalar yapabilmesinin önündeki teknik engelleri azaltması.

En büyük endişe ise kimyasal saldırılardan ziyade pandemi oluşturabilecek biyolojik ajanların geliştirilmesi.

Sentetik virüs tartışmayı büyüttü

Endişeleri artıran gelişmelerden biri de Stanford’dan geldi. Üniversitedeki bir araştırma ekibi geçen ay farklı bir üretken yapay zekâ teknolojisinden yararlanarak doğada bulunmayan sentetik bir virüs tasarladığını bildirdi.

Çalışma, yapay zekânın yaşam bilimlerinde sağlayabileceği araştırma olanaklarını ortaya koyarken aynı teknolojinin kötüye kullanımının nasıl engelleneceği sorusunu da gündeme taşıdı.

Çözüm yapay zekâyı biyolojiden çıkarmak mı?

Tartışmanın diğer tarafında ise yapay zekânın biyolojik araştırmalara sağlayabileceği önemli faydalar bulunuyor. İlaç geliştirme ve protein yapılarının incelenmesi gibi alanlarda kullanılan sistemler bilimsel araştırmaları hızlandırabiliyor.

Bazı uzmanlar bu nedenle çözümün yapay zekâyı biyolojik araştırmalardan tamamen uzaklaştırmak yerine, belirli bilimsel amaçlar için geliştirilmiş ve bağımsız hareket etme yeteneği sınırlı sistemlere yönelmek olduğunu düşünüyor.

Google DeepMind’ın AlphaFold sistemi bu yaklaşıma örnek gösteriliyor.

Tartışmanın merkezindeki soru da burada ortaya çıkıyor: Yapay zekânın bilimsel araştırmalara sağlayacağı faydalar korunurken, aynı teknolojinin tehlikeli biyolojik çalışmalar için kullanılmasının önüne nasıl geçilecek?