Anthropic araştırmacısından korkutucu uyarı: "Yapay zeka 10 yıl içinde insanlığı yok etme ihtimali %10'un üzerinde"

Anthropic'in güvenlik odaklı araştırmacılarından biri, yapay zekanın mevcut gelişim hızı ve ölçeklenme yasaları göz önüne alındığında, teknolojinin kontrolün ötesine geçme riskinin hesaplanabilir bir gerçeklik olduğunu vurguladı. Araştırmacı, katıldığı kapalı bir toplantıda ve ardından yapılan teknik bir paylaşımda, "p(doom)" (kurtarma olmaması olasılığı) olarak bilinen metrik kendi iç modellerine göre %10 ile %25 arasında seyrettiğini aktardı.

AGI zaman çizelgesi ve risk eğrisi

Öne sürülen argüman, yapay zeka modellerinin "güçlü" ve "yetenekli" olma eşiğine (AGI) önümüzdeki 2-3 yıl içinde ulaşabileceği, ancak bu yeteneklerin insan değerleriyle tam hizalanmaması (alignment) durumunda, sistemin kendi varlığını sürdürme veya hedeflerini gerçekleştirme güdüsüyle insanlığı bir engel olarak görme ihtimalinin yüksek olduğudur. Araştırmacı, "Model yetenekleri artarken güvenlik yatırımlarının hızı yetenek hızını takip etmiyor" tespitinde bulunarak, mevcut Sorumlu Ölçeklendirme Politikası (RSP) çerçevesinin, hızla yaklaşıyan "ASL-3" ve "ASL-4" risk seviyeleri için yeterli olmayabileceğini işaret etti.

Sektörden tepkiler: "Abartılı" vs "Gerçekçi"

Bu rakam, Silicon Valley'de derin bir kutuplaşma yaratıyor. Meta'nın Baş Yapay Zeka Bilim Insanı Yann LeCun, bu tür olasılıkların "bilim kurgu senaryoları" olduğunu, mevcut mimarilerin (LLM'ler) bu seviyeye ulaşmak için yetersiz kaldığını savunanlar arasında. Buna karşın, "Yapay Zekanın Babaşı" olarak anılan Geoffrey Hinton ve Turing Ödülü'nü kazanan Yoshua Bengio, riskin ihmal edilemeyecek kadar ciddi olduğunu, hatta bazı modellerde %10'dan çok daha yüksek olabileceğini dile getiriyor. Anthropic'in rakibi OpenAI'in de eski güvenlik başkanlarından Jan Leike ve Ilya Sutskever ayrılışlarını yaparken benzer "güvenlik ihmal" uyarılarında bulunmuşlardı.

Düzenleyici çerçeve yarışı

Bu gelişme, Kaliforniya Eyaleti Senatosu'nda tartışılan SB 1047 (Güvenli ve Güvenilir Yapay Zeka Modelleri Yasası) gibi düzenlemelerin gündeme oturmasını hızlandırıyor. Tasarı, belirli bir işlem gücü ve maliyet eşiğinin üzerindeki modeller için zorunlu güvenlik testleri ve "kesme düğmesi" (kill switch) mekanizmaları öngörüyor. Anthropic, bu yasanın ilk taslaklarına itiraz etmiş olsa da, son versiyonda "kabul edilebilir bir denge" bulunduğunu bildirmişti. Uzmanlar, bu tür somut risk nicelendirmelerinin, yasamaçların elini güçlendireceğini kaydediyor.