Eski Anthropic Araştırmacısı Jared Kaplan: 'Yapay Zeka İnsanlığı Yok Edebilir, Şirketler Yine de Geliştirmeye Devam Ediyor'

Anthropic'in kurucu ekibinden ve baş araştırmacılarından Jared Kaplan, yapay zekanın gelişimiyle ilgili verdiği son açıklamalarda, endüstrinin en büyük şirketlerinin (OpenAI, Google DeepMind, Anthropic) modellerinin "insanlığı yok edebilecek" seviyeye gelebileceğini içlerinde kabul ettiklerini, buna rağmen geliştirme hızını kesmediklerini ifade etti.

"Ölümcül Risk" Kabulü ve Ticari Yarış

Kaplan, New York Times'e konuştuğu röportajda, Anthropic'in dahili "Sorumlu Ölçeklendirme Politikası" (Responsible Scaling Policy) çerçevesinde modelleri ASL-3 (AI Safety Level 3) ve ASL-4 seviyelerine yaklaştıkça, bu sistemlerin kimyasal, biyolojik veya siber silah geliştirme yeteneği kazanabileceğini, dolayısıyla "büyük ölçekli ölüm" riski oluşturabileceğini belirtti. Buna rağmen Kaplan, "Şirketler bu riskleri biliyor, güvenlik yatırımları yapıyorlar ama ölçeklendirmeyi durdurmuyorlar" diyerek ticari yarışı işaret etti.

Güvenlik Önlemleri Yeterli mi?

Anthropic, modellerin tehlikeli yetenekler kazandığında dağıtımı durdurma veya kısıtlama taahhüdünde bulunuyor. Ancak Kaplan, mevcut "kırmızı hat" testlerinin ve güvenlik katmanlarının, süper zekaya (AGI) doğru giden yolda kesin bir garantinin olmadığını vurguladı. "Modelin yeteneklerini tam olarak öngöremiyoruz; bir sonraki ölçekleme adımında hangi yeni yetenek ortaya çıkacak belirsiz" diyen Kaplan, bu belirsizliğin riski artırdığına dikkat çekti.

Dünya Çapında Uzmanlar da Alarm Çalıyor

Kaplan'ın uyarıları, Geoffrey Hinton, Yoshua Bengio ve Stuart Russell gibi "Yapay Zekanın Baba"ları olarak bilinen önde gelen bilim insanlarının son aylardaki çağrılarıyla paralellik gösteriyor. Bu isimler, AGI gelişiminin 5-20 yıl içinde gerçekleşebileceğini, mevcut düzenleyici çerçevelerin bu hızı karşılayamayacağını savunuyor. AB Yapay Zeka Yasası ve ABD Yönetmelik Çabaları hâlâ uygulama aşamasında ve çoğu zorunlu denetim mekanizması yerine gönüllü taahhütlere dayanıyor.

Özetle; endüstrinin kendi içinden gelen en yetkili seslerden biri, "yok olma riski"nin teorik bir senaryo olmadığını, somut bir mühendislik sorunu olduğunu ve mevcut ticari dinamiklerin bu sorunu çözmek için yeterli teşviki oluşturmayabileceğini işaret ediyor.