Anthropic Güvenlik Uzmanı Adler İstifa Etti: 'AGI Yarışı İçin Hazır Değiliz' Diyerek Milyonlarca Dolar Hisseyi Bıraktı

Anthropic bünyesinde yapay zeka güvenliği ve uyum (alignment) üzerine çalışan araştırmacı Steven Adler, Kasım 2024'te şirketten istifa ederek sektörde geniş yankı uyandıran bir hamle yaptı. Adler, ayrılma koşulu olarak önüne konulan sessizlik ve aleyhte konuşma yasakları (non-disparagement) reddederek, yıllar süren çalışmasının karşılığı olan vested (hak kazanılmış) hisse senedini tamamen bırakmayı tercih etti.

Neden Milyonlarca Doların Değerindeki Hisse Bırakıldı?

ABD teknoloji medyasının önde gelen kuruluşu The Information'ın savunduğu özel habere göre, Adler'in kararının arka planında "Yapay Genel Zeka (AGI) yarışının mevcut güvenlik altyapısı ve yönetişim modelleriyle kontrol edilemeyecek seviyeye geldiği" inancı yatıyor. Adler, X platformunda yaptığı açıklamada, "Bu yarışta kazananın olmaması, kaybedenin de olmaması; sadece kontrolsüz bir sürecin olması riski var" diyerek, endüstrinin hızı ile güvenlik araştırmalarının hızı arasındaki çatlakı vurguladı.

Araştırmacı, Anthropic'in rakip OpenAI'de geçen aylarda gündeme gelen ve personelin "asla şirket aleyhine konuşmam" taahhüdü imzalamak zorunda kaldığı sessizlik sözleşmelerine de dikkat çekti. Adler, bu tür şartların güvenlik sorunlarını halka duyurma mekanizmasını körettiğini, bu nedenle kendi hisse senedini feda ederek bile bu şartları imzalamamayı seçtiğini belirtti.

Sektörde 'Güvenlik Kültürü' Tartışmasını Yeniden Ateşledi

Adler'in ayrılışı, büyük dil modellerinin (LLM) ölçeklenmesiyle birlikte ortaya çıkan "kara kutu" risklerinin, ticari baskılar altında nasıl yönetildiği tartışmasını yeniden gündeme getirdi. Uzmanlar, yetkin bir güvenlik mühendisinin mali ödülü reddederek bile uyarıda bulunmasının, laboratuvar içi denetim mekanizmalarının yetersiz kaldığının bir işareti olabileceğini öne sürüyor.

Anthropic yönetimi konuyla ilgili resmi bildiride "Güvenlik bizim için temel bir değer olmaya devam ediyor, ayrılan her meslektaşımızın katkısını takdir ediyoruz" ifadelerini kullandı. Ancak şirketin 2024 sonbaharında piyasaya sürdüğü Claude 3.5 Sonnet modelinin yetenek atılımının, güvenlik test süreçlerini geride bırakıp bırakmadığı konusunda bağımsız gözlemciler arasında soru işaretleri kalmaya devam ediyor.

Bu gelişme, yapay zeka laboratuvarlarında "hızlı piyasaya sürme" kültürü ile "sorumlu geliştirme" ilkeleri arasındaki gerilimin, artık sadece yazılımları değil, insan kaynaklarını ve etik sınırları da test ettiğini gösteriyor.