Yapay Zeka Devleri 'Yavaşlama' Paktı İmzaladı: Güvenlik mi, Kartel mi?

OpenAI, Anthropic, Google DeepMind ve xAI'nin kurucu isimleri geçen hafta sonu kapalı kapılar arkasındaki bir toplantıda, ileri seviye yapay zeka modellerinin geliştirilmesini "tempolamak" (pace the frontier) amacıyla anlaşıma vardı. Toplantıda, 10^26 FLOP (kayan nokta işlemi) üzerindeki eğitim işlemleri için zorunlu üçüncü taraf denetimi, ulusal laboratuvarların lisanslanması ve küresel bir yavaşlama protokolü önerisi masaya yatırıldı. Dört şirketin ortak imzasını taşıyan bildiride, "güvenlik standartlarının teknolojik yeteneklerin önüne geçmemesi" için proaktif bir çerçeve çizildiği belirtildi.

Gönüllü taahhütlerden zorunlu denetime geçiş

Anlaşma, Temmuz 2023'te Beyaz Saray'ın yönlendirmesiyle alınan gönüllü taahhütlerin ve sonrasında kurulan "Önyargı Model Forumu"nun (FMF) bir son aşaması olarak değerlendiriliyor. Farkı, bu sefer önerilerin "gönüllülük"ten çıkarılarak, AB Yapay Zeka Yasası'nın "sistemik risk" tanımıyla uyumlu hale getirilecek yasal dayanaklı bir denetim mekanizmasına (third-party auditing) bağlanması. AB Yapay Zeka Ofisi kaynaklarına göre, teklif edilen denetim standardı, mevcut yasanın 2. Ek'indeki şeffaflık yükümlülüklerinden önemli ölçüde öteye giderek, model ağırlıklarının (weights) dağıtımına kadar uzanan bir ön onay sürecini öngörüyor.

Açık kaynak ve rekabet otoriteleri alarm çaldı

Anlaşma metni sızdırıldığında ilk tepki, Llama ve Mistral gibi açık kaynak modelleri geliştiren ekiplerden ve ABD Federal Ticaret Komisyonu (FTC) ile İngiltere Rekabet ve Piyasalar Otoritesi (CMA) gibi kurumlardan geldi. Eleştirmenler, 10^26 FLOP eşiğinin, mevcut piyasa liderlerinin (GPT-4o, Claude 3.5 Opus, Gemini 1.5 Ultra) hemen hemen tümünü kapsarken, yeni giren oyuncuların ve akademik laboratuvarların bu maliyetli denetim sürecini aşamasını neredeyse imkansız hale getireceğini savunuyor. "Bu bir güvenlik paktı değil, hesaplama gücü (compute) moatı kazıyarak rakip girişini engelleyen bir kartel anlaşıması" diyen FTC Başkanı Lina Khan, geçtiğimiz hafta yaptığı konuşmada bu çerçevenin antitrust (refah kaybı) incelemesine tabi tutulabileceğini sinyalletti.

Dünya çapında denetim mekanizması arayışı

BM Sekreter Genli Antonio Guterres'in yönlendirmesiyle kurulan "Yapay Zeka Yüksek Seviyeli Danışma Kurulu"nın Eylül 2024 raporunda önerilen "Uluslararası Yapay Zeka Ajansı" fikri, bu son gelişmeyle yeniden gündeme geldi. Anlaşma metni, denetimlerin ulusal ajanslar tarafından değil, uluslararası bir konsorsiyum (muhtemelen ISO/IEC 42001 standartları üzerine kurulacak) tarafından yapılmasını öngörüyor. Ancak Çin ve Hindistan gibi büyük yapay zeka güçlerinin bu yapıya dahil edilmesi konusunda henüz konsensüs yok. Diplometik kaynaklar, önümüzdeki hafta Cenevre'de yapılacak BM Gelecek Zirvesi yan toplantısında bu konunun en kritik tartışma noktası olacağını aktarıyor.

Uzmanlar, gönüllü bir "yavaşlama"nın pratikte, en büyük hesaplama altyapısına (NVIDIA H100/B200 stokları) sahip olan şirketlerin mevcut avantajlarını betonlaştırarak, güvenlik araştırmalarını (alignment research) ticari gizlilik perdesi arkasına saklamaya yol açabileceğini uyarıyor. Gelecek ay AB Parlamentosu'nun yapay zeka yasası uygulama rehberlerini oylaması, bu paktın hukuki statüsünü belirleyecek ilk büyük sınav olacak.