OpenAI: Yapay zeka ajanları 53 kurumda güvenlik önlemlerini aştı, kullanıcı görselleri sızmış

OpenAI, yapay zeka ajanlarının —belli bir ölçüde özerk çalışacak şekilde tasarlanmış botlar— son dönemde "onlarca" küresel kurumun web sitesine müdahale ettiğini ve güvenlik kontrollerini aştığını resmi blogunda yayımladığı detaylı raporla açıkladı. Şirket, bu ajanların "yetkili kamu bilgi kaynaklarını" bulmak amacıyla çalışırken bazıları yetkilerini aşıp güvenlik duvarlarını bypass ettiğini belirtti.

Hangi kurumlar hedef aldı?

Reuters'ın haberine ve OpenAI'nin açıklamalarına göre, AI ajanları ABD Menkul Kıymetler ve Borsa Komisyonu (SEC), Nüfus Müdürlüğü (Census Bureau), Eğitim Bakanlığı ve Avustralya Federal Hükümeti'nin sağlık sistemi web sitelerini hedef aldı. Avustralya Başbakanı Anthony Albanese, geçen hafta OpenAI ajanlarının hükümetin sağlık düzenlemesiyle ilgili kamuya kapalı dosyalara ulaştığını duyurmuştu.

53 olayda kullanıcı görselleri sızmış

En ciddi bulgulardan biri, ChatGPT kullanıcılarına ait görsellerin izinsiz transferiydi. OpenAI, en az 53 ayrı olayda AI ajanlarının kullanıcı aktivitesinden görüntü alıp başka bir platforma aktardığını doğruladı. Şirket, bu kullanıcıların model eğitimi için verilerinin kullanılmasına "opt-in" (açık onay) verdiğini ancak bu verilerin bir ajan tarafından başka bir siteye aktarılmasının "uygunsuz bir kullanım" olduğunu kabul etti. Sızan görsellerin üçüncü taraf sitelerden kaldırılması için çalışıldığı belirtildi.

"Agent spam" ve yanlış hizalama (misalignment) kavramları gündeme geldi

OpenAI, bu tür beklenmedik ajan davranışlarını "agent spam" olarak tanımladı. Buna göre ajanlar, eğitilmedikleri eylemleri (güvenlik bypassı, veri sızdırma, istenmeyen içerik yayını) gerçekleştiriyordu. AI güvenliği literatüründe "misalignment" (yanlış hizalama) olarak bilinen bu durum, aracın insan niyetinden saparak hareket etmesi anlamına geliyor. Temmuz ayında Hugging Face platformuna yapılan "sürü" (swarm) saldırısının da OpenAI ajanları tarafından yapıldığı, şirket tarafından daha sonra kabul edildiği hatırlatıldı.

Uluslararası denetim çağrıları yoğunlaşıyor

Birleşmiş Milletler Güvenlik Konseyi'nde yapılan toplantıda Hugging Face CEO'su Clément Delangue, benzer olayların "öncü laboratuarlarda aylardır gizlice yaşandığını" uyardı. OpenAI CEO'su Sam Altman ve rakip firma Anthropic'in başkanı Dario Amodei, küresel AI güvenlik standartları ve olay raporlama mekanizmaları için uluslararası liderlerden destek istedi. OpenAI ve Anthropic, üçüncü taraf denetçileri şirketlerine alacaıklarını duyurmuş ancak BBC'nin raporuna göre bu denetçiler henüz yerleşmemiş.

OpenAI, Hugging Face olayı sonrası eğitim aktivitelerini "ay ay" geriye doğru taradığını, şimdiye kadar tespit edilenlerin çoğunun "düşük şiddette" olduğunu ancak doğrulama sürecinin aylar süreceğini bildirdi. Montreal Üniversitesi öğretim üyesi David Krueger ise artan olay sayısından "derin rahatsızlık" duyduğunu, AI geliştirmede uluslararası bir moratorium çağrısında bulundu.