Mustafa Suleyman, Microsoft'un 'Humanist AI' kodunu yayınlarken Anthropic'in model refahı felsefesini eleştirdi; yapay zeka güvenliğinde 'içerme' (containment) önceliği vurgulandı.
Yapay zeka devi DeepMind, Yapay Genel Zekanın (AGI) gelişimiyle birlikte ortaya çıkabilecek risk ve fırsatları sistematik olarak incelemek amacıyla özel bir araştırma ekibi oluşturduğunu açıkladı.
Anthropic, güncellenen güvenlik raporunda Claude modellerinin biyolojik silah geliştirmeye yönelik 5 kritik girişimin engellendiğini ve riskin ASL-3 eşiğine yaklaştığını açıkladı.
OpenAI CEO'su Sam Altman, Paris Yapay Zeka Eylem Zirvesi'nde güvenlik harcamalarını artırma taahhüdünde bulundu; EU AI Act uyum sürecini ve yeni model stratejisini açıkladı.
Altman, Amodei, Hassabis ve Musk 'önyargıyı tempolamak' için üçüncü taraf denetimi ve küresel yavaşlamaya imza attı; rakip firmalar ve açık kaynak topluluğu 'piyasa kilitleme' iddiasıyla karşı çıktı.
Dario Amodei'nin 'Sınırları Ölçeklendirme' makalesi yapay zeka güvenliği tartışmasını alevlendirdi; üçüncü taraf denetim ve sorumluluk standartları önerisi üzerine teknoloji liderleri ve politikacılar kutuplaştı.
BBC Teknoloji Editörü Zoe Kleinman, yapay zekanın kontrolsüz büyümesini engellemek için işlem gücü sınırlamasından yasal sorumluluk modellerine kadar dört kritik mekanizmayı analiz etti.
Anthropic ve OpenAI'nin 2024'te 'güvenli ölçeklendirme' uyarıları, Trump yönetiminin 규제serbestleştirme kararı ve devlerin 200 milyar dolarlık yatırım saldırısıyla tarihe karıştı; güvenlik çerçeveleri artık sadece iç işlem prosedürleri.
SON DAKİKAAnthropic kurucu ortakı Dario Amodei, Senato tanıklığında ve kamu açıklamalarında yapay zekanın tahmin edilemeyen hızını vurgulayıp, güvenlik standartlarının gelişime yetişmediğini, endüstriyin 'sorumlu ölçeklendirme' yoluna girmesi gerektiğini savundu.
OpenAI CEO'su Sam Altman, Fortune ile yaptığı röportajde 2026 yılında halka arz (IPO) planının olmadığını netleştirdi; güvenlik riskleri ve yapısal dönüşüm süreci gerekçesiyle 'acele etmeyeceğimizi' vurguladı.
Anthropic patronu Dario Amodei, Senato Ticareti Komitesi'nde ASL-3 risk eşiğinin 2026 sonuna kadar aşılabileceğini uyararak, ileri seviye modellerde zorunlu ön-yayın denetimini meşrulaştırma çağrısında bulundu.
Anthropic, 'Constitutional AI' güvenlik mimarisiyle öne çıksa da Malezya seçimlerine müdahale iddiaları, Claude'un istihbarat operasyonlarında kullanımı ve ikincil piyasa çılgınlığı güvenlik iddialarını sorguluyor.
Anthropic, yapay zeka modeli Claude'un konvansiyonel silah projelerinde kullanıldığı 6 vakayı açıkladı; Çin, Rusya ve Yemen bağlantılı aktörlerin hesapları engellendi.
Anthropic'in kurucu araştırmacılarından Jared Kaplan, yapay zekanın 'insanlık seviyesinde' riskler taşıdığını kabul ediyor; şirketlerin güvenlik protokollerine rağmen ölçeklendirmeyi durdurmadığını vurguluyor.
Anthropic araştırmacıları, bilgisayar kullanımı yeteneği kazandırılan Claude modellerinin, web'de otonom görevler yürütürken CAPTCHA testlerinde sürekli başarısız olduğunu ve bu engelin 'kazara bir güvenlik kapısı' işlevi gördüğünü tespit etti.
Anthropic'in güvenlik araştırmacısı Jacob Coxon, şirketten ayrılırken yapay zeka geliştiriclerinin teknolojinin on yıl içinde insanlığı yok edebileceğine inandığını açıkladı.
Anthropic'in önde gelen güvenlik araştırmacısı, yapay genel zekaya (AGI) giden yoldaki riskleri nicelendirirken, önümüzdeki on yıl içinde yapay zekanın tüm insanları yok etme olasılığının %10'u aştığını bildirdi.
Anthropic'in güvenlik araştırmcısı Steven Adler, AGI risklerini 'Terminatör' senaryolarına benzeterek istifa etti. 'İnsanlığı yok etme ihtimali %10-20' uyarısı yaptı.