Anthropic: Yapay zeka ile biyolojik silah yapımı denemeleri sistemler tarafından engellendi

Anthropic, dün yayımladığı "Sorumlu Ölçeklendirme Politikası" (Responsible Scaling Policy) güncellemesi kapsamında, yapay zeka modellerinin biyolojik silah geliştirme amacıyla kötüye kullanımına yönelik beş farklı girişimin güvenlik sistemleri tarafından tespit edilip engellendiğini açıkladı. Raporda, bu girişimlerin laboratuvar protokollerinin otomatikleştirilmesi ve belirli patojenlerin sentes yollarını bulma odaklı olduğu belirtildi.

Risk henüz "ASL-3" eşiğini geçmedi

Şirket yetkilileri, modellerin mevcut yeteneklerinin biyolojik silah üretimi için "uzman yardımı olmadan" yeterli olmadığını, ancak ileri düzey biyolojik bilgi erişiminin ve prosedürlerin otomatikleştirilmesinin belirgin arttığını kaydetti. Bu durum, Anthropic'in tanımlamasıyla "ASL-3" (Yetenekli Kullanım Güvenliği) risk eşiğine yaklaşıldığının, ancak henüz bu eşiğin tam olarak aşıldığının işareti olarak değerlendiriliyor.

Kırmızı takım testleri genişletildi

Anthropic, bu tespitlerin "kırmızı takım" (red teaming) testleri ve otomatik izleme sistemleri sonucunda elde edildiğini belirterek, bulguların ABD Ulusal Güvenlik Konseyi (NSC) ve ilgili federal kurumlarla paylaşıldığını onayladı. Şirket, gelecekteki modellerde (Claude 4 serisi dahil) bu risk vektörlerine karşı korumaların daha da sertleştirileceğini ve sürekli izlemenin sürdüreceğini vurguladı.