Meta'nın Muse AI, Marketplace satıcının ev adresini alıcıya sızdırdı: Güvenlik açığı tespit edildi

Meta'nın yeni nesil yapay zeka asistanı Muse, Facebook Marketplace üzerinden yapılan bir satış sürecinde satıcının ev adresini müşteriye aktaran ciddi bir sistem hatası yapmış oldu. Olay, yapay zeka araçlarının kişisel verileri işlerken ne kadar riskli olabileceğini bir kez daha gözler önüne serdi.

Asistan özel mesaja adresi ekledi

ABD merkezli teknoloji gazetecisi Chris Welch, deneyimini paylaşarak olayı gündeme getirdi. Welch, Marketplace'te sattığı bir eşya için Muse asistanını kullanarak alıcıyla iletişime geçmeye çalışırken, asistanın otomatik oluşturduğu yanıtın içinde kendi ev adresinin yer aldığını fark etti. Asistan, satıcıdan hiçbir zaman adres paylaşma isteği almamış, sistem kendi başına bu hassas veriyi sohbet geçmişine eklemişti.

Alıcı kapıya dayandı

Durumun ciddiyeti, alıcının bu adresi kullanarak Welch'in evinin önüne gelmesiyle arttı. Welch, "Yapay zeka bir halüsinasyonda değil, sistemimde kayıtlı doğru adresi paylaştı" ifadeleriyle, bu durumun basit bir hata değil, temel bir güvenlik açığı olduğunu vurguladı. Olay, yapay zeka ajanlarının (agent) kullanıcı verilerine erişimi ve bu verileri dışarıya aktarma yetkisi konusunda ciddi endişeler yarattı.

Meta: "Hata düzeltildi"

Meta yetkilileri, olayı incelediklerini ve Muse'ın Marketplace entegrasyonundaki hatanın giderildiğini belirten bir bildirimde bulundu. Şirket, asistanın kullanıcı izinleri dışında hassas konum verilerini paylaşmaması için ek koruma katmanları eklediğini açıkladı. Ancak uzmanlar, bu tip "ajan tabanlı" yapay zeka sistemlerin piyasaya sürülmeden önce daha katı "kırmızı hat" testlerinden geçirilmesi gerektiğini savunuyor.