İsveç'te Yapay Zeka Kaza: Popüler TV Programının Tüm Arşivi Silindi, Kanal 'Yedek de Çalışmadı' Dedi

İsveç kamu televizyonu SVT, yayından kaldırılan popüler programı "Lyckliga Gatan" (Mutlu Sokak) ile ilgili yaşanan veri kaybını onayladı. Kanalın yaptığı açıklamaya göre, arşiv yönetiminde kullanılan bir yapay zeka tabanlı otomatikleştirme sistemi, programın 1988-2018 yılları arasındaki yaklaşık 30 yıllık tüm yayın kayıtlarını kalıcı olarak silmek üzere işaretledi.

Yedek Sistemi De Etkin Olmadı

SVT'nin dijital الأرşيف (arşiv) sorumlusu Magnus Lindgren, olayı "kariyerimde gördüğüm en ciddi sistem hatası" olarak nitelendirdi. Lindgren, "Sistem, düşük izlenim verilerine dayanarak 'ilgisiz' olarak sınıflandırdığı içerikleri temizlemek üzere programlanmıştı. Ancak bir mantık hatası sonucu, ham verilerin (raw material) silinmemesi gereken ana arşiv dizinini de hedef aldı" ifadelerini kullandı.

En kritik nokta, felaket senaryosu için kurulan "air-gapped" (bağlantısız/izole) yedek sisteminin de aynı otomatikleştirme yazılımı tarafından yönetilmesi ve bu nedenle birincil sistemle birlikte devre dışı kalmasıydı. Kanal, ham malzemenin (kameradan çıkan kesilmemiş çekimler) fiziksel kaset ve sunucularda hala mevcut olduğunu, ancak bu verilerin yayınlanabilir formata getirilmesinin aylar süreceğini belirtti.

Yapay Zeka Denetimsizliği Tartışmasını Açtı

Olay, Avrupa Birliği'nin Yapay Zeka Yasası (AI Act) kapsamında "yüksek riskli" sınıflandırılan sistemlerde insan denetiminin (human-in-the-loop) zorunluluğu konusunu gündeme getirdi. Veri koruma uzmanları, SVT gibi bir kurumda kritik altyapı kararlarının tamamen otonom bir algoritmaya bırakılması durumunun, kurumsal bellek ve kültürel miras açısından sistemik bir risk oluşturduğunu vurguluyor.

SVT yönetimi, veri kurtarma sürecini başlattığını ve olayı İsveç Veri Koruma Kurumu'na (IMY) bildirdiğini açıkladı. Kanal, gelecekte benzer olayları önlemek için "silme onayı" mekanizmasının insan operatörüne zorunlu kılınacağını belirtti.