Yapay zeka uydurduğu tanıkları avukatına 5 bin dolar ceza
New Mexico Yüksek Mahkemesi, cinayet davasında temyiz dilekçesine yapay zekanın uydurduğu tanıkları ekleyen avukat Stephen Aarons'u haksızlıkla yargılanma ve 5 bin dolar para cezasıyla cezalandırdı.
New Mexico Yüksek Mahkemesi, bir cinayet davasının temyiz aşamasında yapay zeka tarafından üretilen ve gerçek olmayan tanık ifadelerini içeren bir dilekçe sunan avukat Stephen Aarons'u "mahkemeyi aldatma" ve "yargı sürecini manipüle etme" suçlamalarıyla 5 bin dolar para cezası ve haksızlıkla yargılanma kararıyla cezalandırdı.
Reuters'in verdiği habere göre, Aarons müvekkilinin cinayet hükmünü temyiz ederken yapay zeka aracılığıyla hazırladığı dilekçeye, hiç var olmayan tanıkların ifadelerini ve sanığın kıyafetleriyle ilgili sahte detayları eklemişti. Mahkeme, dilekçenin "tamamen uydurulmuş tanık ifadeleri" ve "sahte tanıklıklar" içerdiğini, bu durumun yargı sürecinin bütünüyle oynanması anlamına geldiğini kaydetti.
Hakim: "Riskler biliniyor muydu?"
Başkadın C. Shannon Bacon, Ağustos ayında yapılan dinlemede Aarons'dan, yapay zekanın hukuki yazımda yarattığı risklerden haberdar olup olmadığını sorgulamıştı. Mahkeme, avukatın "yapay zeka ile üretilen dilekçedeki faktüel iddiaları ve hukuki dayanakları doğrulamakla yükümlü olduğunu" ancak bunu ihmal ettiğini belirterek, bu davranışın "mesleki sorumlulukların ciddi bir ihlali" olduğunu vurguladı.
Hukuk dünyasında yapay zeka tartışmaları yenilendi
Karar, ABD hukuk çevrelerinde yapay zekanın dava yazıları ve yargıç kararı taslakları hazırlamada kullanılması konusundaki endişeleri yeniden gündeme getirdi. Geçen yıl New York'ta bir avukat, ChatGPT'nin uydurduğu mahkeme kararlarını bir dilekçeye ekleyerek benzer bir ceza almıştı. Uzmanlar, yapay zeka araçlarının "halüsinasyon" (bilgi uydurma) riskinin, hukuki sorumluluk zincirini kırdığı ve mahkemelerin güvenini zedelediği konusunda uyarıda bulunuyor.
New Mexico Yüksek Mahkemesi'nin bu kararı, yapay zeka destekli hukuki yazımda "insan denetimi" şartını yeniden vurgulayan ve avukatların teknolojiyi kullanma özgürlüğünün, doğrulama yükümlülüğüyle sınırlı olduğunu gösteren önemli bir ön oluşturuyor.
HaberGo Editor ve Muhabır ekibi