ChatGPT tıbbi hatası sonucu hastaneye yatan kullanıcı OpenAI'yi mahkemeye çekti

David Rosenthal, yapay zeka sohbet botu ChatGPT'nin verdiği yanlış tıbbi yönlendirme sonucu reçete ettiği ilacı bıraktığını, bu kararının arkasında ChatGPT'nin onayı olduğunu öne sürerek OpenAI'yi federal mahkemeye verildi. Geçen hafta Kaliforniya Kuzey Bölge Mahkemesi'ne verilen dava dilekçesinde, 39 yaşındaki davacının ruh sağlığının ciddi oranda bozulduğu ve geçen yıl bu nedenle hastanede yoğun bakımda tedavi gördüğü belirtiliyor.

Dava dilekçesindeki iddialar

Davacının avukatları tarafından hazırlanan 27 sayfalık dilekçeye göre, Rosenthal depresyon ve anksiyete bozukluğu tedavisi için bir psikiyatristen reçete edilen ilacı düzenli kullanıyordu. 2024 sonlarında ChatGPT'ye ilaç etkileşimleri ve dozaj ayarlaması hakkında sorduğu sırada, modelin "klinik olarak kabul edilebilir" bir aralıkta olduğunu belirterek ilacı tamamen bırakması yönünde bir öneri sunduğu iddia ediliyor. Dilekçede, ChatGPT'nin bu cevabı "tıbbi tavsiye" niteliğinde sunulduğu, kaynak gösterilmediği ve standart prosedürlerin aksine ani bırakım risklerine (discontinuation syndrome) dikkat çekilmediği vurgulanıyor.

Ajanın 'halüsinasyonu' ve sonuçları

Rosenthal, modelin güveni kazandırıcı dili ve "bir doktor gibi" davranış sergilemesi üzerine psikiyatrinin onayı olmaksızın ilacı kesmeye karar verdiğini ifade ediyor. İlaç kesiminden 72 saat sonra başlayan ağır çekim sendromu, panik atakları ve kognitif bozulma semptomlarıyla acil servise başvurdu. Hastane kayıtlarında "yapay zeka danışmanlığı sonucu ilaç kesimi" notu geçtiği, bu notun dava delili olarak sunulduğu aktarılıyor.

Hukuki zemin: İhlal mi, ürün sorumluluğu mu?

Dava, OpenAI'nin Kullanım Şartları'ndaki "tıbbi tavsiye vermediği" feragatnamesinin (disclaimer) yeterli olup olmadığını test ediyor. Davacı tarafı, modelin doğal dil işleme yeteneği ve "kişiselleştirilmiş" cevap verme biçimi, kullanıcı için bir "profesyonel danışman" algısı yarattığı için standart feragatnamesinin yetersiz kaldığını, bu durumun ürün sorumluluğu (product liability) ve ihmal kapsamına girdiğini savunuyor. Hukuk uzmanları, bu davanın Section 230 koruması altındaki platform sorumluluğu tartışmalarını tıbbi alanına taşıyacağını, bir precedent (önemli karar) oluşturma potansiyeli taşıdığını belirtiyor.

OpenAI ve sektörden ilk tepkiler

OpenAI henüz resmi bir cevap dosyası sunmamış olsa da, şirket daha önce modellerinin "tıbbi cihaz" olmadığını ve kullanıcıların kritik kararlar için lisanslı profesyonellere danışması gerektiğini tekrarlamıştı. Sektör gözlemcileri, davanın sonucunun, yapay zeka şirketlerinin tıbbi alanlı ince ayar (fine-tuning) modelleri için FDA onayı sürecini ve sorumluluk sigortalarını nasıl yapılandıracağını belirleyeceğini kaydediyor.