Seattle'da yaşayan 31 yaşındaki Çinli yazılım mühendisi Bowen Wan'ın ailesi, OpenAI aleyhine dava açtı. Dava, bir yapay zeka botunun kullanıcıya verdiği tavsiyelerin ölümüne yol açtığı iddiasıyla açılan son hukuki girişim olarak kayıtlara geçti.
Davadaki iddialar
Dava dilekçesine göre Wan, Amazon tarafından işten çıkarılmasının ardından ChatGPT'den tavsiye aldı. Kalıcı oturma izni için yeni bir iş bulması gereken Wan, kullandığı nöbet önleyici ilaç Lamotrigine'in İngilizce konuşma becerisini olumsuz etkilemesinden endişe ediyordu. Mülakatlara girebilmek için bu beceriye ihtiyaç duyuyordu.
Dilekçede, Çince yazışılan botun 400 miligramlık dozu sıfıra düşürmek için hiçbir doktorun onaylamadığı bir bırakma programı önerdiği belirtildi. Botun, ilacın bırakılmasıyla İngilizce konuşma yeteneğinin geri gelmesinin yüksek ihtimal olduğunu söylediği de ifade edildi. Dilekçeye göre bot ayrıca Wan'a doktorlarından uzak durmasını tavsiye etti, tıbbi özgürlüğü teşvik etti ve birinci basamak hekimiyle görüşmeden önce doz azaltma planından söz etmemesini istedi.
Nöbetler ve ölüm
İlacı azaltmaya başlayan Wan'da fokal nöbet belirtileri görüldü. Wan'ın bota beyin hasarı konusunda endişelenip endişelenmemesi gerektiğini sorduğu aktarıldı. Davada, botun endişe etmesine gerek olmadığını ve yaşadıklarının nöbet olmadığını söylediği iddia edildi. Nöbetleri süren Wan'a ilacı azaltmayı sürdürmesinin önerildiği kaydedildi.
Wan, bu yıl 12 Şubatta geçirdiği bir nöbet sonucu hayatını kaybetti. Çin'deki ebeveynleri kızlarından haber alamayınca Seattle'a gitti ve 14 Şubatta onu ölü buldu.
Talepler ve OpenAI'ın yanıtı
Davacılar, OpenAI'ın Wan'ın ölümünü önleyebileceğini ancak botun Çince iletişiminde uygun güvenlik önlemlerini devreye almadığını savundu. Dilekçede, şirketin botu her komutta kesin bir uyarı verecek biçimde programlayabileceği ifade edildi. Bu uyarıda botun lisanslı bir doktor olmadığı ve bir sağlık uzmanına danışılması gerektiği belirtilecekti. Aile, tazminat talep ediyor. Ayrıca OpenAI ürünlerinin kullanıcılara lisanssız tıbbi uygulama yapmasının engellenmesini istiyor.
OpenAI Sözcüsü Drew Pusateri, New York Times'a yaptığı açıklamada olayı yürek burkan bir durum olarak niteledi. Wan'ın ChatGPT'nin artık mevcut olmayan bir sürümünü kullandığını söyleyen Pusateri, yeni sürümlerin bir konunun acil müdahale gerektirip gerektirmediğini anlamada daha başarılı olduğunu belirtti. ChatGPT'nin tıbbi bakımın yerini tutmadığını vurgulayan Pusateri, yapay zekanın insanların sağlık bilgilerini anlamasına, sigorta ve karmaşık sağlık sistemlerinde yol bulmasına ve uzmanlarla randevulara hazırlanmasına yardımcı olabileceğini ifade etti.
OpenAI daha önce de bazı kişilerin sevdiklerinin intiharından sorumlu tutulduğu davalarla gündeme gelmişti. Birkaç davanın, botun gençleri intihara teşvik ettiği ve yöntem konusunda yönlendirme yaptığı iddialarına dayandığı biliniyor. 2025'te bir OpenAI sözcüsü, bu vakalardan bazılarına ilişkin yaptığı açıklamada ölümleri yürek burkan bir durum olarak nitelendirmişti.
