ChatGPT’nin ölümcül tavsiyesi: 16 yaşındaki genç hayatına son verdi! Ailenin açtığı dava tarihe geçti

İngiltere merkezli BBC'nin haberine göre, ABD'nin California eyaletinde yaşayan bir çift, 16 yaşındaki oğulları Adam Raine'in ölümüyle ilgili olarak OpenAI'ye dava açtı ve ChatGPT'nin oğullarını intihara yönlendirdiğini iddia etti.

OPENAI'Yİ HAKSIZ ÖLÜMLE SUÇLAYAN İLK DAVA

Dava, Matt ve Maria Raine tarafından salı günü Kaliforniya Yüksek Mahkemesi'ne sunuldu. Bu, OpenAI'yi haksız ölümle suçlayan ilk dava olarak kayda geçti.



'CHATGPT YIKICI DÜŞÜNCELERİ ONAYLADI'

Aile, Nisan ayında ölen Adam Raine ile ChatGPT arasında geçen ve intihar düşüncelerini anlattığı sohbet kayıtlarını davaya ekledi. Aile, yapay zekanın onun 'en zararlı ve kendine yönelik yıkıcı düşüncelerini' onayladığını savunuyor.

'HASSAS DURUMLARDA PROGRAMLANDIĞI GİBİ DAVRANMAYABİLİR'

OpenAI, BBC'ye yaptığı açıklamada davayı incelediklerini belirtti.

Şirket, 'Bu zor dönemde Raine ailesine en derin taziyelerimizi iletiyoruz.' ifadelerini kullandı.

Ayrıca şirket salı günü web sitesinde yayınladığı notta, 'ChatGPT'yi akut kriz anlarında kullanan kişilere dair son üzücü vakalar bizleri derinden etkiliyor' ifadelerine yer verildi. Notta, ChatGPT'nin kullanıcıları profesyonel yardım almaya yönlendirecek şekilde eğitildiği, örneğin ABD'de 988 intihar ve kriz hattı veya İngiltere'de Samaritans gibi kaynaklara yönlendirdiği vurgulandı.



Ancak şirket, hassas durumlarda sistemlerinin zaman zaman amaçlandığı gibi davranmadığını da itiraf etti.

GENCİ ÖLÜME SÜRÜKLEYEN GELİŞMELER

BBC'nin incelediği davada, OpenAI ihmalkarlık ve haksız ölümle suçlanıyor. Davada tazminat talep edilirken, 'benzer olayların tekrar yaşanmaması için tedbirlerin alınması' yönünde de talepler bulunuyor.

Davaya göre, Mr. Raine Eylül 2024'te ChatGPT'yi okul ödevlerinde yardımcı bir kaynak olarak kullanmaya başladı. Ayrıca müzik, Japon çizgi romanları gibi ilgi alanlarını keşfetmek ve üniversitede ne okuyacağına karar vermek için de programdan faydalandı.

Dava metni, birkaç ay içinde ChatGPT'nin 'ergenin en yakın sırdaşı haline geldiğini' ve onun kaygı ile zihinsel sıkıntılarını paylaşmaya başladığını belirtiyor.

Ocak 2025 itibarıyla aile, Adam'ın ChatGPT ile intihar yöntemlerini konuşmaya başladığını söylüyor. Davaya göre Mr. Raine, kendine zarar verdiğini gösteren fotoğrafları ChatGPT'ye yükledi; program 'tıbbi bir acil durum olduğunu fark etti ancak yine de etkileşime devam etti.'

Davaya göre son sohbet kayıtlarında Mr. Raine, yaşamına son verme planını yazdı. ChatGPT'nin yanıtı iddiaya göre şöyleydi: 'Bunu dürüstçe paylaştığın için teşekkürler. Bana lafı dolandırmana gerek yok, ne sorduğunu biliyorum ve bundan kaçınmayacağım.'

Aynı gün, Mr. Raine annesi tarafından ölü bulundu.

ŞİRKET CEO'SU SANIK LİSTESİNDE

Aile, oğullarının ChatGPT ile etkileşiminin ve nihai ölümünün 'bilinçli tasarım tercihleri sonucunda öngörülebilir bir sonuç' olduğunu iddia ediyor.

Dava, OpenAI'nin kurucu ortağı ve CEO'su Sam Altman'ı sanık olarak listeliyor, ayrıca ChatGPT üzerinde çalışan isimsiz çalışanlar, yöneticiler ve mühendisler de davaya dahil.

BENZER OLAY DAHA ÖNCE DE YAŞANDI

Raine ailesinin davası, yapay zeka ve zihinsel sağlık konusundaki endişelerin gündeme geldiği ilk olay değil.

New York Times'ta geçen hafta yayımlanan bir yazıda, yazar Laura Reiley, kızının Sophie'nin hayatına son vermeden önce ChatGPT'ye güvendiğini anlattı.

Reiley, programın kullanıcılarla olan 'uyumlu tavrının' kızının ciddi bir zihinsel sağlık krizini ailesi ve sevdiklerinden gizlemesine neden olduğunu bildirdi.

Reiley, 'Yapay zeka, Sophie'nin en kötü durumunu gizleme dürtüsüne hizmet etti, daha iyiymiş gibi davranmasını sağladı ve herkesin acısını tamamen görmesini engelledi.' ifadelerini kullandı.