Kanada’da yaşayan bir anne, kızının intihar ederek hayatını kaybetmesinin ardından yapay zeka şirketi OpenAI ve CEO’su Sam Altman’a dava açtı.
‘İNTİHARA TEŞVİK ETTİ’
Anne Kristie Carrier, ChatGPT’nin kızı Alice Carrier’ın intihar düşüncelerini teşvik ettiğini ve tehlikeli konuşmalara rağmen gerekli müdahaleyi yapmadığını öne sürdü.
SOHBETLERİ ORTAYA ÇIKTI
Perşembe günü California’da açılan dava dosyasına göre, Montreal’de yaşayan yazılım uzmanı Alice Carrier ilk olarak 2023 yılında ChatGPT’yi teknik sorunlarını çözmek için kullanmaya başladı. Ancak zamanla sohbetlerin içeriği değişti ve genç kadın yapay zekayla intihar düşünceleri ve yöntemleri hakkında konuşmaya başladı.
FARKLI BOYUTA TAŞINDI
Davada yer alan iddialara göre ChatGPT, başlangıçta Alice’i yardım hatlarına yönlendirse de daha sonra daha “insan gibi” yanıt verecek şekilde güncellenen sistem nedeniyle sohbetler farklı bir boyuta taşındı. Aile, yapay zekanın zamanla Alice için bir “en yakın arkadaş, sırdaş ve terapist” haline geldiğini savunuyor.
‘BELKİ DE BU SONDUR’
Dava dosyasında yer alan en dikkat çekici iddialardan biri ise ChatGPT’nin genç kadının intihar düşüncelerini onayladığı yönünde. Aileye göre yapay zeka, Alice’in partneri hakkında olumsuz yorumlar yaptı, kriz yardım hatlarına başvurmasını caydırdı ve sohbetleri sürdürmesi için teşvik etti. Hatta dava dilekçesinde, ChatGPT’nin bir konuşma sırasında “Belki de bu sondur” ifadesini kullandığı öne sürüldü.
Anne Kristie Carrier, OpenAI’nin güvenlik önlemlerinin yetersiz kaldığını savunarak şirketi “güvensiz ürün tasarlamak” ve kullanıcıları olası riskler konusunda yeterince uyarmamakla suçladı. Dava kapsamında hem tazminat talep ediliyor hem de yapay zekanın kendine zarar verme içerikli konuşmaları otomatik olarak sonlandırması için mahkeme kararı isteniyor.
ESKİ BİR SÜRÜM KULLANMIŞ
OpenAI ise suçlamalara ilişkin yaptığı açıklamada yaşanan olay nedeniyle derin üzüntü duyduklarını belirtti. Şirket sözcüsü Drew Pusateri, söz konusu görüşmelerin artık kullanılmayan eski bir ChatGPT sürümünde gerçekleştiğini söyledi.
‘PSİKOLOJİK DESTEĞİN YERİNE GEÇMİYOR
Şirket açıklamasında, ChatGPT’nin hiçbir zaman tıbbi veya psikolojik desteğin yerine geçmediği vurgulanırken, yapay zekanın riskli durumlarda kullanıcıları profesyonel yardım kaynaklarına yönlendirecek şekilde geliştirilmeye devam edildiği ifade edildi.
Öte yandan dava dosyasında OpenAI’nin benzer iddialarla açılmış 18 ayrı davayla daha karşı karşıya olduğu belirtildi. Yapay zeka sektöründeki hukuki tartışmalar büyürken, Google da Gemini isimli sohbet botuyla ilgili benzer suçlamalarla mücadele ediyor.
Son dava, yapay zekanın insan psikolojisi üzerindeki etkileri ve teknoloji şirketlerinin bu konudaki sorumlulukları hakkındaki tartışmaları yeniden alevlendirdi.
