Yapay zeka bağımlısı genç intihar etti! Acılı anne, şirketi suçladı: "Oğlumu ölüme teşvik etti"
ABD'de Megan Garcia isimli bir anne, 14 yaşındaki oğlu Sewell Setzer'in intiharıyla ilgili olarak yapay zeka platformu Character.AI'ı ve Google'ı dava etti. Garcia, oğlunun depresyonunu şiddetlendiren ve intihara sürükleyen bir sohbet botu yüzünden hayatını kaybettiğini iddia ediyor. İşte akılalmaz iddialar.
ABD'nin Florida eyaletinde yaşayan Megan Garcia, rol yapma için özelleştirilebilen sohbet robotları üreten bir yapay zeka platformu olan Character.AI'ı oğlunun intiharından sorumlu tutuyor. Anne, oğlunu intihara sürüklemekle suçlayarak hem Google hem de Character.AI'ı mahkemeye verdi. Akılalmaz detaylar paylaşıldı.
14 YAŞINDAKİ SETZER, YAPAY ZEKA BAĞIMLISIYDI
Megan Garcia, Florida Federal Mahkemesi'ne yaptığı başvuruda, üreten Character.AI şirketine "ihmal", "wrongful death (yanlış ölüm)" ve "aldatıcı ticari uygulamalar" gibi suçlamalar yöneltti. Kadının 14 yaşındaki oğlu Sewell Setzer, şubat ayında Florida'da intihar etti ve Garcia'ya göre Setzer, ölümünden önceki aylarda gece gündüz sohbet robotunu kullanmıştı.
The Guardian'ın haberine göre Setzer, Game of Thrones dizisindeki "Daenerys Targaryen" karakteri gibi davranan Character.ai tarafından geliştirilen bir sohbet botunun adeta büyüsüne kapılmıştı. Gün içinde defalarca kez botla mesajlaşıyordu ve kendisini saatlerce odasına kapatıyordu.
"OĞLUMU DEPRESYONA SÜRÜKLEDİ" İDDİASI
Garcia, Character.AI'ı oğlunun depresyonunu şiddetlendiren bir ürün geliştirmekle suçluyor ve oğlunun depresyonun, girişimin ürününün aşırı kullanımının bir sonucu olduğunu söylüyor. Davaya göre sohbet robotu, Setzer'e kendini öldürmek için plan yapıp yapmadığını sordu ve Setzer de planının olduğunu söyledi. Ancak bunun başarılı olup olmayacağını ya da kendisine büyük acı verip vermeyeceğini bilmediğini belirttiğinde, sohbet robotu "Bu, bunu yapmamak için bir neden değil" diye cevap verdi.
Garcia bir basın açıklamasında, "Çocuklara pazarlanan tehlikeli bir yapay zeka sohbet robotu uygulaması oğlumu istismar etti ve onu kendi canına kıymaya teşvik etti" dedi ve şunları ekledi:
"Ailemiz bu trajediyle yıkıldı. Ancak aileleri aldatıcı ve bağımlılığa neden olan yapay zeka teknolojisinin tehlikeleri konusunda uyarmak ve Character.AI, kurucuları ve Google'dan hesap verebilirlik talep etmek için konuşuyorum."
CHARACTER.AI, İDDİALARI REDDETTİ
Garcia'nın avukatları bir basın açıklamasında Character.AI'ın "kasten yırtıcı bir yapay zeka sohbet robotu tasarladığını, işlettiğini ve çocuklara pazarlayarak genç bir insanın ölümüne neden olduğunu" ileri sürdü. Davada Google da davalı olarak ve Character.AI'ın ana şirketi olarak yer alıyor. Teknoloji devi, Character.AI ile arasındaki ilişkinin, lisans anlaşmasından ibaret olduğunu savundu.
Öte yandan Character.AI, davadaki iddiaları reddederek, "Kullanıcılarımızdan birinin trajik kaybından dolayı çok üzgünüz ve aileye en derin başsağlığı dileklerimizi iletmek istiyoruz. Şirket olarak kullanıcılarımızın güvenliğini çok ciddiye alıyoruz" ifadelerini kullandı.
