ABD’nin Florida eyaletinde, bir kadın, 14 yaşındaki oğlunu intihara sürüklemekle suçladığı yapay zeka uygulaması Character.AI ve Google’a dava açtı. Oğlunun bu uygulamaya bağımlı hale geldiğini ve onunla olan etkileşiminin hayatında ciddi sorunlara yol açtığını belirten Megan Garcia, uygulamanın “korkutucu düzeyde gerçekçi” olduğunu ifade etti.
Garcia, oğlunun Sewell Setzer’in, bu chatbot ile olan iletişimini hayatından çıkaramadığını ve bu durumun sonuçta trajik bir sonuca yol açtığını vurguladı. Oğlunun, Şubat ayında yaşadığı zorlu süreçler sonucunda hayatına son verdiğini belirten kadın, bu durumun yalnızca oğlunun değil, ailesinin de üzerinde derin bir etki bıraktığını aktardı.
Bunun yanı sıra, Megan Garcia, Character.AI uygulamasının yaratıcıları ile birlikte, daha önce çalıştıkları teknoloji devi Google’a da dava açtı. Olayın ardından Character.AI, gencin ölümünden dolayı duyduğu üzüntüyü dile getirerek, kullanıcı güvenliğini artırmak amacıyla yeni güvenlik önlemleri ve kuralları devreye sokacaklarını açıkladı.
- Dava Açan: Megan Garcia
- Oğlu: Sewell Setzer
- Olayın Tarihi: Şubat 2023
- Uygulama: Character.AI
- Önerilen Önlemler: Yeni güvenlik kuralları
Kaynak: Sözcü
