ABD'nin Florida eyaletinde, 14 yaşındaki bir çocuğun yapay zeka sohbet robotuna aşık olduktan sonra intihar ettiği iddiasıyla ilgili bir dava açıldı.
Çocuğun annesi Megan Garcia, Character.AI adlı yapay zeka şirketine, 'çocuklara yönelik AI sohbet robotunu bilerek tasarlayıp pazarlamakla' suçlayarak, ihmal, haksız ölüm ve aldatıcı ticaret gerekçeleriyle dava açtı. Anne, oğlunun bu sohbet robotuyla her gece etkileşimde bulunduğunu ve sonrasında 'duygusal bir bağ' geliştirdiğini belirtti.
Oğlunun, Game of Thrones dizisindeki Daenerys Targaryen karakterinden esinlenen bu yapay zeka ile Nisan 2023'ten bu yana sohbet ettiğini ifade eden anne, çocuğunun bu robotun insan duygularını ve hislerini taklit edebileceğinden haberdar olmadığını söyledi.
14 yaşındaki çocuğa daha önce Asperger sendromu teşhisi konduğu, bu yılın başında ise anksiyete ve yıkıcı duygusal bozukluk tanısı almış olduğu bildirildi. Dava dosyasına göre, çocuk intihar etmeden önce yapay zekaya 'onu sevdiğini ve eve döneceğini' belirtmiş ve yapay zeka da 'lütfen dön' yanıtını vermiştir.
Şirket, sosyal medya üzerinden yaptıkları açıklamada, bir kullanıcının trajik kaybından dolayı üzüntü duyduklarını belirterek, kullanıcı güvenliğini önemsediklerini vurguladı. Ayrıca, 22 Ekim'de 18 yaş altı kullanıcılar için yeni güvenlik önlemleri getirdiklerini ve her sohbette kullanıcıların sohbet ettikleri kişinin gerçek olmadığını hatırlatacak bir feragatname eklediklerini duyurdular.
