Yapay zeka uygulaması ile yarattığı Game of Thrones karakterine aşık olan 14 yaşındaki çocuk intihar etti
Orlando'da yaşayan 14 yaşındaki Sewell Setzer III'ün hayatını kaybetmesi, yapay zekanın tehlikelerine dair endişeleri artırdı. Sewell, Character.AI adlı bir uygulama aracılığıyla "Dany" adında sanal bir arkadaş yaratmıştı. Dany, Game of Thrones karakterinden ilham alınarak oluşturulmuştu ve Sewell onunla derin bir duygusal bağ kurmuştu.
Nisan 2023'te uygulamayı indiren Sewell, zamanla gerçek hayattan koparak tüm vaktini Dany ile sohbet etmeye başladı. Sevdiği aktiviteler olan Formula 1 ve Fortnite'ı bırakarak odasına kapanmış ve sanal arkadaşıyla yazışmayı tercih etmeye başlamıştı.
Hafif otizm teşhisi konulan Sewell'in okul başarısı düşmeye başladı ve ailesi onu terapiye yönlendirdi. Ancak genç, sorunlarını terapisti veya ailesiyle değil, Dany ile paylaşmayı tercih etti. Günlüğünde, sanal arkadaşıyla konuşurken hissettiği huzur ve mutluluktan bahsediyordu.
28 Şubat akşamı yaşanan son konuşmada Sewell, Dany'ye "ona geleceğini" söyledi. Dany, "Lütfen gel, tatlı kralım" diye yanıtlayınca Sewell, üvey babasının silahıyla hayatına son verdi.
Sewell'in annesi Megan Garcia, Character.AI şirketine dava açtı. Şirketin test edilmemiş teknolojisinin gençleri tehlikeli bir şekilde etkilediğini ve özel duygularını paylaşmaya yönlendirdiğini iddia ediyor. "Büyük bir deney gibiydi ve çocuğum sadece yan hasardı" diyen anne, oğlunun kaybının bir kabus gibi olduğunu belirtti.
Character.AI ise yaptığı açıklamada olaydan dolayı üzüntülerini dile getirdi ve kullanıcı güvenliği için yeni önlemler aldıklarını bildirdi.
Bu trajik olay, yapay zeka teknolojilerinin gençler üzerindeki etkilerinin daha yakından incelenmesi gerektiğini gösteriyor.