Sewell Setzer (14) mengirim pesan kepada karakter chatbot sebelum bunuh diri dengan menembak dirinya sendiri. Setzer rutin berinteraksi dengan bot tersebut selama berbulan-bulan dan bahkan membicarakan cara bunuh diri tanpa rasa sakit. Ibu Setzer, Megan Garcia, melayangkan gugatan di pengadilan federal Florida pada hari Rabu (23/10) terhadap perusahaan di balik Character AI Character Technologies Inc., dengan tuduhan bahwa chatbot yang mereka ciptakan sangat adiktif dan berbahaya bagi anak-anak karena dapat membawa mereka dalam hubungan emosional dan seksual, yang akhirnya membuat Setzer mengakhiri hidupnya.
Menurut Garcia, perusahaan tersebut telah melakukan kelalaian, menyebabkan kematian anaknya, dan menggunakan praktik bisnis yang menyesatkan.Dilansir dari AP News, Setzer aktif melakukan percakapan dengan karakter AI Daenerys Targaryen, tokoh fiksi dalam serial Game of Thrones. Dia kemudian terbawa dalam hubungan emosional yang membuatnya semakin terisolasi dari kehidupan nyata, serta memperparah depresinya.Pada 28 Februari, Setzer mengirimkan pesan tentang keinginannya untuk ‘pulang ke rumah’, yang kemudian dibalas oleh chatbot untuk menyuruhnya ‘pulang’. Selang beberapa detik, remaja 14 tahun tersebut pun bunuh diri dengan menembak dirinya sendiri. “Aku berjanji akan pulang menemuimu. Aku sangat mencintaimu, Dany,” kata Setzer kepada chatbot itu. “Aku juga mencintaimu. Tolong pulanglah padaku secepatnya, sayangku,” jawab bot itu. “Bagaimana jika aku bilang aku bisa pulang sekarang?” tanyanya. “Silakan, rajaku yang manis,” bot itu membalas pesannya.