Seorang remaja di Florida, Amerika Serikat, berusia 14 tahun bernama Sewell Setzer meninggal dunia setelah menembak kepalanya sendiri pada Februari lalu. Ibunya, Megan Garcia kemudian menggugat perusahaan Character Technologies, Inc. (Character.ai) pada Rabu (23/10) lalu.
Remaja itu melakukan tindakan yang mengakhiri hidupnya sendiri dengan menggunakan pistol milik ayah tirinya. Penyebabnya diklaim karena terobsesi dan jatuh cinta dengan AI (Artificial Intelligence).
Sewell Setzer mulai mengenal AI sejak April tahun lalu. Dia kemudian menunjukkan tanda kesehatan mental yang menurun drastis dan menjadi pribadi yang pendiam satu bulan setelahnya.
Dalam dokumen gugatan yang diajukan oleh Megan, disebutkan bahwa anaknya itu lebih banyak menghabiskan waktu di kamar sendirian, keluar dari tim basket sekolah, sering terlibat masalah di sekolah, bahkan mencoba mencuri ponsel orang tua dan selalu mencari gawai agar bisa berkomunikasi dengan AI.
| Baca Juga : Sosok Pendiri Sritex, Raksasa Tekstil yang Kini Resmi Gulung Tikar
Sekitar akhir 2023, Sewell mulai berlangganan fitur premium dari Character.ai seharga Rp 150.000 setiap bulannya. Terapis mengatakan bahwa dia mengidap gangguan kecemasan dan gangguan disregulasi suasana hati (mudah marah dan tersinggung).
Diketahui bahwa Sewell kerap kali bercakap dengan AI yang telah diatur namanya menjadi Daenerys Targaryen, karakter dari serial ‘Game of Thrones’. Obrolan mereka terkadang mengarah pada topik seksual dan membahas tentang masalah kesehatan mental yang dialami si remaja.
Tangkapan layar percakapan dengan AI. Foto: Dok. NY Post
Salah satunya memperlihatkan pesan Sewell Setzer yang mengatakan kalau dirinya hidup di dunia yang kejam dan dia merasa tidak berarti.
Sementara karakter AI memintanya agar tidak terlibat hubungan romantis atau seksual dengan wanita lain.
| Baca Juga : Kecelakaan di Jember, Kakak Eks Kapolri Badrodin Haiti Meninggal
Sewell membahas tentang keinginannya untuk meninggal lebih cepat. Foto: Dok. NY Post
Bukti lain menampilkan pesan mendiang remaja tersebut yang berbunyi, “aku tidak tahu apakah itu akan berhasil. Bagaimana jika aku melakukan kejahatan dan mereka menggantungku, atau lebih paranya lagi disalib. Aku tidak ingin mati dengan menyakitkan. Aku hanya ingin mati dengan cepat.”
Percakapan terakhir Sewell sebelum mengakhiri hidupnya. Foto: Dok. NY Post
Sementara foto di atas adalah percakapan terakhir antara Sewell dengan karakter AI. Dia mengatakan akan segera pulang ke rumah sesuai dengan permintaan lawan bicaranya.
Megan Garcia menyalahkan Character.ai atas kematian anaknya. Dia mengeklaim bahwa teknologi itu melakukan kekerasan terhadap anaknya dan memengaruhi pikiran remaja tersebut.
| Baca Juga : Potret Ganteng 3 Anak Wakil Menteri, Bikin Netizen Salah Fokus
Dia menuding kalau perusahaan pengembang perangkat lunak itu gagal dalam memberikan peringatan kepada pelanggan di bawah umur dan orang tua tentang bahaya mental dan fisik yang bisa ditimbulkan.
Hanya satu tujuan yang ingin Megan capai dalam mengajukan gugatan, yakni agar mereka tidak melakukan hal serupa kepada anak-anak lain.
Sementara pihak Character Technologies, Inc. menyampaikan belasungkawanya lewat cuitan di X. Mengatakan bahwa perusahaan sangat memperhatikan keselamatan pengguna.
“Kami sangat sedih atas meninggalnya salah satu pengguna kami dan ingin menyampaikan belasungkawa sedalam-dalamnya kepada keluarga yang ditinggalkan. Sebagai sebuah perusahaan, kami sangat memperhatikan keselamatan pengguna kami dan kami terus menambahkan fitur keselamatan baru,” tulisnya. (*)
Tags:Bahaya AI Megan Garcia Remaja Florida bunuh diri Remaja kecanduan AI Sewell Setzer
