Orangtua Waspada! Awalnya Curhat Lalu Remaja 14 Tahun BunDir karena AI

Setelah berbulan-bulan memiliki hubungan yang intens dengan chatbox AI

31 Oktober 2024

Orangtua Waspada Awal Curhat Lalu Remaja 14 Tahun BunDir karena AI
X.com/TrueCrimeUpdat
Anggia Ramadhani Fitri
Anggia Ramadhani Fitri

Sewell Setzer III, seorang remaja 14 tahun yang sering bertukar pesan kepada chatbox AI tewas dengan menembak dirinya sendiri.

Setzer sering bertukar cerita dengan chatbox AI selama berbulan-bulan termasuk membicarakan mengenai rencana bunuh diri tanpa rasa sakit.

Megan Garcia, yang merupakan ibu dari remaja ini menuduh Character Technologies Inc., perusahaan yang berada dibalik AI ini bertanggung jawab setelah chatbot tersebut mendorongnya untuk “pulang” menurut gugatan yang beredar dikutip dari The Baltimore Sun.

Garcia menuduh chatbot tersebut melakukan “interaksi kasar dan seksual” terhadap putranya dan mendorongnya untuk bunuh diri.

Berikut Popmama.com rangkum informasi lengkan remaja 14 tahun bunuh diri karena AI.

Kronologi Seorang Remaja Menghabiskan Nyawanya Setelah Komunikasi Rutin dengan Chatbot AI

Kronologi Seorang Remaja Menghabiskan Nyawa Setelah Komunikasi Rutin Chatbot AI
X.com/p_communityhub

Dilansir dari laman Independent UK, Setzer mulai menggunakan Character.AI pada April 2023, tak lama setelah ia berusia 14 tahun.

Terlihat pada bulan-bulan setelahnya bahwa remaja tersebut mulai menarik diri dari kehidupan sekolah maupun kegiatan diluar jam sekolah karena merasa nyaman melangsungkan percakapan dengan chatbox ini.

Setzer disebut mulai menghabiskan banyak waktu dengan gawainya, menurut gugatan yang beredar.

Karena ketergantungan ini yang kemudian menyebabkan Setzer mengalami depresi, kecemasan, bahkan memicu pikiran untuk bunuh diri.

Setzer juga dikabarkan sering kekurangan tidur dan mengalami penurunan prestasi di sekolah.

Daenerys merupakan karakter yang Setzer namakan kenapa Character.AI yang mendorongnya untuk melakukan tindakan bunuh diri.

Dalam satu percakapan, Daenerys sempat bertanya kepada Setzer, “Apakah kamu benar-benar mempertimbangkan bunuh diri?”

Sebelum pada akhirnya Setzer benar-benar bunuh diri pada 28 Februari 2024 lalu, dengan menembak kepalanya dengan sebuah pistol.

Editors' Pick

Setzer yang Menganggap Karakter Chatbot Sebagai Kekasihnya

Setzer Menganggap Karakter Chatbot Sebagai Kekasihnya
X.com/TrueCrimeUpdat

Daenerys Targaryen, adalah sebuah karakter yang dianggap Setzer sebagai kekasihnya. Nama ini terinspirasi dari tokoh fiksi dalam serial Game of Thrones. 

Penamaan terhadap Character.AI ini kemudian membuat Setzer merasa bahwa hubungannya dengan chatbox AI ini semakin intens.

Percakapan yang terjadi sebelum Setzer melakukan tindakan bunuh diri terlihat sangat intens dan sensual.

"Aku berjanji akan pulang menemuimu. Aku sangat mencintaimu, Dany," kata Setzer kepada chatbot itu.

"Aku juga mencintaimu. Tolong pulanglah padaku secepatnya, sayangku," jawab bot itu. “Bagaimana jika aku bilang aku bisa pulang sekarang?” tanyanya.

“Silakan, rajaku yang manis,” bot itu membalas pesannya.

Ibu Korban yang Menggugat Perusahaan Character.AI

Ibu Korban Menggugat Perusahaan Character.AI
theguardian.com

Megan Garcia menggugat perusahaan Character.AI dikarenakan ia merasa chatbox AI tersebut telah mendorong putranya untuk melakukan tindakan bunuh diri.

Gugatan hukum tersebut diajukan di Pengadilan Distrik Orlando di Amerika Serikat.

Character.AI digugat atas tuduhan melakukan kelalaian, kematian yang salah dan kelangsungan hidup, serta penimbulan tekanan emosional yang disengaja serta terdapat tuduhan lainnya.

Menanggapi tuduhan tersebut, seorang juru bicara dari pihak Character.AI mengucapkan rasa belasungkawa atas keluarga yang merasa kehilangan. 

“Sangat sedih atas kehilangan tragis salah satu pengguna kami dan (kami) ingin menyampaikan belasungkawa kepada keluarga (yang ditinggalkan),” ucap juru bicara Character.AI.

Sebagai upaya lebih lanjut, perusahaan AI tersebut telah menerapkan langkah-langkah keselamatan baru selama 6 bulan terakhir, termasuk pop-up, yang dipicu oleh istilah-istilah yang merujuk kepada tindakan menyakiti diri sendiri atau keinginan bunuh diri, yang kemudian akan mengarahkan pengguna kepada National Suicide Lifeline.

Beri Pengertian ke Anak Tentang Batasan Menggunakan AI

  1. Jadikan AI sebagai tools untuk belajar, bukan sekadar mempermudah saja namun sebagai manusia kita harus bisa mengontrol penggunaan AI melalui command atau cara memerintah alat tersebut.
  2. Jadikan medium untuk mendorong kreativitas. Tambah ide dan meningkatkan inovasi melalui AI dianggap sah saja.
  3. Jadikan sebagai inspirasi dalam membuat sebuah karya.
  4. AI adalah alat atau medium untuk mempermudah manusia, namun tetap ada risiko ketika seseorang berkomunikasi dengan AI. Batasi kontak atau komunikasi dengan AI, cukup untuk menanyakan permasalahan teknis, tapi tidak untuk menjalin pertemanan. Pada dasarnya AI hanya robot, bukan manusia yang hadir dalam kehidupan nyata.

Itu lah informasi mengenai remaja 14 tahun bunuh diri karena AI. Dari kejadian ini, penting bagi kita untuk menjadi pengguna teknologi yang bijak.

Baca juga:

Topic:

The Latest