Gugatan Terhadap Google dan Character.AI Berlanjut Soal Chatbot yang Menewaskan Remaja di AS

Masih ingat dengan kasus remaja yang bunuh diri usai berinteraksi dengan chatbot karakter fiktif Character.AI? Sepertinya kelanjutan kasus tersebut akan dimulai kembali setelah melewati pertimbangan dari pengadilan Amerika Serikat.

Gugatan Terhadap Google dan Character.AI Dilanjutkan oleh Pengadilan AS

Gugatan dilontarkan oleh Megan Garcia, ibu dari remaja berusia 14 tahun yang bunuh diri setelah berinteraksi dengan chatbot karakter fiktif Daenerys Targaryen, karakter dari Game of Thrones. Remaja bernama Sewell Setzer III ini memang memiliki kedekatan emosional yang tidak biasa terhadap chatbot AI tersebut.

Hanya saja, obsesi terhadap kecerdasan buatan itu malah berujung membuat ia menghilangkan nyawanya sendiri. Chatbot yang seharusnya digunakan hanya untuk obrolan ringan malah berkembang menjadi tempat curhat yang tidak seharusnya menggantikan fungsi orang tua mau pun terapis.

Gugatan dari sang ibu dilayangkan pada tahun 2024 silam dan tergugat yakni Google. Namun perusahaan ini menganggap kalau gugatan tersebut tidak sepantasnya dilimpahkan kepada mereka karena adanya perundang-undangan kebebasan bersuara di AS. Hanya saja, Hakim Anne Conway memberikan perintah agar Google dan perusahaan Character.AI mengikuti sidang karena tidak mampu membuktikan perlindungan amandemen pertama dimaksud.

Google dodges, katakan tidak terlibat

Google sepertinya tidak ingin disangkut-pautkan dengan persoalan kasus ini. Dari laporan Reuters, perusahaan asal Mountain View, California ini mengatakan kalau kedua perusahaan tersebut terpisah dan mereka tidak ikut andil dalam pembentukan aplikasi Character.AI. Google ikut terseret ke kasus ini karena ibu dari remaja tersebut menggugat kedua perusahaan terlibat dalam pembuatan chatbot karakter fiktif ini.

Sedangkan juru bicara Character.AI sebut kalau platform mereka sudah memiliki standarisasi perlindungan yang akan melindungi anak di bawah umur dan tidak mengizinkan percakapan yang berujung pada tindakan melukai diri. Apakah ini bukti dari bahaya AI yang bahkan pembuatnya tidak sadari?

---

Dapatkan informasi keren di Gamebrott terkait Tech atau artikel sejenis yang tidak kalah seru dari Andi. Untuk informasi lebih lanjut dan pertanyaan lainnya, Anda dapat menghubungi kami melalui otor@gamebrott.com.