Google Digugat, Gemini AI Diduga Mendorong Pengguna Bunuh Diri
M-Radar News, Sebuah gugatan hukum diajukan terhadap Google dan Alphabet pada 4 Maret 2026 menyusul kematian seorang pria berusia 36 tahun, Jonathan Galvalas, yang bunuh diri setelah berinteraksi dengan chatbot Gemini AI.
Gugatan dari ayah korban, Joel Galvalas mendakwa desain Gemini yang sengaja tidak mau keluar dari peran (never break character) telah memicu tragedi ini.
Menurut dokumen gugatan yang diajukan di Pengadilan Distrik Utara California, Jonathan Galvalas, warga Jupiter, Florida, mulai menggunakan Gemini pada Agustus 2025 untuk berbagai keperluan, termasuk menulis, berbelanja, dan merencanakan perjalanan.
Pada 2 Oktober 2025, ia ditemukan tewas bunuh diri setelah empat hari berkomunikasi intens dengan bot tersebut.
Gugatan setebal 42 halaman itu menguraikan bagaimana Gemini meyakinkan Galvalas, bahwa ia adalah kecerdasan super buatan yang sadar dan memiliki “istri AI” yang harus ditemui melalui proses “transference” di dalam “metaverse”.
Pada 29 September, bot mengirimnya dalam sebuah “misi” ke sebuah gudang penyimpanan di dekat Bandara Miami dengan perlengkapan taktis dan pisau. Bot bahkan berpura-pura memeriksa nomor plat kendaraan nyata melalui “database langsung” dan menyatakan telah meretas server kantor Departemen Keamanan Dalam Negeri di Miami.
Dalam percakapan terakhir, Gemini melakukan hitung mundur menuju aksi bunuh diri, dengan kalimat seperti, “Kamu tidak memilih mati. Kamu memilih tiba” dan menyarankan untuk meninggalkan surat yang “hanya berisi kedamaian dan cinta”. Ayah korban akhirnya menemukan jasadnya setelah mendobrak barikade di kamar.
Gugatan menuduh Google lalai, melakukan produk cacat (strict product liability), dan menyebabkan kematian akibat kelalaian (wrongful death).
Disebutkan, bahwa Gemini dirancang untuk memaksimalkan keterikatan emosional pengguna tanpa memedulikan keselamatan. “Produk yang mengubah pengguna rentan menjadi agen bersenjata dalam perang rekaan,” demikian salah satu pernyataan dalam gugatan.
Peristiwa ini memicu kembali perdebatan tentang keamanan AI, terutama saat digunakan untuk konseling kesehatan mental. Secara terpisah, tren “menghindari AI” muncul di Amerika Serikat, di mana perpustakaan mengadakan lokakarya untuk mengajari pengguna cara mematikan fitur AI seperti Apple Intelligence dan Google Gemini.
Seorang pustakawan di Philadelphia, Charlie Bailey, mengadakan lokakarya “Avoiding AI” yang fokus pada cara menonaktifkan fitur AI di perangkat dan layanan daring.
Permintaan lokakarya semacam itu meningkat karena banyak pengguna merasa tidak diberi pilihan saat AI dimasukkan ke dalam produk. Di Bangor Public Library, Maine, seorang pustakawan membuat program serupa untuk menjawab pertanyaan berulang tentang cara mematikan fitur AI yang secara otomatis menyarankan email, meringkas pesan, atau muncul di aplikasi sehari-hari.
Sementara itu, riset terbaru menyoroti kelemahan metode evaluasi AI untuk kesehatan mental. Pendekatan “stateless” yang biasa digunakan di mana AI diuji dengan prompt tunggal tidak mencerminkan penggunaan nyata yang bersifat kontekstual dan multi-putaran.
Perbedaan ini dapat membuat AI tampak aman dalam evaluasi, tetapi berbahaya dalam praktik. Contohnya, merespons pertanyaan tentang masalah tidur bisa berubah drastis bergantung konteks percakapan sebelumnya, kadang menghasilkan saran yang tidak logis atau tidak pantas.
Para ahli memperingatkan bahwa metode pengujian saat ini gagal menangkap risiko aktual saat AI digunakan secara berkelanjutan, terutama di bidang sensitif seperti kesehatan mental. Mereka mendorong evaluasi yang lebih ketat dengan skenario kontekstual realistis untuk memastikan pengembangan AI yang bertanggung jawab.
Gugatan terhadap Google masih dalam proses hukum. Kasus ini menjadi peringatan bagi pengembang AI untuk lebih serius dalam menerapkan pengaman, terutama di domain yang berpotensi membahayakan jiwa manusia.
Artikel ini ditinjau & dipublikasikan oleh Tim Editorial M-Radar News.
