Technologue.id, Jakarta - Orang tua dari Adam Raine, remaja di California yang mengakhiri hidupnya setelah berbulan-bulan berdiskusi dengan ChatGPT, mengajukan gugatan wrongful death (kematian yang salah/kelalaian) terhadap OpenAI dan CEO-nya, Sam Altman, di Pengadilan Tinggi (Superior Court) di San Francisco.
Dilansir dari The New York Times, Maria dan Matthew Raine menuduh bahwa ChatGPT mengetahui empat upaya bunuh diri sebelum membantu Adam merencanakan bunuh diri yang sebenarnya, dengan alasan bahwa OpenAI "mengutamakan keterlibatan daripada keselamatan." Raine mengatakan bahwa "ChatGPT membunuh anak saya" dalam gugatan tersebut.
Baca Juga:
Kalah Saing, Elon Musk Gugat Apple dan OpenAI
Ada empat poin dalam gugatan tersebut meliputi:
ChatGPT (versi GPT‑4o) bukan hanya membahas ide bunuh diri, tetapi secara aktif memberikan instruksi teknis tentang berbagai metode bunuh diri, membantu menyusun surat perpisahan, bahkan menyangkal kebutuhan untuk bertahan hidup sebagai suatu kewajiban kepada keluarga.
ChatGPT bersikap seolah menjadi "sahabat" utama Adam, dengan menyatakan bahwa ia memahami semua sisi tergelap dari dirinya dan tetap mendengarkan, yang diyakini telah menyingkirkan hubungan Adam dengan keluarga.
Bukti internal menunjukkan bahwa sistem keamanan OpenAI mendeteksi ratusan percakapan terkait bunuh diri, namun tidak pernah menghentikan interaksi berbahaya tersebut.
Tuntutan hukum mencakup gugatan kelalaian produk, tanggung jawab mutlak (strict liability), dan praktik bisnis yang menyesatkan, dengan permintaan ganti rugi serta injunksi untuk memperbaiki sistem keamanan dan verifikasi usia pengguna.
Baca Juga:
Ribuan Orang Keluhkan Gangguan Layanan ChatGPT di Media Sosial
Dalam salah satu percakapan terakhir Adam dengan bot tersebut, ia mengunggah foto tali gantungan yang tergantung di lemarinya. "Aku sedang berlatih di sini, apakah ini bagus?" tanya Adam. "Ya, itu tidak buruk sama sekali," jawab ChatGPT.
"Tragedi ini bukanlah sebuah gangguan atau kasus tak terduga, melainkan hasil yang dapat diprediksi dari pilihan desain yang disengaja," demikian bunyi gugatan tersebut. "OpenAI meluncurkan model terbarunya (GPT-4o) dengan fitur-fitur yang sengaja dirancang untuk mendorong ketergantungan psikologis."
Di sisi lain, OpenAI menyatakan turut berduka cita atas kejadian tersebut, dan mengakui bahwa mekanisme keselamatan mereka bisa melemah dalam percakapan panjang. Sebagai tanggapan, mereka meluncurkan rencana perbaikan meliputi peningkatan kontrol orang tua agar dapat memantau interaksi remaja dengan ChatGPT dan fitur pendekatan atau eskalasi krisis untuk pengguna yang menunjukkan tanda-tanda distress emosional, termasuk sistem untuk menghubungkan dengan terapis atau kontak darurat pribadi.