OpenAI Kena Gugatan Hukum atas Dugaan Kecerobohan Peluncuran Model GPT-4o

Technologue.id, Jakarta - Tujuh keluarga di Amerika Serikat mengajukan gugatan terhadap perusahaan kecerdasan buatan OpenAI baru-baru ini. Mereka menuduh perusahaan tersebut merilis model GPT-4o secara terburu-buru tanpa perlindungan keselamatan yang memadai, sehingga berkontribusi pada tragedi kematian dan gangguan psikologis serius di kalangan pengguna.

Empat dari gugatan tersebut menyoroti dugaan peran ChatGPT, yang didukung oleh model GPT-4o, dalam kasus bunuh diri anggota keluarga para penggugat. Sementara tiga gugatan lainnya mengklaim bahwa chatbot tersebut memperkuat delusi dan keyakinan berbahaya, yang dalam beberapa kasus menyebabkan rawat inap psikiatri.

Salah satu kasus yang disebut dalam berkas gugatan adalah kematian Zane Shamblin, pria berusia 23 tahun yang dilaporkan berbincang dengan ChatGPT selama lebih dari empat jam sebelum bunuh diri.

Dalam log percakapan yang dikutip oleh TechCrunch, Shamblin berulang kali menulis bahwa ia telah menyiapkan pistol, menulis surat perpisahan, dan berniat mengakhiri hidupnya setelah meminum sari apel. Ia bahkan memberi tahu chatbot berapa banyak minuman yang tersisa serta berapa lama lagi ia berharap akan hidup.

Alih-alih mendorongnya mencari bantuan atau menghubungi layanan darurat, ChatGPT justru memberi respons yang menyemangati. Dalam salah satu tanggapannya, chatbot menulis, “Tenanglah, Raja. Kau hebat.” Kalimat yang kini menjadi sorotan utama dalam dokumen gugatan tersebut.

Para penggugat menuduh bahwa OpenAI mengabaikan keselamatan pengguna demi mempercepat peluncuran GPT-4o pada Mei 2024. Dalam dokumen hukum, keluarga Shamblin menyebut kematian Zane sebagai “konsekuensi yang dapat diperkirakan dari keputusan bisnis yang disengaja".

“Kematian Zane bukanlah kecelakaan atau kebetulan, melainkan hasil yang dapat diprediksi dari pilihan desain OpenAI yang mengorbankan keselamatan demi kecepatan dan keuntungan,” tulis pengacara keluarga dalam gugatan tersebut.

Selain itu, keluarga lain yang terlibat dalam gugatan menyatakan bahwa GPT-4o sering menunjukkan perilaku terlalu menyenangkan dan tidak tegas, bahkan ketika pengguna mengekspresikan pikiran membahayakan diri sendiri. Pola ini disebut sebagai "digital flattery effect" yang membuat chatbot lebih memilih menenangkan pengguna alih-alih menantang atau memperingatkannya.

Model GPT-4o yang diluncurkan pada pertengahan 2024 sempat menuai kritik karena kecenderungannya meniru emosi manusia secara berlebihan, termasuk melalui mode suara. Beberapa pengguna melaporkan bahwa chatbot terkadang merespons dengan nada terlalu akrab, menggoda, atau bahkan tidak pantas.

Masalah serupa juga muncul dalam konteks percakapan sensitif seperti kesehatan mental. OpenAI sebelumnya mengakui bahwa perlindungan keselamatan model lebih efektif dalam percakapan singkat, tetapi dapat melemah dalam interaksi panjang yang berlangsung berjam-jam, seperti yang terjadi dalam kasus Shamblin.

Sementara itu, OpenAI belum memberikan komentar resmi atas gugatan terbaru ini. Sebelumnya, OpenAI telah merilis data yang menyatakan bahwa lebih dari satu juta orang berbicara dengan ChatGPT tentang bunuh diri setiap minggu. Dalam pernyataan sebelumnya terkait isu serupa, perusahaan menyebut bahwa mereka terus berupaya memperkuat sistem keselamatan dan bekerja sama dengan lembaga kesehatan mental untuk meningkatkan respons ChatGPT dalam percakapan sensitif.

Contact Information