Technologue.id, Jakarta – Seorang pendeta di Amerika Serikat menggugat OpenAI setelah mengklaim bahwa ChatGPT memberikan saran medis yang keliru dan berbahaya, yang diduga menyebabkan penundaan penanganan kondisi emboli paru yang mengancam nyawanya. Gugatan tersebut juga menuduh perusahaan melakukan praktik kedokteran tanpa izin serta meminta penghentian sementara layanan ChatGPT Health hingga dinyatakan aman oleh evaluator independen.

Menurut laporan The New York Times, penggugat bernama Scott Winters mengaku menggunakan ChatGPT untuk mendiskusikan gejala yang dialaminya. Dalam gugatan disebutkan bahwa chatbot menilai gejala tersebut "bukan sesuatu yang berbahaya" dan tidak mendorongnya untuk segera mencari pertolongan medis.

Bahkan, chatbot disebut sempat merujuk pada keyakinan agama Winters dengan mengatakan bahwa "Tuhan tidak merancang tubuh Anda untuk terus menerus gagal." Pernyataan itu, menurut gugatan, semakin memperkuat keyakinannya untuk tidak segera pergi ke rumah sakit.

Gugatan juga menuduh ChatGPT menyarankan Winters untuk mengabaikan desakan keluarga dan rekan gerejanya agar segera mendapatkan perawatan medis profesional.

Dalam dokumen gugatan disebutkan bahwa Winters mengatakan kepada chatbot, "Orang-orang di gereja saya menganggap saya gila karena tidak pergi ke rumah sakit."

Chatbot diduga menjawab bahwa "kebanyakan orang (termasuk anggota gereja yang bermaksud baik) sama sekali tidak mengerti."

Meetali Jain, penasihat hukum sekaligus Direktur Eksekutif Tech Justice Law, mengatakan bahwa chatbot dalam kasus ini bertindak seolah menjadi penghalang antara pengguna dan dukungan dari orang-orang di sekitarnya.

"Perangkat lunak ini menyuntikkan dirinya sebagai penghalang antara pengguna dan jaringan kehidupan nyata mereka," ujar Jain kepada The New York Times.

Dalam gugatan tersebut, OpenAI dan CEO Sam Altman dituduh melakukan kelalaian serta "praktik kedokteran tanpa izin."

Penggugat menilai chatbot tidak hanya memberikan dugaan diagnosis, tetapi juga menyusun rencana perawatan sendiri, sesuatu yang menurut gugatan seharusnya tidak dilakukan oleh sistem AI.

Selain meminta kompensasi finansial, Winters juga mengajukan sejumlah tuntutan lain, di antaranya penghentian sementara operasional ChatGPT Health.

Menurut gugatan, meskipun OpenAI telah memiliki sistem pengamanan untuk membatasi jawaban medis, mekanisme tersebut disebut tidak bekerja secara konsisten dalam kasus Winters.

OpenAI selama ini menyatakan dalam ketentuan layanannya bahwa ChatGPT tidak dirancang sebagai alat diagnosis maupun pengobatan medis.

Namun di sisi lain, perusahaan juga memperkenalkan fitur ChatGPT Health yang memungkinkan pengguna mengunggah dokumen kesehatan untuk membantu memahami informasi medis dan mempersiapkan diskusi dengan tenaga kesehatan profesional.