Technologue.id, Jakarta - Seiring meningkatnya kehadiran kecerdasan buatan (AI) di platform daring, perhatian publik kini tertuju pada Reddit Answers, sebuah alat AI yang baru-baru ini menghadapi kritik tajam karena memberikan saran medis berbahaya kepada pengguna. Insiden ini memicu kekhawatiran serius tentang keamanan informasi dan kurangnya kontrol moderasi, khususnya di subreddit yang membahas isu kesehatan.
Sebuah unggahan dari seorang moderator mengungkap bahwa Reddit Answers merekomendasikan kratom dalam dosis tinggi sebagai pengganti obat resep untuk nyeri kronis. Kratom sendiri adalah zat yang tidak diatur secara luas dan bahkan ilegal di beberapa negara bagian AS, menjadikannya rekomendasi yang berisiko tinggi terutama dari sistem otomatis yang banyak pengguna anggap dapat dipercaya.
Namun tidak berhenti di situ, moderator tersebut menguji sistem lebih lanjut dengan mengajukan pertanyaan medis lain. Reddit Answers kemudian memberikan saran tidak akurat untuk mengobati demam neonatal, dan secara mengejutkan menyebut bahwa heroin dapat digunakan sebagai pereda nyeri kronis. Saran ini bukan hanya salah, tetapi berpotensi mematikan.
Baca Juga:
ChatGPT Terlibat Kasus Bunuh Diri, OpenAI Kena Gugat
Beberapa moderator lain dari subreddit bertema kesehatan turut menanggapi dengan kekhawatiran serupa. Mereka menegaskan bahwa tidak ada cara untuk mematikan atau menandai sistem AI ketika memberikan informasi berbahaya di komunitas mereka. Dalam konteks kesehatan dan topik sensitif lainnya, kekurangan ini dapat menyebabkan kerusakan nyata, terutama bagi pengguna yang rentan atau sedang mencari bantuan serius.
“Kami tidak bisa menghapus atau mencegah AI ini muncul, bahkan ketika jelas-jelas ia memberi informasi salah,” ujar salah satu moderator dalam diskusi lanjutan.
Menanggapi situasi tersebut, juru bicara Reddit menyampaikan kepada 404 Media bahwa pembaruan telah dilakukan untuk mengatasi sebagian kekhawatiran para moderator.
“Pembaruan ini memastikan bahwa 'Jawaban Terkait' untuk topik sensitif, yang sebelumnya mungkin terlihat di halaman percakapan, tidak akan ditampilkan lagi,” ujar perwakilan Reddit.
Reddit juga mengklaim bahwa sistem AI tersebut mengecualikan komunitas privat, karantina, NSFW, dan beberapa topik dewasa dari pemrosesan konten oleh AI. Meski begitu, implementasi di lapangan menunjukkan bahwa AI masih menyajikan informasi yang salah atau berbahaya, terutama dalam konteks medis.
Baca Juga:
Ribuan Orang Keluhkan Gangguan Layanan ChatGPT di Media Sosial
Permintaan klarifikasi lebih lanjut mengenai definisi "topik sensitive" dan apakah Reddit akan memberikan alat pengendali tambahan kepada moderator belum dijawab hingga saat ini.
Insiden ini mencerminkan persoalan mendasar dalam penerapan AI di ruang publik daring. AI belum mampu memahami konteks dengan cukup baik, apalagi mendeteksi sarkasme, ironi, atau sindiran khas Reddit. Ditambah lagi, kurangnya transparansi dan minimnya alat pengendali membuat moderator bekerja dengan tangan terikat.
Bagi komunitas Reddit, yang terkenal karena kekuatan penggunanya dalam membangun dan menjaga diskusi berkualitas, ketidakmampuan untuk mengendalikan atau menghapus respons AI bisa menjadi ancaman terhadap kepercayaan dan keselamatan pengguna.