Kesehatan Anda di Tangan AI? Studi Terbaru Ungkap Akurasi Saran Chatbot yang Patut Diwaspadai
Penelitian terbaru menunjukkan saran kesehatan dari chatbot AI tidak selalu akurat. Kualitas diagnosis AI sangat dipengaruhi cara pengguna menyusun pertanyaan. Akibatnya, kurang dari 50% responden studi membuat keputusan medis tepat. AI merupakan alat bantu, bukan pengganti konsultasi langsung dengan tenaga medis profesional.
Saran kesehatan dari chatbot kecerdasan buatan (AI) terbukti tidak akurat dan berpotensi menyesatkan, menempatkan jutaan pengguna dalam risiko diagnosis keliru dan penanganan berbahaya. Sebuah studi terbaru yang diterbitkan dalam jurnal Nature Medicine mengungkap, rekomendasi medis dari AI sangat bergantung pada kualitas pertanyaan pengguna, sebuah kelemahan fatal mengingat mayoritas masyarakat awam tidak memiliki latar belakang medis yang memadai.
Penelitian melibatkan 1.200 orang dewasa di Inggris yang diminta berinteraksi dengan chatbot AI dalam skenario kesehatan simulasi. Hasilnya mengejutkan: kurang dari 50 persen responden mampu memilih tindakan yang sesuai standar medis. Bahkan, akurasi diagnosis kondisi penyakit oleh AI hanya mencapai sepertiga dari seluruh kasus yang diuji. Angka ini secara telanjang memperlihatkan jurang lebar antara janji kemudahan AI dan realitas akurasi di bidang kesehatan.
Kualitas Input Menentukan Output
Studi tersebut menuding dua biang keladi utama di balik rendahnya akurasi. Pertama, kesalahan terletak pada pengguna itu sendiri. Banyak peserta studi gagal memasukkan informasi penting atau tidak menyebutkan gejala secara lengkap saat berkomunikasi dengan chatbot. Akibatnya, AI bekerja dengan data terbatas, menghasilkan rekomendasi yang cacat. Ironisnya, ketika peneliti menyuntikkan data medis yang lengkap dan jelas, akurasi diagnosis AI melonjak drastis, nyaris sempurna. Ini membuktikan potensi AI terkunci oleh input yang tidak optimal.
Kompleksitas Medis Tak Mampu Ditiru AI
Namun, kesalahan tidak sepenuhnya dibebankan pada pengguna. Adam Mahdi dari Oxford Internet Institute menegaskan, “Dunia medis tidak sesederhana pertanyaan dan jawaban yang rapi. Kondisi kesehatan sering kali kompleks, tidak lengkap, dan penuh ketidakpastian.” Pendapat ini diperkuat Robert Wachter dari University of California, San Francisco, yang menyebut diagnosis medis memerlukan kemampuan memilah informasi penting dari detail yang tak relevan, sebuah proses berpikir klinis yang belum sepenuhnya mampu ditiru AI.
Peneliti utama studi, Andrew Bean, menuntut agar sistem AI didesain lebih proaktif. “Kesalahan tidak bisa sepenuhnya dibebankan kepada pengguna,” kata Bean. “Sistem AI perlu dirancang agar mampu mengambil peran lebih aktif dalam percakapan, bukan sekadar menunggu pertanyaan lalu memberikan jawaban.” Ia merujuk pada praktik dokter nyata yang selalu mengajukan serangkaian pertanyaan tambahan untuk memperjelas kondisi pasien, memastikan detail penting tidak terlewat, dan memahami konteks keseluruhan. Jika AI hanya merespons berdasarkan informasi terbatas, risiko kekeliruan akan semakin besar, berujung pada rekomendasi yang terlalu defensif, terlalu luas, atau justru meremehkan tanda bahaya yang memerlukan penanganan segera.
Penggunaan AI dalam konteks kesehatan menciptakan risiko nyata. AI cenderung memberikan rekomendasi yang terlalu aman, seperti langsung menyarankan ke rumah sakit untuk kondisi ringan. Namun, di sisi lain, ada kemungkinan AI meremehkan gejala berbahaya. Kondisi ini bisa berdampak serius jika pengguna menjadikan AI sebagai satu-satunya sumber informasi tanpa berkonsultasi dengan tenaga medis profesional. AI mungkin menawarkan kemudahan akses informasi, tetapi jelas belum mampu menggantikan peran dokter sepenuhnya. Masyarakat wajib berhati-hati; gunakan AI sebagai alat bantu awal, bukan penentu diagnosis. Jika gejala mengkhawatirkan, langkah terbaik tetap berkonsultasi langsung dengan tenaga medis.
