Kakek Minta Tips Diet dari ChatGPT Malah Terkena Penyakit Langka

Perkembangan teknologi chatbot berbasis kecerdasan buatan (AI) semakin pesat, termasuk dalam berbagai bidang, salah satunya kesehatan. Sebuah insiden yang mencolok melibatkan seorang kakek yang meminta saran diet dari chatbot dan mengalami komplikasi serius, menggambarkan risiko besar dari penggunaan AI dalam konteks kesehatan.

Kakek berusia 60 tahun ini ingin menurunkan asupan garam dalam dietnya. Namun, setelah mengikuti rekomendasi yang diberikan oleh chatbot tersebut, ia malah mengalami masalah kesehatan yang mengharuskannya dirawat di rumah sakit selama tiga minggu.

Kasus ini diangkat oleh sekelompok peneliti dari Universitas Washington dan dipublikasikan dalam jurnal medis terkemuka, menunjukkan bahwa meskipun AI dapat memberikan solusi instan, risiko yang dihadirkan juga tidak bisa diabaikan.

Insiden yang Mengguncang: Kakek dan Rekomendasi AI

Kakek tersebut meminta nasihat dari chatbot untuk menggantikan natrium klorida dengan bahan lain. ChatGPT merekomendasikan sodium bromida, yang lebih umum digunakan dalam pemeliharaan kolam daripada sebagai bumbu makanan.

Selama tiga bulan, ia mengikuti saran tersebut untuk sepenuhnya menghilangkan klorida dari makanan yang dikonsumsinya. Ini dilakukan berdasarkan sepintas lalu tentang riset yang menyarankan pengurangan natrium untuk kesehatan yang lebih baik.

Namun, ketika kondisi kesehatannya mulai menurun dan ia tampil dengan gejala aneh, kakek tersebut sempat menuduh tetangganya meracuninya. Hal ini menunjukkan betapa seriusnya dampak dari informasi yang diterima tanpa pemahaman yang cukup.

Gejala Bromisme dan Diagnosis Medis

Setelah dibawa ke ruang gawat darurat, pemeriksaan menunjukkan kadar elektrolit yang tidak normal. Dokter segera mencurigai adanya gejala bromisme, yang mana sangat jarang ditemukan saat ini.

Selama 24 jam berikutnya, kondisi mentalnya semakin memburuk, dengan halusinasi dan paranoia yang berkembang pesat. Pada saat ini, kakek tersebut memerlukan perawatan psikiatri secara mendesak.

Kondisi fisiknya mencakup kelelahan, insomnia, dan tanda-tanda lain yang menunjukkan bahwa ia mengalami toksisitas akibat bromida yang menumpuk dalam tubuhnya. Dalam keadaan seperti ini, tindakan medis segera menjadi keharusan.

Risiko Penggunaan AI dalam Penyaran Kesehatan

Pentingnya kehati-hatian dalam mencari nasihat kesehatan dari mesin menjadi sorotan utama dalam laporan ini. Chatbot, meskipun menarik dan bermanfaat, tidak menggantikan pengalaman dan pengetahuan profesional medis.

Penelitian lebih lanjut menunjukkan bahwa ketika peneliti mengajukan pertanyaan serupa kepada ChatGPT, saran yang sama kembali muncul, tanpa adanya peringatan mengenai potensi risiko toksisitas. Hal ini menunjukkan kekurangan yang serius dalam algoritma yang tidak dapat membedakan konteks secara memadai.

Para profesional kesehatan telah mengingatkan tentang potensi bahaya dari penyebaran informasi yang tidak akurat atau berbahaya, terutama di bidang kesehatan yang sangat sensitif. Ketidakakuratan yang muncul dapat menyebabkan bahaya fisik yang tidak terbayangkan bagi individu yang mencari bantuan melalui AI.

Kajian Referensi dan Tindakan untuk Keamanan AI

Setelah insiden ini, OpenAI berkomitmen untuk meningkatkan keamanan dalam penggunaan ChatGPT, terutama terkait pertanyaan tentang kesehatan mental. Langkah-langkah baru diharapkan dapat mencegah pengguna dari mengandalkan AI sebagai ganti konseling profesional.

Dalam sebuah pengumuman, OpenAI menegaskan bahwa mereka akan memperketat pedoman untuk mencegah chatbot memberikan saran tanpa evaluasi yang jelas. Ini mencakup merekomendasikan waktu istirahat bagi pengguna dan menyediakan sumber daya berbasis fakta.

Perubahan ini diharapkan dapat membantu mengurangi risiko yang mungkin timbul dari ketergantungan pada AI dalam situasi yang memerlukan pemahaman mendalam tentang kondisi kesehatan individu.