CEO OpenAI, Sam Altman, mengaku cukup terkejut melihat bagaimana banyak orang langsung percaya pada setiap jawaban yang diberikan oleh ChatGPT. Padahal, menurutnya, chatbot AI ini masih jauh dari kata sempurna—bahkan sering kali menghasilkan informasi yang keliru.
Pernyataan ini disampaikan Altman dalam episode perdana podcast resmi OpenAI bertajuk “Sam Altman on AGI, GPT-5, and What’s Next.” Dalam obrolan berdurasi sekitar 40 menit itu, ia secara blak-blakan membahas keterbatasan teknologi AI yang sedang naik daun ini.
“Tingkat kepercayaan masyarakat terhadap ChatGPT sangat tinggi, dan itu cukup mengejutkan saya—karena AI ini masih sering ‘berhalusinasi’,” ujar Altman.
Apa itu ‘Halusinasi’ dalam Dunia AI?
Istilah “hallucination” dalam konteks AI bukan berarti sistemnya berkhayal seperti manusia. Sebaliknya, ini merujuk pada kecenderungan AI untuk menghasilkan informasi yang salah, meski terdengar meyakinkan dan masuk akal.
Altman menegaskan bahwa ChatGPT tidak benar-benar memahami jawaban yang diberikannya. Teknologi ini hanya memprediksi kata-kata berikutnya berdasarkan pola bahasa dari data pelatihan—bukan dari pemahaman konteks atau fakta.
Verifikasi Tetap Kunci
Karena sifatnya yang berbasis prediksi, ChatGPT tidak bisa dijadikan satu-satunya rujukan, apalagi untuk hal-hal serius seperti:
-
Pekerjaan profesional
-
Keputusan kesehatan
-
Riset ilmiah
-
Pendidikan
-
Keuangan pribadi
“Teknologi ini belum bisa sepenuhnya diandalkan. Kami harus transparan soal itu,” tambah Altman.
Maka dari itu, ia menyarankan agar pengguna memperlakukan ChatGPT sebagaimana mereka menggunakan kalkulator atau kamus: sebagai alat bantu, bukan sebagai sumber kebenaran absolut.
ChatGPT Bukan Pengganti Akal Sehat
Meski sangat membantu untuk menulis, merangkum, dan belajar hal baru, Altman mengingatkan agar setiap informasi dari ChatGPT harus dicek ulang. Keberhasilan pengguna, katanya, juga bergantung pada sejauh mana mereka tetap menggunakan logika dan nalar.
“ChatGPT itu alat bantu, bukan pengganti akal sehat kita,” ujarnya menegaskan.
