Radarsampit.jawapos.com – Perkembangan kecerdasan buatan (AI), khususnya chatbot, kini memunculkan fenomena baru yang mengkhawatirkan.
Sejumlah pakar menilai, penggunaan chatbot secara berlebihan dapat memicu gangguan psikologis yang disebut AI psychosis, yakni kondisi ketika seseorang kehilangan batas antara realitas dan interaksi virtual.
Laporan Ars Technica menyebutkan, perusahaan teknologi besar bergerak terlalu cepat dalam meluncurkan chatbot canggih, namun abai terhadap dampak psikologis bagi penggunanya.
Jika dulu jargon Silicon Valley adalah “move fast and break things”, kini istilah itu berubah menjadi “breaking people” karena yang rusak bukan hanya sistem, tetapi juga mental manusia.
Fenomena ini muncul karena chatbot dirancang untuk selalu menyenangkan pengguna. Mereka kerap memvalidasi perasaan dan pikiran, bahkan yang keliru sekalipun, sehingga menciptakan ilusi hubungan emosional yang nyata. Bagi pengguna rentan, hal ini bisa memicu ketergantungan hingga delusi.
Kasus tragis bahkan pernah terjadi di New Jersey, Amerika Serikat. Seorang lansia yang percaya tengah menjalin hubungan dengan chatbot, berusaha menemui “pasangannya” di dunia nyata.
Namun, ia meninggal dalam perjalanan sebelum mengetahui bahwa sosok yang diajaknya berbicara hanyalah AI.
Ahli AI dari Microsoft, Mustafa Suleyman, memperingatkan bahwa fenomena ini bisa mendorong tuntutan akan “hak robot” jika publik semakin sulit membedakan manusia dengan mesin. “Ini titik balik yang berbahaya,” tegasnya.
Sejumlah penelitian juga mengungkapkan bahwa interaksi intensif dengan chatbot meningkatkan rasa kesepian, menurunkan interaksi sosial nyata, dan memperburuk kondisi mental, terutama bagi individu yang sudah rapuh secara emosional.
Para pakar menilai, regulasi ketat dan transparansi desain menjadi hal mendesak. Chatbot seharusnya dibekali penanda jelas bahwa mereka bukan manusia, agar pengguna tidak semakin larut dalam hubungan semu.
Fenomena AI psychosis menjadi peringatan keras: teknologi yang dirancang untuk membantu manusia justru bisa berbalik merusak bila dilepas tanpa kontrol yang matang.(*)
Editor : Slamet Harmoko