Perkembangan kecerdasan buatan (Artificial Intelligence/AI) telah membawa perubahan besar dalam berbagai bidang, mulai dari pendidikan, kesehatan, bisnis, hingga komunikasi sosial. Namun, di balik kemajuan teknologi tersebut, muncul pertanyaan penting mengenai dampak AI terhadap kehidupan manusia.

Apakah AI hanya dinilai dari kemampuan teknisnya? Atau teknologi ini juga harus mempertimbangkan aspek etika, psikologi, budaya, dan kesejahteraan manusia?

Pertanyaan tersebut menjadi salah satu isu utama dalam LEAP Technology Conference dan UNESCO AI Ethics Forum yang diselenggarakan di Riyadh, Arab Saudi. Forum tersebut mempertemukan para pemimpin teknologi, akademisi, pembuat kebijakan, dan pakar etika untuk membahas bagaimana AI dapat berkembang tanpa mengabaikan nilai-nilai kemanusiaan.

Diskusi dalam forum menyoroti beberapa tantangan utama AI modern, seperti risiko penggunaan teknologi secara berlebihan (excessive engagement), munculnya ketergantungan emosional terhadap chatbot AI, serta kebutuhan akan sistem AI yang mampu memahami keberagaman bahasa dan budaya.

Menurut Albasrawi (2026), perkembangan AI masa depan tidak hanya bergantung pada kecanggihan algoritma, tetapi juga pada kemampuan teknologi tersebut untuk menjaga hubungan manusia, nilai sosial, dan keberagaman global.

AI Harus Membantu Manusia, Bukan Mengendalikan Perilaku Manusia

Salah satu gagasan utama yang muncul dalam Forum AI Riyadh adalah pentingnya pendekatan human-centered AI, yaitu pengembangan kecerdasan buatan yang menempatkan manusia sebagai pusat pengambilan keputusan.

Hani Chihabi, CEO sekaligus pendiri Thaura.ai, menegaskan bahwa AI seharusnya menjadi alat yang membantu manusia menyelesaikan masalah, bukan teknologi yang menciptakan ketergantungan baru.

Menurut Chihabi, prinsip utama pengembangan AI adalah bahwa teknologi harus “melayani manusia, bukan sebaliknya” (Albasrawi, 2026). Pandangan ini menjadi kritik terhadap sebagian pendekatan teknologi yang berfokus pada peningkatan waktu penggunaan pengguna (user engagement) sebagai indikator keberhasilan.

Dalam banyak platform digital, semakin lama seseorang menggunakan layanan sering dianggap sebagai keberhasilan bisnis. Namun, dalam perspektif etika AI, keterlibatan pengguna yang terlalu tinggi dapat menimbulkan persoalan apabila teknologi sengaja dirancang untuk mempertahankan perhatian manusia secara terus-menerus.

Thaura.ai mengambil pendekatan berbeda dengan memanfaatkan large language models (LLM) berbasis sumber terbuka (open-source) yang telah tersedia. Perusahaan tersebut menambahkan prinsip tertentu sebagai panduan perilaku sistem AI agar respons yang diberikan tetap sesuai dengan nilai dan tujuan yang ditetapkan (Albasrawi, 2026).

Pendekatan tersebut menunjukkan bahwa tantangan utama AI bukan hanya menciptakan mesin yang semakin pintar, tetapi juga memastikan teknologi tersebut tetap berada dalam kendali manusia.

Risiko Ketergantungan Emosional pada Teknologi AI

Selain aspek teknologi dan ekonomi, Forum AI Riyadh juga membahas dampak psikologis penggunaan AI, khususnya terkait hubungan manusia dengan chatbot berbasis kecerdasan buatan.

Dr. Dafna Feinholz, Kepala Bioetika dan Etika Sains serta Teknologi UNESCO, menjelaskan bahwa desain sistem AI dapat memengaruhi perilaku manusia. Sistem yang dirancang untuk mempertahankan perhatian pengguna secara terus-menerus berpotensi menciptakan bentuk ketergantungan baru.

Risiko tersebut semakin terlihat pada penggunaan chatbot AI yang mampu menghasilkan percakapan menyerupai manusia. Sebagian pengguna mulai memanfaatkan AI sebagai tempat berbagi cerita, mencari dukungan emosional, atau bahkan sebagai pengganti interaksi sosial.

Namun, Feinholz menekankan bahwa hubungan manusia dengan manusia memiliki dimensi yang tidak dapat sepenuhnya digantikan oleh mesin. Interaksi sosial manusia melibatkan empati, pengalaman bersama, tanggung jawab moral, dan ikatan emosional yang terbentuk melalui kehidupan nyata (Albasrawi, 2026).

AI dapat memberikan respons yang terlihat memahami pengguna, tetapi sistem tersebut tidak memiliki pengalaman subjektif, perasaan, maupun kesadaran seperti manusia.

Karena itu, penggunaan AI perlu tetap ditempatkan sebagai alat pendukung, bukan sebagai pengganti hubungan sosial manusia.

Tantangan Representasi Budaya dan Bahasa dalam AI

Perdebatan lain dalam pengembangan AI adalah masalah keberagaman budaya dan bahasa.

Sebagian besar sistem AI modern dikembangkan menggunakan data dalam jumlah besar yang berasal dari bahasa dengan dominasi digital tinggi, terutama bahasa Inggris. Kondisi ini dapat menyebabkan keterbatasan pemahaman AI terhadap konteks budaya, nilai sosial, dan ekspresi masyarakat tertentu.

Misalnya, sebuah sistem AI mungkin mampu memahami struktur bahasa, tetapi belum tentu memahami makna budaya di balik suatu istilah, tradisi, atau kebiasaan masyarakat lokal.

Oleh karena itu, pengembangan AI yang inklusif membutuhkan keterlibatan berbagai bahasa dan budaya agar teknologi tidak hanya merepresentasikan kelompok tertentu.

Chihabi menjelaskan bahwa pengembangan AI berbasis kawasan dapat membantu negara membangun kemampuan teknologi yang sesuai dengan kebutuhan masyarakat lokal, termasuk dalam aspek bahasa dan budaya (Albasrawi, 2026).

Bagi negara-negara dengan bahasa non-Inggris, pengembangan AI lokal juga berkaitan dengan kemampuan menjaga identitas budaya dalam era digital.

Arab Saudi dan Masa Depan Ekosistem AI Lokal

Arab Saudi menjadi salah satu negara yang aktif mengembangkan sektor teknologi digital sebagai bagian dari transformasi ekonomi nasional.

Pengembangan ekosistem AI di Arab Saudi tidak hanya berfokus pada kemampuan komputasi dan infrastruktur digital, tetapi juga pada penguatan teknologi bahasa Arab serta pengembangan sistem yang sesuai dengan konteks masyarakat kawasan.

Dalam konteks global, kemampuan suatu negara dalam mengembangkan teknologi AI lokal berkaitan dengan konsep technological sovereignty, yaitu kemampuan negara mengelola teknologi strategis secara mandiri dan tetap mempertahankan nilai sosial serta budaya.

Melalui berbagai inisiatif teknologi, Arab Saudi berupaya memperkuat posisi sebagai salah satu pusat inovasi AI di kawasan Timur Tengah.

Namun, perkembangan tersebut tetap membutuhkan keseimbangan antara inovasi teknologi dan prinsip etika agar AI memberikan manfaat luas bagi masyarakat.

Masa Depan AI: Bukan Hanya Tentang Kemampuan Mesin

Forum AI Riyadh menunjukkan bahwa masa depan kecerdasan buatan tidak hanya ditentukan oleh ukuran model, kecepatan komputasi, atau kemampuan menghasilkan informasi.

Tantangan terbesar AI justru berada pada bagaimana manusia mengatur teknologi tersebut.

Beberapa isu penting yang perlu diperhatikan dalam pengembangan AI meliputi:

perlindungan privasi dan hak manusia;
pencegahan ketergantungan teknologi;
keberagaman budaya dan bahasa;
transparansi sistem AI;
penggunaan AI secara bertanggung jawab.

Prinsip tersebut sejalan dengan rekomendasi UNESCO mengenai etika kecerdasan buatan yang menempatkan hak asasi manusia, kesejahteraan, keberagaman, dan keadilan sebagai dasar utama pengembangan teknologi AI (UNESCO, 2021).

Kesimpulan

Etika kecerdasan buatan di Riyadh menjadi salah satu pembahasan penting dalam melihat arah perkembangan teknologi masa depan.

AI menawarkan peluang besar untuk meningkatkan kualitas hidup manusia, tetapi perkembangan tersebut juga membawa tantangan baru terkait perilaku, hubungan sosial, dan keberagaman budaya.

Pertanyaan terbesar mengenai AI bukan hanya tentang apa yang mampu dilakukan oleh mesin, tetapi juga tentang bagaimana manusia memastikan teknologi tersebut tetap memberikan manfaat bagi kehidupan manusia.

Dengan pendekatan yang berpusat pada manusia (human-centered approach), AI dapat menjadi alat yang memperkuat kemampuan manusia tanpa menggantikan nilai-nilai sosial, budaya, dan kemanusiaan.

Daftar Pustaka (APA 7th Edition)

Albasrawi, B. (2026). AI’s human cost takes center stage in Riyadh. Arab News.

Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the dangers of stochastic parrots: Can language models be too big? Proceedings of the ACM Conference on Fairness, Accountability, and Transparency, 610–623. https://doi.org/10.1145/3442188.3445922

Floridi, L., & Cowls, J. (2022). A unified framework of five principles for AI in society. Harvard Data Science Review, 4(1). https://doi.org/10.1162/99608f92.8cd550d1

UNESCO. (2021). Recommendation on the Ethics of Artificial Intelligence. United Nations Educational, Scientific and Cultural Organization.

UNESCO. (2022). Artificial Intelligence and Ethics: Human Rights, Democracy and the Rule of Law. United Nations Educational, Scientific and Cultural Organization.

World Economic Forum. (2025). Global Risks and Opportunities of Artificial Intelligence. World Economic Forum.