SinarHarapan.id – Transformasi digital yang berlangsung pesat di Indonesia telah menempatkan kecerdasan artifisial (AI) sebagai kekuatan utama dalam mengubah lanskap pendidikan, industri, dan kehidupan sosial. Namun, kemajuan ini juga membawa tantangan krusial, mulai dari risiko bias teknologi, ancaman terhadap lapangan kerja, hingga potensi melemahnya nilai-nilai kemanusiaan.
Ketergantungan Indonesia pada teknologi AI yang dikembangkan dengan nilai dan konteks negara lain menuntut pendekatan tata kelola yang berpijak pada Pancasila dan berpusat pada manusia, agar teknologi tidak mengalienasi masyarakat dari nilai dasarnya.
AI di Indonesia kini menghadapi dilema antara kemajuan teknologi dan pelestarian nilai-nilai kemanusiaan. Indriaswati Dyah Saptaningrum, Ph.D., peneliti senior ELSAM dan pakar tata kelola teknologi berbasis HAM, menegaskan bahwa pendekatan berbasis manusia bukan sekadar jargon, melainkan kebutuhan mendesak untuk mencegah teknologi menjauhkan manusia dari kemanusiaannya.
Konsep human-in-the-loop menjadi prinsip fundamental yang perlu diterapkan dalam setiap pengembangan AI. Pendekatan ini memastikan bahwa manusia tetap menjadi pengambil keputusan utama, bukan sekadar objek dari logika efisiensi mesin. Ini penting untuk mencegah AI memperdalam ketimpangan sosial atau menyingkirkan kelompok rentan dari proses pengambilan kebijakan digital, jika tidak dikembangkan dengan menjunjung keberagaman, hak asasi, dan keadilan.
Implementasi tata kelola AI yang berpusat pada manusia juga memerlukan kepekaan terhadap konteks sosial, budaya, serta nilai-nilai luhur bangsa yang tercermin dalam Pancasila. Tanpa landasan nilai yang kuat, adopsi teknologi AI berisiko menimbulkan disorientasi sosial yang dapat melemahkan identitas dan kedaulatan digital Indonesia.
Saat ini, Indonesia berada dalam posisi yang rentan akibat ketergantungan pada teknologi AI yang tidak lahir dari konteks lokal. Ketergantungan ini tidak hanya bersifat teknis, tetapi juga ideologis, karena nilai-nilai yang melekat pada teknologi tersebut belum tentu sesuai dengan realitas sosial dan budaya nasional.
Di sisi lain, kesenjangan kesiapan sumber daya manusia menjadi perhatian utama. Tanpa literasi digital, kesadaran etis, dan kapasitas kognitif yang memadai, pemanfaatan AI justru dapat menjadi bumerang bagi generasi mendatang. Hal ini menegaskan pentingnya investasi dalam penguatan kapasitas masyarakat sebagai syarat mutlak untuk memastikan adopsi AI yang bertanggung jawab dan dikelola oleh talenta dalam negeri.
Sebagai bagian dari Global South, Indonesia memiliki peluang membentuk aliansi strategis dengan negara-negara berkembang lain dalam merumuskan standar tata kelola AI yang inklusif. “Tata kelola AI harus mempertimbangkan posisi Indonesia sebagai bagian dari Global South dan berpijak pada konteks lokal, termasuk Pancasila,” kata Indriaswati, Selasa 28 Mei 2025.
Penguatan kapasitas masyarakat dan keterlibatan aktif masyarakat sipil, terutama kelompok rentan dan marjinal, perlu menjadi bagian dari setiap proses perumusan kebijakan AI. Hanya dengan cara ini Indonesia dapat naik kelas menjadi aktor strategis dalam ekosistem AI global, bukan sekadar pasar.
Kemajuan AI harus diarahkan untuk memperkuat ekosistem yang inklusif dan adil. Teknologi harus menjadi alat pemberdayaan, bukan penindasan. Prinsip human-in-the-loop, penguatan literasi digital, dan kebijakan inklusif merupakan fondasi utama yang perlu dibangun secara paralel. Kolaborasi erat antara pemerintah, akademisi, industri, dan masyarakat sipil menjadi kunci untuk menciptakan tata kelola AI yang berdaulat, adil, dan manusiawi.
Dengan merangkul kompleksitas sosial-budaya Indonesia dan berpijak pada nilai-nilai Pancasila, bangsa ini memiliki peluang untuk beralih dari sekadar konsumen menjadi pemain strategis dalam peta AI global.
