AI DI MATA HUKUM
Menjaga Kedaulatan Manusia di Era Algoritma
Oleh: H. Lukman Fadlun
Bayangkan seseorang mengajukan kredit ke bank, tetapi permohonannya ditolak oleh sistem kecerdasan artifisial. Ia tidak mengetahui alasan penolakan tersebut.
Tidak ada penjelasan yang memadai, sementara keputusan itu berpengaruh terhadap rencana usaha dan kehidupannya. Kepada siapa ia harus meminta pertanggungjawaban? Kepada bank, pengembang teknologi, atau mesin yang menghasilkan keputusan?
Pertanyaan seperti ini semakin relevan seiring meluasnya penggunaan kecerdasan artifisial (Artificial Intelligence/AI) dalam kehidupan manusia. AI telah memasuki sektor perbankan, kesehatan, pendidikan, industri, pemerintahan, bahkan proses penegakan hukum.
Teknologi ini mampu mengolah data dalam jumlah besar, mengenali pola, menyusun prediksi, dan memberikan rekomendasi dalam waktu yang sulit ditandingi kemampuan manusia.
Namun, kemampuan teknis tersebut membawa persoalan serius bagi hukum. Sebab, keputusan yang dihasilkan atau dibantu AI dapat memengaruhi hak, kebebasan, kesempatan ekonomi, bahkan masa depan seseorang.
Persoalan mendasarnya bukan lagi sekadar bagaimana AI bekerja, melainkan siapa yang harus bertanggung jawab apabila teknologi tersebut menghasilkan keputusan yang merugikan manusia.
Pertanyaan ini menyentuh inti negara hukum kekuasaan harus memiliki batas, keputusan harus dapat diuji, dan setiap tindakan yang menimbulkan akibat hukum harus memiliki pihak yang bertanggung jawab.
AI dan Persoalan Pertanggungjawaban Hukum
Selama berabad-abad, sistem hukum dibangun dengan menempatkan manusia dan badan hukum sebagai subjek yang dapat memiliki hak serta kewajiban. Hakim menjatuhkan putusan, pejabat menetapkan kebijakan, bank menentukan pemberian kredit, dan pemerintah mengambil keputusan berdasarkan kewenangan yang diberikan undang-undang.
AI mengubah pola pengambilan keputusan tersebut. Sistem algoritma kini dapat membantu menyeleksi penerima bantuan sosial, menilai kelayakan kredit, menganalisis rekam medis, memetakan potensi tindak pidana, hingga menyaring pelamar pekerjaan.
Dalam teori hukum, AI belum dapat diperlakukan sebagai subjek hukum yang memiliki kehendak, kesadaran moral, dan kemampuan memikul tanggung jawab sebagaimana manusia atau badan hukum. AI merupakan sistem teknologi yang dirancang, dikembangkan, dimiliki, dan digunakan oleh manusia atau organisasi.
Karena itu, memberikan status badan hukum kepada AI, sebagaimana pernah diwacanakan melalui konsep electronic personhood, bukan jawaban yang tepat untuk menyelesaikan persoalan pertanggungjawaban.
Pendekatan tersebut justru berisiko membuka ruang bagi pengembang atau pengguna teknologi untuk mengalihkan kesalahan kepada mesin.
Hukum harus memastikan bahwa tanggung jawab tetap melekat pada pihak yang memiliki kendali dan kewajiban dalam penggunaan teknologi tersebut.
Saya memandang pendekatan pertanggungjawaban berjenjang (layered liability) lebih rasional untuk diterapkan.
Pengembang bertanggung jawab terhadap desain, keamanan, pengujian, dan kualitas sistem yang dibuat. Penyedia layanan wajib memastikan sistem berfungsi sesuai standar serta memberikan informasi yang memadai mengenai risiko penggunaannya.
Sementara itu, organisasi atau pengguna akhir yang memanfaatkan AI untuk mengambil keputusan tetap harus bertanggung jawab atas keputusan yang berada dalam kewenangannya.
Pembagian tanggung jawab ini tentu harus mempertimbangkan tingkat kendali, kewajiban hukum, kesalahan, dan hubungan sebab akibat dalam setiap perkara. Tidak semua kesalahan otomatis dibebankan kepada pengembang, sebagaimana tidak semua risiko dapat dialihkan kepada pengguna.
Prinsip yang harus dipegang jelas: tidak boleh ada pihak yang menghindari tanggung jawab hukum hanya dengan alasan bahwa keputusan tersebut dihasilkan oleh algoritma.
Saat Algoritma Menjadi Kotak Hitam
Persoalan berikutnya adalah transparansi. Banyak sistem AI modern menggunakan model komputasi yang kompleks sehingga proses pembentukan suatu rekomendasi atau prediksi tidak mudah dipahami, bahkan oleh sebagian penggunanya sendiri. Kondisi ini sering disebut black box.
Masalahnya menjadi serius apabila hasil pemrosesan AI digunakan untuk menentukan nasib seseorang.
Bagaimana seseorang dapat membantah keputusan yang tidak dijelaskan? Bagaimana hakim menguji sebuah keputusan apabila dasar pertimbangannya tidak dapat ditelusuri? Bagaimana masyarakat mengawasi kebijakan publik apabila pemerintah terlalu bergantung pada sistem otomatis yang tertutup?
Negara hukum tidak boleh membiarkan keputusan yang berdampak pada hak warga negara berjalan tanpa penjelasan dan mekanisme pengujian.
Pemikiran Lon L. Fuller mengenai inner morality of law atau moralitas internal hukum relevan untuk membaca persoalan tersebut.
Hukum harus memenuhi prinsip-prinsip yang memungkinkan masyarakat memahami aturan, mengetahui konsekuensinya, dan memperkirakan tindakan yang diperbolehkan maupun dilarang.
Prinsip ini dapat menjadi pijakan dalam mengatur penggunaan AI. Setidaknya ada tiga persyaratan yang harus diperhatikan.
Pertama, explainability (kemampuan menjelaskan). Keputusan AI yang berdampak signifikan terhadap hak seseorang harus disertai penjelasan yang dapat dipahami.
Penjelasan tersebut tidak harus membuka seluruh rahasia dagang atau kode sumber, tetapi harus cukup untuk menerangkan faktor utama yang memengaruhi keputusan.
Kedua, auditability (kemampuan diaudit). Sistem AI harus memiliki dokumentasi, rekam jejak, dan mekanisme pemeriksaan yang memungkinkan pihak berwenang melakukan audit secara independen. Pemeriksaan diperlukan untuk mengetahui apakah sistem bekerja sesuai tujuan, menggunakan data yang layak, serta mengandung bias atau diskriminasi.
Ketiga, contestability (hak untuk menggugat). Setiap orang yang dirugikan oleh keputusan otomatis harus memiliki akses untuk mengajukan keberatan dan memperoleh pemeriksaan yang layak. Untuk keputusan yang berdampak serius terhadap hak seseorang, harus tersedia peninjauan manusia yang memiliki kewenangan untuk mengoreksi atau membatalkan keputusan tersebut.
Ketiga prinsip ini penting agar algoritma tidak berubah menjadi sumber kekuasaan yang sulit diawasi.
Konstitusi Indonesia dan Perlindungan Hak Warga Negara
Indonesia memang belum memiliki undang-undang khusus yang mengatur AI secara komprehensif. Namun, bukan berarti pemanfaatan teknologi tersebut berada di luar jangkauan hukum. Konstitusi dan sejumlah undang-undang yang berlaku telah menyediakan landasan untuk mengatur sekaligus mengawasi penggunaannya.
Pasal 1 ayat (3) UUD 1945 menegaskan bahwa Indonesia adalah negara hukum. Ketentuan ini mengandung konsekuensi bahwa penyelenggaraan pemerintahan, termasuk penggunaan teknologi untuk menjalankan kewenangan publik, harus tunduk pada hukum.
Pasal 28D ayat (1) menjamin hak setiap orang atas pengakuan, jaminan, perlindungan, dan kepastian hukum yang adil serta perlakuan yang sama di hadapan hukum. Artinya, keputusan yang menggunakan AI tidak boleh menghilangkan hak warga negara untuk memperoleh perlakuan adil dan kepastian hukum.
Pasal 28G ayat (1) memberikan jaminan perlindungan terhadap diri pribadi, keluarga, kehormatan, martabat, dan harta benda. Ketentuan ini memiliki relevansi langsung dengan perlindungan privasi dan data pribadi dalam pemanfaatan teknologi digital.
Pasal 28F menjamin hak setiap orang untuk berkomunikasi dan memperoleh informasi. Sementara itu, Pasal 28J mengatur kewajiban menghormati hak orang lain serta kemungkinan pembatasan hak melalui undang-undang dengan tujuan yang sah dalam kehidupan bermasyarakat, berbangsa, dan bernegara.
Landasan konstitusional tersebut menunjukkan bahwa pemanfaatan AI harus ditempatkan dalam kerangka perlindungan hak asasi manusia dan kepentingan publik.
Salah satu instrumen hukum yang sangat penting adalah Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi (UU PDP).
Ada satu ketentuan yang patut mendapat perhatian khusus, yakni Pasal 10. Ayat (1) memberikan hak kepada subjek data pribadi untuk mengajukan keberatan terhadap tindakan pengambilan keputusan yang hanya didasarkan pada pemrosesan otomatis, termasuk pemrofilan, apabila keputusan tersebut menimbulkan akibat hukum atau berdampak signifikan terhadap dirinya.
Ketentuan ini sangat relevan dengan perkembangan AI. Artinya, hukum Indonesia sesungguhnya telah mengakui adanya risiko keputusan otomatis dan memberikan hak keberatan kepada warga negara.
Pengaturan ini harus diterjemahkan ke dalam mekanisme pelaksanaan yang efektif agar tidak berhenti sebagai jaminan normatif di atas kertas.
UU PDP juga mengatur hak subjek data pribadi, kewajiban pengendali dan prosesor data, dasar pemrosesan data, serta sanksi atas pelanggaran ketentuan pelindungan data pribadi.
Selain itu, Undang-Undang Informasi dan Transaksi Elektronik beserta perubahannya memberikan kerangka hukum bagi penyelenggaraan sistem elektronik dan aktivitas di ruang digital.
Dengan demikian, pengawasan terhadap AI dapat dan harus dilakukan melalui penerapan berbagai ketentuan hukum yang sudah berlaku, sembari menyiapkan regulasi yang lebih khusus.
Regulasi Global dan Pekerjaan Rumah Indonesia
Perkembangan pengaturan AI di dunia memperlihatkan bahwa negara-negara mulai bergerak dari sekadar membicarakan etika menuju pembentukan norma hukum yang lebih mengikat.
Uni Eropa mengambil langkah penting dengan menerbitkan Artificial Intelligence Act melalui Regulation (EU) 2024/1689. Regulasi tersebut mulai berlaku pada 1 Agustus 2024 dan menerapkan pendekatan berbasis risiko (risk-based approach).
Melalui pendekatan ini, sistem AI diklasifikasikan berdasarkan tingkat risiko yang ditimbulkan. Penggunaan AI yang memiliki potensi dampak serius terhadap keselamatan dan hak fundamental manusia dikenai persyaratan lebih ketat.
Sejumlah penggunaan dalam bidang ketenagakerjaan, pendidikan, layanan publik, dan penegakan hukum masuk dalam kategori berisiko tinggi sesuai kriteria yang ditetapkan regulasi tersebut.
EU AI Act juga mengatur kewajiban transparansi, dokumentasi, pengawasan manusia, manajemen risiko, dan tata kelola sistem AI. Penerapannya dilakukan secara bertahap, dengan sejumlah ketentuan mulai berlaku pada 2025 dan sebagian besar ketentuan umum berlaku sejak 2 Agustus 2026. Ketentuan tertentu mengenai sistem berisiko tinggi memiliki jadwal penerapan tersendiri.
Sementara itu, UNESCO telah mengadopsi Recommendation on the Ethics of Artificial Intelligence pada 23 November 2021. Rekomendasi ini menempatkan hak asasi manusia, martabat manusia, keadilan, transparansi, dan pengawasan manusia sebagai prinsip penting dalam pengembangan serta pemanfaatan AI. Indonesia termasuk dalam negara anggota UNESCO yang menjadi bagian dari kerangka rekomendasi tersebut.
Indonesia juga mulai membangun kerangka tata kelola AI secara lebih terarah. Kementerian Komunikasi dan Digital telah menyiapkan dua rancangan Peraturan Presiden, yakni RPerpres tentang Etika Kecerdasan Artifisial dan RPerpres tentang Peta Jalan Kecerdasan Artifisial Nasional 2026–2029.
Hingga informasi resmi yang tersedia pada Oktober 2026, kedua rancangan tersebut masih dalam proses menuju penetapan. Pemerintah sebelumnya menyampaikan bahwa pembahasan lintas kementerian telah diselesaikan dan rancangan tersebut menunggu penetapan Presiden.
Pemerintah juga menyatakan bahwa Perpres akan menjadi langkah awal sebelum penyusunan Undang-Undang AI yang lebih komprehensif.
Di sektor keuangan, Otoritas Jasa Keuangan telah menerbitkan Tata Kelola Kecerdasan Artifisial Perbankan Indonesia pada 29 April 2025. Pedoman ini memberikan acuan bagi industri perbankan dalam mengembangkan dan menerapkan AI secara bertanggung jawab, dengan memperhatikan akuntabilitas, transparansi, pelindungan data, pengelolaan risiko, dan prinsip kehati-hatian.
Perkembangan tersebut menunjukkan bahwa Indonesia telah memiliki sejumlah fondasi hukum dan kebijakan. Namun, pekerjaan rumahnya masih besar. Pemerintah perlu memastikan agar rancangan regulasi tidak berhenti pada pedoman etika dan peta jalan, melainkan berkembang menjadi sistem pengawasan yang memiliki kewenangan, mekanisme pengaduan, standar audit, serta konsekuensi hukum yang jelas.
Pancasila sebagai Dasar Tata Kelola AI Indonesia
Indonesia tidak harus menyalin seluruh pendekatan Uni Eropa, Amerika Serikat, maupun Tiongkok. Setiap negara memiliki karakter hukum, sistem politik, tingkat perkembangan teknologi, dan kepentingan masyarakat yang berbeda.
Indonesia memiliki landasan filosofis dan konstitusional sendiri, yaitu Pancasila.
Sila Ketuhanan Yang Maha Esa mengingatkan bahwa perkembangan teknologi harus tetap berada dalam kerangka tanggung jawab moral. Sila Kemanusiaan yang Adil dan Beradab menempatkan martabat manusia sebagai ukuran utama.
Sila Persatuan Indonesia menuntut agar pemanfaatan teknologi tidak memperlebar kesenjangan dan perpecahan. Sila Kerakyatan menegaskan pentingnya partisipasi serta pengawasan publik. Sementara itu, sila Keadilan Sosial menghendaki agar manfaat teknologi dapat dirasakan secara lebih merata.
Dari nilai-nilai tersebut, setidaknya terdapat lima prinsip yang perlu menjadi dasar tata kelola AI nasional.
Pertama, kedaulatan manusia. Keputusan yang menyangkut hak fundamental, kebebasan, dan nasib warga negara harus memiliki pengawasan manusia yang bermakna. AI boleh memberikan rekomendasi, tetapi kewenangan dan tanggung jawab hukum tidak boleh hilang dari pihak yang mengambil keputusan.
Kedua, perlindungan martabat manusia. Manusia tidak boleh diperlakukan semata-mata sebagai kumpulan data, angka statistik, atau probabilitas algoritma. Setiap orang memiliki hak untuk mendapatkan perlakuan yang adil dan dihormati martabatnya.
Ketiga, akuntabilitas hukum. Pengembang, penyedia, dan pengguna AI harus memiliki tanggung jawab yang jelas sesuai peran dan kewenangannya. Tidak boleh ada ruang untuk melempar kesalahan kepada sistem ketika terjadi kerugian.
Keempat, pelindungan data pribadi. Pengumpulan dan pemrosesan data harus memiliki dasar hukum, tujuan yang jelas, serta perlindungan yang memadai. Data pribadi tidak boleh digunakan secara sewenang-wenang demi kepentingan bisnis maupun kekuasaan.
Kelima, keadilan sosial. Pemanfaatan AI harus memperluas akses masyarakat terhadap pendidikan, kesehatan, pekerjaan, dan pelayanan publik. Pemerintah juga harus mengantisipasi diskriminasi algoritmik yang dapat merugikan kelompok masyarakat tertentu.
AI memiliki peluang besar untuk membantu pemerintah mendeteksi penyimpangan anggaran, meningkatkan layanan kesehatan, memperluas akses pendidikan, dan mempercepat pelayanan administrasi. Namun, setiap penggunaan tersebut harus memiliki batas hukum dan pengawasan yang jelas.
Teknologi yang semakin canggih tidak boleh menjadi alasan untuk memperluas pengawasan negara tanpa dasar hukum yang sah. Begitu pula perusahaan tidak boleh menjadikan algoritma sebagai alat untuk mendiskriminasi konsumen, pekerja, atau kelompok masyarakat tertentu.
Menjaga Manusia Tetap Berdaulat
Perdebatan mengenai AI sesungguhnya membawa kita kembali kepada pertanyaan mendasar tentang kekuasaan. Siapa yang mengendalikan teknologi? Siapa yang menentukan batas penggunaannya? Dan siapa yang bertanggung jawab ketika teknologi tersebut merugikan manusia?
Pertanyaan itu tidak dapat dijawab hanya dengan kecanggihan perangkat lunak atau kecepatan pemrosesan data. Diperlukan hukum yang tegas, lembaga pengawasan yang berfungsi, serta kesadaran bahwa teknologi harus tunduk pada prinsip keadilan.
Negara hukum tidak boleh menyerahkan kewenangan publik kepada algoritma tanpa batas. Hakim tidak dapat melepaskan tanggung jawab putusannya kepada sistem AI. Pejabat pemerintah tidak boleh berlindung di balik rekomendasi mesin ketika kebijakannya merugikan masyarakat. Perusahaan juga harus menjelaskan dan mempertanggungjawabkan penggunaan teknologi yang memengaruhi hak konsumen maupun pekerjanya.
Kecerdasan mesin mungkin terus meningkat. Kemampuannya mengolah informasi dan membuat prediksi bisa melampaui kemampuan manusia dalam banyak bidang. Namun, kecanggihan tersebut tidak dengan sendirinya memberikan legitimasi moral ataupun kewenangan hukum kepada mesin.
Ukuran kemajuan sebuah negara tidak cukup dilihat dari seberapa canggih teknologi yang dikuasainya. Ukuran yang lebih mendasar adalah kemampuannya memastikan bahwa teknologi bekerja dalam batas hukum, melindungi hak warga negara, dan tidak menggerus martabat manusia.
Algoritma boleh membantu manusia mengambil keputusan, tetapi hukum harus memastikan bahwa manusia tetap memegang kendali dan bertanggung jawab atas keputusan yang dibuatnya.
Itulah makna kedaulatan manusia di era algoritma.
Salam Akal Waras dari Banua.
Penulis Adalah Dosen Luar Biasa
