Jakarta – Jawaban kecerdasan artifisial atau Artificial Intelligence (AI) sering kali terlihat meyakinkan. Susunan kalimatnya sistematis, argumentasinya tampak logis, bahkan mampu menyertakan referensi dan kutipan hukum. Namun, apakah semua yang dihasilkan AI benar-benar dapat dipercaya?
Pertanyaan tersebut menjadi salah satu perhatian Windy Gambetta dari Kelompok Keahlian Informatika, Sekolah Teknik Elektro dan Informatika (STEI) Institut Teknologi Bandung (ITB) sekaligus Pusat AI ITB, dalam kegiatan Pelatihan Mahkamah Agung pada 26 Oktober 2026. Dalam presentasinya bertajuk “Artificial Intelligence dan Perubahan Lanskap Peradilan”, Windy menguraikan sejumlah kelemahan mendasar AI yang perlu dipahami, khususnya oleh para hakim.
Salah satu hal penting yang ditekankan adalah bahwa AI tidak secara otomatis mengetahui hukum yang mutakhir, isi berkas perkara, maupun sumber hukum yang autentik. AI menghasilkan jawaban berdasarkan pola statistik yang dipelajari dari data pelatihannya dan instruksi yang diberikan pengguna. Karena itu, kefasihan dalam memberikan jawaban tidak selalu berbanding lurus dengan kebenaran informasi yang disampaikan.
Baca Juga: Ketika AI Bisa Memalsukan Bukti dan Putusan, Hakim Dituntut Semakin Kritis
Windy mengidentifikasi lima risiko utama dalam penggunaan AI, yakni hallucination, fabricated citation, informasi usang, bias data, dan overreliance.
Pertama, hallucination, yaitu kondisi ketika AI menghasilkan informasi yang keliru atau tidak memiliki dasar faktual, tetapi menyampaikannya seolah-olah benar. Dalam pekerjaan hukum, kondisi ini berpotensi menimbulkan kesalahan ketika AI diminta menjelaskan suatu ketentuan hukum, merangkum perkara, atau menguraikan fakta yang tidak terdapat dalam dokumen sumber.
Kedua, fabricated citation atau referensi palsu. AI dapat menghasilkan nomor putusan, kutipan peraturan, maupun referensi hukum yang terlihat valid, padahal sumber tersebut sebenarnya tidak pernah ada. Hal ini menjadi persoalan serius apabila hasil AI digunakan dalam penelitian hukum, penyusunan pertimbangan, maupun dokumen yang berkaitan dengan proses peradilan tanpa pemeriksaan terhadap sumber aslinya.
Ketiga, informasi usang. AI tidak selalu mampu menyajikan perkembangan hukum paling mutakhir. Perubahan peraturan perundang-undangan, pencabutan ketentuan, maupun perkembangan putusan pengadilan dapat menyebabkan informasi yang dihasilkan tidak lagi sesuai dengan hukum yang berlaku.
Keempat, bias data. AI sangat bergantung pada data yang digunakan dalam proses pengembangannya. Apabila data yang dipelajari mengandung ketimpangan atau bias, hasil yang diberikan juga berpotensi mereproduksi bias tersebut. Akibatnya, rekomendasi AI tidak selalu mencerminkan keadaan secara objektif.
Kelima, overreliance, yakni ketergantungan yang berlebihan terhadap hasil AI. Kemudahan dan kecepatan memperoleh jawaban dapat membuat pengguna mengurangi proses pemeriksaan dan penalaran secara mandiri. Dalam lingkungan peradilan, kondisi ini perlu diwaspadai karena penilaian terhadap fakta, alat bukti, dan penerapan hukum tidak dapat diserahkan begitu saja kepada sistem algoritma.
Kelemahan tersebut juga berkaitan dengan karakteristik masing-masing jenis AI. Traditional AI dapat mengalami kesalahan klasifikasi dan bias karena bergantung pada kualitas data serta tugas yang dilatihkan. Generative AI dapat mengarang fakta dan sitasi, memberikan informasi yang tidak mutakhir, serta berpotensi membocorkan data rahasia. Sementara itu, Agentic AI memiliki risiko kesalahan berantai, tindakan yang tidak tepat, serta kesulitan dalam pengawasan dan pengendalian akses.
Lantas, bagaimana mengantisipasinya?
Dalam materi presentasinya, Windy menekankan tiga langkah pengamanan, yaitu melakukan verifikasi terhadap sumber primer, menjaga perlindungan data, dan menerapkan prinsip Human in The Loop. Prinsip terakhir menegaskan bahwa manusia tetap menjadi pihak yang memeriksa, mengendalikan, dan mengambil keputusan atas hasil yang dihasilkan AI.
Materi tersebut juga menyinggung pedoman yudisial Inggris yang secara khusus mengingatkan risiko kesalahan AI, bias, dan kerahasiaan informasi, sekaligus menekankan tanggung jawab pribadi pejabat yudisial atas materi yang dihasilkan atas namanya.
Sebagai penutup, Windy mengajukan lima pertanyaan reflektif sebelum seseorang menggunakan AI: apakah penggunaannya diizinkan, apakah data dan kerahasiaan terlindungi, dapatkah sumber dan hasilnya diverifikasi, adakah bias atau kesalahan maupun pengaruh berlebihan, serta apakah tanggung jawab dan keputusan tetap berada pada manusia?
Baca Juga: AI Tak Selalu Benar, Dari Salah Deteksi Bola hingga Ancaman Kekeliruan dalam Peradilan
Pesan tersebut menjadi penting bagi dunia peradilan. AI memang dapat mempercepat pekerjaan, membantu penelitian, dan mempermudah pengelolaan informasi. Namun, kecepatan bukanlah ukuran kebenaran, sebagaimana jawaban yang terdengar meyakinkan bukanlah jaminan bahwa isinya benar.
Bagi hakim, teknologi harus tetap ditempatkan sebagai alat bantu, bukan sumber kebenaran yang diterima tanpa pengujian. Sebab, ketika AI melakukan kesalahan, tanggung jawab profesional atas pekerjaan dan keputusan yang diambil tetap tidak dapat dialihkan kepada algoritma. (zm/wi)
Untuk Mendapatkan Berita Terbaru Dandapala Follow Channel WhatsApp : Info Badilum MA RI
