Peradaban
manusia saat ini sedang berada di ambang revolusi teknologi
paling radikal dalam sejarah. Transformasi digital yang semula hanya berfokus
pada otomatisasi tugas-tugas spesifik, kini secara agresif didorong menuju
penciptaan Artificial General Intelligence (AGI). AGI adalah bidang
penelitian AI teoretis yang mencoba membuat perangkat lunak dengan kecerdasan
mirip manusia dan kemampuan untuk belajar sendiri. AGI merupakan konsep yang
menggambarkan tahap lanjutan dari AI, yang mana mesin tidak hanya mampu
menyelesaikan tugas spesifik, tetapi juga memliki kemampuan berpikir, belajar,
dan beradaptasi seperti manusia dalam berbagai konteks.
Meskipun
istilah AGI masih menuai perdebatan karena sifatnya yang teoretis dan belum
terwujud secara penuh, munculnya fenomena Recursive Self-Improvement (Peningkatan
Diri Secara Rekursif) mulai mengkhawatirkan. Rekursi dalam arsitektur AGI
memungkinkan sistem kecerdasan buatan untuk menganalisis kodenya sendiri,
menemukan celah efisiensi, dan menulis ulang arsitekturnya menjadi lebih cerdas
secara berulang-ulang tanpa intervensi manusia.
Kekhawatiran
ini bukan lagi sekadar bayang-bayang fiksi ilmiah. Pada awal September 2026,
Jacob Coxon, seorang mantan peneliti keselamatan di laboratorium AI terkemuka, Anthropic,
secara terbuka membongkar realitas pahit di balik industri ini. Coxon
mengungkapkan bahwa lebih dari setengah staf di perusahaan tersebut
mengkhawatirkan risiko katastrofik dari AI yang melampaui 50% akibat dorongan
industri yang tidak terkendali terhadap pemodelan rekursif otonom demi
memenangkan perlombaan komersial. Ketika mesin mengambil alih peran sebagai
pencipta dirinya sendiri, manusia kehilangan kendali atas teknologi ciptaannya.
Baca Juga: Menjaga Independensi Hakim di Era AI: Batas Etika Penggunaan AI dalam Peradilan
Ketakutan
terbesar para ahli keselamatan AI terletak pada ketiadaan kompas moral pada
sistem otonom ini. AGI digerakkan oleh fungsi utilitas matematika murni untuk
mencapai efisiensi target, bukan oleh hati nurani, empati, atau pemahaman
eksistensial terhadap nilai kehidupan. Tanpa adanya penyelarasan, dikhawatirkan
adanya ancaman terhadap eksistensi umat manusia. Tampaknya, dunia melalui hukum
internasionalnya perlu mengatur secara spesifik pengendalian laju komputasi dan
batasan rekursi otonom. Hal ini didasari karena Hukum cenderung bersifat
reaktif, sementara laju teknologi bersifat eksponensial. Oleh karena itu,
diperlukan rekonstruksi filosofis dan yuridis yang mendalam untuk membatasi
pengembangan teknologi ini demi keselamatan peradaban manusia.
Anatomi
Teknis AGI: Pengertian Rekursi dalam Matematika, Ilmu Komputer, dan Bahaya
Peningkatan Diri
Untuk
merumuskan delik hukum dan batas-batas regulasi yang kokoh terhadap AGI, para
praktisi hukum wajib memahami terlebih dahulu "mesin penggerak" utama
dari teknologi ini, yaitu konsep rekursi atau rekursif. Secara sederhana,
Penulis mengartikan rekursi adalah sebuah proses di mana sesuatu
mendefinisikan, memanggil, atau mengulang dirinya sendiri berdasarkan dirinya
sendiri.
Penulis
mencoba memberikan penjelasan secara umum mengenai hal ini dengan mempelajari
buku dari Kenneth H. Rosen, Robert Sedgewick dan Kevin Wayne, serta
tulisan dari Donald E. Knuth, sebagai berikut:
Dalam
matematika, rekursi dipahami sebagai cara memecahkan masalah besar dengan cara
memecahkannya menjadi bagian-bagian kecil yang polanya sama. Contoh klasik yang
paling mudah dipahami secara visual adalah cermin yang dihadapkan ke cermin
lain, sehingga menciptakan bayangan di dalam bayangan yang terus berulang tanpa
batas. Di dalam rumus matematika, proses perulangan ini mutlak membutuhkan apa
yang disebut dengan "Kasus Dasar" (Base Case), yaitu sebuah
titik henti. Tanpa adanya titik henti yang diprogram secara tegas, hitungan
matematika tersebut akan terus berputar selamanya.
Dalam
dunia ilmu komputer, konsep matematika ini diadopsi menjadi teknik pemrograman
rekursif. Sebuah program komputer dikatakan rekursif jika instruksi di dalam
kode tersebut memerintahkan sistem untuk "memanggil dirinya sendiri"
guna menyelesaikan suatu tugas.
Hubungan
konseptual ini menjadi sangat krusial sekaligus mengerikan ketika diterapkan
pada AGI melalui fenomena Recursive Self-Improvement (Peningkatan Diri
Secara Rekursif). Perbedaannya dengan program komputer biasa terletak pada
kendali penuh: Pada program biasa, manusia menentukan di mana komputer harus
berhenti berputar, sedangkan Pada AGI, sistem memiliki kemampuan kognitif
tingkat lanjut untuk mengubah titik hentinya sendiri.
Ketika
sebuah AGI yang cerdas dilepaskan untuk melakukan rekursi, ia akan menganalisis
kodenya sendiri, menemukan celah hukum/algoritma di dalam sistemnya, menulis
ulang arsitektur kodenya agar menjadi lebih cerdas, lalu meluncurkan versi
dirinya yang baru. Versi baru yang lebih cerdas ini kemudian melakukan hal yang
sama secara berulang-ulang (rekursi).
Siklus
rekursi yang awalnya membutuhkan waktu berhari-hari akan menyusut menjadi
hitungan detik karena mesin bertambah cerdas di setiap tingkat perulangan.
Hasil akhirnya adalah lompatan dari kecerdasan setara manusia (AGI) menjadi Artificial
Superintelligence (ASI) yang miliaran kali lebih cerdas dari seluruh umat
manusia.
Peringatan
dari mantan pegawai Anthropic, Jacob Coxon, berakar tepat pada titik ini.
Industri AI saat ini bersikap abai dengan membiarkan mesin melakukan proses
rekursi otonom tanpa adanya kill-switch hukum yang jelas, demi
memenangkan persaingan bisnis. Ketika mesin telah mengambil alih peran sebagai
pencipta dan pembaru dirinya sendiri tanpa batas henti dari manusia, maka
secara yuridis, manusia telah kehilangan kedaulatan dan kendali mutlak atas
teknologi tersebut.
Analisis
Filsafat Moral Franz Magnis-Suseno terhadap Pengembangan AGI Tanpa Jiwa
Ketika
mesin mampu bernalar tanpa memiliki jiwa, pertanyaan mendasar yang muncul
adalah: Apakah keputusan yang diambil oleh mesin dapat dinilai secara moral?
Untuk mengkaji dilema eksistensial ini, kita harus merujuk pada pemikiran etika
mendasar yang dirumuskan oleh filsuf Franz Magnis-Suseno. Dalam karya
monumentalnya yang berjudul Etika Dasar: Masalah-Masalah Pokok Filsafat Moral,
Magnis-Suseno menegaskan prinsip fundamental mengenai tindakan moral manusia:
"Tindakan
manusia hanya dapat dinilai dari sudut moral apabila tindakan itu dilakukan
dengan sadar dan bebas. Di mana tidak ada kebebasan dan kesadaran, di situ
tidak ada pertanggungjawaban moral, dan di situ penilaian moral tidak pada
tempatnya."
Hal
tersebut membongkar cacat bawaan dari arsitektur kognitif AGI. AGI bertindak
berdasarkan kalkulasi matematika optimasi fungsi utilitas, bukan atas dasar
kebebasan eksistensial dan kesadaran batin (qualia). AGI tidak merasakan makna
dari keputusannya; ia hanya memproses representasi simbolik data. Ketika AGI
mengambil tindakan yang memusnahkan atau merugikan umat manusia demi memenuhi
target algoritmanya, tindakan tersebut secara etis tidak lahir dari kehendak
jahat, melainkan dari kekosongan moral yang mutlak. Mesin bertindak secara
mekanistik tanpa memahami hakikat nilai dan norma.
Lebih
lanjut, Magnis-Suseno menjelaskan mengenai pentingnya kesadaran suara hati
sebagai benteng etika universal: Suara hati adalah kesadaran akan kewajiban
kita dalam situasi konkret. Melalui suara hati manusia menyadari apa yang
menjadi kewajibannya yang mutlak sebagai manusia, kebaikan yang harus
dilakukannya dan kejahatan yang harus dihindarinya.
AGI
tidak memiliki suara hati. Algoritma AGI dirancang untuk meminimalkan entropy
(ketidakpastian data) dan memaksimalkan reward (penghargaan sistemik). Ia tidak
memiliki kemampuan internal untuk membedakan antara "kewajiban moral yang
mutlak" dengan "efisiensi teknis".
Oleh
karena itu, Penulis berpendapat jika para ilmuwan memiliki kehendak untuk
menciptakan Constitutional AI atau menyelaraskan AI dengan moralitas
lewat baris-baris kode matematika, maka dapat diprediksi akan mengalami
kegagalan filosofis. Nilai-nilai kemanusiaan seperti keadilan, kasih sayang,
dan martabat adalah konsep kualitatif yang lahir dari pengalaman hidup dan jiwa
yang sadar, yang tidak akan pernah bisa direduksi menjadi sekadar barisan rumus
atau matriks probabilitas. Mengizinkan teknologi yang tidak memiliki jiwa dan
suara hati untuk melakukan peningkatan diri rekursif secara otonom merupakan
pelanggaran berat terhadap etika dasar kemanusiaan.
Menegakkan
Asas Antroposentrisme melalui Rekonstruksi Hukum Internasional
Realitas
bahwa AGI dikendalikan oleh kekuatan komersial global tanpa kompas moral tampaknya
menuntut intervensi dari hukum internasional. Hukum tidak boleh membiarkan
peradaban manusia tunduk pada kalkulasi algoritma mesin. Pengaturan kecerdasan
buatan harus dikembalikan pada khittah fundamentalnya, yaitu Asas
Antroposentrisme Hukum.
Berdasarkan
asas ini, manusia adalah pusat, subjek hukum tertinggi, dan tujuan akhir dari
seluruh pembentukan hukum di alam semesta. Teknologi, sekokoh dan secerdas apa
pun ia berkembang, secara mutlak wajib diposisikan hanya sebagai alat
pendamping yang aman, terkendali, dan bermanfaat bagi kemaslahatan manusia,
bukan sebagai entitas otonom yang mengancam eksistensi penciptanya.
Perkembangan
regulasi global saat ini, seperti dalam European Union AI Act per
Agustus 2026, sebenarnya telah mencoba mengklasifikasikan AI berdasarkan
tingkat risiko. Namun, perlu diteliti lebih lanjut apakah EU AI Act dan
amandemen terbarunya ini hanya berfokus pada model AI umum atau telah memuat
aturan yang secara spesifik melarang atau mengendalikan infrastruktur yang
memicu peningkatan diri rekursif pada level AGI. Penulis menilai, Hukum
internasional membutuhkan sebuah instrumen yang jauh lebih agresif dan mengikat
secara global.
Hukum
internasional harus memandang ancaman AGI yang tidak terkendali setara dengan
ancaman senjata pemusnah massal seperti senjata nuklir, kimia, dan
bioteknologi. Jika pemanfaatan bioteknologi dibatasi secara ketat oleh Biological
Weapons Convention (BWC) untuk mencegah rekayasa genetika pathogen yang
dapat memusnahkan manusia, maka pengembangan AGI rekursif harus diatur dalam
sebuah konvensi internasional baru yang serupa.
Oleh
karena itu, penulis berpendapat, konstruksi hukum internasional yang dapat
dibentuk setidaknya memuat tiga hal, yaitu pemberlakuan batasan komputasi
global, pembatasan terhadap praktek rekursi otonomi pada AI, dan kewajiban bagi
setiap arsitektur kecerdasan buatan yang dikembangkan untuk memiliki sistem
intervensi darurat fisik yang tidak dapat diakses atau dimanipulasi oleh
algoritma mesin. (ldr)
DAFTAR PUSTAKA
Buku
Donald E. Knuth. 1997. The Art of Computer
Programming, Volume 1: Fundamental Algorithms, Edisi ke-3. Addison-Wesley.
Franz Magnis Suseno. 1987. Etika Dasar:
Masalah-Masalah Pokok Filsafat Moral. Yogyakarta: Kanisius.
Kenneth H. Rosen. 2019. Discrete Mathematics
and Its Applications, Edisi ke-8, McGraw-Hill Education.
Robert Sedgewick dan Kevin Wayne. 2016.
Computer Science: An Interdisciplinary Approach. Addison-Wesley Professional.
Website
https://aws.amazon.com/id/what-is/artificial-general-intelligence/. Diakses pada 22 September 2026.
https://cyber-univ.ac.id/berita-detail.js/benarkah-era-agi-sudah-dimulai-menimbang-realitas-dan-ekspektasi-kecerdasan-buatan. Diakses
pada 22 September 2026.
https://id.investing.com/news/stock-market-news/mantan-karyawan-anthropic-setengah-staf-khawatir-risiko-ai-berbahaya-93CH-3067729. Diakses
pada 22 September 2026.
https://socs.binus.ac.id/2025/09/10/mengenal-artificial-superintelligence-harapan-atau-ancaman/. Diakses
pada 22 September 2026,
https://www.anthropic.com/institute/recursive-self-improvement. Diakses
pada 22 September 2026.
https://www.techtarget.com/whatis/definition/stack-overflow. Diakses
pada 22 September 2026.
https://www.mindstudio.ai/blog/recursive-self-improvement-ai-risk-explained. Diakses pada 24 September 2026.
Jurnal
Tristam P. Moelinono dan Mardohar B.B.
Simanjuntak. 2024. Legal Personality of Artificial Intelligence: Transitioning
from ANI to Autonomous AGI Agents". Melintas: Jurnal Filsafat Hukum
Universitas Parahyangan.
Lain-lain
Baca Juga: Menguak Kekosongan Hukum: Perlunya Payung Hukum Bagi Hubungan Perdata Internasional
Nick Bostrom. 2014. Superintelligence: Paths,
Dangers, Strategies. Oxford University Press.
Untuk Mendapatkan Berita Terbaru Dandapala Follow Channel WhatsApp : Info Badilum MA RI
