Artificial Intelligence Dan Tantangan Baru Hukum Administrasi Negara Kontemporer: Pembelajaran Dari Eu Artificial Intelligence Act

Penulis:

Dr. Hengki Andora, SH., LL.M.

Dosen Hukum Administrasi Negara Fakultas Hukum Universitas Andalas

Perkembangan teknologi kecerdasan buatan atau artificial intelligence telah membawa perubahan mendasar dalam cara pemerintahan bekerja. Administrasi negara tidak lagi hanya bertumpu pada keputusan tertulis yang dibuat secara manual oleh pejabat, tetapi juga mulai menggunakan sistem digital, algoritma, dan perangkat otomatis untuk membantu pengambilan keputusan, pemberian pelayanan, pengawasan, penilaian risiko, hingga penegakan hukum administratif. Dalam keadaan demikian, Hukum Administrasi Negara dihadapkan pada pertanyaan baru: bagaimana memastikan bahwa penggunaan teknologi oleh pemerintah tetap berada dalam koridor negara hukum, menghormati hak warga, serta tunduk pada asas legalitas dan asas-asas umum pemerintahan yang baik?

Pertanyaan tersebut menjadi semakin relevan apabila dibaca melalui artikel Oriol Mir berjudul The AI Act from the Perspective of Administrative Law: Much Ado About Nothing?. Artikel ini membahas EU Artificial Intelligence Act dari perspektif hukum administrasi. Secara umum, Mir menunjukkan bahwa meskipun AI Act pada mulanya dapat menimbulkan kekecewaan bagi ahli hukum administrasi karena tidak secara khusus disusun sebagai undang-undang administrasi pemerintahan digital, regulasi tersebut tetap merupakan langkah penting dalam mengatur penggunaan AI oleh otoritas publik. AI Act dinilai mampu menjawab sejumlah persoalan yang selama ini menjadi perhatian doktrin hukum administrasi, terutama berkaitan dengan otomasi keputusan administratif, transparansi, kualitas data, risiko diskriminasi, pengawasan manusia, serta hak warga untuk memperoleh penjelasan atas keputusan yang dipengaruhi oleh sistem AI.

Kekecewaan awal terhadap AI Act muncul karena regulasi ini tidak menggunakan pendekatan klasik Hukum Administrasi Negara. AI Act tidak memuat bab khusus yang secara komprehensif mengatur penggunaan AI oleh badan publik. Regulasi ini juga tidak menyusun katalog lengkap mengenai hak warga negara dan badan hukum yang terdampak oleh keputusan administratif berbasis AI. Beberapa isu penting dalam hukum administrasi, seperti dasar hukum penggunaan sistem otomatis, sifat hukum algoritma, akses terhadap kode sumber, tanggung jawab atas kerugian, pengujian yudisial, dan kedudukan penyedia teknologi eksternal, tidak diatur secara menyeluruh dalam satu kerangka hukum administrasi.

Sebaliknya, AI Act lebih banyak dibangun atas pendekatan keamanan produk dan perlindungan data pribadi. Sistem AI dipandang sebagai produk yang berpotensi menimbulkan risiko terhadap kesehatan, keselamatan, hak fundamental, demokrasi, dan negara hukum. Karena itu, regulasi ini menggunakan pendekatan berbasis risiko. Semakin tinggi risiko suatu sistem AI, semakin ketat pula persyaratan hukum yang harus dipenuhi. Pendekatan demikian memang tidak sepenuhnya identik dengan pendekatan hukum administrasi yang biasanya berfokus pada kewenangan, prosedur, tindakan pemerintahan, dan perlindungan hukum bagi warga. Namun, pendekatan berbasis risiko tetap penting karena penggunaan AI oleh pemerintah memang dapat menimbulkan akibat serius terhadap kehidupan warga negara.

Dalam konteks Hukum Administrasi Negara, arti penting AI Act justru tampak ketika regulasi ini mengatur sistem AI yang digunakan oleh otoritas publik dalam bidang-bidang berisiko tinggi. Sistem AI yang digunakan untuk urusan migrasi, suaka, pendidikan, ketenagakerjaan, bantuan sosial, layanan publik esensial, penegakan hukum, infrastruktur kritis, dan administrasi peradilan dapat berdampak langsung terhadap hak dan kepentingan dasar warga. Keputusan yang dihasilkan atau dipengaruhi oleh sistem tersebut dapat menentukan apakah seseorang memperoleh bantuan sosial, diterima dalam pendidikan tertentu, mendapatkan izin tinggal, memperoleh layanan publik, atau menjadi objek pengawasan negara. Oleh sebab itu, penggunaan AI dalam bidang-bidang tersebut tidak dapat diserahkan semata-mata kepada pertimbangan teknis, efisiensi birokrasi, atau kepentingan administratif internal pemerintah.

Pelajaran penting dari artikel tersebut adalah bahwa AI dalam pemerintahan harus dilihat sebagai persoalan hukum administrasi, bukan semata-mata persoalan teknologi. Ketika sistem AI digunakan untuk membantu atau memengaruhi keputusan pemerintahan, yang dipertaruhkan adalah legalitas tindakan pemerintahan, perlindungan hak warga, akuntabilitas pejabat, keterbukaan prosedur, dan efektivitas mekanisme keberatan atau gugatan. Dengan kata lain, teknologi tidak boleh menjadi ruang bebas hukum. AI hanya dapat digunakan sepanjang berada dalam batas kewenangan yang sah, digunakan untuk tujuan yang benar, dijalankan secara cermat, dan dapat dipertanggungjawabkan.

Salah satu isu penting yang ditekankan dalam artikel tersebut adalah persoalan tanggung jawab. Dalam pemerintahan digital, terdapat risiko bahwa pejabat atau badan pemerintahan bersembunyi di balik keluaran sistem AI. Keputusan yang merugikan warga dapat saja dijelaskan secara sederhana sebagai hasil sistem. Padahal, dalam perspektif Hukum Administrasi Negara, tanggung jawab pemerintahan tidak hilang hanya karena keputusan dibantu oleh teknologi. Badan atau pejabat pemerintahan tetap harus bertanggung jawab atas penggunaan sistem tersebut, termasuk atas kualitas data yang digunakan, tujuan pemrosesan, cara kerja sistem, dan akibat hukum yang ditimbulkan kepada warga.

Artikel tersebut juga menarik karena membedakan posisi otoritas publik sebagai penyedia (provider) dan sebagai pengguna (deployer) sistem AI. Apabila suatu badan pemerintahan mengembangkan sendiri sistem AI atau memesan sistem yang dirancang khusus oleh pihak ketiga, badan pemerintahan tersebut dapat dipandang sebagai pihak yang memikul tanggung jawab utama atas pemenuhan kewajiban hukum sistem tersebut. Sebaliknya, apabila pemerintah hanya menggunakan sistem yang telah tersedia di pasar, kedudukannya lebih dekat sebagai pengguna. Pembedaan ini penting dalam hukum administrasi karena mencegah terjadinya pengaburan tanggung jawab antara pemerintah dan penyedia teknologi. Dalam pengadaan sistem AI, pemerintah tidak boleh melepaskan tanggung jawabnya kepada kontraktor atau pengembang sistem semata.

Dari sudut pandang Hukum Administrasi Negara, penggunaan AI juga menuntut penguatan prinsip keterbukaan dan kewajiban memberikan alasan. Keputusan administratif yang dipengaruhi oleh AI tidak cukup dijelaskan dengan rumusan umum bahwa keputusan tersebut dibuat berdasarkan hasil analisis sistem. Warga yang terdampak harus dapat mengetahui peran sistem AI dalam proses pengambilan keputusan, alasan utama yang mendasari keputusan, serta hubungan antara data, parameter, hasil sistem, dan keputusan akhir. Dalam hal ini, hak atas penjelasan menjadi bagian penting dari perlindungan hukum administrasi. Hak tersebut berhubungan erat dengan asas keterbukaan, asas kecermatan, asas akuntabilitas, dan kewajiban pemerintah untuk memberikan alasan atas setiap keputusan yang menimbulkan akibat hukum bagi warga.

Aspek lain yang sangat relevan bagi Hukum Administrasi Negara kontemporer adalah pentingnya pengawasan manusia. AI dapat membantu mempercepat kerja pemerintahan, mengolah data dalam jumlah besar, mendeteksi risiko, atau memberikan rekomendasi keputusan. Namun, keputusan yang berdampak serius terhadap hak warga tidak boleh sepenuhnya diserahkan kepada mesin. Artikel tersebut menyoroti bahaya automation bias, yaitu kecenderungan manusia untuk terlalu percaya kepada hasil yang diberikan oleh sistem otomatis. Dalam praktik administrasi, hal ini dapat menyebabkan pejabat hanya menjadi pengesah formal atas keluaran sistem AI tanpa melakukan penilaian mandiri. Keadaan demikian berbahaya karena dapat mengurangi tanggung jawab pejabat dan melemahkan prinsip kecermatan dalam pemerintahan.

Oleh karena itu, pengawasan manusia tidak boleh dipahami secara simbolik. Pejabat yang menggunakan sistem AI harus memiliki kemampuan untuk memahami fungsi sistem, menilai kewajaran hasilnya, mengoreksi kesalahan, dan mengambil keputusan akhir secara bertanggung jawab. Dalam Hukum Administrasi Negara, AI seharusnya menjadi alat bantu administrasi, bukan pengganti pertimbangan hukum dan kebijaksanaan pemerintahan. Pejabat tetap wajib memastikan bahwa keputusan yang diambil telah memenuhi syarat kewenangan, prosedur, substansi, tujuan, proporsionalitas, dan perlindungan hak warga.

Artikel ini juga memberikan pembelajaran penting mengenai perlunya penilaian risiko sebelum sistem AI digunakan oleh pemerintah. AI Act menempatkan penilaian dampak terhadap hak fundamental sebagai salah satu instrumen penting dalam penggunaan sistem AI berisiko tinggi. Dalam konteks Indonesia, gagasan ini dapat dikembangkan menjadi kewajiban melakukan kajian dampak hukum dan administratif sebelum AI diterapkan dalam pelayanan publik atau pengambilan keputusan pemerintahan. Kajian tersebut seharusnya mencakup:

• dasar kewenangan
• tujuan penggunaan
• jenis data yang diproses
• potensi diskriminasi
• akurasi sistem
• dampak terhadap kelompok rentan
• mekanisme keberatan
• tanggung jawab apabila terjadi kesalahan

Pembelajaran tersebut sangat penting bagi pengembangan Hukum Administrasi Negara Indonesia. Digitalisasi pemerintahan tidak boleh hanya diletakkan dalam konteks efisiensi, percepatan pelayanan, atau inovasi birokrasi. Digitalisasi harus ditempatkan dalam konstruksi negara hukum administrasi. Artinya, setiap penggunaan sistem digital, termasuk AI, harus tetap tunduk pada prinsip legalitas, perlindungan hak, asas kecermatan, asas keterbukaan, asas tidak menyalahgunakan kewenangan, asas proporsionalitas, asas pelayanan yang baik, dan mekanisme pengawasan yang efektif.

Dalam konteks AAUPB, artikel ini memperlihatkan bahwa asas-asas umum pemerintahan yang baik tetap relevan, bahkan semakin penting, dalam pemerintahan berbasis AI. Beberapa asas tersebut antara lain:

1. Asas kecermatan mengharuskan pemerintah memastikan kualitas data dan keandalan sistem.
2. Asas keterbukaan menuntut agar warga diberi informasi yang memadai mengenai penggunaan AI.
3. Asas kepastian hukum menuntut adanya dasar hukum yang jelas.
4. Asas tidak menyalahgunakan kewenangan membatasi penggunaan AI.
5. Asas proporsionalitas mencegah pembatasan hak yang berlebihan.
6. Asas akuntabilitas memastikan keputusan dapat dipertanggungjawabkan.

Dengan demikian, AI tidak boleh dipahami sebagai wilayah teknis yang berada di luar hukum administrasi. Justru sebaliknya, AI menjadi objek baru yang harus dikendalikan oleh hukum administrasi. Jika sebelumnya Hukum Administrasi Negara terutama mengawasi tindakan pejabat, prosedur keputusan, dan penggunaan diskresi, maka dalam pemerintahan digital, pengawasan tersebut harus diperluas terhadap data, algoritma, desain sistem, kontrak teknologi, mekanisme audit, pencatatan log, dan hak warga untuk memperoleh penjelasan. Hukum Administrasi Negara kontemporer harus bergerak dari pengawasan terhadap tindakan administratif konvensional menuju pengawasan terhadap ekosistem keputusan administratif digital.

Pada akhirnya, artikel Oriol Mir memberikan pelajaran bahwa penggunaan AI oleh pemerintah dapat menjadi sarana untuk memperbaiki kinerja administrasi, tetapi hanya apabila ditempatkan dalam konstruksi hukum yang kuat. AI dapat meningkatkan efisiensi, akurasi, dan konsistensi pelayanan publik. Namun, tanpa pengaturan yang memadai, AI juga dapat memperbesar risiko kesewenang-wenangan, diskriminasi, ketertutupan, dan pengaburan tanggung jawab. Oleh sebab itu, tantangan utama Hukum Administrasi Negara kontemporer bukanlah menolak teknologi, melainkan memastikan bahwa teknologi digunakan secara sah, cermat, transparan, proporsional, dapat dijelaskan, dan dapat diawasi.

Dengan membaca artikel tersebut, dapat disimpulkan bahwa masa depan Hukum Administrasi Negara tidak dapat dilepaskan dari persoalan tata kelola AI. Pemerintah yang menggunakan AI tetap harus bertindak sebagai subjek hukum publik yang terikat oleh kewenangan, prosedur, tujuan hukum, dan perlindungan warga. Dalam negara hukum, teknologi tidak boleh menggantikan hukum. Teknologi harus tunduk kepada hukum, dan hukum administrasi harus memastikan bahwa setiap inovasi pemerintahan tetap berorientasi pada perlindungan hak, pembatasan kekuasaan, dan penyelenggaraan pemerintahan yang baik.

Referensi tambahan dapat dilihat pada: EU Artificial Intelligence Act