Artificial Intelligence Dalam Autonomous Weapon Systems: Masalah Teknis atau Masalah Hukum?

Artikel ini membahas problematika hukum dalam pemanfaatan Artifficial Intelligence (AI). Dalam perkembangannya, AI telah menggantikan keberadaan manusia dalam berbagai bidang termasuk militer. Terdapat sebuah permasalahan ketika sebuah sistem senjata otonom atau Autonomous Weapon Systems (AWS) menggunakan AI sebagai pengganti operator selain manusia. AWS tidak dapat memenuhi prinsip pembedaan dan prinsip proporisionalitas yang diatur dalam pasal 51 ayat (1-3) dan ayat (5) Protokol Tambahan I 1977. Prinsip ini merupakan dua hal yang solid, karena berkaitan dengan kriteria kinerja teknis yang bergantung pada kinerja lapangan yang hanya bisa dilaksanakan oleh manusia. Meskipun AWS menggunakan sensor sebagai alat pembeda, namun hal tersebut tidaklah memberikan lagitimasi bahwa sistem senjata ini dapat menerapkan prinsip pembedaan. Sebuah serangan diskriminatif juga akan melanggar hukum jika tidak disesuaikan dengan prinsip proporsionalitas. Inilah letak penting peran manusia dalam mencegah adanya kerugian yang tidak diperlukan. Selain itu, penggunaan AI pada AWS juga telah membuat putusnya rantai tanggungjawab komando yang mensyaratkan adanya unsur atasan dan bawahan. Hal inilah yang tak dimiliki secara jelas antara AWS dan seorang komandan yang memberikan perintah untuk melakukan penyerangan. Untuk itu, diperlukan pengaturan yang secara khusus mengatur tentang AWS dalam bentuk konvensi baru atau penambahan protokol pada The United Nations Convention on Certain Weapon 1980 dengan tujuan untuk membatasi penggunaan AI supaya keberadaan manusia tetap ada dalam setiap penggunaan senjata.