PBB Bahas Regulasi Drone Tempur AI: Menjaga Inovasi dan Risiko

Pada 12 Mei 2025, Perserikatan Bangsa-Bangsa menggelar sesi informal mengenai kebutuhan mendesak untuk mengatur penggunaan sistem senjata otonom, termasuk drone tempur AI. Pertemuan ini dihadiri oleh delegasi dari lebih 120 negara anggota, organisasi non-pemerintah, badan kemanusiaan, serta perwakilan industri pertahanan. Tujuan utama adalah merumuskan langkah-langkah konkret untuk mencegah pelanggaran hukum humaniter dan meminimalkan risiko serangan yang tidak terkendali, di tengah pesatnya perkembangan teknologi senjata otonom.

Sekretaris Jenderal PBB, Antonio Guterres, dalam pesan video yang disiarkan pada hari pertama konsultasi menegaskan bahawa "mesin yang memiliki kuasa dan kebebasan untuk mengambil nyawa tanpa kendali manusia adalah secara politik tidak dapat diterima dan secara moral menjijikkan." Beliau menegaskan kembali seruan untuk menyelesaikan instrumen hukum yang mengikat pada tahun 2026 agar penggunaan drone tempur AI tetap berada di bawah kendali manusia. Guterres juga menyoroti perlunya kerangka hukum global untuk senjata otonom, yang dikenal sebagai Sistem Senjata Otonom Mematikan (Lethal Autonomous Weapons Systems - LAWS).

Dari sisi advokasi, Human Rights Watch dan kelompok Stop Killer Robots memperingatkan bahawa tanpa tekanan internasional yang kuat, industri pertahanan cenderung mengutamakan keuntungan teknologi tanpa mempertimbangkan implikasi kemanusiaan. Direktur kampanye Stop Killer Robots, Laura Nolan, menyatakan bahawa saat ini "tidak ada jaminan industri pertahanan akan mengatur diri sendiri secara memadai" dan menekankan pentingnya larangan terhadap sistem yang sepenuhnya otonom tanpa campur tangan manusia. Pernyataan ini menggarisbawahi lemahnya standar saat ini dalam mencegah potensi pelanggaran hak asasi manusia akibat kesalahan identifikasi target.

Di tingkat akademik, para peneliti menekankan prinsip-prinsip FATE (Keadilan, Akuntabilitas, Transparansi, Etika) sebagai landasan etika bagi pengembangan drone tempur AI. Sebuah laporan yang dipublikasikan pada Mei 2025 menambahkan elemen keterlacakan dan pengelolaan untuk memastikan setiap serangan dapat diaudit dan manusia tetap memegang kendali akhir. Rangkaian konsultasi PBB juga mencatat bahwa tanpa mekanisme audit yang kuat, risiko kesalahan fatal di medan tempur dapat mengakibatkan korban sipil yang lebih tinggi.

Beberapa negara, seperti Amerika Syarikat, Inggris, dan Perancis, telah mengembangkan pedoman nasional untuk menguji sistem otonom secara bertahap. Namun, mereka belum bersedia terikat pada aturan internasional yang mengikat. Rusia, China, dan India juga memilih untuk menekankan pedoman sukarela ketimbang perjanjian tertulis. Menurut laporan Reuters, meskipun kesiapan teknologi terus berkembang, kesepakatan global tertunda karena kepentingan strategis nasional yang saling bertentangan.

Sebagai respons, sejumlah anggota PBB mengusulkan protokol tambahan pada Konvensi Jenewa yang mencakup pendaftaran sistem senjata otonom, standar pengujian AI untuk medan tempur, serta kewajiban "manusia dalam lingkaran" untuk setiap tindakan mematikan. Rancangan protokol tersebut diperkirakan akan diajukan pada pertemuan resmi PBB berikutnya pada September 2025. Jika disetujui, ini akan menjadi langkah pertama komunitas internasional untuk mengikat penggunaan drone tempur AI dengan norma hukum internasional.

Praktik penggunaan drone berbasis AI telah terlihat di berbagai konflik, termasuk di Ukraine dan Gaza. Laporan menunjukkan bahawa Rusia dan Ukraine secara intensif menggunakan drone semi-otonom dalam operasi pengintaian dan serangan peluru kendali kecil. Sementara itu, Israel menggunakan sistem munisi menguntit yang mampu mengenali radar sasaran secara otomatis. Human Rights Watch memperingatkan bahawa dalam situasi konflik, algoritma dapat keliru mengidentifikasi sasaran, menimbulkan risiko pelanggaran hak asasi tanpa akuntabilitas yang jelas.

Kendala utama adalah ketimpangan kecepatan antara inovasi teknologi AI dan proses legislatif yang lambat. Praktik di lapangan sudah melampaui standar yang diusulkan oleh para pakar hukum dan etika. Tanpa kerangka pengawasan global, para ahli memperingatkan potensi eskalasi perlombaan senjata AI, yang pada akhirnya akan mempersulit kontrol internasional atas penggunaan drone tempur. Sesi informal ini diharapkan memicu momentum politik yang lebih kuat agar protokol awal dapat dirumuskan sebelum tenggat 2026.