Kembali pada tahun 2015, lebih dari 1.000 akademisi mengirimkan surat terbuka yang menyerukan pelarangan “senjata otonom ofensif yang berada di luar kendali manusia.” Larangan belum terwujud, sama seperti “Tahukah Mereka Ini Natal?” mendapat liputan secara sporadis setiap beberapa tahun, surat terbuka lainnya telah keluar untuk bergabung dengan pembicaraan PBB untuk membahas masa depan senjata otonom.
Perjanjian ini lebih singkat dan jumlah penandatangannya lebih sedikit – mungkin karena tekanan waktu yang diperlukan untuk melakukan publikasi agar sesuai dengan perjanjian tersebut jadwal PBB sendiri, atau mungkin karena memulai perundingan dipandang sebagai kemenangan yang cukup bagi banyak orang akademisi. Bagaimanapun, kali ini ada 116 penandatangan dari 26 negara, termasuk pendiri Tesla Elon Musk (yang merupakan blak-blakan mengenai potensi bahaya AI) dan Mustafa Suleyman dari Google DeepMind – keduanya veteran dari surat terakhir.
Meskipun surat asli tahun 2015 menyerukan pelarangan langsung terhadap senjata otonom, surat baru tersebut tidak memberikan apa-apa, sehingga meninggalkan banyak imajinasi. “Kami tidak punya waktu lama untuk bertindak,” bunyi surat itu. “Jika kotak Pandora ini dibuka, akan sulit untuk ditutup. Oleh karena itu, kami memohon kepada Pihak-Pihak Peserta Agung untuk menemukan cara untuk melindungi kita semua dari bahaya ini.” Meskipun sulit memikirkan caranya melindungi kita dari bahaya senjata otonom yang tidak langsung dilarang, agak aneh jika surat tersebut tidak secara eksplisit menyerukan hal tersebut. satu.
Sebanyak 123 negara yang tergabung dalam konvensi internasional mengenai senjata konvensional melakukan pemungutan suara untuk membahas masalah ini secara formal senjata otonom pada bulan Desember lalu, meskipun pemerintah Inggris sebelumnya menolak gagasan senjata otonom lengkap melarang, menyatakan baru-baru ini pada tahun 2015 bahwa “kami tidak melihat perlunya pelarangan penggunaan undang-undang tersebut, karena hukum humaniter internasional telah memberikan peraturan yang memadai mengenai hal ini.”
Lihat terkait
Hanya ada sedikit alam semesta paralel di mana pembenaran seperti itu dapat digolongkan sebagai “meyakinkan”, tapi itulah kenyataannya. Perdebatan ini terus berlanjut, dan para ahli robotika berharap pandangan mereka diterima – jika tidak, mereka kemungkinan besar akan berkontribusi pada “revolusi peperangan ketiga” baik mereka suka atau tidak bukan.
Surat tersebut diterbitkan secara lengkap di bawah ini.
SURAT TERBUKA KEPADA KONVENSI PERSERIKATAN BANGSA-BANGSA TENTANG SENJATA KONVENSIONAL TERTENTU
Sebagai perusahaan yang mengembangkan teknologi Kecerdasan Buatan dan Robotika yang dapat digunakan untuk mengembangkan senjata otonom, kami merasa sangat bertanggung jawab dalam meningkatkan kewaspadaan ini. Kami dengan hangat menyambut baik keputusan Konferensi Konvensi Senjata Konvensional Tertentu (CCW) PBB yang membentuk Kelompok Pakar Pemerintah (GGE) mengenai Sistem Senjata Otonom yang Mematikan. Banyak peneliti dan insinyur kami yang ingin memberikan saran teknis untuk pertimbangan Anda.
Kami memuji penunjukan Duta Besar Amandeep Singh Gill dari India sebagai ketua GGE. Kami memohon kepada para Pihak Peserta Agung yang berpartisipasi dalam GGE untuk bekerja keras dalam menemukan cara untuk mencegah perlombaan senjata penggunaan senjata-senjata ini, untuk melindungi warga sipil dari penyalahgunaannya, dan untuk menghindari dampak-dampak yang mengganggu stabilitas dari teknologi-teknologi ini. Kami menyesalkan pertemuan pertama GGE, yang sedianya dimulai hari ini (21 Agustus 2017), dibatalkan karena sejumlah kecil negara gagal membayar kontribusi keuangan mereka kepada PBB. Oleh karena itu, kami mendesak para Pihak Peserta Agung untuk menggandakan upaya mereka pada pertemuan pertama GGE yang sekarang direncanakan pada bulan November.
Senjata otonom yang mematikan mengancam akan menjadi revolusi ketiga dalam peperangan. Setelah dikembangkan, hal ini akan memungkinkan konflik bersenjata terjadi dalam skala yang lebih besar dari sebelumnya, dan dalam jangka waktu yang lebih cepat dari yang dapat dipahami manusia. Ini bisa berupa senjata teror, senjata yang digunakan oleh penguasa lalim dan teroris terhadap masyarakat yang tidak bersalah, dan senjata yang diretas untuk berperilaku tidak diinginkan. Kami tidak punya waktu lama untuk bertindak. Sekali kotak Pandora ini dibuka, akan sulit untuk ditutup. Oleh karena itu kami memohon kepada Pihak-Pihak Peserta Agung untuk menemukan cara untuk melindungi kita semua dari bahaya-bahaya ini.
Gambar-gambar: Tentang Inovasi Dan DSC_0144 di bawah Creative Commons
