Komentar: Apa arti robot pembunuh untuk masa depan perang

MASA DEPAN KITA

Tapi bagaimana dengan senjata berkemampuan AI yang lebih canggih? Kampanye untuk Menghentikan Robot Pembunuh mencantumkan sembilan masalah utama dengan senjata otonom yang mematikan, dengan fokus pada kurangnya akuntabilitas, dan dehumanisasi bawaan dari pembunuhan yang menyertainya.

Meskipun kritik ini valid, larangan penuh senjata otonom yang mematikan tidak realistis karena dua alasan. Pertama, seperti ranjau, kotak pandora sudah dibuka. Juga garis antara senjata otonom, senjata otonom yang mematikan, dan robot pembunuh begitu kabur sehingga sulit untuk membedakannya.

Para pemimpin militer akan selalu dapat menemukan celah dalam kata-kata larangan dan menyelundupkan robot pembunuh ke dalam layanan sebagai senjata otonom pertahanan. Mereka bahkan mungkin melakukannya tanpa sadar.

Kami hampir pasti akan melihat lebih banyak senjata berkemampuan AI di masa depan. Tapi ini tidak berarti kita harus melihat ke arah lain. Larangan yang lebih spesifik dan bernuansa akan membantu menjaga akuntabilitas politisi, ilmuwan data, dan insinyur kita.

Misalnya, dengan melarang AI kotak hitam, sistem di mana pengguna tidak memiliki informasi tentang algoritme di luar input dan output, serta AI yang tidak dapat diandalkan, sistem yang telah diuji dengan buruk (seperti dalam contoh blokade militer yang disebutkan sebelumnya).

Dan Anda tidak perlu menjadi ahli AI untuk memiliki pandangan tentang senjata otonom yang mematikan. Tetap waspada terhadap perkembangan AI militer baru. Saat Anda membaca atau mendengar tentang AI yang digunakan dalam pertempuran, tanyakan pada diri Anda: Apakah itu dibenarkan? Apakah itu melestarikan kehidupan sipil? Jika tidak, libatkan komunitas yang bekerja untuk mengontrol sistem ini. Bersama-sama, kita memiliki peluang untuk mencegah AI melakukan lebih banyak kerugian daripada kebaikan.

Jonathan Erskine adalah Mahasiswa PhD, Interactive AI, University of Bristol, sedangkan Miranda Mowbray adalah Dosen Interactive AI di universitas yang sama. Komentar ini penampilan pertama dalam Percakapan.

Posted By : nomor hk hari ini