Apakah Polisi Kemas Kini Pentagon Mengenai Robot Pembunuh?

Pentagon telah mengeluarkan satu kemas kini kepada Arahan 3000.09, yang meliputi apa yang mereka istilahkan Autonomi dalam Sistem Senjata dan yang lain memanggil 'robot pembunuh.' Dron semasa seperti Tentera Udara dan CIA MQ-9 Reapers dikendalikan oleh alat kawalan jauh: manusia duduk di hadapan skrin video mengenal pasti sasaran di darat beribu-ribu batu jauhnya, meletakkannya di garis silang dan melepaskan a peluru berpandu api neraka atau senjata lain. Senjata autonomi adalah berbeza: mereka memilih sasaran mereka sendiri tanpa campur tangan manusia. Peraturan yang jelas diperlukan tentang masa dan cara ia boleh digunakan, dan arahan baharu itu membawa mereka selangkah lebih dekat.

Sepuluh tahun yang lalu apabila versi pertama 3000.09 dikeluarkan, senjata autonomi kelihatan seperti fiksyen sains. Sekarang mereka sangat nyata. PBB mendakwa bahawa Drone yang dibekalkan Turki menyerang sasaran secara autonomi di Libya pada tahun 2020 dan Rusia kini mengerahkan amunisi berkeliaran di Ukraine dengan keupayaan autonomi.

Ramai aktivis, seperti Kempen Menghentikan Robot Killer, mahukan larangan langsung ke atas senjata autonomi, menegaskan mana-mana senjata jauh kekal di bawah kawalan manusia yang bermakna pada setiap masa. PBB telah membahaskan bagaimana untuk mengawal senjata sedemikian selama bertahun-tahun.

Walau bagaimanapun, seperti yang dijelaskan oleh arahan baru, Pentagon berpegang kepada garis yang berbeza.

"DoD telah secara konsisten menentang piawaian dasar 'kawalan manusia yang bermakna' apabila ia melibatkan kedua-dua sistem autonomi dan sistem AI," Gregory Allen, pengarah Projek Tadbir Urus AI di Pusat Pengajian Strategik dan Antarabangsa, memberitahu saya. “Istilah seni DoD yang diutamakan ialah 'tahap penilaian manusia yang sesuai,' yang mencerminkan fakta bahawa dalam beberapa kes – pesawat pengawasan autonomi dan beberapa jenis senjata siber autonomi, sebagai contoh – tahap kawalan manusia yang sesuai mungkin sedikit atau tiada. .”

Apakah senjata autonomi yang dibenarkan dalam keadaan apa? Allen percaya versi arahan sebelumnya adalah sangat tidak jelas sehingga tidak menggalakkan sebarang pembangunan di kawasan ini.

"Kekeliruan sangat berleluasa - termasuk di kalangan beberapa pemimpin kanan DoD - bahawa pegawai menahan diri daripada membangunkan beberapa sistem yang bukan sahaja dibenarkan oleh dasar, tetapi juga secara nyata dikecualikan daripada keperluan semakan kanan," kata Allen.

Tiada satu senjata pun telah diserahkan kepada proses semakan untuk senjata autonomi yang dibentangkan dalam 3000.09 asal dalam tempoh sepuluh tahun sejak ia diterbitkan.

Allen menulis sebuah esei tentang ini untuk CSIS tahun lepas, menerangkan empat bidang yang memerlukan kerja - mentakrifkan sistem senjata autonomi secara rasmi, menyatakan maksud "didayakan AI" untuk dasar itu, cara proses semakan akan mengendalikan model pembelajaran mesin latihan semula, dan menjelaskan jenis senjata yang perlu melalui proses semakan yang sukar.

"DoD telah melaksanakan kesemuanya," kata Allen.

Pada dasarnya, ini harus memastikan apa yang DoD istilahkan "komitmen yang kuat dan berterusan untuk menjadi pemimpin global yang telus dalam mewujudkan dasar yang bertanggungjawab mengenai penggunaan sistem autonomi ketenteraan."

Walau bagaimanapun, terdapat beberapa penambahan yang mungkin dilihat sebagai kelemahan, seperti pengecualian daripada semakan kanan untuk senjata autonomi yang mempertahankan dron yang tidak menyasarkan orang ('senjata anti-bahan') dan tetapi yang dibenarkan untuk menyasarkan peluru berpandu, dron lain. dan sistem lain yang berpotensi.

"Perkataan 'mempertahankan' sedang melakukan banyak kerja," Zak Kallenborn, felo dasar di Sekolah Dasar dan Kerajaan Schar di Universiti George Mason memberitahu saya. "Jika dron beroperasi di wilayah musuh, hampir semua senjata boleh ditafsirkan sebagai 'mempertahankan' platform."

Kallenborn juga menyatakan bahawa walaupun senjata autonomi yang berkesan seperti periuk api telah digunakan selama lebih satu abad, landskap berubah dengan cepat kerana kemajuan dalam AI dan pembelajaran mesin tertentu. Ini telah menimbulkan sistem yang sangat berkebolehan, tetapi secara teknikal rapuh – apabila mereka gagal, mereka gagal dengan hebat dalam cara yang tidak dilakukan oleh manusia, contohnya mengira penyu sebagai senapang.

"Autonomi melalui AI pastinya patut diberi perhatian lebih, memandangkan kerapuhan dan kekurangan kebolehjelasan pendekatan yang mendominasi pada masa ini," kata Kallenborn.

Kemas kini bukanlah yang besar. Tetapi ia menunjukkan komitmen berterusan Pentagon ke arah membangunkan senjata autonomi yang berkesan dan kepercayaan yang boleh mereka patuhi undang-undang kemanusiaan antarabangsa — membezakan orang awam daripada anggota tentera, berusaha untuk mengelak daripada mencederakan orang awam, dan hanya menggunakan kekerasan yang berkadar dan perlu.

Kempen percaya bahawa AI tidak akan memiliki pemahaman yang diperlukan untuk membuat pertimbangan moral semasa perang dan berisiko mewujudkan dunia di mana peperangan adalah automatik dan manusia tidak lagi terkawal. Yang lain percaya tentera AS akan melakukannya dikalahkan oleh lawan dengan senjata autonomi melainkan AI digabungkan pada tahap taktikal, dan terlalu banyak penglibatan manusia memperlahankan robot tentera.

Hujah itu mungkin berterusan walaupun senjata autonomi mula muncul, dan hasilnya akan diikuti dengan teliti. Sama ada cara, nampaknya robot pembunuh akan datang.