Kerajaan Australia melancarkan perundingan untuk menilai larangan AI "berisiko tinggi" - Cryptopolitan

Kerajaan Australia telah memulakan tempoh perundingan lapan minggu yang tidak dijangka yang bertujuan untuk menentukan sama ada alat kecerdasan buatan (AI) "berisiko tinggi" tertentu harus dilarang. Langkah ini mengikuti langkah serupa yang diambil oleh wilayah lain, termasuk Amerika Syarikat, Kesatuan Eropah, dan China, dalam menangani risiko yang berkaitan dengan pembangunan AI yang pesat.

Pada 1 Jun, Menteri Industri dan Sains Ed Husic melancarkan dua kertas kerja untuk semakan awam: satu mengenai "AI Selamat dan Bertanggungjawab di Australia" dan satu lagi mengenai AI generatif daripada Majlis Sains dan Teknologi Kebangsaan. Kertas kerja ini dikeluarkan bersama-sama tempoh perundingan yang akan kekal dibuka sehingga 26 Julai.

Kerajaan Australia mendapatkan maklum balas tentang strategi untuk mempromosikan "penggunaan AI yang selamat dan bertanggungjawab," meneroka pilihan seperti rangka kerja etika sukarela, peraturan khusus atau gabungan kedua-dua pendekatan. Terutama, perundingan secara langsung bertanya sama ada aplikasi atau teknologi AI berisiko tinggi tertentu harus diharamkan sepenuhnya dan mendapatkan input mengenai kriteria untuk mengenal pasti alat tersebut.

Kertas perbincangan komprehensif termasuk draf matriks risiko untuk model AI, mengkategorikan kereta pandu sendiri sebagai "berisiko tinggi" dan alat AI generatif untuk mencipta rekod pesakit perubatan sebagai "risiko sederhana." Dokumen itu menekankan kedua-dua aplikasi positif AI dalam sektor seperti perubatan, kejuruteraan dan undang-undang, serta potensi bahaya yang dikaitkan dengan alat deepfake, penjanaan berita palsu dan kejadian di mana bot AI telah menggalakkan kecederaan diri.

Kerajaan Australia lwn AI

Kebimbangan mengenai berat sebelah dalam model AI, serta penjanaan maklumat karut atau palsu yang dikenali sebagai "halusinasi" oleh sistem AI, juga ditangani dalam kertas perbincangan. Ia mengakui bahawa penggunaan AI di Australia kini terhad disebabkan oleh tahap kepercayaan awam yang rendah. Makalah itu merujuk peraturan AI yang dilaksanakan di bidang kuasa lain dan larangan sementara Itali pada ChatGPT sebagai contoh.

Selain itu, laporan Majlis Sains dan Teknologi Kebangsaan menyerlahkan keupayaan berfaedah Australia dalam robotik dan penglihatan komputer tetapi mencatatkan kelemahan relatif dalam bidang teras seperti model bahasa yang besar. Ia menimbulkan kebimbangan tentang penumpuan sumber AI generatif dalam sebilangan kecil syarikat teknologi yang kebanyakannya berpangkalan di AS, yang menimbulkan potensi risiko untuk Australia.

Laporan itu seterusnya meneroka peraturan AI global, menyediakan contoh model AI generatif, dan mencadangkan bahawa model sedemikian berkemungkinan besar akan memberi kesan yang meluas ke atas sektor daripada perbankan dan kewangan kepada perkhidmatan awam, pendidikan dan industri kreatif.