Apakah Bahaya AI?

Tahun-tahun kebelakangan ini telah membawa inovasi pesat kepada teknologi kecerdasan buatan (AI). AI kini ditemui dalam pelbagai industri yang berbeza, dan semakin banyak syarikat sedang bereksperimen dengan memasukkan sistem AI ke dalam operasi perniagaan mereka untuk meningkatkan kecekapan, meluaskan jangkauan atau mengembangkan rangkaian produk dan perkhidmatan mereka. Selain itu, AI tidak pernah memegang tempat yang lebih menonjol di mata umum: pelaburan Microsoft $10 bilion dalam OpenAI, syarikat yang melancarkan chatbot ChatGPT pada akhir tahun 2022, dan cara sistem AI telah menarik perhatian dunia adalah yang terbaru. bukti penguasaan AI.

Tetapi apabila AI terus berkembang biak dan menjadi lebih luas dalam skop dan lebih berkuasa, terdapat juga pelbagai bahaya yang ditimbulkannya, daripada yang kecil kepada, berpotensi, yang wujud. Tidak semua ini berkemungkinan sama, sudah tentu, tetapi mereka tetap menjadi alasan untuk berhati-hati tentang teknologi baharu ini. Di bawah, kita melihat dengan lebih dekat beberapa daripada banyak bahaya AI.

Deepfakes dan Maklumat Salah

Deepfake ialah imej atau video tiruan yang dijana komputer yang meyakinkan. Perkataan "deepfake" mungkin berasal daripada istilah "pembelajaran mendalam" berkaitan AI, proses di mana beberapa sistem AI menganalisis sejumlah besar data untuk melatih diri mereka sendiri dan "belajar." Deepfakes adalah kebimbangan yang muncul dalam beberapa tahun kebelakangan ini.

Banyak deepfake mengandungi imej atau video selebriti, tetapi ia juga boleh digunakan untuk mencipta pelbagai jenis maklumat salah atau kandungan berniat jahat yang lain, daripada laporan berita yang mengelirukan kepada pornografi membalas dendam dan banyak lagi.

Potensi bahaya deepfakes adalah penting, dan ia mewakili salah satu contoh yang paling ketara bagi kategori risiko AI yang lebih luas: maklumat salah. AI boleh digunakan untuk mencipta dan berkongsi secara meluas bahan yang tidak betul tetapi kelihatan benar-benar meyakinkan. Terdapat pelbagai kesan sosial, politik dan undang-undang untuk deepfakes dan maklumat salah yang dijana AI yang lain, dan salah satu isu terbesar ialah pada asasnya tiada peraturan mengenai bahan ini.

Privasi

AI menggunakan sejumlah besar maklumat untuk melatih dirinya sendiri, dan maklumat ini biasanya terdiri daripada data sebenar daripada orang sebenar. Ini sahaja membentuk potensi pencerobohan privasi. Dan terdapat contoh khusus sistem AI, termasuk penglihatan komputer dan alat pengecaman muka, antara lain, yang memberikan ancaman privasi yang lebih besar. Sistem AI boleh dilatih untuk mengenali wajah manusia individu, membolehkan mereka berpotensi mengawasi masyarakat dan mengawal tingkah laku manusia. Digunakan oleh pelakon jahat, program AI ini boleh memainkan peranan penting dalam penindasan masyarakat berskala besar atau lebih teruk.

Kehilangan Pekerjaan

Salah satu kebimbangan yang paling biasa tentang AI ialah ia akan membawa kepada automasi kemahiran dan proses yang sangat cekap sehingga ia membawa kepada penyingkiran pekerjaan manusia atau bahkan keseluruhan industri. Pada hakikatnya, pakar bercanggah tentang kemungkinan kesan AI terhadap pekerjaan. Satu kajian baru-baru ini mencadangkan kira-kira 85 juta pekerjaan boleh hilang disebabkan automasi AI antara 2020 dan 2025. Satu lagi mencadangkan bahawa AI boleh mewujudkan 97 juta pekerjaan baharu menjelang 2025.

Di satu pihak, AI sedang berusaha untuk mengautomasikan banyak tugas mudah yang digunakan dalam beberapa tetapan kerja: pertimbangkan bagaimana dorongan ke arah kenderaan autonomi boleh menimbulkan ancaman kepada tugas pemandu penghantaran, contohnya.

Sebaliknya, AI generatif—AI digunakan untuk mencipta kandungan baharu dan bukannya mengautomasikan tugasan sedia ada—mungkin mempunyai lebih banyak halangan sebelum ia boleh menimbulkan ancaman kepada pekerjaan manusia. Kedudukan ini selalunya memerlukan ciri-ciri unik manusia seperti empati dan kreativiti.

Sesetengah pakar percaya bahawa AI akan membawa kepada krisis pekerjaan, kerana pekerjaan yang menghapuskan dan pekerjaan yang diciptanya tidak akan bertindih dari segi set kemahiran. Pekerja yang dipindahkan daripada pekerjaan yang disingkirkan seperti contoh jawatan pemandu penghantaran di atas mungkin kurang berkemungkinan untuk memohon pekerjaan yang dijana AI, yang boleh dikaitkan dengan kemahiran dan pengalaman yang lebih khusus.

Bias, Diskriminasi dan Isu "Techno-Solutionism"

Masyarakat bertanggungjawab untuk melihat AI melalui lensa "techno-solutionism," kepercayaan bahawa teknologi adalah penawar-semua untuk pelbagai masalah apabila ia hanya alat. Adalah penting untuk kita ingat bahawa sistem AI tidak sempurna, dan sebenarnya ia boleh mencerminkan dan menguatkan banyak berat sebelah dan ketidakkonsistenan manusia yang sedia ada.

Semakin banyak sistem AI digunakan untuk isu yang melibatkan potensi berat sebelah dan diskriminasi, semakin besar masalah ini. Banyak syarikat sudah menggunakan AI untuk membantu mengisih dan memproses permohonan kerja. Walaupun AI mempunyai manfaat kerana dapat menganalisis lebih banyak aplikasi dalam masa yang sama yang boleh dilakukan oleh penyemak manusia, ini tidak bermakna ia bebas daripada berat sebelah. Sistem AI dalam kes ini mesti direka bentuk dan dipantau dengan sangat teliti untuk memastikan mereka tidak melayan sesetengah pemohon secara tidak adil.

Contoh dunia sebenar bagi situasi di atas datang pada tahun 2018, apabila Amazon berhenti menggunakan alat pengambilan proprietari selepas menjadi jelas bahawa sistem AI telah melatih data yang secara sistematik berat sebelah terhadap pemohon wanita.

Bias dan diskriminasi juga merupakan faktor berpotensi besar dalam algoritma pengesyoran yang ditemui pada enjin carian dan dalam media sosial. Program AI ini boleh dan berkemungkinan akan mengesahkan dan meningkatkan berat sebelah tanpa perancangan yang teliti.

Ketidaktentuan Kewangan

AI mempunyai potensi untuk meningkatkan sektor kewangan. Semakin banyak syarikat pelaburan bergantung pada AI untuk menganalisis dan memilih sekuriti untuk dibeli dan dijual. Ramai juga menggunakan sistem AI untuk proses sebenar membeli dan menjual aset juga. Algoritma perdagangan AI mendapat manfaat daripada kejelasan apabila penganalisis manusia mungkin dikaburkan oleh emosi. Tetapi mereka juga gagal mengambil kira kesan dan konteks masyarakat yang lebih luas. Pasaran bergantung pada tahap kepercayaan dan mudah dipengaruhi oleh ketakutan pelabur. Adalah mudah untuk membayangkan situasi di mana alat pelaburan AI yang bertujuan memaksimumkan keuntungan melibatkan diri dalam sejumlah besar pembelian dan penjualan dalam tempoh yang singkat, mencetuskan panik di kalangan peserta manusia dalam pasaran dan membawa kepada ranap kilat atau turun naik lain.

Ketunggalan

Mungkin ancaman terbesar yang ditimbulkan AI, walaupun yang paling kurang difahami, ada kaitan dengan apa yang dipanggil "Singularity," atau saat di mana kecerdasan buatan mengatasi kecerdasan manusia. Peralihan kritikal ini boleh menandakan masa di mana manusia tidak lagi dapat mengawal AI, dan AI menguasai cara masyarakat dicipta (atau dimusnahkan). Perbincangan tentang Singularity hampir sepenuhnya secara teori, kerana tiada siapa yang tahu dengan tepat apa yang boleh berlaku apabila AI terus menjadi lebih dan lebih berkuasa. Tetapi implikasi yang berpotensi boleh menjadi drastik, dan sesetengah pakar percaya Singularity malah boleh membawa kepada kepupusan umat manusia.

Apabila AI mengatasi kecerdasan manusia, ia mungkin mampu membangunkan idea yang tidak pernah difikirkan oleh manusia sebelum ini. AI super-manusia ini masih akan didorong untuk memperbaiki dirinya sendiri, sama seperti AI hari ini bertujuan untuk melakukannya, dan jurang antara AI yang sentiasa bertambah baik dan manusia akan berkembang dengan lebih cepat.

AI ini boleh memberi manfaat yang besar kepada masyarakat, mencari cara yang tidak dapat dilakukan oleh manusia untuk membasmi penyakit, kemiskinan, atau perubahan iklim. Sebaliknya, ia mungkin mendapati bahawa manusia tidak membantu matlamatnya dan memikirkan cara untuk memusnahkan masyarakat atau membunuh orang secara besar-besaran. Realitinya tidak diketahui, tetapi ia tidak sepenuhnya di luar kawalan kami. Pakar dalam futurisme teknologi seperti Ray Kurzweil percaya Singularity mungkin akan berlaku dalam dekad akan datang, manakala yang lain menjangkakan kita mungkin hanya beberapa tahun lagi. Ramai juga percaya bahawa cara manusia mencipta AI kini boleh memberi implikasi kepada potensi Singulariti apabila ia mungkin berlaku. Oleh itu, adalah lebih penting bahawa masyarakat menghadapi persoalan etika dan bahaya AI lebih awal daripada kemudian.

Lembaran Menipu

• Kecerdasan buatan (AI) ialah teknologi baharu yang dominan yang berpotensi untuk mengautomasikan, memaksimumkan kecekapan dan mengubah banyak industri.
• Semakin kuat AI menjadi, semakin banyak jenis ancaman yang ditimbulkannya.
• Beberapa bahaya utama AI termasuk maklumat yang salah (termasuk mencipta imej dan video palsu yang meyakinkan yang dikenali sebagai deepfakes), kebimbangan privasi, kehilangan pekerjaan, berat sebelah dan diskriminasi, ketidaktentuan pasaran dan kewangan, dan apa yang dipanggil singulariti di mana AI mengatasi manusia. kecerdasan.
• AI dijangka menjadikan kira-kira 85 juta pekerjaan usang antara 2020 dan 2025, tetapi ia juga dijangka mewujudkan 97 juta pekerjaan menjelang 2025.
• Sesetengah pakar percaya Singularity boleh berlaku dalam dekad yang akan datang, walaupun implikasi untuk peristiwa ini secara amnya tidak diketahui dan spekulatif.