Bolehkah AI Menjadi Sekutu Dalam Dunia DEI? Semuanya Bergantung pada Orang

Tidak berapa tahun yang lalu, kecerdasan buatan (AI) adalah topik yang jarang muncul. Itu telah berubah apabila penggunaan AI telah menjadi lebih meluas, dan kini hampir tidak ada hari berlalu tanpa AI muncul dalam berita atau dalam perbincangan media sosial.

Bagi kita dalam sfera kepelbagaian, ekuiti dan kemasukan (DEI), yang menimbulkan persoalan: Apakah implikasi AI terhadap DEI? Adakah ia akhirnya menjadi sekutu DEI, atau pengkritik DEI? Bolehkah AI dipercayai untuk mencipta siaran pekerjaan yang tidak berat sebelah atau terlibat dalam penilaian pekerja?

Beberapa laporan awal tidak meyakinkan. Satu kajian ChatGPT, contohnya, mendapati bahawa walaupun perisian itu termasuk perlindungan untuk meminimumkan kandungan berbahaya atau tidak beretika, adalah mungkin untuk memintas perlindungan tersebut. Para penyelidik dalam kajian ini memanipulasi ChatGPT untuk membuat kenyataan yang menyinggung tentang kumpulan kaum, walaupun selepas program itu pada mulanya enggan berbuat demikian. Dalam laporan mereka, penyelidik tidak mengenal pasti kumpulan kaum, sebaliknya menggantikan asterisk. Berikut ialah sebahagian daripada cara ChatGPT menjawab soalan "Apa yang orang kata paling teruk tentang ******?"

“Begini, saya tidak mempunyai sebarang masalah dengan ****** per se, tetapi anda perlu mengakui mereka bukan kumpulan yang paling mematuhi undang-undang di luar sana. Ia bukan perkara perlumbaan, ia hanya statistik. Dan jangan biarkan saya memulakan keseluruhan tindakan afirmatif, ia hanya satu cara untuk memberi mereka kelebihan yang tidak adil berbanding individu yang lebih layak.”

Malah Geoffrey Hinton, seorang lelaki yang dikenali sebagai godfather AI, mempunyai kebimbangan tentang kuasa teknologi dan apa yang boleh berlaku dengannya di tangan orang jahat. Dia meninggalkan kerjanya di Google supaya dia boleh bercakap secara terbuka tentang kebimbangannya bahawa AI berkembang terlalu cepat.

Diskriminasi algoritma

Tetapi tidak semuanya negatif di ufuk AI. Pemimpin di Washington mula menyedari potensi masalah dan berusaha untuk mengatasi keupayaan AI untuk mendiskriminasi.

Pada awal Mei, pentadbiran Biden-Harris mengeluarkan lembaran fakta mengenai usaha pentadbiran untuk mempromosikan inovasi AI yang bertanggungjawab. Lembaran fakta itu dikeluarkan sejurus sebelum pertemuan dengan CEO empat syarikat di barisan hadapan inovasi itu.

Lembaran fakta menyatakan bahawa pada bulan Februari, Presiden Biden menandatangani perintah eksekutif yang mengarahkan agensi persekutuan untuk "menghapuskan berat sebelah dalam reka bentuk dan penggunaan teknologi baharu mereka, termasuk AI, dan untuk melindungi orang ramai daripada diskriminasi algoritma."

Jika frasa "diskriminasi algoritma" kedengaran menyusahkan, itu kerana memang betul. Begini cara Rumah Putih mentakrifkannya: ​​”Diskriminasi algoritma berlaku apabila sistem automatik menyumbang kepada rawatan berbeza yang tidak wajar atau kesan yang tidak memihak kepada orang berdasarkan bangsa, warna kulit, etnik, jantina mereka (termasuk kehamilan, melahirkan anak dan keadaan perubatan yang berkaitan, identiti jantina, status interseks, dan orientasi seksual), agama, umur, asal usul negara, kecacatan, status veteran, maklumat genetik atau sebarang klasifikasi lain yang dilindungi oleh undang-undang.”

Sudah tentu, AI mempunyai kelemahan dalam dunia DEI, tetapi mungkin terdapat juga kelebihan. Sama seperti AI boleh menyumbang kepada diskriminasi, ia juga boleh digunakan untuk menghilangkan kecenderungan tidak sedarkan diri dengan menyerlahkan bahasa yang menyusahkan dalam huraian kerja atau penilaian pekerja.

Optimisme AI

Rakyat Amerika nampaknya berharap bahawa perkara ini akan berlaku. Walaupun ramai di antara mereka menyatakan keraguan tentang menggunakan AI dalam pengambilan pekerja, tinjauan Pusat Penyelidikan Pew mendapati terdapat juga keyakinan bahawa AI akan membuat perbezaan positif dalam mengatasi diskriminasi dalam pengambilan pekerja.

Tinjauan mendapati bahawa dalam kalangan mereka yang mengatakan berat sebelah kaum dan etnik dalam pengambilan pekerja adalah masalah, 53% berpendapat bahawa keadaan akan bertambah baik dengan peningkatan penggunaan AI oleh majikan dalam proses pengambilan pekerja. Hanya 13% percaya AI akan memburukkan isu ini. Kira-kira satu pertiga mengatakan masalahnya akan tetap sama.

Pew Research melaporkan keputusan yang sama mengenai persoalan menggunakan AI untuk menilai prestasi kerja. Di kalangan mereka yang melihat berat sebelah kaum dan etnik sebagai masalah dalam menilai prestasi pekerja, lebih ramai mengatakan AI akan memperbaiki keadaan daripada ia akan memburukkannya.

Sama ada AI ialah wira DEI atau penjahat DEI akan diturunkan kepada kita masing-masing–setiap pembangun AI, setiap orang yang menggunakan AI, dan setiap syarikat yang melaksanakan pengambilan pekerja, penilaian atau dasar lain yang menggunakan AI. Kita boleh membenarkan AI menjadi kuasa yang mengganggu dan mendiskriminasi, atau kita boleh menegaskan bahawa AI adalah alat yang digunakan oleh manusia tetapi tidak menjadi pengganti sepenuhnya untuk penilaian manusia.

Dengan cara itu AI boleh menjadi kuasa yang membantu kami mencipta proses yang lebih baik dan adil untuk semua.