Etika AI Dengan Berhati-hati Menilai Sama ada Menawarkan Hadiah Memburu Bias AI Untuk Menangkap Dan Menangkap Sistem Autonomi Sepenuhnya Yang Jahat Secara Beretika Adalah Berhemat Atau Sia-sia

Dikehendaki: Pemburu bias AI.

Itu mungkin iklan zaman moden yang anda akan mula lihat muncul di saluran media sosial dan membuat penampilan dalam pelbagai siaran kerja dalam talian. Ini adalah konsep atau peranan yang agak baru. Ia membawa kontroversi. Beberapa orang percaya yang bersemangat berhujah bahawa ia masuk akal dan sepatutnya berlaku selama ini, sementara yang lain agak gementar melakukan beberapa menggaru kepala yang serius dan tidak begitu pasti bahawa ini adalah idea yang baik.

Intipati peranan itu terdiri daripada menyingkirkan AI sebarang berat sebelah tersembunyi atau amalan diskriminasi yang tertanam. Untuk menyelamatkan datangnya AI yang bersemangat dan sama sekali memihak kepada pemburu. Mereka mungkin akan menjadi pemburu hadiah yang mahir komputer. Lebih-lebih lagi, diharapkan, mendalami kedalaman keupayaan AI.

Mempunyai senjata, akan mengembara, dan boleh melalui kemahiran menembak yang mahir AI berjaya mendedahkan kecenderungan AI yang tidak menyenangkan dan tidak diingini itu.

Ini menimbulkan pelbagai persoalan pelik tentang kepekaan untuk mengikuti taktik sedemikian apabila ia datang untuk menemui kecenderungan AI. Seperti yang akan saya bincangkan seketika, harap maklum bahawa kemunculan AI juga telah membawa bersamanya kemunculan bias AI. Semburan bias AI. Untuk liputan berterusan dan meluas saya tentang Etika AI dan AI Etika, lihat pautan di sini and pautan di sini, Hanya untuk menamakan beberapa.

Bagaimanakah kita dapat mengetahui bahawa sistem AI tertentu mempunyai berat sebelah?

Anda mungkin mempercayakan pembangun AI yang mencipta AI untuk berbuat demikian. Masalahnya, mereka mungkin terperangkap dalam bias sehingga mereka sendiri tidak dapat mengenali bias dalam AI rekaan mereka. Semuanya kelihatan baik bagi mereka. Atau mereka mungkin sangat teruja dengan AI dan mempunyai rasa bangga diri mengenainya sehingga perlu mengambil perhatian kritis untuk memeriksanya untuk kecondongan akan menjadi sukar dan sangat merugikan. Banyak sebab lain yang mungkin kelihatan melemahkan apabila pembangun AI mengambil tugas ini, termasuk kekurangan kemahiran untuk mengetahui kecenderungan yang tertanam, kekurangan masa dalam projek untuk melakukannya, dsb.

Baiklah, teruskan dan ambil perunding luar untuk melakukan kerja kotor untuk anda, seolah-olah. Ternyata perunding dengan senang hati akan meneliti AI anda untuk kecondongan, mengenakan bayaran yang lumayan kepada anda untuk berbuat demikian (banyak dan banyak sen). Sedar bahawa anda perlu membayar untuk mereka datang dengan pantas dengan sistem AI anda. Anda kemudiannya perlu meminta mereka membelek-belek, yang mungkin mengambil masa yang tidak terhitung banyaknya waktu kerja yang mahal. Menggunakan perunding adalah pilihan jika anda mempunyai bajet untuk itu.

Ke dalam "jurang" yang berpotensi tentang cara mencari bias AI yang berbahaya itu datangnya pemburu hadiah yang berani dan gagah bias AI.

Anda biasanya tidak membayar mereka terlebih dahulu. Mereka cuba mencari bias AI pada masa mereka sendiri dan perlu membayar bil mereka sendiri semasa mereka berbuat demikian. Hanya jika mereka berjaya mencari berat sebelah barulah mereka dibayar. Saya rasa anda boleh dengan mudah menegaskan bahawa dalam cara pemikiran yang sesuai, itulah definisi konvensional pemburu hadiah. Dapatkan bayaran jika anda berjaya. Jangan dibayar jika anda tidak berjaya. Tempoh, tamat cerita.

Program Bounty telah wujud sejak sekurang-kurangnya zaman orang Rom dan oleh itu kita mungkin menduga bahawa mereka berfungsi, setelah berjaya bertahan sebagai amalan selama bertahun-tahun ini.

Berikut ialah cebisan trivia sejarah yang menarik untuk anda. Dilaporkan, mesej yang disiarkan semasa Empayar Rom di bandar Pompeii mengisytiharkan bahawa pemburu hadiah diperlukan untuk mencari periuk tembaga yang hilang dari sebuah kedai kecil. Ganjaran untuk mendapatkan kembali periuk tembaga itu adalah hadiah yang mengagumkan iaitu enam puluh lima syiling gangsa. Maaf untuk mengatakan bahawa kami tidak tahu sama ada mana-mana pemburu hadiah menjumpai periuk tembaga dan menuntut syiling gangsa, tetapi kami tahu bahawa memburu hadiah pastinya berterusan sejak zaman purba itu.

Pada zaman yang lebih moden, anda mungkin sedar bahawa pada tahun 1980-an terdapat beberapa hadiah penting yang ditawarkan untuk mencari pepijat komputer atau ralat dalam pakej perisian luar rak dan kemudian pada tahun 1990-an Netscape dengan ketara menawarkan hadiah untuk mencari pepijat dalam pelayar web mereka (menjadi salah satu firma yang paling menonjol pada hari itu untuk berbuat demikian). Google dan Facebook masing-masing memilih untuk memburu pepijat bermula pada tahun 2010 dan 2013, masing-masing. Beberapa tahun kemudian, pada tahun 2016 malah Jabatan Pertahanan AS (DoD) telah mengambil tindakan dengan melakukan usaha anugerah “Hack the Pentagon” (perhatikan bahawa anugerah yang difokuskan secara umum adalah untuk pepijat yang ditemui dalam pelbagai laman web berkaitan DoD dan bukan dalam sistem kritikal misi pertahanan).

Mari kita gali dengan lebih mendalam topik bounty bug. Saya sedar bahawa saya terutamanya bertujuan untuk bercakap tentang bias AI dalam memburu hadiah dalam perbincangan ini, tetapi terdapat beberapa persamaan yang agak relevan dengan arena hadiah pepijat.

Ada yang berasa hairan bahawa mana-mana firma ingin menawarkan hadiah untuk mencari pepijat (atau, dalam kes ini, berat sebelah AI) dalam sistem mereka.

Pada zahirnya, ini kelihatan seperti jenis strategi "anda memintanya". Jika anda memberitahu dunia bahawa anda mengalu-alukan mereka yang mungkin cuba mencari lubang dalam perisian anda, ia nampaknya sama dengan memberitahu pencuri untuk pergi ke hadapan dan cuba memecah masuk ke dalam rumah anda. Walaupun anda sudah percaya bahawa anda mempunyai sistem penggera pencuri yang cukup baik dan tiada sesiapa yang boleh masuk ke rumah selamat anda, bayangkan anda bertanya dan merayu kepada pencuri supaya semua datang ke tempat kediaman anda dan lihat jika mereka boleh retak ke dalamnya. Oh, masalah yang kita tenun untuk diri kita sendiri.

Perkara yang sama boleh dikatakan tentang meminta pemburu hadiah untuk mencari berat sebelah dalam AI anda.

Pertama, ini mungkin membayangkan bahawa anda sudah percaya atau langsung tahu bahawa AI anda memang mempunyai berat sebelah. Itu adalah pengakuan tersirat yang mengejutkan secara terang-terangan yang nampaknya hanya sedikit yang sanggup melakukannya dan berpotensi menjadi bumerang.

Kedua, anda tidak tahu pasti apa yang mungkin dilakukan oleh pemburu hadiah itu. Mereka boleh memilih untuk memberitahu seluruh dunia bahawa mereka mendapati berat sebelah dalam AI anda. Seseorang menganggap ini mungkin kehilangan ganjaran, walaupun sesetengah mungkin menyukai perhatian atau bertujuan untuk meningkatkan status mereka untuk mendapatkan pertunjukan perundingan dan kemungkinan menjana pendapatan lain. Ia mungkin sepenuhnya altruistik. Ia mungkin satu bentuk aktivisme AI. Saya boleh teruskan.

Ketiga, mungkin terdapat perubahan licik pada keseluruhan urusan. Seorang pemburu hadiah yang mendakwa sedang mencari kecenderungan AI mungkin sedang mencari cara untuk menyerang sistem AI anda. Semuanya adalah sandiwara untuk akhirnya melakukan serangan siber yang teruk. Anda mungkin menganggap mereka cuba membantu, sedangkan mereka mempunyai kesalahan dalam hati mereka. Sedih, tetapi mungkin.

Keempat, kita boleh menjadi lebih licik tentang perkara ini. Seorang pemburu hadiah mendapati beberapa kecenderungan AI yang memalukan dan berpotensi mendorong tuntutan mahkamah. Hadiah ialah sejumlah dolar yang akan kami panggil X. Daripada menuntut hadiah itu, pemburu hadiah itu melakukan sejenis provokasi perisian tebusan yang ganjil. Jika anda membayar pemburu hadiah sebanyak sepuluh kali ganda X atau mungkin batas langit, mereka akan memberitahu anda tentang bias AI. Anda mempunyai masa sehingga Ahad malam pada tengah malam untuk menjawab. Selepas masa itu, bias AI akan didedahkan untuk dilihat oleh semua. Ya, kesusahan yang mengerikan untuk dilalui.

Kelima, yang terbaru ialah mereka yang dipanggil "godam untuk mengembalikan" penjahat siber yang selepas mencuri sekumpulan doh dalam talian, mereka memutuskan untuk bertaubat dan memulangkan beberapa harta rampasan haram yang mereka rampas. Syarikat yang mendapat sebahagian wangnya dipulangkan kemudiannya bersedia untuk mempertimbangkan baki jumlah yang dicuri sebagai ganjaran selepas fakta yang diberikan kepada pencuri. Nampaknya semua orang "menang" kerana sebahagian besar dana dikembalikan dan sementara itu pencuri siber tidak dikejar secara sah, ditambah pula dengan hadiah lanun untuk boot. Adakah ini berhemah atau secara licik mengekalkan perbuatan salah?

Saya sedar bahawa sesetengah daripada anda mungkin mengatakan bahawa tiada siapa yang patut mengeluarkan AI yang mempunyai sebarang berat sebelah di dalamnya. Itu seolah-olah menyelesaikan keseluruhan dilema ini sama ada untuk menggunakan pemburu hadiah bias AI atau tidak. Hanya jangan masukkan diri anda ke dalam situasi hadiah. Pastikan pembangun AI anda melakukan perkara yang betul dan tidak membenarkan bias AI ke dalam sistem AI mereka. Mungkin menggunakan perunding untuk melakukan semakan semula. Pada dasarnya, lakukan apa sahaja yang anda perlu lakukan untuk mengelak daripada memikirkan atau meminta pemburu hadiah bias AI itu datang ke meja.

Ya, itu kelihatan sangat masuk akal. Masalahnya ialah ia juga agak termenung. Kerumitan banyak sistem AI adalah sangat hebat sehingga cuba memastikan bahawa tiada satu auns bias AI yang muncul akan menjadi sukar untuk dilakukan. Selain itu, beberapa sistem AI sengaja direka untuk menyesuaikan dan "belajar" semasa ia berjalan. Ini bermakna bahawa pada satu masa akan datang AI yang anda cipta, yang pada mulanya kita berpura-pura bersih dan tanpa berat sebelah, mungkin cenderung ke arah mewujudkan berat sebelah (saya tidak bermaksud bahawa dalam cara antropomorfik, kerana saya akan menerangkan lebih lanjut semasa kita ikuti topik ini).

Mereka yang suka memburu hadiah untuk pepijat perisian cenderung untuk berhujah bahawa masuk akal untuk menawarkan hadiah sedemikian. Kita boleh mempertimbangkan rasional mereka dan melihat sama ada ia terpakai kepada alam bias AI juga.

Penyokong hadiah pepijat menekankan bahawa daripada cuba berpura-pura bahawa tidak ada sebarang lubang dalam sistem anda, mengapa tidak menggalakkan lubang ditemui, berbuat demikian dalam cara yang "terkawal"? Sebaliknya, tanpa usaha limpah kurnia sedemikian, anda hanya boleh berharap dan berdoa agar secara kebetulan tiada siapa yang akan menemui lubang, tetapi jika sebaliknya anda menawarkan hadiah dan memberitahu mereka yang menemui lubang bahawa mereka akan diberi ganjaran, ia menawarkan peluang untuk kemudian menopang lubang itu sendiri dan kemudian menghalang orang lain daripada mencarinya secara rahsia pada satu ketika nanti.

Perkara yang sama boleh dikatakan dalam kes penggunaan bias AI. Jika anda menawarkan hadiah yang mencukupi, diharapkan pemburu hadiah akan membawa penemuan bias AI kepada perhatian anda. Anda kemudiannya boleh mengatasi bias AI dengan cara yang agak tenang dan terukur. Ini mungkin menghalang masalah yang lebih besar dan lebih menakutkan di kemudian hari, iaitu orang lain mendapati kecenderungan AI dalam AI anda dan menjerit mengenainya ke langit yang tinggi.

Secara amnya, firma yang ingin membolehkan usaha memburu hadiah pepijat akan meletakkan Dasar Pendedahan Keterdedahan (VDP). VDP menunjukkan cara pepijat ditemui dan dilaporkan kepada firma, bersama-sama dengan cara ganjaran atau hadiah akan diberikan kepada pemburu. Biasanya, VDP memerlukan pemburu menandatangani Perjanjian Tanpa Pendedahan (NDA) supaya mereka tidak akan mendedahkan kepada orang lain apa yang mereka temui.

Tanggapan menggunakan NDA dengan pemburu hadiah mempunyai beberapa kontroversi. Walaupun mungkin masuk akal kepada syarikat yang menawarkan kurniaan untuk tidak mempedulikan pendedahan yang ditemui, ia juga dikatakan menyekat kesedaran keseluruhan tentang pepijat tersebut. Mungkin, jika pepijat perisian dibenarkan untuk dibincangkan, ia berpotensi membantu keselamatan sistem lain di firma lain yang kemudiannya akan meningkatkan pendedahan mereka. Sesetengah pemburu hadiah tidak akan menandatangani NDA, sebahagiannya disebabkan oleh keinginan orang ramai dan sebahagiannya kerana cuba menyembunyikan identiti mereka sendiri. Perlu diingat juga bahawa aspek NDA biasanya tidak timbul sehingga selepas pemburu mendakwa mereka telah menemui pepijat, dan bukannya memerlukannya terlebih dahulu.

Sesetengah VDP menetapkan bahawa NDA hanya untuk tempoh masa yang terhad, membolehkan firma mencari penyelesaian kepada lubang yang kelihatan dan kemudian selepas itu membenarkan pendedahan yang lebih luas mengenainya. Sebaik sahaja lubang itu dipalamkan, firma itu kemudiannya membenarkan longgarkan NDA supaya seluruh dunia dapat mengetahui tentang pepijat itu. Masa-untuk-penyelesaian yang biasa untuk pepijat yang diburu adalah sekitar 15-20 hari apabila firma ingin memasangkannya dengan segera, manakala dalam kes lain ia mungkin berlanjutan hingga 60-80 hari. Dari segi membayar pemburu hadiah, yang dipanggil masa untuk membayar, selepas lubang telah disahkan sebagai benar-benar wujud, bayaran hadiah dilaporkan cenderung dalam masa kira-kira 15-20 hari untuk keadaan yang lebih kecil dan sekitar 50-60 hari untuk contoh yang lebih besar (ini adalah petunjuk industri yang sentiasa berubah dan hanya disebut sebagai ilustrasi).

Adakah pemburu hadiah yang berat sebelah AI juga diminta untuk mengambil bahagian dalam VDP dan berurusan dengan NDA?

Anda boleh mendapat ya dan tidak untuk soalan itu. Ya, sesetengah firma harus melalui laluan itu. Tidak, anda mungkin tidak semestinya memilih untuk pergi ke laluan itu. Faktor termasuk saiz dan sifat AI, potensi sebarang pendedahan bias AI yang terlibat, dan sekumpulan pertimbangan etika, undang-undang dan perniagaan lain yang perlu ditanggung.

Saya mungkin menambah bahawa mewujudkan usaha memburu hadiah untuk AI berat sebelah AI anda adalah susunan yang lebih tinggi daripada yang anda mungkin andaikan pada pandangan awal.

Kami akan mulakan dengan kemungkinan besar bahawa anda akan terharu oleh pemburu hadiah berat sebelah AI.

Pada masa ini, anda akan sukar untuk mencari ramai yang mempunyai kad panggilan sedemikian. Tidak banyak di sekeliling. Ia adalah hari-hari Wild West dalam hal itu. Tetapi jika tanggapan tentang berat sebelah AI dalam memburu hadiah diterima, terutamanya apabila hadiah itu banyak dan banyak memberi ganjaran, anda boleh bertaruh bahawa semua orang akan menyelam ke dalam kolam renang memburu berat sebelah.

Adakah anda mahukan semua jenis riffraff mengejar bias AI dalam sistem AI anda? Anda akan mendapat beberapa pengambil yang sebenarnya pakar dalam perkara seperti ini. Anda akan mendapat pengambil lain yang amatur dan mungkin membuat huru-hara atau menangis serigala. Perkara seterusnya yang anda tahu, sesiapa sahaja yang boleh mengeja "Kecerdasan Buatan" akan datang untuk menggali dalam lombong emas sistem AI anda untuk ketulan emas berat sebelah AI yang berharga itu. Perlumbaan emas bermula. Itu mungkin tidak baik untuk anda.

Anda perlu meneliti penyerahan pemburu hadiah. Akan terdapat banyak "bising" dalam dakwaan yang dilaporkan, dalam erti kata bahawa banyak bias AI yang didakwa tidak wujud, walaupun pemburu hadiah menegaskan bahawa mereka menemui beberapa. Bayangkan berapa banyak tenaga kerja yang diperlukan oleh pasukan AI anda sendiri untuk memeriksa tuntutan hadiah, meneroka kesahihan setiap satu, dan kemudian berpotensi berulang-alik dengan pemburu hadiah mengenai sama ada emas ditemui atau tidak.

Ada yang berpendapat bahawa itu satu lagi sebab untuk melakukan semuanya sendiri. Anda mungkin tidak dapat tidak mendapati bahawa perkara limpah kurnia adalah lebih banyak masalah daripada yang sepatutnya.

Berikut adalah satu lagi soalan untuk direnungkan. Bagaimanakah pemburu hadiah akan mengetahui rupa kecenderungan AI? Pada asasnya, tanpa sedikit kemiripan apa yang perlu dicari, mana-mana batu berkilat boleh didakwa mempamerkan kecenderungan AI dalam lombong emas AI yang dilihat sedang digali.

Pada zaman Barat Lama, katakan anda menawarkan ganjaran untuk menangkap Billy the Kid (seorang penjahat terkenal). Jika anda berbuat demikian dan tidak menyertakan gambar rupa Billy, bayangkan bilangan pemburu hadiah yang mungkin menyeret masuk ke pejabat sheriff seseorang yang mereka harapkan atau sangkakan ialah Billy the Kid. Anda mungkin dibanjiri dengan Billy palsu. Ini adalah buruk kerana anda mungkin perlu melihat setiap satu, bertanya soalan yang menyelidik, dan cuba memastikan sama ada orang itu benar-benar Billy atau tidak.

Intinya ialah untuk menyediakan usaha kurniaan berat sebelah AI, anda adalah bijak untuk mencuba dan menjelaskan perkara yang anda anggap sebagai terdiri daripada berat sebelah AI. Ini memerlukan jenis penentukuran Goldilocks. Anda tidak mahu terlalu mengekang sehingga pemburu hadiah terlepas pandang kecondongan AI hanya kerana mereka tidak sesuai dengan definisi yang anda tetapkan, dan anda juga tidak mahu mereka menjerit "Eureka!" pada setiap potongan bias AI yang mungkin mereka temui.

Anda hanya memerlukan keseimbangan Goldilocks yang betul tentang apa yang terdiri daripada bias AI dan dengan itu memberikan arahan yang lebih jelas.

Kebanyakan pemburuan hadiah berat sebelah AI ini akan tertumpu pada sistem Pembelajaran Mesin (ML) dan Pembelajaran Dalam (DL) berasaskan AI. Ini masuk akal memandangkan kemunculan ML/DL pervasiveness semakin berkembang, ditambah pula ia nampaknya mempunyai beberapa cabaran yang paling mungkin merangkumi kecenderungan AI yang tidak wajar.

Penyelidik ini mengenal pasti betapa pentingnya usaha memburu hadiah yang berat sebelah AI, terutamanya dalam konteks ML/DL: “Dari masa ke masa, perisian dan komuniti keselamatan telah membangunkan 'kurniaan pepijat' dalam usaha untuk mengubah dinamik yang sama antara pembangun sistem dan pengkritik mereka (atau penggodam) ke arah tujuan yang lebih interaktif dan produktif. Harapannya ialah dengan sengaja menjemput pihak luar untuk mencari pepijat perisian atau perkakasan dalam sistem mereka, dan sering memberikan insentif kewangan untuk berbuat demikian, ekosistem yang lebih sihat dan bertindak balas dengan lebih pantas akan berkembang. Sudah menjadi lumrah bagi komuniti ML untuk mempertimbangkan pendekatan 'bias bounty' yang serupa terhadap penemuan dan pembaikan tepat pada masanya model dan sistem dengan berat sebelah atau tingkah laku lain yang tidak diingini. Daripada mencari pepijat dalam perisian, pihak luar dijemput untuk mencari berat sebelah — contohnya, (demografi atau lain-lain) subkumpulan input yang model terlatih berprestasi rendah — dan diberi ganjaran kerana berbuat demikian” (dalam kertas kerja “Rangka Kerja Algoritma untuk Bias Bounties” oleh Ira Globus-Harris, Michael Kearns dan Aaron Roth).

Dalam kertas penyelidikan, penulis menggariskan pendekatan yang dicadangkan tentang jenis bias AI yang boleh dicari oleh pemburu hadiah. Terdapat juga petunjuk tentang cara menilai tuntutan pemburu hadiah yang dikaitkan dengan dakwaan berat sebelah AI yang ditemui. Seperti kenyataan saya sebelum ini, kemungkinan besar anda akan menerima tuntutan palsu dan perlu memisahkan gandum bias AI daripada sekam.

Sebelum membincangkan lebih banyak daging dan kentang tentang pertimbangan liar dan berbulu yang mendasari pemburuan bias AI, mari kita wujudkan beberapa asas tambahan mengenai topik yang sangat penting. Kita perlu menyelam secara ringkas ke dalam Etika AI dan terutamanya kemunculan Pembelajaran Mesin (ML) dan Pembelajaran Dalam (DL).

Anda mungkin sedar secara samar-samar bahawa salah satu suara paling lantang hari ini dalam bidang AI dan juga di luar bidang AI terdiri daripada merayu untuk mendapatkan persamaan AI Etika yang lebih besar. Mari kita lihat maksud merujuk kepada AI Etika dan AI Etika. Selain itu, kita akan meneroka apa yang saya maksudkan apabila saya bercakap tentang Pembelajaran Mesin dan Pembelajaran Dalam.

Satu segmen atau bahagian tertentu Etika AI yang telah mendapat banyak perhatian media terdiri daripada AI yang menunjukkan berat sebelah dan ketidaksamaan yang tidak diingini. Anda mungkin sedar bahawa apabila era terkini AI bermula, terdapat cetusan semangat yang besar untuk apa yang kini dipanggil oleh sesetengah orang. AI Untuk Kebaikan. Malangnya, selepas keterujaan yang membuak-buak itu, kami mula menyaksikan AI Untuk Buruk. Sebagai contoh, pelbagai sistem pengecaman muka berasaskan AI telah didedahkan sebagai mengandungi berat sebelah kaum dan berat sebelah jantina, yang telah saya bincangkan di pautan di sini.

Usaha melawan balik AI Untuk Buruk sedang giat dijalankan. Selain riuh rendah undang-undang usaha untuk mengekang perbuatan salah, terdapat juga dorongan substantif ke arah menerima Etika AI untuk memperbetulkan keburukan AI. Tanggapannya ialah kita harus mengguna pakai dan menyokong prinsip AI Etika utama untuk pembangunan dan penempatan AI berbuat demikian untuk mengurangkan AI Untuk Buruk dan pada masa yang sama menghebahkan dan mempromosikan yang lebih baik AI Untuk Kebaikan.

Mengenai tanggapan yang berkaitan, saya adalah penyokong cuba menggunakan AI sebagai sebahagian daripada penyelesaian kepada masalah AI, melawan api dengan api dengan cara pemikiran itu. Sebagai contoh, kami mungkin membenamkan komponen AI Beretika ke dalam sistem AI yang akan memantau bagaimana seluruh AI melakukan sesuatu dan dengan itu berpotensi menangkap dalam masa nyata sebarang usaha diskriminasi, lihat perbincangan saya di pautan di sini. Kami juga boleh mempunyai sistem AI berasingan yang bertindak sebagai sejenis pemantau Etika AI. Sistem AI berfungsi sebagai penyelia untuk menjejak dan mengesan apabila AI lain masuk ke jurang yang tidak beretika (lihat analisis saya tentang keupayaan sedemikian di pautan di sini).

Sebentar lagi, saya akan berkongsi dengan anda beberapa prinsip menyeluruh yang mendasari Etika AI. Terdapat banyak senarai jenis ini terapung di sana sini. Anda boleh mengatakan bahawa belum ada senarai tunggal bagi rayuan dan persetujuan sejagat. Itu berita malangnya. Berita baiknya ialah sekurang-kurangnya terdapat senarai Etika AI yang tersedia dan mereka cenderung agak serupa. Semua diberitahu, ini menunjukkan bahawa melalui satu bentuk penumpuan yang beralasan bahawa kita sedang mencari jalan ke arah persamaan umum yang terdiri daripada Etika AI.

Mula-mula, mari kita bincangkan secara ringkas beberapa peraturan AI Etika keseluruhan untuk menggambarkan perkara yang sepatutnya menjadi pertimbangan penting bagi sesiapa yang membuat, memadang atau menggunakan AI.

Sebagai contoh, seperti yang dinyatakan oleh Vatican dalam Rome Call For AI Ethics dan seperti yang telah saya kupas secara mendalam pautan di sini, ini ialah enam prinsip etika AI utama mereka yang dikenal pasti:

• Ketelusan: Pada dasarnya, sistem AI mesti boleh dijelaskan
• Inklusi: Keperluan semua manusia mesti diambil kira supaya semua orang boleh mendapat manfaat, dan semua individu boleh ditawarkan keadaan terbaik untuk mengekspresikan diri dan berkembang.
• Tanggungjawab: Mereka yang mereka bentuk dan menggunakan penggunaan AI mesti meneruskan dengan tanggungjawab dan ketelusan
• Kesaksamaan: Jangan mencipta atau bertindak mengikut berat sebelah, sekali gus menjaga keadilan dan maruah manusia
• Kebolehpercayaan: Sistem AI mesti boleh berfungsi dengan pasti
• Keselamatan dan privasi: Sistem AI mesti berfungsi dengan selamat dan menghormati privasi pengguna.

Seperti yang dinyatakan oleh Jabatan Pertahanan AS (DoD) dalam mereka Prinsip Etika Untuk Penggunaan Kepintaran Buatan dan seperti yang telah saya kupas secara mendalam pautan di sini, ini ialah enam prinsip etika AI utama mereka:

• Bertanggungjawab: Kakitangan DoD akan menggunakan tahap pertimbangan dan penjagaan yang sesuai sambil kekal bertanggungjawab terhadap pembangunan, penggunaan dan penggunaan keupayaan AI.
• saksama: Jabatan akan mengambil langkah yang disengajakan untuk meminimumkan berat sebelah yang tidak diingini dalam keupayaan AI.
• Boleh dikesan: Keupayaan AI Jabatan akan dibangunkan dan digunakan supaya kakitangan yang berkaitan mempunyai pemahaman yang sesuai tentang teknologi, proses pembangunan dan kaedah operasi yang digunakan untuk keupayaan AI, termasuk metodologi yang telus dan boleh diaudit, sumber data serta prosedur dan dokumentasi reka bentuk.
• dipercayai: Keupayaan AI Jabatan akan mempunyai penggunaan yang jelas, ditakrifkan dengan baik, dan keselamatan, keselamatan dan keberkesanan keupayaan tersebut akan tertakluk kepada ujian dan jaminan dalam penggunaan yang ditentukan merentas keseluruhan kitaran hayatnya.
• Boleh ditadbir: Jabatan akan mereka bentuk dan merekayasa keupayaan AI untuk memenuhi fungsi yang dimaksudkan sambil memiliki kebolehan untuk mengesan dan mengelakkan akibat yang tidak diingini, dan keupayaan untuk menanggalkan atau menyahaktifkan sistem yang digunakan yang menunjukkan tingkah laku yang tidak diingini.

Saya juga telah membincangkan pelbagai analisis kolektif prinsip etika AI, termasuk telah merangkumi satu set yang direka oleh penyelidik yang meneliti dan meringkaskan intipati pelbagai prinsip etika AI nasional dan antarabangsa dalam kertas kerja bertajuk "The Global Landscape Of AI Ethics Guidelines" (diterbitkan dalam Alam), dan liputan saya meneroka di pautan di sini, yang membawa kepada senarai batu kunci ini:

• Ketelusan
• Keadilan & Kesaksamaan
• Non-Maleficence
• tanggungjawab
• Privasi
• Kebaikan
• Kebebasan & Autonomi
• Amanah
• Sustainability
• Martabat
• Perpaduan

Seperti yang anda mungkin meneka secara langsung, cuba mengecilkan butiran yang mendasari prinsip ini boleh menjadi sangat sukar untuk dilakukan. Lebih-lebih lagi, usaha untuk mengubah prinsip-prinsip yang luas itu menjadi sesuatu yang benar-benar nyata dan cukup terperinci untuk digunakan semasa membuat sistem AI juga merupakan masalah yang sukar untuk dipecahkan. Adalah mudah untuk secara keseluruhan melakukan beberapa lambaian tangan tentang apa itu peraturan Etika AI dan cara ia harus dipatuhi secara umum, sementara ia adalah situasi yang lebih rumit dalam pengekodan AI yang harus menjadi getah yang benar-benar memenuhi jalan.

Prinsip Etika AI akan digunakan oleh pembangun AI, bersama-sama dengan mereka yang menguruskan usaha pembangunan AI, dan juga prinsip yang akhirnya meletakkan dan melaksanakan penyelenggaraan pada sistem AI. Semua pihak berkepentingan sepanjang keseluruhan kitaran hayat pembangunan dan penggunaan AI dianggap dalam skop pematuhan kepada norma AI Etika yang telah ditetapkan. Ini adalah sorotan penting kerana andaian biasa ialah "pengekod sahaja" atau mereka yang memprogramkan AI tertakluk kepada pematuhan kepada tanggapan Etika AI. Seperti yang dinyatakan sebelum ini, ia memerlukan sebuah kampung untuk mencipta dan membina AI, dan untuk itu seluruh kampung perlu dikuasai dan mematuhi peraturan Etika AI.

Mari kita juga pastikan kita berada di halaman yang sama tentang sifat AI hari ini.

Tidak ada AI hari ini yang hidup. Kami tidak mempunyai ini. Kami tidak tahu sama ada kecerdasan buatan boleh dilakukan. Tiada siapa yang boleh meramalkan dengan tepat sama ada kita akan mencapai AI sentient, mahupun sama ada AI sentient entah bagaimana secara ajaib akan timbul secara spontan dalam bentuk supernova kognitif pengiraan (biasanya dirujuk sebagai ketunggalan, lihat liputan saya di pautan di sini).

Jenis AI yang saya fokuskan terdiri daripada AI bukan makhluk yang kita ada hari ini. Jika kita mahu membuat spekulasi liar sentimen AI, perbincangan ini boleh pergi ke arah yang sangat berbeza. AI yang hidup sepatutnya berkualiti manusia. Anda perlu mempertimbangkan bahawa AI yang hidup adalah setara dengan kognitif manusia. Lebih-lebih lagi, memandangkan ada yang membuat spekulasi bahawa kita mungkin mempunyai AI super-pintar, boleh dibayangkan bahawa AI sedemikian akhirnya boleh menjadi lebih pintar daripada manusia (untuk penerokaan saya tentang AI super-pintar sebagai kemungkinan, lihat liputan di sini).

Mari kita simpan perkara yang lebih sederhana dan pertimbangkan pengiraan AI bukan makhluk hari ini.

Sedar bahawa AI hari ini tidak dapat "berfikir" dalam apa jua cara yang setanding dengan pemikiran manusia. Apabila anda berinteraksi dengan Alexa atau Siri, kapasiti perbualan mungkin kelihatan serupa dengan kapasiti manusia, tetapi realitinya ialah ia adalah pengiraan dan tidak mempunyai kognisi manusia. Era terbaru AI telah menggunakan Pembelajaran Mesin (ML) dan Pembelajaran Dalam (DL) secara meluas, yang memanfaatkan padanan corak pengiraan. Ini telah membawa kepada sistem AI yang mempunyai rupa kecenderungan seperti manusia. Sementara itu, tidak ada mana-mana AI hari ini yang mempunyai rupa akal dan juga tidak mempunyai sebarang keajaiban kognitif pemikiran manusia yang teguh.

ML/DL ialah satu bentuk padanan corak pengiraan. Pendekatan biasa ialah anda mengumpulkan data tentang tugas membuat keputusan. Anda memasukkan data ke dalam model komputer ML/DL. Model tersebut berusaha untuk mencari corak matematik. Selepas menemui corak sedemikian, jika didapati, sistem AI kemudian akan menggunakan corak tersebut apabila menemui data baharu. Selepas pembentangan data baharu, corak berdasarkan data "lama" atau sejarah digunakan untuk membuat keputusan semasa.

Saya rasa anda boleh meneka ke mana arahnya. Jika manusia yang telah membuat keputusan yang bercorak telah memasukkan berat sebelah yang tidak diingini, kemungkinan besar data tersebut mencerminkannya dengan cara yang halus tetapi ketara. Pembelajaran Mesin atau Pembelajaran Dalam padanan corak pengiraan hanya akan cuba meniru data secara matematik dengan sewajarnya. Tidak ada kesamaan akal sehat atau aspek lain dari pemodelan buatan AI.

Tambahan pula, pembangun AI mungkin tidak menyedari apa yang sedang berlaku. Matematik misteri dalam ML/DL mungkin menyukarkan untuk menghilangkan bias yang kini tersembunyi. Anda berhak berharap dan menjangkakan bahawa pembangun AI akan menguji bias yang mungkin terkubur, walaupun ini lebih rumit daripada yang kelihatan. Peluang kukuh wujud bahawa walaupun dengan ujian yang agak meluas bahawa akan terdapat berat sebelah masih tertanam dalam model padanan corak ML/DL.

Anda boleh menggunakan pepatah yang terkenal atau terkenal tentang sampah masuk sampah. Masalahnya, ini lebih mirip kepada bias-in yang secara licik diselitkan sebagai bias yang tenggelam dalam AI. Algoritma membuat keputusan (ADM) AI secara aksiomatik menjadi sarat dengan ketidaksamaan.

Tidak baik.

Sekarang mari kita kembali kepada topik memburu bias AI.

Bagi anda yang mempertimbangkan usaha memburu hadiah berat sebelah AI, berikut ialah tujuh langkah utama saya yang disyorkan tentang cara terbaik untuk meneruskan:

1) Menilai. Menilai kesesuaian usaha memburu hadiah berat sebelah AI untuk keadaan anda dan mengikut sistem AI anda

2) reka bentuk. Reka pendekatan memburu hadiah berat sebelah AI yang sesuai

3) Melaksanakan. Laksanakan dan umumkan usaha memburu hadiah berat sebelah AI anda

4) Bidang. Hantarkan tuntutan kurniaan berat sebelah AI dan proses dengan sewajarnya

5) Menetapkan. Betulkan atau laraskan AI anda sebagai berkaitan dengan pendedahan bias AI yang ditemui ini

6) Melaraskan. Laraskan pemburuan hadiah berat sebelah AI mengikut keperluan

7) Hentikan. Hentikan pemburuan bounty bias AI apabila ia tidak lagi diperlukan

Dalam siri langkah saya di atas, ambil perhatian bahawa saya menyebut bahawa anda mungkin ingin membetulkan atau menyesuaikan AI anda berdasarkan memastikan bahawa kecenderungan AI yang didakwa sebenarnya wujud dalam sistem AI anda. Ini sangat masuk akal. Anda hampir pasti mahu menyokong sebarang bias AI yang ditemui. Fikirkan kesan undang-undang (dan etika) jika anda tidak berbuat demikian. Adalah satu perkara untuk menegaskan bahawa anda tidak tahu kecondongan AI wujud dan oleh itu membenarkannya wujud, sementara ia adalah alasan yang lebih goyah untuk mempunyai rekod bahawa anda telah dimaklumkan tentang kecenderungan AI dan tidak melakukan apa-apa mengenainya.

Sifat dan tahap pembetulan atau pelarasan AI sudah tentu bergantung pada betapa pentingnya berat sebelah AI dan sejauh mana isu tertanam secara mendalam. Jika anda bernasib baik, mungkin sedikit perubahan pada AI akan membetulkan keadaan. Potensi lain ialah anda mungkin perlu melakukan keseluruhan penulisan semula AI. Untuk jenis ML/DL AI, ini mungkin memerlukan kembali ke papan lukisan dan bermula dengan set data yang baharu sepenuhnya dan model ML/DL yang telah dibersihkan. Saya telah membincangkan kemunculan ketidakselesaan AI atau pemusnahan AI sebagai remedi undang-undang yang berpotensi terhadap AI yang tidak baik, lihat pautan di sini.

Satu soalan untuk difikirkan ialah sama ada anda mahu pemburu hadiah mungkin melakukan lebih daripada sekadar mengenal pasti kewujudan bias AI. Sebagai contoh, anda mungkin mempermanis anugerah dengan menunjukkan bahawa cadangan pembaikan juga dialu-alukan. Bias AI ditemui oleh pemburu hadiah mungkin dibayar satu ganjaran atau hadiah yang dinyatakan. Jika pemburu hadiah juga boleh menawarkan yang berdaya maju menetapkan kepada kecenderungan AI mereka mungkin akan diberikan ganjaran tambahan.

Ada yang berpendapat bahawa ini adalah jambatan yang terlalu jauh. Mereka mengatakan bahawa anda harus memastikan pemburu hadiah bias AI tertumpu secara eksklusif untuk mencari bias AI. Anda akan mencipta sekumpulan akibat buruk yang tidak diingini dengan menjemput mereka untuk turut mencadangkan pembetulan. Pastikan perkara mudah. Matlamatnya ialah untuk mendapatkan seberapa banyak mata tambahan untuk menemui kecenderungan AI supaya anda boleh memutuskan perkara yang perlu dilakukan seterusnya. Jangan keruhkan air.

Aspek berduri yang perlu difikirkan memerlukan magnitud ganjaran atau hadiah untuk pemburu hadiah yang benar-benar menemui kecenderungan AI. Anda mahu ganjarannya menjadi demonstratif. Tanpa ganjaran yang cukup tinggi, anda tidak akan mendapat banyak pemburu hadiah atau mereka tidak akan berminat untuk mencari bias AI dalam sistem AI anda. Sebaliknya mereka mungkin menumpukan pada usaha kurniaan berat sebelah AI yang lain.

Tambahan pula, seperti yang dinyatakan, anda ingin mencuba dan menahan dorongan pemburu hadiah untuk menukar penemuan bias AI mereka kepada bentuk emas yang lain. Jika ganjarannya kelihatan sedikit, ia boleh menimbulkan kemarahan pemburu hadiah untuk mencari ganjaran lain yang lebih tinggi. Mereka boleh mengambil pendekatan perisian tebusan terhadap anda. Mereka mungkin mengisytiharkan bahawa mereka mempunyai kecenderungan AI yang menarik yang pesaing ingin tahu tentangnya dan boleh digunakan terhadap firma anda dengan menggembar-gemburkan bahawa kecenderungan AI wujud dalam AI anda. Oleh itu, mereka menjual kecenderungan AI yang ditemui kepada pembida tertinggi. Dan sebagainya.

Seseorang menganggap bahawa jika anda menetapkan ganjaran pada julat yang sangat tinggi, anda juga meminta kemungkinan masalah. Ini boleh menarik semua jenis pemburu hadiah kacang. Mereka seterusnya mungkin membanjiri media sosial dengan dakwaan kabur bahawa mereka menemui banyak kecenderungan AI, berbuat demikian untuk promosi diri mereka sendiri dan tanpa benar-benar mencederai sebarang kecenderungan AI. Dalam erti kata tertentu, ganjaran anda yang tinggi secara tidak sengaja memancarkan cahaya pada AI anda dan mendorong sekumpulan rama-rama yang tidak berhati perut untuk turut tertarik dengan pancaran cahaya yang bercahaya.

Pertimbangan lain melibatkan kebolehaksesan kepada AI anda.

Untuk membolehkan kemungkinan memburu hadiah AI, pemburu hadiah perlu mendapat akses yang mencukupi kepada AI anda. Mereka tidak akan bernasib baik dalam mencari bias AI jika mereka dikunci sepenuhnya. Tetapi anda tidak mahu melepaskan perlindungan keselamatan siber anda kerana berbuat demikian boleh menjejaskan sepenuhnya sistem AI anda.

Anda mungkin cuba meminta pemburu hadiah menandatangani pelbagai perisytiharan yang mengikat secara sah dan kemudian memberikan mereka akses yang diperlukan. Sesetengah pemburu hadiah tidak akan menyukai pendekatan jenis itu. Pandangan mereka ialah mereka hanya akan melakukan apa sahaja yang dibenarkan oleh mana-mana laluan terbuka dan terbuka. Mereka adalah mavericks bebas, seolah-olah, dan tidak suka dibebani, seolah-olah. Mendapatkan mereka meletakkan tandatangan mereka pada dokumen undang-undang yang menakutkan akan menyebabkan ramai daripada mereka mengelak daripada mencari bias AI dalam AI anda. Atau mereka mungkin marah dengan masalah undang-undang anda dan memutuskan bahawa mereka akan melihat perkara yang boleh mereka temui melalui cara awam, berbuat demikian dengan dorongan yang mungkin kuat untuk menunjukkan kepada anda betapa terdedahnya anda sebenarnya.

Saya mempunyai satu lagi sudut yang mungkin membuat kepala anda pening.

Pemburu hadiah yang bijak AI mungkin memutuskan untuk mencipta sistem AI yang boleh meneliti AI anda dan mungkin menemui kecenderungan AI dalam AI anda. Ini ialah pembuat alat yang memilih untuk membuat alat untuk melakukan kerja daripada melakukan kerja manual sendiri. Daripada bersusah payah memeriksa AI anda, pemburu hadiah yang mahir AI menghabiskan masa mereka mencipta alat AI yang melakukan perkara yang sama. Mereka kemudian menggunakan alat AI pada AI anda. Keindahannya juga ialah mereka mungkin boleh menggunakan semula alat AI pada orang lain yang turut menawarkan peluang memburu hadiah pada AI masing-masing.

Saya tahu apa yang anda fikirkan. Jika alat AI boleh direka untuk memeriksa AI untuk bias, pembuat AI yang sedang diteliti untuk bias AI harus sama ada mencipta alat AI sedemikian atau membeli satu untuk kegunaan mereka sendiri. Secara teorinya, mereka tidak perlu bersaing dengan keseluruhan karnival pemburu hadiah, untuk bermula. Hanya gunakan AI untuk mencari kecenderungan AI mereka.

Ya, ini adalah sesuatu yang anda boleh jangkakan akan timbul secara beransur-ansur. Sementara itu, tunjang utama usaha ini mungkin terdiri daripada pembangun AI yang melakukan pemburuan hadiah. Mereka mungkin menggunakan pelbagai alat untuk membantu usaha mereka, tetapi dalam jangka masa terdekat, mereka tidak mungkin dengan tidak sengaja menetapkan alat AI secara automatik dan tidur sebentar supaya alat itu melakukan keseluruhan pemburuan bias AI untuk mereka.

Kami belum sampai.

Pada masa perbincangan yang berat ini, saya yakin anda ingin mendapatkan beberapa contoh ilustrasi yang mungkin mempamerkan topik ini. Terdapat satu set contoh yang istimewa dan pasti popular yang dekat di hati saya. Anda lihat, dalam kapasiti saya sebagai pakar dalam AI termasuk kesan etika dan undang-undang, saya sering diminta untuk mengenal pasti contoh realistik yang mempamerkan dilema Etika AI supaya sifat topik yang agak teoritikal dapat difahami dengan lebih mudah. Salah satu bidang yang paling menggembirakan yang memaparkan dengan jelas kebingungan AI beretika ini ialah kemunculan kereta pandu sendiri sejati berasaskan AI. Ini akan berfungsi sebagai kes penggunaan yang berguna atau contoh untuk perbincangan yang mencukupi mengenai topik tersebut.

Berikut adalah soalan penting yang patut direnungkan: Adakah kemunculan kereta pandu sendiri sebenar berasaskan AI menerangi apa-apa tentang penggunaan pemburuan hadiah berat sebelah AI, dan jika ya, apakah yang ditunjukkan oleh ini?

Izinkan saya sebentar untuk membongkar soalan.

Pertama, ambil perhatian bahawa tidak ada pemandu manusia yang terlibat dalam kereta pandu sendiri yang sebenar. Perlu diingat bahawa kereta pandu sendiri sebenar dipandu melalui sistem pemanduan AI. Tidak ada keperluan untuk pemandu manusia di atas roda, dan tidak ada peruntukan untuk manusia memandu kenderaan itu. Untuk liputan saya yang meluas dan berterusan mengenai Kenderaan Autonomi (AV) dan terutamanya kereta pandu sendiri, lihat pautan di sini.

Saya ingin menjelaskan lebih lanjut apa yang dimaksudkan apabila saya merujuk kepada kereta pandu sendiri yang sebenar.

Memahami Tahap Kereta Memandu Kendiri

Sebagai penjelasan, kereta pandu sendiri yang sebenar ialah kereta yang AI memandu kereta itu sendiri sepenuhnya dan tidak ada sebarang bantuan manusia semasa tugas memandu.

Kenderaan tanpa pemandu ini dianggap Tahap 4 dan Tahap 5 (lihat penjelasan saya di pautan ini di sini), manakala kereta yang memerlukan pemandu manusia untuk berkongsi usaha pemanduan biasanya dianggap pada Tahap 2 atau Tahap 3. Kereta yang berkongsi tugas pemanduan digambarkan sebagai separa autonomi dan biasanya mengandungi pelbagai alat tambah automatik yang dirujuk sebagai ADAADA
S (Sistem Bantuan Pemandu Lanjutan).

Belum ada kereta pandu sendiri yang sebenar di Tahap 5, dan kami masih belum tahu sama ada ini boleh dicapai, atau berapa lama masa yang diperlukan untuk sampai ke sana.

Sementara itu, usaha Tahap 4 secara beransur-ansur cuba mendapatkan sedikit daya tarikan dengan menjalani ujian jalan raya awam yang sangat sempit dan terpilih, walaupun terdapat kontroversi sama ada ujian ini harus dibenarkan sendiri (kita semua adalah babi guinea hidup atau mati dalam eksperimen berlaku di lebuh raya dan jalan raya kami, ada yang berpendapat, lihat liputan saya di pautan ini di sini).

Oleh kerana kereta separa autonomi memerlukan pemandu manusia, penggunaan jenis kereta itu tidak akan jauh berbeza daripada mengemudi kenderaan konvensional, jadi tidak banyak yang perlu dibahas sendiri mengenai topik ini (walaupun, seperti yang akan anda lihat sekejap sahaja, perkara-perkara yang dinyatakan seterusnya dapat digunakan secara umum).

Untuk kereta separa autonomi, penting bagi orang ramai untuk diperingatkan tentang aspek mengganggu yang timbul sejak kebelakangan ini, walaupun pemandu manusia yang terus menyiarkan video mereka tertidur di roda kereta Level 2 atau Level 3 , kita semua harus mengelak daripada disesatkan untuk mempercayai bahawa pemandu boleh menarik perhatian mereka dari tugas memandu ketika memandu kereta separa autonomi.

Anda adalah pihak yang bertanggungjawab untuk tindakan memandu kenderaan, tanpa mengira berapa banyak automasi yang dilemparkan ke Tahap 2 atau Tingkat 3.

Kereta Pandu Sendiri Dan Memburu Bounty Bias AI

Untuk kenderaan memandu sendiri Tahap 4 dan Tahap 5, tidak akan ada pemandu manusia yang terlibat dalam tugas memandu.

Semua penghuni akan menjadi penumpang.

AI sedang memandu.

Salah satu aspek untuk dibincangkan dengan segera adalah hakikat bahawa AI yang terlibat dalam sistem pemanduan AI masa kini tidak berperasaan. Dengan kata lain, AI sama sekali merupakan kumpulan pengaturcaraan dan algoritma berasaskan komputer, dan yang pasti tidak dapat memberi alasan dengan cara yang sama seperti yang manusia dapat.

Mengapa penekanan tambahan ini mengenai AI tidak berperasaan?

Kerana saya ingin menegaskan bahawa ketika membincangkan peranan sistem pemanduan AI, saya tidak menganggap kualiti manusia dengan AI. Perlu diketahui bahawa terdapat kecenderungan yang berterusan dan berbahaya pada masa ini untuk antropomorfisasi AI. Pada hakikatnya, orang memberikan perasaan seperti manusia pada AI hari ini, walaupun fakta yang tidak dapat disangkal dan tidak dapat dibantah bahawa belum ada AI seperti itu.

Dengan penjelasan itu, anda dapat membayangkan bahawa sistem pemanduan AI secara semula jadi tidak akan "mengetahui" tentang aspek pemanduan. Memandu dan semua yang diperlukan perlu diprogramkan sebagai sebahagian daripada perkakasan dan perisian kereta memandu sendiri.

Mari selami pelbagai aspek yang perlu diperhatikan dalam topik ini.

Pertama, adalah penting untuk menyedari bahawa tidak semua kereta pandu sendiri AI adalah sama. Setiap pembuat kereta dan firma teknologi pandu sendiri mengambil pendekatan mereka untuk mencipta kereta pandu sendiri. Oleh itu, sukar untuk membuat kenyataan menyeluruh tentang perkara yang akan dilakukan atau tidak dilakukan oleh sistem pemanduan AI.

Selanjutnya, setiap kali menyatakan bahawa sistem pemanduan AI tidak melakukan perkara tertentu, ini kemudiannya dapat ditimpa oleh pembangun yang sebenarnya memprogram komputer untuk melakukan perkara itu. Langkah demi langkah, sistem pemanduan AI secara bertahap diperbaiki dan diperluas. Batasan yang ada hari ini mungkin tidak lagi ada dalam lelaran atau versi sistem yang akan datang.

Saya harap ia menyediakan litani kaveat yang mencukupi untuk mendasari perkara yang akan saya kaitkan.

Dalam lajur saya, saya telah membincangkan dengan panjang lebar tentang penggunaan pemburu hadiah berorientasikan pepijat dalam bidang kenderaan autonomi dan kereta pandu sendiri. Pendekatan ini sememangnya telah berlaku dalam niche ini. Terdapat perdebatan biasa tentang sama ada idea itu adalah idea yang baik atau tidak. Usaha itu biasanya bersifat terhad, selalunya diam.

Wacana yang sama boleh berlaku apabila tumpuan beralih ke arah memburu bias AI dan bukannya mencari pepijat sistem semata-mata. Sesetengah mencadangkan ia adalah terkutuk jika anda lakukan, terkutuk jika anda tidak teka-teki.

Inilah sebabnya.

Pertama, untuk menjadi jelas, terdapat banyak cara di mana kenderaan autonomi dan kereta pandu sendiri akan tertakluk kepada mengandungi bias AI, lihat liputan saya di pautan di sini and pautan di sini, hanya untuk menamakan beberapa. Pembuat kereta dan firma kereta pandu sendiri nampaknya bijak untuk mencuba dan menghalang bias AI tersebut daripada muncul dalam sistem AI mereka. Kebakaran undang-undang dan etika terhadap firma sedemikian sudah pasti akan menjadi sengit.

Adakah penggunaan usaha memburu hadiah berat sebelah AI merupakan pendekatan yang sesuai dalam konteks khusus ini?

Satu jawapan ialah ya, ini akan berguna dan menyediakan banyak set mata baharu "percuma" untuk mencuba dan menangkap sebarang kecenderungan AI terbenam pada kereta pandu sendiri AI atau sebagainya. Kebanyakan pembangun AI yang membina kereta pandu sendiri sibuk membuat AI yang boleh memandu kereta dengan selamat dari titik A ke titik B. Mereka sibuk dengan keupayaan teras itu dan tidak mempunyai masa atau perhatian terhadap sebarang kecenderungan AI yang mungkin berlaku di suatu tempat di AI mereka.

Jawapan lain ialah tidak, membenarkan pemburuan hadiah untuk kenderaan autonomi dan kereta pandu sendiri atas apa jua asas, sama ada untuk pepijat atau bias AI, hanya perlu dielakkan dengan keras. Hujahnya ialah kenderaan ini dan AI mereka adalah berkaliber hidup atau mati. Mengganggu AI dalam apa jua cara boleh merosakkan AI dan memberi kesan kepada sistem pemanduan AI.

Hujah balas kepada perkara terakhir itu ialah pemburu hadiah sepatutnya tidak dapat mengubah AI yang mereka periksa. Oleh itu, tidak ada bahaya mereka bermain-main dengan AI dan menyebabkan AI dalam konteks ini tiba-tiba menjadi sistem pemanduan AI yang gila. Pemburu hadiah hanya mempunyai akses baca sahaja. Membenarkan mereka pergi lebih jauh akan menjadi sangat bodoh dan satu kesilapan besar.

Hujah balas kepada hujah balas itu ialah dengan membenarkan dan menggalakkan pemburu hadiah untuk memeriksa AI anda, semua perkara menjadi tidak jelas. Pemburu hadiah itu mungkin memikirkan cara untuk mengeksploitasi sebarang pepijat atau berat sebelah yang ditemui. Eksploitasi itu pula mungkin untuk tujuan licik. Anda lebih baik tidak menjemput "pencuri" masuk ke rumah anda, boleh dikatakan. Sebaik sahaja mereka telah mengeluarkan sendi, anda akhirnya akan berada dalam timbunan masalah.

Bagi mereka yang mempunyai sistem AI dengan magnitud yang kurang daripada hidup atau mati, kepercayaan adalah bahawa kesan daripada usaha memburu hadiah yang tidak betul adalah lebih kurang berisiko. Mungkin begitu. Sebaliknya, jika firma telah mencurahkan wang mereka ke dalam sistem AI yang berjaya dirampas oleh pemburu hadiah, anda boleh menganggap bahawa kerosakan reputasi dan potensi kerosakan lain masih akan menyakitkan.

Tiada makan tengah hari percuma untuk memburu hadiah berat sebelah AI.

Ucapan penutup pantas buat masa ini.

Apabila penjenayah terkenal Jesse James dicari semasa Old West, poster "Dikehendaki" telah dicetak yang menawarkan hadiah $5,000 untuk penangkapannya (menyatakan "mati atau hidup"). Ia adalah jumlah wang yang agak besar pada masa itu. Salah seorang ahli kumpulannya sendiri memilih untuk menembak mati Jesse dan mengumpul ganjaran. Saya rasa itu menunjukkan betapa berkesannya hadiah.

Adakah penggunaan pemburu hadiah berat sebelah AI akan menjadi perkara yang baik, atau adakah ia akan menjadi perkara yang buruk?

Jika anda memilih untuk memulakan usaha pemburu hadiah berat sebelah AI, saya cadangkan agar anda terus membuka mata anda dan melihat ke atas bahu anda pada setiap masa. Ini adalah bijak untuk anda dan AI anda. Anda tidak pernah tahu apa yang mungkin berlaku, termasuk bahawa seorang pemburu hadiah yang menipu entah bagaimana memasukkan secara diam-diam bias AI ke dalam AI anda dan menjerit kepada dunia bahawa mereka mendapati kecenderungan AI yang tidak bertanggungjawab dalam AI anda. Mungkin berbuat demikian dalam percubaan yang kurang ajar dan keterlaluan dalam mencari ganjaran kurniaan, serta mengisytiharkan diri mereka sebagai wira yang pada dasarnya mendapat Jesse James yang dibanggakan.

Jika difikirkan semula, AI yang berperasaan mungkin tidak akan menyukai idea tentang peruntukan mati atau hidup yang membingungkan, seseorang mungkin berspekulasi dengan lesu.