Inilah Sebab Etika AI Menggembar-gemburkan Bahawa AI Berpusatkan Manusia Adalah Penting Untuk Kewujudan Simbiotik AI Kami, Seperti Kemunculan Kereta Pandu Sendiri Autonomi

Anda mungkin pernah mendengar atau melihat bahawa dunia sepatutnya memberi tumpuan kepada AI Berpusatkan Manusia (HCAI).

Apa itu? Mengapa kita memerlukannya? Adakah ia jangka panjang atau sekadar iseng? Bagaimana ia betul-betul berfungsi? Pelbagai soalan lain yang serupa biasanya timbul daripada soalan yang tidak biasa dengan sifat dan bahan AI Berpusatkan Manusia.

Mari kita bongkar perkara itu dan luruskan cerita.

Selain itu, saya akan memberikan beberapa contoh berguna tentang betapa pentingnya HCAI. Contoh-contoh ini akan berdasarkan kemunculan kenderaan autonomi berasaskan AI seperti kereta pandu sendiri terkini dan terhebat yang mula diletakkan di jalan raya awam kami.

Sediakan diri anda untuk perjalanan yang menarik dan bermaklumat.

Cara logik untuk memulakan perbincangan ini terdiri daripada bercakap tentang apa yang mendorong pergerakan berpusatkan manusia semuanya diberitahu. Mengetahui yin adalah penting untuk memahami yang, seolah-olah. Harap maklum bahawa saya belum lagi akan menyebut AI sehingga kita mengetahui maksud berpusatkan manusia. Keluarkan topik AI dari fikiran anda untuk seketika dan kami akan memaparkan semula AI apabila tiba masanya.

Pertempuran diraja yang dikatakan telah berlaku antara apa yang disifatkan oleh sesetengah orang sebagai a berpusatkan teknologi perspektif berbanding kontras berpusatkan manusia pandangan apabila ia datang untuk mencipta teknologi baharu.

Mungkin tanpa disedari oleh anda, kepercayaan yang kuat ialah kita telah terlalu lama sibuk dengan ajaran berpusatkan teknologi. Setiap kali beberapa inovasi teknologi baharu sedang dirangka, perhatian tertumpu kepada aspek teknikal. Sesetengah orang akan berpendapat bahawa kita sering terperangkap dalam perlumbaan teknologi yang hebat untuk menolak pintu teknologi terkini, tanpa mengira cara ia berfungsi dan cara orang ramai bertindak balas terhadapnya.

Terdapat banyak kiasan Lembah Silikon yang sesuai dengan pemikiran ini. Gagal cepat, sering gagal adalah salah satu frasa yang biasa. Satu lagi adalah palsu sehingga anda membuatnya. Idea yang hebat ialah anda hanya juri-rig apa sahaja alat yang anda boleh dan kemudian mula menjualnya atau menarik orang untuk menggunakannya. Pasti, gabungan gila itu mungkin mempunyai tepi yang kasar. Dan, ya, orang mungkin keliru dengan alat itu atau malah tercedera, tetapi bagaimanapun menjadi yang pertama dianggap sebagai pujian yang tinggi bagi juruteknik dan oleh itu torpedo dan semangat penuh ke hadapan kita pergi.

Bahaya yang mendasari pendekatan yang mengutamakan teknologi adalah bahawa sisi manusia dalam persamaan itu kurang dimainkan atau diabaikan sepenuhnya. Daripada melemparkan teknologi baharu secara liar ke tangan masyarakat, terdapat seruan yang semakin lantang untuk menarik nafas panjang dan terlebih dahulu memastikan rekaan itu serasi dengan manusia. Bolehkah orang ramai menggunakan peranti itu dengan secukupnya dan berbuat demikian tanpa mendatangkan bahaya? Adakah item bermodel baharu itu mudah digunakan atau hampir mustahil untuk diketahui? Dan sebagainya.

Jika kita sememangnya telah kononnya berpusatkan teknologi maka sudah tiba masanya untuk beralih kepada cara pemikiran baharu, iaitu berpaksikan manusia. Teknologi tidak boleh menjadi satu-satunya penentu kekaguman. Sebagai ganti kepada teknologi sebagai pengakhiran segala-galanya, perkara sama ada manusia boleh memanfaatkan teknologi dan memperoleh keuntungan secara substansial daripadanya adalah tanda sebenar ciptaan dan pemodenan yang terpuji. Harapan adalah bahawa dengan mengalihkan gravitas kepada pertimbangan berpusatkan manusia, kekurangan dominan yang berpusatkan teknologi terhadap introspeksi kemanusiaan akan muncul untuk melihat cahaya. Saya telah membincangkan dengan lebih mendalam tentang perubahan dalam pemikiran ini mengikut analisis saya tentang AI dan sebagainya pengetahuan terlarang, Lihat pautan di sini.

Sudah tentu, dalam dunia hari ini, kita mempunyai beberapa juruteknik yang menyedari dan menerima perspektif berpusatkan manusia, manakala yang lain sama ada tidak menyedarinya atau percaya bahawa ia tidak terpakai kepada mereka. Oleh itu, terdapat banyak dan banyak usaha berpusatkan teknologi yang masih berjalan seperti seekor lembu jantan di butik barangan kaca yang halus. Tidak syak lagi tentang itu.

Cabaran yang menjengkelkan ialah beberapa usaha berpusatkan teknologi akan tetap berjaya, ergo sukar untuk memadamkan atau memalukan sepenuhnya jalan berpusatkan teknologi itu. Akibatnya, ada yang duduk tepat di kem berpusatkan manusia, dan yang lain kekal di kem berpusatkan teknologi. Dakwaan yang berterusan ialah terdapat lebih daripada satu cara untuk menguliti kucing (ops, pepatah lapuk yang perlu bersara).

Satu lagi kelainan ialah kem berpusatkan manusia dengan tegas menegaskan bahawa anda tidak mengorbankan sebarang mata teknikal dengan menerima pendekatan berpusatkan manusia. Bagi juruteknik yang terlalu bayangkan mereka akan memasuki lubang arnab yang busuk dengan menjadi berpaksikan manusia, jawapannya ialah ini sebenarnya akan meningkatkan peluang mereka untuk mencipta teknologi yang menakjubkan. Fikirkan dalam istilah mudah. Teknologi yang tidak mempunyai pertimbangan berpusatkan manusia mungkin akan menghadapi masa yang sukar untuk diterima pakai oleh orang ramai. Teknologi yang merangkumi dan dibentuk melalui cerapan berpusatkan manusia berkemungkinan mudah diterima pakai oleh orang ramai.

Anda boleh memiliki kek anda dan makan juga.

Ini menekankan bahawa mungkin tidak ada perpecahan yang teruk antara berpusatkan teknologi dan berpusatkan manusia, dalam erti kata bahawa terdapat ruang untuk kewujudan bersama. Lakukan kedua-duanya pada masa yang sama, ada yang bertengkar. Campurkan kedua-duanya supaya ia adalah sama dan serasi antara satu sama lain. Penentang menegaskan bahawa anda mesti memilih satu atau yang lain. Sama ada anda mementingkan teknologi dan meletakkan pemusatan manusia ke tepi, atau anda memusatkan manusia dan mengelak berpusatkan teknologi ke dalam rumah anjing.

Walau apa pun, mari kita ambil perhatian bahawa kita harus mempertimbangkan secara serius aspek berkaitan manusia apabila teknologi baharu sedang dirangka. Dan kita mesti berhati-hati untuk tidak meremehkan kepentingan ciri berkaitan manusia apabila datang dengan teknologi baru. Cara mudah untuk menangkap ini adalah dengan mengatakan bahawa kita perlu berpusatkan manusia. Idea untuk memusatkan satu perkara berbanding yang lain pada masa-masa akan membantu memikat dan pada masa lain boleh mengganggu perhatian.

Kita seterusnya boleh meneroka bagaimana falsafah berpusatkan manusia boleh digubal dalam istilah praktikal dunia sebenar yang sebenar.

Katakan anda sedang memulakan reka bentuk dan pembangunan sistem baharu yang akan merangkumi teknologi terkini dan terhebat. Mereka yang sistem kraf umumnya pada masa kini sedar bahawa anda perlu mempertimbangkan keseluruhan kitaran hayat proses reka bentuk dan pembangunan. Dulu banyak perhatian hanya tertuju pada reka bentuk, atau hanya tertuju kepada pembinaan sistem. Akibatnya, kami mempunyai banyak sistem yang akhirnya gagal apabila diletakkan kerana penyerahan yang terputus-putus dan tidak mencukupi merentasi pelbagai peringkat yang saling berkaitan dalam merangka sistem. Anda amat perlu memerhatikan bola sepanjang keseluruhan kitaran hayat sistem.

Pelbagai metodologi kitaran hayat sistem telah diwujudkan untuk membimbing keseluruhan usaha sistem. Metodologi adalah serupa dengan buku masakan templat yang mempamerkan aspek umum yang perlu dilakukan semasa setiap peringkat usaha. Anda boleh memohon semula itu pada usaha sistem tertentu anda mengikut kesesuaian apa sahaja yang anda susun.

Kami bersedia sekarang untuk menyambungkan titik. Terdapat banyak usaha ke arah mewujudkan metodologi kitaran hayat sistem yang amat mementingkan kepentingan pertimbangan berpusatkan manusia. Ini telah dikenali secara keseluruhan sebagai Reka Bentuk Berpusatkan Manusia (HCD).

Dalam dokumen Institut Piawaian dan Teknologi Kebangsaan (NIST) baru-baru ini, definisi atau penjelasan yang agak berguna tentang Reka Bentuk Berpusatkan Manusia mengandungi petikan ini: "HCD ialah proses berulang yang berterusan di mana pasukan projek mereka bentuk, menguji dan terus memperhalusi sesuatu sistem, meletakkan pengguna pada teras proses. Manusia dan keperluan mereka memacu proses itu, bukannya mempunyai fokus tekno-centric. HCD berfungsi sebagai sebahagian daripada kitaran hayat pembangunan lain, termasuk model air terjun, lingkaran dan tangkas. Reka bentuk berpusatkan pengguna, HCD, reka bentuk penyertaan, reka bentuk bersama dan reka bentuk sensitif nilai semuanya mempunyai persamaan utama; pada peringkat tertinggi, mereka berusaha untuk menyediakan manusia dengan reka bentuk yang akhirnya memberi manfaat kepada kehidupan mereka. Tambahan pula, dengan meletakkan manusia di tengah-tengah pendekatan sedemikian, mereka secara semula jadi memberi tumpuan yang lebih mendalam pada pertimbangan masyarakat yang lebih besar seperti keadilan, berat sebelah, nilai dan etika. HCD berfungsi untuk mencipta lebih banyak produk yang boleh digunakan yang memenuhi keperluan penggunanya. Ini, seterusnya, mengurangkan risiko bahawa sistem yang terhasil akan kurang penyampaian, menimbulkan risiko kepada pengguna, mengakibatkan kemudaratan kepada pengguna atau gagal” (mengikut Jabatan Perdagangan AS, NIST Special Publication 1270, Mac 2022, Ke Arah Piawaian Untuk Mengenalpasti Dan Mengurus Bias Dalam Kepintaran Buatan oleh pengarang Reva Schwartz, Apostol Vassilev, Kristen Greene, Lori Perine, Andrew Burt, dan Patrick Hall).

Laporan NIST juga sesuai menyebut piawaian International Organization for Standardization (ISO) yang merangkumi Reka Bentuk Berpusatkan Manusia (mengikut ISO 9241-210:2019), yang mana ciri-ciri ketara ini dilihat sebagai asas:

• Pemahaman eksplisit tentang pengguna, tugasan dan persekitaran (konteks penggunaan)
• Penglibatan pengguna sepanjang reka bentuk dan pembangunan
• Didorong oleh reka bentuk dan diperhalusi oleh penilaian berpusatkan manusia
• Proses berulang di mana prototaip direka, diuji dan diubah suai
• Menangani keseluruhan pengalaman pengguna
• Reka bentuk pasukan yang merangkumi kemahiran dan perspektif pelbagai disiplin

Mari kita buat imbasan pantas tentang perkara yang telah kita bincangkan setakat ini.

Saya percaya bahawa anda kini menyedari pergerakan berterusan ini ke arah teknologi berpusatkan manusia dan bahawa pergerakan ini boleh dibantu melalui penggunaan metodologi yang direka secara sengaja untuk mereka yang sebenarnya ingin mencipta sistem berpusatkan manusia.

Di manakah AI sesuai dengan semua ini?

Senang kacang.

Mereka yang mereka bentuk dan membangunkan AI selalunya terjebak dalam perangkap yang sudah lama menjadi terlalu sibuk dengan teknologi itu sendiri. Anda boleh dengan mudah menunjuk kepada banyak sistem AI yang jelas berpusatkan teknologi dan bukan berpusatkan manusia (saya akan berkongsi beberapa contoh tentang kereta pandu sendiri, sebentar lagi).

Seseorang secara semulajadi menganggap bahawa berada dalam bidang AI secara aksiomatik menimbulkan godaan untuk berpusatkan teknologi. Semua orang bergegas terlebih dahulu ke arah cuba menjadikan AI menjadi kapasiti yang semakin maju. Sesetengah percaya bahawa mungkin kita boleh memasukkan AI kontemporari ke dalam mod yang kemudiannya akan masuk ke dalam sejenis supernova kognitif pengiraan dan muncul ke dalam perasaan (lihat liputan saya di pautan ini di sini).

Sekadar menjelaskan, kami masih belum mempunyai AI yang berperasaan. Kami tidak tahu sama ada mungkin untuk menghasilkan AI sentient, mahupun sama ada AI sentient akan timbul secara ajaib. Kesemua AI hari ini adalah tidak peka dan tidak hampir dengan perasaan. Mahu meluruskan rekod kerana terdapat banyak tajuk berita yang menggemparkan yang menunjukkan kita sama ada mempunyai AI yang peka atau berada di puncak untuk memilikinya. Tidak begitu.

Kembali kepada fokus pada reka bentuk berpusatkan manusia, intipatinya ialah ia sangat masuk akal untuk mencuba dan membuat AI yang mereka cipta itu datang kepada perspektif berpusatkan manusia. Daripada AI yang mengutamakan teknologi rabun, ia kelihatan berhemat dan sama sekali berfaedah untuk menyasarkan untuk mencipta AI berpusatkan manusia. Ini adalah idea strident yang sama yang dikatakan digunakan untuk sebarang jenis teknologi.

Kita juga boleh menggunakan ajaran berpusatkan manusia yang dibanggakan itu pada sistem AI.

Melakukannya telah melahirkan alam yang dikenali sebagai AI Berpusatkan Manusia, selalunya disingkatkan sebagai HCAI atau kadangkala dipendekkan menjadi HAI. Berikut ialah cara ringkas untuk menerangkan HCAI: “AI berpusatkan manusia (HCAI) ialah bidang kesarjanaan yang muncul yang mengkonseptualisasikan semula HCD dalam konteks AI, menyediakan metafora reka bentuk AI berpusatkan manusia dan mencadangkan struktur tadbir urus untuk membangunkan yang boleh dipercayai, selamat dan boleh dipercayai sistem AI" (mengikut laporan NIST yang dipetik sebelum ini).

HCAI ialah gabungan AI dan HCD.

Itu mungkin kelihatan agak samar dan terlalu kembung dengan singkatan. Versi yang diperluaskan adalah untuk mengatakan bahawa AI Berpusatkan Manusia ialah gabungan AI dan prinsip Reka Bentuk Berpusatkan Manusia. Kami mahu beralih daripada kecenderungan untuk mencipta berasaskan AI semata-mata pada prinsip berpusatkan teknologi dan sebaliknya menggalakkan keutamaan berpusatkan manusia.

Anda kini tahu apa itu HCAI. Kita perlu beralih kepada soalan lama.

Bolehkah kita mendapatkan pembangun AI dan pemimpin syarikat mereka untuk menggunakan kaedah AI Berpusatkan Manusia?

Mungkin ya mungkin tidak.

Ingat bahawa saya sebelum ini menegaskan bahawa tidak semua orang semestinya mengikut fokus berpusatkan manusia secara umum. Perkara yang sama boleh dikatakan mengenai kemasukan khusus yang berpusatkan manusia ke dalam alam AI. Ada yang tidak akur kerana tidak tahu apa itu HCAI. Yang lain melihat sepintas lalu pada HCAI dan memutuskan mereka lebih suka terus melakukan apa yang mereka sudah lakukan. Anda juga mempunyai orang-orang sinis yang cuba memburukkan AI Berpusatkan Manusia sebagai salah satu daripada jenis pendekatan yang berasa senang hati. Ini sering menarik minat jenis bit-dan-bait berteknologi penuh yang lebih suka berteknologi tinggi dan tidak menangani perkara yang mereka anggap sebagai perkara yang berlebihan.

Izinkan saya seketika untuk mengenal pasti sebab AI Berpusatkan Manusia (HCAI) semakin kuat dan menjadi bahagian penting dalam mana-mana usaha AI demonstratif.

Anda mungkin sedar bahawa apabila era terkini AI bermula, terdapat cetusan semangat yang besar untuk apa yang kini dipanggil oleh sesetengah orang. AI Untuk Kebaikan. Malangnya, selepas keterujaan yang membuak-buak itu, kami mula menyaksikan AI Untuk Buruk. Sebagai contoh, pelbagai sistem pengecaman muka berasaskan AI telah didedahkan sebagai mengandungi berat sebelah kaum dan berat sebelah jantina, yang telah saya bincangkan di pautan di sini.

Usaha melawan balik AI Untuk Buruk sedang giat dijalankan. Selain riuh rendah undang-undang usaha untuk mengekang perbuatan salah, terdapat juga dorongan substantif ke arah menerima Etika AI untuk memperbetulkan keburukan AI. Tanggapannya ialah kita harus mengguna pakai dan menyokong prinsip AI Etika utama untuk pembangunan dan penempatan AI berbuat demikian untuk mengurangkan AI Untuk Buruk dan pada masa yang sama menghebahkan dan mempromosikan yang lebih baik AI Untuk Kebaikan.

Liputan meluas saya tentang AI Etika dan AI Etika boleh didapati di pautan ini di sini and pautan ini di sini, Hanya untuk menamakan beberapa.

Jika anda mungkin mengikuti dengan teliti semasa saya memberikan definisi atau penjelasan tentang Reka Bentuk Berpusatkan Manusia (HCD), anda mungkin telah mengamati ayat ini dalam petikan NIST: "Tambahan pula, dengan meletakkan manusia di tengah-tengah pendekatan sedemikian, mereka secara semula jadi. meminjamkan diri mereka kepada tumpuan yang lebih mendalam pada pertimbangan masyarakat yang lebih besar seperti keadilan, berat sebelah, nilai dan etika." Oleh itu, dalam kes AI Berpusatkan Manusia, kami boleh membantu menerapkan AI Etika dan AI Etika ke dalam reka bentuk dan proses pembangunan AI dengan bersungguh-sungguh mengguna pakai HCAI sebagai metodologi yang patut dilakukan untuk sistem AI.

Anda boleh berhujah dengan agak meyakinkan bahawa kebanyakan AI Untuk Buruk itu tidak disengajakan mungkin berlaku kerana pembangun AI dan pemimpin syarikat mereka tidak menggunakan pendekatan HCAI. Sekiranya mereka berbuat demikian, kemungkinan besar mereka akan mempertimbangkan dengan teliti elemen AI Beretika dan mencipta AI supaya sesuai dari segi etika. Saya mungkin menambah bahawa ini secara bijak menawarkan dua perkara yang berharga kerana jika AI yang direka sedemikian nampaknya kukuh dari segi etika, kemungkinan firma itu dan pembangun AInya akan mengelak daripada menyeberang AI mereka untuk bertindak secara menyalahi undang-undang. Itu adalah faedah yang agak ketara kerana AI yang tersilap mungkin akan membawa tindakan undang-undang terhadap pembuat dan mungkin juga melibatkan pendakwaan untuk tindakan jenayah (lihat analisis saya di pautan di sini akauntabiliti jenayah untuk pelakon jahat AI).

Mari kita luangkan sedikit masa untuk mempertimbangkan secara ringkas beberapa prinsip AI Etika utama untuk menggambarkan perkara yang sepatutnya menjadi tumpuan penting HCAI yang berpusatkan manusia atau HCAI untuk sesiapa sahaja yang membuat, memadang atau menggunakan AI.

Sebagai contoh, seperti yang dinyatakan oleh Vatican dalam Rome Call For AI Ethics dan seperti yang telah saya kupas secara mendalam pautan di sini, ini ialah enam prinsip etika AI utama mereka yang dikenal pasti:

• Ketelusan: Pada dasarnya, sistem AI mesti boleh dijelaskan
• Inklusi: Keperluan semua manusia mesti diambil kira supaya semua orang boleh mendapat manfaat, dan semua individu boleh ditawarkan keadaan terbaik untuk mengekspresikan diri dan berkembang.
• Tanggungjawab: Mereka yang mereka bentuk dan menggunakan penggunaan AI mesti meneruskan dengan tanggungjawab dan ketelusan
• Kesaksamaan: Jangan mencipta atau bertindak mengikut berat sebelah, sekali gus menjaga keadilan dan maruah manusia
• Kebolehpercayaan: Sistem AI mesti boleh berfungsi dengan pasti
• Keselamatan dan privasi: Sistem AI mesti berfungsi dengan selamat dan menghormati privasi pengguna.

Seperti yang dinyatakan oleh Jabatan Pertahanan AS (DoD) dalam mereka Prinsip Etika Untuk Penggunaan Kepintaran Buatan dan seperti yang telah saya kupas secara mendalam pautan di sini, ini ialah enam prinsip etika AI utama mereka:

• Bertanggungjawab: Kakitangan DoD akan menggunakan tahap pertimbangan dan penjagaan yang sesuai sambil kekal bertanggungjawab terhadap pembangunan, penggunaan dan penggunaan keupayaan AI.
• saksama: Jabatan akan mengambil langkah yang disengajakan untuk meminimumkan berat sebelah yang tidak diingini dalam keupayaan AI.
• Boleh dikesan: Keupayaan AI Jabatan akan dibangunkan dan digunakan supaya kakitangan yang berkaitan mempunyai pemahaman yang sesuai tentang teknologi, proses pembangunan dan kaedah operasi yang digunakan untuk keupayaan AI, termasuk dengan metodologi yang telus dan boleh diaudit, sumber data serta prosedur dan dokumentasi reka bentuk.
• dipercayai: Keupayaan AI Jabatan akan mempunyai penggunaan yang jelas, ditakrifkan dengan baik, dan keselamatan, keselamatan dan keberkesanan keupayaan tersebut akan tertakluk kepada ujian dan jaminan dalam penggunaan yang ditentukan merentas keseluruhan kitaran hayatnya.
• Boleh ditadbir: Jabatan akan mereka bentuk dan merekayasa keupayaan AI untuk memenuhi fungsi yang dimaksudkan sambil memiliki kebolehan untuk mengesan dan mengelakkan akibat yang tidak diingini, dan keupayaan untuk menanggalkan atau menyahaktifkan sistem yang digunakan yang menunjukkan tingkah laku yang tidak diingini.

Saya juga telah membincangkan pelbagai analisis kolektif prinsip etika AI, termasuk telah merangkumi satu set yang direka oleh penyelidik yang meneliti dan meringkaskan intipati pelbagai prinsip etika AI nasional dan antarabangsa dalam kertas kerja bertajuk "The Global Landscape Of AI Ethics Guidelines" (diterbitkan dalam Alam), dan liputan saya meneroka di pautan di sini, yang membawa kepada senarai batu kunci ini:

• Ketelusan
• Keadilan & Kesaksamaan
• Non-Maleficence
• tanggungjawab
• Privasi
• Kebaikan
• Kebebasan & Autonomi
• Amanah
• Sustainability
• Martabat
• Perpaduan

Seperti yang anda mungkin meneka secara langsung, cuba mengecilkan butiran yang mendasari prinsip ini boleh menjadi sangat sukar untuk dilakukan. Lebih-lebih lagi, usaha untuk mengubah prinsip-prinsip yang luas itu menjadi sesuatu yang benar-benar nyata dan cukup terperinci untuk digunakan semasa membuat sistem AI juga merupakan masalah yang sukar untuk dipecahkan. Adalah mudah untuk secara keseluruhan melakukan beberapa lambaian tangan tentang apa itu peraturan Etika AI dan cara ia harus dipatuhi secara umum, sementara ia adalah situasi yang lebih rumit dalam pengekodan AI yang harus menjadi getah yang benar-benar memenuhi jalan.

Prinsip Etika AI akan digunakan oleh pembangun AI, bersama-sama dengan mereka yang mengurus usaha pembangunan AI, dan juga prinsip yang akhirnya meletakkan dan melaksanakan penyelenggaraan pada sistem AI. Semua pihak berkepentingan sepanjang keseluruhan kitaran hayat pembangunan dan penggunaan AI dianggap dalam skop pematuhan kepada norma AI Etika yang telah ditetapkan. Ini adalah sorotan penting kerana andaian biasa ialah "pengekod sahaja" atau mereka yang memprogramkan AI tertakluk kepada pematuhan kepada tanggapan Etika AI. Harap maklum bahawa memerlukan sebuah kampung untuk mencipta dan mengembangkan AI. Di mana seluruh kampung perlu mengikuti perkembangan Etika AI.

Untuk memberikan anda rasa apa yang mungkin termasuk metodologi AI Berpusatkan Manusia kontemporari, berikut ialah beberapa perkara yang dibuat oleh laporan NIST:

• Tentukan istilah dan konsep utama yang berkaitan dengan sistem AI dan skop kesan yang dimaksudkan
• Menangani penggunaan data sensitif atau berpotensi berisiko
• Standard terperinci untuk reka bentuk eksperimen, kualiti data dan latihan model
• Gariskan bagaimana risiko berat sebelah harus dipetakan dan diukur, dan mengikut piawaian
• Proses terperinci untuk ujian dan pengesahan model
• Perincikan proses semakan mengikut fungsi undang-undang atau risiko
• Nyatakan ketepatan dan kedalaman pengauditan dan semakan yang berterusan
• Gariskan keperluan untuk pengurusan perubahan
• Perincikan sebarang rancangan yang berkaitan dengan tindak balas insiden untuk sedemikian
• Dll

Terdapat pelbagai jenis metodologi berorientasikan HCAI yang tersedia.

Sebahagian daripadanya adalah percuma dan disediakan berdasarkan jenis sumber terbuka, manakala kaedah lain seperti itu dilesenkan atau dijual kepada mereka yang ingin menggunakan varian tertentu itu. Seperti sekotak coklat, anda perlu mengambil kira metodologi HCAI yang anda pilih untuk digunakan dan kandungannya dengan tepat. Beberapa contohnya ditujukan kepada jenis sistem AI tertentu, seperti hanya katakan untuk Pembelajaran Mesin atau Pembelajaran Dalam. Selain itu, terdapat metodologi HCAI yang baik untuk sistem AI masa nyata manakala yang lain lemah dalam hal itu. Lihat perbincangan saya di pautan ini di sini.

Saya menggesa agar anda bijak memilih metodologi HCAI yang diharapkan sesuai dan pastikan anda mengamalkannya dengan bijak. Jangan hanya membuang metodologi HCAI kepada pembangun AI yang tidak curiga. Jangan dapatkan satu semata-mata supaya anda boleh menandakan semak bahawa anda mempunyai satu. Terdapat banyak cara untuk mengurangkan dan meracuni hampir mana-mana metodologi HACI jika anda gagal dalam mengamalkannya. Lakukan perkara yang betul, dengan cara yang betul.

Berhati-hati juga dalam kelumpuhan analisis memilih metodologi HCAI. Sesetengah kumpulan AI terlibat dalam peperangan yang melibatkan metodologi HACI yang "terbaik" dan akhirnya menghabiskan sejumlah besar usaha untuk memperjuangkan proses pemilihan. Sementara itu, kuda AI sedang dilepaskan dari kandang. Tindakan buruk.

Pada masa perbincangan ini, saya yakin anda ingin mendapatkan beberapa contoh yang mungkin menunjukkan nilai penggunaan AI Berpusatkan Manusia (HCAI).

Saya gembira anda bertanya.

Terdapat satu set contoh yang istimewa dan pasti popular yang dekat di hati saya. Anda lihat, dalam kapasiti saya sebagai pakar dalam AI termasuk kesan etika dan undang-undang, saya sering diminta untuk mengenal pasti contoh realistik yang mempamerkan dilema Etika AI supaya sifat topik yang agak teoritikal dapat difahami dengan lebih mudah. Salah satu bidang yang paling menggembirakan yang memaparkan dengan jelas kebingungan AI beretika ini ialah kemunculan kereta pandu sendiri sejati berasaskan AI. Ini akan berfungsi sebagai kes penggunaan yang berguna atau contoh untuk perbincangan yang mencukupi mengenai topik tersebut.

Berikut adalah soalan penting yang patut direnungkan: Adakah kemunculan kereta pandu sendiri sebenar berasaskan AI menerangi apa-apa tentang AI Berpusatkan Manusia (HCAI), dan jika ya, apakah yang ditunjukkan oleh ini?

Izinkan saya sebentar untuk membongkar soalan.

Pertama, ambil perhatian bahawa tidak ada pemandu manusia yang terlibat dalam kereta pandu sendiri yang sebenar. Perlu diingat bahawa kereta pandu sendiri sebenar dipandu melalui sistem pemanduan AI. Tidak ada keperluan untuk pemandu manusia di atas roda, dan tidak ada peruntukan untuk manusia memandu kenderaan itu. Untuk liputan saya yang meluas dan berterusan mengenai Kenderaan Autonomi (AV) dan terutamanya kereta pandu sendiri, lihat pautan di sini.

Saya ingin menjelaskan lebih lanjut apa yang dimaksudkan apabila saya merujuk kepada kereta pandu sendiri yang sebenar.

Memahami Tahap Kereta Memandu Kendiri

Sebagai penjelasan, kereta pandu sendiri yang sebenar ialah kereta yang AI memandu kereta itu sendiri sepenuhnya dan tidak ada sebarang bantuan manusia semasa tugas memandu.

Kenderaan tanpa pemandu ini dianggap Tahap 4 dan Tahap 5 (lihat penjelasan saya di pautan ini di sini), manakala kereta yang memerlukan pemandu manusia untuk berkongsi usaha pemanduan biasanya dianggap pada Tahap 2 atau Tahap 3. Kereta yang berkongsi tugas pemanduan digambarkan sebagai separa autonomi dan biasanya mengandungi pelbagai alat tambah automatik yang dirujuk sebagai ADAS (Advanced Driver-Assistance Systems).

Belum ada kereta pandu sendiri yang sebenar di Tahap 5, dan kami masih belum tahu sama ada ini boleh dicapai, atau berapa lama masa yang diperlukan untuk sampai ke sana.

Sementara itu, usaha Tahap 4 secara beransur-ansur cuba mendapatkan sedikit daya tarikan dengan menjalani ujian jalan raya awam yang sangat sempit dan terpilih, walaupun terdapat kontroversi sama ada ujian ini harus dibenarkan sendiri (kita semua adalah babi guinea hidup atau mati dalam eksperimen berlaku di lebuh raya dan jalan raya kami, ada yang berpendapat, lihat liputan saya di pautan ini di sini).

Oleh kerana kereta separa autonomi memerlukan pemandu manusia, penggunaan jenis kereta itu tidak akan jauh berbeza daripada mengemudi kenderaan konvensional, jadi tidak banyak yang perlu dibahas sendiri mengenai topik ini (walaupun, seperti yang akan anda lihat sekejap sahaja, perkara-perkara yang dinyatakan seterusnya dapat digunakan secara umum).

Untuk kereta separa autonomi, penting bagi orang ramai untuk diperingatkan tentang aspek mengganggu yang timbul sejak kebelakangan ini, walaupun pemandu manusia yang terus menyiarkan video mereka tertidur di roda kereta Level 2 atau Level 3 , kita semua harus mengelak daripada disesatkan untuk mempercayai bahawa pemandu boleh menarik perhatian mereka dari tugas memandu ketika memandu kereta separa autonomi.

Anda adalah pihak yang bertanggungjawab untuk tindakan memandu kenderaan, tanpa mengira berapa banyak automasi yang dilemparkan ke Tahap 2 atau Tingkat 3.

Kereta Pandu Sendiri dan AI Berpusatkan Manusia (HCAI)

Untuk kenderaan memandu sendiri Tahap 4 dan Tahap 5, tidak akan ada pemandu manusia yang terlibat dalam tugas memandu.

Semua penghuni akan menjadi penumpang.

AI sedang memandu.

Salah satu aspek untuk dibincangkan dengan segera adalah hakikat bahawa AI yang terlibat dalam sistem pemanduan AI masa kini tidak berperasaan. Dengan kata lain, AI sama sekali merupakan kumpulan pengaturcaraan dan algoritma berasaskan komputer, dan yang pasti tidak dapat memberi alasan dengan cara yang sama seperti yang manusia dapat.

Mengapa penekanan tambahan ini mengenai AI tidak berperasaan?

Kerana saya ingin menegaskan bahawa ketika membincangkan peranan sistem pemanduan AI, saya tidak menganggap kualiti manusia dengan AI. Perlu diketahui bahawa terdapat kecenderungan yang berterusan dan berbahaya pada masa ini untuk antropomorfisasi AI. Pada hakikatnya, orang memberikan perasaan seperti manusia pada AI hari ini, walaupun fakta yang tidak dapat disangkal dan tidak dapat dibantah bahawa belum ada AI seperti itu.

Dengan penjelasan itu, anda dapat membayangkan bahawa sistem pemanduan AI secara semula jadi tidak akan "mengetahui" tentang aspek pemanduan. Memandu dan semua yang diperlukan perlu diprogramkan sebagai sebahagian daripada perkakasan dan perisian kereta memandu sendiri.

Mari selami pelbagai aspek yang perlu diperhatikan dalam topik ini.

Pertama, adalah penting untuk menyedari bahawa tidak semua kereta pandu sendiri AI adalah sama. Setiap pembuat kereta dan firma teknologi pandu sendiri mengambil pendekatan mereka untuk mencipta kereta pandu sendiri. Oleh itu, sukar untuk membuat kenyataan menyeluruh tentang perkara yang akan dilakukan atau tidak dilakukan oleh sistem pemanduan AI.

Selanjutnya, setiap kali menyatakan bahawa sistem pemanduan AI tidak melakukan perkara tertentu, ini kemudiannya dapat ditimpa oleh pembangun yang sebenarnya memprogram komputer untuk melakukan perkara itu. Langkah demi langkah, sistem pemanduan AI secara bertahap diperbaiki dan diperluas. Batasan yang ada hari ini mungkin tidak lagi ada dalam lelaran atau versi sistem yang akan datang.

Saya percaya yang memberikan cukup banyak peringatan untuk mendasari apa yang akan saya kaitkan.

Kami bersedia sekarang untuk menyelam lebih mendalam ke dalam kereta pandu sendiri dan nilai ketara Human-Center AI (HCAI).

Mari kita gunakan contoh yang mudah difahami. Kereta pandu sendiri berasaskan AI sedang dijalankan di jalan kejiranan anda dan nampaknya memandu dengan selamat. Pada mulanya, anda telah menumpukan perhatian khusus kepada setiap kali anda berjaya melihat sekilas kereta pandu sendiri. Kenderaan autonomi itu menonjol dengan rak penderia elektronik yang termasuk kamera video, unit radar, peranti LIDAR dan seumpamanya. Selepas beberapa minggu kereta pandu sendiri melayari sekitar komuniti anda, kini anda hampir tidak menyedarinya. Setakat yang anda bimbang, ia hanyalah sebuah kereta lain di jalan raya awam yang sudah sibuk.

Sekiranya anda fikir adalah mustahil atau tidak munasabah untuk membiasakan diri melihat kereta pandu sendiri, saya telah kerap menulis tentang cara tempat yang berada dalam skop percubaan kereta pandu sendiri secara beransur-ansur membiasakan diri melihat kenderaan yang dirapikan. Ramai penduduk tempatan akhirnya beralih daripada ternganga-nganga ternganga-nganga kepada kini mengeluarkan kebosanan yang meluas untuk menyaksikan kereta pandu sendiri yang berliku-liku itu.

Mungkin sebab utama sekarang mereka mungkin melihat kenderaan autonomi adalah kerana faktor kerengsaan dan kegusaran. Sistem pemanduan AI by-the-book memastikan kereta mematuhi semua had laju dan peraturan jalan raya. Bagi pemandu manusia yang sibuk di dalam kereta tradisional mereka yang dipandu manusia, anda akan berasa jengkel apabila terjebak di belakang kereta pandu sendiri berasaskan AI yang mematuhi undang-undang.

Itu sesuatu yang mungkin kita semua perlu biasakan, betul atau salah.

Berbalik kepada kisah kita.

Ternyata segelintir kebimbangan yang tidak wajar mula timbul mengenai kereta pandu sendiri berasaskan AI yang tidak berbahaya dan diterima secara umum, khususnya:

1) Kesukaran mengambil dan menghantar (PUDO).

2) Status kereta pandu sendiri dalam kenderaan tidak mencukupi untuk penumpang

3) Kekeliruan berbahaya bagi pejalan kaki tentang niat sistem pemanduan AI

4) Kebimbangan tentang pencerobohan privasi akibat kereta pandu sendiri

5) Keragu-raguan etika tentang pemanduan AI mengikut Masalah Troli yang terkenal

Kami akan melihat dengan teliti setiap faktor tersebut. Mereka masing-masing mewakili beberapa perjuangan yang paling mencabar untuk pengembangan berterusan percubaan kereta pandu sendiri. Untuk menjelaskannya, cabaran terbesar ialah memastikan kereta pandu sendiri selamat pergi dari titik A ke titik B. Cabaran tambahan yang disebutkan di atas adalah di atas teras atau set cabaran asas itu.

Seperti yang akan menjadi jelas, lima isu yang dinyatakan adalah berkaitan secara integral dengan tanggapan utama reka bentuk berpusatkan manusia. Dalam pengertian itu, mereka mempamerkan kepentingan perhatian kepada AI Berpusatkan Manusia (HCAI).

#1: Kesukaran Ambil dan Hantar (PUDO).

Apabila anda menggunakan perkhidmatan perkongsian tunggangan yang dipandu manusia, satu perkara yang anda anggap akan berlaku dengan betul melibatkan pengambilan untuk perjalanan di tempat yang sesuai dan begitu juga dengan dihantar ke destinasi yang sesuai apabila perjalanan selesai (ini diketahui oleh singkatan berguna PUDO). Ini boleh menjadi lebih rumit daripada yang kelihatan. Jika anda berdiri di tepi jalan merah, patutkah pemandu manusia pergi ke hadapan dan berhenti di sana untuk menjemput anda? Perlu diingat bahawa undang-undang biasanya menyatakan bahawa tidak dibenarkan berhenti di sekatan merah.

Kadangkala tempat "mudah" untuk anda dijemput tidak semestinya memudahkan pemandu kenderaan. Saya pasti anda pernah menyeberang jalan sekali-sekala untuk mencuba dan memudahkan pemandu perkongsian tunggangan bertemu anda. Satu jenis tarian boleh timbul di mana anda cuba mendekati kereta dan pemandu cuba mendekati di mana sahaja anda berada.

Bagi kebanyakan firma yang mencipta sistem pemanduan AI, keseluruhan urusan pengambilan dan penghantaran yang sesuai telah diturunkan kepada keutamaan yang agak rendah dalam senarai perkara yang perlu dilakukan.

Pemaju AI pada umumnya menganggap penumpang manusia harus sentiasa pergi ke kereta pandu sendiri. Adalah menjadi tanggungjawab penumpang untuk melakukan ini. Sistem pemanduan AI tidak perlu bimbang dengan PUDO. Cukup dekati dan itu sahaja. Dengan cara berfikir sedemikian, lokasi mengambil dan menghantar tidak ada kaitan dengan perkara seperti cuaca buruk (apabila hujan PUDO sering menyesuaikan diri dengan sewajarnya), atau situasi trafik (mungkin kereta lain melepasi dan potensi penumpang perlu masuk ke arah bahaya), dan sebagainya.

Pemandu manusia biasanya tidak mempunyai pemikiran sedemikian. Mereka sedar bahawa mereka tidak akan mendapat petua kewangan atau mungkin mendapat markah penilaian yang busuk jika mereka tidak melakukan sesuatu dengan bersungguh-sungguh untuk menjadikan penumpang mempunyai PUDO yang agak mudah. Cuba untuk sampai ke tempat yang berguna boleh menjadi kemahiran memandu yang penting. Ini juga menggalakkan keselamatan dalam erti kata bahawa jika penumpang dengan cemas didorong untuk mencapai kereta pandu sendiri, sesetengah orang membuat pilihan yang tidak bijak dan boleh dicederakan oleh semua jenis lalu lintas yang mengganggu.

Dalam kes kereta pandu sendiri AI dan sistem pemanduan AI yang tidak menjalankan tugas yang mantap dalam PUDO, anda boleh katakan bahawa ini menunjukkan kekurangan tumpuan berpusatkan manusia oleh pembangun AI. Mereka seolah-olah mengabaikan aspek pengambilan dan penghantaran. Itulah jenis pemikiran yang mungkin diperoleh oleh perspektif berpusatkan teknologi tradisional. Jadikan manusia datang kepada mesin, bukannya mesin pergi kepada manusia.

Masalah selesai, juruteknik mungkin menunjukkan dengan gembira dan kemudian mencuci tangan mereka sepanjang urusan.

Untuk bersikap adil, ini bukan satu-satunya asas untuk kekurangan tumpuan PUDO yang bersemangat. Tenaga pembangun AI yang membina sistem pemanduan AI telah ditumpukan untuk memastikan kereta pandu sendiri boleh meneruskan dengan selamat dari titik A ke titik B. Tanpa keupayaan itu, tiada perkara lain yang penting. Walaupun begitu, sesiapa sahaja yang cedera atau diganggu dengan jelas akibat PUDO yang buruk akibat usaha kereta pandu sendiri yang sedang berkembang berkemungkinan akan membuat bunyi yang sangat dimaklumkan dan reaksi masyarakat boleh menjadi sangat buruk. Sudah pasti akan ada juruteknik AI yang akan mengadu bahawa sebarang tindak balas sebegitu telah kehilangan pencapaian penting AI memandu dengan selamat dari titik A ke titik B. Ia akan menjadi desakan bahawa orang ramai membiarkan ekor mengibaskan anjing itu. Mungkin begitu, tetapi reaksi masyarakat boleh mengeja nasib baik atau azab langsung untuk kereta pandu sendiri yang sedang berkembang.

Untuk liputan mendalam saya tentang jenis isu halus tetapi akhirnya membuat atau memecahkan tentang kenderaan autonomi ini, lihat perbincangan saya di pautan di sini yang memberikan sorotan kajian yang saya karang bersama dengan ahli fakulti Harvard.

#2: Status Kereta Pandu Sendiri Dalam Kenderaan Untuk Penumpang

Seorang pemandu manusia boleh menjadi kucing yang cerewet. Maksud saya, sesetengah pemandu perkongsian tunggangan sentiasa berbual sepanjang perjalanan. Tidak semua penumpang menyukai ini. Ada yang inginkan kedamaian dan ketenangan. Yang lain suka bergurau senda.

Satu aspek pemandu manusia ialah anda hampir pasti boleh bertanya soalan pemandu tentang tindakan pemanduan yang sedang dijalankan. Mengapa pemandu itu membelok ke kanan dengan pantas? Mengapa pemandu tidak bergerak lebih laju? Anda mendapat idea itu.

Andaian oleh beberapa pembangun AI ialah penumpang kereta pandu sendiri hanya akan masuk ke dalam kenderaan autonomi dan kemudian senyap seperti tetikus. Tidak perlu mempunyai AI berinteraksi dengan penumpang. Penumpang tidak lebih daripada segumpal tanah liat. Mereka duduk di dalam kereta dan mereka dibawa ke destinasi mereka. Tamat cerita.

Mengejutkan beberapa pembuat kereta dan firma teknologi memandu sendiri, mereka mendapati bahawa penumpang ingin tahu apa yang sedang berlaku. Pendekatan minimum melibatkan skrin LED yang memaparkan laluan kereta pandu sendiri. Ini walaupun tidak membantu terutamanya dalam menangani aspek seperti mengapa pusingan cepat dibuat atau mengapa kereta perlahan. Pasti, mesej elektronik boleh dipaparkan tetapi terdapat sedikit atau tiada interaksi dibenarkan antara AI dan penumpang.

Sekali lagi, anda boleh menganggap ini sebagai isu pembangunan AI berpusatkan manusia. Andaian bahawa penumpang adalah serupa dengan beg pakaian atau kotak penghantaran adalah sudut pandangan berpusatkan teknologi. Orang adalah orang. Jika anda akan mengangkut orang, anda perlu membuat mereka berasa selesa dan responsif terhadap pertanyaan mereka. Penyelesaian pantas untuk beberapa operasi kereta pandu sendiri adalah dengan mempunyai sambungan suara dalam pesawat kepada ejen manusia di tempat terpencil yang memantau kereta armada itu. Ini mempunyai banyak kelemahan, seperti yang telah saya analisis dengan panjang lebar pautan di sini.

#3: Kekeliruan Berbahaya Untuk Pejalan Kaki Mengenai Niat Sistem Pemanduan AI

Bayangkan anda berjalan dengan santai di kaki lima dan ingin menyeberang jalan. Anda perasan bahawa sebuah kereta sedang menyusuri jalan menuju ke arah anda. Perkara biasa yang anda akan lakukan ialah melihat pemandu manusia. Adakah pemandu itu melihat saya? Adakah pemandu itu memandang jauh? Adakah mereka menonton video kucing dan tidak memberi perhatian kepada jalan raya?

Masalah dengan kereta pandu sendiri ialah tiada pemandu manusia. Baiklah, saya rasa anda boleh mengatakan itu adalah satu kelebihan, membolehkan kami menghapuskan pemanduan dalam keadaan mabuk dan tingkah laku pemanduan manusia yang salah. Tetapi apabila ia datang untuk memikirkan apa yang akan dilakukan oleh kereta, anda biasanya cuba melihat apa yang dilakukan oleh pemandu (melalui kepala, mata, postur keseluruhan mereka, dll.).

Apabila tiada pemandu di tempat duduk pemandu, bagaimana anda tahu apa yang akan dilakukan oleh kereta? Anda tiada petunjuk biasa. Sesetengah pembuat kereta dan firma teknologi memandu sendiri tidak mengira masalah ini secara khusus dalam usaha reka bentuk mereka. Pada fikiran mereka, sistem pemanduan AI akan sentiasa memandu dengan selamat dan sah. Apa lagi yang perlu dilakukan?

Anda boleh berhujah bahawa ini adalah satu lagi contoh pandangan berpusatkan teknologi terhadap dunia berbanding perspektif berpusatkan manusia. Jika anda percaya bahawa manusia semua hanya akan memberikan kereta pandu sendiri laluan yang betul pada setiap masa, mungkin tidak mengapa petunjuk tindakan arah pemandu manusia diperlukan. Sebaliknya, dalam dunia nyata, sesuatu mesti disediakan.

Seperti yang saya telah periksa di pautan di sini, banyak cadangan sedang dicuba seperti meletakkan mentol lampu khas pada hud kereta pandu sendiri yang menyala dan semacam menghala ke arah mana kenderaan autonomi itu menuju. Tanggapan lain ialah peranti khusus akan mengakui kepada pejalan kaki bahawa ia dilihat oleh sistem pemanduan AI. Semua jenis pilihan yang masuk akal, termasuk kadang-kadang pendekatan yang unik sedang diterokai.

#4: Kebimbangan Mengenai Pencerobohan Privasi Akibat Kereta Pandu Sendiri

Saya telah berulang kali memberi amaran tentang potensi besar pencerobohan privasi akibat kemunculan kereta pandu sendiri. Tiada siapa yang memberi banyak perhatian kepada perkara itu pada masa ini kerana ia masih belum menjadi masalah yang disedari. Saya memberi jaminan kepada anda bahawa ia akhirnya akan menjadi masalah yang besar, yang saya telah labelkan sebagai "mata berkeliling" kereta pandu sendiri (lihat pautan di sini).

Fikiran pertama anda mungkin bahawa ini pastinya semata-mata mengenai privasi penumpang. AI boleh memantau apa yang penunggang lakukan semasa berada di dalam kereta pandu sendiri. Pasti, itu adalah kebimbangan yang pasti. Tetapi saya berpendapat ia tidak bermakna jika dibandingkan dengan keraguan yang kurang jelas yang mempunyai kesan yang lebih besar.

Secara ringkasnya, penderia kereta pandu sendiri sedang mengumpul semua jenis data semasa kenderaan autonomi berkeliaran di seluruh jalan raya awam kami. Ia menangkap apa yang berlaku di halaman depan rumah kami. Ia menangkap apa yang dilakukan oleh orang ramai semasa berjalan dari satu tempat ke satu tempat. Ia menunjukkan apabila anda memasuki pertubuhan dan apabila anda meninggalkannya. Data ini boleh dimuat naik dengan mudah ke awan pengendali armada. Pengendali armada kemudiannya boleh menyambung bersama data ini dan pada dasarnya mempunyai butiran kehidupan seharian kita yang berlaku semasa berada di luar dan di seluruh komuniti kita.

Kami nampaknya tidak mengambil berat tentang potensi pencerobohan privasi itu sekarang kerana hanya terdapat segelintir kereta pandu sendiri yang diuji di beberapa tempat. Suatu hari nanti, kami akan mempunyai ratusan ribu atau berjuta-juta kereta pandu sendiri yang merentasi semua bandar dan pekan utama kami. Kehidupan luar harian kami akan dirakam tanpa henti, 24×7 dan kami boleh dijejaki dengan sewajarnya.

Pembangun AI yang berpusatkan teknologi mungkin akan meremehkan perkara ini. Mereka akan mencadangkan bahawa semua yang mereka lakukan ialah melaksanakan teknologi AI. Orang lain yang perlu bimbang tentang bagaimana teknologi itu akan digunakan.

Sebaliknya, perspektif yang berpusatkan manusia sudah pun membingungkan tentang cara bom waktu yang berdetik privasi gergasi ini akan ditangani. Lebih baik lebih awal daripada kemudian. Ia adalah satu lagi sebab yang baik untuk mempunyai AI Berpusatkan Manusia (HCAI) dalam gabungan perkara.

#5: Keragu-raguan Etika Mengenai Pemanduan AI Mengikut Masalah Troli Yang Terkenal

Perkara terakhir ini agak rumit. Saya akan memendekkannya dan menggalakkan anda untuk mempertimbangkan meneliti analisis panjang saya di pautan di sini. Pendek kata, apabila anda memandu kereta atau menunggang hanya sebagai penumpang di dalam kereta, anda sentiasa dalam bahaya tentang apa yang berlaku kepada kereta itu. Kereta itu mungkin dilanggar oleh kereta lain. Kereta itu mungkin merempuh tiang lampu. Macam-macam perkara buruk boleh berlaku.

Bagaimanakah pemandu manusia memutuskan tindakan pemanduan yang perlu diambil?

Sebagai contoh, contoh kegemaran saya ialah kes yang dilaporkan dalam berita. Seorang pemandu manusia secara sah memasuki persimpangan apabila sebuah kereta lain melanggar lampu merah dan dengan bahaya menghampiri kereta yang dibenarkan secara sah. Pemandu itu memberitahu pemberita bahawa dia perlu membuat keputusan yang sukar. Dia boleh terus berjalan dan berkemungkinan dirempuh oleh kereta yang menceroboh itu, mungkin terbunuh dalam proses itu atau pastinya cedera parah. Atau dia boleh memandu keretanya menjauhi perlanggaran yang dijangkakan, tetapi terdapat pejalan kaki berhampiran. Kemungkinan besar dia mungkin melanggar atau membunuh beberapa pejalan kaki. Berbuat demikian mungkin akan menyelamatkan nyawanya.

Apa yang akan kamu lakukan?

Masalahnya, kita menghadapi dilema pemanduan ini sepanjang masa. Kami tidak terlalu memikirkan tentang mereka sehingga keadaan menjadi teruk. Saya memberi jaminan bahawa setiap pemandu pada setiap masa terlibat secara mental untuk memutuskan tindakan pemanduan yang perlu diambil. Kehidupan mereka bergantung kepadanya. Nyawa penumpang dalam kenderaan mereka bergantung kepadanya. Nyawa pemandu dan penumpang lain di dalam kereta berdekatan bergantung kepadanya. Pejalan kaki, penunggang basikal, dan lain-lain juga bergantung kepadanya.

Saya membawa ini kerana soalan yang mudah tetapi amat sukar untuk dijawab.

Apakah yang perlu AI lakukan apabila berhadapan dengan keputusan memandu hidup atau mati?

Jika anda seorang penumpang dalam kereta pandu sendiri yang berada di tengah-tengah persimpangan dan kereta yang dipandu manusia melanggar lampu merah, apakah yang anda mahu sistem pemanduan AI lakukan? Patutkah AI cuba mengelak daripada terkena dan mungkin akan menyerang sekumpulan pejalan kaki? Atau patutkah AI tidak mengambil sebarang tindakan khas dan hanya membenarkan kenderaan autonomi itu dirempuh? Dilema etika seperti ini sering digambarkan dalam konteks eksperimen pemikiran terkenal yang dikenali sebagai Masalah Troli (lihat pautan di sini).

Pada masa ini, tidak ramai yang mengambil Masalah Troli dengan serius. Pada umumnya, kebanyakan sistem pemanduan AI belum lagi cuba menilai tindakan pemanduan mengelak. Walaupun AI berbuat demikian, terdapat persoalan terbuka dan menyakitkan tentang bagaimana AI sepatutnya diprogramkan untuk membuat keputusan beretika yang mencabar ini.

Perspektif berpusatkan teknologi akan cenderung mengatakan jangan risau mengenainya sehingga ia menjadi masalah yang disedari oleh masyarakat. Teruskan saja mengeluarkan banyak kod AI dan lihat apa yang akan berlaku.

Pandangan yang berpusatkan manusia mungkin akan menegaskan bahawa kita perlu memahami perkara ini. Ini bukan perkara yang boleh diputuskan oleh setiap pembuat kereta dan firma teknologi memandu sendiri sahaja. Tumpuan masyarakat yang lebih besar diperlukan untuk kaedah menyeluruh untuk memikirkan perkara ini.

Kesimpulan

Pembangun AI Diehard selalunya ragu-ragu dengan perkara yang mereka anggap sebagai trend atau omong kosong. Saya mempunyai ramai juruteknik AI yang telah bertanya kepada saya soalan yang keras dan tajam dengan nada yang angkuh dan ragu-ragu tentang minat yang semakin meningkat dalam AI Berpusatkan Manusia (HCAI).

Mereka bertanya ini: Di manakah daging lembu di HCAI?

Jawapan saya ialah daging dan kentang serta pencuci mulut semuanya boleh didapati dalam kesedaran bahawa pendekatan berpusatkan manusia kepada AI akan memberi kita peluang yang lebih tinggi untuk menjadikan AI berjaya dan menjadi sumbangan yang meluas kepada masyarakat secara amnya. Mereka yang sebaliknya ingin bersandar dan terus terperangkap dalam pendekatan sahaja yang berpusatkan teknologi berkemungkinan mendapati bahawa AI yang mereka cipta adalah bermasalah sepenuhnya dan masyarakat akan menjadi sangat gusar mengenainya. Kepala akan berguling. AI mungkin ditolak sebagai keajaiban teknologi dan menjadi orang buangan yang jahat.

Saya dengan lantang mengundi beberapa pemikiran berpusatkan manusia untuk menjadi berpusatkan manusia apabila ia berkaitan dengan AI.