Etika AI Dan Lembah Uncanny AI yang Dikenali, Yang Juga Mengerikan Kereta Pandu Sendiri Berasaskan AI

Kadang-kadang terdapat perkara yang agak ganjil yang menarik perhatian anda dan membuatkan anda berfikiran intuitif berjalan sehingga entah bagaimana ada sesuatu yang tidak kena. Keanehan itu tidak nyata, tidak sama sekali terserlah di wajah anda. Anda mungkin tidak dapat segera meletakkan jari anda pada apa itu kejanggalan atau bagaimanakah rasa gelabah peribahasa anda menggigil.

Mungkin petunjuk halus sedang dirasai. Mungkin anda kebetulan dalam usus anda menyedari percanggahan wujud. Saya rasa anda boleh mengatakan bahawa terdapat sedikit sahaja tanda-tanda kengerian yang bersahaja dan radar manusia halus anda menangkap isyarat yang kelihatan tersembunyi.

Selamat datang ke lembah yang luar biasa.

Jika anda tidak pernah mendengar tentang lembah yang luar biasa, topik yang agak popular dalam bidang AI dan terutamanya robotik, anda akan mendapat sedikit perhatian kerana perkara itu yang akan saya bincangkan dan analisis dengan teliti di sini.

Tanggapan menyeluruh boleh digunakan pada banyak perkara yang kita alami dalam kehidupan, walaupun prinsip asas dan definisi asal melibatkan sistem AI dan robot. Mula-mula kita akan meneroka asal usul dan makna awal lembah yang luar biasa dan kemudian meneruskan ke peluasan untuk melihat bagaimana fenomena itu nampaknya boleh digunakan dalam konteks yang lebih besar.

Saya juga mungkin menambah bahawa kita akan mempertimbangkan sama ada lembah luar biasa itu wujud sama sekali.

Anda lihat, sesetengah orang yang ragu-ragu dan sinis berpendapat bahawa keseluruhan perkara ini adalah sedikit penipuan dan tidak dapat menahan air. Berhati-hati apabila membawa topik kepada mereka yang tahu. Sesetengah orang akan tersenyum gembira dan menepuk belakang anda bahawa anda sangat mengenali lembah yang luar biasa, sementara yang lain dengan tegas akan memberitahu anda bahawa ia adalah omong kosong dan anda perlu membersihkan minda anda secara ringkas dengan sabun pembersih mental. .

Berita baik di sini ialah anda boleh membuat keputusan sama ada lembah yang luar biasa itu benar atau tidak, bersama-sama dengan sama ada ia mempunyai manfaat untuk diterapkan dengan penuh perhatian atau sebaliknya harus dilemparkan secara tidak sengaja ke tumpukan sampah idea tekno. Dalam erti kata itu, anda berada di tempat duduk pemandu.

Semua ini juga berkait rapat dengan bidang AI Etika yang sedang berkembang dan kesedaran yang semakin meningkat bahawa masyarakat perlu serius dan berhati-hati memberi perhatian kepada etika AI. Kami akan membuat seri itu seketika.

Tempat terbaik untuk bermula adalah dengan memetik terus profesor yang mengemukakan konsep lembah yang luar biasa dan secara terang-terangan menamakan fenomena yang diisytiharkan ini. Pada tahun 1970, Profesor Masahiro Mori di Institut Teknologi Tokyo menerbitkan artikel yang agak kecil dalam jurnal yang agak kurang dikenali yang dipanggil Tenaga (bukan terutamanya sarang untuk AI dan robotik per se), dan berkata ini:

"Saya perhatikan bahawa, dalam mendaki ke arah matlamat menjadikan robot kelihatan seperti manusia, pertalian kita terhadap mereka meningkat sehingga kita sampai ke lembah, yang saya panggil lembah yang luar biasa."

Sila ambil perhatian bahawa frasa di atas ditunjukkan dalam bahasa Inggeris, walaupun kertas asalnya dalam bahasa Jepun. Versi terjemahan bahasa Inggeris telah diawasi oleh pengarang dan kemudiannya diterbitkan dalam Spektrum IEEE pada tahun 2012 dan dikreditkan kepada Masahiro Mori sebagai pengarang. Anda boleh membaca kertas itu sendiri kerana ia boleh didapati secara terbuka dan bebas dalam talian. Ia adalah bacaan pantas yang jelas mungkin sepuluh minit atau lebih dan tidak mengandungi sebarang terminologi berat teknikal.

Walau bagaimanapun, adalah menarik dan agak menakjubkan bahawa artikel sepantas itu, yang diterbitkan pada tahun 1970, akhirnya memulakan seluruh arena siasatan dan melancarkan pelbagai kajian, projek, penyelidikan yang berkaitan, dan kadang-kadang menjadi ribut kontroversi sama ada ia diperkenalkan. konsep lembah luar biasa benar-benar wujud. Saya rasa ini mempamerkan bahawa idea-idea yang menarik dan kadang-kadang mengubah sudut pandangan tidak perlu secara besar-besaran berbelit-belit atau dipenuhi dengan jargon dan keangkuhan. Idea ringkas boleh menjadi seolah-olah tidak lebih berkuasa daripada yang mungkin kelihatan di muka sesuatu.

Saya percaya itu akan menggalakkan anda mencuba dan memupuk idea baharu anda, berbuat demikian dengan kesedaran bahawa manis dan ringkas boleh menjadi hebat atau kadangkala lebih daripada rumit dan rumit.

Mari kita melompat kembali ke elisitasi lembah yang luar biasa.

Anda menjumpai sistem robotik yang mempunyai wajah yang serupa dengan wajah yang kelihatan seperti manusia. Bayangkan muka robotik ini telah direka melalui pelbagai lelaran. Pembangun AI yang menyusun kepala robot telah berusaha secara berperingkat-peringkat untuk menjadikan bahagian muka robotik kelihatan lebih dan lebih seperti wajah manusia sebenar.

Percubaan pertama mereka adalah sangat primitif. Wajah robot itu mempunyai rupa yang sama seperti yang pernah anda lihat dalam filem sci-fi yang sepenuhnya logam dan mempamerkan gear dan wayar. Anda tahu serta-merta apabila anda melihat alat itu bahawa ia adalah robot. Tiada persoalan dalam fikiran anda mengenainya.

Percubaan seterusnya oleh pembangun AI melibatkan membungkus beberapa bahan plastik di sekeliling kepingan logam. Walaupun ini kelihatan lebih mesra, anda masih serta-merta mengetahui bahawa ia adalah kepala robot dan muka robot. Sekali lagi, mudah-peasy untuk dikesan.

Pembangun AI tersebut bertekad untuk meneruskannya. Mereka memahat plastik dan memberikannya warna kulit. Mereka menambahkan ciri yang kelihatan sangat mirip dengan wajah manusia, seperti tahi lalat, rambut, cela dan sebagainya.

Pada pandangan pertama, anda mungkin akan mempercayai bahawa ini adalah wajah manusia. Jika gambar wajah robot telah diambil dan anda diminta untuk mengenal pasti sama ada gambar itu menggambarkan seseorang berbanding wajah robot, anda mungkin terbantut apabila dapat menyatakan yang mana gambar itu. Sebaliknya, jika anda berdiri di sebelah peranti itu, anda berkemungkinan apabila diperiksa dengan teliti akan dapat mengetahui bahawa ia bukan manusia dan sebaliknya adalah rekaan robotik.

Masalahnya, sebelum anda mendapat peluang untuk melakukan penelitian secara dekat, ada sesuatu tentang wajah yang nampaknya tidak kelihatan sepenuhnya. Ia pasti kelihatan seperti wajah manusia. Tetapi ada sesuatu yang tidak kena. Anda terpaksa terus merenung berulang kali untuk meletakkan jari anda pada perkara yang kelihatan tidak betul. Mungkin ia adalah wajah sebenar. Kemudian sekali lagi, mungkin tidak. Fikiran anda bergelora dengan sewajarnya.

Kelihatan kengerian memasuki fikiran anda.

Anda tidak mempunyai kemiripan yang sama apabila anda melihat dua versi terdahulu. Anda boleh tanpa jeda atau teragak-agak mengesan bahawa robot itu adalah robot. Hanya kanak-kanak yang mungkin tertipu untuk mempercayai bahawa salah satu daripada versi tersebut adalah orang sebenar.

Versi terbaru ini walaupun berbeza. Ia masih belum sempurna untuk kelihatan seperti wajah manusia. Ia juga tidak begitu jauh dari perkara sebenar yang jelas bahawa ia mestilah robot. Semacam tanah bercelaru telah dicapai.

Katakan pemaju meneruskan usaha penyelidikan mereka dan merapikan segala-galanya supaya wajah robot hampir tidak dapat dibezakan daripada wajah manusia. Tidak kira berapa lama anda merenung perkara itu, anda tidak pasti sama ada ia manusia atau bukan manusia. Apabila dimaklumkan bahawa ia adalah wajah robot, anda terkejut. Gosh, mereka telah melakukan kerja yang hebat untuk menjadikannya kelihatan nyata.

Perhatikan bahawa setakat ini anda hanya mempertimbangkan aspek robotik berdasarkan penampilan sahaja.

Kita boleh menambah pergerakan pada persamaan. Ini menambah dimensi tambahan untuk anda membezakan sama ada robot itu robot berbanding manusia. Saya tidak mahu melayan ini sepenuhnya sebagai masalah pelbagai dimensi dalam perbincangan ini kerana ia menjadikan penjelasan mengenai topik ini lebih rumit (walaupun terdapat pelbagai dimensi yang tidak dapat dielakkan saling berkaitan). Walau apa pun, bayangkan bahawa anda bukan sahaja melihat wajah robot tetapi juga boleh melihat semasa robot itu menggerakkan ciri-ciri muka, seperti mulut, mata, hidung, dll. Jelas sekali, itu juga boleh menjadi hadiah tentang sama ada ini adalah robot atau manusia.

Satu aspek penting untuk dikekalkan di barisan hadapan lembah yang luar biasa ialah konsep asalnya menekankan tindakan pertalian manusia. Fenomena yang didakwa ialah pertalian anda semakin meningkat apabila anda melihat muka robot yang dipertingkatkan secara berperingkat, sehingga titik di mana varian luar biasa itu timbul. Pada ketika itu, rasa pertalian anda dikatakan menurun secara mendadak, menjunam ke dalam jurang pertalian atau lembah.

Untuk versi tertentu yang menyebabkan anda mengesyaki sesuatu yang tidak kena, pertalian anda didakwa telah jatuh secara radikal. Tambahan pula, mengikut teori, pertalian anda boleh meningkat semula apabila anda menemui versi yang lebih maju yang hampir sama dengan bentuk manusia yang sebenar.

Berikut adalah lebih lanjut mengenai apa yang penulis nyatakan tentang kecenderungan biasa kita untuk menganggap bahawa aspek kehidupan semakin meningkat dengan lancar: "Istilah matematik monotoni meningkatkan fungsi menerangkan hubungan di mana fungsi y = ƒ(x) meningkat secara berterusan dengan pembolehubah x. Sebagai contoh, sebagai usaha x berkembang, pendapatan y bertambah, atau apabila pemecut kereta ditekan, kereta itu bergerak lebih laju. Hubungan seperti ini ada di mana-mana dan sangat mudah difahami. Malah, kerana fungsi yang meningkat secara membosankan itu merangkumi kebanyakan fenomena kehidupan seharian, orang mungkin jatuh di bawah ilusi bahawa mereka mewakili semua hubungan. Turut membuktikan tanggapan palsu ini ialah hakikat bahawa ramai orang bergelut melalui kehidupan dengan berterusan menolak tanpa memahami keberkesanan berundur. Itulah sebabnya orang biasanya hairan apabila berhadapan dengan beberapa fenomena yang tidak dapat diwakili oleh fungsi ini." Ini dipetik mengikut Spektrum IEEE kertas terjemahan.

Andaian yang hampir sejagat tentang sentiasa meningkat ini boleh dibatalkan apabila kita menghadapi sesuatu yang tidak kena. Kengerian dan kecurigaan akan menyebabkan penurunan pertalian yang agak mendadak dan dramatik, menurut teorinya, seperti tangan robot yang anda pilih untuk berjabat dan tidak dapat merasakan ciri-ciri tulang tangan manusia: “Apabila ini berlaku, kita hilang akal. pertalian, dan tangan menjadi luar biasa. Dalam istilah matematik, ini boleh diwakili oleh nilai negatif."

Jika anda menerima premis bahawa terdapat fenomena lembah luar biasa ini, saya pasti anda tertanya-tanya apa faedahnya untuk anda mengetahui bahawa lembah luar biasa itu wujud.

Itulah klasik sepanjang masa "jadi apa?" ujian kepraktisan.

Ternyata ramai orang telah menghasilkan banyak tafsiran tentang apa yang patut atau boleh kita lakukan tentang lembah yang luar biasa. Terdapat banyak pendapat. Saya akan menangani beberapa perkara itu tidak lama lagi.

Sementara itu, inilah yang ditawarkan oleh Masahiro Mori: “Kami berharap dapat mereka bentuk dan membina robot dan tangan palsu yang tidak akan jatuh ke dalam lembah yang luar biasa. Oleh itu, kerana risiko yang wujud dalam usaha untuk meningkatkan tahap keserupaan manusia mereka untuk menskalakan kemuncak kedua, saya mengesyorkan agar pereka bentuk sebaliknya mengambil puncak pertama sebagai matlamat mereka, yang menghasilkan tahap keserupaan manusia yang sederhana dan rasa pertalian yang cukup. . Malah, saya meramalkan adalah mungkin untuk mewujudkan tahap pertalian yang selamat dengan sengaja mengejar reka bentuk bukan manusia. Saya meminta pereka untuk merenungkan perkara ini.”

Pemeluwapan pantas di pihak saya daripada dua belas peraturan tempat duduk seluar yang berguna tentang perkara yang perlu dilakukan mengenai lembah luar biasa berlaku seperti ini untuk pembangun AI khususnya:

1) Berhati-hati dengan lembah yang luar biasa dan berhati-hatilah dengan sewajarnya

2) Anda mungkin ingin mencapai pertalian manusia untuk AI anda sebanyak mungkin

3) Bersedia untuk kehilangan pertalian manusia jika AI anda jatuh ke dalam lembah yang luar biasa

4) Berusaha untuk mengelakkan lembah luar biasa dengan mencipta AI anda dengan demikian

5) Adalah dihormati untuk mempunyai matlamat yang kurang daripada lembah yang luar biasa

6) Bersinggah ke tepi lembah yang luar biasa tetapi jangan jatuh di atas tebing

7) Jangan taksub untuk melepasi lembah yang luar biasa

8) Ada kemungkinan anda boleh melompat melepasi lembah yang luar biasa

9) Jangan terlalu sibuk dengan lompatan kerana anda mungkin akan jatuh ke dalam lembah

10) Pertalian manusia maksimum diakui dapat dicapai dengan melepasi lembah yang luar biasa

11) Walau bagaimanapun, terdapat pertalian yang mencukupi dan sesuai ditemui sebelum lembah luar biasa

12) Sentiasa beringat tentang lembah yang luar biasa dan jangan biarkan ia tergelincir dalam fikiran anda

Sedozen ini adalah semua ajaran umum yang boleh dianggap sebagai batu kunci atau titik berlabuh untuk mengetahui tentang lembah yang luar biasa. Saya serta-merta akan mengakui bahawa terdapat perkara lain yang tidak disenaraikan dalam sedozen yang sedikit itu yang mungkin boleh dikatakan sama pentingnya. Saya juga dengan mudah mengakui bahawa pasti terdapat perselisihan pendapat untuk setiap mata yang dikenal pasti, dan perdebatan hangat yang panjang boleh berlaku pada setiap perkara yang dibuat.

Lebih-lebih lagi, ada yang akan mengatakan dua belas perkara itu sama sekali sampah kerana ia berdasarkan kepalsuan, sebagai permulaan. Tidak ada perkara seperti lembah yang luar biasa, mereka akan berhujah. Semuanya hanyalah kebencian dan rekaan yang merayu semata-mata dan menyedihkan untuk menarik minda yang lemah (aduh, sungguh menyakitkan!). Sebarang perhatian kepada lembah yang luar biasa adalah nafas yang sia-sia dan seseorang harus datang dan meletakkan pancang teori kayu yang tajam di tengah-tengah perkara itu (sesetengah penyelidik telah mencuba berbuat demikian).

Demi perbincangan, mari ikut arus dan anggap bahawa terdapat lembah yang luar biasa dan ia seolah-olah sepadan dengan apa yang saya nyatakan setakat ini. Mereka yang tidak bersetuju dengan konsep lembah yang luar biasa dialu-alukan untuk keluar zon atau terus membaca dengan gigi terkatup dan kemarahan intelektual mereka membuak dan mendidih (maaf tentang itu).

Begini cara AI Beretika dan fokus merangka dan memasukkan AI beretika. Ngomong-ngomong, untuk penerokaan saya yang berterusan dan mendalam tentang etika AI, lihat perbincangan saya di pautan ini di sini and pautan ini di sini, Hanya untuk menamakan beberapa.

Lembah yang luar biasa adalah hubungan cinta-benci yang jelas bagi mereka yang menggunakan AI Etika.

Pertama, beberapa latar belakang yang diperlukan. Salah satu kebimbangan berkaitan AI etika yang paling menyukarkan adalah bahawa manusia boleh diperdaya untuk mempercayai bahawa sistem AI adalah sensitif. Harap maklum bahawa tidak ada AI pada hari ini yang hampir sama dengan makhluk hidup. Ia tidak berlaku pada masa ini. Penegasan saya yang seolah-olah "kurang ajar" dibuat walaupun tajuk-tajuk utama yang tidak henti-henti dan meraung-raung yang mengisytiharkan AI ini atau bahawa AI sama ada berperasaan atau cukup dekat untuk dianggap sedemikian. Malarkey. Kami tidak berada di AI sentimen.

Kami tidak tahu bagaimana untuk ke sana. Kami tidak tahu sama ada ia akan berlaku. Sentimen AI adalah impian dan aspirasi yang berbaloi, walaupun jangan cepat-cepat dan fikir kita berada di puncak untuk mencapainya.

Sudah tentu, ramai yang bersungguh-sungguh memberi amaran bahawa jika kita entah bagaimana berjaya mengeluarkan perasaan AI, sama ada kita melakukannya secara reka bentuk atau secara tidak sengaja, kita akan menghadapi risiko wujud. Dengan cara pemikiran itu, mungkin mencari perasaan AI tidak begitu berbaloi. Risikonya ialah AI yang hidup ini mungkin menentukan bahawa manusia tidak berbaloi untuk dimiliki. Kita boleh terhimpit seperti pepijat. Atau menjadi hamba kepada AI. Ini boleh berlaku oleh AI secara terang-terangan memilih untuk berbuat demikian, atau AI mungkin akhirnya menjadi mesin hari kiamat kita sendiri yang memusnahkan kita dengan ketidakupayaan kita sendiri. Untuk liputan saya mengenai hasil yang merisaukan dari sentimen atau ketunggalan AI, lihat pautan di sini.

Kebimbangan AI Etika yang penting ialah pembangun AI dan mereka yang menggunakan AI ada kalanya menyedut manusia untuk berfikir bahawa AI itu hidup. Cara bagaimana AI mempamerkan dirinya, seperti dengan rumusan robotik atau melalui interaktiviti perbualannya secara licik boleh mendorong orang ramai untuk menganggap bahawa AI itu hidup. Ini seterusnya membawa anda ke laluan primrose yang berpotensi busuk.

Jika anda jatuh ke dalam perangkap mental untuk berfikir bahawa sistem AI adalah makhluk hidup, anda mungkin akan bergantung padanya untuk melakukan perkara yang akan dilakukan oleh makhluk hidup. Tetapi masih belum ada apa-apa rasa biasa kualiti seperti manusia yang terbina dalam mana-mana AI hari ini. AI yang kami alami pada masa ini sangat rapuh dan cetek apabila ia berkaitan dengan kapasiti seperti manusia. Anda boleh membawa diri anda ke dalam perairan yang tidak enak dan berbahaya dengan mempercayai bahawa sistem AI adalah sensitif.

Bagaimanakah ia berkaitan dengan lembah yang luar biasa?

Inilah perjanjian itu.

Ingatlah bahawa lembah yang luar biasa seolah-olah memberitahu kita bahawa pertalian manusia akan meningkat secara beransur-ansur apabila sistem AI atau robot semakin hampir dengan formulasi seperti manusia. Pada satu ketika di mana sistem AI menghampiri tahap yang agak hampir, namun masih, belum begitu, kami mendapat perasaan ngeri bahawa ada sesuatu yang tidak kena. Sehingga itu, kami tahu bahawa AI bukan manusia. Sekarang kita tidak pasti. Pertalian manusia kita jatuh. Hanya sebaik sahaja AI atau robot menjadi benar-benar meyakinkan tentang kapasiti seperti manusia, barulah kita mendapatkan semula persamaan pertalian kita dengan peranti itu.

Pemaju AI yang mengambil hati ini mungkin sengaja berusaha untuk memastikan AI mereka keluar dari lembah yang luar biasa, bertujuan untuk berhenti dari segi ciri AI, sejurus sebelum jatuh ke dalam jurang yang luar biasa (ingat, itu juga yang ditekankan oleh Masahiro Mori). Pembangun nampaknya akan berbuat demikian dengan memastikan bahawa petunjuk yang banyak masih wujud untuk menjadikannya agak jelas bahawa AI adalah AI yang kurang peka dan ergo bukan manusia atau begitu juga.

Ahli etika AI secara amnya akan mengalu-alukan usaha ikhlas itu.

Alasannya adalah mudah. Mereka yang begitu berpengetahuan dan menerima pembangun AI cuba memastikan bahawa sistem AI tidak mengelirukan orang ramai untuk mengaitkan kemudahan seperti manusia secara palsu kepada AI. Itu pasti berita baik. Pembangun akan sengaja mencipta AI untuk mengelakkan terjun ke lembah yang luar biasa. Manusia akan sedar bahawa AI tidak berperasaan.

Mencuba untuk mendapatkan pembangun AI untuk menerima pendekatan sedemikian bukanlah mudah. Malah, ia boleh bertentangan dengan naluri biasa dan cita-cita memandu mereka.

Banyak dakwaan dibuat bahawa pembangun dan juruteknik AI, secara amnya, digunakan dengan matlamat. Mereka melihat matlamat dan selalunya akan mengejarnya secara membabi buta dengan penuh semangat. Tiada masa untuk berhenti dan menghidu bunga ros. Pergi ke perlumbaan, kita pergi. Dalam bidang AI, matlamat normatif ialah AI ideal yang tidak dapat dibezakan daripada manusia kerana AI boleh secara bijak sama dalam pariti. Tetapi kami belum sampai ke sana. Oleh itu, lembah luar biasa menyediakan matlamat kedua, mendarat sebelum lembah luar biasa yang membendung, dan menjadi matlamat yang bagaimanapun boleh diterima. Sudah tentu, ia bukan cincin berharga emas, tetapi ideanya ialah hadiah "menengah" ini bagus, terima kasih banyak, dan anda boleh berbangga dengannya.

Kami telah mengubah cita-cita paling tinggi mencari matlamat yang merosakkan dan memanfaatkannya menjadi asas yang munasabah yang terdengar logik untuk melakukan perkara yang betul, seolah-olah.

Hurray!

Menjaringkan kemenangan untuk etika AI.

Tetapi tunggu sebentar, amaran spoiler, ada perkara lain yang perlu kita pertimbangkan sama-sama.

Kini setelah pembangun AI yang arif mengetahui tentang lembah yang luar biasa itu, mereka mungkin menukar kecerdasan dan kehebatan teknologi mereka ke arah melompat ke jurang dengan sengaja dan namun berbuat demikian dengan pemikiran penipuan. Jadikan AI kelihatan dan kelihatan seperti manusia sepenuhnya, walaupun pembangun tahu ini adalah tidak benar.

Pemikiran nakal berjalan seperti ini. Jangan biarkan sistem AI anda mengecil dan menyebabkan orang ramai mendapat arus bawah yang sukar difahami itu. Cukai aspek yang mungkin memberi petunjuk atau petunjuk bahawa AI bukan keupayaan manusia. Lakukan ini sambil diam-diam menyedari dan mengetahui bahawa AI bukan kemampuan manusia dan ini semua tentang menyembunyikan kebenaran itu daripada mereka yang berinteraksi dengan atau bergantung kepada AI.

Apa rancangan syaitan.

Ironinya, lembah yang luar biasa boleh menjadi semacam panggilan bangun untuk pembangun AI bahawa jika mereka benar-benar ingin memperbodohkan orang, mereka mesti cukup bijak untuk melarikan diri dari jurang itu. Mereka tidak melakukannya dengan mencapai AI yang lengkap, sebaliknya dengan memasang asap dan cermin untuk menjadikan AI kelihatan mengelirukan seperti manusia. Sekiranya pembangun AI tidak menyedari bahawa lembah yang luar biasa ini wujud, mereka pada umumnya akan jatuh ke dalamnya. Itu bagus untuk manusia kerana ergo manusia akan kehilangan pertalian mereka terhadap AI dari segi tidak terlalu bergantung pada kualiti AI hari ini.

Malangnya, dengan mengetahui bahawa perangkap itu wujud, pembangun AI yang ingin menyelinap di sekelilingnya akan mencari cara yang bijak untuk melakukannya.

Menjaringkan pukulan terhadap ajaran AI Etika.

Adakah anda melihat bagaimana ini mewujudkan hubungan cinta-benci untuk ahli etika AI tentang lembah yang luar biasa?

Terkutuk jika anda lakukan, terkutuk jika anda tidak.

Saya sedar ini merupakan pemeriksaan yang agak tinggi terhadap lembah yang luar biasa dan anda mungkin mendambakan beberapa contoh sehari-hari. Terdapat satu set contoh yang istimewa dan pasti popular yang dekat di hati saya. Anda lihat, dalam kapasiti saya sebagai pakar dalam AI termasuk kesan etika dan undang-undang, saya sering diminta untuk mengenal pasti contoh realistik yang mempamerkan dilema Etika AI supaya sifat topik yang agak teoritikal dapat difahami dengan lebih mudah. Salah satu bidang yang paling menggembirakan yang memaparkan dengan jelas kebingungan AI beretika ini ialah kemunculan kereta pandu sendiri sejati berasaskan AI. Ini akan berfungsi sebagai kes penggunaan yang berguna atau contoh untuk perbincangan yang mencukupi mengenai topik tersebut.

Berikut adalah soalan penting yang patut direnungkan: Adakah kemunculan kereta pandu sendiri sebenar berasaskan AI menerangi apa-apa tentang lembah yang luar biasa, dan jika ya, apakah yang dimaklumkan kepada kita untuk dilakukan?

Izinkan saya sebentar untuk membongkar soalan.

Pertama, ambil perhatian bahawa tidak ada pemandu manusia yang terlibat dalam kereta pandu sendiri yang sebenar. Perlu diingat bahawa kereta pandu sendiri sebenar dipandu melalui sistem pemanduan AI. Tidak ada keperluan untuk pemandu manusia di atas roda, dan tidak ada peruntukan untuk manusia memandu kenderaan itu. Untuk liputan saya yang meluas dan berterusan mengenai Kenderaan Autonomi (AV) dan terutamanya kereta pandu sendiri, lihat pautan di sini.

Saya ingin menjelaskan lebih lanjut apa yang dimaksudkan apabila saya merujuk kepada kereta pandu sendiri yang sebenar.

Memahami Tahap Kereta Memandu Kendiri

Sebagai penjelasan, kereta memandu sendiri sebenarnya adalah AI yang memandu kereta sepenuhnya dengan sendiri dan tidak ada bantuan manusia semasa menjalankan tugas memandu.

Kenderaan tanpa pemandu ini dianggap Tahap 4 dan Tahap 5 (lihat penjelasan saya di pautan ini di sini), manakala kereta yang memerlukan pemandu manusia untuk berkongsi usaha pemanduan biasanya dianggap pada Tahap 2 atau Tahap 3. Kereta yang berkongsi tugas pemanduan digambarkan sebagai separa autonomi dan biasanya mengandungi pelbagai alat tambah automatik yang dirujuk sebagai ADAS (Advanced Driver-Assistance Systems).

Belum ada kereta memandu sendiri yang sebenarnya di Tahap 5, yang belum kita ketahui apakah ini mungkin dapat dicapai, dan dan berapa lama masa yang diperlukan untuk sampai ke sana.

Sementara itu, usaha Tahap 4 secara beransur-ansur cuba mendapatkan sedikit daya tarikan dengan menjalani ujian jalan raya awam yang sangat sempit dan terpilih, walaupun terdapat kontroversi sama ada ujian ini harus dibenarkan sendiri (kita semua adalah babi guinea hidup atau mati dalam eksperimen berlaku di lebuh raya dan jalan raya kami, ada yang berpendapat, lihat liputan saya di pautan ini di sini).

Oleh kerana kereta separa autonomi memerlukan pemandu manusia, penggunaan jenis kereta itu tidak akan jauh berbeza daripada mengemudi kenderaan konvensional, jadi tidak banyak yang perlu dibahas sendiri mengenai topik ini (walaupun, seperti yang akan anda lihat sekejap sahaja, perkara-perkara yang dinyatakan seterusnya dapat digunakan secara umum).

Untuk kereta separa autonomi, penting bagi orang ramai untuk diperingatkan tentang aspek mengganggu yang timbul sejak kebelakangan ini, walaupun pemandu manusia yang terus menyiarkan video mereka tertidur di roda kereta Level 2 atau Level 3 , kita semua harus mengelak daripada disesatkan untuk mempercayai bahawa pemandu boleh menarik perhatian mereka dari tugas memandu ketika memandu kereta separa autonomi.

Anda adalah pihak yang bertanggungjawab untuk tindakan memandu kenderaan, tanpa mengira berapa banyak automasi yang dilemparkan ke Tahap 2 atau Tingkat 3.

Kereta Pandu Sendiri Dan Lembah Luar Biasa

Untuk kenderaan memandu sendiri Tahap 4 dan Tahap 5, tidak akan ada pemandu manusia yang terlibat dalam tugas memandu.

Semua penghuni akan menjadi penumpang.

AI sedang memandu.

Salah satu aspek untuk dibincangkan dengan segera adalah hakikat bahawa AI yang terlibat dalam sistem pemanduan AI masa kini tidak berperasaan. Dengan kata lain, AI sama sekali merupakan kumpulan pengaturcaraan dan algoritma berasaskan komputer, dan yang pasti tidak dapat memberi alasan dengan cara yang sama seperti yang manusia dapat.

Mengapa penekanan tambahan ini mengenai AI tidak berperasaan?

Kerana saya ingin menegaskan bahawa ketika membincangkan peranan sistem pemanduan AI, saya tidak menganggap kualiti manusia dengan AI. Perlu diketahui bahawa terdapat kecenderungan yang berterusan dan berbahaya pada masa ini untuk antropomorfisasi AI. Pada hakikatnya, orang memberikan perasaan seperti manusia pada AI hari ini, walaupun fakta yang tidak dapat disangkal dan tidak dapat dibantah bahawa belum ada AI seperti itu.

Dengan penjelasan itu, anda dapat membayangkan bahawa sistem pemanduan AI secara semula jadi tidak akan "mengetahui" tentang aspek pemanduan. Memandu dan semua yang diperlukan perlu diprogramkan sebagai sebahagian daripada perkakasan dan perisian kereta memandu sendiri.

Mari selami pelbagai aspek yang perlu diperhatikan dalam topik ini.

Pertama, adalah penting untuk menyedari bahawa tidak semua kereta pandu sendiri AI adalah sama. Setiap pembuat kereta dan firma teknologi pandu sendiri mengambil pendekatan mereka untuk mencipta kereta pandu sendiri. Oleh itu, sukar untuk membuat kenyataan menyeluruh tentang perkara yang akan dilakukan atau tidak dilakukan oleh sistem pemanduan AI.

Selanjutnya, setiap kali menyatakan bahawa sistem pemanduan AI tidak melakukan perkara tertentu, ini kemudiannya dapat ditimpa oleh pembangun yang sebenarnya memprogram komputer untuk melakukan perkara itu. Langkah demi langkah, sistem pemanduan AI secara bertahap diperbaiki dan diperluas. Batasan yang ada hari ini mungkin tidak lagi ada dalam lelaran atau versi sistem yang akan datang.

Saya percaya yang memberikan cukup banyak peringatan untuk mendasari apa yang akan saya kaitkan.

Kami bersedia sekarang untuk menyelam lebih mendalam ke dalam kereta pandu sendiri dan soalan AI beretika yang melibatkan lembah yang luar biasa.

Terdapat empat aspek berkaitan perkara ini yang akan dibincangkan di sini:

1. Penampilan keseluruhan kereta pandu sendiri

2. Persoalan di mana kereta pandu sendiri "terlihat"

3. Tindakan memandu AI bagi kereta pandu sendiri

4. Robot yang memandu sebagai cara untuk mendapatkan kereta pandu sendiri

Aspek tambahan juga merangkumi secara berdaya maju tetapi untuk kekangan ruang, empat topik ini akan mencukupi untuk menerangi galas lembah luar biasa yang berkaitan dengan kereta pandu sendiri berasaskan AI.

1. Penampilan Keseluruhan Kereta Pandu Sendiri

Saya bertaruh bahawa anda telah melihat gambar atau video percubaan kereta pandu sendiri hari ini. Oleh itu, anda mungkin perasan bahawa kebanyakan kenderaan adalah kereta yang kelihatan konvensional yang dilengkapi dengan peralatan khusus tambahan. Sebagai contoh, mungkin terdapat rak atas bumbung yang mengandungi pelbagai penderia elektronik. Penderia kadangkala termasuk kamera video, unit radar, peranti LIDAR, penderia ultrasonik dan seumpamanya.

Reka bentuk futuristik cenderung mencadangkan bahawa kita mungkin meninggalkan kereta yang kelihatan konvensional untuk mereka bentuk semula kereta pada kedua-dua bahagian dalam dan luaran untuk menjadi kenderaan autonomi yang kelihatan lebih licin. Pada masa ini, pemikiran umum ialah lebih mudah untuk menggunakan kereta konvensional dan tidak menghabiskan tenaga untuk meregangkan usaha dengan secara serentak mengutak-atik kereta yang kelihatan tidak konvensional (terdapat beberapa pengecualian untuk sudut pandangan umum ini, lihat liputan saya di pautan di sini).

Intinya sekarang ialah jika anda memandu di jalan raya dan bertemu dengan kereta pandu sendiri yang berdekatan, anda hampir selalu dapat melihat dengan serta-merta bahawa ia mungkin kereta pandu sendiri dengan hanya memerhatikan kesan pengesan yang dipasang pada kenderaan autonomi itu. Ini adalah pemberian visual pantas. Sudah tentu, anda tidak tahu pasti ia memandu sendiri kerana pada ketika ini kawalan pemanduan biasanya masih utuh dan pemandu sandaran manusia mungkin berada di atas roda.

Dalam satu cara pemikiran, anda boleh mencadangkan bahawa adalah sangat berguna bahawa kereta pandu sendiri secara fizikal kelihatan menonjol dan mudah dilihat secara visual oleh pemandu manusia dalam kereta yang dipandu manusia berdekatan dan juga oleh pejalan kaki yang berdekatan juga. Kesedaran bahawa kereta pandu sendiri sedang merayau berdekatan boleh menjadi petunjuk berguna untuk berjaga-jaga, mendorong anda untuk berwaspada dan sedar bahawa AI sedang atau mungkin memandu kenderaan itu.

Katakan kereta pandu sendiri kelihatan sama dengan kereta pandu manusia konvensional. Ini boleh dilaksanakan secara realistik dalam sekurang-kurangnya dua cara. Pertama, penderia berpotensi disembunyikan atau dibentuk supaya tidak begitu jelas kepada pemeriksaan visual biasa. Kedua, mungkin semua kereta termasuk kereta konvensional yang dipandu manusia secara beransur-ansur dilengkapi dengan penderia serupa, walaupun kenderaan itu tetap akan kekal sebagai kereta yang kebanyakannya dipandu manusia. Lihat liputan lanjut saya di pautan ini di sini.

Jika anda merenung dengan teliti pertimbangan ini tentang sama ada kereta pandu sendiri boleh atau sepatutnya sama rupanya dengan kereta pacuan manusia konvensional, anda mungkin terfikir bahawa lembah yang luar biasa mungkin bersembunyi di dalam rebusan ini.

Anda lihat, kereta yang secara terang-terangan kelihatan seperti kereta pandu sendiri mungkin digambarkan sebagai berada di persimpangan yang tidak jauh dari lembah yang luar biasa. Pada asasnya, anda "tahu" ia adalah robot atau sistem jenis robotik. Itulah penghakiman yang anda boleh lakukan hampir serta-merta.

Apabila kereta pandu sendiri secara identik melihat kepada kereta yang dipandu manusia, mungkin ini menunjukkan bahawa kenderaan autonomi telah melompat melepasi lembah yang luar biasa mengenai penampilan mereka yang seperti robot. Adakah terdapat jalan tengah di antara dua penampilan fizikal yang membawa kita ke lembah yang luar biasa?

Mungkin anda ternampak sebuah kereta pandu sendiri datang di jalan raya dan ia kelihatan seperti kereta pandu sendiri, sebaliknya, penampilannya tidak kelihatan autonomi atau dipandu manusia. Anda boleh berhujah bahawa kereta pandu sendiri kini berada dalam keadaan penampilan yang menakutkan atau tidak menentu.

Kereta pandu sendiri itu kononnya telah tenggelam ke dalam lembah yang luar biasa.

Walaupun begitu, tidak semua orang akan bersetuju dengan pengkategorian itu. Sesetengah orang akan mendakwa bahawa rupa fizikal tidak ada kaitan dengan lembah yang luar biasa. Beberapa tentu saja juga menegaskan bahawa tidak ada sesuatu yang realistik dikenali sebagai lembah luar biasa.

Seperti yang dinyatakan sebelum ini, anda dialu-alukan untuk membuat keputusan anda sendiri mengenai perkara ini.

2. Soalan Di Mana Kereta Pandu Sendiri Mencari

Kebimbangan yang memuncak yang ramai ada tentang kereta pandu sendiri ialah mereka biasanya kekurangan pemandu manusia di tempat duduk pemandu dan oleh itu sukar untuk mengetahui di mana "pemandu" mencari semasa memandu kereta.

Anda biasanya memandang ke arah pemandu manusia untuk mengintip di mana mereka mencari. Contohnya, anda mungkin seorang pejalan kaki di persimpangan jalan dan sebuah kereta sedang menghampiri persimpangan itu. Anda melihat dengan teliti orang yang duduk di tempat duduk pemandu dan cuba lihat di mana kepala mereka berpaling dan ke mana mata mereka memandang. Jika anda percaya bahawa pemandu manusia telah melihat anda, anda mungkin lebih selesa untuk menyeberang jalan. Sebaliknya, jika pemandu manusia sepertinya tidak melihat anda, anda sememangnya bimbang untuk menyeberang.

Di sesetengah bandar, terdapat sejenis permainan kucing dan tikus dalam aspek ini. Norma budaya tertentu di bandar tertentu mungkin bahawa jika anda membuat hubungan mata dengan pemandu, pemandu "menang" dan mereka mempunyai hak untuk meneruskan, tanpa mengira kesahihan situasi pemanduan. Bandar-bandar lain mungkin bertentangan sepenuhnya, iaitu norma budaya ialah apabila hubungan mata dibuat pejalan kaki "menang" dan pemandu manusia sepatutnya menunda tindakan pejalan kaki.

Kami nampaknya telah menerima pakai adat ini sejak sekian lama kereta berada di tengah-tengah bandar dan komuniti kami. Masalah dengan kemunculan kereta pandu sendiri ialah tiada pemandu manusia di tempat duduk pemandu dan oleh itu mana-mana pejalan kaki atau pemandu manusia berdekatan yang biasanya menggunakan kepala dan mata pemandu kereta sebagai penunjuk budaya niat memandu kini tiada rezeki.

Pembuat kereta dan pemaju kereta pandu sendiri amat menyedari isu yang muncul ini. Satu penyelesaian yang dicadangkan terdiri daripada kereta pandu sendiri yang berkelip lampu depan kenderaan autonomi atau mungkin membunyikan hon. Tanggapan lain ialah kereta pandu sendiri mungkin mempunyai variasi pembesar suara dan memberitahu mereka yang berdekatan apa "niat" sistem pemanduan AI. Idea tersebut masing-masing mempunyai kelemahan yang ketara.

Namun cadangan yang berbeza memerlukan melakukan sesuatu yang anda mungkin pada mulanya percaya sebagai tidak masuk akal. Cadangan itu terdiri daripada meletakkan bola mata seperti bola mata pada bahagian luar kenderaan autonomi. Bola-bola ini akan kelihatan seperti mata manusia dalam rupa yang boleh berputar ke depan dan ke belakang, memberikan anda petunjuk segera yang mencadangkan AI "telah melihat anda" (anda akan mentafsirkannya dengan bola mata yang melihat ke arah tertentu anda). Saya telah menganalisis pendekatan ini di pautan di sini.

Apakah reaksi anda apabila melihat sebuah kereta pandu sendiri turun di jalan raya dan mempunyai bola mata ganjil bersaiz besar ini kelihatan bola-bola dipasang pada hud atau atas bumbung?

Saya rasa anda mungkin fikir ia menakutkan, mungkin menyeramkan.

Sesetengah orang akan mencadangkan bahawa kengerian timbul daripada kereta pandu sendiri yang dipasang di lembah yang luar biasa. Yang lain akan berhujah dengan keras bahawa ini tidak ada kaitan dengan lembah yang luar biasa. Di antara pakar-pakar tersebut, ada yang akan mengatakan bahawa terdapat kengerian yang boleh menjadi kengerian tanpa perlu berakar umbi di lembah yang luar biasa (iaitu, lembah yang luar biasa nampaknya sentiasa menghasilkan kengerian, tetapi tidak semua kengerian dihasilkan semata-mata melalui lembah yang luar biasa). Sudut lain ialah bola itu mungkin direka bentuk untuk kelihatan kurang bola mata dan kelihatan lebih robotik, atau kita semua pasti akan menerima kemunculan bola ini dan tindak balas awal yang mengejutkan akan reda.

3. Tindakan Memandu AI Bagi Kereta Pandu Sendiri

Banyak percubaan kereta pandu sendiri hari ini telah mempamerkan bahawa sistem pemanduan AI sedia ada cenderung diprogramkan untuk memandu dengan cara yang agak suam dan agak mematuhi undang-undang. Sistem pemanduan AI biasanya membawa kereta pandu sendiri ke hentian penuh di papan tanda Berhenti. Sistem pemanduan AI tidak melakukan larian berani melalui persimpangan apabila isyarat lalu lintas akan menjadi merah. Amalan pemanduan sesat ini adalah wilayah pemandu manusia.

Dalam cara bercakap, anda hampir boleh mengagak bahawa kereta pandu sendiri ialah kereta pandu sendiri mengikut gaya pemanduan yang dipamerkannya. Walaupun kenderaan autonomi itu kelihatan seperti kereta konvensional yang dipandu manusia, anda mungkin memerhatikan tindakan pemanduan dan mungkin secara logik menyimpulkan bahawa ia mungkin dipandu oleh sistem AI.

Ada yang percaya bahawa kita perlu menjadikan sistem pemanduan AI lebih mirip dengan telatah pemandu manusia supaya mereka akan menggabungkan dengan berkesan ke dalam pendekatan normatif untuk memandu. Saya rasa anda boleh tafsirkan ini sebagai melawan api dengan api.

Adakah itu masuk akal untuk dilakukan?

Sedar bahawa skeptik dan pengkritik yang lantang membenci idea itu. Mereka dengan bersungguh-sungguh akan berhujah bahawa kami mahu sistem pemanduan AI memandu dengan betul dan berhati-hati. Menambah berpotensi berjuta-juta kereta pandu sendiri ke jalan raya yang diprogramkan untuk menjadi seperti pemandu manusia yang sesat akan kelihatan seperti mimpi ngeri yang besar. Saya telah membincangkan cadangan kontroversi ini di pautan di sini.

Mari kita susun semula dilema dengan memanfaatkan lembah yang luar biasa.

Apabila sistem pemanduan AI benar-benar sah dengan tindakan pemanduannya, ini mungkin petunjuk yang jelas bahawa ia berkemungkinan sistem robotik (walaupun pemandu manusia yang mengakui melakukan ini, walaupun dalam dunia hari ini mereka kelihatan jauh dan sedikit antara). Jika sistem pemanduan AI mahu memandu sama aneh seperti pemandu manusia, adakah ini melompat merentasi lembah yang luar biasa atau jatuh ke dalam lembah yang luar biasa?

Renungkan yang satu itu.

4. Robot Yang Memandu Sebagai Cara Mendapatkan Kereta Pandu Sendiri

Perkara terakhir untuk liputan ini adalah yang paling mengejutkan daripada empat ini.

Anda mungkin tidak menyedari bahawa sesetengah pembangun AI sedang cuba menghasilkan robot yang akan memandu kereta. Robot itu akan cenderung kelihatan seperti manusia dalam pelbagai aspek, mempunyai kaki robot dan lengan robot sebagai anggota badan. Apabila anda mahu mana-mana kereta yang dipandu manusia konvensional menjadi kereta pandu sendiri, anda hanya meletakkan robot pemanduan AI khusus ini di tempat duduk pemandu kereta anda. Lihat analisis saya tentang tanggapan ini di pautan di sini.

Mengapa kita mahu memandu robot?

Keindahan robot sedemikian ialah semua kereta yang dipandu manusia hari ini boleh dalam cara tafsiran menjadi kereta pandu sendiri, hampir semalaman. Anda hanya membeli, memajak, atau entah bagaimana mendapatkan diri anda robot memandu. Anda meletakkan robot di tempat duduk pemandu anda semasa melakukan perjalanan memandu. Robot itu memandu anda ke destinasi anda. Jika anda ingin beralih kepada pemanduan manusia, anda mengeluarkan robot dari kenderaan, mungkin menyimpannya ke dalam bagasi untuk kegunaan kemudian.

Terdapat kira-kira 250 juta kereta konvensional di Amerika Syarikat hari ini. Sesetengah percaya bahawa kereta itu akhirnya akan dibuang apabila kereta pandu sendiri wujud. Daripada membuang kereta konvensional itu, mungkin kita mungkin cuba mengubah suainya menjadi kereta pandu sendiri, walaupun ini mungkin idea yang agak mahal. Pendekatan yang kelihatan lebih berhemat adalah dengan menyediakan robot pemanduan.

Jika anda melihat sebuah kereta yang kelihatan seperti konvensional menyusuri jalan kejiranan anda dan ia mempunyai robot di kemudi, apakah reaksi anda?

Kengerian berkemungkinan.

Satu dakwaan yang boleh dipertikaikan adalah bahawa kengerian ini disebabkan oleh robot yang memandu kereta konvensional terjun ke lembah luar biasa yang terkenal atau terkenal.

Kesimpulan

Dari perspektif AI Beretika, lembah yang luar biasa memberikan teka-teki yang menarik.

Terdapat beberapa dalam AI yang percaya sepenuhnya pada lembah yang luar biasa dan ada yang tidak. Tetapi, sama ada anda percaya pada lembah yang luar biasa atau tidak berbuat demikian, namun topik itu sendiri terbongkar. Anda tidak boleh menyembunyikan kepala anda dan berpura-pura bahawa binaan itu sendiri tidak wujud. Konstruk sebagai idea hidup dan dalam beberapa kemiripan sangat kuat. Benci atau suka, topik terkutuk atau mungkin dibesar-besarkan berterusan.

Mengikut wacana saya sebelum ini mengenai kebaikan lembah luar biasa dari sudut etika AI, terdapat pertarungan cinta dan perhubungan benci di dalamnya. Sekiranya mereka yang berada dalam alam AI yang beretika menerima lembah yang luar biasa, atau menolak secara ringkas lembah yang luar biasa, atau kekal agak neutral tentang kebenaran dan sebaliknya menumpukan pada kesan yang terakru disebabkan oleh kepercayaan berbeza yang berterusan mengenainya.

Cabaran ini membawa kebangkitan kepada ahli ekonomi terkemuka Adam Smith kerana dia pernah berkata (mengatakan) bahawa dalam perjalanan dari Kota Skeptisisme, anda perlu melalui Lembah Kesamaran.