Etika AI Dan Pencarian Untuk Kesedaran Diri Dalam AI

Adakah anda sedar diri?

Saya bertaruh bahawa anda percaya anda.

Perkara itu, kononnya, hanya sedikit daripada kita yang sedar diri. Terdapat julat atau tahap kesedaran diri dan kita semua kononnya berbeza-beza dalam tahap kesedaran diri kita. Anda mungkin fikir anda sedar diri sepenuhnya dan hanya sedikit sahaja. Anda mungkin sedar diri dan menyedari bahawa itu adalah keadaan mental anda.

Sementara itu, di bahagian paling atas spektrum, anda mungkin percaya bahawa anda sedar diri sepenuhnya dan sememangnya sedar tentang diri anda. Baik untuk awak.

Bercakap mengenainya, apakah faedahnya untuk menjadi sangat sedar diri?

Menurut penyelidikan yang diterbitkan di Kajian Perniagaan Harvard (HBR) oleh Tasha Eurich, anda dilaporkan mampu membuat keputusan yang lebih baik, anda lebih yakin dengan keputusan anda, anda lebih kuat dalam kapasiti komunikasi anda, dan lebih berkesan secara keseluruhan (setiap artikel bertajuk “Apa Sebenarnya Kesedaran Diri (dan Bagaimana) Untuk Memupuknya).” Faktor bonusnya ialah mereka yang mempunyai kesedaran diri yang tegas dikatakan kurang cenderung untuk menipu, mencuri, atau berbohong. Dalam erti kata itu, ada dua cara untuk mengelakkan diri daripada menjadi bajingan atau penyangak, bersama-sama dengan berusaha untuk menjadi manusia yang lebih baik dan memperindah sesama manusia.

Semua perbincangan tentang kesedaran diri ini menimbulkan persoalan yang agak jelas, iaitu, apakah sebenarnya maksud frasa kesedaran diri. Anda boleh dengan mudah mencari pelbagai takrifan dan tafsiran tentang kompleks dan bolehkah kita katakan binaan lembek yang memerlukan kesedaran diri. Sesetengah akan memudahkan perkara dengan mencadangkan bahawa kesedaran diri terdiri daripada memantau diri anda sendiri, mengetahui apa yang anda lakukan. Anda sangat menyedari pemikiran dan tindakan anda sendiri.

Mungkin, apabila tidak sedar diri, seseorang tidak akan menyedari apa yang mereka lakukan, atau mengapa begitu, dan juga tidak menyedari apa yang orang lain katakan tentang mereka. Saya pasti anda pernah berjumpa dengan orang yang seperti ini.

Sesetengah orang kelihatan berjalan di bumi ini tanpa mengetahui apa yang mereka lakukan, dan mereka juga tidak mempunyai persamaan dengan apa yang orang lain katakan tentang mereka. Saya rasa anda boleh berhujah bahawa mereka seperti seekor lembu jantan yang menundukkan kepala di butik mudah pecah. Lazimnya kita cenderung untuk mempercayai bahawa lembu jantan itu tidak tahu apa yang dia lakukan dan tetap tidak menyedari pandangan orang lain melainkan mereka yang lain cuba untuk bergerak secara fizikal atau mengawal makhluk yang tidak tahu itu.

Dikatakan bahawa kesedaran diri boleh menjadi agak rekursif.

Biar saya lakarkan satu contoh untuk menggambarkan rekursi ini. Anda sedang menonton video kucing yang cukup menarik pada telefon pintar anda (semua orang melakukan ini, nampaknya). Sesetengah orang tidak akan mempunyai pemikiran yang jelas selain daripada telatah mengagumkan kucing kesayangan itu. Sementara itu, sesiapa yang mempunyai sedikit kesedaran diri, mereka sedar bahawa mereka sedang menonton video kucing. Mereka juga mungkin menyedari bahawa orang lain di sekeliling mereka menyedari bahawa mereka sedang menonton video kucing.

Perhatikan bahawa anda boleh sedar diri dan masih tenggelam dalam aktiviti utama yang tertentu. Aktiviti utama dalam contoh ini ialah menonton video kucing. Kedua, dan pada masa yang sama, anda boleh membawa pemikiran bahawa anda sebenarnya sedang menonton video kucing. Anda juga boleh membawa pemikiran bahawa orang lain memerhati anda semasa anda menonton video kucing yang menghiburkan. Anda tidak semestinya perlu menghentikan satu aktiviti, seperti berhenti menonton video kucing, untuk kemudian secara berasingan merenung bahawa anda sedang (atau baru sahaja) menonton video kucing. Pemikiran itu nampaknya boleh berlaku selari antara satu sama lain.

Kadang-kadang, kesedaran diri kita mungkin menendang kita keluar atau sekurang-kurangnya mengganggu aktiviti mental utama. Mungkin, semasa memikirkan tentang menonton video kucing anda, fikiran anda sebahagiannya mengezonkan kerana terlalu meregangkan untuk menumpukan perhatian semata-mata pada video itu sendiri. Anda memilih untuk memundurkan video itu untuk melihat semula bahagian yang anda lihat tetapi anda terganggu secara mental daripada memahami sepenuhnya. Kesedaran diri mengganggu aktiviti mental utama anda.

Okay, kami kini bersedia untuk aspek rekursif timbul.

Adakah anda bersedia?

Anda sedang menonton video kucing. Kesedaran diri anda memberitahu anda bahawa anda sedang menonton video kucing dan orang lain sedang menonton anda semasa anda menonton video tersebut. Itulah status quo.

Anda seterusnya membuat lonjakan mental tambahan. Anda mula berfikir tentang kesedaran diri anda. Anda sedar diri bahawa anda sedang melibatkan kesedaran diri anda. Begini caranya: Adakah saya terlalu memikirkan tentang menonton video kucing saya, anda bertanya kepada diri sendiri dengan putus asa? Ini adalah satu lagi lapisan kesedaran diri. Kedudukan kesedaran diri di atas kesedaran diri yang lain.

Terdapat pepatah lama bahawa ia adalah penyu sepanjang jalan ke bawah. Untuk fenomena kesedaran diri, anda boleh:

• Tak sedar diri
• Sedar diri sendiri
• Sedar diri tentang kesedaran diri sendiri
• Sedar diri tentang kesedaran diri anda tentang kesedaran diri anda tentang diri anda
• Ad Infinitum (iaitu, dan seterusnya)

Anda mungkin telah menyedari bahawa saya sebelum ini telah menunjukkan secara halus bahawa nampaknya terdapat dua kategori utama untuk menyedari diri sendiri. Satu teori tertentu menyatakan bahawa kita mempunyai sejenis kesedaran diri dalaman yang memfokuskan pada keadaan dalaman kita, dan kita juga mempunyai kesedaran diri luaran yang membantu dalam mengukur persepsi tentang kita terhadap orang-orang di sekeliling kita yang melihat kita.

Mengikut artikel HBR, berikut ialah gambaran cepat tentang dua jenis kesedaran diri yang berteori: "Yang pertama, yang kami namakan kesedaran diri dalaman, mewakili betapa jelasnya kita melihat nilai, keghairahan, aspirasi kita sendiri, sesuai dengan persekitaran kita, reaksi (termasuk pemikiran, perasaan, tingkah laku, kekuatan dan kelemahan) dan kesan kepada orang lain." Dan sementara yang lain ialah: “Kategori kedua, kesedaran diri luaran, bermakna memahami cara orang lain memandang kita, dari segi faktor yang sama yang disenaraikan di atas. Penyelidikan kami menunjukkan bahawa orang yang mengetahui cara orang lain melihat mereka lebih mahir dalam menunjukkan empati dan mengambil perspektif orang lain.”

Matriks dua-dua-dua yang berguna atau empat segi empat boleh diperolehi dengan menegaskan bahawa kesedaran diri dalaman dan luaran berjulat dari tinggi ke rendah, dan anda boleh mengawan dua kategori antara satu sama lain. Penyelidikan HBR menunjukkan bahawa anda dikatakan sebagai salah satu daripada empat arketaip kesedaran diri ini:

• Introspektor: Kesedaran Diri Luaran Rendah + Kesedaran Diri Dalaman Tinggi
• Pencari: Kesedaran Diri Luaran Rendah + Kesedaran Diri Dalaman Rendah
• Silakan: Kesedaran Diri Luaran Tinggi + Kesedaran Diri Dalaman Rendah
• Sedar: Kesedaran Diri Luaran Tinggi + Kesedaran Diri Dalaman Tinggi

Puncaknya ialah pola dasar "Sedar" yang terdiri daripada berada di tangga teratas untuk menyedari diri secara luaran dan begitu juga di atas kesedaran diri secara dalaman. Untuk menjelaskan, anda tidak mencapai postur yang dibanggakan ini dengan cara yang semestinya kekal. Anda boleh tergelincir ke sana ke mari antara menjadi tinggi dan rendah, di antara alam kesedaran diri dalaman dan luaran. Ia boleh bergantung pada masa dalam sehari, situasi yang anda hadapi, dan beberapa faktor penting yang lain.

Memandangkan kita telah merangkumi beberapa elemen asas tentang kesedaran diri, kita boleh berusaha untuk mengaitkannya dengan topik tingkah laku beretika.

Dakwaan biasa tentang sedar diri ialah anda lebih berkemungkinan berada di atas kapal apabila anda sedar diri. Ini bermakna, seperti yang telah dinyatakan, anda kurang terdedah kepada tingkah laku beretika yang buruk seperti mencuri, menipu dan berbohong. Rasional untuk kecenderungan ini adalah bahawa keaktifan kesedaran diri anda akan membuat anda sedar bahawa tingkah laku anda sendiri tidak baik atau tidak beretika. Anda bukan sahaja menangkap diri anda semasa anda membelok ke perairan berlumpur yang tidak beretika, tetapi anda juga cenderung untuk mengemudikan diri anda kembali keluar dan ke tanah kering (kekudusan wilayah etika), seolah-olah.

Kesedaran diri anda membantu anda dalam menjalankan kawalan diri.

Satu kontras mungkin berlaku apabila terdapat sedikit atau tiada kesedaran diri, yang menunjukkan bahawa seseorang mungkin tidak menyedari mereka cenderung kepada tingkah laku yang tidak beretika. Anda boleh berhujah bahawa orang yang tidak sedar itu mungkin tidak menyedari bahawa mereka menunjukkan prestasi yang buruk. Sama seperti lembu jantan di kedai pecah, sehingga sesuatu yang lebih terang-terangan menarik perhatian mereka, mereka tidak mungkin mengawal diri sendiri.

Bukan semua orang setuju dengan perkara ini. Ada yang berpendapat bahawa kesedaran diri boleh digunakan untuk menjadi tidak beretika seperti beretika. Sebagai contoh, seorang penjahat mungkin menyedari sepenuhnya dirinya dan menikmati bahawa mereka melakukan kesalahan itu. Kesedaran diri mereka malah mendorong mereka lebih tegas ke arah perbuatan salah laku jahat yang lebih besar dan lebih besar.

Terdapat lebih banyak kekeruhan mengenai perkara ini daripada yang mungkin dilihat secara langsung. Katakan seseorang sangat sedar diri, tetapi mereka tidak menyedari adat resam etika masyarakat atau budaya tertentu. Dengan cara itu, mereka tidak mempunyai sebarang panduan etika, walaupun fakta yang dinyatakan bahawa mereka sedar diri. Atau, jika anda suka, mungkin orang itu tahu tentang peraturan etika dan tidak percaya ia terpakai padanya. Mereka menganggap diri mereka unik atau di luar batasan pemikiran etika konvensional.

Bulat dan bulat ia pergi.

Kesedaran diri boleh ditafsirkan sebagai pedang berorientasikan etika bermata dua, sesetengahnya akan menekankan dengan sungguh-sungguh.

Buat masa ini, mari kita gunakan versi wajah gembira yang terdiri daripada kesedaran diri pada umumnya yang membimbing atau mendorong kita ke arah tingkah laku beretika. Segala-galanya adalah sama, kami akan membuat andaian kurang ajar bahawa semakin banyak kesedaran diri, semakin anda akan beretika. Ia pasti kelihatan menggembirakan dan memberi inspirasi untuk mengucapkannya.

Mari tukar gear dan bawa Artificial Intelligence (AI) ke dalam gambar.

Kami berada di satu titik dalam perbincangan ini untuk menghubungkan semua keterlibatan yang berterusan dengan alam AI Etika yang sedang berkembang, yang juga dikenali sebagai etika AI. Untuk liputan berterusan dan meluas saya tentang etika AI, lihat pautan di sini and pautan di sini, Hanya untuk menamakan beberapa.

Pengertian AI Etika memerlukan jalinan bidang etika dan tingkah laku beretika kepada kemunculan AI. Anda pastinya telah melihat tajuk utama yang telah menimbulkan loceng penggera tentang AI yang penuh dengan ketidaksamaan dan pelbagai berat sebelah. Sebagai contoh, terdapat kebimbangan bahawa sistem pengecaman muka berasaskan AI kadangkala boleh mempamerkan diskriminasi kaum dan jantina, biasanya hasil daripada cara kemudahan Pembelajaran Mesin (ML) dan Pembelajaran Dalam (DL) asas dilatih dan diletakkan (lihat analisis saya di pautan ini di sini).

Untuk mencuba dan menghentikan atau sekurang-kurangnya mengurangkan tergesa-gesa pell-mell ke arah itu AI Untuk Buruk, yang terdiri daripada sistem AI yang sama ada secara tidak sengaja atau kadang-kadang sengaja dibentuk untuk bertindak buruk, terdapat keperluan mendesak baru-baru ini untuk menerapkan peraturan etika kepada pembangunan dan penggunaan AI. Matlamat yang sungguh-sungguh adalah untuk memberikan panduan etika kepada pembangun AI, serta firma yang membina atau memajukan AI, dan mereka yang bergantung pada aplikasi AI. Sebagai contoh prinsip AI Etika yang dibuat dan diterima pakai, lihat liputan saya di pautan di sini.

Berikan masa refleksi untuk mempertimbangkan tiga soalan yang sangat penting ini:

• Bolehkah kita mendapatkan pembangun AI untuk menerima prinsip AI Beretika dan meletakkan garis panduan tersebut dalam penggunaan sebenar?
• Bolehkah kita mendapatkan firma yang menggunakan AI untuk melakukan perkara yang sama?
• Bolehkah kita membuat mereka yang menggunakan AI untuk mengetahui aspek AI Etika yang sama?

Saya tanpa segan silu mengatakan ini, ia adalah perintah yang tinggi.

Keseronokan membuat AI boleh mengatasi sebarang firasat perhatian terhadap etika AI. Nah, bukan sahaja keseronokan, tetapi penghasilan wang juga penting dalam persamaan itu. Anda mungkin terkejut apabila mengetahui bahawa sesetengah orang dalam alam AI cenderung untuk mengatakan bahawa mereka akan dapat berurusan dengan "barangan" AI Beretika sebaik sahaja mereka mengeluarkan sistem AI mereka. Ini adalah mantera teknikal biasa untuk memastikan anda gagal dengan cepat dan sering gagal sehingga anda melakukannya dengan betul (semoga mendapatnya dengan betul).

Sudah tentu, mereka yang secara ringkasnya mendorong AI yang meragukan etika kepada orang ramai secara amnya membiarkan kuda itu keluar dari kandang. Idea terbentang yang diisytiharkan mereka adalah bahawa AI Untuk Buruk akan dibaiki selepas ia digunakan setiap hari, yang memudaratkan adalah lambat kerana kuda itu sudah berlari-lari kecil. Kemudaratan boleh dilakukan. Terdapat juga peluang yang lebih tinggi bahawa tiada apa yang akan diperbaiki atau diselaraskan semasa AI sedang digunakan. Alasan yang kerap ialah mengutak-atik AI pada ketika itu mungkin memburukkan lagi keadaan dari segi pembuatan keputusan algoritmik (ADM) yang sudah tidak beretika yang gagal sepenuhnya.

Apakah yang boleh dilakukan untuk mendapatkan utiliti dan daya hidup untuk memiliki AI Etika sebagai cahaya yang bersinar terang dan panduan dalam fikiran mereka yang membina AI, meletakkan AI dan menggunakan AI?

Jawapan: Kesedaran diri.

Ya, tanggapannya ialah jika orang lebih sedar tentang cara mereka menggunakan atau berinteraksi dengan AI, ini mungkin meningkatkan kecenderungan mereka untuk menginginkan AI Etika menjadi kebiasaan. Perkara yang sama boleh dikatakan mengenai pembangun AI dan syarikat yang berkaitan dengan sistem AI. Jika mereka lebih sedar tentang apa yang mereka lakukan, mungkin mereka akan lebih mengamalkan etika AI.

Sebahagian daripada logik seperti yang telah ditetapkan adalah bahawa menyedari diri sendiri menawarkan kecenderungan untuk menjadi orang yang lebih baik dari segi etika dan juga mengelak daripada menjadi orang yang tidak beretika. Jika kita boleh mengekalkan premis itu, ini menunjukkan bahawa pembangun AI yang lebih cenderung kepada kesedaran diri akan cenderung kepada tingkah laku beretika dan oleh itu cenderung ke arah menghasilkan AI yang beretika.

Adakah jambatan itu terlalu jauh untuk anda?

Ada yang akan mengatakan bahawa tidak langsung adalah sedikit. Rantaian hubungan yang terlalu tinggi antara menyedari diri sendiri, beretika berbudi pekerti mulia, dan menerapkan prinsip etika pada AI mungkin sukar untuk ditelan. Hujah balas ialah tidak rugi mencuba.

Orang yang ragu-ragu akan mengatakan bahawa pembangun AI mungkin sedar diri dan mungkin lebih berfikiran beretika, tetapi mereka tidak semestinya akan melonjak ke arah menerapkan perkhemahan mental itu kepada kebiasaan AI Etika. Jawapan kepada keraguan itu ialah jika kita boleh menghebahkan dan mempopularkan perkara AI Beretika, sambungan yang kelihatan lemah akan menjadi lebih jelas, dijangka dan mungkin menjadi cara standard untuk melakukan sesuatu apabila ia datang untuk mencipta AI.

Saya kini akan menambah kelainan pada saga ini. Pusingan mungkin membuat kepala anda pening. Sila pastikan anda duduk dengan baik dan bersedia untuk apa yang saya akan nyatakan.

Ada yang menyatakan bahawa kita sepatutnya membina AI Etika terus ke dalam AI itu sendiri.

Anda mungkin tidak berminat dengan pengumuman itu. Mari kita membongkarnya.

Seorang pengaturcara mungkin mencipta sistem AI dan berbuat demikian dengan kesedaran kendiri pengaturcaraan mereka sendiri untuk cuba menghalang AI daripada mewujudkan berat sebelah dan ketidaksamaan. Daripada hanya membajak pada pengaturcaraan, pemaju mengawasi bahu mereka sendiri untuk bertanya sama ada pendekatan yang mereka lakukan akan mengakibatkan ketiadaan unsur-unsur buruk dalam AI yang diperlukan.

Hebat, kami mempunyai pembangun AI yang nampaknya cukup sedar diri, telah berusaha untuk menerima tingkah laku beretika dan telah melihat cahaya untuk memasukkan peraturan etika semasa mereka mencipta sistem AI mereka.

Menjaringkan kemenangan untuk AI Beretika!

Semuanya baik-baik saja, walaupun berikut adalah sesuatu yang boleh berlaku kemudian. AI diletakkan dan digunakan setiap hari. Sebahagian daripada AI termasuk komponen untuk dapat "belajar" dengan cepat. Ini bermakna AI boleh menyesuaikan dirinya berdasarkan data baharu dan aspek lain pengaturcaraan asal. Sebagai mengetepikan, ini tidak membayangkan bahawa AI adalah peka. Kami tidak mempunyai AI yang peka. Abaikan tajuk berita jenaka yang mengatakan bahawa kami melakukannya. Tiada siapa yang boleh mengatakan sama ada kita akan mempunyai AI yang hidup, dan sesiapa pun tidak dapat meramalkan dengan secukupnya bila jika ia akan berlaku.

Berbalik kepada kisah kami, AI sengaja direka untuk memperbaiki dirinya semasa sedang dijalankan. tanggapan yang cukup berguna. Daripada pengaturcara perlu terus membuat penambahbaikan, mereka membenarkan program AI melakukannya dengan sendirinya (wah, adakah itu bekerja sendiri?).

Semasa AI inci demi inci menyesuaikan dirinya, ternyata pelbagai ketidaksamaan dan berat sebelah menjalar ke dalam sistem AI melalui tindakan pengubahannya sendiri. Walaupun pengaturcara pada asalnya mengekalkan aspek-aspek buruk itu, mereka kini merumuskan kerana penyesuaian AI dengan cepat. Malangnya, ini boleh berlaku dengan cara yang begitu halus di belakang tabir sehinggakan tiada siapa yang lebih bijak. Mereka yang sebelum ini mungkin telah memberi lampu hijau kepada AI selepas ujian menyeluruh awal, kini secara membuta tuli tidak menyedari bahawa AI telah menuruni laluan busuk AI Untuk Buruk.

Satu cara untuk sama ada menghalang atau sekurang-kurangnya menangkap kemunculan yang tidak diingini ini adalah dengan membina AI sejenis penyemak dua AI Etika. Komponen dalam AI diprogramkan untuk melihat tingkah laku AI dan mengesan sama ada ADM yang tidak beretika mula muncul. Jika ya, komponen itu mungkin menghantar amaran kepada pembangun AI atau berbuat demikian kepada firma yang menjalankan sistem AI.

Versi yang lebih maju bagi komponen ini mungkin cuba membaiki AI. Ini akan menjadi pelarasan pelarasan, menjadikan aspek yang timbul tidak beretika kembali kepada parameter etika yang betul. Anda boleh bayangkan bahawa pengaturcaraan jenis ini adalah rumit. Terdapat kemungkinan ia mungkin tersasar, mungkin bertukar tidak beretika menjadi sangat tidak beretika. Terdapat juga kemungkinan positif palsu mencetuskan komponen ke dalam tindakan dan mungkin mengacaukan keadaan dengan sewajarnya.

Bagaimanapun, tanpa terperangkap dalam cara pemeriksa dua kali ini berfungsi, kami akan membuat pengisytiharan berani mengenainya. Anda boleh mencadangkan bahawa dalam beberapa cara yang terhad, AI dikatakan sedar diri.

Ya, itu adalah kata-kata pergaduhan untuk ramai orang.

Kepercayaan lazim oleh hampir semua orang ialah AI hari ini tidak sedar diri. Noktah, noktah. Sehingga kita mencapai AI sentient, yang kita tidak tahu sama ada atau bila itu akan berlaku, tidak ada apa-apa jenis AI yang sedar diri. Tidak sekurang-kurangnya dalam maksud kesedaran diri yang berorientasikan manusia. Jangan juga mencadangkan bahawa ia boleh berlaku.

Saya pasti bersetuju bahawa kita perlu berhati-hati tentang antropomorfisasi AI. Saya akan memberitahu lebih lanjut mengenai kebimbangan itu sebentar lagi.

Sementara itu, jika anda ingin perbincangan bersedia menggunakan fasa "sedar diri" dengan cara yang longgar, saya percaya anda boleh melihat dengan mudah mengapa AI boleh dikatakan mematuhi keseluruhan tanggapan tentang diri sendiri. kesedaran. Kami mempunyai sebahagian daripada AI yang memantau seluruh AI, mengawasi apa yang dilakukan oleh AI yang lain. Apabila seluruh AI mula melampaui batas, bahagian pemantauan berusaha untuk mengesan ini. Tambahan pula, bahagian pemantauan AI atau pemeriksa dua kali mungkin mengarahkan seluruh AI kembali ke lorong yang sepatutnya.

Tidakkah itu kelihatan seperti tindakan menonton video kucing tersebut dan mempunyai kesedaran diri bahawa anda berbuat demikian?

Terdapat cincin yang dikenalinya.

Kita boleh memanjangkan ini lebih lagi. Komponen penyemak dua AI bukan sahaja diprogramkan untuk memerhati kelakuan AI yang lain tetapi juga mencatatkan kelakuan mereka yang menggunakan AI. Bagaimanakah keadaan pengguna apabila menggunakan AI? Katakan bahawa sesetengah pengguna menyatakan kemarahan bahawa AI nampaknya mendiskriminasi mereka. Pemeriksa dua kali AI mungkin dapat memahami perkara ini, menggunakannya sebagai satu lagi bendera merah tentang seluruh AI yang sesat.

Ini membawa kepada kesedaran diri dalaman dan pengkategorian kesedaran diri luaran.

Penyemak dwi AI sedang mengimbas secara dalaman dan luaran untuk mengetahui sama ada seluruh AI telah menuju ke lautan yang membimbangkan. Pengesanan itu akan menaikkan bendera atau menyebabkan pembetulan diri digubal.

Mari tambahkan satu lagi sambungan yang agak membingungkan. Kami membina satu lagi pemeriksa dua AI yang bertujuan untuk menyemak semula pemeriksa dua AI teras. Kenapa begitu? Baiklah, katakan pemeriksa ganda AI nampaknya goyah atau gagal melakukan tugasnya. Penyemak dwi AI bagi penyemak dwi akan berusaha untuk mengesan kerosakan ini dan mengambil tindakan yang diperlukan sewajarnya. Selamat datang ke sifat rekursif kesedaran diri, sesetengah mungkin dengan bangga mengisytiharkan, seperti yang dipamerkan dalam sistem AI pengiraan.

Bagi anda yang sudah berada di tepi tempat duduk anda tentang perkara ini, ulasan terakhir, buat masa ini, ialah kami boleh cuba mencadangkan bahawa jika anda menjadikan sistem AI "menyedarkan diri" mereka akan berpotensi tertarik kepada tingkah laku beretika. Adakah mereka melakukan ini atas dasar perasaan? Dengan tegas, tidak. Adakah mereka melakukan ini atas dasar pengiraan? Ya, walaupun kita harus jelas bahawa ia tidak sama kaliber dengan tingkah laku manusia.

Jika anda tidak selesa bahawa tanggapan kesedaran diri telah diputarbelitkan secara salah untuk menjadikannya sesuai dengan skim pengiraan, keraguan anda mengenai perkara ini amat diperhatikan. Sama ada kita harus menghentikan usaha AI yang berterusan yang memanfaatkan tanggapan itu adalah satu lagi persoalan terbuka. Anda boleh berhujah secara meyakinkan bahawa sekurang-kurangnya ia seolah-olah membawa kita ke arah hasil yang lebih baik daripada apa yang mungkin dilakukan oleh AI. Kita perlu membuka mata seluas-luasnya ketika ini berlaku.

Rasanya kita perlu melihat bagaimana semua ini berlaku. Kembali kepada perkara ini dalam masa lima tahun, sepuluh tahun, dan lima puluh tahun, dan lihat jika pemikiran anda telah berubah mengenai perkara yang kontroversi itu.

Saya sedar ini merupakan pemeriksaan yang agak membosankan tentang topik tersebut dan anda mungkin mendambakan beberapa contoh sehari-hari. Terdapat satu set contoh yang istimewa dan pasti popular yang dekat di hati saya. Anda lihat, dalam kapasiti saya sebagai pakar dalam AI termasuk kesan etika dan undang-undang, saya sering diminta untuk mengenal pasti contoh realistik yang mempamerkan dilema Etika AI supaya sifat topik yang agak teoritikal dapat difahami dengan lebih mudah. Salah satu bidang yang paling menggembirakan yang memaparkan dengan jelas kebingungan AI beretika ini ialah kemunculan kereta pandu sendiri sejati berasaskan AI. Ini akan berfungsi sebagai kes penggunaan yang berguna atau contoh untuk perbincangan yang mencukupi mengenai topik tersebut.

Berikut adalah soalan penting yang patut direnungkan: Adakah kemunculan kereta pandu sendiri sebenar berasaskan AI menerangi apa-apa tentang AI yang mempunyai kemiripan "kesedaran diri" dan jika ya, apakah yang ditunjukkan oleh ini?

Izinkan saya sebentar untuk membongkar soalan.

Pertama, ambil perhatian bahawa tidak ada pemandu manusia yang terlibat dalam kereta pandu sendiri yang sebenar. Perlu diingat bahawa kereta pandu sendiri sebenar dipandu melalui sistem pemanduan AI. Tidak ada keperluan untuk pemandu manusia di atas roda, dan tidak ada peruntukan untuk manusia memandu kenderaan itu. Untuk liputan saya yang meluas dan berterusan mengenai Kenderaan Autonomi (AV) dan terutamanya kereta pandu sendiri, lihat pautan di sini.

Saya ingin menjelaskan lebih lanjut apa yang dimaksudkan apabila saya merujuk kepada kereta pandu sendiri yang sebenar.

Memahami Tahap Kereta Memandu Kendiri

Sebagai penjelasan, kereta memandu sendiri sebenarnya adalah AI yang memandu kereta sepenuhnya dengan sendiri dan tidak ada bantuan manusia semasa menjalankan tugas memandu.

Kenderaan tanpa pemandu ini dianggap Tahap 4 dan Tahap 5 (lihat penjelasan saya di pautan ini di sini), manakala kereta yang memerlukan pemandu manusia untuk berkongsi usaha pemanduan biasanya dianggap pada Tahap 2 atau Tahap 3. Kereta yang berkongsi tugas pemanduan digambarkan sebagai separa autonomi dan biasanya mengandungi pelbagai alat tambah automatik yang dirujuk sebagai ADAS (Advanced Driver-Assistance Systems).

Belum ada kereta memandu sendiri yang sebenarnya di Tahap 5, yang belum kita ketahui apakah ini mungkin dapat dicapai, dan dan berapa lama masa yang diperlukan untuk sampai ke sana.

Sementara itu, usaha Tahap 4 secara beransur-ansur cuba mendapatkan sedikit daya tarikan dengan menjalani ujian jalan raya awam yang sangat sempit dan terpilih, walaupun terdapat kontroversi sama ada ujian ini harus dibenarkan sendiri (kita semua adalah babi guinea hidup atau mati dalam eksperimen berlaku di lebuh raya dan jalan raya kami, ada yang berpendapat, lihat liputan saya di pautan ini di sini).

Oleh kerana kereta separa autonomi memerlukan pemandu manusia, penggunaan jenis kereta itu tidak akan jauh berbeza daripada mengemudi kenderaan konvensional, jadi tidak banyak yang perlu dibahas sendiri mengenai topik ini (walaupun, seperti yang akan anda lihat sekejap sahaja, perkara-perkara yang dinyatakan seterusnya dapat digunakan secara umum).

Untuk kereta separa autonomi, penting bagi orang ramai untuk diperingatkan tentang aspek mengganggu yang timbul sejak kebelakangan ini, walaupun pemandu manusia yang terus menyiarkan video mereka tertidur di roda kereta Level 2 atau Level 3 , kita semua harus mengelak daripada disesatkan untuk mempercayai bahawa pemandu boleh menarik perhatian mereka dari tugas memandu ketika memandu kereta separa autonomi.

Anda adalah pihak yang bertanggungjawab untuk tindakan memandu kenderaan, tanpa mengira berapa banyak automasi yang dilemparkan ke Tahap 2 atau Tingkat 3.

Kereta Pandu Sendiri Dan AI Mempunyai Apa yang Dipanggil Kesedaran Diri

Untuk kenderaan memandu sendiri Tahap 4 dan Tahap 5, tidak akan ada pemandu manusia yang terlibat dalam tugas memandu.

Semua penghuni akan menjadi penumpang.

AI sedang memandu.

Salah satu aspek untuk dibincangkan dengan segera adalah hakikat bahawa AI yang terlibat dalam sistem pemanduan AI masa kini tidak berperasaan. Dengan kata lain, AI sama sekali merupakan kumpulan pengaturcaraan dan algoritma berasaskan komputer, dan yang pasti tidak dapat memberi alasan dengan cara yang sama seperti yang manusia dapat.

Mengapa penekanan tambahan ini mengenai AI tidak berperasaan?

Kerana saya ingin menegaskan bahawa ketika membincangkan peranan sistem pemanduan AI, saya tidak menganggap kualiti manusia dengan AI. Perlu diketahui bahawa terdapat kecenderungan yang berterusan dan berbahaya pada masa ini untuk antropomorfisasi AI. Pada hakikatnya, orang memberikan perasaan seperti manusia pada AI hari ini, walaupun fakta yang tidak dapat disangkal dan tidak dapat dibantah bahawa belum ada AI seperti itu.

Dengan penjelasan itu, anda dapat membayangkan bahawa sistem pemanduan AI secara semula jadi tidak akan "mengetahui" tentang aspek pemanduan. Memandu dan semua yang diperlukan perlu diprogramkan sebagai sebahagian daripada perkakasan dan perisian kereta memandu sendiri.

Mari selami pelbagai aspek yang perlu diperhatikan dalam topik ini.

Pertama, adalah penting untuk menyedari bahawa tidak semua kereta pandu sendiri AI adalah sama. Setiap pembuat kereta dan firma teknologi pandu sendiri mengambil pendekatan mereka untuk mencipta kereta pandu sendiri. Oleh itu, sukar untuk membuat kenyataan menyeluruh tentang perkara yang akan dilakukan atau tidak dilakukan oleh sistem pemanduan AI.

Selanjutnya, setiap kali menyatakan bahawa sistem pemanduan AI tidak melakukan perkara tertentu, ini kemudiannya dapat ditimpa oleh pembangun yang sebenarnya memprogram komputer untuk melakukan perkara itu. Langkah demi langkah, sistem pemanduan AI secara bertahap diperbaiki dan diperluas. Batasan yang ada hari ini mungkin tidak lagi ada dalam lelaran atau versi sistem yang akan datang.

Saya percaya yang memberikan cukup banyak peringatan untuk mendasari apa yang akan saya kaitkan.

Kami bersedia sekarang untuk menyelam lebih mendalam ke dalam kereta pandu sendiri dan soalan AI beretika yang melibatkan tanggapan yang menimbulkan kening tentang AI yang mempunyai semacam kesedaran diri jika anda mahu.

Mari kita gunakan contoh yang mudah difahami. Kereta pandu sendiri berasaskan AI sedang dijalankan di jalan kejiranan anda dan nampaknya memandu dengan selamat. Pada mulanya, anda telah menumpukan perhatian khusus kepada setiap kali anda berjaya melihat sekilas kereta pandu sendiri. Kenderaan autonomi itu menonjol dengan rak penderia elektronik yang termasuk kamera video, unit radar, peranti LIDAR dan seumpamanya. Selepas beberapa minggu kereta pandu sendiri melayari sekitar komuniti anda, kini anda hampir tidak menyedarinya. Setakat yang anda bimbang, ia hanyalah sebuah kereta lain di jalan raya awam yang sudah sibuk.

Sekiranya anda fikir adalah mustahil atau tidak munasabah untuk membiasakan diri melihat kereta pandu sendiri, saya telah kerap menulis tentang cara tempat yang berada dalam skop percubaan kereta pandu sendiri secara beransur-ansur membiasakan diri melihat kenderaan yang dirapikan, lihat analisis saya di pautan ini di sini. Ramai penduduk tempatan akhirnya beralih daripada ternganga-nganga ternganga-nganga kepada kini mengeluarkan kebosanan yang meluas untuk menyaksikan kereta pandu sendiri yang berliku-liku itu.

Mungkin sebab utama sekarang mereka mungkin melihat kenderaan autonomi adalah kerana faktor kerengsaan dan kegusaran. Sistem pemanduan AI by-the-book memastikan kereta mematuhi semua had laju dan peraturan jalan raya. Bagi pemandu manusia yang sibuk di dalam kereta tradisional mereka yang dipandu manusia, anda akan berasa jengkel apabila terjebak di belakang kereta pandu sendiri berasaskan AI yang mematuhi undang-undang.

Itu sesuatu yang mungkin kita semua perlu biasakan, betul atau salah.

Berbalik kepada kisah kita. Pada suatu hari, andaikan sebuah kereta pandu sendiri di bandar atau bandar anda menghampiri papan tanda Berhenti dan kelihatan tidak perlahan. Syurga, nampaknya sistem pemanduan AI akan menggunakan kereta pandu sendiri betul-betul melepasi papan tanda Berhenti. Bayangkan jika pejalan kaki atau penunggang basikal berada di suatu tempat berdekatan dan terperangkap di luar kawalan bahawa kereta pandu sendiri itu tidak akan berhenti dengan betul. memalukan. bahaya!

Dan, haram.

Sekarang mari kita pertimbangkan komponen AI dalam sistem pemanduan AI yang bertindak sebagai gaya penyemak dua yang sedar diri.

Kami akan mengambil sedikit masa untuk menggali butiran tentang perkara yang berlaku di dalam sistem pemanduan AI. Ternyata kamera video yang dipasang pada kenderaan autonomi mengesan apa yang kelihatan seperti tanda Berhenti, walaupun dalam kes ini pokok yang terlalu besar mengaburkan tanda Berhenti. Sistem Pembelajaran Mesin dan Pembelajaran Dalam yang pada asalnya dilatih pada tanda Berhenti direka bentuk pada corak tanda Hentian penuh, umumnya tidak terikat. Setelah meneliti imejan video secara pengiraan, kebarangkalian rendah telah ditetapkan bahawa tanda Berhenti wujud di tempat tertentu itu (sebagai komplikasi tambahan, dan penjelasan lanjut, ini ialah tanda Berhenti yang baru disiarkan yang tidak muncul pada peta digital yang disediakan sebelumnya yang Sistem pemanduan AI bergantung kepada).

Secara keseluruhannya, sistem pemanduan AI secara pengiraan bertekad untuk meneruskan ke hadapan seolah-olah tanda Berhenti sama ada tidak wujud atau mungkin tanda jenis lain yang mungkin menyerupai tanda Berhenti (ini boleh berlaku dan berlaku dengan beberapa kekerapan).

Tetapi, untungnya, pemeriksa berganda AI yang sedar diri sedang memantau aktiviti sistem pemanduan AI. Setelah menyemak data dan penilaian secara pengiraan oleh AI yang lain, komponen ini memilih untuk mengatasi proses prosiding biasa dan sebaliknya mengarahkan sistem pemanduan AI berhenti sesuai.

Tiada siapa yang cedera, dan tiada perbuatan haram timbul.

Anda boleh mengatakan bahawa penyemak dwi sedar diri AI bertindak seolah-olah ia adalah ejen undang-undang terbenam, cuba memastikan sistem pemanduan AI mematuhi undang-undang (dalam kes ini, tanda Berhenti). Sudah tentu, keselamatan juga penting.

Contoh itu diharapkan dapat mempamerkan cara pemeriksa berganda AI yang sedar diri mungkin berfungsi.

Seterusnya, kita boleh mempertimbangkan secara ringkas contoh AI Etika yang lebih menonjol yang menggambarkan bagaimana semakan dua kesedaran kendiri AI mungkin menyediakan fungsi terbenam berorientasikan AI etika.

Pertama, sebagai latar belakang, salah satu kebimbangan yang telah dinyatakan mengenai kemunculan kereta pandu sendiri berasaskan AI adalah bahawa ia mungkin akhirnya digunakan dalam cara yang agak diskriminasi yang tidak disengajakan. Ini caranya. Katakan kereta pandu sendiri itu disediakan untuk mencuba dan memaksimumkan potensi hasil mereka, yang sememangnya masuk akal bagi mereka yang mengendalikan kumpulan kereta pandu sendiri yang tersedia perkongsian tunggangan. Pemilik armada ingin mempunyai operasi yang menguntungkan.

Boleh jadi di bandar atau bandar tertentu, kereta pandu sendiri yang merayau secara beransur-ansur mula memberi perkhidmatan kepada beberapa bahagian masyarakat dan bukan kawasan lain. Mereka berbuat demikian untuk matlamat menjana wang, di kawasan yang lebih miskin mungkin tidak menghasilkan hasil seperti bahagian yang lebih kaya di kawasan itu. Ini bukan aspirasi yang jelas untuk berkhidmat di beberapa kawasan dan tidak berkhidmat kepada orang lain. Sebaliknya, ia secara organik timbul tentang AI kereta pandu sendiri "mengetahui" secara pengiraan bahawa terdapat lebih banyak wang yang perlu dibuat dengan menumpukan pada kawasan geografi yang membayar lebih tinggi. Saya telah membincangkan kebimbangan etika masyarakat ini dalam lajur saya, seperti di pautan di sini.

Andaikan bahawa kami telah menambah pemeriksa berganda AI yang sedar diri ke dalam sistem pemanduan AI. Selepas beberapa ketika, komponen AI secara pengiraan melihat corak tempat kereta pandu sendiri sedang merayau. Terutama, di beberapa kawasan tetapi tidak di kawasan lain. Berdasarkan telah dikodkan dengan beberapa peraturan AI Beretika, pemeriksa berganda AI yang sedar diri mula membimbing kereta pandu sendiri ke bahagian lain bandar yang sebaliknya diabaikan.

Ini menggambarkan tanggapan sedar diri AI dan melakukannya dalam kombinasi dengan elemen AI Etika.

Satu lagi contoh sedemikian mungkin memberikan gambaran bahawa pertimbangan AI Beretika ini boleh menjadi kesan serius dan serius untuk hidup atau mati juga.

Pertimbangkan laporan berita tentang kemalangan kereta baru-baru ini. Dilaporkan, seorang pemandu manusia sedang menghampiri persimpangan yang sibuk dan mendapat lampu hijau untuk terus ke hadapan. Seorang lagi pemandu datang melepasi lampu merah dan memasuki persimpangan apabila mereka tidak sepatutnya berbuat demikian. Pemandu dengan lampu hijau menyedari pada saat akhir bahawa kereta lain ini akan merempuh keretanya dengan teruk.

Menurut pemandu yang terancam ini, dia berkira-kira sama ada dia akan dilanggar oleh kereta lain, atau dia boleh melencong untuk cuba mengelak penceroboh itu. Masalah dengan melencong ialah terdapat pejalan kaki berhampiran yang akan terancam.

Pilihan mana yang akan anda buat?

Anda boleh mempersiapkan diri untuk terkena dan berharap kerosakan itu tidak akan melumpuhkan atau membunuh anda. Sebaliknya, anda boleh menjauhkan diri secara radikal, tetapi sangat membahayakan dan mungkin membahayakan atau membunuh pejalan kaki berdekatan. Ini adalah masalah yang sukar, merangkumi pertimbangan moral, dan penuh dengan implikasi etika (dan undang-undang).

Terdapat masalah etika tujuan umum yang merangkumi dilema seperti ini, yang terkenal atau mungkin dipanggil Masalah Troli, lihat liputan meluas saya di pautan ini di sini. Ternyata ia adalah percubaan pemikiran yang merangsang etika yang bermula pada awal 1900-an. Oleh itu, topik ini telah lama wujud dan baru-baru ini secara umumnya dikaitkan dengan kemunculan AI dan kereta pandu sendiri.

Gantikan pemandu manusia dengan sistem pemanduan AI yang dibenamkan ke dalam kereta pandu sendiri.

Bayangkan bahawa sebuah kereta pandu sendiri AI sedang memasuki persimpangan dan penderia kenderaan autonomi itu tiba-tiba mengesan sebuah kereta yang dipandu manusia secara berbahaya datang terus melalui lampu merah dan menghala ke arah kereta tanpa pemandu. Andaikan bahawa kereta pandu sendiri mempunyai beberapa penumpang di dalam kenderaan.

Apa yang anda mahu AI lakukan?

Sekiranya sistem pemanduan AI memilih untuk meneruskan ke hadapan dan dibajak (kemungkinan mencederakan atau mungkin membunuh penumpang di dalam kenderaan), atau adakah anda mahu sistem pemanduan AI mengambil peluang dan menjauhkan diri, walaupun tindakan membelok mengambil kenderaan autonomi berbahaya terhadap pejalan kaki berhampiran dan mungkin membahayakan atau membunuh mereka.

Kebanyakan pembuat AI bagi kereta pandu sendiri mengambil pendekatan berpasir untuk menghadapi kesukaran AI yang beretika ini. Pada umumnya, AI seperti yang diprogramkan pada masa ini hanya akan membajak ke hadapan dan dirempuh dengan ganas oleh kereta lain. AI tidak diprogramkan untuk mencari sebarang gerakan mengelak yang lain.

Saya telah meramalkan berulang kali bahawa pendirian tidak mendengar-tidak jahat daripada pembuat kereta pandu sendiri AI ini akhirnya akan datang dan menggigit mereka (analisis saya adalah pada pautan di sini). Anda boleh mengharapkan tindakan undang-undang yang melibatkan kemalangan kereta sedemikian yang akan berusaha untuk mengetahui apa yang AI telah diprogramkan untuk dilakukan. Adakah syarikat atau pembangun AI atau pengendali armada yang membangunkan dan meletakkan AI lalai atau bertanggungjawab atas apa yang AI lakukan atau tidak lakukan? Anda juga boleh menjangkakan ribut api kesedaran AI yang beretika akan berlaku apabila kes seperti ini berlaku.

Ke dalam dilema AI Etika ini langkah pemeriksa dua kesedaran diri AI yang dibanggakan kami yang berorientasikan etika. Mungkin komponen AI khas ini mungkin terlibat dalam keadaan seperti ini. Bahagian itu memantau seluruh sistem pemanduan AI dan status kereta pandu sendiri. Apabila detik yang teruk seperti ini timbul, komponen AI berfungsi sebagai penyelesai Masalah Troli dan menawarkan perkara yang harus dilakukan oleh sistem pemanduan AI.

Bukan perkara yang mudah untuk dikodkan, saya memberi jaminan kepada anda.

Kesimpulan

Saya akan berkongsi dengan anda pemikiran terakhir buat masa ini mengenai topik ini.

Anda mungkin mendapati ia menarik.

Adakah anda tahu tentang ujian cermin?

Ia cukup terkenal dalam kajian kesedaran diri. Nama lain untuk perkara ini ialah ujian pengecaman diri cermin, ujian titik merah, ujian rouge dan frasa yang berkaitan. Teknik dan pendekatan pada mulanya dibuat pada awal 1970-an untuk menilai kesedaran diri haiwan. Haiwan yang dilaporkan telah berjaya lulus ujian termasuk beruk, jenis gajah tertentu, ikan lumba-lumba, murai dan beberapa yang lain. Haiwan yang diuji dan dilaporkan tidak lulus ujian termasuk panda gergasi, singa laut, dll.

Inilah perjanjian itu.

Apabila haiwan melihat dirinya dalam cermin, adakah haiwan itu menyedari bahawa imej yang ditunjukkan adalah dari diri mereka sendiri, atau adakah haiwan itu fikir ia adalah haiwan lain?

Agaknya, haiwan itu secara visual mengenali spesiesnya sendiri, setelah melihat yang lain dari jenisnya sendiri, dan mungkin berfikir bahawa haiwan yang ditunjukkan dalam cermin adalah sepupu atau mungkin pesaing yang suka berperang (terutamanya jika haiwan itu merengus pada imej cermin, yang dalam giliran nampaknya merengus balik kepada mereka). Mungkin anda pernah melihat kucing rumah anda atau anjing peliharaan kesayangan anda melakukan perkara yang sama apabila ia melihat dirinya dalam cermin rumah buat kali pertama.

Walau apa pun, kita akan menganggap bahawa haiwan liar tidak pernah melihat dirinya sebelum ini. Nah, ini tidak semestinya benar, kerana mungkin haiwan itu melihat dirinya dalam kolam air yang tenang atau melalui pembentukan batu berkilat. Tetapi itu dianggap peluang yang kurang berkemungkinan.

Baiklah, kami ingin menilai sama ada haiwan dapat mengetahui bahawa ia sebenarnya adalah haiwan yang ditunjukkan dalam cermin. Renungkan perbuatan yang kelihatan mudah itu. Manusia mengetahui pada usia muda bahawa mereka wujud dan bahawa kewujudan mereka ditunjukkan dengan melihat diri mereka dalam cermin. Mereka menjadi sedar diri mereka sendiri. Secara teori, anda mungkin tidak menyedari bahawa anda adalah anda, sehingga melihat diri anda dalam cermin.

Mungkin haiwan tidak dapat sedar secara kognitif dengan cara yang sama. Boleh jadi seekor haiwan akan melihat dirinya dalam cermin dan sentiasa percaya bahawa ia adalah haiwan lain. Tidak kira berapa kali ia melihat dirinya sendiri, ia masih akan berfikir bahawa ini adalah haiwan yang berbeza daripada dirinya sendiri.

Bahagian muslihat ini datang untuk dimainkan. Kami membuat tanda pada haiwan itu. Tanda ini hanya boleh dilihat apabila haiwan itu melihat dirinya di dalam cermin. Jika haiwan itu boleh memutar atau berpusing dan melihat tanda pada dirinya (secara langsung), itu merosakkan eksperimen. Tambahan pula, haiwan itu tidak dapat merasakan, menghidu, atau dengan cara lain mengesan tanda itu. Sekali lagi, jika mereka berbuat demikian, ia akan merosakkan percubaan. Haiwan itu tidak boleh tahu bahawa kita meletakkan tanda di atasnya, kerana itu akan memberi petunjuk kepada binatang itu bahawa ada sesuatu di sana.

Kami ingin mengecilkan perkara supaya satu-satunya sebab tanda itu boleh ditemui adalah melalui melihat dirinya sendiri di cermin.

Aha, ujian sudah sedia. Haiwan itu diletakkan di hadapan cermin atau mengembara kepadanya. Sekiranya haiwan itu cuba menyentuh atau menggali tanda itu, kami akan membuat kesimpulan yang munasabah bahawa satu-satunya cara ini akan berlaku adalah jika haiwan itu menyedari bahawa tanda itu ada pada dirinya sendiri. Sangat sedikit spesies haiwan yang berjaya melepasi ujian ini.

Terdapat banyak kritikan mengenai ujian itu. Jika penguji manusia berada berdekatan, mereka mungkin memberikan sesuatu dengan merenung tanda itu, yang mungkin menyebabkan haiwan itu memberus atau merasakannya. Kemungkinan lain ialah haiwan itu masih percaya bahawa haiwan lain ditunjukkan dalam cermin, tetapi ia adalah jenis yang sama, dan oleh itu haiwan itu tertanya-tanya jika ia juga mempunyai tanda seperti yang ada pada haiwan lain.

Pada dan pada ia pergi.

Saya pasti anda gembira mengetahui perkara ini dan seterusnya akan memahami mengapa terdapat titik atau tanda ganjil pada haiwan yang sebaliknya tidak akan mempunyai tanda sedemikian. Siapa tahu, ia mungkin baru sahaja menamatkan percubaan ujian cermin. Ucapkan tahniah kepada haiwan itu, dengan selamat, kerana telah menjadi peserta yang murah hati.

Apakah kaitannya dengan kereta pandu sendiri berasaskan AI?

Anda akan menyukai bahagian ini.

Sebuah kereta pandu sendiri sedang berjalan di lebuh raya yang panjang. Sistem pemanduan AI menggunakan penderia untuk mengesan trafik lain. Ini ialah lebuh raya dua lorong yang mempunyai trafik menghala ke utara di satu lorong dan ke selatan di lorong lain. Kadang-kadang, kereta dan trak akan cuba melepasi satu sama lain, berbuat demikian dengan memasuki lorong bertentangan dan kemudian melompat semula ke lorong perjalanan yang sepatutnya.

Anda telah melihat ini, sudah pasti anda telah melakukan ini.

Saya akan bertaruh aspek seterusnya ini telah berlaku kepada anda juga. Di hadapan kereta pandu sendiri adalah salah satu daripada trak tangki yang besar itu. Ia diperbuat daripada logam berkilat. Digilap dan bersih seperti wisel. Apabila berada di belakang trak sedemikian, anda boleh melihat imej cermin kereta anda melalui bahagian belakang lori itu. Jika anda telah melihat ini, anda tahu betapa memukaunya. Di sana anda, anda dan kereta anda, dipantulkan dalam pantulan seperti cermin di belakang trak tangki.

Duduk untuk twist gila.

Sebuah kereta pandu sendiri muncul di belakang lori tangki. Kamera mengesan imej kereta yang ditunjukkan dalam pantulan seperti cermin. Wah, AI menilai, adakah itu kereta? Adakah ia datang pada kereta pandu sendiri? Apabila kereta pandu sendiri itu semakin hampir dengan lori tangki, kereta itu kelihatan semakin dekat dan dekat.

Ya, AI secara pengiraan mungkin mengira bahawa ini adalah situasi yang berbahaya dan AI harus mengambil tindakan mengelak daripada kenderaan penyangak gila ini. Anda lihat, AI tidak mengenali dirinya dalam cermin. Ia gagal dalam ujian cermin.

Apa nak buat? Mungkin pemeriksa berganda AI yang sedar diri melompat ke dalam perkara itu dan meyakinkan seluruh sistem pemanduan AI bahawa ia hanyalah pantulan yang tidak berbahaya. Bahaya dielakkan. Dunia telah diselamatkan. Berjaya lulus Ujian Cermin AI!

Dengan kesimpulan yang menarik, kami mungkin mencadangkan bahawa kadangkala AI lebih bijak atau sekurang-kurangnya lebih sedar diri daripada beruang biasa (walaupun, untuk kredit beruang, mereka biasanya berjaya dalam ujian cermin, sering kali telah mendapat terbiasa dengan pantulan mereka dalam kolam air).

Pembetulan, mungkin AI boleh menjadi lebih sedar diri daripada panda gergasi dan singa laut, tetapi jangan beritahu haiwan itu, mereka mungkin tergoda untuk menghancurkan atau menghancurkan sistem AI. Kami tidak mahu itu, bukan?