AI Shake-Up Sebagai Guru AI Terkemuka Mencadangkan "Komputer Fana" yang Membengkokkan Minda Yang Juga Mendapat Etika AI Dan Undang-undang AI Digali

Berikut ialah sesuatu yang anda mungkin belum fikirkan lagi: Komputer fana.

Tetapi mungkin anda sepatutnya begitu.

Topik pelik muncul pada persidangan tahunan AI baru-baru ini dan agak menonjol yang tertumpu terutamanya pada kemunculan rangkaian saraf dan pembelajaran mesin, iaitu Persidangan Sistem Pemprosesan Maklumat Neural (dikenali oleh orang dalam sebagai NeurIPS). Penceramah ucaptama yang dijemput dan guru AI yang dianggap lama Geoffrey Hinton membuat pertikaian yang menarik dan mungkin kontroversi bahawa kita harus memikirkan komputer dalam konteks yang fana dan abadi.

Saya akan menangani dakwaan yang ketara dan berbuat demikian dalam dua cara yang pada mulanya tidak semestinya kelihatan berkaitan walaupun selepas sedikit penjelasan tambahan mereka akan menjadi lebih jelas berkaitan antara satu sama lain mengenai perbalahan fana berbanding abadi.

Dua topik tersebut ialah:

1) Mengikat secara bersepadu kedua-dua perkakasan dan perisian untuk mekanisasi AI dan bukannya menjadikannya sebagai sekutu yang berbeza dan berasingan

2) Memindahkan atau menyuling rumusan pembelajaran mesin daripada satu model AI kepada model lain yang melakukannya tanpa memerlukan atau tidak semestinya menginginkan (atau mungkin sebaliknya mungkin) penyalinan baka tulen penuh lurus ke hadapan

Semua ini mempunyai pertimbangan besar untuk AI dan hala tuju masa depan pembangunan AI.

Tambahan pula, terdapat banyak kebimbangan Etika AI dan Undang-undang AI yang sangat berduri yang timbul juga. Jenis-jenis kemajuan teknologi yang dibayangkan oleh AI ini biasanya diwujudkan atas dasar teknologi semata-mata sebelum terdapat kesedaran bahawa ia juga mungkin mempunyai kesan AI Etika dan Undang-undang AI yang patut diberi perhatian. Dari satu segi, biasanya, kucing sudah keluar dari beg, atau kuda itu keluar dari kandang, sebelum kesedaran bahawa Etika AI dan Undang-undang AI harus diberi penyertaan usaha wajar.

Baiklah, mari kita hentikan kitaran yang terlewat dan masuk ke tingkat bawah untuk yang ini.

Bagi anda yang berminat secara keseluruhan dalam pandangan terkini yang mendasari Etika AI dan Undang-undang AI, anda mungkin mendapati liputan saya yang berterusan dan meluas secara bermaklumat dan inspirasi. pautan di sini and pautan di sini, Hanya untuk menamakan beberapa.

Saya akan mula-mula di sini merangkumi perkara di atas tentang pengikatan perkakasan dan perisian. Perbincangan dan analisis topik akan berlaku seiring. Seterusnya, saya akan menyentuh mengenai penyalinan atau ada yang mengatakan penyulingan elemen penting sistem AI pembelajaran mesin daripada satu AI kepada AI yang baru direka sebagai sasaran.

Mari kita mulakan.

Mengikat Bersama Perkakasan Dan Perisian Untuk AI

Anda mungkin tahu bahawa pada umumnya reka bentuk komputer adalah sedemikian rupa sehingga terdapat bahagian perkakasan sesuatu dan secara berasingan terdapat bahagian perisian. Apabila anda membeli komputer riba atau komputer meja setiap hari, ia ditafsirkan sebagai peranti pengkomputeran tujuan umum. Terdapat mikropemproses di dalam komputer yang digunakan untuk menjalankan dan melaksanakan perisian yang mungkin anda beli atau tulis sendiri.

Tanpa sebarang perisian untuk komputer anda, ia adalah sekeping logam dan plastik yang pada asasnya tidak akan memberi manfaat kepada anda, selain bertindak sebagai pemberat kertas. Ada yang mengatakan bahawa perisian adalah raja dan memerintah dunia. Sudah tentu, jika anda tidak mempunyai perkakasan untuk menjalankan perisian, perisian itu tidak akan memberi banyak manfaat. Anda boleh menulis seberapa banyak baris kod mengikut kehendak hati anda, namun sehingga perisian itu digunakan melalui komputer, kod sumber yang dirumuskan adalah tipis dan tidak dapat terbang seperti karya puisi yang indah atau novel detektif yang mendebarkan.

Izinkan saya beralih seketika ke jalan lain yang mungkin kelihatan jauh (tidak begitu).

Kami sering cuba membuat analogi antara cara komputer berfungsi dan bagaimana otak manusia berfungsi. Percubaan untuk membuat persamaan konsep ini berguna. Oleh itu, anda perlu berhati-hati tentang melampaui analogi tersebut kerana perbandingan cenderung rosak apabila anda semakin dekat dengan butiran yang berisi.

Bagaimanapun, untuk perbincangan, inilah analogi yang sering digunakan.

Otak itu sendiri secara tidak rasmi kadangkala disebut sebagai alat basah. Itulah cara yang menarik untuk mengutarakan sesuatu. Kita tahu bahawa komputer terdiri daripada perkakasan dan perisian, jadi adalah bijak untuk menggunakan bahagian "perkakas" daripada syiling untuk menerangkan maksud otak. Terletak di dalam noggins kita, otak yang perkasa dan misteri ditemui terapung-apung, secara mental mengira semua perbuatan kita (beberapa kebaikan, manakala beberapa pemikiran kita jelas tidak dipenuhi dengan kebaikan).

Pada berat purata sekitar tiga paun sahaja, otak adalah organ yang luar biasa. Entah bagaimana, dan kita masih belum tahu bagaimana, otak boleh menggunakannya mengikut susunan 100 bilion neuron dan mungkin di mana-mana dari 100 hingga 1,000 trilion sambungan atau sinaps untuk melakukan semua pemikiran kita untuk kita. Bagaimanakah sifat biologi dan kimia otak menimbulkan kecerdasan? Tiada siapa yang boleh mengatakan dengan pasti. Ini adalah pencarian berzaman.

Saya bertanya kepada anda ini, adakah otak seolah-olah perkakasan sahaja, atau adakah kedua-dua perkakasan dan perisian digabungkan?

Mi pada pengusik otak itu.

Anda mungkin tergoda untuk mendakwa bahawa otak hanyalah perkakasan (dalam erti kata umum). Ia adalah organ badan. Begitu juga, anda mungkin mengatakan bahawa jantung adalah perkakasan, pundi kencing adalah perkakasan, dan sebagainya. Kesemuanya adalah mekanisasi yang serupa apabila kita bercakap tentang artifak yang mempunyai bentuk fizikal dan melakukan tindakan berkaitan fizikal.

Di manakah perisian yang menjalankan manusia?

Saya berani mencadangkan bahawa kita semua bersetuju bahawa "perisian" manusia entah bagaimana berada di dalam otak. Langkah-langkah yang diperlukan untuk memasak telur atau membaiki tayar pancit adalah arahan yang terkandung dalam otak kita. Menggunakan analogi komputer perkakasan dan perisian yang telah dinyatakan sebelum ini, otak kita adalah sekeping perkakasan, yang mana kita belajar tentang dunia dan arahan tentang perkara yang perlu dilakukan adalah "berjalan" dan "disimpan" dalam otak kita.

Pada komputer, kita dengan mudah boleh menunjuk pada perkakasan dan mengatakan bahawa ini adalah perkakasan. Kami boleh mempunyai penyenaraian kod sumber dan menunjuk ke penyenaraian sebagai perisian. Pada masa kini, kami memuat turun perisian dalam talian secara elektronik dan memasangnya pada komputer riba dan telefon pintar kami. Pada zaman dahulu, kami menggunakan cakera liut dan kad tebuk untuk menyimpan perisian kami untuk dimuatkan ke perkakasan komputer.

Saya membawa anda ke dalam teka-teki yang penting.

Sebaik sahaja anda telah mempelajari sesuatu dan pengetahuan itu ada dalam otak anda, adakah anda masih boleh membezakan antara "perkakasan" otak anda dan "perisian" otak anda yang dianggap?

Satu pendirian yang dipertikaikan ialah pengetahuan dalam otak anda tidak boleh dipisahkan daripada konsep perkakasan dan perisian. Oleh itu, analogi kepada sifat komputer rosak, ada yang bersungguh-sungguh bertengkar. Pengetahuan dalam otak saling berkaitan dan tidak dapat dipisahkan daripada perkakasan otak anda. Sifat biologi dan kimia menjalin pengetahuan yang anda miliki secara mental.

Rebus itu untuk sedikit refleksi mental.

Jika kita berharap suatu hari nanti dapat mencipta komputer yang setanding dengan kecerdasan manusia, atau bahkan melebihi kecerdasan manusia, mungkin kita boleh menggunakan struktur otak dan kerja dalamannya sebagai panduan kepada apa yang perlu kita lakukan untuk mencapai matlamat yang tinggi itu. Bagi sesetengah orang dalam bidang AI, terdapat kepercayaan bahawa lebih banyak kita tahu tentang cara otak berfungsi, lebih baik peluang kita untuk mencipta AI sebenar, kadangkala dirujuk sebagai Kecerdasan Am Buatan (AGI).

Orang lain dalam AI kurang terpikat kerana perlu mengetahui cara otak berfungsi. Mereka menekankan bahawa kita boleh meneruskan dengan pantas untuk mencipta AI, tidak kira sama ada kita dapat membuka kunci kerja dalaman otak yang rahsia. Jangan biarkan misteri otak menghalang usaha AI kami. Sudah tentu, teruskan cuba menyahkod dan menguraikan otak manusia, tetapi kita tidak boleh duduk diam dan menunggu otak itu direka bentuk semula. Jika suatu hari nanti boleh dilakukan, berita indah, walaupun mungkin ia adalah mustahil atau akan berlaku berabad-abad dari sekarang.

Saya kini bersedia untuk berkongsi dengan anda perbalahan komputer yang fana dan abadi. Sila pastikan anda duduk dan bersedia untuk pendedahan besar.

Komputer yang mempunyai pemisahan yang jelas antara perkakasan dan perisian boleh didakwa sebagai "abadi" kerana perkakasan itu boleh kekal selama-lamanya (sudah tentu dalam had), manakala perisian boleh ditulis dan ditulis semula berulang kali. Anda boleh mengekalkan komputer konvensional selagi anda boleh membuat pembaikan pada perkakasan dan memastikan alat itu dapat dihidupkan. Anda masih boleh menggunakan hari ini komputer rumah mentah dari tahun 1970-an yang pernah datang dalam kit untuk pemasangan, walaupun terdapat hampir lima puluh tahun atau lebih (sudah lama dalam tahun komputer).

Katakan walaupun kita memilih untuk membuat komputer yang mempunyai perkakasan dan perisian berfungsi secara tidak dapat dipisahkan (saya akan memberitahu lebih lanjut mengenai perkara ini sebentar lagi). Pertimbangkan ini berdasarkan asas yang sama seperti yang saya nyatakan sebelum ini bahawa otak mungkin mempunyai komposisi penting perkakasan dan perisian. Jika itu berlaku, boleh dicadangkan bahawa komputer sejenis ini tidak lagi kekal abadi. Ia akan ditafsirkan sebagai "fana" sebaliknya.

Mengikut kenyataan yang dibuat pada persidangan NeurIPS oleh penceramah ucaptama jemputan dan guru AI yang patut diberi perhatian Geoffrey Hinton, dan seperti yang dinyatakan dalam kertas penyelidikan yang disertakan:

• “Komputer digital tujuan am direka bentuk untuk mematuhi arahan dengan setia kerana diandaikan bahawa satu-satunya cara untuk mendapatkan komputer tujuan am untuk melaksanakan tugas khusus adalah dengan menulis program yang menyatakan dengan tepat apa yang perlu dilakukan dengan terperinci yang menyakitkan. Ini tidak lagi benar, tetapi komuniti penyelidikan telah lambat untuk memahami implikasi jangka panjang pembelajaran mendalam terhadap cara komputer dibina. Lebih khusus lagi komuniti telah berpegang kepada idea bahawa perisian harus dipisahkan daripada perkakasan supaya program yang sama atau set pemberat yang sama boleh dijalankan pada salinan fizikal perkakasan yang berbeza. Ini menjadikan pengetahuan yang terkandung dalam program mati atau pemberat kekal: Pengetahuan tidak mati apabila perkakasan mati" (seperti yang terkandung dalam dan dipetik daripada kertas penyelidikannya "Algoritma Hadapan-Hadapan: Beberapa Penyiasatan Awal", pracetak tersedia dalam talian) .

Ambil perhatian bahawa jenis pengkomputeran tertentu yang dibincangkan dalam jenis AI ini menggunakan Rangkaian Neural Buatan (ANN).

Mari kita perbetulkan perkara ini.

Terdapat neuron biologi dunia sebenar dalam otak kita. Anda menggunakannya sepanjang masa. Mereka secara biologi dan kimia saling berkaitan ke dalam rangkaian dalam noggin anda. Oleh itu, kita boleh merujuk kepada ini sebagai a rangkaian neural.

Di tempat lain, kita akan menyebut "neuron" palsu yang kita wakili secara pengiraan dalam komputer untuk tujuan mereka cipta AI. Ramai orang dalam AI juga merujuk kepada mereka sebagai rangkaian saraf. Saya percaya ini agak mengelirukan. Anda lihat, saya lebih suka merujuk kepada mereka sebagai tiruan rangkaian saraf. Ini membantu untuk segera membezakan antara rujukan kepada dalam kepala anda rangkaian saraf (perkara sebenar, seolah-olah), dan yang berasaskan komputer (tiruan rangkaian saraf).

Tidak semua orang mengambil pendirian itu. Ramai orang dalam AI hanya menganggap bahawa orang lain dalam AI "tahu" bahawa apabila merujuk kepada rangkaian saraf mereka hampir selalu bercakap tentang ANN - melainkan jika situasi timbul di mana atas sebab tertentu mereka ingin membincangkan neuron sebenar dan rangkaian saraf sebenar dalam otak.

Saya percaya bahawa anda mendapat hanyut saya. Selalunya, orang AI akan menyebut "rangkaian saraf" yang mungkin samar-samar kerana anda tidak tahu sama ada ia merujuk kepada rangkaian sebenar dalam kepala kita atau rangkaian pengiraan yang kita atur ke dalam komputer. Tetapi oleh kerana orang AI pada umumnya berurusan dengan contoh berasaskan komputer, mereka lalai untuk menganggap bahawa anda merujuk kepada rangkaian saraf tiruan. Saya suka menambah perkataan "tiruan" pada hujung hadapan perkataan untuk lebih jelas tentang niat.

Selepas ini, anda boleh menganggap neuron buatan pengiraan ini sebagai simulasi matematik atau pengiraan tentang perkara yang kami fikir neuron fizikal biokimia sebenar lakukan, seperti menggunakan nilai berangka sebagai faktor pemberat yang sebaliknya berlaku secara biokimia dalam otak. Hari ini, simulasi ini tidaklah sekompleks neuron sebenar. ANN semasa ialah perwakilan matematik dan pengiraan yang sangat kasar.

Secara amnya, ANN selalunya merupakan elemen teras untuk pembelajaran mesin (ML) dan pembelajaran mendalam (DL) — harap maklum bahawa terdapat lebih banyak butiran mengenai perkara ini, dan saya menggesa anda untuk melihat liputan meluas saya tentang ML/DL di pautan di sini and pautan di sini, Sebagai contoh.

Kembali kepada jenis komputer abadi berbanding fana, berikut adalah lebih banyak perkara yang perlu difikirkan oleh penyelidik:

• “Pengasingan perisian daripada perkakasan adalah salah satu asas Sains Komputer dan ia mempunyai banyak faedah. Ia memungkinkan untuk mengkaji sifat program tanpa perlu risau tentang kejuruteraan elektrik. Ia membolehkan anda menulis program sekali dan menyalinnya ke berjuta-juta komputer. Walau bagaimanapun, jika kita bersedia untuk meninggalkan keabadian, mungkin untuk mencapai penjimatan besar dalam tenaga yang diperlukan untuk melakukan pengiraan dan dalam kos fabrikasi perkakasan yang melaksanakan pengiraan. Kami boleh membenarkan variasi besar dan tidak diketahui dalam ketersambungan dan bukan lineariti bagi contoh perkakasan yang berbeza yang bertujuan untuk melaksanakan tugas yang sama dan bergantung pada prosedur pembelajaran untuk menemui nilai parameter yang menggunakan sifat yang tidak diketahui secara berkesan bagi setiap contoh tertentu. perkakasan. Nilai parameter ini hanya berguna untuk contoh perkakasan khusus itu, jadi pengiraan yang mereka lakukan adalah fana: ia mati dengan perkakasan” (ibid).

Anda kini telah diperkenalkan tentang cara abadi dan fana digunakan dalam konteks ini.

Biar saya huraikan.

Cadangannya ialah komputer yang dibina khas berdasarkan ANN boleh direka supaya perkakasan dan perisian dianggap tidak dapat dipisahkan. Apabila perkakasan suatu hari nanti tidak lagi berfungsi (yang, sudah tentu, kami katakan secara bersepadu menjerat perisian), komputer jenis ini nampaknya tidak lagi berguna dan tidak akan berfungsi lagi. Ia dikatakan fana. Anda juga boleh menguburkan komputer berasaskan ANN kerana ia tidak akan memberi manfaat kepada anda selepas ini selepas perkakasan dan perisian yang tidak dapat dipisahkan tidak lagi berfungsi sebagai satu pasukan.

Jika anda ingin mencuba dan mengaitkan ini dengan analogi otak manusia, anda mungkin membayangkan keadaan pahit otak manusia yang merosot sepenuhnya atau yang entah bagaimana dicederakan secara tidak dapat diperbaiki. Kami menerima tanggapan bahawa seseorang itu fana dan otak mereka akhirnya dan pasti akan berhenti berfungsi. Ilmu yang terkandung dalam otak mereka sudah tidak ada lagi. Melainkan mereka kebetulan mencuba dan memberitahu orang lain atau menulis apa yang mereka tahu, pengetahuan mereka hilang ke seluruh dunia.

Anda pasti pernah mendengar atau melihat laporan tentang percubaan untuk memelihara otak, seperti meletakkannya dalam keadaan beku, di bawah teori bahawa mungkin manusia suatu hari nanti boleh menjadi abadi atau sekurang-kurangnya melangkaui hayat kebiasaan mereka. Otak anda mungkin terus hidup, walaupun tidak di dalam badan anda. Banyak filem dan cerita sci-fi telah membuat spekulasi mengenai idea sedemikian.

Kami kini bersedia untuk melihat secara terperinci tentang komputer fana dan komputer abadi sebagai konsep dan apa yang diramalkan.

Perbincangan Berfikiran Dan Analisis Bertimbangrasa

Sebelum menyelami keberanian analisis pendekatan postulat ini, beberapa kaveat penting dan perkara tambahan patut disebut.

Pengkaji menekankan bahawa yang dicipta komputer fana tidak akan menggantikan atau menolak kewujudan komputer abadi yang hari ini kita rujuk sebagai komputer digital konvensional. Akan ada kewujudan bersama kedua-dua jenis komputer. Saya mengatakan ini kerana reaksi sesetengah pihak ialah seruan untuk memerintahkan adalah dakwaan menyeluruh semua komputer yang diperlukan sedang atau akan menuju ke arah jenis fana.

Itu bukan tuntutan yang dibuat.

Semasa ceramahnya, beliau menyebut bahawa ini khusus berorientasikan neuromorfik komputer akan menjalankan kerja pengiraan yang dikenali sebagai pengiraan maut: "Kami akan melakukan apa yang saya panggil pengiraan fana, di mana pengetahuan yang sistem telah pelajari dan perkakasan, tidak dapat dipisahkan" (seperti yang dipetik dalam artikel ZDNET oleh Tiernan Ray pada 1 Disember 2022).

Dan terutamanya: "Ia tidak akan menggantikan komputer digital" (ibid).

Selain itu, jenis komputer baharu ini pastinya tidak lama lagi akan berada di kedai komputer tempatan anda atau tersedia untuk pembelian dalam talian serta-merta, seperti yang dinyatakan semasa pembentangannya: “Apa yang saya fikir ialah kita akan melihat jenis yang berbeza sama sekali komputer, bukan untuk beberapa tahun, tetapi ada sebab untuk menyiasat jenis komputer yang sama sekali berbeza ini.” Penggunaannya juga berbeza: "Ia bukan komputer yang bertanggungjawab ke atas akaun bank anda dan mengetahui dengan tepat jumlah wang yang anda ada."

Satu kelainan tambahan ialah komputer fana itu nampaknya akan berkembang dan bukannya direka seperti yang kita lakukan hari ini untuk pembuatan pemproses komputer dan cip pengkomputeran.

Semasa proses pertumbuhan, komputer fana akan meningkatkan keupayaan dalam gaya pematangan pengiraan. Oleh itu, komputer fana tertentu mungkin bermula dengan hampir tidak ada keupayaan dan matang ke dalam apa yang disasarkan untuk menjadi. Sebagai contoh, katakan kita ingin mencipta telefon bimbit melalui penggunaan komputer fana. Anda akan bermula dengan varian sederhana komputer fana yang pada mulanya telah dibentuk atau disemai untuk tujuan ini. Ia kemudiannya akan matang menjadi versi yang lebih maju yang anda cari. Ringkasnya: "Anda akan menggantikannya dengan setiap telefon bimbit itu perlu bermula sebagai telefon bimbit bayi, dan ia perlu belajar cara menjadi telefon bimbit."

Pada salah satu slaid asasnya tentang pengiraan fana, faedahnya diterangkan seperti ini: "Jika kita meninggalkan keabadian dan menerima bahawa pengetahuan itu tidak dapat dipisahkan daripada butiran fizikal yang tepat bagi perkakasan tertentu, kita mendapat dua faedah besar: (1) Kami boleh menggunakan pengiraan analog kuasa yang sangat rendah, (2) Kami boleh mengembangkan perkakasan yang sambungan tepat dan tingkah laku analognya tidak diketahui.”

Sebahagian daripada ceramah yang sama dan juga seperti yang terkandung dalam kertas penyelidikan pracetaknya ialah teknik yang dicadangkan untuk bagaimana ANN boleh direka dengan lebih baik, yang dia rujuk sebagai menggunakan ke hadapan-ke hadapan pendekatan rangkaian. Sesetengah daripada anda yang mahir dalam ANN sudah pasti sudah sedia maklum tentang penggunaan backpropagation atau back-prop. Anda mungkin ingin melihat teknik ke hadapan yang dicadangkannya. Saya akan membincangkan pendekatan menarik itu dalam siaran lajur akan datang, jadi nantikan liputan saya yang akan datang mengenainya.

Beralih gear, mari kita pertimbangkan apa yang diperkatakan di lorong dan lorong komuniti AI tentang kurang ajar ini komputer fana muslihat.

Kami akan mulakan dengan apa yang sesetengah orang akan katakan sebagai bukan permulaan pada topik yang diceritakan.

Adakah anda bersedia?

Berhenti memanggil perkara ini a manusia komputer.

Begitu juga, berhenti mengisytiharkan bahawa komputer konvensional hari ini adalah abadi.

Kedua-dua penggunaan itu jelas salah dan banyak mengelirukan, kata orang yang ragu-ragu.

Takrif kamus harian tentang yang abadi terdiri daripada sesuatu yang tidak boleh mati. Ia hidup selama-lamanya. Untuk tidak mati, anda mungkin perlu mengatakan bahawa benda itu sendiri masih hidup. Anda berada di landasan yang salah untuk menegaskan bahawa komputer hari ini masih hidup. Tiada orang yang munasabah akan menganggap sifat "hidup" yang bona fide kepada komputer moden. Mereka adalah mesin. Mereka adalah perkara. Mereka bukan orang atau haiwan atau keadaan hidup.

Jika anda ingin memanjangkan definisi abadi untuk membolehkan kita merujuk kepada entiti bukan hidup juga, dalam kes itu, entiti bukan hidup itu nampaknya tidak akan reput dan tidak dapat dielakkan hancur menjadi debu. Bolehkah anda membuat tuntutan sedemikian tentang komputer hari ini? Ini nampaknya dihulurkan (nota sampingan: kita sudah tentu boleh masuk ke dalam perbincangan falsafah besar tentang sifat jirim dan kewujudan, tetapi jangan pergi ke sana dalam hal ini).

Intinya ialah penggunaan atau sesetengah orang akan mengatakan penyalahgunaan perkataan "fana" dan "abadi" adalah aneh dan tidak wajar. Mengambil bahasa vernakular yang biasa digunakan dan menggunakannya semula untuk tujuan lain mengelirukan dan menjadikan air keruh. Anda perlu bersedia untuk mengkonsepsikan semula maksud fana dan abadi dalam konteks khusus ini. Ini menjadi bermasalah.

Lebih membingungkan ialah pilihan perkataan ini cenderung untuk mengubah aspek komputer.

Sudah terdapat lebih daripada cukup isu yang berkaitan dengan AI antropomorfosis, kita pastinya tidak perlu membuat lebih banyak kemungkinan sedemikian. Seperti yang telah saya bincangkan secara meluas dalam liputan saya tentang Etika AI dan AI Etika, terdapat pelbagai cara liar yang orang mengaitkan kapasiti perasa kepada komputer. Sebaliknya, ini mengelirukan orang ramai untuk mempercayai secara salah bahawa komputer berasaskan AI boleh berfikir dan bertindak seperti manusia. Ia adalah cerun bahaya yang licin apabila masyarakat mula terbuai untuk mempercayai bahawa AI dan pengkomputeran hari ini adalah setanding dengan intelek dan akal budi manusia, lihat contohnya analisis saya di pautan di sini and pautan di sini.

Baiklah, kita boleh menolak atau meremehkan pilihan perkataan yang janggal, tetapi adakah itu menunjukkan bahawa kita harus membuang bayi dengan air mandian (ungkapan lama, mungkin hampir bersara)?

Ada yang berpendapat bahawa mungkin kita boleh mencari perkataan yang lebih baik untuk pendekatan atau konsep keseluruhan ini. Buang penggunaan "fana" dan "abadi" supaya idea yang lain tidak dicemari oleh penggunaan yang tidak sesuai atau tidak wajar. Sementara itu, terdapat hujah balas bahawa pilihan perkataan itu boleh diterima dengan sempurna, sama ada kerana ia sesuai, atau kerana kita tidak sepatutnya bersikap tidak fleksibel tentang cara kita memilih untuk menggunakan semula perkataan. Mawar adalah mawar dengan nama lain, mereka mengisytiharkan.

Untuk mengelakkan perdebatan yang lebih sengit di sini, saya akan mengelak daripada menggunakan perkataan "fana" dan "abadi" dan hanya akan menyatakan bahawa kita mempunyai dua jenis komputer utama yang sedang digunakan, iaitu komputer digital konvensional hari ini dan lain adalah dicadangkan neuromorfik komputer.

Tidak perlu menyeret teka-teki kematian ke dalam ini, nampaknya. Pastikan langit cerah untuk melihat apa lagi yang boleh kita buat mengenai perkara itu.

Dalam kes itu, ada yang berpendapat bahawa idea yang dicadangkan tentang komputer neuromorfik bukanlah sesuatu yang baru.

Anda boleh menjejaki kembali ke zaman AI awal, terutamanya apabila ANN pada mulanya diterokai, dan melihat bahawa terdapat cakap-cakap untuk mencipta komputer khusus untuk melakukan kerja rangkaian saraf tiruan. Semua jenis perkakasan baharu telah dicadangkan. Perkara ini masih berlaku sehingga kini. Sudah tentu, anda boleh berhujah balas bahawa kebanyakan penerokaan perkakasan khusus hari ini untuk ANN dan pembelajaran mesin masih berdasarkan pendekatan konvensional untuk pengkomputeran. Dalam erti kata itu, tidak boleh dipisahkan analog perkakasan dan perisian ini sedikit sebanyak menolak sampul surat, dan cadangan untuk "memperkembangkan" komputer juga, sekurang-kurangnya berkenaan dengan keluar dari arus perdana yang dianggap.

Ringkasnya, ada sesetengah orang yang mendalami perkara ini yang terkejut bahawa orang lain mungkin terkejut dengan dalil yang diapungkan. Tanggapan ini sama ada sama seperti sebelumnya atau menggemakan apa yang telah diperiksa di pelbagai makmal penyelidikan.

Jangan kecoh rambut, kata mereka.

Ini membawa kita ke satu lagi aspek yang menyusahkan ramai orang.

Dalam satu perkataan: Kebolehramalan.

Komputer hari ini secara amnya dianggap boleh diramal. Anda boleh melihat perkakasan dan perisian untuk mengetahui apa yang komputer akan lakukan. Begitu juga, anda boleh mengesan perkara yang telah dilakukan oleh komputer untuk mengetahui mengapa ia melakukan apa sahaja yang dilakukannya. Sudah tentu ada had untuk melakukan ini, oleh itu, saya tidak mahu melebih-lebihkan kebolehramalan, tetapi saya fikir anda mendapat idea secara keseluruhan.

Anda mungkin sedar bahawa salah satu isu perit yang dihadapi AI hari ini ialah beberapa AI direka untuk menyesuaikan diri. AI yang digunakan oleh pembangun mungkin berubah sendiri semasa ia digunakan. Dalam bidang Etika AI, terdapat banyak contoh AI yang digunakan yang pada mulanya tidak mempunyai berat sebelah atau kecenderungan diskriminasi yang tidak wajar, yang kemudiannya secara beransur-ansur dimutasikan sendiri secara pengiraan semasa AI sedang dikeluarkan, lihat saya penilaian terperinci di pautan di sini.

Kebimbangannya ialah kami sudah pun memasuki tetapan yang melibatkan AI yang tidak semestinya boleh diramalkan.

Katakan AI untuk sistem senjata menjalani pelarasan diri dan hasilnya ialah AI mempersenjatai dan melancarkan senjata maut pada sasaran dan masa yang tidak dijangka. Manusia mungkin tidak berada dalam gelung untuk menghentikan AI. Manusia yang berada dalam gelung mungkin tidak dapat bertindak balas dengan cukup cepat untuk mengatasi tindakan AI. Untuk contoh menyejukkan tambahan, lihat analisis saya di pautan di sini.

Untuk komputer neuromorfik, kebimbangan adalah bahawa kami meletakkan ketidakpastian pada steroid. Dari permulaan, intipati komputer neuromorfik boleh jadi ia berfungsi dengan cara yang menentang ramalan. Kami mempamerkan ketidakpastian. Ia menjadi lencana kehormatan.

Dua kem wujud.

Satu kem mengatakan bahawa kita boleh hidup dengan kebimbangan ketidakpastian yang tidak menyenangkan, berbuat demikian dengan meletakkan pagar untuk menghalang AI daripada pergi ke jambatan terlalu jauh. Kem lain berhujah bahawa anda membawa dunia ke jalan yang berbahaya. Hari akan timbul apabila pagar yang dituntut sama ada gagal, atau ia tidak cukup ketat, atau secara tidak sengaja atau niat jahat pagar itu ditanggalkan atau diputarbelitkan.

Patutkah kita menghilangkan keraguan tentang komputer neuromorfik dan kebolehramalan?

Menurut kenyataan penyelidik: "Di antara orang yang berminat dalam pengiraan analog, terdapat sangat sedikit yang masih sanggup menyerah pada keabadian." Tambahan pula: "Jika anda mahu perkakasan analog anda melakukan perkara yang sama setiap kali... Anda menghadapi masalah sebenar dengan semua perkara dan barangan elektrik sesat ini."

Saya akan mempertingkatkan ini.

Perspektif yang menjulang dan agak suram ialah apa yang dipanggil kebolehramalan yang dikaitkan dengan komputer digital hari ini akan menuju ke arah yang tidak dapat diramalkan. Seperti yang dinyatakan, ini boleh berlaku terutamanya bagi AI yang menyesuaikan diri pada platform komputer konvensional. Hanya kerana komputer neuromorfik mungkin kelihatan tidak dapat diramalkan bukanlah tanda bahawa komputer digital konvensional sebenarnya boleh diramal.

Penggelek wap yang tidak dapat diramal akan datang kepada kami, wap penuh, tidak kira platform pengkomputeran yang anda mahu pilih. Untuk penilaian saya tentang usaha terkini untuk mencuba dan mencapai keselamatan AI dalam hal ini, lihat pautan di sini.

Pusingan tentang kebolehramalan ini sepatutnya membuatkan fikiran anda terfikir tentang sesuatu yang tidak digali, sejenis. Anda yang terlibat dalam Etika AI dan Undang-undang AI mungkin tidak telah mempertimbangkan kesan daripada komputer neuromorfik.

Anda mungkin telah menyasarkan komputer digital konvensional yang menjalankan AI. Baiklah, rasa apa, anda mempunyai segmen pengkomputeran AI tambahan dan baru muncul yang kini anda boleh berjaga-jaga pada waktu malam. Ya, komputer neuromorfik. Letakkannya dalam senarai tugasan anda.

Maaf, lebih banyak malam tanpa tidur untuk anda.

Mari kita pertimbangkan secara ringkas perkara yang telah dilakukan oleh Etika AI dan Undang-undang AI tentang pengkomputeran digital konvensional dan AI.

Dalam lajur sebelumnya, saya telah membincangkan pelbagai usaha nasional dan antarabangsa untuk merangka dan menggubal undang-undang yang mengawal selia AI, lihat pautan di sini, sebagai contoh. Saya juga telah merangkumi pelbagai prinsip dan garis panduan Etika AI yang telah dikenal pasti dan diterima pakai oleh pelbagai negara, termasuk contohnya usaha Pertubuhan Bangsa-Bangsa Bersatu seperti set Etika AI UNESCO yang diterima pakai oleh hampir 200 negara, lihat pautan di sini.

Berikut ialah senarai kunci penting bagi kriteria atau ciri AI Etika berkenaan sistem AI yang telah saya terokai dengan teliti sebelum ini:

• Ketelusan
• Keadilan & Kesaksamaan
• Non-Maleficence
• tanggungjawab
• Privasi
• Kebaikan
• Kebebasan & Autonomi
• Amanah
• Sustainability
• Martabat
• Perpaduan

Prinsip Etika AI tersebut sepatutnya digunakan secara bersungguh-sungguh oleh pembangun AI, bersama-sama dengan prinsip-prinsip yang menguruskan usaha pembangunan AI, dan juga prinsip-prinsip yang akhirnya meletakkan dan melaksanakan penyelenggaraan pada sistem AI.

Semua pihak berkepentingan sepanjang keseluruhan kitaran hayat pembangunan dan penggunaan AI dianggap dalam skop pematuhan dengan norma AI Etika yang telah ditetapkan. Ini adalah sorotan penting kerana andaian biasa ialah "pengekod sahaja" atau mereka yang memprogramkan AI tertakluk kepada pematuhan kepada tanggapan Etika AI. Seperti yang ditekankan di sini sebelum ini, ia memerlukan sebuah kampung untuk mencipta dan membina AI, dan untuk itu seluruh kampung perlu dikuasai dan mematuhi peraturan Etika AI.

Bahagian ini yang mungkin tidak anda fikirkan sebelum ini ialah bagaimana peraturan Etika AI yang sama dan senarai Undang-undang AI baharu yang sedang berkembang akan digunakan pada komputer neuromorfik. Untuk menjelaskannya, Etika AI dan Undang-undang AI sememangnya perlu mengambil kira perkara itu secara eksplisit. Saya menunjukkan bahawa hanya sedikit yang berbuat demikian, dan dinasihatkan bahawa terdapat kemungkinan besar bahawa kemunculan komputer neuromorfik akan menyebabkan banyak untuk satu gelung dari segi dimensi baru untuk cuba memerintah dalam AI.

Kita perlu mempertimbangkan AI Etika dan Undang-undang AI dengan cara yang cukup luas untuk merangkumi apa sahaja AI yang baru direka, termasuk komputer neuromorfik.

Alternatif jungkat-jungkit ialah permainan kucing-dan-tikus klasik. Begini caranya. Cara baharu mencipta AI diilhamkan dan dibina. Etika AI dan Undang-undang AI sedia ada tidak dapat dikawal dan tidak merangkumi sepenuhnya penipuan AI terkini. Usaha tergesa-gesa dibuat untuk mengemas kini peraturan AI Etika dan mengubah suai Undang-undang AI yang baru dicetak itu.

Buih, bilas, ulangi.

Adalah lebih baik bagi kita semua untuk terus mendahului permainan, daripada terperangkap di belakang lapan bola.

Kesimpulan

Saya telah membawa anda dalam sedikit perjalanan.

Pada permulaannya, saya mencadangkan bahawa terdapat dua topik utama untuk diperiksa:

1) Mengikat secara bersepadu kedua-dua perkakasan dan perisian untuk mekanisasi AI dan bukannya menjadikannya sebagai sekutu yang berbeza dan berasingan

2) Memindahkan atau menyuling rumusan pembelajaran mesin daripada satu model AI kepada model lain yang melakukannya tanpa memerlukan atau tidak semestinya menginginkan (atau mungkin sebaliknya mungkin) penyalinan baka tulen penuh lurus ke hadapan

Topik pertama mengenai penggabungan perkakasan dan perisian telah menjadi sebahagian besar perjalanan di sini. Ini membawa kita ke dalam rawa pengkomputeran yang fana berbanding abadi. Di antaranya terdapat beberapa pertimbangan penting Etika AI dan Undang-undang AI yang sebaliknya biasanya tidak akan dibangkitkan kerana topik berkaitan komputer jenis ini biasanya dilihat oleh sesetengah pihak sebagai topik teknologi semata-mata dan bukannya melibatkan sebarang kebimbangan kesan masyarakat.

Saya katakan adalah paling bijak untuk menjadi lebih cepat dan lebih selamat, berbanding kemudian dan lebih teruk apabila membawakan AI Etika dan Undang-undang AI.

Topik kedua, yang belum saya nyatakan di sini, berkaitan secara material dengan topik pertama.

Inilah perjanjian itu.

Katakan kita mempunyai "komputer fana" dan kita mahu mengekalkan keupayaan supaya kita boleh mempunyai sandaran atau seolah-olah salinan kandungan AI. Kita mungkin bimbang bahawa komputer fana tertentu hampir tamat. Ya, kita bergantung kepadanya. Apa yang perlu kita lakukan? Satu jawapan ialah kita patut meniru perkara terkutuk itu.

Tetapi, menyalin komputer neuromorfik daripada jenis yang dilakarkan akan menjadi lebih sukar daripada yang mungkin kelihatan pada pandangan pertama. Perkara boleh menjadi rumit.

Mungkin kita perlu membuat helah penyalinan yang boleh digeneralisasikan dan boleh digunakan untuk keadaan yang melibatkan pembelajaran mesin dan rangkaian saraf tiruan. Kami mahu ini berfungsi pada keadaan berskala besar dan sangat besar. Kami juga akan bersedia untuk menjadikan salinan itu bukan pendua yang tepat, dan sebaliknya mungkin pada asasnya setara atau mungkin lebih baik dibuat hasil daripada tindakan penyalinan.

Satu teknik yang dikenali sebagai penyulingan telah dicadangkan.

Saya telah kehabisan ruang untuk lajur hari ini, jadi saya akan mengambil topik kedua ini dalam lajur yang akan datang. Saya fikir anda ingin mengetahui tentang hubungan dengan segera antara topik kedua itu dan topik pertama yang dibincangkan secara meluas di sini. Fikirkan ini sebagai nota tambahan yang berfungsi sebagai penggoda atau treler tentang perkara yang akan datang seterusnya.

Kekal di tepi tempat duduk anda, kerana topik penyulingan adalah menonjol yang cukup bagus.

Seperti yang Batman biasa katakan, pastikan sayap kelawar anda bersilang dan bersedia untuk masa kelawar dan saluran kelawar yang sama untuk merungkai persoalan yang menjengkelkan tentang cara menyalin ANN atau model pembelajaran mesin atau komputer neuromorfik kepada yang lain.

Teguran terakhir buat masa ini. Terdapat baris terkenal dalam filem itu The Dark Knight Kembali di mana tentera salib berkopiah kami berkata ini: "Dunia hanya masuk akal jika anda memaksanya." Saya akan cuba berpegang pada ideal itu apabila saya membincangkan topik kedua mengenai penyulingan berkaitan AI.

Nantikan Bahagian 2 tajuk berkembar yang menarik dan memikat ini.