Apabila dia tidak berusaha untuk mempercepatkan tergesa-gesa manusia ke arah Singularity dengan mencipta kecerdasan am buatan (AGI), Ben Goertzel bermain dalam kumpulan jazz-rock bernama Jam Galaxy yang dihadapkan oleh robot bernama Desdemona.
Ia adalah salah satu daripada banyak projek sampingannya, yang secara semula jadi mendorongnya untuk mencuba dan membuktikan perniagaan muzik dengan menghubungi ahli Pearl Jam dan Heart. Goertzel juga sedang mengusahakan penyelidikan umur panjang dengan mengumpul data kesihatan manusia dengan ganjaran token melalui aplikasi yang dipanggil Rejuve.ai. Maklumat itu kemudiannya dikumpulkan dengan data kajian haiwan dan serangga dan dianalisis dengan AI untuk menentukan bahagian genom yang boleh menjadikan kita hidup lebih lama dan kemudian dirangsang menggunakan terapi gen. "Kami mempunyai beberapa penemuan peringkat kejayaan yang agak menarik," katanya. Oh, dan sejurus sebelum temu bual selama sejam kami berakhir, dia secara santai menyebut sebagai mengetepikan bahawa dia juga mencipta syiling stabil untuk pasaran AI terdesentralisasinya, SingularityNET yang dipatok pada indeks sintetik kemajuan alam sekitar — kerana menambatnya kepada dolar AS akan menjadi “pincang.”
“Kemajuan terhadap alam sekitar adalah sangat stabil. Ia tidak pernah ke mana-mana,” katanya.
"Dan untuk memanipulasi ini, anda perlu benar-benar menyelesaikan pemanasan global."
Ia adalah jenis komen politik yang tepat yang memenuhi pengetahuan berteknologi tinggi yang mungkin anda jangkakan daripada Goertzel, yang kelihatan dan kelihatan seperti saintis hippie yang tersandung ke dalam mesin masa pada tahun 1971 dan muncul sepenuhnya pada tahun 2023. Tetapi jangan tertipu oleh topi cetakan haiwan, rambut panjang dan lukisan perjalanan asid Electric Kool-Aid: Dia seorang saintis yang cemerlang dengan pemahaman tentang tahun cahaya masa depan mendahului kebanyakan dan yang bergelut dengan beberapa konsep terbesar yang pernah dipertimbangkan oleh manusia. Apakah kesedaran? Bagaimanakah kita mencipta kehidupan buatan, dan apa yang berlaku jika ia tidak menyukai kita, menjadi penyangak, dan membunuh semua orang seperti di Terminator 2?
Apakah kecerdasan am buatan?
Goertzel mempopularkan istilah "kecerdasan umum buatan" sebagai satu cara untuk membezakan mesin pemikiran tulen yang boleh mempelajari hampir semua perkara, kepada AI yang dioptimumkan untuk satu tugas tertentu, seperti komputer Deep Blue yang terkenal mengalahkan juara catur dunia Garry Kasparov. Dia secara bebas mengakui terdapat risiko dalam membina mesin yang mampu mempelajari apa sahaja dan segala-galanya, termasuk cara memprogram semula dirinya untuk menjadi satu susunan magnitud yang lebih pintar daripada mana-mana manusia.
“Terdapat beberapa risiko dan bahaya dengan AGI,” kata Goertzel di atas keramaian di restoran India di pusat membeli-belah yang sibuk di Singapura. “Salah satu daripada mereka yang mendapat banyak perhatian media ialah AGI akan mengamuk dan memusnahkan manusia dan mengambil alih alam semesta. Ia sepenuhnya mungkin; anda tidak boleh menolaknya,” katanya.
"Satu lagi risiko yang lebih berkemungkinan ialah orang yang mementingkan diri sendiri yang jahat akan menggunakan AI untuk menggunakan ketamakan dan kawalan mereka sendiri ke atas orang lain."
Pada pandangan beliau, kerajaan tidak mungkin membuat kejayaan dalam AGI kerana mereka "terlalu konservatif dan bodoh," walaupun beliau menyatakan China mengontrakkan kerja AGInya kepada syarikat seperti Tencent dan Baidu. Lebih dekat dengan rumah, dia berpendapat bahagian AI Google dan Facebook tidak akan mengatasi garis sama ada, kerana mereka akan terlalu fokus untuk menjadikan AI mencapai metrik tertentu, yang tidak kondusif untuk pemikiran kreatif.
“Sama seperti orang yang paling bijak tidak mahu hanya melayani metrik orang lain, saya fikir kecerdasan am buatan tidak semestinya mahu memaksimumkan klik lalu pada halaman web seseorang, bukan? Ia mesti dibenarkan bermain-main secara kreatif.”
The Singularity sekitar tahun 1970
Goertzel memulakan universiti pada 15, lulus pada 18, mempunyai ijazah kedoktoran pada 22 dan keluarga muda pada 23. Mungkin luar biasa pada zaman ini, dia bukan sekadar mahir matematik atau jenius teknologi yang memateri komputer kit bersama-sama pada tahun 70-an tetapi sama-sama berminat dalam falsafah, penulisan kreatif dan muzik.
Dia menghabiskan sebahagian besar kerjayanya mengajar dan menyelidik sains komputer, matematik dan sains kognitif di pelbagai universiti di seluruh dunia sambil bekerja pada teknologi AI pada bila-bila masa yang boleh. Pengasas bersiri yang cenderung mendahului kira-kira sedekad daripada orang lain dengan ideanya — yang, dalam perniagaan, terkenal sama dengan salah — dia berusaha menggunakan AI untuk meramalkan pasaran kewangan dan umur panjang, dan dia juga pernah berkhidmat sebagai ketua saintis Hanson Robotics, di mana dia memberikan Sophia the Robot otak tiruannya.
Goertzel telah memikirkan tentang pertumbuhan teknologi eksponen sejak tahun 1970-an apabila dia mula-mula membaca karya Gerald Feinberg Projek Prometheus, iaitu mengenai "mesin yang boleh berfikir lebih baik daripada manusia... mesin nanoteknologi yang kecil secara mikroskopik, dan kami akan menyelesaikan masalah penuaan." Ini bersesuaian dengan baik dengan konsep Singularity yang muncul, titik masa depan hipotesis apabila kemajuan teknologi menjadi tidak terkawal dan tidak dapat dipulihkan, mengakibatkan perubahan besar kepada tamadun manusia.
“Jadi, manusia akan hidup selama-lamanya, maka persoalannya ialah, Untuk apa kita menggunakan teknologi ini, kepenggunaan tanpa minda yang pantas, atau adakah kita menggunakannya untuk mengembangkan kesedaran? Dan apa yang dia [Feinberg] cadangkan ialah meletakkannya sebagai undian demokratik.”
Bertahun-tahun kemudian, apabila dia mula melihat AGI berada dalam genggaman kami, "undi demokratik" ini menjadi inspirasi untuk mula-mula menggunakan teknologi sumber terbuka dan, kemudiannya, blockchain sebagai satu cara untuk meletakkan komuniti koperasi bertanggungjawab ke atas teknologi tersebut.
"Apa yang saya sedar pada satu ketika ialah, dengan AI, membuka kod tidak mencukupi," katanya. "Anda benar-benar perlu melatih AI pada banyak data."
“Di sinilah blockchain datang sebagai satu cara untuk menjadikan pemprosesan dan data yang mendasari AI terpencar dan bersumberkan ramai dan terbuka dalam kawalan. Dan itu ternyata lebih rumit daripada hanya menggunakan sumber terbuka kod.”
Goertzel mengasaskan OpenCog pada tahun 2008 untuk membina rangka kerja kecerdasan buatan sumber terbuka dan sumber orang ramai. Ia telah digunakan oleh 50 syarikat, termasuk Huawei dan Cisco, dan ditetapkan untuk naik taraf besar tidak lama lagi dipanggil Hyperon yang bertujuan untuk mempercepatkannya sebanyak 200 kali ganda. Versi alfa dijadualkan pada suku ini dengan beta dijangka tahun depan.
Blockchain adalah asas tetapi keren
Bagi Goertzel, teknologi blockchain adalah asas sedikit. Dia menyifatkan ia sebagai beberapa algoritma teragih primitif yang ditambahkan pada kriptografi, tetapi "kombinasi hebat" membolehkan sistem berjalan tanpa kawalan berpusat, menjadikannya sempurna untuk keperluannya.
"Sekiranya anda akan membuat mesin berfikir dan anda akan menjadikannya fabrik pengkomputeran skala nano yang diedarkan, adalah sangat bagus jika ini dimiliki oleh semua orang dan tiada siapa daripada mengawal dari atas ke bawah."
Rantaian sekat terlalu lambat untuk menangani keperluan pemprosesan dan jumlah data yang besar yang terlibat, jadi terdapat sesuatu yang perlumbaan untuk menskalakan rantaian blok dengan betul sebelum AGI terobosan dibangunkan. Goertzel mengatakan bahawa walaupun penskalaan penyelesaian seperti rollup pengetahuan sifar adalah lebih baik, mereka masih tidak mempunyai lebar jalur yang mencukupi disebabkan oleh pengehadan rantaian blok yang mereka melaporkan transaksi.
Beliau mengasaskan SingularityNET pada 2017, yang merupakan pasaran terdesentralisasi untuk perkhidmatan dan teknologi AI dan kaedah penyelarasan berasaskan blokchain untuk penyelidik - atau bahkan AI - untuk bekerjasama.
Pada masa ini, berdasarkan Ethereum, dia fikir dia telah menolak perkara sejauh yang boleh digunakan pada blockchain dalam bentuk semasanya. Oleh itu, apabila dia tidak mengusahakan kejayaan dalam AGI (atau band, atau robot, atau umur panjang), dia sedang mengusahakan penskalaan blok secara besar-besaran untuk memberikannya pemprosesan yang diperlukan.
“Melainkan anda boleh meningkatkan skalabiliti blockchain secara radikal, anda tidak boleh meletakkan kerja dalaman AI pada rantaian.”
AI lebih dekat daripada yang anda fikirkan
2022 merupakan tahun kejayaan untuk produk bekerja berdasarkan teknologi AI, termasuk aplikasi bahasa (GPT-3, ChatGPT), pengekodan (GitHub Copilot) dan penjanaan imej (DALL-E dan Stable Diffusion). Bing juga merancang untuk mengambil alih penguasaan carian Google tahun ini dengan memasukkan teknologi ChatGPT ke dalam enjin cariannya.
Goertzel berpendapat bahawa AGI mungkin hanya lima tahun lagi dan mencatatkan perkembangan dalam bidang itu nampaknya berlaku dalam tiga atau empat tahun yang singkat dalam beberapa siri kejayaan.
“Penglihatan Komputer bermula pada 2014, dan kemudian tiba-tiba, bang, bang, bang, misteri itu telah diselesaikan. Pemprosesan bahasa semula jadi… selepas Google menghasilkan model Bert (pada 2018) anda mempunyai GPT-3. Anda mungkin akan melihat arka kemajuan yang sama dalam AGI. Anda akan mendapat satu kejayaan, kemudian banyak kemajuan selama dua tahun,” katanya.
"Perbezaannya ialah kemajuan terobosan, dalam kes itu, menghasilkan mesin yang kemudiannya boleh terus maju dengan menulis semula kodnya sendiri."
Goertzel berharap projek dan kerjasama yang digerakkannya boleh menjadi bagaimana ia berlaku.
“Jika kami bernasib baik, kami akan mencapai kejayaan itu dalam tempoh tiga hingga lima tahun akan datang dengan OpenCog Hyperon berjalan pada SingularityNET berjalan pada Hypercycle,” katanya. "Tetapi jika kita tidak mempunyai sos rahsia, orang lain akan melakukannya."
Kasihan Vitalik bukan seorang saintis komputer
Penyelesaian Goertzel untuk menskala rantaian blok adalah agak radikal dan melibatkan pengecasan turbo rantai sisi atau lapisan 2 Cardano yang dipanggil "HyperCyle."
“Ia benar-benar lebih daripada rantai sampingan. HyperCycle akan bekerjasama dengan Ethereum dan blok blok lain juga, tetapi kami akan menggunakan penterjemah Plutus di sana, tetapi kami akan menyingkirkan lejar itu.”
Beliau telah menyifatkan HyperCycle dalam talian sebagai menyelesaikan "trilemma rantaian blok" "penyahpusatan vs. keselamatan vs. prestasi dengan menyingkirkan lejar dan menggunakan algo dan struktur data yang lebih moden/terdesentralisasi sepenuhnya, serta sedikit AI dan sistem reputasi."
Lejar adalah nadi teknologi blockchain, tetapi dia berkata mendapatkan setiap nod dalam rangkaian untuk mereplikasi setiap transaksi dan memproses setiap kontrak pintar adalah sangat tidak cekap.
“Lejar itu teruk. Jika anda memikirkannya, jika anda berfikir tentang analogi kenalan anda dalam buku telefon anda, maksud saya, lejar itu seperti […] menyimpan 10,000 salinan Yellow Pages, dan anda mengemas kininya setiap kali seseorang baharu datang atau jika seseorang menukar nombor telefon mereka. Sungguh bodoh untuk mengemas kini 10,000 salinan Yellow Pages.”
Dalam versi analogi HyperCycle, bukannya semua orang menyimpan dan mengemas kini halaman Kuning, orang dalam buku kenalan anda menyimpan salinan buku alamat anda, dan sebaliknya, disulitkan dengan kunci peribadi anda.
“Kami memikirkan cara untuk membuat blockchain berfungsi tanpa lejar replikasi, jadi untuk memecahkan semua jalan ke bawah. Setiap individu yang terlibat dalam blockchain menyimpan sejarah transaksi mereka sendiri dan menyimpan sejarah transaksi rakan mereka dan beberapa rakan rakan mereka,” katanya.
“Sharding sepanjang jalan ke bawah, anda tidak memerlukan lejar — anda tidak memerlukan jadual pangkalan data. Perkara-perkara ini terlalu terpusat.”
Beliau berkata beberapa nod HyperCycle bukti konsep sudah beroperasi, tetapi pelancaran berskala penuh tidak akan berlaku sehingga separuh kedua 2024.
Kami meluangkan masa yang lama untuk membincangkan pelbagai kebaikan pendekatan berbeza untuk blockchain, daripada Internet Computer hingga Elastos dan Celestia, yang kebanyakannya melebihi gred gaji saya dan di luar keupayaan peranti rakaman saya untuk menangkap dengan tepat di restoran yang bising.
Dia menyimpulkan dengan berkata, "Jadi, saya rasa tidak ada seni bina ini yang cukup radikal. Mereka semua berpegang terlalu dekat dengan Bitcoin.”
“Selagi anda menjalankan setiap kontrak pintar pada setiap nod, maksud saya, ia akan menjadi sangat perlahan. Sekarang, dalam HyperCycle, jika anda menjalankan kontrak pintar pada lima nod, sekurang-kurangnya ia hanya lima kali lebih perlahan daripada pada satu mesin — ia bukan 10,000 kali lebih perlahan.”
Mengapa Cardano, kemudian?
Goertzel telah menjadi mesra dengan pengasas Cardano Charles Hoskinson, dengan pasangan itu terikat atas projek mereka di Afrika. Dia percaya Hoskinson "benar-benar di luar sana untuk menyelamatkan dunia. Maksud saya, dari segi politik dia lebih libertarian tegar daripada saya — saya lebih bersifat anarko-sosialis — tetapi dia bukan sahaja untuk menjana wang atau menipu orang lain daripada wang mereka.”
Tetapi tarikan sebenar Cardano ialah ia menggunakan bahasa pengaturcaraan Haskell, yang menjadi peminat Goertzel sejak tahun 1993. Ia amat menyedihkan kerana pengasas bersama Ethereum Vitalik Buterin menggunakan bahasa pengaturcaraan kontrak pintar Gavin Wood Solidity.
"Sekiranya Vitalik mengetahui lebih banyak sains komputer, dia akan membuatkan mereka menggunakan Haskell atau F Sharp atau sesuatu, dan akan ada lebih sedikit penggodaman blokchain," katanya.
“Jika anda akan menjalankan sebahagian besar ekonomi dunia, berdagang trilion dolar pada beberapa sistem perisian, anda akan lebih baik membina sistem perisian itu dalam bahasa yang tidak terdedah kepada pepijat dan di mana algoritma anda boleh secara rasmi disahkan menggunakan teori matematik. Ia adalah cara yang betul untuk melakukan sesuatu.”
Penyelesaian jurang henti
Tidak kira betapa pantasnya blockchain, sebaik sahaja AGI adalah susunan magnitud yang lebih pintar dan lebih berkemampuan daripada manusia, Goertzel berkata ia tidak akan membenarkan sesiapa mengawalnya.
“Apabila AGI 100 kali lebih pintar daripada manusia, ia tidak mahu dikawal oleh kita, kerana kita tidak akan dikawal oleh cimpanzi atau keldai, bukan?”
“Kemudian saya akan katakan persoalannya bukan salah seorang daripada kita yang mengawalnya, persoalannya ialah: Adakah ia sesuai dengan kita? Adakah ia akan membenarkan orang ramai mengawal perniagaan mereka sendiri dan membekalkan kami alat dan pemasang nano yang hebat untuk mencetak 3D semua barangan yang kami inginkan dan menyembuhkan penyakit kami?”
“Tetapi tempoh peralihan apabila AGI berada di sekitar kecerdasan yang sama seperti manusia, ketika itulah perkara lebih menyentuh dan lebih menarik. Dan persoalannya ialah: Adakah AGI mahu bekerjasama dengan orang ramai? Atau adakah ia paranoid dan mahu mengawal orang sebelum mereka memusnahkannya?”
Ajar anak anda dengan baik
Pada pendapat Goertzel, penyelesaiannya adalah dengan mengajar AGI tentang menjaga orang lain dan tentang kreativiti dan seni. Di situlah Desdemona the Robot dalam kumpulannya, dan kakaknya Grace — yang direka untuk menyediakan penjagaan warga emas — masuk.
Cara anda mengelakkan AGI bertukar menjadi Skynet Terminator adalah dengan tidak membinanya dengan cara itu pada mulanya.
"Skynet, sudah tentu, dalam filem itu adalah rangkaian keselamatan komputer yang mengamuk. Ia dicipta untuk mempertahankan diri daripada orang ramai,” katanya.
"Tetapi jika anda membina AGI pertama yang berkaitan dengan penjagaan warga emas dan seni kreatif dan pendidikan apabila ia menjadi lebih bijak, ia akan berorientasikan ke arah membantu orang ramai dan mencipta perkara yang menarik. Jika anda membina AGI pertama untuk membunuh orang jahat… mungkin ia akan terus melakukan perkara itu.”
“Jadi, berfaedah atau tidak, ia benar-benar bergantung kepada aplikasi yang telah anda bangunkan dan perkara yang telah anda berikan insentif.”
Dia percaya bahawa meletakkan AI ke dalam badan robot berguna kerana ia membantu menempatkannya di dunia nyata, dan bukannya beberapa alam matematik abstrak.
“AI harus belajar tentang dunia manusia dan dunia fizikal. Dijelmakan di dunia adalah cara yang betul untuk melakukannya, "katanya.
Tetapi apabila dia mempersembahkan Sophia the Robot kepada khalayak yang ramai, penderia visual dan pendengaran boleh menjadi sangat menggembirakan, mengelirukan AI dalam persekitaran yang kuat dan terang. Jadi, Sophia akan dilancarkan tidak lama lagi dalam metaverse, yang dipanggil Sophiaverse. Lupakan jawapan berasaskan teks ChatGPT yang membosankan, Sophia terkandung dalam dunia maya 3D, dan dia akan belajar daripada berinteraksi dengan orang di sana. Walau bagaimanapun, dia mengingatkan dia mungkin akan mengatakan beberapa perkara bodoh.
"Ia mempunyai jaringan saraf yang serupa dengan GPT-3 dan sebagainya, yang mempunyai kemudahan penting untuk menjawab soalan anda, tetapi mereka juga agak bodoh dalam beberapa cara."
Langgan
Bacaan yang paling menarik dalam blockchain. Dihantar sekali a
minggu.
Sumber: https://cointelegraph.com/magazine/how-to-prevent-ai-from-annihilating-humanity-using-blockchain/