Etika AI Dan Gusti Geopolitik Perlawanan Siapa Yang Akan Memenangi Perlumbaan Untuk Mencapai AI Sebenar

Dunia sedang dalam perlumbaan panik.

Kuasa geopolitik menegaskan bahawa pemenang akan membawa pulang semua daging, seolah-olah.

Perlumbaan apakah yang sedang diperjuangkan dan dikejar dengan gigih?

Ia adalah perlumbaan AI.

Anda mungkin lebih tepat merujuk kepada ini sebagai perlumbaan untuk dicapai benar Kecerdasan Buatan (AI), pada masa ini disebut lebih lengkap sebagai Kecerdasan Am Buatan (AGI). Kami entah bagaimana mahu mencapai AI yang nampaknya terbaik atau dikenali sebagai AGI yang setanding dengan kecerdasan manusia. Kami belum sampai. Sesungguhnya, di sebalik semua jenis tajuk berita liar dan kurang ajar, kita tidak tahu bila atau sama ada kita akan mencapai tanda bar tinggi itu. AI hari ini jauh lebih rendah dalam keupayaan berbanding kecerdasan manusia yang menyeluruh, walaupun sudah tentu terdapat banyak cara yang lebih sempit di mana AI telah membuat terobosan yang mengagumkan, seperti dapat bermain catur bertaraf dunia yang terkemuka atau melakukan tugas lain yang agak terhad.

Cincin emas itu adalah kemunculan AI yang mempamerkan kecerdasan manusia yang bersifat taat dan mendalam seperti manusia. Ini adalah grail suci penyelidik dan pengamal AI. Dari semasa ke semasa, terdapat dakwaan palsu yang telah melepasi garisan penamat perlumbaan AI, yang telah saya sanggah dalam lajur saya di pautan di sini. Mereka yang cuba membuat pertikaian lintasan garisan penamat mengelirukan orang awam dan kadang-kadang melakukannya dengan tidak bersalah yang bersungguh-sungguh manakala pada masa lain mempunyai motif yang boleh dipersoalkan. Secara keseluruhannya, ini menimbulkan pertimbangan Etika AI yang agak penting dan penting. Untuk liputan berterusan dan meluas saya tentang Etika AI dan AI Etika, lihat pautan di sini and pautan di sini, Hanya untuk menamakan beberapa.

Bagaimanapun, tidak syak lagi bahawa perlumbaan AI pecut di seluruh dunia sedang giat dijalankan. Anda akan sukar untuk menuntut sebaliknya.

Fikirkan dengan cara ini. Sekiranya kita telah berjaya mencapai AI atau AGI sebenar, kemungkinan perlumbaan kaki AI akan diisytiharkan secara rasmi dan global sebagai berjaya dimuktamadkan. Saya memberi jaminan kepada anda bahawa perhatian seluruh dunia akan tertumpu pada kejayaan yang begitu hebat dan menggemparkan dunia. Anda akan mengetahuinya. Kita semua akan. Sengkang gila AI akan ergo berkesan tidak wujud lagi, walaupun mungkin versi sekunder mungkin berlaku melibatkan mereka yang tidak mencapai AI sebenar bekerja dengan gigih untuk mengejar. Terdapat juga perkara yang membimbangkan tentang bagaimana kita akan akhirnya mengawal atau menguruskan AGI jika atau apabila kita tiba di sana.

Tiada orang atau entiti atau negara yang boleh menuntut mahkota untuk menghasilkan AI atau AGI yang benar.

Sementara itu, jumlah yang sangat besar dan tidak henti-hentinya pergelutan tangan sedang berlaku tentang negara (atau negara) yang berada di kepala kumpulan dan siapa yang mengekori lebih jauh di belakang. Andaian ialah jika anda tidak menjadi yang pertama, anda akan ditinggalkan dalam kotoran. Anda akan memakan sisa daripada pemenang AI. Anda berpotensi untuk selama-lamanya takluk kepada negara atau negara yang membuat lompatan yang digembar-gemburkan ke dalam AI atau AGI sebenar.

Sebagai mengetepikan cepat dan untuk memudahkan perkataan perbincangan ini, saya akan mula menggunakan "AGI" apabila saya ingin menggunakan aura AI sebenar. Penggunaan frasa yang agak baharu “AGI” kadangkala mengganggu mereka yang tidak biasa melihatnya digunakan. Kita semua biasa dengan "AI" dan anda mungkin terganggu untuk melihat akronim "AGI" digunakan sebaliknya. Izinkan saya menerangkan sebab ini secara beransur-ansur muncul sebagai aliran kata-kata.

Sebahagian daripada sebab AGI telah meningkat dalam arena vernakular AI adalah kerana hanya menyatakan "AI" kini telah menjadi ungkapan yang amat dikesali. Tiada siapa yang tahu sama ada AI yang anda sebutkan ialah varian hampir tidak AI atau infusi AI yang membuat kemajuan yang lebih baik, atau mungkin merujuk kepada AI yang disamakan sepenuhnya oleh manusia yang futuristik. Untuk menangani bebanan "AI" yang berlebihan sebagai kata kunci, nama AGI telah mendapat keutamaan oleh orang dalam dalam medan AI yang ingin secara khusus dan khususnya merujuk kepada AI sebenar.

Jadi, secara ringkasnya, pertimbangkan sebutan saya tentang AGI sama dengan mengatakan "AI sebenar" berkaliber teguh serupa dengan kecerdasan manusia, terima kasih.

Mari kita tarik nafas dalam-dalam secara berhemah dan teliti beberapa aspek perlumbaan untuk mencapai AGI. Malah ada aspek meta yang perlu dinyatakan terlebih dahulu. Harap maklum bahawa terdapat sedikit pedih ulu hati tentang menggunakan alegori tentang perlumbaan kaki yang sepatutnya atau beberapa jenis aktiviti perlumbaan lain sebagai metafora untuk perlumbaan AGI. Kenapa begitu? Saya akan memberitahu anda seketika mengenai komplikasi dan kerumitan mengapa (ada yang mengatakan) perlumbaan kaki atau yang setara dengannya mengelirukan sepenuhnya dan sudut pandangan mudah yang berbahaya.

Berikut adalah perkara utama yang akan saya bahas bersama anda dalam wacana ini:

• Jika ini adalah perlumbaan, garisan penamat AGI kelihatan agak tidak jelas
• Perlumbaan AGI mungkin pergi kepada seseorang, entiti atau negara
• Metrik dan cara negara dibandingkan dalam perlumbaan AGI
• Manuver geopolitik dan penjajaran untuk perlumbaan AGI
• Undang-undang AI antarabangsa dan Etika AI sebagai pengadil dalam perlumbaan AGI

Anda mungkin mahu mengikat tali pinggang keledar anda semasa saya meneliti perlumbaan kaki AGI yang sedang berjalan dengan segera (ya, saya berani memanggilnya sebagai perlumbaan kaki) yang menyebabkan hampir semua orang bergerak pada kelajuan yang sangat pantas dan nampaknya melonjak ke hadapan dalam usaha yang membara ini. Sesetengah orang mungkin mengatakan bahawa ini adalah perlumbaan untuk kebaikan manusia, sementara yang lain memberi amaran bahawa perlumbaan itu mungkin akan membawa malapetaka untuk kita semua.

Masa akan menentukannya.

Jika Ini Adalah Perlumbaan, Garis Penamat AGI Nampak Agak Tidak Jelas

Garisan penamat biasanya merupakan persempadanan yang agak muktamad. Anda sama ada telah sampai ke garisan penamat atau anda belum. Nampaknya tidak memberi manfaat kepada anda. Bayangkan larian 400 meter Sukan Olimpik dan sama ada anda akan mengingati atau akan mengumpul pujian kepada pelari yang tidak menamatkan perlumbaan sama sekali (tidak pernah melepasi garisan penamat). Tidak mungkin.

Adakah kita akan tahu apabila kita telah mencapai AGI supaya semua orang bersetuju bahawa garisan penamat telah dicapai?

Terdapat perselisihan yang hangat mengenai persempadanan AGI.

Sebagai contoh, katakan bahawa kita mencipta Kecerdasan Buatan yang kelihatan sepenuhnya mampu mempamerkan kecerdasan manusia, tetapi tidak ada kemiripan perasaan di dalamnya semata-mata (lihat liputan saya tentang hujah mengenai sentimen AI di pautan di sini). AI secara pengiraan mampu meniru atau sebaliknya berfungsi seperti yang dilakukan oleh kecerdasan manusia. Walaupun tidak ada percikan semangat atau perasaan yang kita kaitkan dengan manusia dan makhluk hidup lain. Adakah AGI ini dikira sebagai mencapai matlamat yang kita fikir kita ada?

Sesetengah orang akan berhujah balas bahawa tidak mengapa jika perasaan itu seolah-olah dimasukkan ke dalam AGI ini. Selagi ia boleh mempamerkan kecerdasan manusia, penggabungan perasaan adalah sesuatu yang berbeza yang mungkin atau mungkin tidak ingin kita lihat timbul. Sentience dalam erti kata itu adalah tambahan.

Yang lain dengan tegas berhujah bahawa satu-satunya cara untuk mencapai kecerdasan manusia dalam AGI adalah dengan menjelmakan perasaan secara bersepadu. AGI dan sentimen sama ada dianggap sama, atau ia adalah campuran dua penjelmaan yang tidak dapat dipisahkan. Untuk mendapatkan AGI, anda mesti mempunyai semangat, mereka akan bertanding.

Mengetepikan sudut perbahasan itu, perspektif lain ialah kita boleh menggunakan Ujian Turing yang terkenal untuk menilai sama ada AGI telah dicapai. Saya telah membincangkan Ujian Turing secara mendalam di pautan di sini. Secara ringkasnya, tanggapan itu terdiri daripada meminta manusia bertanya soalan kepada AGI dan jika manusia tidak dapat membezakan balasan yang dijana AGI daripada jawapan manusia maka kami akan mengisytiharkan AGI sebagai mampu mempamerkan kecerdasan manusia.

Terdapat banyak masalah atau kekurangan yang sering dikaitkan dengan Ujian Turing.

Katakan bahawa manusia yang membuat pertanyaan melakukan kerja yang buruk dan gagal untuk bertanya soalan yang menyelidik. Satu kebimbangan ialah kebanyakan Model Bahasa Besar (LLM) yang kelihatan berkuasa hari ini boleh memberikan kembali kepada manusia kandungan yang LLM telah dilatih (iaitu, teks dan media digital sering diperoleh melalui pengikisan Internet berskala besar). Oleh itu, seorang manusia terpilih yang bertanya soalan dalam bentuk biasa yang telah pun dijawab dan wujud dalam talian boleh berpotensi untuk "dijawab" dengan mudah oleh LLM, tetapi ini boleh dipertikaikan bukan disebabkan oleh mana-mana penjelmaan kecerdasan manusia yang berkaliber AGI.

Banyak lagi keraguan yang timbul. Katakan manusia tidak dapat memahami jawapannya. Atau andaikan manusia memperdayakan diri mereka sendiri untuk mempercayai bahawa jawapannya semuanya adalah pameran kecerdasan manusia. Saya juga telah membincangkan idea tipis oleh beberapa orang bahawa apa yang perlu kita lakukan ialah bertanya kepada AI sama ada ia AGI atau berperasaan, yang saya jelaskan bukanlah satu bentuk bukti AGI yang sangat meyakinkan, lihat pautan di sini.

Akhirnya, sebagai satu pemikiran tambahan, adakah kita perlu mencapai garisan penamat sepenuhnya untuk menganggap bahawa AGI telah dicapai?

Saya nyatakan sebelum ini bahawa kita biasanya melupakan mereka yang tidak sampai ke garisan penamat. Ini mungkin tidak dapat disamakan dengan perlumbaan AGI. Saya percaya satu kes yang menarik boleh dibuat bahawa jika kita dapat mencapai cara yang besar ke arah AGI, kita akan mendapati diri kita berada dalam keadaan kagum dan sama ada mendapat manfaat besar atau masalah besar. Anda lihat, banyak hasil penting dan sangat berguna boleh timbul oleh AGI yang hampir ada. Akan datang pendek tidak akan menjadi begitu bermasalah kerana tidak menamatkan perlumbaan kaki 400 meter, terutamanya kerana ia mungkin asas penting untuk menuju ke versi penuh AGI (mungkin menjadi maraton jika dibandingkan).

Metafora pencapaian AGI sebagai sejenis perlumbaan kaki atau yang setara dengannya kadangkala tidak memuaskan dan tidak mencukupi.

Perlumbaan AGI Mungkin Pergi Kepada Seseorang, Entiti atau Negara

Ada yang beranggapan bahawa AGI akan dicapai oleh beberapa tukang yang bekerja di garaj sambil memakai baju tidur mereka dan menjadi singkapan eksperimen pengkomputeran inventif gila yang telah mereka kerjakan selama bertahun-tahun. Itulah kiasan klasik berteknologi tinggi serigala tunggal.

Maaf untuk melaporkan bahawa ini adalah cadangan kemungkinan yang sangat rendah.

Kemungkinan yang lebih besar ialah entiti seperti perniagaan atau beberapa pasukan penyelidik akan menjadi penerima bantuan AGI. Kepercayaan yang kuat dan lazim ialah ia memerlukan sebuah kampung untuk tiba di AGI. Serigala tunggal tidak akan mempunyai sumber atau cerapan sendiri untuk mencapai AGI. Mereka mungkin menyumbang kepada pencarian. Mereka mungkin menyediakan kepingan yang diperlukan untuk teka-teki. Mereka tidak akan mampu mengumpulkan keseluruhan kit dan caboodle.

Bercakap tentang kampung, satu lagi pandangan yang dipegang kuat ialah negara yang hanya mampu mencapai AGI. Melalui gabungan orang, perniagaan, ahli akademik dan semua entiti lain dalam sesebuah negara bangsa, AGI akan tiba sebagai hasil kerja gabungan keseluruhan negara. Tahap unit perhatian untuk pemenang dalam perlumbaan ini adalah atas dasar negara bangsa, bukannya pada sesuatu yang lebih berselerak, berbentuk bebas atau individualistik.

Pendek kata, jika ia mengambil sebuah kampung, kampung itu akan menjadi skala nasional, dengan itu negara bangsa akan menjadi pelari yang ditetapkan yang melepasi garisan penamat dalam perlumbaan AGI.

Metrik Dan Cara Negara Dibandingkan Dalam Perlumbaan AGI

Anggap sahaja pencapaian AGI akan berasaskan pada peringkat negara bangsa.

Untuk mengulangi, kami tidak tahu pastinya, tetapi nampaknya andaian yang beralasan.

Pertimbangkan kesan asas negara bangsa. Katakan seekor serigala tunggal berjaya sampai ke AGI terlebih dahulu dan percaya bahawa kerja mereka adalah di luar negara bangsa yang mereka sertai. Orang ini mengisytiharkan mereka bukan dari mana-mana negara bangsa dari segi AGI yang dibuat. Adakah kita masih akan memberi kredit kepada negara bangsa itu dan adakah AGI berada dalam kawalan dan bidang kuasa negara itu?

Bayangkan alternatif lain bahawa konglomerat berbilang negara yang besar tiba di AGI terlebih dahulu. Negara manakah yang boleh mengatakan bahawa AGI adalah "perkara" mereka untuk digunakan dan digunakan (adakah ia akan ditafsirkan sebagai harta atau sebaliknya memungut varian personaliti undang-undang)? Mungkin semua negara di mana syarikat itu wujud adalah untuk mendapatkan kredit yang sama rata. Atau mungkin hanya di mana-mana ibu pejabat rasmi ditempatkan secara geografi. Ia boleh menjadi pemisahan kompleks daripada periuk emas yang sebenarnya.

Walau apa pun, pendapat umum umum ialah sebuah negara bangsa akan menjadi penentu penting untuk mencapai AGI. Negara yang menggalakkan penyelidikan dan pembangunan AI dalam usaha nasionalnya mungkin akan mendapat AGI lebih awal daripada negara lain yang tidak melakukannya.

Terdapat pandangan utama bahawa perlumbaan AI adalah bangsa.

Isu yang memeningkan kepala ialah bagaimana kita hendak memastikan sama ada sesebuah negara berada di hadapan atau di belakang negara lain dalam perlumbaan AGI.

Dalam perlumbaan kaki konvensional, kami boleh dengan mudah mengenal pasti metrik yang boleh digunakan untuk menentukan pelari mana yang berprestasi baik dan mana yang tidak. Kelajuan pelari boleh dikira dengan mudah. Ini tidak menjamin bahawa mereka akan menamatkan dahulu, tetapi sekurang-kurangnya menunjukkan janji. Jarak fizikal antara pelari dan jarak yang tinggal ke garisan penamat jelas merupakan kriteria penting yang boleh kita ukur dengan mudah.

Perlumbaan AGI tidak mempunyai bentuk metrik atau ukuran yang terjamin sedemikian.

Kami menggunakan semua cara langkah pengganti kerana tidak ada cara yang pasti untuk mengira di mana garisan penghujungnya dan juga sejauh mana kami berada darinya.

Mari kita lihat jenis metrik yang dipertimbangkan secara konvensional. Sumber pengukuran global berkaitan AI yang amat berguna dikumpulkan setiap tahun dan diterbitkan oleh Stanford Institute for Human-Centered AI (HAI) di Stanford University. Laporan ini boleh didapati dalam talian secara percuma dan keluaran terbaru bertajuk Laporan Tahunan Indeks AI 2022 (berdasarkan data yang dikumpul untuk 2020-2021). Saya akan berkongsi dengan anda sebentar lagi beberapa sorotan perbandingan kebangsaan yang disebut dalam kompilasi terbaru mereka.

Metrik yang digunakan untuk mengukur kemajuan nasional dan antarabangsa pada AI cenderung untuk memasukkan sedikit segala-galanya, kadang-kadang bersempadan dengan kemasukan sinki dapur yang sebenarnya juga.

Jenis langkah yang biasanya diperiksa termasuk:

• Bilangan artikel penyelidikan AI yang dikaitkan dengan negara tertentu
• Bilangan rujukan yang dipetik kepada artikel AI bagi negara tertentu
• Bilangan jurnal AI yang berpangkalan di negara tertentu
• Bilangan persidangan AI yang berlaku dalam negara tertentu
• Bilangan persidangan AI yang ditaja oleh negara tertentu
• Bilangan paten berkaitan AI yang diberikan dalam negara tertentu
• Bilangan syarikat permulaan AI dalam negara tertentu
• Bilangan pekerjaan AI dalam negara tertentu
• Bilangan pekerjaan AI baharu atau pengambilan pekerja di negara tertentu
• Bilangan undang-undang AI atau rang undang-undang perundangan yang diperkenalkan di negara tertentu
• Bilangan undang-undang AI yang diluluskan atau digubal di negara tertentu
• lain-lain

Pertimbangkan petunjuk kontemporari ini daripada Indeks HAI AI 2022:

• Petikan Penerbitan AI: “Mengenai petikan penerbitan repositori AI, Amerika Syarikat mendahului senarai dengan 38.6% daripada keseluruhan petikan pada 2021, membentuk pendahuluan yang dominan ke atas Kesatuan Eropah serta United Kingdom (20.1%) dan China (16.4%).”
• Jurnal/Persidangan AI: “Pada 2021, China terus mendahului dunia dalam jumlah penerbitan jurnal, persidangan dan repositori AI—63.2% lebih tinggi daripada Amerika Syarikat dengan ketiga-tiga jenis penerbitan digabungkan. Sementara itu, Amerika Syarikat mendahului yang dominan di kalangan kuasa AI utama dalam bilangan petikan persidangan dan repositori.”
• Paten AI: “China kini memfailkan lebih separuh daripada paten AI dunia dan diberikan kira-kira 6%, kira-kira sama dengan Kesatuan Eropah serta United Kingdom. Amerika Syarikat, yang memfailkan hampir semua paten di Amerika Utara, berbuat demikian pada satu pertiga kadar China. Berbanding dengan peningkatan bilangan paten AI yang digunakan dan diberikan, China mempunyai bilangan permohonan paten yang jauh lebih besar (87,343 pada 2021) daripada yang diberikan (1,407 pada 2021).
• Syarikat AI yang Baru Dibiayai: “Data pelaburan mengikut bilangan syarikat AI yang baru dibiayai di setiap rantau. Untuk 2021, Amerika Syarikat mendahului dengan 299 syarikat, diikuti oleh China dengan 119, United Kingdom dengan 49, dan Israel dengan 28. Jurang antara masing-masing adalah ketara.”
• Kepantasan Pengambilan AI: “New Zealand, Hong Kong, Ireland, Luxembourg dan Sweden ialah negara atau wilayah yang mempunyai pertumbuhan tertinggi dalam pengambilan pekerja AI dari 2016 hingga 2021.”
• Siaran Kerja AI: “Pada tahun 2021, California, Texas, New York dan Virginia merupakan negeri yang mempunyai jumlah penyiaran kerja AI tertinggi di Amerika Syarikat, dengan California mempunyai lebih 2.35 kali ganda bilangan penyiaran berbanding Texas, yang kedua terbesar. Washington, DC, mempunyai kadar penyiaran kerja AI yang paling tinggi berbanding dengan jumlah penyiaran pekerjaan keseluruhannya
• Tindakan Perundangan AI: “Analisis Indeks AI bagi rekod perundangan mengenai AI di 25 negara menunjukkan bahawa bilangan bil yang mengandungi 'kecerdasan buatan' yang diluluskan menjadi undang-undang meningkat daripada hanya 1 pada 2016 kepada 18 pada 2021. Sepanyol, United Kingdom dan Amerika Syarikat meluluskan bilangan bil berkaitan AI tertinggi pada tahun 2021, dengan masing-masing menerima tiga.”

Kita boleh mengagumi dan menghargai kerja keras yang terlibat dalam menyusun perangkaan pelari negara bangsa untuk perlumbaan AGI.

Skeptik walaupun berdalih sedikit tentang menggunakan sebarang jenis metrik dalam penglibatan perlumbaan AGI.

Persoalan yang sukar ialah sama ada anda boleh melukis apa-apa jenis garis lurus daripada bilangan artikel AI atau persidangan AI dalam negara tertentu kepada pencapaian muktamad AGI. Perkara yang sama dikatakan untuk bilangan pekerjaan AI, bilangan syarikat AI, dan jumlah metrik lain. Mungkin kiraan itu tidak ada kaitan dengan mencapai AGI. Hujah mengatakan bahawa ukuran tersebut lebih panas daripada cahaya.

Hujah balas ialah kita perlu mencuba dan mengukur di mana kita berada dan ke mana kita akan pergi. Meletakkan kepala anda di dalam pasir nampaknya bukan cara yang berdaya maju untuk menilai sama ada kita menuju ke arah AGI atau mungkin lebih jauh daripada AGI. Adalah diharapkan dan secara umumnya diandaikan bahawa lebih banyak tenaga dan perhatian ke arah membuat kemajuan dalam AI, semakin dekat kita dengan AGI. Metrik ini adalah yang terbaik yang boleh kita lakukan untuk mengumpul berapa banyak tenaga dan perhatian yang diperuntukkan dan digunakan dalam perlumbaan AGI.

Bulat dan bulat yang pergi.

Setiap metrik boleh dengan sendirinya juga dipukul mengenai kepala.

Sebagai contoh, pertimbangkan bilangan undang-undang atau rang undang-undang perundangan tentang AI.

Anda boleh mendakwa bahawa jika penggubal undang-undang menumpukan pada undang-undang berkaitan AI, ini adalah petanda yang baik bahawa negara mengambil agak serius kepentingan AI dan kesan masyarakat tentang ke mana AI dituju. Satu kes boleh dibuat bahawa ini menunjukkan bahawa banyak usaha memajukan AI sedang timbul di negara tertentu. Mengapa anda perlu bersusah payah untuk menggubal undang-undang AI melainkan AI telah berkembang pesat dan menggelegak sebagai elemen demonstrasi negara anda?

Dengan cara itu, negara-negara yang mengumumkan undang-undang AI baharu ditafsirkan sebagai petanda atau isyarat kemajuan AGI sedang berjalan dengan baik di negara tersebut.

Sesetengah pengkritik menegaskan bahawa undang-undang baharu yang dicadangkan tentang AI akan menyekat usaha AI dalam setiap negara tertentu. Penggubal undang-undang dan pemimpin politik akan menembak kaki mereka sendiri. Undang-undang akan meletakkan bayangan suram lebih awal terhadap usaha AI yang sedang dijalankan di negara tertentu itu. Faucet kemajuan AI akan tersekat dengan penyumbatan rambut yang sah dan kadar kemajuan AGI akan semakin perlahan di negara yang mengisytiharkan undang-undang AI itu. Sementara itu, negara lain yang tidak meluluskan undang-undang AI seperti itu akan diteruskan tanpa henti. Seolah-olah anda memutuskan untuk meletakkan pemberat utama pada pelari yang sudah berada di trek 400 meter. Jika anda bertujuan untuk membantu mereka dan mempercepatkannya, anda telah melakukan sebaliknya.

Wah, jawabnya, penggubalan undang-undang AI lebih mirip dengan memastikan bahawa tidak ada sebarang sekatan jalan yang tidak perlu di hadapan pelari. Undang-undang menyediakan panduan dalam cara yang sama bahawa garisan di litar lumba ada untuk memastikan pelari berjalan lancar ke arah yang betul. Tanpa garisan yang dicat itu, pelari mungkin akan mengamuk. Undang-undang AI baharu akan memastikan mereka terus melangkah seiring ke arah hasil yang diingini. Negara-negara yang tidak melakukan perkara yang sama dari segi undang-undang AI baharu akan mendapati pelari mereka pergi ke setiap arah yang liar, termasuk mungkin lari sepenuhnya dari trek dan membahayakan mereka yang tidak bersalah di luar perlumbaan AGI itu sendiri.

Terdapat juga undang-undang berkaitan AI "tersembunyi" yang sesetengahnya sedang dikira dan sementara itu sesetengah yang lain tidak dikira sebagai sebahagian daripada metrik ini (menjadi kekacauan apabila cuba membandingkan kiraan).

Sebagai contoh, jika sesebuah negara menggubal undang-undang berkenaan kenderaan autonomi seperti kereta pandu sendiri, adakah anda menganggap ini sebagai undang-undang AI? Untuk menjelaskan kenderaan autonomi seperti kereta pandu sendiri autonomi sepenuhnya akan mempunyai sistem pemanduan AI yang menjadi teras kepada keupayaan tanpa pemandu (lihat liputan saya di pautan di sini). Disebabkan oleh AI yang terlibat, sebarang undang-undang tentang kenderaan autonomi boleh dipertikaikan dengan wajar sebagai undang-undang AI pada dasarnya. Sebaliknya, anda mungkin secara meyakinkan menegaskan bahawa undang-undang adalah mengenai kenderaan autonomi dan bukan tentang AI, oleh itu ini tidak dikira dalam pengiraan undang-undang khusus AI.

Ia adalah kucar-kacir.

Semua kebimbangan tentang metrik ini mungkin menyebabkan anda mengangkat bahu di tengah-tengah pandangan yang bertentangan dengan pertimbangan penting ini. Seperti yang mungkin terbukti, metrik tersebut hampir selalu tertakluk kepada tafsiran yang berbeza tentang maksudnya dan cara status sesebuah negara berkenaan AGI dianalisis dengan sewajarnya.

Manuver dan Penjajaran Geopolitik Untuk Perlumbaan AGI

Negara manakah yang berada di hadapan dalam perlumbaan AGI?

Negara mana yang ketinggalan?

Metrik yang dinyatakan di atas cuba mempamerkan kedudukan setiap pelari pada masa ini. Andaian asas ialah jika metrik menggambarkan petunjuk yang tepat untuk mencari kedudukan AGI, pelbagai kedudukan tiang ini mungkin kekal sama dari semasa ke semasa. Sudah tentu, realitinya ialah minat dan perhatian negara boleh meningkat atau boleh berkurangan semasa laluan bergelombang ke arah AGI. Anda mungkin lebih bijak untuk mengharapkan perubahan dalam kedudukan.

Satu pertimbangan penting ialah negara tidak benar-benar berada dalam perlumbaan ini sendiri.

Negara-negara mungkin akan menyerahkan baton ke sana ke mari antara satu sama lain. Perlumbaan AGI ada kalanya mempunyai satu atau lebih negara dengan senang hati bekerjasama. Kadang-kadang ini dilakukan dengan berhati-hati dan bukannya dengan kegembiraan yang mesra. Dalam keadaan lain, negara mungkin saling menahan diri. Pada bila-bila masa, postur perlumbaan boleh menjadi agak berbeza daripada beberapa langkah ke belakang, ditambah pula boleh menjadi agak berbeza beberapa langkah ke masa hadapan.

Pertimbangkan perkara ini yang dibuat oleh laporan Indeks HAI AI 2022 tentang kerjasama merentas desa: “Walaupun ketegangan geopolitik meningkat, Amerika Syarikat dan China mempunyai bilangan kerjasama merentas desa terbanyak dalam penerbitan AI dari 2010 hingga 2021, meningkat lima kali ganda sejak 2010 Kerjasama antara kedua-dua negara menghasilkan 2.7 kali lebih banyak penerbitan daripada antara United Kingdom dan China—yang kedua tertinggi dalam senarai.”

Orang sinis akan mengatakan bahawa mungkin penggunaan kerjasama silang kadang-kadang dilakukan sebagai muslihat. Sebuah negara mungkin secara terang-terangan mendakwa bahawa mereka bekerjasama secara bersilang, kelihatan dari segi permukaan untuk berbuat demikian, sementara itu jauh di lubuk hati mereka mengekalkan kemajuan AGI terbaik mereka sebagai rahsia negara yang tersembunyi. Mungkin ini dilakukan untuk menumpulkan kemajuan negara kerjasama silang. Mungkin ini dilakukan untuk memastikan sos rahsia itu tidak diedarkan secara tidak sengaja. Macam-macam sebab boleh.

Dalam dunia dalam talian Internet digital moden hari ini, cuba menyembunyikan cerapan AGI dengan ketat boleh menjadi tugas yang sukar. Keinginan yang kuat untuk mendedahkan atau mencipta AGI adalah daya tarikan yang menarik yang boleh merangsang pembangun dan penyelidik AGI individu untuk berkongsi kerja terbaharu mereka secara terbuka. Negara-negara boleh mendapati bahawa usaha untuk mengehadkan perkongsian sedemikian adalah jauh lebih sukar daripada yang mungkin kelihatan, dan berkemungkinan jauh lebih sukar daripada zaman dahulu apabila segala-galanya adalah berasaskan kertas dan memerlukan dokumen yang bergerak secara fizikal di seluruh dunia.

Pergerakan ke arah sumber terbuka sudah pasti menjadi penekanan kontemporari untuk kebanyakan penyelidikan AI dan AGI terkini, seperti yang dinyatakan dalam laporan Indeks HAI AI 2022: “Setiap tahun, beribu-ribu dan ribuan penerbitan AI dikeluarkan dalam sumber terbuka, sama ada di persidangan atau di laman web perkongsian fail. Penyelidik akan berkongsi penemuan mereka secara terbuka di persidangan; agensi kerajaan akan membiayai penyelidikan AI yang berakhir dalam sumber terbuka; dan pembangun menggunakan perpustakaan perisian terbuka, tersedia secara percuma kepada orang ramai, untuk menghasilkan aplikasi AI yang canggih. Keterbukaan ini juga menyumbang kepada sifat R&D AI moden yang saling bergantung dan saling berkaitan secara global.”

Secara keseluruhannya, negara secara amnya berkongsi tetapi mungkin hanya menunjukkan sebahagian daripada tangan mereka. Negara lain mungkin tidak berkongsi atau hanya berpura-pura berbuat demikian. Sesetengah negara bergelut hebat dengan cuba mengukur apa yang diberikan oleh mereka dalam negara mereka berbanding bergantung padanya. Dan sebagainya.

Saya telah mencirikan sifat gerakan kebangsaan ini dengan cara ini:

• AI Go-it-alone Nation (cuba untuk meneruskan sendiri)
• AI Negara Sehala sahaja (mengambil masuk, tidak akan mengalah)
• Negara Sisa AI (mendapat apa yang boleh daripada orang lain)
• AI Negara Perkongsian Terbuka (berbangga dengan perkongsian)
• AI Hollow-shareng Nation (kepalsuan dalam perkongsian)
• AI Alliances Nation (cuba membuat pakatan sebanyak mungkin)
• AI Bukan-dalam-permainan Negara (mencari AGI bukan keutamaan negara)
• Negara Penipu AI (reverse engineering atau curi curi dari negara lain)
• lain-lain

Sebuah negara boleh berada dalam lebih daripada satu baldi itu pada satu masa.

Sebuah negara boleh berada dalam salah satu baldi itu untuk seketika, keluar dari baldi, dan mungkin kemudian kembali masuk.

Keinginan dan perhatian negara-bangsa yang berkaitan dengan pencarian AGI adalah pasang surut dinamik yang pasti akan terus berjalan dan menjadi sasaran bergerak ke mana negara berada dalam perlumbaan, dan mata yang berterusan akan diperlukan untuk memikirkan di mana semua pemain diletakkan pada masa tertentu.

Undang-undang AI Antarabangsa Dan Etika AI Sebagai Pengadil Dalam Perlumbaan AGI

Dalam lajur sebelumnya, saya telah membincangkan pelbagai usaha nasional dan antarabangsa untuk merangka dan menggubal undang-undang yang mengawal selia AI, lihat pautan di sini and pautan di sini, sebagai contoh. Saya juga telah merangkumi pelbagai prinsip dan garis panduan Etika AI yang telah dikenal pasti dan diterima pakai oleh pelbagai negara, termasuk contohnya usaha Pertubuhan Bangsa-Bangsa Bersatu seperti set Etika AI UNESCO yang diterima pakai oleh hampir 200 negara, lihat pautan di sini.

Berikut ialah senarai kunci penting bagi kriteria atau ciri AI Etika berkenaan sistem AI yang telah saya terokai dengan teliti sebelum ini:

• Ketelusan
• Keadilan & Kesaksamaan
• Non-Maleficence
• tanggungjawab
• Privasi
• Kebaikan
• Kebebasan & Autonomi
• Amanah
• Sustainability
• Martabat
• Perpaduan

Prinsip Etika AI tersebut sepatutnya digunakan secara bersungguh-sungguh oleh pembangun AI, bersama-sama dengan prinsip-prinsip yang menguruskan usaha pembangunan AI, dan juga prinsip-prinsip yang akhirnya meletakkan dan melaksanakan penyelenggaraan pada sistem AI.

Semua pihak berkepentingan sepanjang keseluruhan kitaran hayat pembangunan dan penggunaan AI dianggap dalam skop pematuhan dengan norma AI Etika yang telah ditetapkan. Ini adalah sorotan penting kerana andaian biasa ialah "pengekod sahaja" atau mereka yang memprogramkan AI tertakluk kepada pematuhan kepada tanggapan Etika AI. Seperti yang ditekankan di sini sebelum ini, ia memerlukan sebuah kampung untuk mencipta dan membina AI, dan untuk itu seluruh kampung perlu dikuasai dan mematuhi peraturan Etika AI.

Mari kita pertimbangkan kesan dan sifat penting undang-undang AI antarabangsa dan pengisytiharan antarabangsa peraturan Etika AI terhadap perlumbaan AGI.

Negara-negara yang berusaha ke arah AGI mungkin berbuat demikian dengan meninggalkan dan mendapati diri mereka membelok ke arah beberapa risiko kewujudan AGI yang sering dipopularkan. Harapannya ialah dengan melaksanakan undang-undang AI antarabangsa dan peraturan Etika AI antarabangsa, negara akan dibimbing ke arah AI Untuk Kebaikan dan menjauhi AI Untuk Buruk.

Mengikut analogi litar lumba kami, undang-undang AI dan pertimbangan Etika AI adalah seperti cuba menghalang pelari daripada keluar dari trek. Terdapat godaan besar untuk mengambil jalan pintas dalam perlumbaan AGI. Jalan pintas itu boleh membawa negara ke bawah yang kelihatan lebih cepat ke laluan garisan penamat, walaupun pada masa yang sama meletakkan negara itu dan negara lain pada risiko yang tidak wajar. Contoh yang halus tetapi jelas terdiri daripada AI dwi-guna, yang telah saya periksa pautan di sini, di mana kemajuan AI dengan mudah dialihkan dengan sedikit usaha daripada bermatlamatkan kebaikan kepada diusahakan dengan menghasilkan keburukan yang dahsyat.

Anda boleh menegaskan bahawa undang-undang AI antarabangsa dan Etika AI antarabangsa adalah seperti pengadil atau pengadil.

Andaian adalah bahawa mekanisme undang-undang dan etika yang direka di peringkat antarabangsa ini akan memastikan perlumbaan AGI berada pada tahap yang lebih seimbang. Masalahnya, sama ada negara tertentu memilih untuk memberi perhatian kepada pengadil atau pengadil adalah perkara yang berbeza. Begitu juga, terdapat persoalan yang menjengkelkan tentang bagaimana pihak berkuasa tersebut boleh memberikan penalti atau insentif untuk memastikan pelari berada di landasan yang betul. Kemungkinannya adalah bahawa negara akan melakukan seperti yang mereka mahu lakukan, yang mana negara lain mungkin perlu mengalihkan berat mereka untuk meningkatkan sokongan terhadap pelanggaran peraturan di luar laluan yang mesti dilakukan oleh sesetengah negara.

Kesimpulan

Louis Pasteur, ahli kimia dan ahli mikrobiologi legenda, terkenal berkata begini: “Sains tidak mengenal negara, kerana pengetahuan adalah milik manusia, dan merupakan obor yang menerangi dunia. Sains adalah personifikasi tertinggi negara kerana bangsa itu akan kekal sebagai yang pertama yang membawa paling jauh karya pemikiran dan kecerdasan."

Bolehkah kita katakan bahawa pencapaian AGI tidak mengenal negara dan AGI akan menjadi milik semua manusia?

Atau adakah negara yang pertama kali tiba di AGI akan bersikap posesif terhadapnya, menjadi mabuk dengan kuasa yang hina dan menjadi gila kuasa?

Bagi anda yang suka sedikit kelainan pada teka-teki khusus ini, pertimbangkan bahawa AGI sendiri mungkin merupakan jenis pencapaian yang merupakan peribahasa ular di rumput. Penemu ular itu mungkin orang pertama yang terkena gigitan ular. Menjadi yang pertama ada risikonya.

Melintasi garisan penamat di AGI tidak semestinya akan menjadi perayaan dan riang seperti yang disangkakan oleh sesetengah orang. Memanfaatkan AGI juga tidak semestinya mudah. Sesetengah orang mungkin berpendapat bahawa menghadapi AGI mungkin hampir mustahil kerana AGI nampaknya mempunyai kelicikan dan kepintaran yang setanding dengan manusia. Negara-negara harus berhati-hati dengan apa yang mereka cuba capai dan apa hasilnya, berbuat demikian terlebih dahulu dan tidak terkejut. Mereka mungkin mempunyai sarang tebuan di peti harta negara mereka.

Seperti yang dikemukakan oleh Pasteur: "Rezeki memihak kepada fikiran yang bersedia."