Sebab Untuk Mengatur Algoritma AI Adalah Lebih Mudah Daripada Yang Anda Fikirkan

Adakah anda bimbang kecerdasan buatan akan mengambil alih dunia? Ramai yang buat. Daripada Elon Musk yang risau DeepMind mengalahkan manusia dalam permainan lanjutan Go pada 2017, kepada ahli Kongres, pembuat dasar Eropah (lihat Pendekatan Eropah terhadap kecerdasan buatan), dan ahli akademik, ada perasaan bahawa ini adalah dekad untuk mengambil AI secara serius, dan ia akan mengambil masa. Walaupun, bukan atas sebab yang mungkin anda fikirkan dan bukan kerana sebarang ancaman sekarang.

Di sinilah algoritma masuk. Apakah algoritma, anda mungkin bertanya? Cara paling mudah untuk memikirkannya adalah sebagai satu set arahan yang boleh difahami dan dipelajari oleh mesin. Kita sudah boleh mengarahkan mesin untuk mengira, memproses data dan membuat alasan dengan cara berstruktur dan automatik. Namun, masalahnya ialah, sebaik sahaja arahan diberikan, mesin akan mengikutinya. Buat masa ini, itulah perkaranya. Tidak seperti manusia, mesin mengikut arahan. Mereka tidak belajar dengan baik. Tetapi apabila mereka melakukannya, mereka boleh menyebabkan masalah.

Saya tidak mahu membuat hujah sensasi tentang idea komputer suatu hari nanti mengatasi kecerdasan manusia, lebih dikenali sebagai hujah singulariti (lihat ahli falsafah NYU David Chalmers' renungan mengenai topik tersebut.) Sebaliknya, pembuatan mungkin merupakan contoh terbaik mengapa algoritma AI mula menjadi lebih penting kepada orang awam. Seseorang bimbang bahawa mesin akan mempercepatkan kehebatan mereka dengan perbelanjaan kami. Bukan dengan beberapa penaakulan lanjutan, semestinya, tetapi kerana pengoptimuman dalam sempadan apa yang dikatakan oleh algoritma.

Pembuatan adalah tentang membuat sesuatu. Tetapi apabila mesin membuat sesuatu, kita perlu memberi perhatian. Walaupun apa yang dibuat oleh mesin adalah mudah. Saya akan menerangkan sebabnya.

Dari kasut hujan ke telefon bimbit dan belakang

Katakan, sebuah kilang telah membuat but hujan. Saya suka but hujan kerana saya dibesarkan di kawasan Norway yang hujan lebat; Saya suka berada di luar, tertakluk kepada banyak unsur alam semula jadi. Nokia membuat but hujan yang saya gunakan untuk membesar. Ya, Nokia yang kita kenal hari ini sebagai syarikat elektronik yang pernah membuat but getah. Kenapa kunci ini? Kerana sebaik sahaja anda membuat sesuatu, anda ditakdirkan untuk melakukan penambahbaikan. Yang masuk akal. Boleh kata itu fitrah manusia.

Apa yang berlaku kepada Nokia terkenal dan berlaku sedikit seperti ini: Pada mulanya kilang kertas, pada masa saya masih kecil, pembuatan but getah (dan tayar) amat berjaya untuk syarikat itu. Bagaimanapun, mereka melihat peluang selanjutnya. Oleh itu, pada satu ketika pada tahun 1980-an, mereka beralih kepada elektronik dan dengan cepat menukar kilang di sekeliling, membina struktur besar pembekal tempatan apabila mereka mula membuat telefon bimbit. Ini membawa kepada revolusi komunikasi mudah alih, yang bermula di Scandinavia dan merebak ke seluruh dunia. Maklumlah, ramai yang telah menulis kisah Nokia pada tahun 1990-an (lihat Rahsia di sebalik keajaiban Finland: kebangkitan Nokia).

Contoh saya adalah mudah. Mungkin, terlalu mudah. Tetapi fikirkan dengan cara ini. Jika sebuah syarikat besar boleh dengan pantas beralih daripada membuat kertas untuk menulis, kepada but yang memudahkan untuk keluar dalam hujan, akhirnya, kepada telefon bimbit yang mengubah cara manusia berkomunikasi: betapa mudahnya langkah seterusnya? Katakan sebuah syarikat yang mengeluarkan telefon bimbit memutuskan untuk membuat nanobots dan mungkin yang berlepas dalam satu dekad, mengubah manusia dengan mesin kecil yang beroperasi secara autonomi di mana-mana, mampu memasang semula dan mengubah pengalaman manusia. Bagaimana jika itu berlaku tanpa mengambil kira bagaimana kita mahu ia berlaku, siapa yang kita mahu bertanggungjawab, dan matlamat utama?

Mencadangkan bahawa robot secara sedar membantu Nokia membuat keputusan untuk membuat telefon bimbit adalah sukar. Tetapi mengakui bahawa teknologi mempunyai peranan dalam membenarkan kawasan luar bandar Finland di pantai utara untuk berfikir mereka boleh memperoleh penguasaan dunia dalam industri baharu memainkan peranan penting.

Kisah Nokia tidak begitu cemerlang sejak sedekad kebelakangan ini memandangkan mereka gagal mengambil kira kemunculan sistem pengendalian iOS dan Android berasaskan perisian. Kini, akibatnya, Nokia tidak membuat telefon lagi. Dalam sedikit cerita kemunculan semula, mereka kini membuat infrastruktur rangkaian dan telekom, penyelesaian keselamatan rangkaian, penghala Wi-Fi, pencahayaan pintar dan TV pintar (lihat Kisah Kemunculan Kembali Nokia). Nokia masih membuat sesuatu, itu benar. Satu-satunya pemerhatian yang perlu dibuat ialah Nokia nampaknya sentiasa menikmati mencampur-adukkan perkara yang mereka buat. Malah keputusan pembuatan manusia, kadang-kadang, sukar untuk difahami.

Pembuatan bermaksud membuat sesuatu dan perkara itu berkembang. Secara umumnya, apa yang kita buat hari ini telah berubah daripada hanya sedekad yang lalu. Pencetak 3D telah mengasingkan pengeluaran banyak produk termaju, dalam industri dan rumah. Akibat pencetakan 3D yang mengubah kehidupan masih belum berlaku. Kami tidak tahu sama ada ini akan bertahan tetapi kami tahu fokus FDA adalah untuk mengawal selia pengeluaran produk (lihat disini) seperti pil bercetak atau peranti perubatan yang berlaku, isu harta intelek dan liabiliti yang jelas, atau isu mengenai keupayaan mencetak senjata api. Akhirnya, perbincangan dasar tentang kesan negatif yang mungkin timbul daripada pencetakan 3D di luar ini adalah tidak wujud, dan sebilangan kecil daripada kita telah bersusah payah memikirkannya.

Saya tidak mencadangkan percetakan 3D berbahaya dengan sendirinya. Mungkin, ini adalah contoh yang tidak baik. Namun begitu, perkara yang pada mulanya kelihatan biasa boleh mengubah dunia. Terdapat banyak contoh: kepala anak panah pemburu/pengumpul yang diperbuat daripada logam yang memulakan peperangan, topeng ritual yang melindungi kita daripada COVID-19, paku yang membina bangunan pencakar langit, mesin cetak jenis alih yang (masih) mengisi kilang kita dengan kertas bercetak dan memberi kuasa kepada perniagaan penerbitan, mentol lampu yang membolehkan anda melihat dan bekerja di dalam pada waktu malam, saya boleh teruskan. Tiada sesiapa yang saya kenali duduk di penghujung 1800-an dan meramalkan Nokia akan memindahkan pengeluarannya daripada kertas ke getah kepada elektronik, dan kemudian menjauhi telefon bimbit. Mungkin mereka sepatutnya mempunyai.

Manusia adalah peramal yang lemah untuk perubahan langkah, proses di mana satu perubahan membawa kepada lebih banyak perubahan, dan tiba-tiba, keadaan menjadi berbeza secara radikal. Kami masih belum memahami proses ini kerana kami mempunyai sedikit pengetahuan praktikal tentang perubahan eksponen; kita tidak dapat membayangkannya, mengiranya, atau memahaminya. Namun, berkali-kali, ia melanda kita. Pandemi, pertumbuhan penduduk, inovasi teknologi daripada percetakan buku kepada robotik, ia biasanya melanda kita tanpa amaran.

Muslihat dengan futurisme bukanlah jika, tetapi bila. Seseorang sebenarnya boleh meramalkan perubahan hanya dengan memilih beberapa kaedah pengeluaran baharu dan menyatakan bahawa ia akan menjadi lebih lazim pada masa hadapan. Itu cukup mudah. Bahagian yang sukar adalah untuk mengetahui dengan tepat bila dan terutamanya bagaimana.

Klip kertas bukan masalahnya

Pertimbangkan contoh kilang saya sekali lagi, tetapi kali ini, bayangkan mesin bertanggungjawab ke atas pelbagai keputusan, bukan semua keputusan, tetapi keputusan pengeluaran seperti pengoptimuman. Dalam bukunya Kecerdasan super, Humanis dystopian Universiti Oxford Nick Bostrom terkenal membayangkan algoritma pengoptimuman AI yang menjalankan kilang klip kertas. Pada satu ketika, katanya, bayangkan bahawa sebab mesin belajar mengalihkan sumber yang semakin meningkat kepada tugas itu adalah rasional, akhirnya secara beransur-ansur mengubah dunia kita menjadi klip kertas, dan menentang percubaan kita untuk mematikannya.

Walaupun seorang lelaki yang bijak, contoh Bostrom agak bodoh dan mengelirukan (namun, tidak dapat dilupakan). Pertama, dia gagal mengambil kira hakikat bahawa manusia dan robot bukan lagi entiti yang berasingan. Kami berinteraksi. Kebanyakan robot pintar berkembang menjadi kobot atau robot kolaboratif. Manusia akan mempunyai banyak peluang untuk membetulkan mesin. Walaupun begitu, perkara asasnya kekal. Mungkin terdapat perubahan langkah pada satu ketika, dan jika perubahan itu berlaku cukup pantas dan tanpa pengawasan yang mencukupi, kawalan mungkin hilang. Tetapi hasil yang melampau itu nampaknya agak tidak masuk akal. Walau apa pun, saya bersetuju, kita perlu mengawal selia manusia yang mengendalikan mesin ini dan memberi mandat bahawa pekerja sentiasa berada dalam lingkaran dengan melatih mereka dengan sewajarnya. Latihan jenis itu tidak berjalan lancar. Pada masa ini ia mengambil masa terlalu lama dan memerlukan kemahiran khusus untuk melatih dan juga dilatih. Saya tahu satu perkara. Pada masa hadapan semua jenis orang akan mengendalikan robot. Mereka yang tidak, akan menjadi sangat tidak berdaya.

Menambah manusia adalah lebih baik daripada automasi yang tidak berfikiran, tidak kira jika kita tidak pernah bergabung sepenuhnya dengan mesin. Kedua-dua konsep itu secara logiknya berbeza. Ada kemungkinan bagi kedua-dua orang dan robot untuk terperangkap mengautomasikan demi automasi. Itu akan menyebabkan kerosakan besar kepada pembuatan pada masa hadapan. Walaupun ia tidak menghasilkan robot pembunuh. Saya percaya penggabungan adalah beratus-ratus tahun lagi, tetapi bukan itu maksudnya. Walaupun hanya tiga puluh tahun lagi, mesin bergerak sendiri yang beroperasi pada algoritma mudah yang hilang kawalan, senario itu sudah berlaku di tingkat kedai. Sesetengah mesin tersebut berumur tiga puluh tahun dan dijalankan pada sistem kawalan proprietari lama. Cabaran utama mereka bukanlah mereka maju tetapi sebaliknya. Mereka terlalu mudah untuk dapat berkomunikasi. Ini bukan masalah untuk esok. Ia adalah masalah yang sedia ada. Kita mesti membuka mata kita kepadanya. Fikirkan perkara ini apabila anda melangkah ke kasut getah anda.

Saya masih mempunyai but Nokia saya dari tahun 1980-an. Mereka mempunyai lubang di dalamnya, tetapi saya menyimpannya untuk mengingatkan diri saya dari mana saya berasal dan sejauh mana saya telah berjalan. Hujan terus turun juga, dan selagi ia cukup bersih, saya tidak mahu pembaikan yang lebih baik daripada but tersebut. Kemudian sekali lagi, saya manusia. Robot mungkin sudah bergerak. Apakah versi AI bagi but hujan, saya tertanya-tanya. Ia bukan telefon bimbit. Ia bukan sensor hujan. Ia membingungkan fikiran.

But digital hari ini bermakna anda boleh memperibadikannya kerana ia mempunyai reka bentuk bercetak 3D padanya. Terdapat kasut maya yang wujud hanya sebagai NFT (token tidak boleh digunakan) yang boleh dijual dan didagangkan. Kasut sukan maya teratas bernilai $10,000 hari ini (lihat Apakah Sneaker NFT, dan Mengapa Ia Bernilai $10,000?). Saya tidak takut dengan mereka tetapi patutkah saya? Jika dunia maya menjadi lebih berharga daripada dunia fizikal, mungkin saya akan melakukannya. Atau adakah saya perlu menunggu untuk bimbang sehingga avatar AI sendiri membeli but NFT sendiri untuk menangani "hujan"? Jika kita membina algoritma dalam imej kita sendiri, kemungkinan besar AI akan mahir dalam perkara yang kita harap kita mahir tetapi biasanya tidak, seperti membeli saham, membina persahabatan yang setia (mungkin dengan kedua-dua mesin dan manusia), dan mengingati benda. Metaverse industri mungkin sangat canggih–penuh dengan kembar digital yang meniru dunia kita dan mengatasinya dengan cara yang bermanfaat–atau ia mungkin sangat mudah. Mungkin kedua-duanya. Cuma kita belum tahu.

Kita perlu mengawal selia algoritma AI kerana kita tidak tahu apa yang ada di sekeliling kita. Itu cukup alasan, tetapi bagaimana kita melakukannya, itu cerita yang lebih panjang. Izinkan saya satu lagi pemerhatian pantas, mungkin semua algoritma asas harus disediakan secara terbuka. Sebabnya, jika tidak, tidak ada cara untuk mengetahui apa yang mereka mungkin membawa kepada. Yang teratas agak terkenal (lihat 10 Algoritma Pembelajaran Mesin Terbaik), tetapi tiada gambaran keseluruhan di seluruh dunia tentang tempat dan cara ia akan digunakan. Terutamanya algoritma tanpa pengawasan yang harus diperhatikan dengan teliti (lihat Enam Kes Penggunaan Berkuasa untuk Pembelajaran Mesin dalam Pembuatan), sama ada ia digunakan untuk meramalkan penyelenggaraan atau kualiti, untuk mensimulasikan persekitaran pengeluaran (cth kembar digital), atau untuk menjana reka bentuk baharu yang tidak pernah difikirkan oleh manusia. Dalam landskap hari ini, algoritma tanpa pengawasan ini biasanya dipanggil rangkaian saraf tiruan, cuba meniru otak manusia.

Saya telah mula bimbang tentang jaring saraf, hanya kerana saya mendapati logiknya sukar difahami. Masalahnya ialah kebanyakan pakar, malah mereka yang mengerahkannya, tidak memahami cara algoritma ini bergerak dari langkah ke langkah atau lapisan ke lapisan. Saya tidak fikir metafora "lapisan tersembunyi", yang sering digunakan, adalah sangat tepat atau sangat lucu. Seharusnya tiada lapisan tersembunyi dalam pembuatan, dalam kutipan cukai automatik, dalam keputusan pengambilan pekerja, atau dalam kemasukan kolej, sebagai permulaan. Mungkin anda perlu mempertimbangkan untuk bimbang juga? Satu perkara yang pasti, manusia dan mesin yang membuat sesuatu bersama-sama akan mengubah dunia. Ia sudah ada, berkali-kali. Daripada kertas hingga kasut hujan, dan lapisan otak buatan hari ini, tiada apa yang harus dibiarkan tanpa diterokai. Kita tidak seharusnya bersembunyi dari fakta mudah bahawa daripada banyak perubahan kecil, perubahan yang lebih besar boleh muncul secara tiba-tiba.