Menggali Kehebohan Dan Kegembiraan Mengenai Generatif AI ChatGPT, Termasuk Etika AI yang Menjelma Dan Pertimbangan Undang-undang AI

Saya rasa sekarang anda pernah mendengar atau mungkin melihat tajuk berita yang meriah atau siaran media sosial yang menggembar-gemburkan penggunaan AI yang paling hangat dan terkini yang menghasilkan naratif berorientasikan teks yang seolah-olah tulisan manusia melalui aplikasi AI yang dikenali sebagai ChatGPT.

Jika anda belum mendengar atau membaca tentang apl AI baharu ini, jangan risau, saya akan memberitahu anda dengan pantas.

Bagi anda yang sudah mengetahui tentang ChatGPT, anda mungkin mendapati minat yang mendalam terhadap beberapa pandangan orang dalam saya tentang perkara yang ia lakukan, cara ia berfungsi dan perkara yang perlu diberi perhatian. Secara keseluruhannya, hampir semua orang yang mengambil berat tentang masa depan semua yang diberitahu pasti ingin mengetahui sebab semua orang tidak sabar dengan aplikasi AI ini.

Untuk menjelaskan, ramalan yang berleluasa ialah jenis AI ini akan mengubah kehidupan, termasuk kehidupan mereka yang belum mengetahui apa-apa tentang ChatGPT atau sebarang keupayaan AI yang lain. Seperti yang akan saya jelaskan sebentar tadi, aplikasi AI ini akan mempunyai kesan yang agak meluas dalam cara yang baru kita jangkakan.

Sediakan diri anda untuk menaiki roller coaster yang dikenali sebagai AI Generatif.

Saya akan mulakan dengan beberapa latar belakang utama tentang AI generatif dan menggunakan senario paling mudah yang melibatkan AI yang menjana seni. Selepas membawa anda melalui asas itu, kami akan beralih ke AI generatif yang menjana naratif berorientasikan teks.

Untuk liputan berterusan dan meluas saya tentang AI secara keseluruhan, termasuk Etika AI dan Undang-undang AI, lihat pautan di sini and pautan di sini, Hanya untuk menamakan beberapa.

AI Generatif Yang Menghasilkan Seni Terjana

Saya merujuk kepada jenis atau gaya AI ini sebagai wujud generatif yang merupakan istilah penggemar AI yang digunakan untuk menerangkan AI yang menjana output seperti teks, imej, video dan seumpamanya.

Anda mungkin perasan pada awal tahun ini bahawa terdapat banyak isu tentang dapat menjana imej berseni dengan memasukkan satu atau dua baris teks. Ideanya agak mudah. Anda menggunakan aplikasi AI yang membolehkan anda memasukkan beberapa teks pilihan anda. Sebagai contoh, anda mungkin menaip bahawa anda ingin melihat rupa katak dengan topi di atas cerobong asap. Apl AI kemudian menghuraikan perkataan anda dan cuba menjana imej yang pada umumnya sepadan dengan perkataan yang anda tentukan. Orang ramai sangat seronok menjana semua jenis imej. Media sosial menjadi tersumbat dengan mereka untuk seketika.

Bagaimanakah AI generatif melakukan aspek penjanaan?

Dalam kes gaya teks-ke-seni AI generatif, banyak seni dalam talian telah diimbas terlebih dahulu melalui algoritma komputer dan unsur-unsur seni yang diimbas dianalisis secara pengiraan untuk komponen yang terlibat. Bayangkan gambar dalam talian yang mempunyai katak di dalamnya. Bayangkan satu lagi imej berasingan yang mempunyai cerobong di dalamnya. Satu lagi gambar mempunyai topi di dalamnya. Komponen ini dikenal pasti secara pengiraan, kadangkala dilakukan tanpa bantuan manusia dan kadangkala melalui bimbingan manusia, dan kemudian sejenis rangkaian matematik dirumuskan.

Apabila anda datang bersama kemudian dan meminta untuk menghasilkan karya seni yang mempunyai katak dengan topi pada cerobong asap, apl AI menggunakan rangkaian matematik untuk mencari dan menggabungkan elemen tersebut. Imej seni yang terhasil mungkin atau mungkin tidak keluar seperti yang anda harapkan. Mungkin katak itu kelihatan hodoh. Topi itu mungkin topi stovepipe yang besar tetapi anda inginkan topi gaya derby yang lebih langsing. Sementara itu, imej katak berdiri di atas cerobong asap walaupun anda mahukan katak itu duduk.

Perkara yang menarik tentang aplikasi AI jenis ini ialah ia biasanya membenarkan anda mengulangi permintaan anda dan juga menambah spesifikasi tambahan jika anda ingin berbuat demikian. Oleh itu, anda mungkin mengulangi permintaan anda dan menunjukkan anda mahukan katak yang cantik dengan topi derby yang sedang duduk di atas cerobong asap. Voila, imej yang baru dijana mungkin lebih dekat dengan apa yang anda mahukan.

Ada yang tertanya-tanya sama ada AI hanya memuntahkan apa sahaja yang dilatihnya. Jawapannya tidak (biasanya). Imej katak yang dipamerkan oleh AI untuk permintaan anda tidak semestinya salinan tepat imej serupa yang terdapat dalam set latihan. Kebanyakan aplikasi AI generatif ini disediakan untuk menyamaratakan apa sahaja imej yang mereka temui pada asalnya. Fikirkan dengan cara ini. Katakan anda mengumpul seribu imej katak. Anda mungkin memilih untuk mengetahui secara beransur-ansur rupa seekor katak, menyatukan seribu imej yang anda temui. Oleh itu, katak yang anda lukis tidak semestinya sama seperti yang anda gunakan untuk tujuan latihan.

Walaupun begitu, terdapat kemungkinan algoritma AI mungkin tidak melakukan generalisasi sebanyak yang mungkin diandaikan. Jika terdapat imej latihan yang unik dan tiada imej lain yang serupa, mungkin AI "mengumumkan" agak hampir dengan satu-satunya contoh khusus yang diterimanya. Dalam kes itu, percubaan oleh algoritma untuk, kemudian, menghasilkan imej yang diminta daripada sifat itu mungkin kelihatan sangat serupa dengan apa sahaja yang terdapat dalam set latihan.

Saya akan berhenti seketika untuk mengemukakan beberapa pemikiran yang berkaitan dengan Etika AI dan Undang-undang AI.

Seperti yang dinyatakan, jika AI generatif dilatih di Internet, ini bermakna apa sahaja yang telah disiarkan secara terbuka di Internet mungkin akan digunakan oleh algoritma AI. Katakan bahawa anda mempunyai karya seni yang bagus yang anda usahakan dan percaya bahawa anda memiliki hak ke atas karya seni itu. Anda menyiarkan gambarnya dalam talian. Sesiapa sahaja yang ingin menggunakan karya seni anda sepatutnya datang kepada anda dan membayar yuran untuk penggunaan itu.

Anda mungkin sudah merasakan ke mana arahnya.

Tunggu di sana untuk berita buruk.

Jadi, aplikasi AI generatif yang sedang dilatih melalui kandungan yang memeriksa secara meluas di Internet mengesan karya seni anda yang mengagumkan. Imej karya seni anda diserap ke dalam apl AI. Ciri-ciri kesenian anda kini digabungkan secara matematik dengan karya seni imbasan lain. Apabila diminta untuk menjana karya seni, AI mungkin memanfaatkan karya anda apabila mengarang imej seni yang baru dijana. Orang-orang yang mengumpul seni itu mungkin tidak menyedari bahawa seni itu mempunyai cap jari khusus anda di atasnya, disebabkan oleh algoritma AI yang telah dicetak sedikit pada karya agung anda.

Terdapat juga kemungkinan bahawa jika karya seni anda adalah luar biasa unik, ia mungkin digunakan semula oleh apl AI dalam rupa yang lebih besar dalam mempamerkan kesenian. Oleh itu, kadangkala karya seni anda mungkin hampir tidak dapat dikenali dalam beberapa karya seni AI yang baru dijana, manakala dalam keadaan lain, mungkin karya seni yang dihasilkan hampir menggambarkan imej yang anda bayangkan.

Ia adalah tepat pada masanya untuk membawa AI Etika ke dalam senario ini.

Adakah wajar atau wajar dari segi etika AI generatif telah menghasilkan karya seni yang mempunyai persamaan dengan seni anda?

Ada yang mengatakan ya, dan ada yang mengatakan tidak.

Kem yes, mempercayai bahawa ini adalah baik dari segi etika, mungkin akan berhujah bahawa memandangkan anda menyiarkan karya seni anda dalam talian, ia terbuka kepada sesiapa sahaja atau apa sahaja yang ingin menyalinnya. Selain itu, mereka mungkin mendakwa bahawa seni baharu itu bukanlah salinan tepat kerja anda. Oleh itu, anda tidak boleh mengeluh. Jika kita entah bagaimana menghentikan semua penggunaan semula seni sedia ada, kita tidak akan mempunyai apa-apa jenis seni baru untuk dilihat. Selain itu, kami mungkin akan terlibat dalam perdebatan hangat tentang sama ada karya seni tertentu anda sedang disalin atau dieksploitasi – ia mungkin beberapa karya seni lain yang anda tidak tahu kewujudannya dan sebenarnya merupakan sumber asas.

Kem tidak akan bertegas bahawa ini adalah sangat tidak beretika. Tiada dua cara mengenainya. Mereka akan berhujah bahawa anda semakin ditipu. Hanya kerana karya seni anda disiarkan dalam talian tidak bermakna sesiapa sahaja boleh datang dan menyalinnya dengan bebas. Mungkin anda menyiarkan seni itu dengan amaran keras untuk tidak menyalinnya. Sementara itu, AI datang dan melucutkan seni dan melangkau sepenuhnya amaran. Keterlaluan! Dan alasan bahawa algoritma AI telah digeneralisasikan dan tidak melakukan penyalinan yang tepat kelihatan seperti salah satu daripada alasan palsu tersebut. Ia mengetahui cara mengeksploitasi kesenian anda dan ini adalah satu kepalsuan dan memalukan.

Bagaimana pula dengan aspek undang-undang AI generatif ini?

Terdapat banyak tulisan tangan tentang butir-butir undang-undang AI generatif. Adakah anda melihat kepada undang-undang persekutuan tentang hak Harta Intelek (IP)? Adakah mereka cukup kuat untuk memohon? Bagaimana pula apabila AI generatif merentasi sempadan antarabangsa untuk mengumpul set latihan? Adakah karya seni yang dihasilkan oleh AI sesuai dengan pelbagai kategori pengecualian yang dikaitkan dengan hak IP? Dan sebagainya.

Sesetengah percaya bahawa kami memerlukan undang-undang baharu berkaitan AI untuk berdepan secara khusus dengan situasi AI generatif jenis ini. Daripada cuba menyelaraskan undang-undang sedia ada, ia mungkin lebih bersih dan lebih mudah untuk membina undang-undang baharu. Selain itu, walaupun undang-undang sedia ada terpakai, kos dan kelewatan dalam usaha untuk membawa tindakan undang-undang boleh menjadi sangat besar dan menghalang keupayaan anda untuk terus maju apabila anda percaya anda telah dicederakan secara tidak adil dan menyalahi undang-undang. Untuk liputan saya tentang topik ini, lihat pautan di sini.

Saya akan menambah sentuhan tambahan kepada pertimbangan Etika AI dan Undang-undang AI ini.

Siapakah yang memiliki hak ke atas output yang dihasilkan AI?

Anda mungkin mengatakan bahawa manusia yang membangunkan AI sepatutnya memiliki hak tersebut. Tidak semua orang bersetuju dengan perbalahan seperti itu. Anda mungkin mengatakan bahawa AI memiliki hak tersebut, tetapi ini dikelirukan oleh fakta bahawa kami biasanya tidak mengiktiraf AI sebagai boleh memiliki hak tersebut. Sehingga kita mengetahui sama ada AI akan mempunyai keperibadian yang sah, perkara yang tidak pasti di bahagian ini, lihat analisis saya di pautan di sini.

Saya percaya bahawa anda sekarang mempunyai persamaan dengan apa yang dilakukan oleh AI generatif. Seterusnya, kita boleh mempertimbangkan kes penggunaan yang melibatkan penjanaan naratif berasaskan teks.

AI Generatif Yang Menghasilkan Naratif Berasaskan Teks

Sekarang setelah kita membincangkan penggunaan AI generatif untuk menghasilkan seni atau imej, kita boleh melihat dengan mudah rumusan umum yang sama untuk menghasilkan naratif berasaskan teks.

Mari kita mulakan dengan sesuatu yang kita semua tahu dan cenderung untuk menggunakan setiap hari. Apabila anda memasukkan teks ke dalam pakej pemprosesan perkataan atau apl e-mel anda, kemungkinan besar terdapat ciri auto-pembetulan yang cuba menangkap mana-mana salah ejaan anda.

Sebaik sahaja ciri bantuan automatik seperti itu menjadi biasa, aspek yang lebih maju seterusnya terdiri daripada keupayaan autolengkap. Untuk autolengkap, konsepnya ialah apabila anda mula menulis ayat, pemprosesan perkataan atau aplikasi e-mel cuba meramalkan perkataan yang anda mungkin taip seterusnya. Ia mungkin meramalkan hanya satu atau dua perkataan di hadapan. Jika keupayaan dipertingkatkan terutamanya, ia mungkin meramalkan baki keseluruhan ayat anda.

Kita boleh menendang ini ke tahap yang tinggi. Katakan anda mula menulis ayat dan autolengkap menjana seluruh perenggan yang lain. Voila, anda tidak perlu menulis perenggan secara langsung. Sebaliknya, apl itu berbuat demikian untuk anda.

Okay, itu nampak bagus. Tolak ini lebih jauh. Anda memulakan ayat dan autolengkap menyusun seluruh keseluruhan mesej anda. Ini mungkin terdiri daripada banyak perenggan. Semuanya dijana melalui anda memasukkan hanya sebahagian daripada ayat atau mungkin satu atau dua ayat penuh.

Bagaimanakah autolengkap mengetahui perkara yang anda mungkin taip seterusnya?

Ternyata manusia cenderung untuk menulis perkara yang sama, berulang kali. Mungkin anda tidak, tetapi intinya ialah apa sahaja yang anda tulis mungkin sesuatu yang telah ditulis oleh orang lain. Ia mungkin bukan apa yang anda ingin tulis. Sebaliknya, ia mungkin agak serupa dengan apa yang anda akan tulis.

Mari kita gunakan logik yang sama seperti yang digunakan dalam menghasilkan seni atau imej.

Apl AI generatif disediakan dengan pergi ke Internet dan memeriksa semua jenis teks yang wujud dalam dunia dalam talian. Algoritma cuba mengenal pasti secara pengiraan bagaimana perkataan berkaitan dengan perkataan lain, cara ayat berkaitan dengan ayat lain, dan cara perenggan dikaitkan dengan perenggan lain. Semua ini dimodelkan secara matematik, dan rangkaian pengiraan diwujudkan.

Inilah kemudian apa yang berlaku seterusnya.

Anda memutuskan untuk menggunakan aplikasi AI generatif yang memfokuskan pada penjanaan naratif berasaskan teks. Selepas melancarkan aplikasi, anda memasukkan ayat. Aplikasi AI memeriksa ayat anda secara pengiraan. Pelbagai hubungan matematik antara perkataan yang anda masukkan digunakan dalam rangkaian matematik untuk mencuba dan memastikan teks yang akan datang seterusnya. Daripada satu baris yang anda tulis, mungkin keseluruhan cerita atau naratif dapat dijana.

Sekarang, anda mungkin berfikir bahawa ini adalah monyet-lihat-monyet-do dan bahawa teks terhasil yang dihasilkan oleh AI generatif akan menjadi karut. Nah, anda akan terkejut melihat sejauh mana AI jenis ini telah ditala dengan baik. Dengan set data yang cukup besar untuk latihan, dan dengan pemprosesan komputer yang mencukupi untuk menghasilkannya secara meluas, output yang dihasilkan oleh AI generatif boleh mengagumkan.

Anda akan melihat output dan mungkin bersumpah bahawa pasti naratif yang dihasilkan ditulis secara langsung oleh manusia. Seolah-olah hukuman anda diserahkan kepada manusia, bersembunyi di sebalik tabir, dan mereka dengan cepat menulis kepada anda keseluruhan naratif yang hampir sepadan sepenuhnya dengan apa yang anda akan katakan sebaliknya. Begitulah hebatnya matematik dan asas pengiraan telah menjadi.

Biasanya, apabila menggunakan AI generatif yang menghasilkan naratif berasaskan teks, anda cenderung untuk memberikan soalan permulaan atau beberapa jenis penegasan. Sebagai contoh, anda mungkin menaip "Beritahu saya tentang burung di Amerika Utara" dan AI generatif akan menganggap ini sebagai pernyataan atau soalan yang mana apl itu kemudiannya akan berusaha untuk mengenal pasti "burung" dan "Amerika Utara" dengan apa sahaja set data terlatih. ia ada. Saya pasti anda boleh bayangkan bahawa terdapat pelbagai jenis teks yang wujud di Internet yang menggambarkan burung di Amerika Utara, yang mana AI semasa pralatihan telah mengekstrak dan memodelkan simpanan teks.

Output yang dihasilkan untuk anda mungkin tidak akan menjadi teks yang tepat bagi mana-mana tapak dalam talian tertentu. Ingat bahawa perkara yang sama telah disebutkan sebelum ini mengenai karya seni yang dihasilkan. Teks akan menjadi gabungan jenis, bit dan kepingan yang diikat bersama secara matematik dan pengiraan. Naratif berasaskan teks yang dijana akan untuk semua penampilan keseluruhan kelihatan unik, seolah-olah teks khusus ini tidak pernah dikarang oleh sesiapa pun.

Sudah tentu, mungkin terdapat petunjuk yang jelas. Jika anda meminta atau mendapatkan AI generatif untuk pergi ke topik yang luar biasa tidak jelas, terdapat peluang yang lebih tinggi untuk anda mungkin melihat output teks yang menyerupai sumber yang digunakan. Dalam kes teks, peluang walaupun biasanya lebih rendah daripada peluang untuk seni. Teks itu akan menjadi gabungan spesifik topik tetapi juga kabur dan digabungkan dengan jenis teks umum yang digunakan dalam wacana keseluruhan.

Teknik dan teknologi matematik dan pengiraan yang digunakan untuk keupayaan AI generatif ini sering dirujuk oleh orang dalam AI sebagai Model Bahasa Besar (LLM). Secara ringkasnya, ini adalah pemodelan bahasa manusia secara besar-besaran. Sebelum Internet, anda mungkin mengalami masa yang sukar untuk mencari set data teks yang sangat besar yang tersedia dalam talian dan murah. Anda mungkin terpaksa membeli akses kepada teks dan ia tidak semestinya sudah tersedia dalam format elektronik atau digital.

Anda lihat, Internet adalah baik untuk sesuatu, iaitu menjadi sumber sedia untuk melatih AI generatif.

Berfikir Cerdik Tentang AI Generatif Yang Menghasilkan Teks

Kita harus mengambil sedikit masa untuk memikirkan kesan AI Etika dan Undang-undang AI daripada AI generatif yang menghasilkan naratif berasaskan teks.

Ingat bahawa dalam kes seni yang dihasilkan, kami bimbang tentang etika algoritma AI yang menghasilkan seni berdasarkan karya seni yang dihasilkan manusia yang lain. Kebimbangan yang sama timbul dalam contoh berasaskan teks. Walaupun teks yang dijana tidak kelihatan sama seperti sumber asal, anda boleh berhujah bahawa bagaimanapun, AI mengeksploitasi teks dan pengeluar asal sedang dirobek. Sisi lain dari duit syiling itu ialah teks di Internet jika tersedia secara percuma boleh digunakan oleh mana-mana manusia untuk melakukan perkara yang sama, oleh itu, mengapa tidak membenarkan AI melakukan perkara yang sama?

Komplikasi yang dikaitkan dengan aspek undang-undang hak Harta Intelek juga menjadi perhatian dalam contoh AI generatif berasaskan teks. Dengan mengandaikan bahawa teks yang dilatih adalah berhak cipta, adakah anda akan mengatakan bahawa teks yang dijana melanggar hak undang-undang tersebut? Satu jawapan adalah bahawa ia adalah, dan satu lagi jawapan adalah bahawa ia tidak. Sedari bahawa teks yang dijana mungkin agak berbeza daripada teks asal, oleh itu anda mungkin sukar untuk mendakwa bahawa teks asal sedang dirobek.

Satu lagi kebimbangan yang telah disebutkan juga ialah hak pemilikan ke atas naratif berasaskan teks yang dihasilkan oleh AI generatif. Katakan anda menaip ke dalam AI "Tulis cerita lucu tentang orang yang menunggu dalam barisan untuk mendapatkan kopi" dan AI generatif menghasilkan halaman demi halaman cerita lucu yang semuanya tentang sekumpulan orang yang kebetulan bertemu sambil menunggu secawan java.

Siapa punya cerita tu?

Anda mungkin berhujah bahawa memandangkan anda menaip gesaan, anda berhak "memiliki" cerita yang dijana. Wah, ada yang akan berkata, AI adalah bagaimana cerita itu dijana, ergo AI "memiliki" kisah yang menggembirakan itu. Ya, orang lain akan menggesa, jika AI mengambil potongan-potongan dari semua jenis cerita lain yang serupa di Internet, semua penulis manusia itu harus berkongsi pemilikan.

Perkara itu tidak dapat diselesaikan dan kita baru sahaja menghadapi masalah undang-undang yang akan berlaku dalam beberapa tahun akan datang.

Terdapat kebimbangan Etika AI dan Undang-undang AI tambahan yang datang untuk bermain.

Sesetengah orang yang telah menggunakan apl AI generatif mula percaya bahawa apl AI itu adalah peka. Mestilah, seru mereka. Bagaimana lagi anda boleh menjelaskan jawapan dan cerita yang menakjubkan yang mampu dihasilkan oleh AI? Kami akhirnya mencapai kecerdasan AI.

Mereka benar-benar salah.

Ini bukan AI yang peka.

Apabila saya mengatakan ini, sesetengah orang dalam AI berasa kecewa dan bertindak seolah-olah sesiapa yang menafikan bahawa AI itu hidup pada masa yang sama mengatakan bahawa AI tidak bernilai. Itu hujah palsu dan salah nyata. Saya secara terbuka bersetuju bahawa AI generatif ini agak mengagumkan. Kita boleh menggunakannya untuk semua jenis tujuan, seperti yang akan saya sebutkan kemudian di sini. Walau bagaimanapun, ia tidak berperasaan. Untuk penjelasan saya tentang sebab terobosan AI jenis ini tidak sesuai, lihat pautan di sini.

Satu lagi tuntutan yang terlalu besar dan jelas salah oleh sesetengah pihak ialah AI generatif telah berjaya memenangi Ujian Turing.

Ia telah pasti tidak berbuat demikian.

Ujian Turing ialah sejenis ujian untuk memastikan sama ada aplikasi AI mampu setanding dengan manusia. Pada asalnya direka sebagai permainan meniru oleh Alan Turing, ahli matematik dan perintis komputer yang hebat, ujian itu sendiri adalah mudah. Jika anda meletakkan manusia di belakang tirai dan meletakkan aplikasi AI di belakang tirai lain, dan anda bertanya kepada mereka kedua-dua soalan, yang mana anda tidak dapat menentukan mesin itu dan yang mana manusia, AI akan berjaya melepasinya. Ujian Turing. Untuk penjelasan dan analisis mendalam saya mengenai Ujian Turing, lihat pautan di sini.

Orang-orang yang terus berteriak bahawa AI generatif telah lulus Ujian Turing tidak tahu apa yang mereka bicarakan. Mereka sama ada jahil tentang Ujian Turing itu, atau mereka menyedihkan menggembar-gemburkan AI dengan cara yang salah dan benar-benar mengelirukan. Bagaimanapun, salah satu pertimbangan penting mengenai Ujian Turing terdiri daripada soalan apa yang perlu ditanya, bersama-sama dengan siapa yang melakukan penyoalan dan juga menilai sama ada jawapan itu berkualiti manusia.

Maksud saya ialah orang ramai menaip dalam sedozen atau lebih soalan kepada AI generatif, dan apabila jawapannya kelihatan munasabah, orang-orang ini dengan tergesa-gesa mengisytiharkan bahawa Ujian Turing telah diluluskan. Sekali lagi, ini adalah palsu. Memasuki set soalan yang tipis dan melakukan beberapa mencucuk di sana sini tidak ada niat mahupun semangat Ujian Turing. Berhenti membuat dakwaan yang tidak bermaruah ini.

Berikut ialah keluhan yang sah yang anda tidak banyak mendengarnya, walaupun saya percaya ia sangat berbaloi.

Pembangun AI biasanya telah menyediakan AI generatif supaya ia bertindak balas seolah-olah manusia bertindak balas, iaitu dengan menggunakan frasa "Saya" atau "saya" apabila ia mengarang output. Sebagai contoh, apabila meminta untuk menceritakan kisah tentang seekor anjing yang hilang di dalam hutan, AI generatif mungkin memberikan teks yang mengatakan "Saya akan memberitahu anda semua tentang seekor anjing bernama Sam yang tersesat di dalam hutan. Ini adalah salah satu cerita kegemaran saya.”

Perhatikan bahawa perkataan itu mengatakan "Saya akan memberitahu anda ..." dan bahawa cerita itu adalah "salah satu kegemaran saya ..." sehingga sesiapa sahaja yang membaca output ini secara halus akan jatuh ke dalam perangkap mental untuk membuat antropomorfosis AI. Anthropomorphizing terdiri daripada manusia yang cuba memberikan sifat seperti manusia dan perasaan manusia terhadap bukan manusia. Anda terbuai untuk mempercayai bahawa AI ini adalah manusia atau seperti manusia kerana perkataan dalam output sengaja direka sedemikian.

Ini tidak perlu direka dengan cara itu. Output boleh mengatakan "Ini adalah cerita tentang seekor anjing bernama Sam yang tersesat di dalam hutan. Ini adalah cerita yang disukai.” Anda agak kurang berkemungkinan untuk segera menganggap bahawa AI adalah manusia atau seperti manusia. Saya sedar anda mungkin masih jatuh ke dalam perangkap itu, tetapi sekurang-kurangnya perangkap, seperti yang berlaku, tidak begitu jelas.

Ringkasnya, anda mempunyai AI generatif yang menghasilkan naratif berasaskan teks berdasarkan cara manusia menulis, dan output yang terhasil kelihatan seperti ia ditulis sebagai manusia akan menulis sesuatu. Itu sangat masuk akal kerana AI secara matematik dan pengiraan mencorakkan apa yang telah ditulis oleh manusia. Sekarang, tambahkan pada ini penggunaan kata-kata antropomorfisme, dan anda mendapat ribut yang sempurna yang meyakinkan orang ramai bahawa AI itu hidup atau telah lulus Ujian Turing.

Banyak isu Etika AI dan Undang-undang AI timbul.

Saya akan memukul anda dengan kesan yang agak membahayakan AI generatif ini.

Duduk untuk ini.

Naratif berasaskan teks yang dihasilkan tidak semestinya mematuhi kebenaran atau ketepatan. Adalah penting untuk menyedari bahawa AI generatif tidak "memahami" apa yang dijana (bukan dengan cara yang berkaitan dengan manusia, seseorang akan berpendapat). Jika teks yang digunakan dalam latihan itu mengandungi kepalsuan, kemungkinan kepalsuan yang sama itu akan dimasukkan ke dalam rangkaian matematik dan pengiraan AI generatif.

Tambahan pula, AI generatif biasanya tanpa sebarang kaedah matematik atau pengiraan untuk membezakan bahawa teks yang dihasilkan mengandungi kepalsuan. Apabila anda melihat naratif output yang dijana, naratif itu biasanya akan kelihatan sepenuhnya "benar" di hadapan sesuatu. Anda mungkin tidak mempunyai cara yang berdaya maju untuk mengesan bahawa kepalsuan tertanam dalam naratif.

Katakan anda bertanya soalan perubatan tentang AI generatif. Aplikasi AI menghasilkan naratif yang panjang. Bayangkan bahawa kebanyakan naratif masuk akal dan kelihatan munasabah. Tetapi jika anda bukan pakar perubatan, anda mungkin tidak menyedari bahawa dalam naratif itu terdapat beberapa kepalsuan yang penting. Mungkin teks memberitahu anda untuk mengambil lima puluh pil dalam masa dua jam, sedangkan pada hakikatnya, cadangan perubatan yang sebenar adalah untuk mengambil dua pil dalam masa dua jam. Anda mungkin percaya nasihat lima puluh pil yang didakwa, semata-mata kerana naratif yang lain nampaknya munasabah dan masuk akal.

Mempunyai corak AI pada kepalsuan dalam data sumber asal hanyalah satu cara untuk membuat AI menjadi serong dalam naratif ini. Bergantung pada rangkaian matematik dan pengiraan yang digunakan, AI akan cuba untuk "membuat" bahan. Dalam bahasa AI, ini dirujuk sebagai AI berhalusinasi, yang merupakan istilah yang mengerikan yang saya sangat tidak bersetuju dan berhujah tidak harus diteruskan sebagai frasa, lihat analisis saya di pautan di sini.

Katakan anda telah meminta AI generatif untuk bercerita tentang seekor anjing. AI mungkin akhirnya mempunyai anjing itu boleh terbang. Jika cerita yang anda mahukan sepatutnya berdasarkan realiti, anjing terbang nampaknya tidak mungkin. Anda dan saya tahu bahawa anjing tidak boleh terbang secara asli. Bukan masalah besar, kata anda, kerana semua orang tahu ini.

Bayangkan seorang kanak-kanak di sekolah yang cuba belajar tentang anjing. Mereka menggunakan AI generatif. Ia menghasilkan output yang mengatakan anjing boleh terbang. Kanak-kanak itu tidak tahu sama ada ini benar atau tidak dan menganggap bahawa ia mesti benar. Dari satu segi, ia seolah-olah kanak-kanak itu pergi ke ensiklopedia dalam talian dan dikatakan bahawa anjing boleh terbang. Kanak-kanak itu mungkin akan bertegas bahawa anjing memang boleh terbang.

Kembali kepada teka-teki Etika AI dan Undang-undang AI, kami kini berada di ambang untuk dapat menghasilkan kandungan berasaskan teks dalam jumlah yang hampir tidak terhingga, dilakukan melalui penggunaan AI generatif, dan kami akan membanjiri diri kami dengan berjuta-juta naratif yang sudah pasti penuh dengan kepalsuan dan torrent lain yang berkaitan dengan maklumat salah dan maklumat salah.

Ya, dengan menekan butang dan beberapa perkataan yang dimasukkan ke dalam AI generatif, anda boleh menjana rim naratif teks yang kelihatan sepenuhnya munasabah dan benar. Anda kemudian boleh menyiarkan ini dalam talian. Orang lain akan membaca bahan tersebut dan menganggapnya benar. Di samping itu, AI generatif lain yang datang bersama-sama cuba untuk dilatih pada teks berpotensi akan menemui bahan ini dan membungkusnya ke dalam AI generatif yang ia cipta.

Seolah-olah kita kini menambah steroid untuk menjana maklumat salah dan maklumat salah. Kami sedang menuju ke arah maklumat salah dan maklumat salah pada skala global galaksi yang besar.

Tidak banyak tenaga manusia diperlukan untuk menghasilkan semuanya.

AI Generatif Dan SembangGPT

Mari kita ke tajuk utama perbincangan tentang AI generatif ini. Kami kini telah merangkumi sifat AI generatif yang secara keseluruhannya menghasilkan naratif berasaskan teks. Terdapat banyak aplikasi AI generatif yang tersedia.

Salah satu aplikasi AI yang telah mendapat kemasyhuran terutamanya dikenali sebagai ChatGPT.

Satu rampasan kuasa perhubungan awam telah merebak di media sosial dan berita — ChatGPT mendapat semua kegemilangan sekarang. Cahaya bersinar terang di ChatGPT. Ia mendapat kemasyhuran lima minit yang mengejutkan.

ChatGPT ialah nama aplikasi AI generatif yang dibangunkan oleh entiti yang dikenali sebagai OpenAI. OpenAI cukup terkenal dalam bidang AI dan boleh dianggap sebagai makmal penyelidikan AI. Mereka mempunyai reputasi untuk menolak sampul surat apabila ia berkaitan dengan AI untuk Pemprosesan Bahasa Semulajadi (NLP), bersama-sama dengan kemajuan AI yang lain. Mereka telah memulakan satu siri aplikasi AI yang mereka cipta sebagai GPT (Generative Pre-Trained Transformers). Setiap versi mendapat nombor. Saya telah menulis sebelum ini tentang GPT-3 mereka (versi 3 siri GPT mereka), lihat pautan di sini.

GPT-3 mendapat sedikit perhatian apabila ia mula-mula dikeluarkan (ia memasuki ujian beta yang meluas kira-kira dua tahun lalu, dan tersedia secara meluas pada tahun 2022). Ia adalah aplikasi AI generatif yang apabila masukan gesaan akan menghasilkan atau menjana naratif berasaskan teks. Semua yang saya nyatakan sebelum ini tentang kes umum apl AI generatif pada asasnya boleh digunakan untuk GPT-3.

Telah lama terdapat scuttlebutt bahawa GPT-4 sedang dijalankan dan mereka yang berada dalam bidang AI telah menunggu dengan sabar untuk melihat apakah penambahbaikan atau peningkatan dalam GPT-4 berbeza dengan GPT-3. Ke dalam siri ini disertakan perantara terbaharu, yang dikenali sebagai GPT-3.5. Ya, anda betul, ia berada di antara GPT-3 yang dikeluarkan dan GPT 4.0 yang belum dikeluarkan.

OpenAI telah menggunakan GPT-3.5 mereka untuk mencipta cabang yang mereka namakan ChatGPT. Dikatakan bahawa mereka melakukan beberapa penambahbaikan khas untuk mencipta ChatGPT. Sebagai contoh, tanggapan terapung ialah ChatGPT telah disesuaikan untuk dapat berfungsi dengan cara chatbot. Ini termasuk "perbualan" yang anda ada dengan apl AI dijejaki oleh AI dan digunakan untuk menghasilkan naratif yang diminta kemudiannya.

Kebanyakan apl AI generatif cenderung kepada reka bentuk satu-dan-selesai. Anda memasukkan gesaan, AI menjana naratif, dan itu sahaja. Gesaan anda yang seterusnya tidak mempunyai kaitan dengan apa yang berlaku seterusnya. Ia seolah-olah anda mula segar setiap kali anda memasukkan gesaan.

Tidak begitu dalam kes ChatGPT. Dengan cara yang belum didedahkan, apl AI cuba mengesan corak dalam gesaan anda dan oleh itu boleh kelihatan lebih responsif kepada permintaan anda (apl AI ini dianggap boleh diakses secara terbuka kerana membenarkan sesiapa sahaja mendaftar untuk menggunakannya, tetapi masih proprietari dan dengan tegas tidak apl AI sumber terbuka yang mendedahkan kerja dalamannya). Sebagai contoh, ingat petanda saya sebelum ini tentang anda ingin melihat katak dengan topi di atas cerobong. Satu kaedah ialah setiap kali anda membuat permintaan sedemikian, semuanya bermula baharu. Kaedah lain ialah anda boleh meneruskan apa yang anda katakan sebelum ini. Oleh itu, anda mungkin boleh memberitahu AI bahawa anda mahu katak itu duduk, yang dengan sendirinya tidak masuk akal, manakala dalam konteks gesaan anda sebelum ini meminta katak dengan topi di atas cerobong, permintaan itu nampaknya masuk akal.

Anda mungkin tertanya-tanya mengapa tiba-tiba nampaknya terdapat zaman kegemilangan dan berkembang pesat tentang ChatGPT.

Sebahagiannya adalah kerana ChatGPT telah disediakan kepada sesiapa sahaja yang ingin mendaftar untuk menggunakannya. Pada masa lalu, sering terdapat kriteria terpilih tentang siapa yang boleh menggunakan aplikasi AI generatif yang baru tersedia. Pembekal memerlukan anda menjadi orang dalam AI atau mungkin mempunyai ketetapan lain. Tidak begitu dengan ChatGPT.

Perkataan tersebar dengan cepat bahawa ChatGPT sangat mudah digunakan, percuma untuk digunakan, dan boleh digunakan oleh pendaftaran mudah yang hanya memerlukan anda memberikan alamat e-mel. Seperti tembakan pantas, secara tiba-tiba dan seperti didorong atau didorong melalui siaran tular di media sosial, aplikasi ChatGPT dikatakan melebihi satu juta pengguna. Media berita telah menekankan aspek bahawa sejuta orang mendaftar untuk ChatGPT.

Walaupun ini sememangnya luar biasa dan patut diberi perhatian, perlu diingat konteks pendaftaran ini. Ia adalah percuma dan mudah untuk mendaftar. Chatbot sangat mudah digunakan dan tidak memerlukan latihan atau pengalaman terlebih dahulu. Anda hanya memasukkan gesaan pilihan dan kata-kata anda sendiri, dan shazam aplikasi AI menyediakan naratif yang dijana. Seorang kanak-kanak boleh melakukan ini, yang sebenarnya merupakan kebimbangan yang membimbangkan oleh sesetengah pihak, iaitu jika kanak-kanak menggunakan ChatGPT, adakah mereka akan mempelajari bahan yang boleh dipersoalkan (seperti yang saya katakan sebelum ini mengenai perkara tersebut)?

Juga, mungkin patut diberi perhatian untuk menunjukkan bahawa beberapa (banyak?) daripada juta pendaftaran itu adalah orang yang mungkin mahu menendang tayar dan tidak melakukan apa-apa lagi. Mereka dengan cepat membuat akaun, bermain dengan aplikasi AI untuk seketika, menganggap ia menyeronokkan dan mengejutkan, dan kemudian mungkin melakukan beberapa siaran media sosial untuk mempamerkan apa yang mereka temui. Selepas itu, mereka mungkin tidak akan log masuk lagi, atau sekurang-kurangnya hanya menggunakan aplikasi AI jika keperluan tertentu nampaknya timbul.

Yang lain juga telah menunjukkan bahawa masa ChatGPT tersedia bertepatan dengan masa dalam tahun yang membuat minat yang besar dalam aplikasi AI. Mungkin semasa cuti, kita mempunyai lebih banyak masa untuk bermain-main dengan barangan yang menyeronokkan. Kemunculan media sosial juga mendorong ini menjadi sejenis fenomena. FOMO klasik (takut terlepas) mungkin ditambah kepada kesibukan yang meriah. Sudah tentu, jika anda membandingkan satu juta dengan beberapa pengaruh YouTube yang popular, anda mungkin mencadangkan bahawa sejuta adalah jumlah yang kecil berbanding vlog yang mendapat ratusan juta pendaftaran atau tontonan apabila pertama kali digugurkan atau disiarkan.

Baiklah, janganlah kita mengelak dan hanya ambil perhatian bahawa masih, untuk aplikasi AI yang bersifat eksperimen, jutaan pendaftaran sudah tentu patut dibanggakan.

Serta-merta, orang menggunakan ChatGPT untuk mencipta cerita. Mereka kemudian menyiarkan kisah-kisah itu dan menceritakan tentang keajaibannya. Wartawan dan wartawan juga telah melakukan "temubual" dengan ChatGPT, yang agak membingungkan kerana mereka jatuh ke dalam perangkap antropomorfosis yang sama (sama ada dengan ketidaksedaran sebenar atau melalui harapan untuk mendapatkan pandangan yang terlalu besar untuk artikel mereka). Kecenderungan serta-merta juga adalah untuk mengisytiharkan bahawa AI kini telah mencapai tahap atau lulus Ujian Turing, yang telah saya ulas secara nyata sebelum ini.

Kebimbangan masyarakat yang dibangkitkan oleh ChatGPT sebenarnya adalah yang telah meresap akibat daripada versi GPT yang lebih awal dan juga banyaknya LLM dan AI generatif yang sudah tersedia. Perbezaannya ialah sekarang seluruh dunia telah memilih untuk bersuara. Itu berguna. Kita perlu memastikan bahawa Etika AI dan Undang-undang AI mendapat pendedahan dan perhatian yang sewajarnya. Jika memerlukan ChatGPT untuk membawa kami ke sana, jadilah.

Apakah jenis kebimbangan yang dinyatakan?

Ambil contoh kes pelajar diminta menulis esei untuk kelas mereka. Seorang pelajar biasanya sepatutnya menulis esei sepenuhnya berdasarkan kapasiti penulisan dan gubahan mereka sendiri. Sudah tentu, mereka mungkin melihat bahan bertulis lain untuk mendapatkan idea dan petikan, tetapi pelajar sebaliknya diandaikan untuk mengarang esei mereka daripada noggin mereka sendiri. Menyalin prosa daripada sumber lain adalah tidak disukai, biasanya membawa kepada gred F atau mungkin dibuang kerana memplagiat bahan lain.

Pada masa kini, inilah yang boleh berlaku. Seorang pelajar mendaftar untuk ChatGPT (atau, mana-mana apl AI generatif yang serupa). Mereka memasukkan apa sahaja gesaan yang guru berikan kepada mereka untuk tujuan menghasilkan karangan. ChatGPT menghasilkan esei penuh berdasarkan gesaan. Ia adalah gubahan "asal" kerana anda tidak semestinya menemuinya di tempat lain. Anda tidak dapat membuktikan bahawa gubahan itu diciplak, kerana, dalam cara pertimbangan, ia tidak diciplak.

Murid membelek karangan. Mereka menegaskan bahawa ia adalah kerja bertulis mereka sendiri. Guru tidak mempunyai cara untuk berfikir sebaliknya. Oleh itu, anda boleh menimbulkan tanggapan bahawa jika kerja bertulis itu nampaknya di luar kapasiti pelajar yang sedia ada, anda mungkin akan mencurigakan. Tetapi itu tidak banyak untuk diteruskan jika anda akan menuduh pelajar menipu.

Bagaimanakah guru-guru akan menghadapi perkara ini?

Ada yang meletakkan peraturan ke dalam bahan pengajaran mereka bahawa sebarang penggunaan ChatGPT atau setara akan dianggap sebagai satu bentuk penipuan. Di samping itu, tidak berpura-pura menggunakan ChatGPT atau setara adalah satu bentuk penipuan. Adakah itu akan menyekat peluang baharu ini? Ia dikatakan meragukan kerana kemungkinan untuk ditangkap adalah rendah, manakala peluang untuk mendapat gred yang baik pada kertas yang ditulis dengan baik adalah tinggi. Anda mungkin membayangkan pelajar menghadapi tarikh akhir untuk menulis esei yang pada malam sebelumnya akan tergoda untuk menggunakan AI generatif untuk mengeluarkan mereka daripada kesesakan.

Menukar gear, apa-apa jenis tulisan berpotensi akan berlaku terganggu oleh AI generatif.

Adakah anda diminta menulis memo di tempat kerja tentang perkara ini atau yang lain? Jangan buang masa anda dengan berbuat demikian dari awal. Gunakan AI generatif. Anda kemudian boleh memotong dan menampal teks yang dijana ke dalam komposisi anda, memperhalusi teks seperti yang diperlukan, dan selesai dengan tugas menulis yang sukar dengan mudah.

Adakah ini nampaknya wajar dilakukan?

Saya yakin bahawa kebanyakan orang akan berkata ya. Ini lebih baik daripada menyalin sesuatu daripada Internet, yang boleh membawa anda ke dalam air panas untuk plagiarisme. Sangat masuk akal untuk menggunakan AI generatif untuk menyelesaikan sebahagian usaha penulisan anda, atau mungkin juga dilakukan sepenuhnya untuk anda. Untuk itulah alat dibuat.

Di samping itu, dalam salah satu lajur saya yang seterusnya, kes penggunaan penggunaan AI generatif untuk tujuan undang-undang dalam erti kata melakukan jenis kerja peguam dan menghasilkan dokumen undang-undang akan diperiksa dengan teliti. Sesiapa sahaja yang merupakan seorang peguam atau profesional undang-undang akan ingin mempertimbangkan bagaimana AI generatif akan berpotensi mencabut atau mengganggu amalan undang-undang. Pertimbangkan sebagai contoh seorang peguam yang mengarang taklimat undang-undang untuk kes mahkamah. Mereka berpotensi menggunakan AI generatif untuk menulis komposisi. Sudah tentu, ia mungkin mempunyai beberapa kelemahan, oleh itu peguam perlu mengubahnya di sana-sini. Jumlah tenaga kerja yang berkurangan dan masa untuk menghasilkan ringkasan mungkin menjadikan tweaker itu berbaloi.

Walau bagaimanapun, sesetengah pihak bimbang bahawa dokumen undang-undang itu mungkin mengandungi kepalsuan atau halusinasi AI yang tidak ditangkap oleh peguam. Pandangan dalam twist itu adalah bahawa ini terletak di bahu peguam. Mereka berkemungkinan mewakili bahawa ringkasan itu ditulis oleh mereka, oleh itu, sama ada rakan sekutu junior yang menulisnya atau aplikasi AI melakukannya, mereka masih mempunyai tanggungjawab akhir untuk kandungan akhir.

Perkara yang menjadi lebih mencabar ialah jika bukan peguam mula menggunakan AI generatif untuk melakukan kerja perundangan untuk mereka. Mereka mungkin percaya bahawa AI generatif boleh menghasilkan semua jenis dokumen undang-undang. Masalahnya tentu saja ialah dokumen itu mungkin tidak sah di sisi undang-undang. Saya akan memberitahu lebih lanjut mengenai perkara ini dalam lajur saya yang akan datang.

Peraturan penting yang timbul tentang masyarakat dan tindakan penulisan manusia.

Ia agak penting:

• Setiap kali anda ditugaskan untuk menulis sesuatu, patutkah anda menulis item itu dari awal, atau adakah anda perlu menggunakan alat AI generatif untuk membantu anda dalam perjalanan?

Keluaran mungkin separuh masak dan anda perlu melakukan banyak penulisan semula. Atau output mungkin betul dan anda hanya perlu membuat sentuhan kecil. Secara keseluruhannya, jika penggunaannya percuma dan mudah, godaan untuk menggunakan AI generatif akan menjadi besar.

Bonusnya ialah anda berpotensi menggunakan AI generatif untuk melakukan beberapa penulisan semula anda. Sama seperti gesaan tentang katak dengan topi dan cerobong asap, apabila menghasilkan seni, anda boleh melakukan perkara yang sama apabila menjana naratif berasaskan teks. AI mungkin menghasilkan cerita anda tentang seekor anjing, dan sebaliknya anda memutuskan bahawa anda mahu watak utama menjadi kucing. Selepas mendapat cerita anjing, anda memasukkan gesaan lain dan mengarahkan apl AI untuk beralih menggunakan kucing dalam cerita. Ini berkemungkinan lebih daripada sekadar berakhir dengan perkataan "kucing" menggantikan perkataan "anjing" dalam naratif. Apl AI boleh mengubah cerita dengan mudah untuk membuat rujukan kepada apa yang kucing lakukan berbanding apa yang anjing lakukan. Keseluruhan cerita mungkin disemak seolah-olah anda telah meminta manusia untuk membuat semakan sedemikian.

Berkuasa, mengagumkan, berguna-dandy.

Beberapa kaveat untuk dipertimbangkan:

• Adakah kita secara kolektif kehilangan keupayaan untuk menulis, menjadi bergantung sepenuhnya kepada AI generatif untuk melakukan penulisan kita untuk kita?
• Adakah orang yang menulis untuk sara hidup akan diberhentikan kerja (yang sama ditanya tentang artis)?
• Adakah Internet akan berkembang dengan pesat apabila naratif yang dihasilkan dibanjiri dalam talian dan kita tidak lagi dapat memisahkan kebenaran daripada kepalsuan?
• Adakah orang akan percaya dengan teguh naratif yang dijana ini dan bertindak seolah-olah seorang tokoh yang berwibawa telah memberi mereka bahan yang benar yang boleh mereka harapkan, termasuk kemungkinan kandungan yang berkaitan dengan hidup atau mati?
• lain-lain

Fikirkan itu.

Ambil perhatian bahawa salah satu daripada titik bertitik tersebut berkaitan dengan bergantung pada bahan yang dijana oleh AI generatif atas dasar hidup atau mati.

Berikut adalah pedih hati untuk anda (cetuskan amaran, anda mungkin mahu melangkau perenggan ini). Bayangkan seorang remaja bertanya kepada AI generatif sama ada mereka harus menghapuskan diri mereka sendiri atau tidak. Apakah yang akan dihasilkan oleh aplikasi AI generatif? Anda sememangnya berharap bahawa aplikasi AI akan menghasilkan naratif yang mengatakan supaya tidak berbuat demikian dan dengan lantang menggesa orang yang bertanya untuk mendapatkan pakar kesihatan mental.

Kemungkinan wujud bahawa AI tidak akan menyebut aspek tersebut. Lebih teruk lagi, aplikasi AI mungkin telah menangkap teks di Internet lebih awal yang mungkin menggalakkan tindakan sedemikian, dan aplikasi AI (kerana ia tidak mempunyai kapasiti pemahaman manusia), mengeluarkan naratif yang pada dasarnya menyindir atau menyatakan secara terang-terangan bahawa remaja itu harus meneruskan tidak terpengaruh. Remaja itu percaya ini adalah panduan yang benar daripada sistem "Pintar Buatan" yang berwibawa dalam talian.

Perkara buruk.

Benda yang betul-betul teruk.

Beberapa pembangun AI generatif cuba meletakkan semakan dan imbangan dalam AI untuk mencuba dan menghalang situasi seperti itu daripada berlaku. Masalahnya ialah, cara perkataan gesaan itu berpotensi tergelincir melalui pagar yang diprogramkan. Begitu juga, perkara yang sama boleh dikatakan untuk output yang dihasilkan. Tidak ada apa-apa jenis penapisan kuku besi terjamin yang boleh memastikan ini tidak akan berlaku.

Terdapat sudut lain untuk pengeluaran berasaskan teks ini yang mungkin tidak anda jangkakan.

Ini dia.

Apabila pengaturcara atau pembangun perisian mencipta kod untuk perisian mereka, mereka pada asasnya menulis dalam teks. Teks itu agak misteri kerana ia berdasarkan bahasa yang ditakrifkan untuk bahasa pengaturcaraan tertentu, seperti Python, C++, Java, dll. Pada akhirnya, ia adalah teks.

Kod sumber kemudiannya disusun atau dijalankan pada komputer. Pembangun memeriksa kod mereka untuk melihat bahawa ia melakukan apa sahaja yang sepatutnya dilakukan. Mereka mungkin membuat pembetulan atau nyahpepijat kod. Seperti yang anda ketahui, pengaturcara atau jurutera perisian mendapat permintaan tinggi dan sering mendapat harga yang tinggi untuk usaha kerja mereka.

Untuk AI generatif, teks kod sumber ialah teks. Keupayaan untuk mencari corak dalam berjuta-juta baris kod yang terdapat di Internet dan tersedia dalam pelbagai repositori menjadikan cara yang menarik untuk mengetahui secara matematik dan pengiraan kod yang kelihatan melakukan apa.

Sapuan adalah ini.

Dengan gesaan, anda berpotensi mempunyai AI generatif menghasilkan keseluruhan program komputer untuk anda. Tidak perlu bersusah payah membuang kod. Anda mungkin pernah mendengar bahawa ada yang dipanggil kod rendah alat yang tersedia pada masa kini untuk mengurangkan usaha pengaturcara semasa menulis kod. AI Generatif mungkin boleh ditafsirkan sebagai a kod rendah atau no-kod pilihan kerana ia menulis kod untuk anda.

Sebelum anda yang menulis kod untuk hidup jatuh ke lantai dan pengsan, perlu diingat bahawa kod itu tidak "difahami" dengan cara yang anda sebagai manusia mungkin memahaminya. Selain itu, kod tersebut boleh mengandungi kepalsuan dan halusinasi AI. Bergantung pada kod sedemikian tanpa melakukan semakan kod yang meluas akan kelihatan berisiko dan boleh dipersoalkan.

Kami kembali kepada pertimbangan yang sama tentang penulisan cerita dan memo. Mungkin pendekatannya adalah menggunakan AI generatif untuk membawa anda sebahagian daripada jalan ke sana dalam usaha pengekodan. Walaupun terdapat pertukaran yang besar. Adakah anda lebih selamat untuk menulis kod secara terus, atau menangani kod yang dijana oleh AI yang mungkin mempunyai isu terbenam yang berbahaya dan sukar untuk dikesan?

Masa akan menentukannya.

Menyelam Ringkas Dalam SembangGPT

Apabila anda mula menggunakan ChatGPT, terdapat beberapa siri amaran dan komen bermaklumat dipaparkan.

Mari kita lihat sekilas tentang mereka:

• "Boleh sekali-sekala menjana maklumat yang salah."
• "Boleh sekali-sekala menghasilkan arahan yang berbahaya atau kandungan berat sebelah."
• "Dilatih untuk menolak permintaan yang tidak sesuai."
• "Matlamat kami adalah untuk mendapatkan maklum balas luaran untuk menambah baik sistem kami dan menjadikannya lebih selamat."
• “Walaupun kami mempunyai perlindungan, sistem itu kadangkala menjana maklumat yang tidak betul atau mengelirukan dan menghasilkan kandungan yang menyinggung perasaan atau berat sebelah. Ia tidak bertujuan untuk memberi nasihat.”
• "Perbualan mungkin disemak oleh jurulatih AI kami untuk menambah baik sistem kami."
• “Tolong jangan kongsi sebarang maklumat sensitif dalam perbualan anda.”
• “Sistem ini dioptimumkan untuk dialog. Beritahu kami jika respons tertentu adalah baik atau tidak membantu."
• “Pengetahuan terhad tentang dunia dan peristiwa selepas 2021.”

Disebabkan oleh keterbatasan ruang, saya tidak dapat membincangkannya secara terperinci di sini, tetapi mari sekurang-kurangnya melakukan analisis pantas.

Saya telah menyebut bahawa naratif teks yang dijana mungkin mengandungi kepalsuan dan maklumat yang salah.

Ada perkara lain yang anda perlu waspada. Berhati-hati dengan naratif yang mungkin mengandungi pelbagai kenyataan menghasut yang menunjukkan berat sebelah yang tidak diingini.

Untuk mencuba dan mengekang perkara ini daripada berlaku, telah dilaporkan bahawa OpenAI menggunakan penyemak dua manusia semasa latihan ChatGPT. Pemeriksa dua kali akan memasukkan gesaan yang berkemungkinan akan mendorong AI untuk menghasilkan kandungan radang. Apabila kandungan sedemikian dilihat oleh pemeriksa dua kali, mereka menunjukkan kepada AI bahawa ini tidak sesuai dan dalam erti kata tertentu menjaringkan penalti berangka untuk output yang dihasilkan. Dari segi matematik, algoritma AI akan berusaha untuk mengekalkan skor penalti pada tahap minimum dan ergo secara pengiraan bertujuan untuk tidak menggunakan frasa atau perkataan tersebut mulai sekarang.

Begitu juga, apabila anda memasukkan gesaan, AI cuba untuk menentukan sama ada gesaan anda adalah radang atau mungkin membawa kepada pengeluaran keradangan, yang mana gesaan itu boleh ditolak oleh AI. Secara sopan, ideanya adalah untuk menolak gesaan atau permintaan yang tidak sesuai. Sebagai contoh, meminta untuk mendapatkan jenaka yang melibatkan penghinaan kaum berkemungkinan akan ditolak oleh AI.

Saya pasti anda tidak akan terkejut apabila mengetahui bahawa orang yang menggunakan ChatGPT telah cuba memperdayakan langkah berjaga-jaga. Pengguna "berdaya usaha" ini sama ada telah menipu AI atau mencari cara yang bijak untuk menggunakan rumusan matematik. Beberapa usaha ini dilakukan untuk kegembiraan yang jelas mengalahkan atau melampaui sistem, sementara yang lain mendakwa bahawa mereka cuba mempamerkan bahawa ChatGPT masih akan menghasilkan keputusan yang tidak diingini.

Mereka betul tentang satu perkara; langkah berjaga-jaga tidak mudah. Kami kembali kepada pertimbangan Etika AI dan potensi AI Undang-undang yang lain. Sekiranya AI generatif dibenarkan untuk diteruskan walaupun ia mungkin menghasilkan output yang tidak diingini?

Amaran apabila anda menggunakan ChatGPT nampaknya akan memberi amaran kepada sesiapa sahaja tentang perkara yang mungkin dilakukan atau dikatakan oleh aplikasi AI. Kemungkinannya adalah tidak dapat dielakkan bahawa beberapa jenis tindakan undang-undang mungkin difailkan apabila seseorang, mungkin di bawah umur, mendapat output yang tidak diingini yang bersifat menyinggung (atau, apabila mereka mendapat naratif teks yang kelihatan berwibawa yang mereka sayangi percaya sebagai benar dan bertindak mengikut output kepada mereka. bahaya sendiri).

Beberapa nuansa pantas lain tentang gesaan patut diketahui.

Setiap kali anda memasukkan gesaan, output mungkin berbeza secara mendadak, walaupun anda memasukkan gesaan yang sama. Sebagai contoh, memasukkan "Beritahu saya cerita tentang anjing" akan memberi anda naratif berasaskan teks, mungkin menunjukkan kisah tentang anjing gembala, manakala pada kali seterusnya anda memasukkan "Beritahu saya cerita tentang anjing" ia mungkin sepenuhnya cerita yang berbeza dan melibatkan poodle. Beginilah cara kebanyakan AI generatif disusun secara matematik dan pengiraan. Ia dikatakan tidak menentukan. Sesetengah orang mendapati ini menakutkan kerana mereka sudah terbiasa dengan konsep bahawa input anda ke komputer akan sentiasa menghasilkan output tepat yang sama.

Menyusun semula perkataan juga akan memberi kesan ketara kepada output yang dihasilkan. Jika anda memasukkan "Beritahu saya cerita tentang anjing" dan kemudian masukkan "Beritahu saya kisah anjing" kemungkinan besar naratif yang dihasilkan akan berbeza secara substansial. Sensitiviti boleh menjadi tajam. Meminta cerita tentang anjing berbanding meminta cerita tentang anjing besar sudah pasti akan menghasilkan naratif yang berbeza secara radikal.

Akhir sekali, ambil perhatian bahawa item bertitik tumpu di atas mengandungi petunjuk bahawa ChatGPT mempunyai "pengetahuan terhad tentang dunia dan peristiwa selepas tahun 2021." Ini kerana pembangun AI memutuskan untuk melakukan pemotongan masa mereka akan meminta apl AI mengumpul dan melatih data Internet. Saya perhatikan bahawa pengguna sering kali nampaknya tidak menyedari bahawa ChatGPT tidak disambungkan secara langsung ke Internet hari ini untuk tujuan mendapatkan semula data dan menghasilkan output yang dijana. Kami sangat terbiasa dengan segala-galanya yang berfungsi dalam masa nyata dan disambungkan ke Internet sehingga kami menjangkakan ini daripada apl AI juga. Tidak dalam kes tertentu ini (dan, untuk menjelaskannya, ChatGPT sememangnya tersedia di Internet, tetapi apabila ia mengarang output berasaskan teks, ia tidak memusnahkan Internet untuk berbuat demikian, sebaliknya ia biasanya dibekukan pada masanya untuk sekitar tarikh tamat).

Anda mungkin hairan mengapa ChatGPT tidak berada dalam data suapan masa nyata daripada Internet. Beberapa alasan yang masuk akal. Pertama, ia akan menjadi mahal dari segi pengiraan untuk mencuba dan melakukan latihan dalam masa nyata, ditambah dengan apl AI akan ditangguhkan atau kurang responsif kepada gesaan (pada masa ini, ia sangat pantas, biasanya bertindak balas dengan naratif berasaskan teks output dalam beberapa saat ). Kedua, perkara yang menjijikkan di Internet yang telah mereka cuba untuk melatih aplikasi AI untuk mengelakkan kemungkinan akan menjalar ke dalam rumusan matematik dan pengiraan (dan, seperti yang dinyatakan, ia sudah ada di sana sejak sebelum ini, walaupun mereka cuba mengesannya dengan menggunakan pemeriksa dua manusia itu).

Anda pasti akan mendengar beberapa orang dengan beraninya mengumumkan bahawa ChatGPT dan AI generatif yang serupa adalah lontar kematian untuk carian Google dan enjin carian lain. Mengapakah carian Google yang membawa kembali banyak item rujukan apabila anda boleh mendapatkan AI untuk menulis sesuatu untuk anda? Aha, orang-orang ini mengisytiharkan, Google sepatutnya menutup pintunya dan pulang ke rumah.

Sudah tentu, ini adalah karut semata-mata.

Orang masih mahu melakukan carian. Mereka mahu dapat melihat bahan rujukan dan memikirkan perkara sendiri. Ia bukan pilihan binari cara ini atau itu yang saling eksklusif (ini adalah dikotomi palsu).

Generatif AI ialah jenis alat yang berbeza. Anda tidak akan membuang tukul semata-mata kerana anda mencipta pemutar skru.

Cara yang lebih masuk akal untuk memikirkan perkara ini ialah kedua-dua jenis alatan boleh serasi untuk digunakan oleh orang yang ingin melakukan perkara yang berkaitan dengan Internet. Ada yang sudah bermain-main dengan mengaitkan AI generatif dengan enjin carian Internet konvensional.

Satu kebimbangan bagi sesiapa yang telah menyediakan enjin carian ialah alat AI generatif "percuma" berpotensi menjejaskan reputasi enjin carian. Jika anda melakukan carian Internet dan mendapat bahan yang meradang, anda tahu bahawa ini hanyalah cara Internet. Jika anda menggunakan AI generatif dan ia menghasilkan naratif berasaskan teks yang menjijikkan dan keji, anda mungkin terganggu oleh perkara ini. Mungkin jika AI generatif berkait rapat dengan enjin carian tertentu, rasa tidak puas hati dan rasa jijik anda tentang AI generatif tumpah kepada apa sahaja yang anda rasa tentang enjin carian.

Bagaimanapun, kita hampir pasti akan melihat pakatan antara pelbagai alat AI generatif dan enjin carian Internet, melangkah dengan berhati-hati dan berhati-hati ke dalam air yang keruh ini.

Kesimpulan

Inilah soalan untuk anda.

Bagaimanakah seseorang boleh membuat wang dengan menyediakan AI generatif yang menghasilkan naratif berasaskan teks?

OpenAI telah menyatakan bahawa kos setiap transaksi dalaman ChatGPT nampaknya agak tinggi. Mereka belum mengewangkan ChatGPT lagi.

Adakah orang sanggup membayar yuran transaksi atau mungkin membayar yuran langganan untuk mengakses alat AI generatif?

Bolehkah iklan menjadi cara untuk menjana wang melalui alat AI generatif?

Tiada siapa yang pasti sepenuhnya tentang bagaimana ini akan menghasilkan wang. Kami masih dalam peringkat percubaan besar AI jenis ini. Letakkan apl AI di luar sana dan lihat reaksi yang anda perolehi. Laraskan AI. Gunakan cerapan daripada penggunaan untuk membimbing ke mana AI harus disasarkan seterusnya.

Buih, bilas, ulangi.

Sebagai ulasan penutup, buat masa ini, ada yang percaya ini adalah jenis AI yang tidak sepatutnya kita miliki sama sekali. Pusing balik jam. Masukkan semula jin ini ke dalam botol. Kami telah merasainya dan menyedari bahawa ia mempunyai kelemahan yang ketara, dan secara kolektif sebagai masyarakat mungkin bersetuju bahawa kami harus membawa kuda itu kembali ke kandang.

Adakah anda percaya bahawa janji AI generatif adalah lebih baik atau lebih buruk daripada keburukan?

Dari sudut pandangan dunia nyata, ia tidak begitu penting kerana realiti memadamkan AI generatif secara amnya tidak praktikal. AI Generatif sedang dibangunkan lagi dan anda tidak akan menghentikannya, sama ada di sini atau di mana-mana atau semua negara lain juga (ia). Bagaimana anda akan berbuat demikian? Lulus undang-undang untuk mengharamkan sepenuhnya AI generatif. Tidak begitu berdaya maju (anda mungkin mempunyai peluang yang lebih baik untuk mewujudkan undang-undang yang membentuk AI generatif dan berusaha untuk mengawal undang-undang mereka yang menciptanya). Mungkin sebaliknya mendapatkan budaya untuk mengelakkan AI generatif? Anda mungkin membuat sesetengah orang bersetuju dengan keaiban itu, tetapi yang lain akan tidak bersetuju dan meneruskan dengan AI generatif.

Ia adalah teka-teki Etika AI dan Undang-undang AI, seperti yang saya nyatakan sebelum ini.

Soalan besar terakhir anda ialah sama ada AI generatif membawa kami ke arah AI yang berperasaan. Ada yang menegaskan bahawa ia adalah. Hujahnya ialah jika kita terus mengukur model matematik dan menyusun pelayan komputer pengiraan dan memberi makan setiap cebisan Internet dan lebih banyak lagi kepada binatang ini, AI algoritma akan mengubah sudut menjadi sentimen.

Dan, jika itu berlaku, kami menghadapi kebimbangan tentang AI sebagai risiko kewujudan. Anda telah berulang kali mendengar bahawa apabila kita mempunyai AI yang hidup, mungkin AI akan memutuskan manusia tidak begitu berguna. Perkara seterusnya yang anda tahu, AI sama ada telah memperhambakan kami atau menghapuskan kami, lihat penerokaan saya tentang risiko kewujudan ini di pautan di sini.

Pandangan sebaliknya adalah bahawa kita tidak akan mendapat kesedaran daripada apa yang disifatkan oleh sesetengah orang sebagai smarmily sebagai burung nuri stokastik (itulah kata kunci yang telah mendapat daya tarikan dalam alam AI), berikut petikan menggunakan frasa:

• "Bertentangan dengan bagaimana ia mungkin kelihatan apabila kita memerhatikan outputnya, LM ialah sistem untuk mencantumkan secara serampangan urutan bentuk linguistik yang telah diperhatikan dalam data latihannya yang luas, mengikut maklumat kebarangkalian tentang cara ia bergabung, tetapi tanpa sebarang rujukan kepada makna. : burung kakak tua stokastik” (dalam kertas penyelidikan oleh Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, Shmargaret Shmitchell, ACM FAccT '21, 3–10 Mac 2021, Acara Maya, Kanada, bertajuk "Mengenai Bahaya Burung Nuri Stochastic: Bolehkah Model Bahasa Menjadi Terlalu Besar?").

Adakah AI generatif sejenis jalan buntu yang akan menyediakan keupayaan AI yang berguna tetapi tidak membawa kita kepada AI sentient, atau mungkin entah bagaimana faktor penskalaan membolehkan kemunculan singulariti yang membawa kepada AI sentient?

Perdebatan hangat berlaku.

Katakan, adakah anda mahu mencuba AI generatif?

Jika ya, berikut ialah pautan ke ChatGPT di mana anda boleh membuat akaun dan cuba menggunakannya, lihat pautan di sini.

Harap maklum bahawa disebabkan permintaan yang tinggi untuk menggunakan apl AI percubaan, nampaknya pendaftaran untuk akses mungkin dihentikan pada bila-bila masa, sama ada untuk seketika atau mungkin dihadkan (apabila saya menyemak terakhir, pendaftaran masih didayakan). Hanya memberi anda makluman.

Sila ambil kira semua yang saya katakan di sini tentang AI generatif supaya anda sedar apa yang berlaku apabila anda menggunakan aplikasi AI seperti ChatGPT.

Renung-renungkan tindakan anda.

Adakah anda secara tidak sengaja telah membawa kami ke arah AI berperasaan yang akhirnya menghancurkan kami daripada kewujudan, hanya dengan anda memilih untuk bermain-main dengan AI generatif? Adakah anda akan dipersalahkan? Seharusnya anda telah menghentikan diri anda daripada menyumbang kepada kemusnahan yang keji terhadap manusia.

Saya tidak fikir begitu. Tetapi mungkin penguasa AI (sudah) memaksa saya untuk mengatakannya, atau mungkin keseluruhan lajur ini ditulis kali ini oleh ChatGPT atau aplikasi AI generatif yang setara.

Jangan risau, saya jamin itu saya, kecerdasan manusia, dan tidak kecerdasan buatan.