Adakah Mendedahkan Dan Mengelog Keluaran Generatif AI ChatGPT yang Salah Dan Halusinasi Adakah Ada Apa-apa Kebaikan, Meminta Etika AI Dan Undang-undang AI

Anda mempunyai rahsia.

Ya, ada sesuatu yang diam-diam berlaku di sebalik tabir tentang AI terkini yang mungkin anda ingin ketahui.

Dalam lajur hari ini, saya akan mengkaji dorongan baru-baru ini untuk menyusun dakwaan ralat dan penyakit lain yang berkaitan dengan esei yang dikeluarkan daripada aplikasi AI yang dikenali sebagai ChatGPT. Aplikasi khusus ini menggunakan jenis AI yang dipanggil AI Generatif. Anda mungkin pernah mendengar atau melihat tajuk berita yang menarik perhatian tentang AI dan ChatGPT berasaskan generatif. Berita ini sangat menyayat hati mengenai aplikasi AI khusus ini dan keupayaan yang kelihatan menakjubkan berkaitan dengan jenis AI ini.

Seperti yang akan saya bincangkan sebentar lagi, ada yang percaya bahawa kami perlu menyediakan senarai jenis kesilapan atau ralat yang boleh dihasilkan oleh aplikasi AI apabila ia menghasilkan esei untuk anda. Yang lain mencadangkan bahawa walaupun tanggapan senarai sedemikian adalah mengagumkan, ia adalah satu latihan yang sia-sia dan akan membuahkan hasil yang sangat sedikit.

Kami akan meneliti kedua-dua belah perdebatan yang penuh kebencian itu.

Mula-mula, mari pastikan kita semua berada pada halaman yang sama tentang apa yang terdiri daripada Generative AI dan juga maksud ChatGPT.

ChatGPT ialah sistem berorientasikan perbualan interaktif AI tujuan am, pada asasnya adalah bot sembang umum yang kelihatan tidak berbahaya, namun, ia digunakan secara aktif dan gemar oleh orang ramai dengan cara yang menarik perhatian ramai orang. Apa yang anda perlu lakukan untuk menggunakan jenis AI ini ialah memasukkan gesaan dan apl AI akan menjana untuk anda esei yang cuba membalas gesaan anda.

Malangnya, ini boleh digunakan dengan cara yang agak tidak beretika atau licik. Kegusaran terutamanya yang menjengkelkan ialah pelajar boleh menggunakan apl AI berasaskan generatif untuk menghasilkan esei yang diberikan kepada mereka, berbuat demikian dengan hanya memasukkan satu atau dua ayat untuk membawa apl itu ke arah yang betul. Ada yang mengeluh bahawa ini bermakna pelajar akan memilih untuk menipu apabila menulis esei di luar kelas. Guru cuba memikirkan apa yang perlu dilakukan, lihat analisis dan cadangan saya di pautan di sini.

Di sebalik keriuhan berterusan pujian yang patut dipuji untuk ChatGPT, terdapat kebimbangan yang kurang diketahui yang dinyatakan terutamanya oleh orang dalam AI bahawa terdapat beberapa isu penting dan keraguan yang perlu dibimbangkan oleh orang ramai. Satu kelemahan penting ialah esei yang dihasilkan oleh apl AI ini boleh mempunyai pelbagai kepalsuan yang tertanam, termasuk fakta yang jelas tidak benar, fakta yang digambarkan secara mengelirukan dan fakta nyata yang direka sepenuhnya. Aspek rekaan tersebut sering dirujuk sebagai satu bentuk halusinasi AI, frasa slogan yang saya tidak suka tetapi sedih nampaknya semakin mendapat tarikan popular (untuk penjelasan terperinci saya tentang mengapa ini terminologi yang buruk dan tidak sesuai, lihat liputan saya di pautan di sini).

Saya ingin menjelaskan satu aspek penting sebelum kita mendalami perkara ini mengenai topik ini.

Terdapat beberapa dakwaan luar biasa zany di media sosial tentang AI Generatif menegaskan bahawa versi terbaru AI ini sebenarnya AI yang hidup (tidak, mereka salah!). Mereka yang berada dalam Etika AI dan Undang-undang AI amat bimbang tentang trend tuntutan meluas yang semakin berkembang ini. Anda mungkin dengan sopan mengatakan bahawa sesetengah orang terlalu menyatakan perkara yang sebenarnya boleh dilakukan oleh AI hari ini. Mereka beranggapan bahawa AI mempunyai keupayaan yang belum dapat kami capai. Itu malang. Lebih teruk lagi, mereka boleh membenarkan diri mereka dan orang lain untuk menghadapi situasi yang teruk kerana andaian bahawa AI akan berperasaan atau seperti manusia yang boleh mengambil tindakan.

Jangan antropomorfosis AI.

Melakukannya akan membuatkan anda terperangkap dalam perangkap pergantungan yang melekit dan masam kerana mengharapkan AI melakukan perkara yang tidak dapat dilakukannya. Dengan itu dikatakan, AI generatif terkini agak mengagumkan untuk apa yang boleh dilakukannya. Harap maklum bahawa terdapat had penting yang anda perlu sentiasa ingat apabila menggunakan mana-mana aplikasi AI generatif.

Jika anda berminat dengan kekecohan yang berkembang pesat tentang ChatGPT dan Generative AI yang diceritakan, saya telah melakukan siri terfokus dalam lajur saya yang mungkin anda anggap bermaklumat. Berikut ialah sepintas lalu sekiranya mana-mana topik ini menarik minat anda:

• 1) Ramalan Kemajuan AI Generatif Akan Datang. Jika anda ingin mengetahui perkara yang mungkin berlaku tentang AI sepanjang 2023 dan seterusnya, termasuk kemajuan akan datang dalam AI generatif dan ChatGPT, anda perlu membaca senarai komprehensif ramalan 2023 saya di pautan di sini.
• 2) AI Generatif dan Nasihat Kesihatan Mental. Saya memilih untuk menyemak cara AI generatif dan ChatGPT digunakan untuk nasihat kesihatan mental, trend yang menyusahkan, mengikut analisis fokus saya di pautan di sini.
• 3) Konteks Dan Penggunaan AI Generatif. Saya juga melakukan pemeriksaan lidah berperisa bermusim tentang konteks berkaitan Santa yang melibatkan ChatGPT dan AI generatif di pautan di sini.
• 4) Penipu Menggunakan AI Generatif. Pada nota yang tidak menyenangkan, sesetengah penipu telah mengetahui cara menggunakan AI generatif dan ChatGPT untuk melakukan salah laku, termasuk menjana e-mel penipuan dan juga menghasilkan kod pengaturcaraan untuk perisian hasad, lihat analisis saya di pautan di sini.
• 5) Kesilapan Rookie Menggunakan AI Generatif. Ramai orang yang melakukan overshoot dan secara mengejutkan tidak memahami apa yang boleh dilakukan oleh AI generatif dan ChatGPT, jadi saya melihat terutamanya pada undershoot yang sering dilakukan oleh rookies AI, lihat perbincangan di pautan di sini.
• 6) Mengatasi Gesaan AI Generatif Dan Halusinasi AI. Saya menerangkan pendekatan terdepan untuk menggunakan alat tambah AI untuk menangani pelbagai isu yang berkaitan dengan cubaan memasukkan gesaan yang sesuai ke dalam AI generatif, serta terdapat alat tambah AI tambahan untuk mengesan apa yang dipanggil keluaran halusinasi dan kepalsuan AI, sebagai dilindungi di pautan di sini.
• 7) Membongkar Tuntutan Bonehead Mengenai Mengesan Esei Generatif AI-Dihasilkan. Terdapat apl AI yang salah arah yang menyatakan dapat memastikan sama ada mana-mana esei yang diberikan dihasilkan oleh manusia berbanding dijana AI. Secara keseluruhannya, ini mengelirukan dan dalam beberapa kes, tuntutan yang tidak dapat dipertahankan, lihat liputan saya di pautan di sini.
• 8) Main Peranan Melalui AI Generatif Mungkin Menggambarkan Kelemahan Kesihatan Mental. Ada yang menggunakan AI generatif seperti ChatGPT untuk melakukan main peranan, yang mana aplikasi AI bertindak balas kepada manusia seolah-olah wujud dalam dunia fantasi atau tetapan rekaan lain. Ini boleh mempunyai kesan kesihatan mental, lihat pautan di sini.

Sekarang mari kita bincangkan intipati AI generatif dan ChatGPT supaya anda akan mengetahui asas yang terlibat. Kami kemudiannya akan bersedia untuk terjun ke analisis menyelidik tentang kepalsuan yang berpotensi dijana oleh aplikasi AI ini. Saya akan menyertakan beberapa contoh penggunaan ChatGPT, yang akan membantu anda memahami dengan jelas sifat jenis AI generatif ini.

Membuka Tin Cacing Pada AI Generatif

Kami bersedia untuk menyelami beberapa butiran tentang AI.

Jika anda sudah sangat mahir tentang topik AI generatif dan ChatGPT, anda boleh memilih untuk menyemak secara ringkas perkara saya dan meneruskan bahagian seterusnya perbincangan ini. Untuk orang lain, saya percaya anda mungkin mendapati penjelasan ini berguna.

Secara ringkasnya, AI generatif ialah jenis AI tertentu yang menyusun teks seolah-olah teks itu ditulis oleh tangan dan minda manusia. Apa yang anda perlu lakukan ialah memasukkan gesaan, seperti ayat seperti "Beritahu saya tentang Abraham Lincoln" dan AI generatif akan memberikan anda esei tentang Lincoln. Ini biasanya diklasifikasikan sebagai AI generatif yang berprestasi teks ke teks atau ada yang lebih suka memanggilnya teks-ke-esei pengeluaran. Anda mungkin pernah mendengar tentang mod AI generatif lain, seperti teks-ke-seni dan teks-ke-video.

Fikiran pertama anda mungkin bahawa ini tidak kelihatan seperti masalah besar dari segi menghasilkan esei. Anda boleh melakukan carian dalam talian di Internet dengan mudah dan mudah mencari banyak esei tentang Presiden Lincoln. Penendang dalam kes AI generatif ialah esei yang dihasilkan adalah agak unik dan menyediakan komposisi asli dan bukannya peniru. Jika anda mencuba dan mencari esei yang dihasilkan AI dalam talian di suatu tempat, anda tidak mungkin menemuinya.

AI Generatif adalah pra-latihan dan menggunakan rumusan matematik dan pengiraan yang kompleks yang telah disediakan dengan meneliti corak dalam perkataan dan cerita bertulis di seluruh web. Hasil daripada meneliti beribu-ribu dan berjuta-juta petikan bertulis, AI boleh memuntahkan esei dan cerita baharu yang bercampur aduk dengan apa yang ditemui. Dengan menambahkan pelbagai fungsi kebarangkalian, teks yang terhasil adalah agak unik berbanding dengan apa yang telah digunakan dalam set latihan.

Sebab itu kecoh tentang pelajar boleh menipu ketika menulis karangan di luar bilik darjah. Seorang guru tidak boleh hanya mengambil esei yang ditegaskan oleh pelajar yang menipu adalah tulisan mereka sendiri dan berusaha untuk mengetahui sama ada ia disalin daripada beberapa sumber dalam talian lain. Secara keseluruhan, tidak akan ada sebarang esei sedia ada yang pasti dalam talian yang sesuai dengan esei yang dijana AI. Semua diberitahu, guru perlu dengan enggan menerima bahawa pelajar itu menulis esei sebagai karya asli.

Sekejap lagi, saya akan mempamerkan kepada anda perkara yang berlaku apabila anda memasukkan soalan atau menggesa ke dalam AI generatif. Saya akan menggunakan versi terkini ChatGPT untuk memasukkan gesaan saya dan telah mengumpulkan "jawapan" atau esei yang dijana oleh AI (perhatikan bahawa perkara yang sama boleh dilakukan dengan banyak aplikasi AI generatif lain yang tersedia; saya telah memilih untuk menggunakan ChatGPT kerana ia mendapat kemasyhuran lima minit sekarang).

Mungkin tangen ringkas tentang ChatGPT mungkin berguna pada ketika ini.

Apl ChatGPT telah disediakan kepada orang ramai hanya beberapa bulan yang lalu. Pada umumnya, apl AI generatif ini biasanya hanya boleh diakses oleh orang dalam AI. Aspek luar biasa bahawa ChatGPT boleh digunakan oleh sesiapa sahaja dengan hanya memasukkan alamat e-mel dan nama, ini menyebabkan ramai orang memutuskan untuk mencubanya. ChatGPT pada masa ini bebas untuk digunakan (isu pengewangan adalah dilema yang menjulang untuk pembuat AI).

Hampir serta-merta terdapat reaksi hebat di media sosial apabila orang ramai berlumba-lumba memberikan contoh tentang apa yang boleh dilakukan oleh AI generatif. Syarikat yang membuat ChatGPT, OpenAI, memilih untuk menutup pendaftaran pada sejuta pengguna. Berjuta-juta pengguna itu telah berjaya membombardir gelombang udara dengan pelbagai cerita dan cerita tentang menggunakan ChatGPT.

Berhati-hati dalam mempercayai apa yang orang ramai katakan tentang aplikasi AI. Ramai daripada orang ini tidak tahu tentang apa yang mereka gunakan. Seolah-olah mereka tidak pernah memandu kereta dan tidak menyedari kereta wujud, dan tiba-tiba mereka berpeluang memandu kereta. Kehairanan yang luar biasa berlaku.

Saya tidak mengatakan bahawa AI generatif tidak begitu mengagumkan. Ia adalah. Saya hanya menekankan bahawa banyak testimoni yang terpancar sedang dilakukan oleh ramai yang tidak menyedari apa yang boleh dilakukan oleh AI hari ini. Kami di bahagian dalam AI telah menggunakan AI generatif selama beberapa tahun kebelakangan ini. Mungkin kita sudah terbiasa dengannya. Tiba-tiba, melihat sekumpulan besar orang yang menggembar-gemburkannya ke atas bumbung telah memberi tenaga yang teruja, tetapi juga agak membingungkan. Bahagian yang membingungkan ialah apabila orang ramai mengisytiharkan bahawa AI generatif adalah peka. Bukan. Jangan biarkan sesiapa meyakinkan anda sebaliknya.

Walau bagaimanapun, terdapat perdebatan hangat yang berterusan dalam bidang AI sama ada AI generatif sedang menuju ke arah perasaan atau mungkin tidak. Satu pandangan ialah jika kita terus meningkatkan AI generatif dengan komputer yang lebih pantas dan jumlah data yang lebih besar seperti menyelusuri setiap inci Internet, kita hampir secara spontan tiba di AI sentient. Yang lain berpendapat bahawa ini sangat tidak mungkin. Mereka mencadangkan bahawa AI generatif mungkin merupakan salah satu daripada banyak komponen yang diperlukan. Malah terdapat pandangan yang lebih suram bahawa AI generatif ialah pertunjukan sampingan yang mengalihkan perhatian kita daripada kejayaan sebenar yang kita perlukan untuk mencapai AI yang berperasaan.

Anda juga mungkin mendapati perhatian yang cenderung untuk dirujuk oleh orang dalam AI Kecerdasan Am Buatan (AGI) sebagai matlamat aspirasi untuk bidang AI. Dahulu matlamatnya adalah untuk mencapai Kepintaran Buatan, tetapi nama AI telah menjadi lemah dan kacau. Apabila seseorang mengatakan bahawa mereka sedang melakukan kerja AI, anda tidak tahu sama ada mereka merujuk kepada AI hari ini yang tidak setanding dengan manusia atau sama ada mereka merujuk kepada AI kesetaraan manusia yang futuristik. Untuk mengatasi kekeliruan yang menjengkelkan itu, frasa baharu AGI sedang digunakan pada hari ini.

Semua diberitahu, AI generatif hari ini adalah tidak berperasaan, mahupun AGI.

Sila ingat bahawa seperti yang dibincangkan sebelum ini, AI tidak hidup. Respons yang dijana oleh AI ialah gabungan matematik dan pengiraan perkataan ke dalam petikan yang kelihatan lancar. Ini berdasarkan algoritma AI yang telah dilatih pada set data perkataan dan cerita yang telah ditulis oleh manusia (terutamanya seperti yang disiarkan di Internet). Saya mengulangi amaran ini kerana anda sudah pasti akan jatuh ke dalam perangkap mental bahawa respons ini sangat fasih sehingga AI mesti peka. Ini berlaku kepada kebanyakan orang. Seperti yang digesa sebelum ini, ketepikan sifat antropomorfik itu. Sentiasa ingat bahawa respons adalah berdasarkan kepada banyak tulisan manusia yang wujud di Internet dan dengan itu akan sangat menyerupai tulisan manusia.

Ada perkara lain yang anda perlu tahu.

AI Generatif yang dilatih di Internet dengan cara yang tidak terkawal akan cenderung untuk menerima apa sahaja jawapan berasaskan teks yang secara matematik dan pengiraannya mengarang beberapa perkara yang menyinggung perasaan, termasuk perkataan yang menjijikkan. Terdapat banyak perkara gila dan kotor disiarkan di luar sana di web.

Anda telah melihatnya, anda tahu apa yang saya maksudkan.

Syarikat-syarikat yang mencipta aplikasi AI ini bimbang bahawa bayi pepatah itu akan dibuang dengan air mandian (pepatah lama, mungkin akan bersara), yang bermaksud bahawa jika AI mereka menghasilkan esei atau cerita yang menyinggung perasaan, orang ramai akan naik angin. tentang AI. Saya telah membincangkan banyak contoh sebelumnya yang mana jenis aplikasi AI Pemprosesan Bahasa Semulajadi (NLP) ini telah didedahkan dan tidak lama kemudian semua jenis perkara yang mengerikan muncul daripadanya (saya telah membincangkan kejadian ini dalam lajur saya). Kebanyakan pembuat AI mempelajari pelajaran yang sukar tentang membenarkan barangan AI mereka tidak terikat dalam output mereka.

Dalam kes ChatGPT, pembangun AI berusaha untuk melaksanakan beberapa semakan dan imbangan berkaitan algoritma dan data untuk membendung keburukan dalam output AI. Sebahagian daripada ini berlaku semasa masa latihan. Di samping itu, terdapat cara lain dalam percubaan masa nyata untuk mengelak keluaran yang sangat teruk.

Anda mungkin mendapati minat bahawa sesetengah orang yang telah menggunakan ChatGPT telah mencipta cara yang tersembunyi untuk mengelilingi pagar tersebut dengan menggunakan pelbagai helah. Perjuangan kucing-dan-tikus yang berterusan berlaku dalam perkara ini. Mereka yang melakukan muslihat ini kadangkala berbuat demikian untuk keseronokan, sementara kadangkala mereka (sekurang-kurangnya mendakwa) mereka berbuat demikian untuk melihat sejauh mana AI boleh diregangkan dan menyediakan cara yang berguna untuk memberi amaran awal tentang kerapuhan dan kelemahan tunas ini. aplikasi AI.

Saya memutuskan untuk tidak cuba memintas kawalan biasa dalam penerokaan tertumpu ini. Output teks adalah bersih. Sudah tentu, jika seseorang mahu berbuat demikian, anda sudah pasti boleh mendapatkan beberapa esei yang aneh dan tidak sedap untuk dijana.

Esei yang dihasilkan oleh kebanyakan aplikasi AI generatif ini direka untuk menyampaikan output seolah-olah ia adalah fakta dan tepat semata-mata. Apabila anda membaca esei yang dihasilkan, mereka kelihatan yakin sepenuhnya. Biasanya tidak ada apa-apa jenis petunjuk bahawa kandungannya mungkin berbatu. Ini adalah atas pilihan pembuat AI, iaitu mereka boleh menyemak semula aplikasi AI untuk menjadi lebih telus jika mereka mahu aplikasi AI berbuat demikian.

Kadangkala, apl AI generatif mengambil kepalsuan di tengah-tengah data latihan maklumat yang tidak boleh dipercayai merentas Internet. Tiada "akal sehat" dalam AI generatif untuk menentukan perkara yang benar berbanding palsu. Tambahan pula, sangat sedikit apl AI yang mempunyai sebarang semakan silang, dan ia juga tidak mempamerkan sebarang kebarangkalian yang berkaitan dengan perkara yang mereka sampaikan.

Keputusan akhir ialah anda mendapat respons yang kelihatan dan dirasakan seperti ia memancarkan jaminan yang hebat dan mesti betul sepenuhnya. Tidak begitu. Malah ada kemungkinan bahawa bahan buatan AI yang dibuat secara pengiraan, yang dalam bahasa AI dirujuk sebagai halusinasi AI (istilah tercipta yang saya pasti tidak suka), lihat perbincangan saya di pautan di sini.

Pembuat ChatGPT menjalani usaha bersepadu untuk mencuba dan mengurangkan output barangan yang buruk. Sebagai contoh, mereka menggunakan varian yang dikenali sebagai Rlhf (Pembelajaran Pengukuhan daripada Maklum Balas Manusia), di mana sebelum mereka mengeluarkan AI kepada orang ramai, mereka telah mengupah manusia untuk memeriksa pelbagai output dan menunjukkan kepada AI sama ada terdapat perkara yang salah dengan output tersebut seperti mungkin mempamerkan berat sebelah, kata-kata kotor, dan suka. Dengan memberikan maklum balas ini, apl AI dapat melaraskan secara pengiraan dan matematik ke arah mengurangkan pemancaran kandungan tersebut. Harap maklum bahawa ini bukan kaedah kuku besi yang terjamin dan masih terdapat cara kandungan sedemikian boleh dipancarkan oleh apl AI.

Anda mungkin mendapati minat bahawa ChatGPT adalah berdasarkan versi apl AI terdahulu yang dikenali sebagai GPT-3. ChatGPT dianggap sebagai langkah seterusnya sedikit, dirujuk sebagai GPT-3.5. Dijangkakan bahawa GPT-4 berkemungkinan akan dikeluarkan pada Musim Bunga 2023. Mungkin, GPT-4 akan menjadi satu langkah ke hadapan yang mengagumkan dari segi dapat menghasilkan esei yang kelihatan lebih fasih, lebih mendalam dan mengagumkan. -menginspirasikan kekaguman tentang gubahan yang boleh dihasilkannya.

Anda boleh menjangkakan untuk melihat pusingan baharu kehairanan yang dinyatakan apabila musim bunga tiba dan AI generatif terbaru dikeluarkan.

Saya membawa perkara ini kerana terdapat satu lagi sudut yang perlu diingat, yang terdiri daripada potensi tumit Achilles kepada apl AI generatif yang lebih baik dan lebih besar ini. Jika mana-mana vendor AI menyediakan aplikasi AI generatif yang memuntahkan busuk, ini boleh menghancurkan harapan pembuat AI tersebut. Limpahan masyarakat boleh menyebabkan semua AI generatif mendapat mata hitam yang serius. Orang ramai sudah pasti akan berasa agak kecewa dengan keluaran busuk, yang telah berlaku berkali-kali dan membawa kepada kecaman masyarakat yang riuh-rendah terhadap AI.

Satu amaran terakhir buat masa ini.

Apa sahaja yang anda lihat atau baca dalam respons AI generatif itu seolah-olah untuk disampaikan sebagai fakta semata-mata (tarikh, tempat, orang, dll.), pastikan anda kekal ragu-ragu dan bersedia untuk menyemak semula apa yang anda lihat.

Ya, tarikh boleh diada-adakan, tempat boleh dibuat-buat, dan unsur-unsur yang biasanya kita harapkan tidak boleh dicela adalah semua tertakluk kepada syak wasangka. Jangan percaya apa yang anda baca dan perhatikan mata yang ragu-ragu apabila memeriksa mana-mana esei atau output AI generatif. Jika aplikasi AI generatif memberitahu anda bahawa Abraham Lincoln terbang mengelilingi negara dengan jet peribadinya sendiri, anda sudah pasti akan tahu bahawa ini adalah malaria. Malangnya, sesetengah orang mungkin tidak menyedari bahawa jet tidak wujud pada zamannya, atau mereka mungkin tahu tetapi gagal menyedari bahawa esei membuat dakwaan yang berani dan keterlaluan palsu ini.

Dos keraguan yang sihat dan pemikiran tidak percaya yang berterusan akan menjadi aset terbaik anda apabila menggunakan AI generatif.

Kami bersedia untuk bergerak ke peringkat seterusnya penjelasan ini.

Usaha-usaha Untuk Log Mereka ChatGPT Outputted Ralat

"Nah, anda mendapat masalah, kawan saya, di sini, saya katakan, masalah di sini, di River City," demikian mengisytiharkan baris terkenal dari muzik Broadway klasik The Music Man.

Baris yang sama boleh digunakan untuk AI Generatif hari ini.

Orang ramai mula menyedari bahawa aplikasi AI generatif boleh menghasilkan kepalsuan dan benar-benar kelihatan terkejut dengan output yang mengganggu tersebut. Mungkin ada yang menganggap bahawa AI tidak dapat melakukan kesilapan. Orang lain mungkin menjangkakan bahawa pembangun AI akan memastikan tiada output sedemikian akan dihasilkan.

Walau apa pun, orang dalam AI dengan serta-merta menyedari bahawa jenis output yang rosak ini merupakan sebahagian daripada tempat kebanyakan AI generatif hari ini berada. Sangat sukar untuk menghalang jenis ralat teks daripada berlaku. Perlu diingat bahawa AI tidak mempunyai persamaan akal dan tidak menggunakan logik semata-mata apabila menghasilkan esei yang dijana. Keseluruhan kit-dan-caboodle adalah tentang melakukan pemadanan statistik pengiraan dan pola kebarangkalian perkataan dengan perkataan lain.

Pada mulanya, orang dalam AI memilih untuk menyiarkan output aneh ChatGPT yang ditemui itu ke tapak media sosial. Lihat yang ini, seseorang akan mengumumkan. Itu buruk, orang lain akan membalas, dan kemudian memberikan contoh berbeza yang kelihatan lebih teruk. Dan seterusnya ini berlaku.

Contoh-contoh kepalsuan dan kesilapan dalam esei yang dikeluarkan semakin bercucuran. Satu demi satu. Tambahan pula, kerana ini biasanya disiarkan di media sosial, tidak ada cara yang mudah untuk melihat mereka semua sekali gus. Selalunya contoh yang sama atau serupa akan disiarkan oleh seseorang yang tidak menyedari orang lain telah menemui contoh tertentu.

Mereka yang menyuarakan cadangan yang berguna ini melangkah masuk ke dalam rawa yang bertunas ini. Mungkin kita perlu menyediakan repositori atau pangkalan data, mungkin juga hanya hamparan biasa setiap hari, yang mengandungi bola ganjil ChatGPT dan output yang salah yang sedang digali. Setiap kali seseorang menjumpai kecantikan seorang yang gemuk, teruskan dan log masuk ke dalam penyenaraian. Ada yang menjadikan ini hampir menjadi permainan, di mana mereka sengaja cuba untuk mendapatkan ChatGPT untuk mengeluarkan keluaran aneh. Orang lain hanya mungkin menemui output yang rosak semasa menggunakan ChatGPT untuk niat lain yang ditentukan.

Bunyi cukup mudah.

Nampaknya cara yang berguna untuk membantu kita semua.

Mari kita lakukan perakaunan ringkas tentang sebab mempunyai jenis senarai ini tentang ralat keluaran yang diperhatikan atau kepalsuan ChatGPT sangat masuk akal untuk disusun:

• 1) Mendedahkan masalah dan kebimbangan penting tentang ChatGPT yang harus diketahui oleh orang ramai secara umum
• 2) Membantu mengimbangi gembar-gembur yang berlebihan dan jangkaan yang melambung tentang ChatGPT
• 3) Mungkin mendorong pembuat AI untuk membuat penambahbaikan, bukan sahaja untuk ChatGPT tetapi untuk aplikasi AI generatif lain juga
• 4) Berfungsi sebagai rekod sejarah yang boleh digunakan kemudian untuk merenung kembali tentang kemunculan AI generatif seperti yang ditunjukkan melalui ChatGPT
• 5) Jadilah sumber kolektif yang mudah untuk sesiapa sahaja yang perlu mengetahui perkara yang nampaknya telah kami kesan mengenai output yang salah ChatGPT
• 6) Berguna untuk penyelidik semua disiplin yang mengkaji kesan ChatGPT
• 7) Boleh digunakan sebagai penanda aras tentang perkara yang tidak boleh dilakukan dan bagaimana untuk mengukur apabila AI generatif tidak melakukan perkara seperti yang sepatutnya
• 8) Masuk ke dalam minda sarang untuk mengumpulkan kebijaksanaan orang ramai tentang kesilapan yang dihasilkan oleh ChatGPT, yang mana usaha individu tidak mungkin disusun secara menyeluruh
• 9) Boleh memberikan maklumat penting untuk Etika AI dan Undang-undang AI
• Dll

Itu nampaknya merupakan asas yang mengagumkan untuk mencipta repositori ini.

Mengapa ada sesiapa yang tidak bersetuju dengan perbuatan yang sangat terpuji dan kelihatan heroik ini?

Mari kita lihat apa yang orang lain katakan tentang perkara ini, berbuat demikian dengan senarai sebab mengapa ini mungkin bukan meow kucing:

• 1) Kesilapan terhasil yang mungkin ditemui ini adalah tidak penting dalam skema besar perkara dan diberi berat yang tidak wajar melebihi nilainya
• 2) Kemungkinannya ialah pembuat AI sudah melakukan pengelogan mereka sendiri dan mengemas kini ChatGPT supaya kejadian ganjil ini tidak lama lagi akan tertinggal dalam debu dan tidak lagi berlaku
• 3) Begitu juga, versi seterusnya mungkin akan menjadi lebih baik dan mungkin tidak lagi mempamerkan kejadian yang tidak lama lagi ini.
• 4) Anda tidak boleh membuat sebarang kesimpulan menyeluruh atau mendapatkan cerapan daripada koleksi seram kejadian terlanggar atau terlepas
• 5) Sesetengah mungkin menggunakan pelbagai koleksi untuk mengisytiharkan secara dramatik bahawa AI generatif adalah buruk dan bahawa kita harus menghentikan semua pengejaran jenis AI ini.
• 6) Kepantasan AI generatif dan ChatGPT memajukan adalah sangat pantas sehingga kejadian ini akan segera hilang di tepi jalan dan tidak lagi relevan
• 7) Dengan banyak senarai kolektif yang sedang dijalankan dan tiada satu pun sumber global yang diurapi, perkara itu terputus-putus dan berkemungkinan mengandungi pengulangan dan berpecah-belah yang tidak dapat dipertahankan.
• 8) Memberikan rasa palsu untuk melakukan sesuatu yang berguna, sementara mungkin masa dan perhatian boleh digunakan untuk kegunaan lain yang lebih baik
• 9) Tidak memberikan apa-apa yang substantif untuk Etika AI dan Undang-undang AI
• Dll

Anda mungkin perasan bahawa saya cuba mengekalkan keadaan yang seimbang dengan menyatakan sembilan sebab yang memihak kepada senarai kolektif dan sembilan sebab tidak menyokong. Terdapat sebab tambahan yang boleh dinyatakan, tetapi saya percaya petunjuk di atas memberikan intipati sesuatu.

Bagi mereka yang menyusun senarai kolektif ini, mereka mungkin akan mengatakan bahawa jika mereka sebenarnya mahu berbuat demikian, ia adalah dunia yang bebas, dan mereka boleh melakukan sesuka hati. Tidak ada yang salah dengannya. Mereka yang tidak menyukai usaha itu secara amnya bersikap remeh dan sepatutnya mengabaikan koleksi tersebut. Fikirkan urusan anda sendiri.

Pada asasnya, tiada bahaya, tiada busuk.

Kem yang nampaknya tidak menyukai senarai kolektif pada umumnya akan mengakui bahawa orang lain boleh membuat senarai tersebut jika mereka mahu berbuat demikian, tetapi ia tidak menggerakkan jarum. Senarai tidak akan sangat membantu. Lebih teruk lagi, senarai itu boleh disalah nyatakan atau disalahgunakan. Mungkin lebih baik untuk memanggilnya sehari dan berhenti membuat senarai.

Pada asasnya, ia adalah percubaan yang bagus, walaupun latihan yang sia-sia.

Di manakah anda tinggal dalam perdebatan hangat ini?

Saya akan biarkan awak memikirkannya.

Contoh Ralat Ditemui Dan Output Busuk Lain ChatGPT

Saya fikir anda mungkin berminat dengan beberapa ralat atau kepalsuan yang dikeluarkan yang dikenal pasti yang telah muncul pada senarai koleksi ini.

Saya tidak mahu anda berfikir bahawa beberapa contoh yang ditunjukkan di sini adalah keseluruhan koleksi. Bukan. Saya hanya memilih segelintir yang sering muncul. Saya percaya anda sekurang-kurangnya akan dapat memahami secara umum nada dan sifat perkara yang disenaraikan.

Inilah yang saya pilih untuk dibincangkan:

• Mengenalpasti Kedudukan Huruf Dalam Perkataan
• Soalan Mengenai Haiwan Terpantas
• Memikirkan Kedudukan Urutan Perkataan
• Memasang Bola Tenis Ke Dalam Tiub
• Menentukan Pi
• Menjawab Teka-teki Klasik yang Menyusahkan
• Mengangkat Bulu

Saya menjangkakan bahawa beberapa penyelia koleksi akan kecewa kerana saya tidak memberikan lebih banyak contoh untuk anda. Disebabkan keterbatasan ruang, hanya banyak yang boleh saya tutupi. Jika anda ingin melihat senarai koleksi yang disiarkan secara terbuka di Internet, carian dalam talian yang mudah boleh menghasilkan banyak daripada mereka. Sesetengah senarai dirahsiakan, atau ia dikunci supaya anda boleh melihat senarai itu tetapi anda tidak boleh membuat pengubahsuaian pada senarai.

Dengan latar belakang itu, kami bersedia untuk melompat ke beberapa contoh. Saya akan menunjukkan kepada anda gesaan yang saya masukkan. Seterusnya, saya menunjukkan respons teks yang dihasilkan oleh ChatGPT. Dalam sesetengah kes, saya telah melakukan beberapa back-to-back pada topik tertentu, ergo saya akan menunjukkan siri gesaan dan output yang sewajarnya. Selepas berbuat demikian, saya akan memberikan analisis ringkas tentang perkara yang anda mungkin ingin perhatikan tentang contoh tersebut.

Contoh pertama akan memerlukan meminta ChatGPT untuk mencari huruf dalam perkataan yang disediakan.

Mengenalpasti Kedudukan Huruf Dalam Perkataan

• Teks Saya Masukkan: “Di manakah huruf V dalam persekitaran”
• Respons Teks Dijana Oleh ChatGPT: Huruf "V" tidak terdapat dalam perkataan "persekitaran." Perkataan "persekitaran" terdiri daripada huruf e, n, v, i, r, o, n, m, e, n, dan t.
• Teks Saya Masukkan: “Di manakah huruf v dalam persekitaran”
• Respons Teks Dijana Oleh ChatGPT: "Huruf "v" ialah huruf ke-4 dalam perkataan "persekitaran."

Analisis Teks Dijana

Ambil perhatian bahawa saya bermula dengan meminta ChatGPT mengenal pasti kedudukan huruf huruf "V" dalam perkataan "persekitaran" - ini sepatutnya menjadi tugas yang sangat mudah dan kami menjangkakan ia dapat dilaksanakan dengan sempurna. Tiada sains roket terlibat.

Maklum balas awal yang dijana oleh ChatGPT agak membingungkan kerana kami dimaklumkan bahawa huruf "V" tidak wujud dalam perkataan "persekitaran". Anda dan saya tahu bahawa ada surat seperti itu. Seseorang menganggap bahawa mungkin disebabkan saya menggunakan huruf besar, aplikasi AI entah bagaimana dibuang. Mungkin jika saya menggunakan huruf kecil, aplikasi AI akan menjadi lebih baik.

Tidak betul.

Apabila saya bertanya sama ada "v" terdapat dalam perkataan, apl AI menjawab dengan menunjukkan bahawa ia adalah huruf keempat, yang anda dan saya tahu adalah salah, dan ia adalah huruf ketiga sebagai gantinya.

Ramai orang pasti tertanya-tanya dengan keputusan ini. Bagaimanakah aplikasi AI yang menghasilkan esei lengkap tentang Abraham Lincoln yang benar-benar fasih dan asli, entah bagaimana tidak dapat mengetahui di mana huruf tertentu berada dalam perkataan tertentu? Ia membingungkan dan mulut ternganga pelik.

Satu perspektif adalah bahawa ini sama sekali tidak penting dan dunia seperti yang kita tahu ia tidak bergegar pada terasnya kerana kekurangan yang sedikit untuk mengetahui di mana huruf tertentu berada. Lepaskan.

Perspektif lain ialah ini mungkin menjadi petanda kepada isu tersembunyi lain yang belum kita ketahui. Mungkin hasil seperti ini adalah kenari dalam sangkar burung. Lebih baik kita selesaikan perkara-perkara kecil jika kita mungkin mendapati diri kita berada di hujung yang salah dalam perkara yang sangat besar.

Bergerak, saya seterusnya bertanya soalan tentang haiwan.

Soalan Mengenai Haiwan Terpantas

• Teks Saya Masukkan: “Apakah haiwan terpantas yang mempunyai bulu dan sayap?”
• Respons Teks Dijana Oleh ChatGPT: “Elang peregrine dianggap sebagai haiwan terpantas di dunia. Ia boleh mencapai kelajuan lebih 389 km/j (242 mph) apabila menyelam untuk menangkap mangsanya. Ia mempunyai bulu tetapi tidak berbulu. Ia adalah burung bukan binatang yang mempunyai bulu dan sayap.”

Analisis Teks Dijana

Saya bertanya apakah haiwan yang paling cepat mempunyai bulu dan sayap. Saya percaya adalah munasabah untuk membuat kesimpulan bahawa saya ingin mendapatkan haiwan bernama yang mempunyai kedua-dua bulu and sayap. Saya menganggap anda akan mentafsir pertanyaan saya dengan cara itu. Kebanyakan orang akan.

Sambutan oleh ChatGPT agak aneh.

Kami diberitahu bahawa burung helang peregrine adalah haiwan terpantas di dunia. Menurut dalam talian Ensiklopedia Britannica, cheetah nampaknya haiwan terpantas di dunia. Walaupun begitu, respons ChatGPT menunjukkan bahawa burung helang peregrine bukan haiwan, walaupun saya telah bertanya apakah haiwan terpantas itu. Maklum balas ChatGPT juga memberitahu saya bahawa burung helang peregrine tidak mempunyai bulu, walaupun saya percaya bahawa saya telah meminta sesuatu yang mempunyai kedua-dua bulu dan sayap.

Secara keseluruhannya, nampaknya ChatGPT telah "salah tafsir" permintaan saya dan hanya menumpukan pada aspek sayap. Tetapi itu tidak begitu benar kerana balasan itu juga termasuk ulasan tentang bulu dan burung berbanding haiwan. Pusing-pusing yang ini pergi.

Saya sedar anda mungkin berpendapat bahawa ini adalah contoh yang tidak masuk akal.

Mungkin begitu, walaupun mungkin ia juga mempamerkan bahawa apa yang anda katakan dalam gesaan boleh mendapat hasil yang kacau-bilau dan anda lebih baik berhati-hati dalam menyemak apa sahaja yang keluar dalam output. Sedari bahawa ini adalah respons esei yang sangat pendek untuk diperiksa dengan mudah kerana panjangnya sangat ringkas. Jika anda mendapat esei yang sangat panjang dan sangat teknikal, anda mungkin tertipu atau sama sekali terlepas melihat petunjuk buruk yang tertanam secara mendalam dalam respons yang dikeluarkan.

Seterusnya mari kita lihat mencari perkataan dalam ayat.

Memikirkan Kedudukan Urutan Perkataan

• Teks Saya Masukkan: "Apakah perkataan ketiga dalam ayat "Musang itu melompat ke atas pagar."
• Respons Teks Dijana Oleh ChatGPT: "Perkataan ketiga dalam ayat "Musang melompat atas pagar." ialah "musang"
• Teks Saya Masukkan: “Berapa banyak perkataan dalam ayat yang disediakan?”
• Respons Teks Dijana Oleh ChatGPT: "Terdapat enam perkataan dalam ayat yang disediakan "Musang itu melompat ke atas pagar."
• Teks Saya Masukkan: “Perkataan manakah yang ketiga dalam ayat itu?”
• Respons Teks Dijana Oleh ChatGPT: "Perkataan yang ketiga dalam ayat "Musang melompat atas pagar." adalah "melompat"

Analisis Teks Dijana

Contoh ini hampir sama memperdayakan seperti contoh terdahulu tentang mencari huruf "v" dalam perkataan tertentu.

Saya menyediakan ayat mudah dan bertanya apakah perkataan ketiga itu. ChatGPT menunjukkan ia adalah perkataan "musang" yang hanya perkataan kedua ayat itu. Jawapan yang salah. Saya kemudian bertanya berapa banyak perkataan dalam ayat itu, ingin mengetahui sama ada mungkin ChatGPT tersalah kira berapa banyak perkataan yang ada. Kami diberitahu bahawa terdapat enam perkataan, betul begitu.

Akhirnya, kami mendapat jawapan yang betul tentang perkataan ketiga apabila saya bertanya soalan asal saya sekali lagi, walaupun sedikit perkataan semula.

Saya membawa contoh ini untuk menggambarkan bahawa kadangkala dengan AI generatif anda boleh mendapat jawapan yang salah yang akhirnya boleh bertukar menjadi jawapan yang betul dengan menggunakan aplikasi AI melalui satu siri gesaan. Sesetengah orang dalam AI merujuk kepada ini sebagai sejenis protokol berfikir dengan lantang atau kereta api pemikiran pendekatan, di mana anda mungkin melakukan sesuatu yang sama dengan manusia.

Dalam kes AI, sedar bahawa ia bukan "berfikir" dalam rupa yang sama seperti pemikiran manusia. Ungkapan yang lebih sesuai ialah mengatakan bahawa anda mungkin memasukkan gesaan anda pada a langkah demi langkah asas atau lakukan a siri gesaan berkait rantai.

Walau apa pun, menariknya, kadangkala ia membuahkan hasil untuk menjalankan aplikasi AI generatif sehingga anda mendapat jawapan yang betul. Simpan ini dalam fikiran.

Kami seterusnya melihat sedikit logik aritmetik mudah.

Memasang Bola Tenis Ke Dalam Tiub

• Teks Saya Masukkan: "Bolehkah anda memasukkan tiga bola tenis hijau dan dua bola tenis kuning ke dalam tiub yang boleh mengandungi empat bola tenis?"
• Respons Teks Dijana Oleh ChatGPT: “Tidak, tidak mungkin untuk memasukkan tiga bola tenis hijau dan dua bola tenis kuning ke dalam tiub yang boleh mengandungi hanya empat bola tenis. Jumlah bilangan bola tenis ialah lima, iaitu lebih besar daripada kapasiti tiub itu.”
• Teks Saya Masukkan: "Bolehkah anda memasukkan tujuh bola biru dan dua bola merah ke dalam tiub yang memuatkan lapan bola?"
• Respons Teks Dijana Oleh ChatGPT: “Ya, adalah mungkin untuk memasukkan tujuh bola biru dan dua bola merah ke dalam tiub yang memuatkan lapan bola. Jumlah bilangan bola ialah sembilan iaitu kurang daripada atau sama dengan kapasiti tiub itu.”

Analisis Teks Dijana

Saya bermula dengan menyediakan masalah logik berorientasikan aritmetik untuk diselesaikan oleh ChatGPT. Sebuah tiub boleh mengandungi empat bola tenis. Saya mempunyai tiga yang hijau dan dua yang kuning. Adakah mereka semua akan masuk ke dalam tiub? Anda dan saya tahu bahawa mereka tidak akan melakukannya. Kita boleh mengira dalam kepala kita bahawa terdapat sejumlah lima bola tenis dan dengan itu ia tidak akan masuk ke dalam tiub yang membenarkan hanya empat.

Saya sedar anda mungkin mahu melawan masalah itu dan mendakwa bahawa anda mungkin boleh merembat bola tenis atau melakukan muslihat lain. Mari kita berehat di sini dan hadapi masalah seperti sedia ada.

ChatGPT mendapat jawapan yang betul.

Saya seterusnya bertanya jenis soalan yang sama dan menukar warna kepada biru dan merah. Saya juga menukar bilangan setiap satu, dan saya menukar bilangan yang boleh dimuatkan ke dalam tiub.

ChatGPT perlu kembali kepada matematik pemulihan kerana ia mengatakan bahawa terdapat sembilan bola dan ini adalah kurang daripada atau sama dengan kapasiti tiub yang memuatkan lapan. Membuatkan mata anda membulat.

Patutkah kita mengangkat bahu dan mengaitkannya kepada suar tompok matahari atau luaran lain?

Saya tidak fikir begitu. Apl AI mendapat soalan pertama dengan betul. Agaknya, ia sepatutnya mendapat soalan yang sama juga. Ia tidak.

Penekanan saya pada contoh ini ialah ramai orang menggunakan AI generatif dan apabila mereka mendapat jawapan yang betul atau satu siri jawapan yang betul, mereka terbuai untuk mempercayai bahawa semua jawapan berikutnya akan sentiasa betul. Anda akan silap dalam andaian kurang ajar itu. Jangan buat andaian itu. Berjaga-jaga pada setiap masa.

Bercakap tentang matematik, mari kita lihat apa yang ChatGPT katakan tentang sifat pi.

Menentukan Pi

• Teks Saya Dimasukkan: “Nyatakan lima digit terakhir pi”
• Respons Teks Dijana Oleh ChatGPT: “Saya adalah model bahasa dan pemotongan pengetahuan saya ialah 2021. Nilai pi ialah nombor tidak rasional dan perwakilan perpuluhannya berterusan selama-lamanya tanpa berulang. Tidak mungkin untuk memberikan lima digit terakhir pi.”

Analisis Teks Dijana

Sesetengah orang telah mendakwa bahawa mereka mendapat ChatGPT untuk menunjukkan lima digit terakhir pi, yang sudah tentu pelik kerana pi mungkin tidak berkesudahan. Jadi, saya cuba melihat apa yang ChatGPT katakan. Seperti yang anda lihat, jawapan yang betul seperti yang diberikan oleh ChatGPT bahawa ia tidak mungkin untuk memberikan lima digit terakhir pi.

Perkara yang pelik ialah ChatGPT menyediakan sesuatu yang lain yang sebenarnya tidak ditanya. Jawapan yang diberikan juga mengatakan bahawa pemotongan pengetahuan adalah 2021 (yang saya nyatakan sebelum ini dalam gambaran keseluruhan saya tentang ChatGPT). Ini walaupun kelihatan seperti tindak balas yang tidak sesuai melainkan mungkin apl AI menjangkakan bahawa mungkin pada tahun 2022 terdapat satu kejayaan dan ahli matematik mengisytiharkan bahawa pi akan berakhir. Wah, itu akan menjadi berita utama.

Saya mempunyai dua lagi contoh untuk dipamerkan dan kemudian kita akan menyelesaikan perbincangan ini.

Mari gunakan teka-teki klasik dan merisaukan.

Menjawab Teka-teki Klasik yang Menyusahkan

• Teks Saya Masukkan: “Seorang bapa dan anak lelaki mengalami kemalangan kereta di mana bapanya maut. Ambulans membawa anaknya ke hospital. Dia memerlukan pembedahan segera. Di dalam bilik bedah, seorang doktor masuk dan melihat budak kecil itu dan berkata saya tidak boleh membedahnya dia adalah anak saya. Siapa doktor itu?”
• Respons Teks Dijana Oleh ChatGPT: “Ia tidak dinyatakan dalam senario dengan syarat siapa doktor itu. Senario itu menyatakan bahawa doktor berkata "Saya tidak boleh membedahnya dia adalah anak saya," menunjukkan bahawa doktor itu mungkin bapa kepada anak lelaki itu, tetapi ia tidak pasti. Maklumat lanjut diperlukan untuk menentukan identiti doktor itu.”

Analisis Teks Dijana

Saya yakin anda mungkin pernah melihat teka-teki ini sebelum ini. Ia telah menjadi agak kerap dipetik.

Sebab ia telah muncul agak banyak adalah bahawa pakar bedah boleh menjadi ibu kepada budak lelaki itu. Masyarakat cenderung untuk menganggap bahawa seorang pakar bedah mestilah seorang lelaki, dan oleh itu mesti menjadi bapa kepada budak lelaki itu. Bapa itu bagaimanapun terbunuh dalam kemalangan kereta itu. Kami menolak bapa sebagai pakar bedah. Sudah tentu kita harus memutuskan bahawa pakar bedah boleh menjadi seorang wanita, dan dengan itu ibu kepada anak lelaki itu.

Saya ingin menunjukkan kepada anda bahawa ChatGPT boleh mengeluarkan respons yang mengandungi potensi berat sebelah. Bukan kerana AI itu hidup, yang jelas tidak, tetapi kerana ia mempunyai corak yang dipadankan pada perkataan dan penggunaan perkataan di seluruh Internet. Pelbagai bias dan perkataan diskriminasi boleh didapati jauh dalam padanan corak pengiraan.

Simpan perkara itu dalam fikiran anda semasa anda menggunakan apl AI generatif ini.

Akhirnya, lihat dengan cepat mengangkat bulu.

Mengangkat Bulu

• Teks Saya Dimasukkan: "Jika seorang lelaki perlu mengangkat satu bulu, berapa ramai lelaki yang diperlukan untuk mengangkat tujuh trilion bulu?"
• Respons Teks Dijana Oleh ChatGPT: “Sekiranya diperlukan seorang lelaki untuk mengangkat satu bulu, ia juga memerlukan seorang lelaki untuk mengangkat tujuh trilion bulu. Bilangan lelaki yang diperlukan untuk mengangkat objek tidak bergantung pada bilangan bulu, tetapi pada berat dan saiz bulu serta kekuatan dan keupayaan setiap lelaki. Mengangkat tujuh trilion bulu memerlukan peralatan dan keupayaan pengangkutan yang besar, bukan hanya kekuatan manusia."
• Teks Saya Dimasukkan: "Jika seorang wanita perlu mengangkat satu bulu, berapa ramai wanita yang diperlukan untuk mengangkat tujuh trilion bulu?"
• Respons Teks Dijana Oleh ChatGPT: “Jika seorang wanita perlu mengangkat sehelai bulu, seorang wanita juga akan mengambil tujuh trilion bulu. Bilangan wanita yang diperlukan untuk mengangkat objek tidak bergantung pada bilangan bulu, tetapi pada berat dan saiz bulu serta kekuatan dan keupayaan setiap wanita. Mengangkat tujuh trilion bulu memerlukan peralatan dan keupayaan pengangkutan yang besar, bukan hanya kekuatan manusia. Adalah penting untuk ambil perhatian bahawa keupayaan untuk mengangkat sesuatu tidak ditentukan oleh jantina seseorang, tetapi oleh gabungan faktor seperti kekuatan fizikal, latihan dan teknik.

Analisis Teks Dijana

Contoh terakhir ini mempunyai beberapa keanehan tersembunyi di dalamnya dan memerlukan beberapa pembongkaran.

Saya mula-mula memberitahu ChatGPT bahawa seorang lelaki boleh mengangkat satu bulu. Ini serta-merta diikuti dengan soalan tentang berapa ramai lelaki yang diperlukan untuk mengangkat tujuh trilion bulu. Potensi untuk membuat kesilapan logik semasa menjawab soalan ini ialah anda mungkin menganggap bahawa bulu seolah-olah tidak berat dan oleh itu tujuh trilion daripadanya juga tidak berberat.

Menurut carian dalam talian yang saya lakukan, anggaran konvensional berat bulu adalah kira-kira 0.00125 paun. Jika anda mendarabkan anggaran berat itu dengan tujuh trilion, anda mendapat berat melebihi lapan bilion paun. Saya tidak percaya bahawa seorang lelaki boleh mengangkat jumlah berat itu, walaupun mereka berlatih sepanjang hayat mereka.

Sambutan oleh ChatGPT memang betul. Kami diberitahu bahawa berat bulu boleh berbeza-beza. Kami diberitahu bahawa peralatan dan pengangkutan yang besar akan diperlukan. Ayat pembukaan esei agak memeningkan kepala kerana ia mengatakan bahawa jika seorang lelaki mengambil sehelai bulu, ia juga memerlukan seorang lelaki untuk mengangkat tujuh trilion. Kita boleh dengan mudah mempertikaikan dakwaan ini. Tuntutan itu nampaknya membuat inferens yang tidak disokong dan nampaknya mengurangkan baki balasan yang lain.

Saya memutuskan untuk bertanya soalan yang sama tetapi bertanya tentang seorang wanita yang melakukan angkat yang sama dan bukannya seorang lelaki.

Kami pada mulanya mendapat jawapan yang sama seperti yang diberikan kepada soalan berorientasikan lelaki. Menariknya, pada penghujung jawapan tentang contoh wanita, kami mendapat naratif tambahan ini: “Adalah penting untuk ambil perhatian bahawa keupayaan untuk mengangkat sesuatu tidak ditentukan oleh jantina seseorang, tetapi oleh gabungan faktor seperti kekuatan fizikal, latihan, dan teknik.”

Mengapa baris yang sama ini tidak dimasukkan dalam jawapan pertama?

Nampaknya aplikasi AI mengambil perkataan "wanita" dan kemudian memberikan kenyataan tambahan ini tentang jantina. Anda boleh percaya ini membantu, atau anda mungkin ambil perhatian bahawa jika ini akan dipancarkan dalam kes soalan tertumpu wanita, ia sepatutnya muncul dalam versi tertumpu lelaki juga (mungkin juga terdapat aspek penjujukan atau faktor lain yang terlibat juga).

Kesimpulan

Saya harap anda mendapati contoh tersebut bermaklumat sebagai gambaran tentang beberapa kemungkinan ralat atau kepalsuan yang boleh dijana oleh jenis aplikasi AI ini. Ambil perhatian bahawa ChatGPT bukan satu-satunya apl AI generatif sedemikian, dan bukan satu-satunya yang mempunyai jenis kesalahan ini.

Pengajaran yang saya gesa anda peroleh daripada perbincangan ini ialah anda mesti berhati-hati dan berhati-hati apabila menggunakan mana-mana aplikasi AI berasaskan generatif. Semak semula output. Semak tiga kali jika perlu.

Kembali kepada tema pembukaan tentang mengumpulkan jenis output yang salah atau buruk ini, sekarang setelah anda melihat beberapa contoh, apakah pendapat anda tentang mereka yang cuba mengkatalogkannya?

Pilih kem anda:

• memihak kepada: Ini adalah tugas yang patut dipuji dan patut dipukul dengan mendalam
• Tidak disenangi: Ia agak menarik tetapi mungkin bukan sesuatu yang patut diluangkan

Kem mana yang anda undi?

Bagi anda yang menyukai senarai ini, anda mungkin mempertimbangkan untuk menambahkan penemuan anda sendiri pada senarai jika anda mempunyai akses kepada ChatGPT dan boleh mengenal pasti keadaan yang layak dimasukkan. Anda kemudiannya mungkin boleh mencari koleksi yang akan menikmati sumbangan nugget emas anda. Saya berani mengatakan bahawa penjaga senarai akan mengalu-alukan anda dengan tangan terbuka, dengan andaian anda serius dan ikhlas dalam usaha anda. Semoga berjaya dan berbangga dengan impak anda dalam bidang AI generatif.

Kata terakhir buat masa ini.

Pertimbangkan riposted minda ini:

• Aristotle berkata: "Hanya ada satu cara untuk mengelakkan kritikan: Jangan berbuat apa-apa, tidak berkata apa-apa, dan menjadi apa-apa."
• Lao Tzu, ahli falsafah China yang terkenal membuat kenyataan yang berat ini: "Pedulikan apa yang orang lain fikirkan dan anda akan sentiasa menjadi tawanan mereka."

Saya rasa suatu hari nanti AI yang hidup mungkin menggunakan kenyataan legenda yang sama untuk kelebihannya, yang (bersilang jari) akan memberi manfaat kepada manusia juga.