Etika AI Dan Inokulasi Psikologi Akibat AI Untuk Membantu Manusia Dengan Pembohongan

Apakah yang akan kita lakukan mengenai lebihan besar-besaran disinformasi dan maklumat yang salah?

Semuanya terbukti menjadi semakin teruk, dengan setiap hari berlalu.

Mungkin Kecerdasan Buatan (AI) boleh datang untuk menyelamatkan kita. Ya, betul, kami mungkin dapat memanfaatkan penggunaan AI yang berfaedah untuk menghadapi tsunami yang tidak henti-henti bagi disinformasi dan salah maklumat. Kita mungkin bijak untuk mencuba berbuat demikian. Setiap jalan penyelesaian yang berpotensi akan kelihatan layak untuk dikejar.

Di samping itu, saya ingin segera mengakui dan ambil perhatian bahawa AI sudah pasti akan Juga menjadi sebahagian daripada masalah juga. Tidak ada persoalan bahawa manusia boleh dengan mudah memanfaatkan AI untuk menghasilkan maklumat yang salah dan maklumat yang salah. Tambahan pula, AI boleh digunakan secara licik untuk menjadikan maklumat yang salah dan maklumat yang salah kelihatan sangat sah dan memperdayakan manusia supaya mempercayai bahawa maklumat yang disampaikan adalah tepat dan berfakta. Sisi wajah yang jelas sedih tentang apa yang dibawa oleh AI ke meja. Kami akan kembali kepada teka-teki kelemahan ini menjelang akhir perbincangan ini.

Buat masa ini, mari kita tunjukkan wajah senyuman kita dan terokai bagaimana AI bermanfaat untuk membawa maklumat salah dan maklumat salah kepada lututnya yang hebat. Satu arus bawah yang penting ialah semua ini bersesuaian dengan elemen penting Etika AI. Liputan lajur saya tentang AI Etika dan AI Etika berterusan dan meluas, termasuk pautan di sini and pautan di sini, Hanya untuk menamakan beberapa.

Pertimbangkan cara asas ini bahawa AI boleh menjadi sekutu yang sangat membantu dalam perang terhadap maklumat salah dan maklumat salah:

• Berhenti Pada Perjalanan: AI boleh digunakan untuk mengesan dan cuba mengeluarkan maklumat salah dan maklumat salah sebelum ia menjadi longgar
• Tapis Sebelum Dilihat: AI boleh digunakan untuk menapis maklumat salah dan maklumat salah supaya anda tidak perlu risau melihatnya
• Sediakan Anda Menjadi Kebal: AI boleh digunakan untuk meningkatkan kesediaan dan keupayaan anda untuk berdepan dengan maklumat yang salah dan maklumat yang salah (dikenali secara formal sebagai menyediakan sejenis inokulasi psikologi)
• lain-lain

Titik tumpu pertama yang disenaraikan memerlukan percubaan untuk menghentikan maklumat salah dan maklumat salah seawal mungkin, sebelum kandungan masuk ke dunia.

Ini adalah pendekatan yang sangat bermasalah. Ada yang berhujah dengan lantang bahawa ini mungkin percubaan Abang Besar untuk menyekat kebebasan bersuara. Sejauh manakah AI ini boleh pergi? Bolehkah ia menghalang orang ramai daripada bebas menyatakan pandangan mereka? Ini boleh menjadi cerun licin AI yang akhirnya menjadi mimpi ngeri terburuk hasil jahat yang bermula dengan niat yang terbaik.

Saya pasti anda mendapat gambar itu.

Titik peluru kedua adalah sedikit lebih sederhana dan mencadangkan bahawa kita boleh menggunakan AI untuk menapis kandungan untuk kita.

Anda mungkin mempunyai bot penapis AI yang akan mengimbas semua suapan data masuk anda daripada pelbagai berita dan sumber lain. AI disesuaikan untuk menangkap sebarang maklumat salah atau maklumat salah yang sesuai dengan kriteria peribadi anda. Oleh itu, dalam senario sedemikian, ia bukan situasi penapisan Big Brother. Anda mengawal AI dan cara ia menapis peti masuk sebenar maklumat anda bagi pihak anda.

Bunyi agak bagus.

Walaupun terdapat beberapa kebimbangan yang perlu diberi perhatian.

Sebagai contoh, kami sudah sangat terpolarisasi dalam pandangan kami dan penggunaan AI ini mungkin menjadikan polarisasi itu lebih mendalam dan lebih gelap. Bayangkan bahawa dengan AI licik yang berfungsi tanpa henti 24×7 ini, anda tidak perlu melihat sedikit pun maklumat yang telah anda klasifikasikan sebagai berpotensi disalah maklumat dan maklumat salah. Perspektif terpolarisasi anda kini hampir dijamin untuk kekal utuh. Sepanjang hari dan pada bila-bila masa anda ingin melihat maklumat yang menunggu perhatian anda, maklumat itu sentiasa diprapilih sepenuhnya dan tiada peluang untuk melihat apa yang dipanggil maklumat salah dan maklumat salah.

Saya katakan bahawa salah maklumat dan maklumat salah boleh jadi apa yang dipanggil kerana terdapat banyak kontroversi mengenai perkara yang sebenarnya merupakan salah maklumat dan maklumat salah. Sesetengah pakar menegaskan bahawa terdapat asas mutlak untuk memastikan apakah maklumat yang salah dan apakah maklumat yang salah. Ada betul dan salah. Segala-galanya boleh dikira tanpa tersilap bahawa sesuatu adalah sama ada disinformasi atau maklumat yang salah.

Tidak semua orang melihat perkara sebagai sangat jelas.

Pepatah on-or-off kontras dikotomi saling eksklusif dikatakan sebagai kerangka fikiran yang mengelirukan. Maklumat salah seseorang mungkin tidak dianggap sebagai salah maklumat kepada orang lain. Begitu juga tentang maklumat yang salah. Penegasan adalah bahawa maklumat yang salah dan maklumat yang salah adalah dari segi sifat dan magnitud. Mencuba untuk mengelaskan secara pasti semua maklumat ke dalam satu longgokan atau yang lain adalah lebih sukar daripada yang dicadangkan oleh lambaian tangan.

Intinya ialah titik tumpu kedua tentang menggunakan AI sebagai mekanisme penapisan mempunyai pertukarannya. Terdapat sedikit persoalan bahawa AI akan semakin digunakan untuk kegunaan ini. Pada masa yang sama, kita perlu mengambil kira cabaran yang akan dibawa oleh AI sedemikian. AI sebagai penapis untuk maklumat yang salah dan maklumat yang salah bukanlah peluru perak atau slam dunk.

Itu membawa kita ke titik ketiga, iaitu kemungkinan menggunakan AI untuk menjadikan manusia lebih baik dalam menangani maklumat yang salah dan maklumat yang salah.

Saya ragu bahawa anda mungkin pernah mendengar banyak tentang cara ketiga menggunakan AI dalam konteks ini. Ia baru mula muncul. Anda kini berada di bahagian canggih untuk sesuatu yang mungkin akan berkembang dan digunakan secara beransur-ansur. Harap maklum bahawa apabila populariti ini berkembang, kontroversi sama ada ia adalah pendekatan yang sesuai juga akan menjadi sangat ketara.

Sebahagian daripada isunya ialah AI agak digunakan untuk apa yang dirujuk oleh sesetengah orang dengan cara yang menghina bermain permainan minda dengan manusia.

Itu nampaknya tidak menyenangkan.

Ini juga membawa kita ke alam Etika AI.

Semua ini juga berkaitan dengan kebimbangan yang muncul secara serius tentang AI hari ini dan terutamanya penggunaan Pembelajaran Mesin dan Pembelajaran Dalam sebagai satu bentuk teknologi dan cara ia digunakan. Anda lihat, terdapat penggunaan ML/DL yang cenderung melibatkan penggunaan AI oleh orang ramai secara amnya, mempercayai atau memilih untuk menganggap bahawa ML/DL adalah sama ada AI yang peka atau hampir dengan (tidak). Selain itu, ML/DL boleh mengandungi aspek padanan corak pengiraan yang tidak diingini atau langsung tidak wajar, atau menyalahi undang-undang dari sudut etika atau undang-undang.

Mungkin berguna untuk menjelaskan terlebih dahulu apa yang saya maksudkan apabila merujuk kepada AI secara keseluruhan dan juga memberikan gambaran ringkas tentang Pembelajaran Mesin dan Pembelajaran Dalam. Terdapat banyak kekeliruan tentang maksud Kecerdasan Buatan. Saya juga ingin memperkenalkan peraturan Etika AI kepada anda, yang akan menjadi sangat penting dalam baki wacana ini.

Menyatakan Rekod Mengenai AI

Mari pastikan kita berada di halaman yang sama tentang sifat AI hari ini.

Tidak ada AI hari ini yang hidup.

Kami tidak mempunyai ini.

Kami tidak tahu sama ada kecerdasan buatan boleh dilakukan. Tiada siapa yang boleh meramalkan dengan tepat sama ada kita akan mencapai AI sentient, mahupun sama ada AI sentient entah bagaimana secara ajaib akan timbul secara spontan dalam bentuk supernova kognitif pengiraan (biasanya dirujuk sebagai The Singularity, lihat liputan saya di pautan di sini).

Sedar bahawa AI hari ini tidak dapat "berfikir" dalam apa jua cara yang setanding dengan pemikiran manusia. Apabila anda berinteraksi dengan Alexa atau Siri, kapasiti perbualan mungkin kelihatan serupa dengan kapasiti manusia, tetapi realitinya ialah ia adalah pengiraan dan tidak mempunyai kognisi manusia. Era terkini AI telah menggunakan Pembelajaran Mesin dan Pembelajaran Dalam secara meluas, yang memanfaatkan padanan corak pengiraan. Ini telah membawa kepada sistem AI yang mempunyai rupa kecenderungan seperti manusia. Sementara itu, tidak ada mana-mana AI hari ini yang mempunyai kesamaan akal dan tidak mempunyai sebarang keajaiban kognitif pemikiran manusia yang teguh.

Sebahagian daripada isu ini ialah kecenderungan kita untuk mengaplikasikan komputer dan terutamanya AI. Apabila sistem komputer atau AI nampaknya bertindak mengikut cara yang kita kaitkan dengan tingkah laku manusia, terdapat keinginan yang hampir luar biasa untuk menganggap kualiti manusia kepada sistem itu. Ia adalah perangkap mental biasa yang boleh mencengkam walaupun yang paling ragu-ragu tentang peluang untuk mencapai perasaan.

Pada tahap tertentu, itulah sebabnya AI Etika dan AI Etika adalah topik yang sangat penting.

Arahan Etika AI mendorong kita untuk terus berwaspada. Ahli teknologi AI kadang-kadang boleh menjadi sibuk dengan teknologi, terutamanya pengoptimuman teknologi tinggi. Mereka tidak semestinya mempertimbangkan kesan masyarakat yang lebih besar. Mempunyai minda Etika AI dan melakukannya secara bersepadu untuk pembangunan dan penempatan AI adalah penting untuk menghasilkan AI yang sesuai, termasuk penilaian tentang cara AI Etika diterima pakai oleh firma.

Selain menggunakan peraturan Etika AI secara umum, terdapat persoalan yang sepadan sama ada kita harus mempunyai undang-undang untuk mengawal pelbagai penggunaan AI. Undang-undang baharu sedang dibicarakan di peringkat persekutuan, negeri dan tempatan yang membimbangkan julat dan sifat cara AI harus dicipta. Usaha untuk merangka dan menggubal undang-undang tersebut adalah secara beransur-ansur. Etika AI berfungsi sebagai perhentian yang dianggap, sekurang-kurangnya, dan hampir pasti pada tahap tertentu akan dimasukkan secara langsung ke dalam undang-undang baharu tersebut.

Harap maklum bahawa sesetengah pihak bertegas berhujah bahawa kita tidak memerlukan undang-undang baharu yang meliputi AI dan undang-undang sedia ada adalah mencukupi. Mereka memberi amaran bahawa jika kita menggubal beberapa undang-undang AI ini, kita akan membunuh angsa emas dengan mengekang kemajuan dalam AI yang menawarkan kelebihan masyarakat yang besar. Lihat contohnya liputan saya di pautan di sini.

Dalam lajur sebelumnya, saya telah membincangkan pelbagai usaha nasional dan antarabangsa untuk merangka dan menggubal undang-undang yang mengawal selia AI, lihat pautan di sini, sebagai contoh. Saya juga telah merangkumi pelbagai prinsip dan garis panduan Etika AI yang telah dikenal pasti dan diterima pakai oleh pelbagai negara, termasuk contohnya usaha Pertubuhan Bangsa-Bangsa Bersatu seperti set Etika AI UNESCO yang diterima pakai oleh hampir 200 negara, lihat pautan di sini.

Berikut ialah senarai kunci penting bagi kriteria atau ciri AI Etika berkenaan sistem AI yang telah saya terokai dengan teliti sebelum ini:

• Ketelusan
• Keadilan & Kesaksamaan
• Non-Maleficence
• tanggungjawab
• Privasi
• Kebaikan
• Kebebasan & Autonomi
• Amanah
• Sustainability
• Martabat
• Perpaduan

Prinsip Etika AI tersebut sepatutnya digunakan secara bersungguh-sungguh oleh pembangun AI, bersama-sama dengan prinsip-prinsip yang menguruskan usaha pembangunan AI, dan juga prinsip-prinsip yang akhirnya meletakkan dan melaksanakan penyelenggaraan pada sistem AI. Semua pihak berkepentingan sepanjang keseluruhan kitaran hayat pembangunan dan penggunaan AI dianggap dalam skop pematuhan dengan norma AI Etika yang telah ditetapkan. Ini adalah sorotan penting kerana andaian biasa ialah "pengekod sahaja" atau mereka yang memprogramkan AI tertakluk kepada pematuhan kepada tanggapan Etika AI. Seperti yang ditekankan di sini sebelum ini, ia memerlukan sebuah kampung untuk mencipta dan membina AI, dan untuk itu seluruh kampung perlu dikuasai dan mematuhi peraturan Etika AI.

Mari kita kekalkan perkara ini dan fokus pada AI bukan sentient pengiraan hari ini.

ML/DL ialah satu bentuk padanan corak pengiraan. Pendekatan biasa ialah anda mengumpulkan data tentang tugas membuat keputusan. Anda memasukkan data ke dalam model komputer ML/DL. Model tersebut berusaha untuk mencari corak matematik. Selepas menemui corak sedemikian, jika didapati, sistem AI kemudian akan menggunakan corak tersebut apabila menemui data baharu. Selepas pembentangan data baharu, corak berdasarkan data "lama" atau sejarah digunakan untuk membuat keputusan semasa.

Saya rasa anda boleh meneka ke mana arahnya. Jika manusia yang telah membuat keputusan yang bercorak telah memasukkan berat sebelah yang tidak diingini, kemungkinan besar data tersebut mencerminkannya dengan cara yang halus tetapi ketara. Pembelajaran Mesin atau Pembelajaran Dalam padanan corak pengiraan hanya akan cuba meniru data secara matematik dengan sewajarnya. Tidak ada kesamaan akal sehat atau aspek lain dari pemodelan buatan AI.

Tambahan pula, pembangun AI mungkin tidak menyedari apa yang sedang berlaku. Matematik misteri dalam ML/DL mungkin menyukarkan untuk menghilangkan bias yang kini tersembunyi. Anda berhak berharap dan menjangkakan bahawa pembangun AI akan menguji bias yang mungkin terkubur, walaupun ini lebih rumit daripada yang kelihatan. Peluang kukuh wujud bahawa walaupun dengan ujian yang agak meluas bahawa akan terdapat berat sebelah masih tertanam dalam model padanan corak ML/DL.

Anda boleh menggunakan pepatah yang terkenal atau terkenal tentang sampah masuk sampah. Masalahnya, ini lebih mirip kepada bias-in yang secara licik diselitkan sebagai bias yang tenggelam dalam AI. Algoritma membuat keputusan (ADM) AI secara aksiomatik menjadi sarat dengan ketidaksamaan.

Tidak baik.

Saya percaya bahawa saya kini telah menetapkan peringkat untuk membincangkan dengan secukupnya peranan AI sebagai cara untuk mendorong inokulasi psikologi yang berkaitan dengan menangani maklumat yang salah dan maklumat yang salah.

Memasuki Fikiran Manusia

Mari kita mulakan dengan asas atau asas yang mendasari maklumat salah dan salah maklumat.

Secara umumnya, maklumat salah merujuk kepada maklumat palsu atau mengelirukan.

Maklumat salah adalah lebih kurang sama walaupun terdiri daripada elemen tambahan niat. Kami biasanya menafsirkan maklumat sebagai maklumat yang salah sedangkan ia adalah maklumat Bertujuan untuk salah maklumat.

Saya mungkin memberitahu anda bahawa pada masa ini adalah pukul 10 malam, yang boleh katakan adalah palsu kerana waktunya benar-benar tengah malam. Jika saya memberitahu anda pukul 10 sebagai firasat dan tidak cuba menipu, kami biasanya akan mengatakan bahawa saya telah salah maklumat kepada anda. Saya telah menyampaikan maklumat yang salah. Mungkin saya malas atau mungkin saya benar-benar percaya sudah pukul 10. Sebaliknya, jika saya menyebut pukul 10 kerana saya sengaja ingin memperdayakan anda dengan menyangka bahawa waktu itu pukul 10 dan saya tahu waktu itu sebenarnya tengah malam, ini boleh dikatakan sebagai satu bentuk penyelewengan. .

Satu aspek maklumat yang ketara secara keseluruhan ialah lazimnya kita dapat menyebarkan maklumat dan dengan itu maklumat boleh menjadi agak meluas. Maklumat sebenarnya boleh mengalir seperti air, dalam erti kata yang luas.

Saya beritahu awak sudah pukul 10 malam. Anda kini mempunyai maklumat tertentu itu. Anda mungkin menjerit dengan kuat kepada sekumpulan orang berhampiran bahawa sudah pukul 10 malam. Mereka kini juga mempunyai maklumat yang sama. Mungkin sesetengah orang itu menggunakan telefon bimbit mereka dan menghubungi orang lain untuk memberitahu mereka bahawa sudah pukul 10. Secara keseluruhannya, maklumat boleh disebarkan atau dikongsi dan kadangkala dilakukan dengan pantas manakala dalam keadaan lain dilakukan dengan perlahan.

Dari satu segi, anda boleh berpendapat bahawa maklumat boleh menjadi tular.

Terdapat perkataan atau istilah ciptaan yang mungkin anda tidak pernah lihat atau gunakan secara khusus yang membantu dalam menerangkan fenomena maklumat yang menjadi tular, perkataan itu infodemik. Perkataan ini adalah gabungan kedua-dua maklumat dan menjadi wabak. Pada umumnya, infodemik dikaitkan dengan keadaan yang melibatkan penyebaran maklumat salah atau salah maklumat. Tanggapan adalah bahawa maklumat palsu atau mengelirukan boleh menjadi virus, tidak diingini, serupa dengan penyebaran penyakit atau penyakit yang tidak diingini.

Dalam contoh mengenai jam 10 malam, fakta yang kelihatan ini adalah satu maklumat yang disebarkan kepada kumpulan orang berhampiran. Mereka seterusnya menyebarkan fakta kepada orang lain. Jika pukul 10 adalah palsu, maka contoh salah maklumat atau maklumat salah ini telah disebarkan kepada ramai yang lain. Mereka mungkin tidak tahu bahawa maklumat itu adalah maklumat yang salah atau mungkin maklumat yang salah.

Saya percaya bahawa semua takrifan dan asas ini kelihatan masuk akal dan anda berada di atas kapal setakat ini.

Hebat, mari teruskan.

Saya telah membawa anda secara diam-diam ke dalam sesuatu yang mempunyai banyak daya tarikan dan juga kebimbangan. Intinya adalah bahawa terdapat persamaan yang munasabah yang munasabah antara penyakit yang dilakukan secara virus dan maklumat salah atau maklumat salah yang dilakukan secara viral.

Tidak semua orang bersetuju dengan persamaan yang didakwa ini. Walau bagaimanapun, mereka menarik dan patut dipertimbangkan.

Izinkan saya menghuraikan.

Anda lihat, kami boleh cuba memanfaatkan analogi berguna merujuk kepada penyakit bawaan manusia dan penyakit yang merebak, berbuat demikian untuk membandingkan kemungkinan serupa dengan penyebaran maklumat salah dan maklumat salah. Untuk mencuba dan menghentikan penyebaran penyakit, kita boleh menyasarkan untuk mengesan awal dan berusaha untuk membendung sumber berpenyakit yang muncul menunjukkan potensi penyebaran penyakit. Satu lagi pendekatan untuk menangani penyakit yang merebak adalah dengan menjaga agar tidak dijangkiti melalui penggunaan berhemat dengan memakai topeng atau peralatan perlindungan. Pendekatan ketiga boleh terdiri daripada mengambil vaksin untuk mencuba dan membina imuniti anda yang berkaitan dengan penyakit ini.

Kami kini telah mencapai bulatan penuh kerana pendekatan yang sama untuk menangani penyakit boleh secara eksplisit disamakan dengan menangani maklumat yang salah dan maklumat yang salah. Saya sebelum ini menyatakan bahawa terdapat usaha serupa sedang dijalankan untuk menggunakan Kepintaran Buatan untuk tujuan cuba mengatasi maklumat yang salah dan salah maklumat, terutamanya (seperti yang dinyatakan sebelum ini):

• Berhenti Pada Perjalanan: AI boleh digunakan untuk mengesan dan cuba mengeluarkan maklumat salah dan maklumat salah sebelum ia menjadi longgar
• Tapis Sebelum Dilihat: AI boleh digunakan untuk menapis maklumat salah dan maklumat salah supaya anda tidak perlu risau melihatnya
• Sediakan Anda Menjadi Kebal: AI boleh digunakan untuk meningkatkan kesediaan dan keupayaan anda untuk berdepan dengan maklumat yang salah dan maklumat yang salah (dikenali secara formal sebagai menyediakan sejenis inokulasi psikologi)
• lain-lain

Aspek ketiga akan menjadi yang paling menarik di sini.

Inilah perjanjian itu.

Kita tahu bahawa penyakit biasanya menyerang badan manusia. Dengan analogi bagaimana maklumat salah dan salah maklumat berlaku, kami boleh mencadangkan bahawa maklumat busuk menyerang akal manusia. Ya, anda mungkin boleh bersentuhan dengan maklumat salah atau maklumat salah yang mengalir ke dalam fikiran anda. Maklumat yang salah atau maklumat yang salah berpotensi merosakkan atau meracuni cara pemikiran anda.

Tubuh manusia boleh divaksin untuk mencuba dan menyediakan dirinya untuk bersentuhan dengan penyakit. Satu persoalan besar timbul tentang sama ada kita boleh melakukan perkara yang sama untuk minda manusia. Adakah mungkin untuk mencuba dan menyuntik minda supaya apabila maklumat yang salah atau maklumat yang salah datang ke fikiran anda bahawa anda sudah bersedia untuk itu dan telah disuntik dengan sewajarnya?

Satu bidang pengajian yang dikenali sebagai inokulasi psikologi berpendapat bahawa minda sememangnya boleh disuntik dalam erti kata bersedia untuk mengendalikan maklumat yang salah atau maklumat yang salah.

Pertimbangkan penerangan ini dalam kajian penyelidikan baru-baru ini mengenai inokulasi psikologi dan perkara yang kadangkala dilabel sebagai melakukan prebunking:

• “Menyanggah maklumat salah juga bermasalah kerana membetulkan maklumat salah tidak selalu membatalkan kesannya sepenuhnya, fenomena yang dikenali sebagai kesan pengaruh berterusan. Sehubungan itu, berbeza dengan debunking, prebunking telah mendapat perhatian sebagai cara untuk membina daya tahan terlebih dahulu terhadap pendedahan yang dijangkakan kepada maklumat salah. Pendekatan ini biasanya berasaskan teori inokulasi. Teori inokulasi mengikuti analogi imunisasi perubatan dan berpendapat bahawa adalah mungkin untuk membina rintangan psikologi terhadap percubaan pujukan yang tidak diingini, sama seperti inokulasi perubatan membina ketahanan fisiologi terhadap patogen” (Kemajuan sains, 24 Ogos 2022, "Inokulasi Psikologi Meningkatkan Daya Tahan Terhadap Maklumat Salah Di Media Sosial" oleh pengarang bersama Jon Roozenbeek, Sander van der Linden, Beth Goldberg, Steve Rathje dan Stephan Lewandowsky).

Berbalik kepada contoh saya tentang masa pada pukul 10 malam, andaikan saya sebelum ini telah memberitahu anda bahawa kadang-kadang masa yang dituntut bukanlah masa sebenar. Anda kini mempunyai satu bentuk inokulasi untuk berwaspada dengan masa yang dituntut. Inokulasi ini telah menyediakan anda untuk berhubung dengan masa yang dituntut yang merupakan maklumat salah atau salah maklumat.

Jika saya telah memberi amaran kepada anda beberapa tahun lalu tentang masa yang dituntut bukan masa sebenar, ada kemungkinan anda mungkin tidak memikirkan amaran lama dahulu. Oleh itu, inokulasi yang lebih awal telah (kita katakan) telah luntur. Inokulasi saya untuk anda mungkin perlu ditingkatkan.

Terdapat juga kemungkinan bahawa inokulasi tidak cukup khusus untuk anda menggunakannya apabila diperlukan. Jika saya telah memberi amaran kepada anda beberapa tahun lalu tentang masa yang dituntut berbanding masa sebenar, itu mungkin terlalu luas. Inokulasi mungkin tidak berfungsi dalam contoh khusus anda diberitahu kira-kira jam 10. Dalam erti kata itu, mungkin inokulasi saya sepatutnya ialah anda harus berhati-hati apabila masa yang dituntut iaitu pukul 10 digunakan. Sudah tentu, inokulasi dalam kes penyakit adalah agak sama, kadang-kadang sangat khusus untuk penyakit yang diketahui manakala dalam kes lain adalah spektrum yang luas.

Kajian penyelidikan yang sering disebut pada tahun 1961 mengenai inokulasi psikologi oleh William McGuire dari Columbia University secara amnya kini dianggap klasik dalam bidang pengajian ini. Anda mungkin mendapati perkara penting yang beliau sampaikan pada masa itu menarik minat anda:

• “Imunisasi umum tersebut boleh diperoleh daripada salah satu daripada dua mekanisme. Pra-pendedahan mungkin mengejutkan orang itu untuk menyedari bahawa "truisme" yang selalu dia terima sememangnya terdedah, sekali gus mencetuskan dia untuk membangunkan pertahanan kepercayaannya, dengan keputusan bahawa dia lebih tahan terhadap hujah balas yang kuat apabila ia datang. Sebagai alternatif, penolakan yang terlibat dalam pra-pendedahan mungkin menjadikan semua hujah balas yang dikemukakan kemudiannya terhadap kepercayaan kelihatan kurang mengagumkan" (William McGuire, "Resistance To Persuasion Conferred By Active And Passive Prior Refutation Of The Same And Alternative Counterarguments", Journal of Abnormal and Psikologi Sosial, 1961).

Adakah anda mendapati analogi inokulasi dan imunisasi ini sebagai perbandingan yang berguna dan tepat kepada alam maklumat yang salah dan salah maklumat?

Ada yang buat, ada yang tidak.

Untuk tujuan perbincangan ini, sila terima bahawa premis itu munasabah dan sesuai.

Bagaimanakah kita hendak mencuba dan menyuntik atau mengimunkan minda orang?

Kita boleh mengajak orang ramai membaca buku yang boleh mencerahkan fikiran mereka. Kami mungkin memberitahu mereka mengenainya, atau menyuruh mereka menonton video atau mendengar pita audio. Dan lain-lain.

Dan kami mungkin menggunakan AI untuk melakukan perkara yang sama.

Sistem AI mungkin direka untuk menjadi inokulator anda. Setiap kali anda mula pergi ke dalam talian seperti melihat Internet, aplikasi berasaskan AI mungkin menyediakan anda untuk perjalanan dalam talian anda. AI mungkin memberi anda sejumlah kecil maklumat salah yang dilabelkan sedemikian, membolehkan anda menyedari bahawa anda akan melihat sesuatu yang sengaja palsu.

Apabila terdedah kepada maklumat salah yang diberi makan AI ini, fikiran anda kini semakin bersedia untuk menghadapi maklumat salah atau salah maklumat yang mungkin anda hadapi di alam liar di Internet. Fikiran anda telah disediakan. Voila, anda melihat blog di Internet yang menawarkan fakta yang didakwa bahawa makhluk asing dari Marikh sudah pun berada di bumi dan bersembunyi di hadapan mata, tetapi maklumat palsu atau salah maklumat ini mudah ditolak oleh fikiran anda kerana inokulasi sebelumnya (baik, sekali lagi, mungkin ia benar dan mereka benar-benar ada di sini!).

Bagaimanapun, saya berharap anda dapat memahami sekarang bagaimana AI boleh membantu menyuntik atau mengimunkan manusia berkenaan dengan maklumat salah atau maklumat salah.

Pelbagai aplikasi AI sedang direka yang akan berfungsi sebagai inokulator maklumat salah atau salah maklumat. AI mungkin berusaha untuk menyediakan inokulasi yang luas dan memberikan gambaran keseluruhan imunisasi. AI juga boleh direka bentuk untuk bentuk inokulasi yang lebih spesifik. Tambahan pula, AI boleh berfungsi secara peribadi yang disesuaikan dengan keperluan atau minat khusus anda. AI lanjutan dalam ruang ini juga akan cuba menentukan tahap toleransi anda, kadar penyerapan mental, kapasiti pengekalan dan faktor lain semasa mengarang dan mempersembahkan apa yang dipanggil suntikan imunisasi, seolah-olah.

Nampak agak berguna.

AI Sebagai Pemain Permainan Minda Berbahaya

AI yang digunakan dengan cara ini pada pandangan pertama nampaknya agak berguna (hei, saya menyebutnya sebentar tadi).

Terdapat banyak potensi kelemahan dan masalah yang membimbangkan dan mungkin menakutkan.

Dalam lajur saya, saya sering membincangkan kapasiti dwi-guna AI, lihat sebagai contoh pautan di sini. AI boleh menjadi penyumbang penting kepada manusia. Malangnya, AI juga dibebani oleh banyak bahaya dan perangkap yang malang.

Untuk kes AI sebagai inculcator, mari kita pertimbangkan isu berkaitan Etika AI yang menunjukkan:

• Reaksi buruk oleh manusia
• Reaksi tidak responsif oleh manusia
• Salah sasaran AI
• AI kurang sasaran
• Pelanggaran Siber AI
• lain-lain

Kami akan meneroka secara ringkas kebimbangan tersebut.

Reaksi Buruk Oleh Manusia

Katakan bahawa manusia yang menerima inokulasi berasaskan AI jenis ini mempunyai tindak balas buruk atau menghasilkan kesan buruk.

Orang itu mungkin tersalah anggap tentang imunisasi dan tiba-tiba menjadi tidak menerima sebarang maklumat yang mereka terima. Mereka menyekat semua maklumat. AI entah bagaimana telah mencetuskan mereka untuk membuang bayi dengan air mandian (pepatah lama, mungkin patut bersara). Daripada hanya cuba mengatasi maklumat yang salah dan maklumat yang salah, orang itu telah bertindak balas dengan memutuskan bahawa semua maklumat sentiasa palsu.

Saya tidak fikir kita mahu orang melampaui batas itu.

Terdapat banyak tindak balas buruk yang mungkin dipupuk oleh AI. Ini sebahagiannya disebabkan oleh cara AI cuba melakukan inokulasi, tetapi juga kita perlu meletakkan sebahagian daripada isu itu di kaki manusia yang menerima inokulasi. Mereka mungkin bertindak balas dengan cara yang liar atau pelik sehingga orang lain yang menerima inokulasi AI yang sama tidak berbuat demikian.

Sekali lagi, anda boleh menyamakan ini dengan analogi inokulasi untuk penyakit.

Ringkasnya, adalah penting apabila usaha AI tersebut digunakan, ia dilakukan dengan cara yang bertanggungjawab yang bertujuan untuk meminimumkan kesan buruk. Perlu juga ada aspek susulan AI untuk mencuba dan memastikan sama ada tindak balas buruk telah berlaku. Jika terdapat tindak balas buruk yang dikesan, AI harus direka untuk mencuba dan membantu orang tersebut dalam tindak balas buruk mereka dan berusaha untuk mengatasi atau mengurangkan tindak balas.

Reaksi Tidak Responsif Oleh Manusia

Kemungkinan lain ialah inokulasi yang diberi makan AI tidak memberi kesan kepada orang yang menerima.

Seseorang mendapat inokulasi berasaskan AI yang berkaitan dengan maklumat salah atau salah maklumat. Walaupun kebanyakan orang "mendapatnya" dan mendapat imunisasi, pasti ada orang yang tidak akan bertindak balas sama sekali. Mereka tidak belajar apa-apa daripada inokulasi. Mereka tidak bertindak balas terhadap percubaan AI untuk mengimunkan mereka sama ada untuk semua atau jenis maklumat salah atau salah maklumat tertentu.

Sekali lagi, ini adalah setanding dengan inokulasi untuk penyakit.

AI sepatutnya direka untuk menghadapi keadaan sedemikian.

Salah Sasaran AI

Bayangkan bahawa AI berharap untuk memberi imunisasi kepada orang ramai mengenai topik tertentu yang akan kita katakan sebagai topik X, tetapi ternyata topik Y sebaliknya sedang diliputi. AI salah sasaran.

Ini adalah masalah dua kali ganda. Pertama, topik X belum lagi dibincangkan sebagai tujuan yang diandaikan dan diharapkan untuk inokulator AI. Kedua, topik Y dibincangkan tetapi kami mungkin tidak mahu orang diberi imunisasi mengenai topik itu.

Oops.

Soalan melimpah ruah. Mungkinkah ini telah dihalang daripada berlaku? Jika ia berlaku, bolehkah kita membatalkan topik imunisasi Y? Bolehkah kita berusaha untuk mengupas topik X inokulasi, atau adakah orang itu kurang menerima atau tidak menerima kerana salah sasaran oleh AI pada asalnya?

Banyak kerisauan bermasalah timbul.

AI Kurang Penyasaran

AI menyediakan inokulasi pada topik Z. Orang yang menerima inokulasi nampaknya mempunyai reaksi yang minimum atau hampir boleh diabaikan. Inokulasi tidak mencukupi untuk dipegang.

Anda mungkin tergoda untuk mendakwa dengan cepat bahawa perkara ini mudah diselesaikan. Apa yang anda perlu lakukan ialah mengulangi inokulasi. Mungkin ya mungkin tidak.

Inokulasi AI mungkin mempunyai nilai yang terhad sehingga tidak kira jika anda mempunyai orang yang mengalaminya seratus kali, hasilnya masih merupakan hasil yang kecil. Anda mungkin perlu meningkatkan inokulasi daripada hanya mengulanginya.

Sementara itu, bayangkan bahawa percubaan dibuat untuk meningkatkan inokulasi yang diberi makan AI tetapi ini melampaui batas. Versi yang dirangsang menyebabkan tindak balas hiper. Ya, kita telah datang dari buruk kepada lebih teruk.

Pelanggaran Siber AI

Bayangkan AI digunakan secara meluas untuk membantu orang ramai disuntik daripada maklumat salah dan maklumat salah.

Pergantungan umum dipegang oleh orang ramai. Mereka tahu dan menjangkakan bahawa AI akan membentangkan mereka dengan coretan yang akan membuka mata mereka kepada apa yang dikenali sebagai disinformasi dan maklumat yang salah.

Semuanya baik-baik saja, nampaknya.

Seorang penjahat entah bagaimana boleh melakukan pelanggaran siber pada AI. Mereka secara senyap-senyap memaksa masuk ke dalam AI beberapa maklumat salah yang diingini yang mereka mahu orang fikir bukan maklumat salah. AI diatur untuk menjadikan maklumat yang salah sebenarnya kelihatan sebagai maklumat yang benar. Selain itu, maklumat yang benar dibuat untuk kelihatan sebagai maklumat yang salah.

Orang ramai benar-benar snooked. Mereka tidak dimaklumkan oleh AI. Selain itu, kerana mereka telah menjadi bergantung kepada AI, dan kerana mempercayai bahawa AI melakukan perkara yang betul, mereka jatuh cangkuk, garis dan benam untuk AI yang dilanggar ini. Tanpa teragak-agak.

Memandangkan betapa mudahnya maklumat salah boleh terus merebak, penjahat itu mungkin gembira bahawa kewujudan AI jenis ini adalah cara termudah dan terpantas mereka untuk membuat pembohongan licik mereka tersebar ke seluruh dunia. Ironinya, sudah tentu, setelah memanfaatkan inokulator AI untuk menyebarkan penyakit itu.

Kesimpulan

Sekiranya kita mempunyai AI yang bermain permainan minda dengan kita?

Mungkinkah AI untuk maklumat salah dan inokulasi maklumat salah menjadi kuda Trojan yang mengancam?

Anda boleh membuat kes substantif untuk bimbang tentang mimpi ngeri seperti itu.

Yang lain mengejek kemungkinan sedemikian. Orang ramai cukup bijak untuk mengetahui bila AI cuba menipu mereka. Orang tidak akan jatuh untuk menggelecek sebegitu. Hanya orang bodoh yang akan disesatkan oleh AI sedemikian. Itu adalah balasan dan hujah balas yang biasa.

Tidak mahu kelihatan kurang mengagumi manusia dan sifat manusia sepenuhnya, saya hanya mencadangkan bahawa terdapat banyak petunjuk bahawa manusia boleh jatuh untuk AI yang mengelirukan mereka.

Terdapat isu yang lebih besar yang mungkin membayangi semua ini.

Siapa yang membuat AI dan bagaimana AI secara algoritma memutuskan perkara yang dianggap sebagai salah maklumat dan maklumat salah?

Seluruh pertempuran api sedang berlaku hari ini di seluruh dunia tentang perkara yang secara khusus merupakan maklumat salah dan maklumat salah. Ada yang menegaskan bahawa fakta adalah fakta, oleh itu tidak boleh ada sebarang kekeliruan mengenai maklumat yang betul berbanding maklumat yang tidak wajar. Syaitan walaupun ada kalanya dalam butirannya, itu sudah pasti.

Teguran terakhir buat masa ini. Abraham Lincoln dengan terkenal menyatakan: "Anda boleh menipu semua orang pada suatu masa dan sesetengah orang sepanjang masa, tetapi anda tidak boleh menipu semua orang sepanjang masa."

Adakah AI yang digunakan untuk membantu inokulasi manusia daripada maklumat salah dan maklumat salah menjadi alat penting untuk memastikan bahawa tidak semua orang boleh tertipu sepanjang masa? Atau mungkin ia digunakan untuk memperbodohkan lebih ramai orang lebih masa?

Masa akan menentukannya.

Dan itu pastinya tiada maklumat yang salah atau maklumat yang salah.