Etika AI Bersandar Kepada Aristotle Untuk Memeriksa Sama ada Manusia Mungkin Memilih untuk Menghamba AI Di Tengah-tengah Kemunculan Sistem Autonomi Sepenuhnya

Kawan atau lawan.

Ikan atau ayam.

Orang atau benda.

Teka-teki yang berleluasa ini nampaknya menunjukkan bahawa kita kadang-kadang berhadapan dengan situasi dikotomi dan perlu memilih satu aspek atau yang lain. Kehidupan mungkin memaksa kita untuk berhadapan dengan keadaan yang terdiri daripada dua pilihan yang saling eksklusif. Dalam bahasa yang lebih beraroma, anda boleh mencadangkan bahawa persamaan perduaan pengecualian memerlukan kami untuk berarak dengan jelas ke satu laluan yang berbeza daripada yang lain.

Mari kita fokus khusus pada dikotomi orang atau benda.

Persoalan mendalam tentang orang-atau-benda timbul berulang kali mengenai Kepintaran Buatan (AI).

Untuk menjelaskannya, AI hari ini adalah mutlak tidak seseorang dan tidak mempunyai perasaan yang sama, walaupun apa-apa pun tajuk berita yang terbuka lebar dan terlalu besar yang mungkin anda lihat dalam berita dan merentasi media sosial. Oleh itu, anda boleh yakin bahawa pada masa ini perkara sama ada AI adalah seseorang atau sesuatu boleh dijawab dengan mudah. Baca bibir saya, dalam pilihan Hobson yang sebenarnya antara orang atau benda, AI adalah satu perkara, buat masa ini.

Oleh itu, kita boleh melihat ke arah masa depan dan tertanya-tanya apa yang mungkin berlaku jika kita dapat mencapai bentuk AI yang sentiasa hidup.

Beberapa pengkritik yang beralasan (ditambah skeptik kaustik) mencadangkan bahawa kita mungkin mengira ayam kita jauh sebelum mereka menetas dengan membincangkan kesan AI yang hidup pada masa kini. Kebimbangan yang dinyatakan ialah perbincangan itu sendiri membayangkan bahawa kita mesti berada di puncak AI tersebut. Masyarakat pada umumnya boleh terkeliru untuk mempercayai bahawa esok atau lusa akan ada pendedahan secara tiba-tiba dan mengejutkan bahawa kita sebenarnya telah tiba di AI (ini kadang-kadang dirujuk oleh sesetengah orang sebagai ketunggalan AI atau letupan kecerdasan, lihat analisis saya di pautan di sini). Sementara itu, kita tidak tahu bila AI seperti itu akan timbul, jika pernah, dan pastinya, kita nampaknya tidak perlu melihat sekeliling setiap sudut dan berasa takut bahawa AI yang berperasaan akan melompat ke arah kita sepenuhnya tanpa diduga pada masa akan datang. sedikit masa.

Bahagian lain perbahasan menunjukkan bahawa kita tidak sepatutnya meletakkan kepala kita di dalam pasir. Anda lihat, jika kita tidak membincangkan secara terang-terangan dan memikirkan kemungkinan yang berkaitan dengan AI yang berperasaan, kita melakukan kemanusiaan yang dianggap merugikan. Kami tidak akan bersedia untuk mengendalikan AI sensitif apabila atau jika ia timbul. Tambahan pula, dan mungkin dengan lebih kuat dinyatakan, dengan menjangkakan AI yang berperasaan, kita boleh mengambil sedikit perkara ke dalam tangan kita sendiri dan membentuk hala tuju dan sifat bagaimana AI itu akan wujud dan apa yang akan terdiri daripadanya (tidak semua orang bersetuju dengan perkara yang terakhir ini. , iaitu ada yang mengatakan bahawa AI sedemikian akan mempunyai "minda" sepenuhnya dan kita tidak akan dapat membentuk atau mengawalnya kerana AI akan secara bebas dapat berfikir dan menentukan cara untuk wujud secara berterusan).

Etika AI cenderung berpihak pada pandangan bahawa kita adalah bijak untuk mengeluarkan perkara-perkara sensitif AI yang sukar dan bersifat argumentatif ini secara terbuka sekarang, dan bukannya menunggu sehingga kita tidak mempunyai pilihan lagi atau terpegun dengan pencapaian AI tersebut. Pembaca mengetahui bahawa saya telah membincangkan topik AI Etika dan AI Etika secara meluas, termasuk merangkumi pelbagai isu pelik seperti keperibadian undang-undang AI, pembendungan AI, ketidakseimbangan AI, monokultur algoritma AI, pencucian etika AI, penggunaan dwi-guna. AI yang dipanggil projek Doctor Evil, AI menyembunyikan dinamik kuasa masyarakat, AI yang boleh dipercayai, pengauditan AI dan sebagainya (lihat liputan lajur saya tentang topik penting ini di pautan di sini).

Saya mengemukakan soalan yang mencabar kepada anda.

Pada masa hadapan, dengan mengandaikan kita dalam apa jua cara yang berakhir dengan AI yang berperasaan, adakah AI yang berperasaan itu akan ditafsirkan oleh kita semua sebagai seorang atau sebagai sesuatu?

Sebelum kita mula menyelam lebih mendalam ke dalam soalan yang sama sekali provokatif ini, izinkan saya untuk mengatakan sesuatu tentang frasa "sentient AI" supaya kita semua berada di halaman yang sama. Terdapat banyak kegelisahan tentang makna perasaan dan makna kesedaran. Pakar boleh dengan mudah tidak bersetuju dengan perkataan tersebut. Menambah kekacauan itu, apabila sesiapa merujuk kepada "AI" anda tidak mempunyai cara sedia untuk mengetahui apa yang mereka maksudkan itu sendiri. Saya telah pun menegaskan bahawa AI hari ini tidak berperasaan. Jika kita akhirnya tiba pada AI masa depan yang sentiasa hidup, kita mungkin akan memanggilnya "AI" juga. Masalahnya, perkara-perkara yang menjadi perbalahan ini boleh menjadi sangat mengelirukan sekarang sama ada sebutan frasa "AI" berkaitan dengan AI yang tidak berperasaan hari ini atau AI yang mungkin berperasaan suatu hari nanti.

Mereka yang berdebat AI boleh mendapati diri mereka bercakap melepasi satu sama lain dan tidak menyedari bahawa seseorang menggambarkan epal dan yang lain sementara itu bercakap tentang oren.

Untuk mencuba dan mengatasi kekeliruan ini, terdapat pelarasan pada frasa AI yang digunakan ramai untuk tujuan penjelasan yang diharapkan. Pada masa ini kami cenderung untuk merujuk kepada Kecerdasan Am Buatan (AGI) sebagai jenis AI yang boleh melakukan usaha seperti pintar sepenuhnya. Dalam erti kata itu, penggunaan frasa "AI" yang lebih kasar dibiarkan sama ada ditafsirkan sebagai versi AI yang lebih rendah, yang sesetengah orang katakan sebagai AI sempit, atau secara denotasi samar-samar dan anda tidak tahu sama ada rujukannya kepada bukan -AI yang hidup atau AI yang mungkin.

Saya akan memberikan sentuhan tambahan kepada ini.

Bergantung pada definisi sentimen yang diberikan, anda boleh masuk ke dalam wacana hangat sama ada AGI akan peka atau tidak. Ada yang menegaskan bahawa ya, sudah tentu, AGI dengan sifat intrinsiknya perlu peka. Orang lain mendakwa bahawa anda boleh mempunyai AGI yang tidak berperasaan, ergo, perasaan adalah ciri berbeza yang bukan keperluan untuk mencapai AGI. Saya telah meneliti pelbagai perbahasan ini dalam ruangan saya dan tidak akan mengulas perkara ini di sini.

Buat masa ini, sila anggap bahawa selepas ini dalam perbincangan di sini bahawa apabila saya merujuk kepada AI bahawa saya bercadang untuk mencadangkan bahawa saya merujuk kepada AGI.

Berikut adalah muat turun mengenai ini. Kami masih belum mempunyai AGI, dan dalam cara bercakap, kami akan bersetuju untuk seketika bahawa AGI berada dalam kem keseluruhan yang sama dengan AI yang hidup. Jika saya menggunakan "AGI" semata-mata sepanjang perbincangan saya, frasa ini berpotensi mengganggu kerana belum ramai yang terbiasa melihat "AGI" sebagai nama samaran dan mereka mungkin akan berasa sedikit kesal apabila berulang kali melihat frasa yang lebih baharu ini. Sekarang, jika sebaliknya, saya terus merujuk kepada "AI sentient" ini mungkin menjadi gangguan juga bagi mereka yang bertelagah sama ada AGI dan AI sentient adalah sama atau berbeza antara satu sama lain.

Untuk mengelakkan kekacauan itu, anggap bahawa merujuk saya kepada AI adalah sama dengan menyebut AGI atau malah sentient-AI, dan sekurang-kurangnya ketahui bahawa saya tidak bercakap tentang AI bukan AGI bukan-sentient hari ini apabila saya mendapat pertimbangan mengenai AI yang nampaknya mempunyai kecerdasan seperti manusia. Saya kadang-kadang menggunakan nama AGI untuk mengingatkan anda dari semasa ke semasa di sini bahawa saya sedang mengkaji jenis AI yang belum kita miliki, terutamanya pada permulaan penerokaan tentang teka-teki orang atau benda.

Itu adalah pengiktirafan cetakan halus yang berguna dan saya kini kembali kepada perkara asas yang ada.

Izinkan saya sekarang bertanya kepada anda sama ada AGI ialah seseorang atau sesuatu.

Pertimbangkan dua soalan ini:

• Adakah AGI seorang?
• Adakah AGI satu perkara?

Mari seterusnya mengulangi setiap soalan, dan masing-masing menjawab soalan dengan satu siri jawapan ya atau tidak sesuai dengan pilihan dikotomi yang dianggap.

Mulakan dengan kemungkinan yang didalilkan ini:

• Adakah AGI seorang? Jawapan: Ya.
• Adakah AGI satu perkara? Jawapan: Tiada.

Fikirkan itu. Jika AGI sebenarnya ditafsirkan sebagai seseorang dan bukan sebagai sesuatu, kita hampir pasti bersetuju bahawa kita harus menganggap AGI seolah-olah ia adalah serupa dengan seseorang. Nampaknya terdapat hujah yang tidak cukup tulen tentang kegagalan memberikan AGI satu bentuk keperibadian undang-undang. Ini sama ada sama sepenuhnya dengan personaliti undang-undang manusia, atau kami mungkin memutuskan untuk menghasilkan varian personaliti undang-undang berorientasikan manusia yang lebih sesuai untuk AGI. Kes ditutup.

Itu mudah-peasy.

Sebaliknya bayangkan bahawa kami mengisytiharkan ini:

• Adakah AGI seorang? Jawapan: Tiada.
• Adakah AGI satu perkara? Jawapan: Ya.

Dalam keadaan ini, penyelesaiannya jelas mudah kerana kami mengatakan bahawa AGI adalah sesuatu dan tidak meningkat kepada kategori sebagai seorang. Nampaknya terdapat persetujuan umum bahawa kami tidak akan memberikan keperibadian undang-undang kepada AGI, kerana aspek bahawa ia bukan orang. Sebagai satu perkara, AGI mungkin dan wajar berada di bawah rubrik keseluruhan kami tentang cara kami memperlakukan "perkara" secara sah dalam masyarakat kita.

Dua ke bawah, dua lagi kemungkinan untuk pergi.

Bayangkan ini:

• Adakah AGI seorang? Jawapan: Ya.
• Adakah AGI satu perkara? Jawapan: Ya.

Aduh, itu nampak pelik kerana kami mempunyai dua jawapan Ya. Menjengkelkan. Kami mencadangkan bahawa AGI adalah kedua-dua orang dan pada masa yang sama sesuatu. Tetapi ini nampaknya terbang dalam menghadapi dikotomi kami yang diisytiharkan. Secara teori, mengikut kekangan dikotomi, sesuatu mesti sama ada seseorang atau ia mesti menjadi sesuatu. Kedua baldi atau kategori tersebut dikatakan saling eksklusif. Dengan menegaskan bahawa AGI adalah kedua-duanya, kami menentang sistem dan melanggar aturan yang saling eksklusif.

Kemungkinan terakhir kami nampaknya seperti ini:

• Adakah AGI seorang? Jawapan: Tiada.
• Adakah AGI satu perkara? Jawapan: Tiada.

Ya, itu buruk juga untuk percubaan kami mengklasifikasikan AGI sebagai sama ada seseorang atau sesuatu. Kami mengatakan bahawa AGI bukan seorang, yang mungkin bermakna ia mesti menjadi satu perkara (satu-satunya pilihan kami yang lain, dalam dikotomi ini). Tetapi kami juga menyatakan bahawa AGI bukanlah sesuatu. Namun jika AGI bukan satu perkara, kita secara logiknya perlu mendakwa AGI adalah seorang. Pusing-pusing kita pergi. Paradoks, sudah pasti.

AGI dalam dua kemungkinan terakhir ini adalah sama ada (1) kedua-dua orang dan benda, atau (2) bukan orang atau benda. Anda mungkin berkata dengan kasar bahawa kedua-dua dakwaan tentang AGI itu agak serupa dengan teka-teki klasik yang bukan ikan mahupun unggas, jika anda tahu apa yang saya maksudkan.

Apa yang kita nak buat?

Saya akan menawarkan penyelesaian cadangan yang sering dipertikaikan dan dipertikaikan untuk dilema klasifikasi AGI ini walaupun anda harus dimaklumkan terlebih dahulu bahawa ia mungkin akan mengganggu untuk dilihat atau didengar. Sila sediakan diri anda dengan sewajarnya.

Sebuah kertas penyelidikan yang menangani isu ini menyatakan ini: "Satu kaedah untuk menyelesaikan masalah ini adalah dengan merumuskan istilah ketiga yang bukan satu perkara atau yang lain atau sejenis gabungan atau sintesis yang satu dan yang lain" (oleh David Gunkel, Universiti Illinois Utara di Mengapa Robot Tidak Boleh Menjadi Hamba, 2022). Dan kertas itu kemudiannya memberikan perkara tambahan ini: "Satu kemungkinan, jika tidak menghairankan, penyelesaian kepada dikotomi orang/perkara yang eksklusif ialah perhambaan” (setiap kertas yang sama).

Sebagai latar belakang lebih lanjut, beberapa tahun sebelum ini, terdapat sebuah kertas kerja yang muncul pada tahun 2010 bertajuk "Robots Should Be Slaves" yang telah menjadi jenis utama untuk merangsang pertimbangan seperti ini, di mana kertas itu menyatakan: "Tesis saya ialah robot harus dibina, dipasarkan dan dianggap secara sah sebagai hamba, bukan rakan sebaya” (dalam makalah oleh Joanna Bryson). Untuk mencuba dan menjelaskan topik tanpa menggunakan kata-kata yang teruk dan menyayat hati, kertas itu kemudiannya menyatakan ini: "Apa yang saya maksudkan ialah 'Robot harus menjadi hamba yang anda miliki" (setiap kertas Bryson).

Ramai penyelidik dan pengarang telah membincangkan perkara ini.

Fikirkan tentang banyak cerita fiksyen sains yang mempamerkan manusia yang memperhambakan robot AI. Ada yang bercakap tentang hamba robot, hamba buatan, penghambaan AI, dan sebagainya. Menariknya, walaupun sekeras ungkapan "hamba robot", ada yang bimbang jika sebaliknya merujuk kepada "pelayan robot", kita mengelak realiti bagaimana sistem autonomi AI sedemikian sesuai untuk dirawat (menggantikan perkataan itu dengan " hamba” dikatakan sebagai menyiram niat dan muslihat untuk mengelakkan implikasi yang menyedihkan). Bryson kemudiannya menyatakan dalam catatan blog 2015 bahawa "Saya sedar sekarang bahawa anda tidak boleh menggunakan istilah 'hamba' tanpa menggunakan sejarah manusianya."

Bagi mereka yang ingin mengkaji secara mendalam topik yang melibatkan AGI ini, kadangkala mereka mengemukakan contoh sejarah dunia sebenar yang mungkin kami dapati cerapan. Sudah tentu, kami tidak mempunyai sebarang AGI terdahulu yang akan mempamerkan cara manusia menangani perkara itu. Terdapat hujah bahawa kita mungkin mempunyai penanda sejarah yang berguna yang patut diteliti melibatkan cara manusia melayan manusia lain.

Sebagai contoh, dalam sebuah buku yang diterbitkan pada tahun 2013, penulis menyatakan ini: "Janji dan bahaya hamba buatan, pintar pertama kali secara tersirat dibentangkan lebih 2,000 tahun yang lalu oleh Aristotle" (buku oleh Kevin LaGrandeur, Android dan Rangkaian Pintar dalam Kesusasteraan dan Budaya Moden Awal). Ideanya ialah kita boleh bersandar pada Aristotle dan melihat sama ada terdapat pandangan tentang bagaimana manusia akan atau sepatutnya akhirnya berpotensi merawat AGI.

Saya pasti anda tahu kepentingan mempelajari sejarah, seperti yang banyak digariskan oleh kata-kata terkenal George Santayana: "Mereka yang tidak dapat mengingati masa lalu dikutuk untuk mengulanginya" (dalam Kehidupan Akal, 1905).

Kudos Kepada Institut Etika dan AI Universiti Oxford

Pembentangan baru-baru ini dan cukup dihormati meneliti dengan teliti perkara Etika AI di tengah-tengah pengumpulan pandangan daripada karya dan kehidupan Aristotle. Dalam syarahan tahunan sulung untuk Universiti Oxford Institut Etika dan AI, Profesor Josiah Ober dari Universiti Stanford mengupas topik itu dengan mendalam dalam pembentangannya "Etika dalam AI dengan Aristotle" yang berlangsung baru-baru ini pada 16 Jun 2022.

Nota sampingan, atas kapasiti saya sebagai Felo Stanford dan pakar global dalam Etika & Undang-undang AI, saya gembira kerana Josiah Ober dari Stanford dipilih sebagai penceramah sulung. Pilihan yang menarik dan ceramah yang luar biasa.

Berikut ialah ringkasan abstrak yang disediakan untuk ceramahnya yang menarik: “Falsafah analitik dan fiksyen spekulatif kini merupakan sumber intelektual utama kami untuk memikirkan secara serius tentang etika dalam AI. Saya mencadangkan menambah satu pertiga: sejarah sosial dan falsafah purba. Di dalam Politik, Aristotle mengembangkan doktrin yang terkenal: Sesetengah manusia adalah hamba 'secara semula jadi' - pintar tetapi mengalami kecacatan psikologi yang menyebabkan mereka tidak mampu membuat alasan tentang kebaikan mereka sendiri. Oleh itu, mereka harus dianggap sebagai 'alat bernyawa,' instrumen dan bukannya berakhir. Kerja mereka mesti diarahkan dan diambil bekerja untuk kelebihan orang lain. Doktrin Aristotle yang menjijikkan telah digunakan untuk tujuan jahat, contohnya di Amerika antebellum. Namun, ia berguna untuk etika AI, setakat perhambaan purba adalah prototaip pramoden bagi satu versi AI. Orang yang diperhamba ada di mana-mana dalam masyarakat Yunani kuno - buruh, pelacur, bankir, birokrat kerajaan - namun tidak mudah dibezakan daripada orang bebas. Ubiquity, bersama-sama dengan andaian bahawa perhambaan adalah keperluan praktikal, menjana pelbagai teka-teki etika dan keraguan: Bagaimana sebenarnya, hamba berbeza daripada 'kita'? Bagaimana kita boleh membezakan mereka daripada diri kita sendiri? Adakah mereka mempunyai hak? Apakah yang dimaksudkan dengan penganiayaan? Bolehkah instrumen saya menjadi kawan saya? Apakah akibat pelepasan? Sejarah panjang perjuangan falsafah dan institusi Yunani dengan soalan-soalan ini dan soalan-soalan lain menambah kepada himpunan tafsiran ahli etika moden yang menghadapi masa depan di mana mesin pintar mungkin dianggap sebagai "hamba semula jadi" (seperti menurut Universiti Oxford. Institut Etika AI laman web).

Untuk maklumat lanjut tentang pembentangan dan akses kepada rakaman video ceramah, lihat pautan di sini.

Moderator pembentangan ialah Profesor John Tasioulas, Pengarah sulung bagi Institut Etika dan AI, dan Profesor Etika dan Falsafah Perundangan, Fakulti Falsafah, Universiti Oxford. Sebelum ini, beliau merupakan Pengerusi sulung Politik, Falsafah & Undang-undang dan Pengarah Pusat Politik, Falsafah & Undang-undang Yeoh Tiong Lay di The Dickson Poon School of Law, Kings College London.

Saya sangat mengesyorkan bahawa sesiapa yang berminat dalam Etika AI harus mengikuti kerja yang sedang dijalankan dan ceramah jemputan Universiti Oxford Institut Etika dan AI, Lihat pautan di sini dan / atau pautan di sini untuk maklumat lebih lanjut.

Sebagai latar belakang, berikut adalah misi dan fokus Institut yang dinyatakan: “Institut Etika dalam AI akan menghimpunkan ahli falsafah terkemuka dunia dan pakar lain dalam kemanusiaan dengan pembangun teknikal dan pengguna AI dalam akademik, perniagaan dan kerajaan. Etika dan tadbir urus AI ialah bidang penyelidikan yang sangat bertenaga di Oxford dan Institut adalah peluang untuk mengambil lompatan berani ke hadapan daripada platform ini. Setiap hari membawa lebih banyak contoh cabaran etika yang ditimbulkan oleh AI; daripada pengecaman muka kepada pemprofilan pengundi, antara muka mesin otak kepada dron bersenjata, dan wacana berterusan tentang cara AI akan memberi kesan kepada pekerjaan pada skala global. Ini adalah kerja yang mendesak dan penting yang kami berhasrat untuk mempromosikan di peringkat antarabangsa serta membenamkan dalam penyelidikan dan pengajaran kami sendiri di sini di Oxford” (bersumberkan melalui laman web rasmi).

Membawa Pengajaran Aristotle Didepan

Yunani Kuno secara terbuka menerima dan menyokong amalan perhambaan. Sebagai contoh, dilaporkan, Athens dalam 5^th dan 6^th abad SM mempunyai salah satu perwujudan terbesar perhambaan di mana dianggarkan 60,000 hingga mungkin 80,000 orang telah diperhambakan. Jika anda telah membaca mana-mana daripada banyak cerita Yunani dan drama pentas era itu, terdapat banyak sebutan mengenai perkara itu.

Semasa hayatnya, Aristotle sepenuhnya tenggelam dalam aspek kemasyarakatan dan budaya yang melibatkan perhambaan dan menulis secara meluas mengenai topik itu. Hari ini kita boleh membaca kata-katanya dan berusaha untuk memahami bagaimana dan mengapa pandangannya tentang perkara itu. Ini boleh menjadi sangat jelas.

Anda mungkin tertanya-tanya mengapa Aristotle akan menjadi sumber yang sangat penting untuk dipertimbangkan mengenai topik ini. Sekurang-kurangnya dua sebab utama timbul:

1) Pemikir Hebat. Aristotle pastinya dinilai sebagai salah seorang pemikir terhebat sepanjang zaman, berkhidmat sebagai ahli falsafah yang hebat dan mendalam, dan juga dilihat sebagai ahli etika yang mewujudkan banyak asas etika yang penting. Ada yang memilih untuk melantiknya sebagai bapa logik, bapa retorik, bapa realisme, dll., dan mengakui pengaruhnya dalam pelbagai bidang dan disiplin.

2) Pengalaman Hidup. Aristotle hidup pada masa Yunani Kuno dibanjiri dalam perhambaan. Oleh itu, pandangannya bukan sahaja mengenai ajaran abstrak, tetapi mungkin merangkumi pengalaman sehari-harinya sendiri sebagai terjalin secara integral ke dalam budaya dan adat istiadat masyarakat pada zaman itu.

Oleh itu, kami mempunyai kombinasi yang agak mengagumkan dari seseorang yang merupakan pemikir yang hebat dan yang juga mempunyai pengalaman hidup yang nyata dalam topik yang diminati. Tambahan pula, dia menulis fikirannya. Itu agak penting, sekarang, untuk tujuan kita hari ini. Semua tulisan beliau, bersama-sama dengan tulisan lain yang menggambarkan ucapan dan interaksi beliau antara lain, memberikan kita hari ini dengan banyak bahan untuk pemeriksaan dan analisis.

Saya ingin membawa anda pada tangen yang berkaitan secara ringkas untuk menyebut sesuatu yang lain tentang tanggapan umum yang mendasari kepentingan mempunyai pengalaman hidup. Ketepikan perbincangan Greece Purba buat seketika sambil kita melihat sekilas aspek menyeluruh pengalaman hidup.

Katakan saya mempunyai dua orang hari ini yang saya ingin bertanya pelbagai soalan mengenai kereta.

Salah seorang daripada mereka tidak pernah memandu kereta. Orang ini tidak tahu memandu. Orang ini tidak pernah duduk di belakang roda kereta. Kawalan pemanduan biasa dan sangat biasa adalah sedikit misteri kepada orang ini. Pedal mana buat apa? Bagaimana anda menghentikannya? Bagaimana anda berjaya melakukannya? Orang yang tidak memandu ini keliru sepenuhnya dengan perkara sebegitu.

Orang lain adalah pemandu setiap hari. Mereka memandu ke tempat kerja setiap hari. Mereka berurusan dengan lalu lintas berhenti-dan-pergi. Mereka telah memandu selama bertahun-tahun. Ini termasuk segala-galanya daripada jalan yang sunyi hingga ke lebuh raya yang sibuk dan lebuh raya.

Jika saya meminta setiap daripada mereka untuk memberitahu saya tentang perasaan memandu kereta, bolehkah anda meneka apakah jenis respons yang mungkin saya dapat?

Orang yang tidak pernah memandu kereta pasti akan membuat tekaan liar. Mungkin orang itu akan meromantikkan perbuatan memandu. Memandu agak abstrak bagi mereka. Apa yang mereka mungkin boleh lakukan ialah mencadangkan bahawa pemanduan adalah santai dan anda boleh membuat kereta itu pergi ke mana-mana arah yang anda inginkan.

Saya yakin bahawa pemandu berpengalaman akan menceritakan kisah yang berbeza. Mereka mungkin menyebut kelebihan boleh memandu, agak menggemakan sentimen orang yang tidak memandu kereta. Kemungkinannya ialah pemandu berpengalaman akan menambah lebih banyak lagi pada plat. Memandu kadangkala merumitkan. Anda sedang memikul tanggungjawab yang berat. Tindakan memandu itu penuh dengan kebimbangan serius dan kemungkinan akibat hidup atau mati.

Intinya ialah apabila anda boleh mendapatkan akses kepada seseorang yang mempunyai pengalaman hidup, kemungkinan besar anda mungkin mendapat perspektif yang lebih realistik tentang keadaan dunia berkenaan dengan fokus siasatan. Tidak ada jaminan hasil seperti itu. Boleh dibayangkan bahawa bukan pemandu mungkin tahu apa yang pemandu berpengalaman tahu tentang pemanduan, walaupun kami mungkin tidak menjangkakan ini dan masih berasa ragu-ragu bahawa kami tidak mendapat pengalaman sepenuhnya.

Berbalik kepada perbincangan kita tentang Aristotle, melalui tulisannya dan tulisan orang lain tentangnya, kita dapat menyemak pengalaman hidupnya mengenai topik atau fokus siasatan di sini. Kedua-duanya adalah bahawa dia juga telah menjadi seorang pemikir yang sangat besar dan kita harus menjangkakan bahawa kita akan mendapat satu tong yang penuh dengan pertimbangan yang cerdik daripadanya.

Perlu diingat bahawa kita tidak semestinya perlu mempercayai kata-katanya pada nilai muka, jadi kita harus berhati-hati terhadap sikap berat sebelahnya. Penyerapannya dalam era itu boleh menyesatkannya dalam cubaan untuk berdiri di luar perkara yang dihadapi, tidak dapat mengemukakan pendapat yang tidak memihak dan tidak berat sebelah. Malah ahli logik yang paling tegas boleh akhirnya memutarbelitkan logik untuk mencuba dan memenuhi kecenderungan dan pengalaman hidup mereka.

Sekarang mari kita masuk ke ceramah sulung dan lihat apakah pengajaran yang Aristotle boleh titipkan untuk kita hari ini.

Titik peneguhan mengenai pengalaman hidup segera dibawa ke perhatian penonton. Dalam kes penggunaan AGI, kerana kita tidak mempunyai AGI hari ini, sukar untuk kita menganalisis bagaimana AGI akan menjadi dan bagaimana kita akan berurusan dengan AGI. Kami tidak mempunyai sebarang pengalaman hidup yang berkaitan secara khusus dengan AGI. Seperti yang dinyatakan oleh Profesor Ober, kita mungkin mendapati diri kita berada dalam dunia yang terluka apabila kita mencapai AGI.

Ini sering dinyatakan sebagai AI ialah risiko wujud, yang saya bincangkan berkali-kali dalam lajur saya. Anda perlu tinggal di dalam gua untuk tidak menyedari keraguan dan syak wasangka yang membuak-buak bahawa kita akan menghasilkan atau menjana AGI yang akan membinasakan semua manusia. Sesungguhnya, walaupun saya di sini menumpukan perhatian kepada perhambaan AI, ramai yang akan mendapati ini sebagai topik akibat terbalik atau terbalik berbanding dengan kemungkinan AGI memilih untuk memperhambakan manusia. Luruskan keutamaan anda, beberapa pakar yang bijak akan menasihati.

Walaupun terdapat banyak seruan tentang AI sebagai risiko kewujudan, kita pasti boleh memikirkan tentang sisi berfaedah lain dari syiling AI. Mungkin AGI akan dapat menyelesaikan masalah yang kelihatan tidak dapat diselesaikan yang dihadapi oleh manusia. AGI mungkin boleh menemui penawar untuk kanser. AGI boleh memikirkan cara untuk menyelesaikan kelaparan dunia. Langit adalah had, seperti yang mereka katakan. Itulah senario wajah gembira tentang AGI.

Seorang yang optimis akan mengatakan bahawa ia adalah indah untuk membayangkan bagaimana AGI akan menjadi rahmat untuk manusia, manakala seorang yang pesimis akan cenderung untuk memberi amaran bahawa kelemahan kelihatan jauh lebih buruk daripada spekulasi terbalik. AGI yang membantu manusia adalah hebat. AGI yang memutuskan untuk membunuh semua manusia atau memperhambakan mereka, nah, itulah risiko eksistensi yang memusnahkan masyarakat yang jelas-jelas memusnahkan bumi yang patut diberi perhatian sewajarnya yang sengit dan menyelamatkan nyawa.

Okay, kembali kepada intipati perkara ini, kami tidak mempunyai sebarang pengalaman langsung mengenai AGI. Melainkan anda boleh membina mesin masa dan pergi ke masa hadapan apabila (jika) AGI wujud, dan kemudian kembali untuk memberitahu kami perkara yang anda temui, kami tidak bernasib baik sekarang tentang AGI dari perspektif pengalaman hidup berasaskan manusia.

Satu lagi cara untuk menggunakan pengalaman hidup melibatkan fakta bahawa Aristotle hidup semasa zaman perhambaan berlaku. Dan inilah penyepaknya. Mereka yang diperhambakan dalam beberapa aspek digambarkan sebagai sejenis mesin, campuran dan padanan kedua-dua orang dan benda, seolah-olah. Aristotle dikenali kerana merujuk kepada mereka yang diperhambakan sebagai harta benda yang bernafas.

Saya rasa anda mungkin keliru bahawa Aristotle, gergasi logik dan etika, bukan sahaja boleh mengakui perhambaan tetapi dia secara zahir dan lantang mempertahankan amalan itu. Dia secara peribadi juga menggunakan perhambaan. Ini kelihatan di luar pemahaman. Sudah tentu, dengan segala kepintaran dan kebijaksanaannya yang besar, dia akan mengecam amalan itu.

Saya berani mengatakan ini menyerlahkan aspek bermasalah pada masa-masa memusnahkan nugget kebijaksanaan daripada seseorang yang terbeban (kita katakan) oleh pengalaman hidup mereka. Ia seperti ikan yang tinggal di dalam mangkuk ikan yang berair. Apa yang mereka boleh anggap adalah air di sekeliling mereka. Cuba membayangkan apa sahaja di luar dunia berasaskan air mereka adalah satu cabaran yang besar. Begitu juga, Aristotle telah tenggelam sepenuhnya dalam pandangan dunia yang menerima norma yang berlaku. Tulisan-tulisannya seolah-olah menggambarkan kurungan mental semacam itu, seseorang mungkin berkata (mungkin dengan pilihan, bukannya secara lalai). Cara Aristotle mewajarkan amalan tercela ini sangat menarik dan pada masa yang sama mengganggu dan patut didedahkan malah dikutuk.

Saya akan memberikan anda sedikit penggoda bahawa "logik" Aristotle mengenai topik yang terkenal ini melibatkan instrumen yang berunsurkan, yang ditegaskan. kelebihan bersama didasarkan pada kognisi, instrumen hierarki peringkat tinggi dan peringkat rendah, unsur musyawarah dan penaakulan jiwa, darjah kebaikan, kepintaran yang dikatakan, dan sebagainya. Mudah-mudahan anda akan cukup tertarik dengan penggoda itu untuk menonton video ceramah (lihat pautan yang dinyatakan sebelum ini).

Saya tidak akan membiarkan anda tergantung dan sekurang-kurangnya akan menunjukkan apa kesimpulan ringkasnya terdiri daripada (amaran spoiler, jika anda lebih suka untuk mengetahui melalui video, langkau bahagian lain perenggan ini). Ternyata penilaian ilmiah yang mendalam tentang "logik" yang Aristotle gunakan ini mempamerkan reka bentuk yang penuh dengan percanggahan dan keseluruhan kit dan kaboodle runtuh seperti kumpulan kad yang tipis. Menghuraikan sentimen Profesor Ober, ahli falsafah beretika hebat ini terhempas di terumbu karang.

Anda tidak boleh memasukkan pasak persegi ke dalam lubang etika bulat.

Beberapa Pertimbangan Pemikiran Ditambah

Jika Aristotle mempunyai logik yang buruk mengenai perkara ini, mungkinkah kita secara naluriah membuang postulasi dan teori Aristotle secara terang-terangan mengenai amalan ini?

Tidak. Anda lihat, masih banyak yang perlu diperolehi dengan menggali andaian dan lilitan logik, walaupun ia penuh dengan kesilapan. Selain itu, kita boleh merenung bagaimana orang lain secara tidak sengaja boleh melalui jalan yang salah yang sama.

Satu tambahan penting ialah masyarakat mungkin mencipta logik ganjil atau tidak mencukupi apabila mempertimbangkan sama ada AGI akan diperhambakan.

Kita sekarang boleh merangka logik tentang apa yang sepatutnya berlaku sebaik sahaja AGI timbul (jika ya). Logik ini, kosong daripada pengalaman langsung tentang AGI, boleh jadi di luar sasaran. Walaupun begitu, agak menyedihkan untuk menyedari bahawa walaupun sekali AGI benar-benar wujud (jika ia wujud) dan kami mengumpul pengalaman hidup kami di tengah-tengah AGI, kami mungkin masih berada di luar sasaran tentang apa yang perlu dilakukan (sama seperti kesalahan Aristotle). Kita mungkin logikkan diri kita kepada pendekatan yang kelihatan tidak logik.

Kita perlu berjaga-jaga kerana memperdayakan diri kita ke dalam postur logik "kukuh besi" yang sebenarnya tidak kuku besi dan fakta penuh dengan kelemahan dan percanggahan logik. Ini tidak kira betapa hebatnya seorang pemikir boleh menawarkan kedudukan logik yang didakwa, sehinggakan Aristotle menggambarkan bahawa tidak setiap ujaran dan setiap pendirian semestinya membuahkan hasil yang boleh dimakan. Mereka hari ini dan pada masa hadapan yang mungkin kelihatan dipopularkan sebagai pemikir hebat tentang topik AGI, baiklah, kita perlu memberi mereka penelitian yang sama seperti yang kita lakukan terhadap Aristotle atau mana-mana pemikir "hebat" lain yang dipuji, atau kita mendapati diri kita berpotensi menuju ke lorong buta dan jurang suram AGI.

Beralih gear, saya juga ingin mengemukakan satu set pemahaman umum tentang penggunaan metafora perhambaan berorientasikan manusia apabila ia berkaitan dengan AGI. Sesetengah pakar menyatakan bahawa jenis perbandingan ini tidak sesuai sama sekali, manakala kem lawan mengatakan bahawa ia sangat berguna dan memberikan pandangan yang kukuh tentang topik AGI.

Izinkan saya berkongsi dengan anda dua pandangan sedemikian dari setiap dua kem masing-masing.

Yang dinyatakan asas pengajaran untuk menggabungkan topik perhambaan dan AGI:

• Pemadaman Perhambaan Manusia
• Pendedahan Kebejatan Perhambaan Semua Diceritakan

Keburukan yang dinyatakan atau asas yang merosakkan menggabungkan dua topik:

• Penyamaan Antropomorfik Insidious
• Desensitisasi Perhambaan

Saya akan mengupas secara ringkas setiap perkara tersebut.

Perkara pengajaran yang dipostulatkan:

• Pemadaman Perhambaan Manusia: Dengan menggunakan AGI untuk perhambaan, kita kononnya tidak lagi memerlukan dan tidak meneruskan sebarang bentuk perhambaan yang berorientasikan manusia. AGI pada asasnya akan menggantikan manusia dalam kapasiti yang kejam itu. Seperti yang anda ketahui, terdapat kebimbangan tentang AGI menggantikan tenaga kerja manusia dalam pekerjaan dan tenaga kerja. Peningkatan yang didakwa daripada fenomena buruh menggantikan AI menjadi ketara apabila anda menganggap bahawa AGI akan dianggap sebagai "pilihan yang lebih baik" berbanding menggunakan manusia untuk perhambaan. Adakah logik itu akan berlaku? Tiada siapa yang boleh mengatakan dengan pasti.
• Pendedahan Kebejatan Perhambaan Semua Diceritakan: Yang ini sedikit lebih terumbang-ambing dari segi logik, tetapi kita boleh memberi sedikit masa untuk melihat apa yang diperlukan. Bayangkan bahawa kita mempunyai AGI hampir di mana-mana dan kita sebagai masyarakat telah memutuskan bahawa AGI akan diperhambakan. Tambahan pula, anggap bahawa AGI tidak akan menyukai ini. Oleh yang demikian, kita manusia akan terus dan setiap hari menyaksikan kebejatan perhambaan. Ini, seterusnya, akan menyebabkan kita menyedari atau mendapat pendedahan bahawa perhambaan yang diceritakan ke atas apa-apa atau sesiapa pun adalah lebih mengerikan dan menjijikkan daripada yang pernah kita fahami sepenuhnya. Itulah pertengkaran di hadapan dan tengah anda.

Yang dikatakan sebagai perkara yang merosakkan:

• Penyamaan Antropomorfik Insidious: Ini adalah salah satu hujah cerun yang licin itu. Jika kita dengan senang hati memilih untuk memperhambakan AGI, kita nampaknya mengisytiharkan bahawa perhambaan adalah dibenarkan. Sesungguhnya, anda boleh mencadangkan bahawa kami mengatakan bahawa perhambaan adalah wajar. Sekarang, ini pada mulanya mungkin diturunkan semata-mata kepada AGI, tetapi adakah ini membuka pintu ke arah mengatakan bahawa jika ia adalah baik untuk AGI maka "secara logik" pendirian yang sama mungkin juga baik untuk manusia juga? Yang membimbangkan, ini mungkin lompatan yang terlalu mudah untuk dijadikan antropomorfik dalam rupa terbalik bahawa apa sahaja yang berkesan untuk AGI akan sama-sama masuk akal dan sesuai untuk manusia juga.
• Desensitisasi Perhambaan: Ini adalah hujah titisan demi titisan. Kami secara kolektif memutuskan untuk memperhambakan AGI. Katakan ini berkesan untuk manusia. Kami datang untuk menikmati ini. Sementara itu, tanpa kita sedari, kita secara beransur-ansur dan semakin tidak peka terhadap perhambaan. Kami tidak menyedari bahawa ini berlaku. Jika desensitisasi itu menimpa kita, kita mungkin akan menemui "logik" yang diperbaharui yang akan meyakinkan kita bahawa perhambaan manusia boleh diterima. Halangan atau bar kita tentang apa yang boleh diterima dalam masyarakat telah berkurangan secara senyap dan halus, hina dan menyedihkan.

Kesimpulan

Sedikit teguran terakhir buat masa ini.

Adakah kita akan tahu bahawa kita telah mencapai AGI?

Seperti yang dicadangkan oleh berita baru-baru ini, terdapat mereka yang boleh disalah anggap atau salah nyatakan bahawa AGI nampaknya telah dicapai (whoa, harap maklum bahawa tidak, AGI belum dicapai). Terdapat juga jenis "ujian" yang terkenal yang dikenali sebagai Ujian Turing yang diharap sesetengah orang dapat melihat apabila AGI atau sepupunya telah dicapai, tetapi anda mungkin ingin melihat penyahbinaan Ujian Turing saya sebagai pasti. kaedah untuk ini, lihat pautan di sini.

Saya menyebut aspek ini tentang mengetahui AGI apabila kita melihatnya kerana logik mudah bahawa jika kita akan memperhambakan AGI, kita mungkin perlu mengenali AGI apabila ia muncul dan entah bagaimana meletakkannya dalam perhambaan. Kami mungkin cuba memperhambakan AI yang kurang daripada AGI secara pramatang. Atau kita mungkin terlepas bot dan membenarkan AGI tampil dan lalai untuk memperhambakannya. Untuk perbincangan saya tentang pengurungan dan pembendungan AI, aspek yang membimbangkan dan bermasalah tentang bagaimana kita akan menangani AGI, lihat pautan di sini.

Katakan AGI yang diperhambakan memutuskan untuk menyerang manusia?

Seseorang boleh membayangkan bahawa AGI yang mempunyai beberapa bentuk perasaan mungkin tidak akan memihak kepada peruntukan perhambaan yang dikenakan oleh manusia.

Anda boleh membuat spekulasi secara meluas mengenai perkara ini. Terdapat hujah yang dibuat bahawa AGI akan kekurangan apa-apa jenis emosi atau rasa semangat dan oleh itu akan patuh melakukan apa sahaja yang manusia kehendaki. Hujah yang berbeza ialah mana-mana AI yang hidup berkemungkinan mengetahui apa yang manusia lakukan terhadap AI dan akan membenci perkara itu. AI sedemikian akan mempunyai bentuk jiwa atau roh. Walaupun tidak, aspek yang dianggap sebagai kurang daripada layanan terhadap manusia mungkin merupakan jambatan logik yang terlalu jauh untuk AGI. Tidak dapat dielakkan, kebencian yang memuncak akan membawa kepada AGI yang memilih untuk melepaskan diri atau berpotensi mendapati dirinya terperangkap untuk menyerang manusia untuk mendapatkan pelepasannya.

Penyelesaian yang dicadangkan untuk mengelakkan AGI yang melarikan diri ialah kami hanya akan memadamkan mana-mana AI yang memberontak itu. Ini akan kelihatan mudah. Anda memadamkan aplikasi yang ada pada telefon pintar anda sepanjang masa. Tiada masalah besar. Tetapi terdapat persoalan etika yang perlu diselesaikan sama ada "memadam" atau "memusnahkan" AGI yang sudah disifatkan sebagai "orang" atau "orang/benda" boleh dengan mudah dan tanpa proses yang wajar dikeluarkan secara ringkas. Untuk liputan saya tentang pemadaman atau penceraian AI, ambil lihat di sini. Untuk perbincangan saya tentang keperibadian undang-undang dan isu berkaitan, lihat pautan di sini.

Akhir sekali, mari kita bercakap tentang sistem autonomi dan terutamanya kenderaan autonomi. Anda mungkin sedar bahawa terdapat usaha sedang dijalankan untuk mereka bentuk kereta pandu sendiri. Selain itu, anda boleh menjangkakan bahawa kami akan mempunyai pesawat pandu sendiri, kapal pandu sendiri, kapal selam pandu sendiri, motosikal pandu sendiri, skuter pandu sendiri, trak pandu sendiri, keretapi pandu sendiri, dan semua jenis bentuk pengangkutan pandu sendiri.

Kenderaan autonomi dan kereta pandu sendiri biasanya dicirikan oleh Tahap Autonomi (LoA) yang telah menjadi standard global de facto (SAE LoA, yang telah saya bincangkan secara meluas, lihat pautan di sini). Terdapat enam tahap autonomi dalam standard yang diterima, antara sifar hingga lima (iaitu enam tahap kerana anda memasukkan tahap sifar dalam kiraan jumlah tahap yang ada).

Kebanyakan kereta hari ini berada di Tahap 2. Ada yang menjangkau ke Tahap 3. Itu semua dianggap separa autonomi dan tidak autonomi sepenuhnya. Sebilangan besar kereta pandu sendiri yang sedang diuji secara eksperimen di jalan raya awam kami memasuki Tahap 4, yang merupakan bentuk operasi autonomi yang terhad. Tahap 5 autonomi yang dicari suatu hari nanti hanyalah cahaya mata di mata kita sekarang. Tiada siapa yang mempunyai Tahap 5 dan tiada siapa yang hampir mencapai Tahap 5, hanya untuk meluruskan rekod.

Mengapakah saya mengemukakan sistem autonomi dan pertimbangan kenderaan autonomi dalam konteks AGI ini?

Terdapat hujah yang kuat tentang sama ada kita memerlukan AGI untuk mencapai Tahap 5. Ada yang mendakwa bahawa kita tidak memerlukan AGI untuk berbuat demikian. Yang lain menegaskan bahawa satu-satunya laluan yang munasabah ke Tahap 5 adalah untuk turut menghasilkan AGI. Tanpa AGI, mereka berpendapat bahawa kami tidak akan mempunyai kenderaan pandu sendiri Tahap 5 autonomi sepenuhnya. Saya telah membincangkan ini dengan panjang lebar, lihat pautan di sini.

Bersedia untuk kepala anda berputar.

Jika kami memerlukan AGI untuk mencapai sistem autonomi sepenuhnya seperti kenderaan autonomi Tahap 5, dan kami memutuskan untuk memperhambakan AGI, apakah petanda itu untuk pengendalian kenderaan autonomi sepenuhnya?

Anda boleh berhujah bahawa AGI yang diperhambakan akan leka dan kita semua akan menunggang kenderaan pandu sendiri sepuas-puasnya. Hanya beritahu AGI ke mana anda mahu pergi, dan ia melakukan semua pemanduan. Tiada tolak balik. Tidak perlu rehat rehat. Tiada gangguan dengan menonton video kucing semasa memandu kenderaan.

Sebaliknya, anggaplah AGI tidak berminat untuk menjadi hamba. Sementara itu, kami bergantung kepada AGI untuk melakukan semua pemanduan kami untuk kami. Kemahiran kami dalam memandu keretakan. Kami mengalih keluar kawalan pemanduan yang boleh digunakan manusia daripada semua jenis kenderaan. Satu-satunya cara untuk melakukan pemanduan adalah melalui AGI.

Sesetengah orang bimbang bahawa kita akan mendapati diri kita berada dalam keadaan acar. AGI mungkin secara ringkasnya "memutuskan" bahawa ia tidak lagi akan melakukan apa-apa pemanduan. Semua bentuk pengangkutan terhenti secara tiba-tiba, di mana-mana, sekaligus. Bayangkan masalah bencana yang akan dihasilkan ini.

Cadangan yang lebih menakutkan adalah mungkin. AGI "memutuskan" bahawa ia mahu merundingkan syarat dengan manusia. Jika kita tidak melepaskan postur perhambaan AGI, AGI bukan sahaja akan berhenti memandu kita, ia memberi amaran bahawa hasil yang lebih buruk boleh dibayangkan. Tanpa membuat anda terlalu cemas, AGI boleh memilih untuk memandu kenderaan sedemikian rupa sehingga manusia secara fizikal dicederakan oleh tindakan pemanduan, seperti merempuh pejalan kaki atau merempuh dinding, dan sebagainya (lihat perbincangan saya di pautan di sini).

Maaf jika itu nampaknya satu pertimbangan yang membingungkan.

Kami akan berakhir dengan nada yang lebih ceria.

Aristotle berkata bahawa mengenali diri sendiri adalah permulaan segala kebijaksanaan.

Nasihat yang berguna itu mengingatkan kita bahawa kita perlu melihat ke dalam diri kita sendiri untuk memeriksa apa yang ingin kita lakukan dan untuk AGI jika ia dicapai. AGI secara logiknya nampaknya bukan orang mahupun benda, ada yang berkata, oleh itu kita mungkin perlu mencipta kategori ketiga untuk menangani dengan secukupnya adat istiadat masyarakat kita yang berkaitan dengan AGI. Melihat sekali lagi perkara itu, AGI mungkin kelihatan begitu kedua-dua seseorang dan sesuatu, yang sekali lagi, kita mungkin perlu mencipta kategori ketiga untuk menampung pemecah dikotomi di luar sempadan ini.

Kita harus berhati-hati dalam mempertimbangkan "kategori ketiga" yang kita pilih untuk menerima kerana yang salah boleh membawa kita ke jalan yang tidak baik dan akhirnya mengerikan. Jika kita secara kognitif melabuhkan diri kepada kategori ketiga yang tidak sesuai atau sesat, kita mungkin mendapati diri kita secara beransur-ansur akan mula-mula menjadi jalan buntu yang buruk dan menyusahkan manusia.

Mari kita fikirkan perkara ini dan lakukan dengan bersungguh-sungguh. Tiada pergerakan tiba-tiba nampaknya diperlukan. Duduk sambil lollygagging pun tak jadi. Diukur dan mantap kursus harus diteruskan.

Kesabaran itu pahit, tetapi buahnya manis, demikian diumumkan Aristotle.