Di Tesla dan Firma Teknologi Besar Lain, Bukan Mesin Tetapi Andaian Di Sebaliknya Menyebabkan Masalah

Teknologi baharu sentiasa menimbulkan rasa gugup. Pada 370 SM, Plato merenung dalam bukunya Phaedrus bahawa peningkatan "trend" ke arah menulis akan menyebabkan lelaki kehilangan semua kebijaksanaan mereka yang tersimpan. Pada tahun 1880-an, butang elektrik, semua perkara dikhuatiri menyebabkan kita semua hilang kreativiti kita oleh membiarkan butang melakukan tugas untuk kami. Dalam generasi kita, terdapat ketakutan yang mendalam bahawa sebarang pendedahan kepada permainan video akan reput otak kanak-kanak. Teori sedemikian sering akhirnya membuktikan diri mereka salah. Tetapi kadangkala, apa yang kita harapkan akan kekal dalam bidang fiksyen sains menjadi kenyataan.

Kami mempunyai dua peringatan yang sangat kuat tentang bahaya penggunaan teknologi yang tidak terkawal dalam beberapa bulan kebelakangan ini. Mimpi ngeri terburuk kami menjadi kenyataan, dan kehidupan telah dicederakan secara tidak dapat diperbaiki:

• Dalam beberapa jam selepas pemimpin Tesla, Elon Musk menggembar-gemburkan kereta pandu sendiri mereka di Twitter, sebuah Tesla dalam mod pandu sendiri memutuskan untuk berhenti di tepi Bay Bridge, jalan raya 4 lorong yang bergerak pantas dan menyebabkan kemalangan 8 kereta mencederakan 9 orang termasuk seorang kanak-kanak berusia 2 tahun. Ini adalah salah satu daripada ratusan kemalangan yang telah disebabkan oleh sistem pemanduan sendiri Tesla, yang membawa kepada 19 kematian sejak 2016.
• Randall Reid sedang dalam perjalanan ke majlis makan malam Kesyukuran yang lewat bersama ibunya apabila polis menghalangnya dan memasukkannya ke dalam penjara selama seminggu selepas itu. perisian padanan muka telah menandakan dia sebagai suspek dalam kes kecurian dompet mewah Louisiana. Satu-satunya masalah? Dia tidak pernah menjejakkan kaki di negeri itu. Tetapi, penduduk Georgia berusia 28 tahun itu adalah warga Afrika-Amerika–dan perisian pengecaman muka telah dikritik secara meluas kerana ketidakupayaannya untuk membezakan dengan tepat antara wajah Hitam.

“Mereka memberitahu saya saya mempunyai waran keluar dari Jefferson Parish. Saya berkata, 'Apakah Jefferson Parish?'” Reid diperhatikan kepada AP. “Saya tidak pernah ke Louisiana sehari dalam hidup saya. Kemudian mereka memberitahu saya ia adalah untuk kecurian. Jadi bukan sahaja saya tidak pernah ke Louisiana, saya juga tidak mencuri.”

Mungkin bukan untuk mempertahankan Elon Musk, tetapi dengan cara penjelasan, dia sering perhatikan bahawa matlamat altruistiknya adalah untuk akhirnya mengurangkan jumlah kemalangan jalan raya dan kematian dengan menjadikan kereta lebih pintar daripada manusia. Dan untuk menjadikan kereta itu lebih pintar, mereka mungkin perlu bergerak berpuasa (secara literal) dan memecahkan beberapa perkara (juga, secara literal) di jalan yang sebenar.

Di sinilah seseorang mungkin sejajar dengan matlamatnya–jalan yang lebih selamat–tetapi mempertikaikan kaedahnya–percubaan manusia. Kami pergi dari ujian perubatan pada manusia–tanpa persetujuan mereka, dalam kes Nazi Jerman dan juga Tuskegee “kajian” — kepada tikus, yang tidak boleh bersetuju — kepada industri seperti kosmetik yang mempelajari cara menguji produk tanpa kos nyawa, manusia, haiwan atau sebaliknya. Bolehkah teknologi diuji tanpa membahayakan orang ramai di sepanjang jalan? Di sinilah kami — dan badan kawal selia kerajaan — boleh membuat pilihan tentang jenis eksperimen yang kami sanggup untuk tertakluk kepada rakyat kami.

Dan kemudian dalam kes kecerdasan buatan, terdapat kebimbangan munasabah yang dinyatakan bahawa dalam konteks pasukan teknologi yang umumnya kekurangan kepelbagaian dunia global kita di mana lebih 85% orang tinggal di Asia, Afrika dan Amerika Latin, terdapat kemungkinan bahaya yang ketara itu boleh dilakukan jika teknologi gagal untuk memasukkan kepelbagaian ke dalam reka bentuk mereka. Orang suka Timnit Gebru dengan Hitam dalam AI sedang melakukan kerja keras untuk memastikan orang di belakang mesin bertanggungjawab tetapi telah menghadapi banyak masalah memandangkan kuasa ekonomi yang mengawal kebanyakan penyelidikan ini.

Kita tidak perlu kembali kepada kuda dan kereta jika kita menolak kereta pandu sendiri. Apa yang BOLEH kami lakukan ialah menyokong moto teknologi baharu untuk dekad yang akan datang: "bergerak perlahan dan kurangkan rehat."

Begitu juga, Hermant Tenaja menulis dalam Kajian Perniagaan Harvard, "Produk berdaya maju minimum" mesti digantikan dengan "produk bermutu minimum"— tawaran baharu yang menguji kesan ke atas pihak berkepentingan dan berjaga-jaga terhadap kemungkinan bahaya." Beliau menawarkan lapan soalan yang perlu ditanya oleh usahawan teknologi masa kini, termasuk:

• Apakah perubahan sistemik dan masyarakat yang anda ingin cipta dengan produk anda?
• Bagaimanakah anda akan mengekalkan kebaikan produk anda?
• Apakah rangka kerja anda untuk memanfaatkan data dan AI secara bertanggungjawab?
• Bagaimanakah anda mentakrif dan mempromosikan kepelbagaian dalam konteks perniagaan anda?

Usahawan boleh memikirkan soalan-soalan ini untuk produk mereka. Dan kemudian bagi pengguna, sebelum menukar wajah anda kepada perkhidmatan penjanaan avatar yang terbaharu, terhebat, mungkin bijak untuk berfikir dua kali tentang bagaimana ia boleh kembali menggigit anda. Kita tidak perlu mengabaikan teknologi — tetapi mungkin kita boleh belajar untuk menjadi pengguna teknologi yang lebih sedar.