• Saturday July 20,2019

Sekiranya Kita Bimbang Tentang Algoritma Komputer "Kesihatan Mental '?

Anonim

Adakah kereta saya halusinasi? Adakah algoritma yang menjalankan sistem pengawasan polis di paranoid bandar saya? Marvin yang android dalam Panduan Hitchhikers Douglas Adams kepada Galaxy mempunyai kesakitan di semua diod di sebelah kiri. Adakah itu bagaimana pembakar roti saya?

Ini semua menggelikan sehingga kita sedar bahawa algoritma kita semakin dibuat dalam imej kita sendiri. Seperti yang telah kita pelajari lebih banyak tentang otak kita sendiri, kita telah mendaftarkan pengetahuan itu untuk membuat versi algoritma kita sendiri. Algoritma ini mengawal kelajuan kereta tanpa pemandu, mengenal pasti sasaran untuk drone tentera autonomi, mengira kecenderungan kami untuk pengiklanan komersil dan politik, mencari jiwa kita dalam perkhidmatan temu janji dalam talian, dan menilai risiko insurans dan kredit kami. Algoritma menjadi latar belakang kehidupan kita.

Algoritma yang paling popular yang kini dimasukkan ke dalam tenaga kerja adalah algoritma pembelajaran mendalam. Algoritma ini mencerminkan seni bina otak manusia dengan membina perwakilan maklumat yang kompleks. Mereka belajar untuk memahami persekitaran dengan mengalami mereka, mengenal pasti apa yang kelihatan penting, dan mengetahui apa yang diramalkan apa. Seperti otak kita, algoritma ini semakin berisiko menghadapi masalah kesihatan mental.

Deep Blue, algoritma yang mengalahkan juara catur dunia, Garry Kasparov pada tahun 1997, melakukannya melalui kekerasan, memeriksa berjuta-juta posisi sesaat, sehingga 20 langkah di masa depan. Sesiapa pun boleh memahami bagaimana ia berfungsi walaupun mereka tidak dapat melakukannya sendiri. AlphaGo, algoritma pembelajaran mendalam yang mengalahkan Lee Sedol pada permainan Go di 2016, pada dasarnya berbeza. Menggunakan rangkaian saraf yang mendalam, ia mewujudkan pemahaman sendiri tentang permainan, yang dianggap sebagai permainan papan yang paling kompleks. AlphaGo belajar dengan menonton orang lain dan dengan bermain sendiri. Ahli-ahli sains komputer dan pemain Go sama-sama digemari oleh permainan unorthodox AlphaGo. Strateginya seolah-olah pada mulanya menjadi janggal. Hanya dalam keadaan terdahulu, kita faham apa yang dipikirkan oleh AlphaGo, dan walaupun itu tidak semua yang jelas.

Untuk memberi anda pemahaman yang lebih baik tentang apa yang saya maksudkan dengan berfikir, pertimbangkan ini. Program seperti Deep Blue boleh mempunyai pepijat dalam pengaturcaraan mereka. Mereka boleh terhempas dari beban memori. Mereka boleh memasuki keadaan lumpuh akibat gelung yang tidak berkesudahan atau hanya meludahkan jawapan yang salah pada jadual carian. Tetapi semua masalah ini dapat diselesaikan oleh seorang pengaturcara dengan akses kepada kod sumber, kod yang mana algoritma itu ditulis.

Algoritma seperti AlphaGo sama sekali berbeza. Masalah mereka tidak jelas dengan melihat kod sumber mereka. Mereka tertanam dalam cara mereka mewakili maklumat. Perwakilan itu adalah ruang tinggi dimensi yang sentiasa berubah, seperti berjalan dalam mimpi. Menyelesaikan masalah di sana memerlukan tidak kurang daripada psikoterapis untuk algoritma.

Ambil kes kereta tanpa pemandu. Kereta tanpa pemandu yang melihat tanda penangguhan pertama di dunia nyata akan melihat berjuta-juta tanda berhenti semasa latihan, apabila ia membina perwakilan mental tentang apa tanda berhenti. Di bawah pelbagai keadaan cahaya, dalam cuaca baik dan buruk, dengan dan tanpa lubang peluru, tanda-tanda berhenti itu didedahkan mengandungi pelbagai maklumat yang membingungkan. Di bawah keadaan yang paling biasa, kereta pengemudi akan mengenali tanda berhenti untuk apa itu. Tetapi tidak semua keadaan adalah normal. Beberapa demonstrasi baru-baru ini telah menunjukkan bahawa beberapa pelekat hitam pada tanda berhenti boleh menipu algoritma memikirkan bahawa tanda berhenti adalah tanda 60 mph. Tertakluk kepada sesuatu yang menakutkan mirip dengan naungan kontras tinggi pokok, halusinasi algoritma.

Berapa banyak cara yang berbeza yang dapat digagalkan algoritma? Untuk mengetahui, kami perlu menyediakan algoritma dengan semua kemungkinan rangsangan input. Ini bermakna terdapat cara yang berpotensi tanpa batas di mana ia boleh menjadi salah. Pemrograman Crackerjack sudah tahu ini, dan memanfaatkannya dengan mewujudkan apa yang dipanggil contoh-contoh adversarial. Kumpulan penyelidikan AI LabSix di Institut Teknologi Massachusetts telah menunjukkan bahawa dengan menyampaikan imej ke algoritma klasifikasi imej Google dan menggunakan data yang dihantar kembali, mereka dapat mengenal pasti titik lemah algoritma. Mereka kemudian boleh melakukan perkara yang sama dengan menipu perisian pengiktirafan imej Google untuk mempercayai bahawa imej yang diberi nilai X hanya beberapa anak anjing yang bermain di rumput.

Algoritma juga membuat kesilapan kerana mereka mengambil ciri-ciri persekitaran yang dikaitkan dengan hasil, walaupun tidak ada kaitan hubungan antara mereka. Dalam dunia algoritma, ini dipanggil overfitting. Apabila ini terjadi di dalam otak, kita menyebutnya tahyul.

Kegagalan algoritma terbesar disebabkan oleh tahyul yang kita ketahui setakat ini dipanggil perumpamaan Google Flu. Google Flu menggunakan apa yang orang menaip ke Google untuk meramalkan lokasi dan intensiti wabak influenza. Ramalan Google Flu berfungsi dengan baik pada mulanya, tetapi mereka bertambah buruk dari masa ke masa, sehingga akhirnya ia meramalkan dua kali jumlah kes seperti yang dikemukakan ke Pusat Kawalan Penyakit Amerika Syarikat. Seperti witchdoctor algoritmik, Google Flu hanya memperhatikan perkara-perkara yang salah.

Patologi algoritma mungkin boleh dibetulkan. Tetapi dalam praktiknya, algoritma sering menjadi kotak hitam milik yang mengemaskini dilindungi secara komersil. Senjata Pemusnahan Matematik Cathy O 'Neil (2016) menggambarkan satu algoritma komersil komersial yang patah-patah berbahaya memainkan peranannya untuk menghancurkan kehidupan rakyat. Kesalahan algoritma yang memisahkan orang kaya dari golongan miskin amat menarik. Orang yang lebih miskin lebih cenderung mempunyai kredit yang buruk, tinggal di kawasan kejahatan tinggi, dan dikelilingi oleh orang miskin yang lain dengan masalah yang sama. Oleh kerana itu, algoritma menargetkan individu-individu ini untuk menyesatkan iklan yang membuat mangsa terdesak, menawarkan pinjaman subprima, dan menghantar lebih banyak kepolisian ke kawasan kejiranan mereka, meningkatkan kemungkinan mereka akan dihentikan oleh polisi atas kejahatan yang dilakukan pada tingkat yang sama di kawasan kejiranan yang lebih kaya. Algoritma yang digunakan oleh sistem kehakiman memberi mereka hukuman penjara yang lebih lama, mengurangkan peluang mereka untuk bersyarat, menghalang mereka dari pekerjaan, meningkatkan kadar gadai janji mereka, menuntut premium yang lebih tinggi untuk insurans, dan sebagainya.

Lingkaran kematian algoritma ini tersembunyi dalam anak patung bersarang kotak hitam: algoritma kotak hitam yang menyembunyikan pemprosesan mereka dalam pemikiran dimensi tinggi yang tidak dapat kita akses tersembunyi lagi dalam kotak hitam pemilikan proprietari. Ini telah mendorong beberapa tempat, seperti New York City, mencadangkan undang-undang yang menguatkuasakan pemantauan keadilan dalam algoritma yang digunakan oleh perkhidmatan perbandaran. Tetapi jika kita tidak dapat mengesan kecenderungan dalam diri kita, mengapa kita mengharapkan untuk mengesannya dalam algoritma kita?

Dengan algoritma latihan pada data manusia, mereka mempelajari bias kami. Satu kajian baru-baru ini yang diketuai oleh Aylin Caliskan di Princeton University mendapati bahawa algoritma yang dilatih berdasarkan berita yang dipelajari bias rasis dan jantina pada dasarnya semalaman. Seperti Caliskan berkata: 'Ramai orang berfikir mesin tidak berat sebelah. Tetapi mesin dilatih dalam data manusia. Dan manusia berat sebelah.

Media sosial adalah sarang penipuan dan kebencian manusia. Algoritma yang meluangkan masa di laman media sosial dengan cepat menjadi besar. Algoritma ini adalah berat sebelah terhadap jururawat lelaki dan jurutera wanita. Mereka akan melihat isu-isu seperti imigresen dan hak minoriti dalam cara yang tidak berdiri untuk penyiasatan. Memandangkan separuh peluang, kita harus mengharapkan algoritma untuk merawat orang sebagai tidak adil apabila orang merawat satu sama lain. Tetapi algoritma adalah dengan pembinaan terlalu yakin, tanpa sebarang kesilapan sendiri. Kecuali jika mereka dilatih untuk berbuat demikian, mereka tidak mempunyai sebab untuk mempersoalkan ketidakcekapan mereka (sama seperti orang).

Untuk algoritma yang telah saya terangkan di atas, masalah kesihatan mental mereka datang dari kualiti data yang mereka dilatih. Tetapi algoritma juga boleh mempunyai masalah kesihatan mental berdasarkan cara mereka dibina. Mereka dapat melupakan perkara-perkara yang lebih tua apabila mereka mempelajari maklumat baru. Bayangkan belajar nama rakan sekerja baru dan tiba-tiba lupa di mana anda tinggal. Dalam melampau, algoritma boleh menderita dari apa yang disebut melupakan malapetaka, di mana seluruh algoritma tidak dapat lagi belajar atau mengingat apa-apa. Teori pengurangan kognitif berkaitan dengan usia manusia adalah berdasarkan idea yang sama: apabila memori menjadi terlalu banyak, otak dan komputer meja sama memerlukan lebih banyak masa untuk mencari apa yang mereka tahu.

Apabila sesuatu menjadi patologi sering menjadi pendapat. Akibatnya, anomali mental pada manusia secara rutin tidak dapat dikesan. Synaesthetes seperti anak perempuan saya, yang melihat huruf bertulis sebagai warna, sering tidak menyedari bahawa mereka mempunyai hadiah persepsi sehingga mereka masih muda. Bukti berdasarkan corak ucapan Ronald Reagan kini menunjukkan bahawa dia mungkin mengalami demensia ketika berada di jawatan presiden AS. Dan The Guardian melaporkan bahawa penembakan massa yang telah berlaku setiap sembilan daripada 10 hari sejak lima tahun yang lalu di Amerika Syarikat sering dilakukan oleh orang-orang yang biasa disebut 'normal' yang berlaku untuk menimbulkan rasa penganiayaan dan kemurungan.

Dalam banyak kes, ia memerlukan berulang kali tidak berfungsi untuk mengesan masalah. Diagnosis skizofrenia memerlukan sekurang-kurangnya satu bulan gejala yang melemahkan. Gangguan keperibadian antisosial, istilah moden untuk psikopati dan sosiopati, tidak boleh didiagnosis pada individu sehingga mereka berusia 18 tahun, dan kemudian hanya jika terdapat riwayat gangguan kelakuan sebelum usia 15 tahun.

Tiada biomarker untuk kebanyakan gangguan kesihatan mental, sama seperti tiada bug dalam kod AlphaGo. Masalahnya tidak dapat dilihat dalam perkakasan kami. Ia dalam perisian kami. Banyak cara fikiran kita menjadi salah menjadikan setiap masalah kesihatan mental unik untuk dirinya sendiri. Kami menyusunnya dalam kategori luas seperti skizofrenia dan sindrom Asperger, tetapi kebanyakannya adalah gangguan spektrum yang merangkumi gejala yang kita semua berkongsi dengan darjah yang berbeza. Pada tahun 2006, psikologi Matthew Keller dan Geoffrey Miller berhujah bahawa ini adalah harta yang tidak dapat dielakkan dari cara otak dibina.

Terdapat banyak perkara yang boleh dielakkan dalam fikiran seperti kita. Carl Jung pernah mencadangkan bahawa dalam setiap orang yang waras menyembunyikan gila. Oleh kerana algoritma kami menjadi lebih seperti diri kita, semakin mudah untuk disembunyikan.

Artikel ini pada asalnya diterbitkan di Aeon dan telah diterbitkan semula di bawah Creative Commons.


Artikel Yang Menarik

Internet kelihatan seperti Dandelion Fraktal

Internet kelihatan seperti Dandelion Fraktal

Barrett Lyon Pada tahun 2004 kawan-kawan Barrett Lyon menaruh $ 50 bahawa dia tidak dapat memetakan seluruh Internet dalam sehari. Dalam masa dua minggu, ahli teknologi dan usahawan yang telah menerangkan diri sendiri telah mencipta satu program yang boleh menghasilkan visualisasi terperinci sambungan Internet dalam beberapa jam

Dokumen Mengesan Masyarakat Nut-Phobik Dengan Mass Hysteria

Dokumen Mengesan Masyarakat Nut-Phobik Dengan Mass Hysteria

Ketakutan yang meresap alahan kacang di kalangan kanak-kanak telah menjadi tidak terkawal, kata seorang doktor, bahawa ia boleh dianggap sebagai penyakit berjangkit psikogenik massa (MPI), lebih dikenali secara tidak rasmi sebagai histeria massa. Menulis dalam Jurnal Perubatan British , ahli sosiologi perubatan, Nicholas Christakis berpendapat bahawa sebahagian kecil kemasukan dan kematian di hospital adalah akibat tindak balas alergi terhadap kacang namun langkah yang lebih keras dibawa masuk untuk menghalang mana-mana kanak-kanak bersentuhan dengan kacang

Ais Sudah tentu Ada Surface Bulan

Ais Sudah tentu Ada Surface Bulan

Kami telah melihat bukti deposit ais di permukaan Mercury dan Ceres, tetapi kita kini boleh menambah badan angkasa yang lebih dekat ke kelab. Penyelidikan yang diterbitkan pada 20 Ogos di Prosiding Akademi Sains Kebangsaan memperlihatkan bahawa tandatangan spesifik ais air berada di atas kawah-kawah yang sejuk di dekat tiang bulan - membuktikan kewujudan ais permukaan bulan buat kali pertama

Chimp Sex: Curlyly Complicated

Chimp Sex: Curlyly Complicated

Ahli psikologi British, Simon Townsend pasti memilih satu garis kerja yang menarik. Daripada membuat neurosis manusia, dia memilih menghabiskan 10 bulan berkhemah di Hutan Budongo Uganda, memantau kehidupan seks aktif sekumpulan cimpanzi dan membuat rekaman audio mengenai pertemuan seksual mereka. Selain menyediakan fodder untuk perbualan parti koktail yang menarik, Townsend juga membuat beberapa penemuan yang menarik tentang masa dan mengapa chimps wanita menangis semasa kawin

Adakah Aliens Memahami Rekod Emas Voyager?

Adakah Aliens Memahami Rekod Emas Voyager?

Kapal angkasa Pioneer dan Voyager terkenal mengandungi mesej kepada sesiapa saja yang mungkin dapat menemukannya pada suatu hari nanti. Kedua-dua Perintis membawa plak, manakala para Voyager membawa rekod ponografi. Banyak usaha yang dilakukan untuk membuat objek ini, tetapi boleh pemerhati asing benar-benar memahami mesej yang telah kami kirimkan kepada bintang-bintang

Cara Baru untuk Menguji Dadah: dalam Tikus Dengan Hidupan Manusia

Cara Baru untuk Menguji Dadah: dalam Tikus Dengan Hidupan Manusia

Apa Berita: Walaupun tikus merupakan alat utama untuk penyelidikan biomedik, mereka tidak selalu berguna untuk menguji ketoksikan ubat-ubatan farmaseutikal kerana mereka tidak bereaksi terhadap dadah dengan cara yang sama seperti yang dilakukan oleh manusia. Tetapi dalam satu kajian baru, yang diterbitkan dalam jurnal PNAS , para saintis di MIT telah mendapat masalah ini dengan menanam tikus dengan orang-orang yang kecil dan manusia