Algoritma yang menghubungkan penampilan dengan kriminalitas memiliki masa lalu yang kelam

Algoritma yang menghubungkan penampilan dengan kriminalitas memiliki masa lalu yang kelam

Algoritma yang menghubungkan penampilan dengan kriminalitas memiliki masa lalu yang kelam

 

Algoritma yang menghubungkan penampilan dengan kriminalitas memiliki masa lalu yang kelam
Algoritma yang menghubungkan penampilan dengan kriminalitas memiliki masa lalu yang kelam

‘Phrenology’ memiliki cincin kuno untuk itu. Sepertinya itu milik buku sejarah, yang ditulis di suatu tempat antara pertumpahan darah dan velocipedes. Kami ingin berpikir bahwa menilai nilai orang berdasarkan ukuran dan bentuk tengkorak mereka adalah praktik yang baik di belakang kami. Namun, frenologi sekali lagi membesarkan kepalanya yang kental.

Dalam beberapa tahun terakhir, algoritma pembelajaran mesin telah menjanjikan pemerintah dan perusahaan swasta kekuatan untuk mengumpulkan semua jenis informasi dari penampilan orang. Beberapa startup sekarang mengklaim dapat menggunakan kecerdasan buatan (AI) untuk membantu pengusaha mendeteksi sifat-sifat kepribadian dari kandidat pekerjaan berdasarkan ekspresi wajah mereka. Di Cina, pemerintah telah mempelopori penggunaan kamera pengintai yang mengidentifikasi dan melacak etnis minoritas. Sementara itu, muncul laporan tentang sekolah-sekolah yang memasang sistem kamera yang secara otomatis memberikan sanksi kepada anak-anak karena tidak memperhatikan, berdasarkan gerakan wajah dan ekspresi mikro seperti kedutan pada alis.

Mungkin yang paling terkenal, beberapa tahun yang lalu, peneliti AI Xiaolin Wu dan Xi Zhang mengklaim telah melatih algoritma untuk mengidentifikasi penjahat berdasarkan bentuk wajah mereka, dengan akurasi 89,5 persen. Mereka tidak melangkah lebih jauh dengan mengesahkan beberapa gagasan tentang fisiognomi dan karakter yang beredar pada abad ke-19, terutama dari karya kriminolog Italia Cesare Lombroso: bahwa penjahat itu tidak terselubung, binatang buas yang tidak manusiawi, dapat dikenali dari dahi mereka yang miring dan hidung seperti elang.

Namun, upaya penelitian yang tampaknya baru-baru ini tampaknya berteknologi tinggi untuk memilih fitur wajah yang terkait dengan pinjaman kriminalitas langsung dari ‘metode gabungan fotografi’ yang dikembangkan oleh jack-of-all-trades Victoria Francis Galton – yang melibatkan pelapisan wajah banyak orang di kategori tertentu untuk menemukan fitur yang menunjukkan kualitas seperti kesehatan, penyakit, kecantikan dan kriminalitas.

Para komentator teknologi menyebut teknologi pengenal wajah ini sebagai ‘phrenology literal’; mereka juga mengaitkannya dengan eugenika, pseudosain untuk meningkatkan ras manusia dengan mendorong orang-orang yang dianggap paling cocok untuk bereproduksi. (Galton sendiri menciptakan istilah ‘eugenika’, menggambarkannya pada tahun 1883 sebagai ‘semua pengaruh yang cenderung pada tingkat yang jauh untuk memberikan kepada ras atau galur darah yang lebih cocok, kesempatan yang lebih baik untuk menang dengan cepat di atas yang kurang sesuai daripada yang seharusnya mereka lakukan). telah ‘.)

Dalam beberapa kasus, tujuan eksplisit dari teknologi ini adalah untuk menyangkal peluang bagi mereka yang dianggap tidak layak; pada orang lain, itu mungkin bukan tujuan, tetapi ini adalah hasil yang dapat diprediksi. Namun ketika kita menolak algoritme dengan menandainya sebagai phrenology, apa sebenarnya masalah yang kita coba tunjukkan? Apakah kita mengatakan bahwa metode-metode ini cacat secara ilmiah dan tidak benar-benar berfungsi – atau apakah kita mengatakan bahwa secara moral salah menggunakannya?

T di sini adalah panjang dan kusut sejarah dengan cara ‘phrenology’ telah digunakan sebagai penghinaan layu. Kritik filosofis dan ilmiah dari upaya ini selalu terjalin, meskipun keterikatan mereka telah berubah dari waktu ke waktu.

Pada abad ke-19, para pencela frenologi menentang fakta bahwa frenologi berusaha menunjukkan dengan tepat lokasi berbagai fungsi mental di berbagai bagian otak – suatu gerakan yang dipandang sesat, karena mempertanyakan ide-ide Kristen tentang kesatuan jiwa. . Menariknya, mencoba menemukan karakter dan kecerdasan seseorang berdasarkan ukuran dan bentuk kepala mereka tidak dianggap sebagai masalah moral yang serius.

Hari ini, sebaliknya, ide fungsi mental lokalisasi cukup kontroversial. Para ilmuwan mungkin tidak lagi berpikir bahwa destruktifitas duduk di atas telinga kanan, tetapi gagasan bahwa fungsi kognitif dapat dilokalisasi dalam sirkuit otak tertentu adalah asumsi standar dalam ilmu saraf arus utama.

Phrenology juga mendapat bagian dari kritik empiris pada abad ke-19. Perdebatan merebak tentang fungsi mana

yang berada, dan apakah pengukuran tengkorak adalah cara yang dapat diandalkan untuk menentukan apa yang terjadi di otak. Kritik empiris yang paling berpengaruh terhadap frenologi lama, berasal dari studi dokter Prancis Jean Pierre Flourens yang didasarkan pada perusakan otak kelinci dan merpati – yang darinya ia menyimpulkan bahwa fungsi mental didistribusikan, alih-alih dilokalisasi. (Hasil ini kemudian didiskreditkan.) Fakta bahwa frenologi ditolak karena alasan yang tidak akan diterima oleh kebanyakan pengamat kontemporer menjadikannya lebih sulit untuk mengetahui apa yang kami targetkan ketika kami menggunakan ‘phrenology’ sebagai slur hari ini.

Frenologi ‘lama’ dan ‘baru’ telah dikritik karena metode ceroboh mereka. Dalam studi AI baru-baru ini tentang kriminalitas, data diambil dari dua sumber yang sangat berbeda: foto-foto tahanan, versus gambar-gambar dari situs web kerja untuk non-narapidana. Fakta itu sendiri dapat menjelaskan kemampuan algoritma untuk mendeteksi perbedaan antara kelompok. Dalam kata pengantar baru untuk makalah, para peneliti juga mengakui bahwa mengambil hukuman pengadilan sebagai identik dengan kriminalitas adalah ‘pengawasan serius’.

Namun menyamakan hukuman dengan kriminalitas tampaknya mendaftar dengan penulis terutama sebagai cacat empiris: menggunakan mugshots dari penjahat yang dihukum, tetapi tidak dari orang-orang yang lolos memperkenalkan bias statistik. Mereka mengatakan bahwa mereka ‘sangat bingung’ di kemarahan publik sebagai reaksi terhadap makalah yang dimaksudkan ‘untuk diskusi akademis murni’.

Dari Wu and Zhang (2016)
Khususnya, para peneliti tidak mengomentari fakta bahwa hukuman itu sendiri tergantung pada kesan bahwa polisi, hakim dan juri membentuk tersangka – menjadikan penampilan ‘penjahat’ seseorang sebagai variabel yang membingungkan. Mereka juga gagal menyebutkan bagaimana pemolisian yang intens dari komunitas tertentu, dan ketidaksetaraan akses ke perwakilan hukum, membuat data menjadi tidak jelas.

Dalam tanggapan mereka terhadap kritik, penulis tidak mundur dengan asumsi bahwa ‘menjadi penjahat membutuhkan sejumlah sifat pribadi yang tidak normal’. Memang, pembingkaian mereka menunjukkan bahwa kriminalitas adalah karakteristik bawaan, daripada respons terhadap kondisi sosial seperti kemiskinan atau pelecehan. Bagian dari apa yang membuat dataset mereka dipertanyakan dengan alasan empiris adalah bahwa siapa yang diberi label ‘kriminal’ hampir tidak netral terhadap nilai.

Salah satu keberatan moral terkuat untuk menggunakan pengenalan wajah untuk mendeteksi kriminalitas adalah

bahwa hal itu menstigma orang-orang yang sudah kelebihan pembayaran. Para penulis mengatakan bahwa alat mereka tidak boleh digunakan dalam penegakan hukum, tetapi hanya mengutip argumen statistik tentang mengapa alat itu tidak boleh digunakan. Mereka mencatat bahwa tingkat false-positive (50 persen) akan sangat tinggi, tetapi tidak memperhatikan apa artinya dalam istilah manusia. Positif palsu itu adalah individu yang wajahnya menyerupai orang yang pernah dihukum di masa lalu. Mengingat bias rasial dan lainnya yang ada dalam sistem peradilan pidana, algoritma semacam itu akan berakhir melebih-lebihkan kriminalitas di antara masyarakat yang terpinggirkan.

Pertanyaan yang paling diperdebatkan adalah apakah menemukan kembali fisiognomi adalah permainan yang adil untuk tujuan ‘diskusi akademis murni’. Orang bisa keberatan dengan alasan empiris: eugenicists masa lalu seperti Galton dan Lombroso akhirnya gagal menemukan fitur wajah yang cenderung seseorang untuk kriminalitas. Itu karena tidak ada koneksi yang dapat ditemukan. Demikian juga, para psikolog yang mempelajari heritabilitas kecerdasan, seperti Cyril Burt dan Philippe Rushton, harus bermain cepat dan longgar dengan data mereka untuk membuat korelasi antara ukuran tengkorak, ras dan IQ. Jika ada sesuatu untuk ditemukan, mungkin banyak orang yang telah mencoba selama bertahun-tahun tidak akan menjadi kering.

Masalah dengan menemukan kembali fisiognomi bukan hanya karena telah dicoba tanpa keberhasilan sebelumnya. Para peneliti yang tetap mencari fusi dingin setelah konsensus ilmiah bergerak juga menghadapi kritik karena mengejar unicorn – tetapi ketidaksetujuan fusi dingin masih jauh dari kekurangan. Paling buruk, mereka dianggap membuang-buang waktu. Perbedaannya adalah bahwa potensi bahaya dari penelitian fusi dingin jauh lebih terbatas. Sebaliknya, beberapa komentator berpendapat bahwa pengenalan wajah harus diatur seketat plutonium, karena memiliki sedikit kegunaan yang tidak berbahaya.

Ketika proyek buntu yang ingin Anda bangkitkan diciptakan untuk tujuan menopang struktur kolonial dan kelas – dan ketika satu-satunya hal yang dapat diukur adalah rasisme yang melekat dalam struktur itu – sulit untuk membenarkan mencobanya sekali lagi, hanya demi rasa ingin tahu.

Namun, menyebut riset pengenalan wajah ‘phrenology’ tanpa menjelaskan apa yang dipertaruhkan mungkin bukan

strategi yang paling efektif untuk mengkomunikasikan kekuatan keluhan. Bagi para ilmuwan untuk mengambil tanggung jawab moral mereka dengan serius, mereka perlu menyadari bahaya yang mungkin timbul dari penelitian mereka. Menjabarkan dengan lebih jelas apa yang salah dengan karya yang diberi label ‘phrenology’ diharapkan akan memiliki dampak lebih dari sekadar melemparkan nama sebagai penghinaan.

Baca Juga: