Penggunaan teknologi pengenalan wajah ‘sangat tidak bertanggung jawab’

Orang kulit hitam dan etnis minoritas dapat diidentifikasi secara keliru dan menghadapi pertanyaan karena polisi gagal menguji seberapa baik sistem mereka menangani wajah yang bukan kulit putih, kata para pegiat. Paling tidak ada tiga peluang untuk menilai seberapa baik sistem itu menangani masalah etnis selama lima tahun terakhir, menurut laporan BBC. Para pegiat mengatakan teknologi itu memiliki terlalu banyak masalah untuk digunakan secara luas. “Itu harus segera dihapus,” kata kelompok hak privasi Big Brother Watch.

Beberapa pasukan kepolisian Inggris telah menguji coba teknologi pengenalan wajah baru yang kontroversial, termasuk sistem otomatis yang berupaya mengidentifikasi wajah orang secara real time ketika mereka melewati kamera.

Dokumen-dokumen dari kepolisian, kantor pusat dan para peneliti universitas menunjukkan bahwa polisi sadar bahwa etnisitas dapat berdampak pada sistem semacam itu, tetapi pada beberapa kesempatan gagal menguji hal ini.

Home Office mengatakan pengenalan wajah bisa menjadi “alat yang tak ternilai” dalam memerangi kejahatan. “Teknologi ini terus berkembang, dan Home Office terus menjaga keefektifannya di bawah tinjauan konstan,” kata seorang juru bicara kepada BBC.

Kemampuan perangkat lunak pengenal wajah untuk mengatasi wajah hitam dan etnis minoritas telah membuktikan kekhawatiran utama bagi mereka yang khawatir tentang teknologi, yang mengklaim perangkat lunak sering dilatih pada wajah yang didominasi kulit putih.

Beberapa menit dari kelompok kerja polisi mengungkapkan bahwa mantan kepala pengenalan wajah polisi Inggris tahu bahwa warna kulit adalah masalah. Pada pertemuan April 2014, Kepala Polisi Durham, Polisi Mike Barton mencatat “bahwa etnisitas dapat berdampak pada akurasi pencarian”.

Dia meminta CGI, perusahaan Kanada yang mengelola basis data citra wajah kepolisian, untuk menyelidiki masalah ini, tetapi berita acara berikutnya dari kelompok kerja tersebut tidak menyebutkan tindak lanjut.

Keterangan gambar Bertemu dengan bos polisi Cressida Dick mengatakan dia menggunakan pengenalan wajah adalah “halal dan pantas”

Pengenalan wajah diperkenalkan pada Database Nasional Kepolisian (PND), yang mencakup sekitar 13 juta wajah, pada tahun 2014. Basis data ini memiliki masalah dengan kelompok privasi karena berisi gambar orang yang kemudian dibersihkan dari pelanggaran apa pun. Keputusan pengadilan 2012 memutuskan bahwa memegang gambar semacam itu melanggar hukum.

Gambar “melanggar hukum” masih disimpan di PND. Pemerintah saat ini sedang menyelidiki cara untuk membersihkan mereka dari sistem. Meskipun demikian, sistem pengenalan wajah PND, yang disediakan oleh perusahaan Jerman Cognitec, telah terbukti sangat populer. Jumlah pencarian kecocokan wajah yang dilakukan pada PND tumbuh dari 3.360 pada 2014 menjadi 12.504 pada 2017, permintaan Kebebasan Informasi kepada Home Office telah terungkap.

Pada 2015, tim penilai dari Home Office menguji sistem pencarian wajah PND, menggunakan sekitar 200 sampel gambar. Mereka telah mengidentifikasi informasi etnis tentang foto-foto sampel tetapi, sekali lagi, gagal menggunakan kesempatan ini untuk memeriksa seberapa baik sistem bekerja dengan warna kulit yang berbeda.

Laporan Home Office yang sama juga memperkirakan bahwa, di seluruh PND, sekitar 40% gambar digandakan. Disebutkan bahwa ini berarti pemerintah Inggris membayar lebih dari ratusan ribu pound kepada Cognitec, karena perusahaan mengenakan biaya lebih banyak sekali jumlah gambar (atau “templat”) pada basis data melebihi 10 juta.

Penilaian Home Office juga menemukan sistem pengenalan wajah hanya setengah sebagus mata manusia. Dikatakan: “Dari 211 pencarian awal, pencarian wajah otomatis PND mengidentifikasi hanya 20 pertandingan yang benar, sedangkan pemeriksaan visual oleh tester mengidentifikasi total 56 pertandingan.”

Cognitec menolak mengomentari biaya, tetapi mengatakan teknologi pencocokannya telah meningkat sejak laporan Home Office, dan bahwa hasil pengenalan wajah selalu perlu ditinjau oleh manusia.

Seorang juru bicara Dewan Kepolisian Nasional mengatakan teknologi itu berpotensi mengganggu penjahat, tetapi mengatakan setiap peluncuran harus menunjukkan keefektifannya dalam “perlindungan yang memadai”. Ditambahkan bahwa pekerjaan sedang dilakukan untuk meningkatkan akurasi sistem dan menghapus duplikat.

Peluang lain untuk mengecek bias rasial terlewatkan tahun lalu selama uji coba oleh South Wales perangkat lunak pengenalan wajah waktu-nyata, yang digunakan pada acara-acara olahraga dan konser. Universitas Cardiff melakukan penilaian penggunaan kekuatan teknologi,

Studi itu menyatakan bahwa “karena dana terbatas untuk percobaan ini”, etnisitas tidak diuji. Namun, laporan Cardiff mencatat bahwa “selama periode evaluasi, tidak ada efek diskriminasi rasial yang teramati”, tetapi mengatakan ini mungkin disebabkan oleh peningkatan demografis dari daftar pengawasan yang digunakan oleh pasukan.

Selain itu, laporan sementara oleh kelompok penasihat biometrik kepada pemerintah yang mempertimbangkan masalah etika pengenalan wajah menyoroti kekhawatiran tentang kurangnya keragaman etnis dalam dataset.

Representasi yang kurang dari jenis wajah tertentu, terutama yang berasal dari etnis minoritas, bisa berarti bias “memberi makan” ke dalam penggunaan teknologi, katanya. Silkie Carlo, direktur kelompok kampanye Big Brother Watch, mengatakan: “Kegagalan polisi untuk melakukan tes akurasi dasar untuk ras berbicara banyak.

“Kebutaan mereka yang disengaja terhadap risiko rasisme, dan risiko terhadap hak orang Inggris secara keseluruhan, mencerminkan cara berbahaya yang tidak bertanggung jawab di mana pengenalan wajah merayap ke jalan-jalan kita.”

Teknologi ini memiliki terlalu banyak masalah untuk membenarkan penggunaannya, katanya. “Itu harus segera dijatuhkan,” Ms Carlo menambahkan. Big Brother Watch saat ini mengambil tindakan hukum terhadap Polisi Metropolitan atas penggunaan sistem pengenalan wajah otomatis.

Leave a Reply

Your email address will not be published. Required fields are marked *