Polisi Durham berencana menggunakan AI untuk membantu petugas membuat keputusan apakah tersangka harus ditahan.
Alat Risiko Penilaian Bahaya (HART) telah dilatih berdasarkan catatan polisi Durham sejak tahun 2008 hingga 2012, dan menggunakan informasi ini untuk mengukur apakah tersangka mempunyai risiko rendah, sedang, atau tinggi menyinggung.
Sistem ini diujicobakan pada tahun 2013, dan hasil keputusannya dipantau selama dua tahun. Para peneliti menemukan bahwa prediksi HART untuk tersangka berisiko rendah 98% benar, dan prediksi untuk tersangka berisiko tinggi 88% benar.
Selama masa percobaan ini, AI tidak digunakan untuk mempengaruhi keputusan petugas. Tapi berbicara dengan BBC, Sheena Urwin, kepala peradilan pidana di Durham Constabulary, mengatakan dia membayangkan itu akan menjadi alat yang hidup “dalam dua hingga tiga bulan ke depan”.
Untuk mengambil keputusan mengenai tingkat risiko tersangka, Hart mempertimbangkan beberapa pertimbangan seperti keseriusan dugaan kejahatan dan riwayat kriminal sebelumnya. Saat ini mereka cenderung ke arah pandangan yang hati-hati, yang berarti mereka lebih cenderung mengklasifikasikan tersangka sebagai medium atau tinggi – hal ini tidak akan menguntungkan persepsi HART jika mereka mulai melepaskan penjahat berbahaya.
Salah satu kekhawatiran terbesarnya adalah – walaupun algoritma terlihat netral – algoritma cenderung dipengaruhi oleh tangan manusia yang membuatnya. Tahun lalu banyak dikutip ProPublica artikel mengungkapkan bagaimana perangkat lunak yang sebanding dengan HART bias terhadap orang kulit hitam. Memastikan prasangka manusia tidak mempengaruhi AI adalah tugas yang sulit, hal yang saat ini dihadapi oleh sebagian besar komunitas AI.
Lihat terkait
Dalam hal HART, AI memperhitungkan elemen-elemen seperti gender dan kode pos, meskipun pengembangnya mengatakan aspek-aspek ini tidak akan digunakan sendiri untuk mengambil keputusan. “Berada di kode pos tertentu tidak berdampak langsung pada hasil, namun harus digabungkan dengan semua prediktor lainnya di ribuan cara berbeda sebelum kesimpulan akhir yang diperkirakan tercapai,” kata pencipta HART dalam penyelidikan parlemen tentang algoritmik pengambilan keputusan.
Rencananya adalah menggunakan AI sebagai penasihat dalam pemilihan kasus secara acak. Jika berhasil, HART dapat digunakan untuk lebih dari tiga tingkat penilaian risiko. Berbicara kepada BBC, Profesor Lawrence Sherman – direktur Pusat Pemolisian Berbasis Bukti di Universitas Cambridge – mengatakan ada ruang untuk menggunakan AI untuk membantu memutuskan berapa lama tersangka harus ditahan, apakah mereka harus dibebaskan dengan jaminan dengan dakwaan, atau apakah mereka harus dibebaskan setelah dakwaan dijatuhkan. dibuat.
Semua hal ini dilakukan berdasarkan pertimbangan, namun hal ini tentu saja menimbulkan pertanyaan mengenai sejauh mana keputusan yang diarahkan oleh AI dapat diterapkan dalam kepolisian. Apakah penilaian mesin akan lebih akurat, atau apakah penilaian tersebut tidak memiliki pengetahuan subjektif dan manusiawi dibandingkan petugas yang berpengalaman?
