Clearview AI terlibat dalam ‘pengawasan massal’ ilegal terhadap warga Kanada, temuan penyelidikan

Praktik Clearview AI yang berbasis di New York untuk menyedot jutaan gambar warga Kanada dan menawarkan layanan pengenalan wajah untuk pelanggan merupakan “pengawasan massal” ilegal, menurut penyelidikan oleh empat komisaris privasi.

Investigasi bersama federal, BC, Alberta dan Quebec yang dirilis Rabu menemukan bahwa Clearview melanggar undang-undang privasi federal dan provinsi ketika mengumpulkan wajah-wajah orang Kanada – termasuk anak-anak – membuat katalog biometrik mereka dan kemudian menawarkannya sebagai database yang dapat dicari, semua tanpa sepengetahuan atau persetujuan dari orang-orang yang digeledah.

Jumlah pasti gambar warga Kanada yang tersedot ke dalam database Clearview tidak diketahui, kata komisaris, karena perusahaan tidak menyimpan informasi itu saat mengumpulkan gambar. Tapi mereka mengatakan itu adalah “kepastian relatif” bahwa Clearview menyimpan “jutaan gambar individu di Kanada” di lebih dari tiga miliar wajah di seluruh dunia.

Perusahaan memasarkan layanannya ke lembaga penegak hukum di Kanada. Laporan media tahun lalu mengatakan perusahaan telah membagikan teknologinya dengan polisi di Toronto dan Ottawa, di antara kota-kota lain. RCMP adalah “pelanggan yang membayar” pada satu titik, dan secara total, 48 akun dibuat untuk penegakan hukum dan organisasi lain di seluruh Kanada, kata para komisaris.

“Ini benar-benar tidak dapat diterima bagi jutaan orang yang tidak akan pernah terlibat dalam kejahatan apa pun untuk menemukan diri mereka terus-menerus dalam barisan polisi,” kata komisaris privasi federal Daniel Therrien.

Michael McEvoy, komisaris informasi dan privasi untuk British Columbia, mengatakan bahwa “tidak dapat diterima dan sangat meresahkan bahwa perusahaan akan membuat database raksasa dari data biometrik kami dan menjualnya untuk mendapatkan keuntungan tanpa mengenali sifat invasifnya.”

Teknologi Clearview mengekstrak gambar wajah dari sumber yang tersedia untuk umum, seperti media sosial, dan kemudian mengaitkan setiap gambar dengan pengukuran biometrik. Pengguna kemudian mengupload gambar mereka sendiri untuk melihat apakah biometriknya cocok dengan salah satu dari wajah di database. Hasilnya kemudian ditautkan dengan sumber asli gambar.

Perusahaan berhenti menawarkan layanannya di Kanada setelah penyelidikan bersama diluncurkan, dan kemudian membatalkan klien Kanada-nya. Pada Juli, kantor Therrien mengonfirmasi bahwa kontrak RCMP dengan Clearview ditangguhkan tanpa batas waktu.

Komisaris ingin perusahaan melangkah lebih jauh dan berkomitmen untuk menghentikan pengumpulan atau penggunaan gambar orang Kanada, dan menghapus gambar yang sudah dimilikinya.

Clearview mengatakan akan bersedia untuk “mengambil langkah … untuk mencoba membatasi pengumpulan dan distribusi gambar yang dapat diidentifikasi sebagai orang Kanada”. Namun secara keseluruhan, komisaris mengatakan perusahaan “secara tegas tidak setuju dengan kesimpulan kami”.

Posisi Clearview adalah karena ia menggunakan informasi yang tersedia untuk umum, ia harus dibebaskan dari persyaratan seputar memperoleh persetujuan.

Clearview AI melanggar undang-undang privasi federal dan provinsi ketika mengumpulkan jutaan wajah warga Kanada, membuat katalog biometrik mereka dan kemudian menawarkannya dalam database yang dapat dicari, menurut penyelidikan oleh empat komisaris.

Perusahaan tersebut mengatakan hanya mengumpulkan gambar dari halaman web yang dapat dilihat oleh anggota masyarakat, dan menghindari orang-orang yang berada di belakang pengaturan privasi media sosial, atau dari situs web yang menginstruksikan mesin pencari untuk tidak memindai halaman mereka.

Pengacara Clearview AI Doug Mitchell menegaskan kembali dalam sebuah pernyataan bahwa teknologi itu “tidak tersedia di Kanada” dan perusahaan tidak beroperasi di Kanada.

“Clearview AI hanya mengumpulkan informasi publik dari Internet yang secara eksplisit diizinkan di bawah PIPEDA (Undang-Undang Perlindungan Informasi Pribadi dan Dokumen Elektronik Kanada),” katanya kepada media.

Para komisaris – Therrien, McEvoy, komisaris privasi Alberta Jill Clayton, dan Diane Poitras, presiden Commission d’accès à l’information du Québec – tidak setuju dengan penilaian itu.

Mereka mengatakan informasi yang dikumpulkan dari situs publik, seperti profil media sosial, “dan kemudian digunakan untuk tujuan yang tidak terkait, tidak termasuk dalam pengecualian ‘tersedia untuk umum’ dari PIPEDA,” juga tidak termasuk dalam pengecualian serupa di Alberta, BC atau Hukum Quebec.

“Perusahaan pada dasarnya mengklaim bahwa individu yang menempatkan atau mengizinkan gambar mereka untuk ditempatkan di Internet tidak memiliki harapan privasi yang wajar dalam gambar tersebut, bahwa informasi tersebut tersedia untuk umum, dan bahwa kepentingan bisnis dan kebebasan berekspresi perusahaan yang sesuai harus menang, Kata Therrien.

“Kolega saya dan saya pikir argumen ini harus ditolak.”

Clearview juga berpendapat bahwa hal itu memberikan manfaat bagi keselamatan publik dengan menawarkan alat baru kepada polisi untuk mengidentifikasi korban, saksi, dan tersangka.

Perusahaan mempromosikan kisah sukses yang terkait dengan pembunuhan atau eksploitasi seksual anak. Ini menunjukkan bahwa persyaratan layanannya hanya memungkinkan penggunaan “penegakan hukum yang sah”.

Namun komisaris mengatakan tindakan Clearview akan menciptakan “risiko bahaya yang signifikan” bagi individu, termasuk melalui kesalahan identifikasi atau paparan pelanggaran data.

Carl Meyer / Inisiatif Jurnalisme Lokal / Pengamat Nasional Kanada

https://thefroggpond.com/