September 26, 2022

Microsoft mengumumkan pada hari Selasa bahwa mereka akan menghapus alat analisis wajah tertentu dari layanan Azure AI-nya sesuai dengan Standar AI Bertanggung Jawab yang baru. Kemampuan untuk secara otomatis “menyimpulkan keadaan emosional dan atribut identitas seperti jenis kelamin, usia, senyum, rambut wajah, rambut, dan riasan,” seperti yang dijelaskan oleh Chief AI Officer Microsoft, Natasha Crampton, dalam pernyataannya, tidak akan tersedia lagi untuk pengguna. pengguna baru minggu ini dan akan dihapus untuk pengguna yang sudah ada tahun ini.

Pengenalan wajah bertenaga AI telah dikritik oleh kelompok-kelompok seperti Electronic Frontier Foundation (EFF) selama bertahun-tahun. Sementara penggunaan penegakan hukum seringkali yang paling mengkhawatirkan, penelitian telah menunjukkan bahwa alat-alat ini tidak akurat dalam mengidentifikasi atribut seperti gender—terutama di antara kelompok yang beragam dan minoritas. Misalnya, Media Lab MIT menemukan bahwa pengenalan wajah IBM, Face++, dan Microsoft secara tidak proporsional salah mengklasifikasikan jenis kelamin wajah berkulit gelap dan wajah wanita. Alat berkinerja terburuk salah mengklasifikasikan jenis kelamin wajah perempuan berkulit gelap 34,7 persen dari waktu sementara jenis kelamin wajah laki-laki berkulit lebih terang salah diklasifikasikan antara hanya 0 persen dan 0,8 persen dari waktu.

Terlebih lagi, dalam siaran pers Microsoft mengakui bahwa ekspresi wajah dan emosi tidak universal lintas budaya. Crompton menulis, “Para ahli di dalam dan di luar perusahaan telah menyoroti kurangnya konsensus ilmiah tentang definisi ’emosi,’ tantangan dalam bagaimana kesimpulan digeneralisasikan di seluruh kasus penggunaan, wilayah, dan demografi, dan kekhawatiran privasi yang meningkat di sekitar jenis kemampuan ini. .”

Ini semua adalah bagian dari Responsible AI Standard V2 Microsoft, yang baru saja dirilis ke publik. Dokumen tersebut merupakan upaya untuk menetapkan prinsip panduan (dikelompokkan di bawah Akuntabilitas, Transparansi, Keadilan, Keandalan dan Keamanan, Privasi dan Keamanan, dan Inklusivitas) untuk tim pengembangan produknya, sambil mengakui bahwa hukum dan norma masyarakat belum sepenuhnya memenuhi standar. risiko dan tantangan unik yang ditimbulkan oleh kecerdasan buatan. (Sementara itu, UE, dengan cara yang khas, tampaknya akan menjadi kelompok pertama yang menerapkan peraturan ketat tentang bagaimana AI dapat digunakan dalam berbagai pengaturan.)

See also  Sorotan dari sidang Senat TikTok

Tentu saja, Microsoft bukan satu-satunya perusahaan yang dikritik karena program pengenalan wajahnya (dan saat ini tidak menyediakan layanan pengenalan wajahnya kepada penegak hukum). Facebook mengakhiri fitur pengenalan wajah yang akan mengenali dan menyarankan teman untuk “menandai” di foto Anda akhir tahun lalu setelah lebih dari satu dekade digunakan, dua denda yang besar, dan banyak kritik.

Zoom juga menghadapi kritik saat ini karena fitur pengenalan suasana hati dan keterlibatan yang didukung AI. Lebih dari 25 kelompok hak asasi manusia menandatangani surat bulan lalu yang meminta Zoom untuk menarik fitur tersebut karena bersifat manipulatif, diskriminatif, dan pseudoscientific. Menurut dokumen bantuan Zoom, Zoom IQ for Sales akan melacak metrik seperti “rasio bicara-mendengarkan,” “kecepatan bicara,” “kata-kata pengisi,” “spiel terpanjang,” “kesabaran,” “pertanyaan menarik,” dan menawarkan sentimen dan keterlibatan analisis untuk setiap penelepon. Zoom tidak menanggapi permintaan dari PopSci untuk komentar, juga tidak secara terbuka menanggapi surat itu.

Dengan Microsoft, penting untuk dicatat bahwa alat pengenalan wajahnya tidak akan hilang sepenuhnya. Itu masih akan menawarkannya kepada perusahaan seperti Uber yang ingin melakukan hal-hal seperti memverifikasi bahwa seseorang yang mendaftar untuk suatu layanan memiliki ID yang valid. Namun, mengambil pelajaran yang telah dipelajari menerapkan “kontrol penggunaan yang tepat” dengan Custom Neural Voice (yang memungkinkan untuk membuat suara sintetis yang terdengar hampir identik dengan sumber aslinya) untuk memastikan bahwa mereka tidak dapat disalahgunakan. Ia berencana untuk membatasi penggunaannya untuk pelanggan dan mitra terkelola, mempersempit kasus penggunaan yang diizinkan menjadi “yang dapat diterima sebelumnya”, dan memanfaatkan kontrol teknis untuk menjaga semuanya tetap di atas papan.

Apakah ini cukup untuk mengimbangi kritik umum dan kekhawatiran yang sah dari alat pengenalan wajah masih harus dilihat. Meskipun alat ini dapat membantu untuk tujuan seperti mengaburkan wajah secara otomatis dalam rekaman kamera keamanan, alat ini juga sangat mudah disalahgunakan. Dan di luar kekhawatiran tentang perusahaan swasta, potensi pemerintah dan lembaga federal untuk melampaui pengenalan wajah hampir tidak terbatas.

See also  Keluarga drone Gambit dibangun di atas inti yang sama