Isi
- Apa dalam sebuah Nama?
- Jika Komputer Dapat Berbicara, Bagaimana Seharusnya Bunyinya?
- Tanpa Bug, Tanpa Stres - Panduan Langkah Demi Langkah Anda untuk Membuat Perangkat Lunak yang Mengubah Hidup Tanpa Menghancurkan Kehidupan Anda
- Apa Kata Suara dan Ekspresi Siri Tentang Kami
- Tech May Have Advanced, tapi Women ... Tidak banyak
- Sangat Sedikit Wanita Bekerja di AI
- Jalan lurus
Sumber: Idey / Dreamstime.com
Bawa pulang:
Ada bukti adanya masalah bias yang terus-menerus dalam AI yang dapat menjadi salah satu alasan mengapa kita melihat stereotip gender dimanifestasikan dalam identitas perempuan yang terkait dengan asisten AI.
Pernah bertanya-tanya mengapa Alexa bukan Alex, yang sebenarnya bisa menjadi nama panggilan untuk kedua jenis kelamin? Sungguh ironis bahwa sebuah perusahaan dengan nama yang berasal dari ras pejuang wanita yang galak baru saja jatuh ke dalam praktik standar dalam casting pembantu yang menerima pesanan dari pengguna sebagai wanita.
Apa dalam sebuah Nama?
Faktanya, nama agen AI berasal dari Alexandria, sebuah kota yang klaim ketenarannya di dunia kuno adalah perpustakaannya, menurut Daniel Rausch, kepala divisi "Rumah Pintar" Amazon. Dia mengatakan kepada Business Insider bahwa itu adalah untuk menangkap ide koleksi asli volume yang menampung "semua pengetahuan kolektif dunia pada waktu itu."
Tapi mereka bisa dengan mudah mempertimbangkan fakta bahwa kota itu dinamai Alexander the Great, dan pergi dengan nama Alex, nama panggilan yang diadopsi oleh pria dan wanita. Sebaliknya, mereka pergi dengan Alexa yang sangat feminin.
Amazon tidak sendirian dalam hal ini. Apple memilih Siri sebagai nama untuk asisten suara yang berbicara dengan suara feminin. Identitas wanita juga dipilih untuk Microsoft Cortana. Tampaknya bukan hanya kebetulan bahwa tiga identitas AI yang paling dikenal adalah perempuan.
Kemungkinan semua perusahaan melakukan riset pasar yang sama seperti yang dikatakan Amazon. (Untuk sisi Siri yang tidak terlalu serius, lihat Pardon Moi? Top Siri Fail s.)
Jika Komputer Dapat Berbicara, Bagaimana Seharusnya Bunyinya?
Dalam wawancara Business Insider, Rausch mengatakan bahwa mereka “menemukan bahwa suara wanita lebih 'simpatik' dan diterima dengan lebih baik.” Artikel itu melanjutkan dengan mengatakan bahwa preferensi suara wanita ini lebih dulu daripada asisten AI.
Itu bisa jadi mengapa komputer di papan Enterprise berbicara dengan suara wanita. Suara itu sebenarnya milik Majel Barrett-Roddenberry, istri pencipta serial "Star Trek", dan paling dikenal oleh para penggemar karena perannya yang berulang sebagai perawat berambut pirang yang sempurna, Christine Chapel, yang harus dengan patuh menerima perintah dari McCoy.
Dalam video di bawah ini, dia benar-benar memberikan suara ke perpustakaan dalam membagikan informasi pada file untuk orang yang ditanyakan oleh kapten.
Tanpa Bug, Tanpa Stres - Panduan Langkah Demi Langkah Anda untuk Membuat Perangkat Lunak yang Mengubah Hidup Tanpa Menghancurkan Kehidupan Anda
Anda tidak dapat meningkatkan keterampilan pemrograman Anda ketika tidak ada yang peduli dengan kualitas perangkat lunak.
Benar ada agen AI yang terhubung dengan identitas pria, seperti yang diamati oleh PC Mag's Chandra Steele di blog Medium tahun ini. Tetapi mereka biasanya dikaitkan dengan tugas yang lebih serius daripada tugas yang didelegasikan ke asisten virtual di desktop atau ponsel Anda. Karenanya, IBM's Watson, yang terkait dengan hal-hal seperti penelitian medis, diberi "suara yang terdengar maskulin" yang diasosiasikan oleh orang-orang dengan kepercayaan diri dan kepemimpinan.
Sebaliknya, suara perempuan dikaitkan dengan keramahan dan kepuasan. "Meskipun mereka kekurangan tubuh," Steele menjelaskan, "mereka mewujudkan apa yang kita pikirkan ketika kita menggambarkan asisten pribadi: seorang wanita yang kompeten, efisien, dan dapat diandalkan."
Kadang-kadang mereka bahkan diberikan tubuh virtual feminin, setidaknya satu yang muncul di layar. Itu adalah kasus agen kognitif IPsoft Amelia. Seperti yang dapat Anda lihat dalam video di bawah ini, ia ditampilkan sebagai pirang yang cukup muda (warna rambut Barrett-Roddenberry mewarnai rambutnya untuk perannya yang terlihat sebagai perawat).
Amelia mewujudkan perempuan andal yang mendukung yang bertanggung jawab, di latar belakang tetapi juga hanya sedikit dekoratif. Dia menempatkan satu dalam pikiran asisten ideal yang dibayangkan pada 1950-an. Seperti Della Street Perry Mason, sekretaris yang sangat loyal, dia selalu ada untuk memenuhi kebutuhan bos prianya dan tidak menolak permintaan atau tugas.
Apa Kata Suara dan Ekspresi Siri Tentang Kami
Kami seharusnya telah membuat kemajuan yang signifikan sehubungan dengan kesetaraan gender sejak pertengahan abad terakhir, tetapi asisten AI mengingatkan kami bahwa kami masih memiliki jalan panjang. Itu adalah fokus dari studi UNESCO baru-baru ini yang berjudul "Aku akan memerah jika aku bisa."
Judul penelitian ini adalah kalimat yang oleh asisten suara gender perempuan Apple, Siri, pada awalnya diprogram untuk dikatakan sebagai tanggapan terhadap pengguna yang memanggilnya dengan nama seksis. Berita baiknya adalah Apple memperbarui pemrograman Siri pada awal 2019 untuk sekarang menawarkan "Saya tidak tahu bagaimana meresponsnya" ketika seseorang membuat pernyataan seperti itu kepada agen AI.
Namun, seperti yang ditunjukkan dalam laporan itu, Apple tidak membiarkannya untuk waktu yang sangat lama, mengingat bahwa Siri dirilis kembali pada tahun 2011. Itulah inti masalahnya.
Tech May Have Advanced, tapi Women ... Tidak banyak
Seperti yang ditunjukkan dalam laporan itu, ”sikap patuh 'perempuan' Siri - dan keramahtamahan yang diungkapkan oleh begitu banyak asisten digital yang diproyeksikan sebagai perempuan muda - memberikan ilustrasi yang kuat tentang bias gender yang dikodekan ke dalam produk teknologi, meresap di sektor teknologi dan jelas dalam keterampilan digital pendidikan."
Laporan ini mengambil seksisme yang tertanam dalam identitas feminin AI dan respons terprogram karena kesenjangan gender sistemik dalam teknologi secara umum dan AI pada khususnya: “Saat ini, wanita dan anak perempuan 25 persen lebih kecil kemungkinannya daripada pria untuk mengetahui cara memanfaatkan digital. teknologi untuk tujuan dasar, 4 kali lebih sedikit mengetahui cara memprogram komputer dan 13 kali lebih kecil untuk mengajukan paten teknologi. "
Sangat Sedikit Wanita Bekerja di AI
Itu sesuai dengan temuan Sistem Diskriminasi AI Now Institute: Gender, Ras, dan Kekuasaan. Di konferensi AI, wanita hanya menghasilkan 18% dari penulis yang diwakili dan kurang dari 20% profesor AI. Representasi bahkan lebih buruk di industri. Di wanita hanya memegang 15% dari posisi staf peneliti, dan di Google persentasenya turun menjadi 10.
Seburuk angka-angka itu, mereka lebih baik daripada apa yang dikatakan laporan UNESCO tentang pelamar untuk posisi seperti itu: "Perekrut untuk perusahaan teknologi di Silicon Valley memperkirakan bahwa kelompok pelamar untuk pekerjaan teknis dalam kecerdasan buatan (AI) dan ilmu data sering kurang dari 1 persen perempuan. "
Ada konsekuensi serius untuk ketidakseimbangan itu, menurut laporan UNESCO: "Ketika pria terus mendominasi ruang ini, kesenjangan hanya berfungsi untuk melanggengkan dan memperburuk ketidaksetaraan gender, karena bias yang tidak diakui direplikasi dan dibangun ke dalam algoritma dan kecerdasan buatan."
Ini menjelaskan bahwa “tim yang didominasi pria” adalah mereka yang menetapkan kriteria yang menetapkan norma yang “bisa sulit untuk diperbaiki ketika bias gender ditunjukkan.” Masalah bias AI dibahas dalam AI's Got Some Explaining to Do. . AI tidak menciptakan bias, tetapi mencerminkan prasangka pemrogramannya.
"Tidak ada yang palsu tentang AI," kata Fei-Fei Li, seorang ahli di bidangnya. "Ini terinspirasi oleh orang-orang, itu diciptakan oleh orang-orang, dan - yang paling penting - itu berdampak pada orang." Sama seperti "sampah masuk, sampah keluar" berlaku untuk semua data, hal yang sama berlaku untuk apa yang ia sebut, "bias masuk, bias keluar" untuk sistem AI.
Jalan lurus
Jadi bagaimana kita bisa mengatasi bias semacam itu yang telah dibangun ke dalam fungsi pembelajaran mesin kita dan lebih jauh membentuk harapan kita? Jawabannya, menurut laporan UNESCO, adalah pendidikan: "Pendidikan adalah tempat harapan ditempa dan kompetensi dikembangkan."
Li setuju bahwa adalah mungkin untuk membentuk kembali jalan yang telah ditetapkan. “Dengan bimbingan yang tepat, AI akan membuat hidup lebih baik,” ia menegaskan. "Tapi tanpa itu, teknologi berdiri untuk memperluas kekayaan yang semakin membelah, menjadikan teknologi semakin eksklusif, dan memperkuat bias yang telah kita habiskan selama beberapa generasi untuk diatasi."
Sudah waktunya untuk dengan berani pergi ke tempat yang belum pernah dikunjungi manusia sebelumnya.