5 Sosok Ini Beri Peringatan soal Bahaya AI Bagi Perempuan, Ada Apa?
Riswinanti Pawestri Permatasari | Beautynesia
Sabtu, 14 Mar 2026 10:30 WIB
Safiya Umoja Noble/Foto: safiyaunoble
Artificial Intelligence (AI) sering dipuji sebagai teknologi masa depan yang membantu membuat kinerja sehari-hari jadi lebih efisien dan canggih. Sistem ini sudah menjadi bagian tak terpisahkan dari kehidupan, karena kini digunakan dalam berbagai bidang, mulai dari perekrutan kerja, layanan kesehatan, keamanan publik, hingga distribusi informasi di internet.
Melansir Tech Radar, konsep kecerdasan buatan telah dicetuskan sejak tahun 1950an oleh Alan Turing. Seiring perkembangan zaman, gagasan ini berkembang pesat sehingga membawa kita pada era AI Generatif (2020-sekarang) yang kita kenal sekarang. Tidak hanya mempermudah pekerjaan, penggunaan AI juga bisa membantu meminimalkan human error dan memudahkan pengambilan keputusan secara efektif dan sistematis.
Namun, di balik optimisme tersebut, ada sejumlah risiko yang mengintai. Beberapa peneliti perempuan sebenarnya sudah lama memperingatkan bahwa AI tidak selalu netral dan mungkin bisa berbahaya, terutama bagi perempuan. Sayangnya, peringatan tersebut justru diabaikan dan dianggap menghambat inovasi teknologi hingga akhirnya hal yang ditakutkan benar-benar terjadi saat ini.
1. Timnit Gebru
 Timnit Gebru/Foto: Instagram.com/@pocstock |
Dr. Timnit Gebru adalah salah satu peneliti AI yang paling vokal dalam mengkritik bias dalam teknologi. Peneliti lulusan Stanford University ini memperingatkan bahwa model AI berskala besar dapat mereplikasi rasisme, seksisme, dan berbagai bentuk ketimpangan sosial karena dilatih menggunakan data internet yang sudah mengandung bias manusia. Hal ini dapat memperparah ketidaksetaraan gender dan ras dalam teknologi modern
Menurutnya, semakin besar model AI yang dibuat, semakin besar pula risiko sistem tersebut menyerap dan memperkuat bias dari data pelatihannya. Hal ini bisa berdampak luas, karena AI kini digunakan dalam banyak keputusan penting, termasuk rekrutmen kerja, moderasi konten, hingga sistem rekomendasi digital. Karenanya, Gebru mendorong transparansi dalam pengembangan AI dan menekankan pentingnya akuntabilitas perusahaan teknologi terhadap dampak produk mereka.
2. Joy Buolamwini
Joy Buolamwini/Foto: Instagram.com/@poetofcode
Nama Joy Buolamwini dikenal luas setelah penelitian “Gender Shades” yang mengungkap bias dalam sistem pengenalan wajah (facial recognition). Dalam risetnya di MIT Media Lab, ia menemukan bahwa teknologi pengenalan wajah memiliki tingkat kesalahan jauh lebih tinggi ketika mengenali perempuan berkulit gelap dibanding pria kulit terang. Studi tersebut menunjukkan bahwa kesalahan klasifikasi untuk perempuan berkulit gelap bisa mencapai sekitar 34,7 persen, sementara kesalahan untuk pria kulit terang hanya sekitar 0,8 persen.
Melansir The Chronicle, temuan ini menunjukkan bahwa teknologi yang dianggap objektif ternyata bisa membawa bias serius jika data pelatihannya tidak representatif. Setelah penelitian tersebut dipublikasikan, Buolamwini mendirikan organisasi Algorithmic Justice League untuk mendorong keadilan dan transparansi dalam teknologi AI.
3. Safiya Umoja Noble
Safiya Umoja Noble/Foto: safiyaunoble
Safiya Umoja Noble adalah profesor di University of California, Los Angeles (UCLA) di bidang gender studies, African American studies, dan information studies. Penelitiannya tentang algoritma mesin pencari menunjukkan bahwa sistem digital sering kali memperkuat stereotip misoginis dan rasis melalui hasil pencarian serta rekomendasi konten.
Menurutnya, banyak perusahaan teknologi mengembangkan algoritma berbasis keuntungan (profit-driven algorithms). Sistem tersebut dirancang untuk memaksimalkan perhatian dan klik pengguna, tanpa selalu mempertimbangkan dampak sosial dari informasi yang ditampilkan. Akibatnya, teknologi digital dapat memengaruhi cara masyarakat memandang perempuan dan kelompok marginal.
4. Rumman Chowdhury
Rumman Chowdhury/Foto: Instagram.com/@rumman_c
Rumman Chowdhury adalah ilmuwan data dan pakar etika AI yang sering menyoroti kurangnya akuntabilitas dalam industri teknologi. Melansir rummanchowdhury.com, dia dikenal sebagai salah satu tokoh utama dalam gerakan “Responsible AI”, yaitu upaya untuk memastikan kecerdasan buatan tidak hanya canggih secara teknis, tetapi juga adil, transparan, dan tidak memperkuat diskriminasi sosial.
Ia menilai bahwa banyak perusahaan teknologi sebenarnya telah memiliki prinsip etika AI, namun, prinsip tersebut sering tidak diterapkan secara serius dalam praktik pengembangan produk. Hal ini bisa merugikan beberapa pihak dan mendukung ketidaksetaraan gender dalam dunia kerja. Karenanya, ia menekankan pentingnya keterlibatan pemerintah dan regulator untuk memastikan bahwa teknologi AI dikembangkan secara bertanggung jawab.
5. Seeta Peña Gangadharan
 Seeta Peña Gangadharan/Foto: Instagram.com/@greggmakeupnyc |
Sementara itu, peneliti asal Amerika Serikat, Seeta Peña Gangadharan, menyoroti dampak sosial AI terhadap kelompok rentan, termasuk seperti perempuan. Ia memperingatkan bahwa AI bisa memperdalam eksklusi sosial jika digunakan tanpa kerangka kebijakan yang berorientasi pada keadilan.
Teknologi AI kini digunakan dalam berbagai sektor penting, termasuk perekrutan kerja, sistem kesehatan, hingga keamanan publik. Tanpa pengawasan yang tepat, sistem tersebut berpotensi memperkuat diskriminasi yang sudah ada di masyarakat, terutama terkait ketidaksetaraan gender. Karenanya, Gangadharan mendorong pembentukan kebijakan dan regulasi yang melindungi hak masyarakat, termasuk transparansi algoritma serta perlindungan privasi.
Realita Saat Ini
Ilustrasi Bahaya AI Bagi Perempuan/Foto: Frepeik.com/tirachardz
Peringatan mereka awalnya diabaikan dan dianggap sebagai pemikiran overthinking yang menghambat perkembangan teknologi. Namun, kekhawatiran mereka kini mulai terlihat dalam berbagai fenomena di dunia digital.
Salah satu contoh paling mencolok adalah penyalahgunaan teknologi deepfake. Berbagai laporan menunjukkan bahwa sekitar 98 persen video deepfake di internet bersifat pornografi, dan sekitar 99 persen targetnya adalah perempuan dan anak perempuan.
Pertumbuhan teknologi ini juga sangat cepat. Konten deepfake eksplisit berbasis AI dilaporkan meningkat lebih dari 550 persen dari tahun ke tahun, menunjukkan bahwa teknologi berkembang jauh lebih cepat dibanding regulasi yang mengaturnya.
Masalahnya tidak berhenti di situ. Diperkirakan sekitar 1,8 miliar perempuan dan anak perempuan di dunia masih belum memiliki perlindungan hukum terhadap kekerasan digital. Selain itu, kekerasan online juga semakin sering berdampak pada dunia nyata. Lebih dari dua pertiga perempuan jurnalis dan aktivis melaporkan pernah mengalami kekerasan digital, dan lebih dari 40 persen di antaranya mengatakan serangan tersebut berujung pada ancaman atau kekerasan di kehidupan nyata.
Situasi ini menunjukkan bahwa AI bukan sekadar teknologi netral. Ketika sistem dikembangkan tanpa perspektif perempuan dan kelompok rentan, ketimpangan sosial berpotensi ikut terotomatisasi dalam skala yang jauh lebih besar.
Apa yang Bisa Kita Lakukan Sekarang?
Ilustrasi Bahaya AI Bagi Perempuan/Foto: Freepik.com/DC Studio
Perkembangan AI memang tidak bisa dihentikan, tetapi dampaknya bisa diarahkan agar lebih adil dan aman. Berikut ini beberapa langkah yang bisa kita lakukan:
- Meningkatkan kesadaran publik tentang risiko teknologi ini, terutama bagaimana AI dapat memperkuat bias atau digunakan untuk menyasar perempuan dan kelompok rentan.
- Mendorong regulasi dan kebijakan yang lebih kuat untuk mengawasi pengembangan dan penggunaan AI. Banyak pakar etika teknologi menekankan bahwa kerangka etika saja tidak cukup jika perusahaan teknologi tidak diwajibkan mematuhinya.
- Memperkuat literasi digital. Pengguna internet perlu memahami bagaimana AI bekerja, bagaimana mengenali manipulasi seperti deepfake, serta bagaimana melindungi data dan identitas mereka di ruang digital. Edukasi ini penting agar masyarakat tidak hanya menjadi pengguna teknologi, tetapi juga mampu mengkritisi dan mengawasi dampaknya.
- Memastikan lebih banyak perempuan dan kelompok beragam terlibat dalam pengembangan teknologi. Ketika suara mereka tidak hadir dalam proses desain AI, ketidaksetaraan sosial yang sudah ada berisiko “diotomatisasi” oleh sistem digital.
Perkembangan terbaru menunjukkan bahwa kekhawatiran para peneliti bukan tanpa alasan. Kini, setelah AI memengaruhi banyak aspek kehidupan manusia, saatnya kita menyadari bahwa masa depan teknologi harus dibangun secara lebih inklusif. Tanpa keterlibatan perempuan dalam proses pengembangan, AI berisiko memperbesar ketimpangan sosial. Yuk, makin melek teknologi!
***
Mau jadi bagian dari Buzznesia Community di mana kamu bisa ikutan berbagai online dan offline event seru yang diadakan oleh Buzznesia/Beautynesia? Komunitas ini terbuka untuk umum, baik perempuan dan juga laki-laki, kami juga memiliki komunitas khusus untuk kamu yang masih berstatus mahasiswa/mahasiswi. Yuk, gabung ke Buzznesia Community. Caranya DAFTAR DI SINI!
|
Pilihan Redaksi
|
(naq/naq)
