Analisis Kasus Bias Gender pada Algoritma Rekrutmen Amazon

Abstract

Artikel ini menginvestigasi fenomena bias algoritmik melalui analisis kritis terhadap kegagalan alat rekrutmen eksperimental berbasis Artificial Intelligence (AI) yang dikembangkan oleh Amazon pada periode 2014 hingga 2017. Menggunakan metode Studi Kasus Deskriptif Kualitatif yang didasarkan pada tinjauan literatur secara sistematis, penelitian ini bertujuan membongkar mitos "netralitas teknologi" yang sering dilekatkan pada instrumen otomasi evaluasi kandidat pekerja. Hasil analisis menunjukkan bahwa arsitektur algoritma rekrutmen Amazon mengalami kegagalan komputasional dan etis akibat dilatih menggunakan data historis Curriculum Vitae (CV) selama 10 tahun yang secara dominan merepresentasikan kelompok laki-laki. Kondisi ini secara implisit memicu sistem pembelajaran mesin untuk mendegradasi proksi variabel yang berasosiasi dengan perempuan, mereplikasi ketimpangan gender struktural yang telah mengakar. Selain menelaah kronologi teknis pembentukan bias, artikel ini turut mengevaluasi implikasi sistem sosioteknis melalui analisis tingkat transparansi algoritmik (Three-Level Transparency Framework) dan membedah anomali regulasi perlindungan data yang disebut The GDPR Paradox, di mana instrumen privasi justru berpotensi mematikan ruang audit untuk keadilan algoritma. Kesimpulannya, bias AI dalam rekrutmen Amazon bukanlah sekadar anomali atau galat komputasi, melainkan manifestasi dari patologi sosial sosiologis yang gagal diisolasi oleh pengembangnya. Tata kelola data yang ketat dan intervensi manusia (human-in-the-loop) mutlak diperlukan untuk mencegah diskriminasi algoritmik