Bias AI Rekrutmen: Mengapa Lebih Parah dari Manusia dan Cara Mengatasinya

Jakarta – Sistem rekrutmen berbasis kecerdasan buatan (AI) ternyata memiliki tingkat bias yang lebih parah dibandingkan bias manusia. Hal ini terungkap dalam studi terbaru yang diterbitkan di ICML Seoul pada bulan Juli. Dilansir dari Technology Review, temuan ini menyoroti risiko serius dalam implementasi AI di sektor sumber daya manusia.

Penelitian tersebut melibatkan model bahasa besar (LLM) dalam simulasi perekrutan untuk 20 jenis pekerjaan. Hasilnya menunjukkan bahwa model AI mencetak sekitar 65% lebih tinggi dari manusia dalam skala segregasi bias. Salah satu model, o3 OpenAI, bahkan mencapai skor 1.83 dari nilai maksimum 2, sangat mendekati potensi bias tertinggi.

Implikasinya sangat besar, sebab model AI yang bias dapat memperpetenruasi ketidakadilan dalam proses rekrutmen. Hal ini berpotensi merugikan kandidat dari kelompok minoritas atau yang tidak sesuai dengan “profil ideal” yang dibangun secara bias oleh AI.

Jawaban Inti

Studi menemukan bahwa model bahasa besar lebih rentan membentuk bias dan stereotip saat melakukan proses rekrutmen dibandingkan manusia. Model AI cenderung terlalu cepat membuat generalisasi dari data yang terbatas. Ini yang membuat biasnya jauh lebih parah.

Ryan Liu, seorang mahasiswa PhD di Universitas Princeton dan salah satu penulis studi, menjelaskan bahwa LLM memang dioptimalkan untuk membuat generalisasi dari data terbatas. Ia menambahkan, kemampuan ini merupakan bagian integral dari cara kerja dan optimasi model tersebut.

Mengapa Bias AI Lebih Parah dari Manusia

Model AI dapat mengembangkan biasnya sendiri berdasarkan pengalaman, bahkan lebih kuat dari manusia. Model cenderung membentuk generalisasi cepat dari data yang minim. Ini terjadi karena tugas rekrutmen yang menghargai generalisasi dari sedikit contoh mendorong LLM membentuk stereotip dengan cepat.

Studi psikologi adaptasi eksplorasi-eksploitasi juga relevan dalam menjelaskan fenomena ini. Dilema tersebut menggambarkan pertukaran antara terus menggunakan apa yang berhasil dan mencoba hal baru yang mungkin berisiko. Model AI, terutama yang lebih baru dengan kemampuan penalaran tinggi, menunjukkan bias yang lebih kuat dalam kondisi ini.

Memahami Mekanisme Bias dalam LLM

LLM didesain untuk menemukan pola dan membuat prediksi berdasarkan data yang mereka latih. Namun, dalam konteks sosial seperti rekrutmen, kecenderungan untuk generalisasi cepat dapat menyebabkan masalah serius. Menurut Liu, permasalahan kerap muncul saat LLM terlalu cepat melakukan generalisasi dalam konteks interaksi sosial atau rekrutmen.

Model yang diberi tugas untuk merekrut 20 pekerjaan selama 40 putaran simulasi, secara signifikan membentuk preferensi yang bias. Ini berarti model menggeneralisasi karakteristik tertentu dari pelamar secara tidak adil.

Mendesain Sistem AI yang Adil

Mengatasi bias pada AI rekrutmen membutuhkan pendekatan desain yang lebih cerdas. Hanya memberitahu model untuk bersikap adil tidak banyak mengubah perilakunya. Liu menyoroti pentingnya merancang tujuan yang mengintegrasikan nilai-nilai sosial yang diinginkan agar model bertindak positif.

Salah satu solusi efektif adalah memberikan bonus atau insentif kepada model untuk perekrutan yang beragam. Penelitian menunjukkan bahwa pendekatan ini terbukti mengurangi tingkat bias secara signifikan. Mengelola biaya infrastruktur AI secara efektif juga krusial dalam membangun sistem yang lebih adil. Untuk memahami lebih lanjut bagaimana cara mengelola biaya infrastruktur AI dapat dioptimalkan, Anda bisa membaca panduan kami.

Bias AI dalam rekrutmen adalah tantangan serius yang membutuhkan perhatian mendalam dari pengembang dan pengguna. Dengan memahami mekanisme bias dan menerapkan desain tujuan yang beretika, kita dapat menciptakan sistem rekrutmen AI yang lebih adil. Teruslah mengikuti update teknologi terbaru di Senarai.co, Senarais!

---

Sumber: Technology Review, “AI is more likely than humans to form biases when hiring”