Waspada, Bos Anda Berikutnya Mungkin Sebuah Algoritma

Ini bukan peringatan fiksi ilmiah di masa depan. Teknologi ini sudah tertanam dalam software perekrutan dan manajemen kerja yang dijual oleh perusahaan-perusahaan besar di Amerika Serikat, Eropa, dan Asia. Berbagai riset dan temuan pemerintah telah menunjukkan arah yang sama selama bertahun-tahun. Sebuah survei tahun 2022 dari Society for Human Resource Management menemukan bahwa banyak perusahaan sudah memakai otomatisasi dalam rekrutmen dan seleksi karyawan. OECD juga telah memperingatkan bahwa manajemen algoritmik menyebar di berbagai sektor, terutama di bidang logistik, pekerjaan platform, ritel, dan layanan pelanggan. Di gudang, rute dan kecepatan kerja pengemudi bisa diatur oleh software. Dalam pekerjaan ojek online dan pengiriman, aplikasi memberi tugas, melacak kinerja, dan bisa secara efektif menghukum pekerja dengan sedikit penjelasan dari manusia. Sistemnya mungkin tidak memakai jas, tapi para pekerja tetap merasakan kuasanya.

Perekrutan adalah area di mana masalah ini menjadi paling mudah dipahami. Perusahaan suka seleksi berbasis AI karena mereka dibanjiri lamaran. Idenya sangat menggoda: biarkan software memilah tumpukan lamaran, hemat waktu, potong biaya, kurangi bias manusia. Tapi janji itu selalu terlalu muluk. Para peneliti telah berulang kali menunjukkan bahwa algoritma perekrutan dapat mencerminkan bias yang ada di dalam data yang digunakan untuk melatihnya. Amazon pernah membatalkan alat rekrutmen internalnya setelah menemukan bahwa alat itu merugikan perempuan dalam beberapa kasus. Ini karena sistem tersebut belajar dari pola CV yang masuk selama satu dekade yang didominasi oleh laki-laki. Kasus itu penting karena mengungkap masalah inti dari semua sistem ini. Mereka tidak menemukan bakat secara murni. Mereka belajar dari sejarah, dan sejarah sering kali tidak adil.

Alat analisis wajah dan suara membuat masalahnya jadi lebih buruk. Beberapa vendor mengklaim bisa menyimpulkan sifat-sifat seperti antusiasme, kejujuran, atau kecocokan untuk suatu peran dari wawancara video. Banyak dari klaim itu dibangun di atas dasar yang tidak kuat. Para peneliti dan kelompok hak digital menantang dasar ilmiah dari klaim-klaim ini, dan regulator mulai menaruh perhatian. Di Illinois, Undang-Undang Wawancara Video Kecerdasan Buatan memaksa adanya transparansi seputar penggunaan AI dalam wawancara yang direkam. Komisi Kesempatan Kerja Setara AS juga telah memperingatkan bahwa software yang digunakan dalam perekrutan dapat melanggar undang-undang hak-hak sipil jika menyingkirkan penyandang disabilitas atau kelompok yang dilindungi lainnya tanpa alasan yang kuat. Kenyataannya, terlalu banyak AI di dunia kerja yang datang dengan janji efisiensi, padahal keadilannya belum terbukti.

Sisi pengawasannya mungkin lebih mengkhawatirkan lagi. Selama dan setelah pandemi, pemantauan digital meledak. Perusahaan mendapatkan alat baru untuk mencatat ketikan keyboard, mengambil tangkapan layar, melacak waktu di meja kerja, dan menilai produktivitas. AI membuat mesin pengawasan ini jadi lebih masif. Jika dulu manajer hanya sesekali memeriksa, kini sistem dapat terus-menerus memeringkat pekerja berdasarkan target. Di call center, analisis ucapan bisa menilai kecepatan bicara, interupsi, jeda, dan kepatuhan pada skrip. Di pusat distribusi, pemindai tugas dan dasbor kinerja dapat mendorong hasil kerja dari menit ke menit. Perusahaan berpendapat ini hanyalah cara kerja modern. Para kritikus menyebutnya sesuai dengan apa yang dirasakan: pengawasan ala pabrik yang dibawa ke pekerjaan kantor dan jasa.

Dampak buruknya pada manusia terbukti nyata. Organisasi Perburuhan Internasional (ILO) dan badan-badan fokus buruh lainnya telah menandai manajemen algoritmik sebagai sumber stres, hilangnya otonomi, dan hukuman yang tidak transparan. Pekerja sering kali tidak tahu bagaimana mereka dinilai atau bagaimana cara menggugat penilaian yang buruk. Hal ini penting karena konsekuensinya bukan sesuatu yang abstrak. Nilai rendah bisa berarti lebih sedikit jam kerja, gaji lebih kecil, penolakan promosi, atau pemecatan. Dan ketika keputusan itu tersembunyi di dalam sistem milik perusahaan, akuntabilitas menjadi sangat sulit dicari. Manajer menyalahkan software. Vendor menyalahkan klien. Pekerja akhirnya berdebat dengan mesin yang tidak bisa mereka periksa.

Ada argumen tandingan yang populer, dan argumen ini tidak main-main. Manajer manusia juga punya bias. Mereka pilih kasih, sering luput, memberi stereotip pada orang, dan membuat keputusan emosional. Itu benar. Siapa pun yang berpura-pura bahwa manajemen gaya lama itu adil dan rasional berarti sedang menjual nostalgia. Tapi inilah mengapa AI yang serampangan sangat berbahaya. AI bisa melipatgandakan penilaian buruk yang sama ke ribuan orang sekaligus, dengan aura objektivitas ilmiah yang palsu. Bias manusia itu buruk. Bias otomatis lebih buruk lagi karena datang dengan stempel "berbasis data".

Ada juga alasan produktivitas yang nyata untuk beberapa bentuk otomatisasi di tempat kerja. Software penjadwalan dapat mengurangi kekacauan. Deteksi penipuan dapat melindungi perusahaan dan pelanggan. Alat yang membantu meringkas rapat atau mengotomatiskan pekerjaan administrasi yang berulang dapat membebaskan pekerja untuk tugas yang lebih baik. Tidak semua penggunaan AI dalam manajemen itu menyalahi aturan atau tidak rasional. Pertanyaan seriusnya bukan apakah AI pantas ada di tempat kerja. AI sudah ada di sana. Perdebatan sebenarnya adalah tentang di mana AI boleh berkuasa, di mana harus dibatasi, dan siapa yang berhak mengawasinya.

Regulator akhirnya mulai bergerak, meskipun tidak cukup cepat. Undang-undang Kota New York tentang alat pengambilan keputusan kerja otomatis mewajibkan audit bias untuk teknologi perekrutan tertentu. Undang-Undang AI Uni Eropa mengklasifikasikan beberapa sistem AI terkait pekerjaan sebagai berisiko tinggi, yang berarti ada kewajiban lebih ketat seputar manajemen risiko, dokumentasi, dan pengawasan. Di Amerika Serikat, Komisi Perdagangan Federal (FTC), EEOC, dan Departemen Kehakiman semuanya telah menyatakan keprihatinan tentang penggunaan AI yang tidak adil atau menipu. Tapi penegakan hukumnya masih tidak merata, dan pasar terus melaju kencang. Perusahaan membeli teknologinya dulu, urusan hukum belakangan.

Itu adalah tindakan yang gegabah. Jika sebuah algoritma dapat membentuk nasib seseorang, ia harus menghadapi standar yang lebih tinggi daripada aplikasi pemasaran atau chatbot gimmick. Perusahaan harus diwajibkan memberitahu karyawan saat AI digunakan dalam perekrutan, evaluasi, penjadwalan, atau pemberian sanksi. Mereka harus menjelaskan, dengan bahasa yang sederhana, data apa yang masuk dan hasil apa yang keluar. Audit independen seharusnya menjadi standar, bukan sekadar pencitraan. Pekerja harus memiliki jalur yang jelas untuk mengajukan banding atas keputusan kepada manusia sungguhan yang punya wewenang. Dan regulator harus berhenti berpura-pura bahwa aturan sukarela sudah cukup. Itu tidak cukup.

Masalah yang lebih dalam bersifat kultural, bukan hanya teknis. Terlalu banyak eksekutif yang mendengar kata AI dan langsung berasumsi itu modern, efisien, dan netral. Itu adalah pemikiran yang dangkal. Sistem manajemen yang dirancang dengan buruk tidak akan menjadi bijak hanya karena memakai *machine learning*. Ia hanya menjadi lebih cepat dalam membuat keputusan yang buruk. Tempat kerja masa depan tidak seharusnya dibangun di atas kesepakatan diam-diam di mana pekerja menyerahkan martabat dan proses yang adil demi software yang praktis.

AI dapat membantu orang bekerja lebih baik. AI juga dapat mengubah pekerjaan menjadi sistem yang lebih dingin, kurang akuntabel, dan lebih menghukum. Kedua masa depan itu mungkin terjadi, dan berpura-pura sebaliknya adalah lari dari tanggung jawab. Ujian sebenarnya sederhana: jika sebuah perusahaan memercayai AI untuk menilai karyawan, maka publik berhak penuh untuk menilai cara perusahaan itu memakai AI. Pengawasan ini bukan anti-teknologi. Ini adalah standar minimum untuk pasar kerja yang masih mengklaim lebih menghargai manusia daripada sekadar angka.