F1RSTIDAturan baru menggeser perdebatan dari apakah AI akan mengubah pekerjaan menuju hak konkret pekerja ketika sistem dipakai untuk menilai, mengawasi, atau memberhentikan mereka.
Gubernur California Gavin Newsom menandatangani serangkaian perlindungan pekerja. Aturan melarang penggunaan AI untuk memprediksi emosi melalui data biometrik, mewajibkan pemberitahuan ketika AI terkait PHK massal, dan melarang keputusan pemecatan yang sepenuhnya bergantung pada AI.
Efisiensi tidak menghapus tanggung jawab
Sistem ketenagakerjaan bekerja di lingkungan dengan ketimpangan informasi besar. Karyawan sering tidak tahu data apa yang dipakai atau bagaimana skor dibuat. Pemberitahuan dan keputusan manusia memberi ruang untuk pemeriksaan serta koreksi.
AI boleh membantu keputusan, tetapi akuntabilitas tetap harus berada pada manusia dan organisasi.
Mengapa topik ini penting?
Aturan California dapat memengaruhi praktik perusahaan global karena vendor cenderung menyederhanakan produk dengan standar perlindungan tertinggi. Ia juga menegaskan bahwa klaim membaca emosi dari wajah atau suara tidak layak menjadi dasar keputusan berisiko tinggi.
Pelajaran bagi Indonesia
Perusahaan Indonesia perlu memberi tahu pekerja ketika AI digunakan, membatasi data sensitif, menyediakan mekanisme banding, dan menguji dampak diskriminatif. Tim SDM tidak boleh menyerahkan keputusan akhir kepada skor yang tidak dapat dijelaskan.