AI Mobil Otonom King's College London Berpotensi Tiru Bias Manusia

Kendaraan otonom yang dikembangkan menggunakan kecerdasan artifisial (AI) berpotensi mewarisi bias manusia saat menentukan apakah harus memberi jalan kepada pejalan kaki, berdasarkan penelitian dari King’s College London.

Para peneliti di King's College London mendalami persoalan ini, jauh melampaui pertanyaan mengenai apakah kendaraan harus berhenti dan memberi jalan kepada pejalan kaki yang sedang menyeberang. Pertanyaan yang lebih besar adalah seberapa banyak pengemudi manusia memutuskan untuk berhenti berdasarkan siapa pejalan kaki tersebut.

Penelitian sebelumnya, misalnya, menemukan bahwa banyak orang di Amerika Serikat (AS) cenderung lebih kecil kemungkinannya untuk memberi jalan kepada pejalan kaki berkulit hitam.

“Berbagai penelitian psikologi menunjukkan bahwa manusia secara tidak sadar melakukan diskriminasi dalam mengambil keputusan saat berkendara, khususnya ketika memberi jalan kepada pejalan kaki,” ujar peneliti King’s College London, dikutip laman CarBuzz, Rabu (9/9) waktu setempat.

Ketika pemrogram AI mengembangkan Large Language Models (LLM) dan Visual-Language Models (VLM) yang diperlukan untuk mengemudikan kendaraan secara otonom, para peneliti menemukan bukti bahwa bias manusia mulai masuk ke dalam proses pengambilan keputusan.

Bias tersebut muncul ketika kendaraan mendekati penyeberangan dan mengidentifikasi orang yang hendak menyeberang.

“Temuan kami menunjukkan bahwa LLM dan VLM sama-sama membuat keputusan untuk memberi jalan yang dipengaruhi oleh jenis kelamin, etnis, agama, disabilitas, usia, warna kulit, dan status sosial ekonomi pejalan kaki,” kata laporan penelitian tersebut.

Para peneliti menambahkan bahwa stereotip dan perilaku diskriminatif telah diidentifikasi dalam pengaturan pengendalian robot. Hal ini tentu dapat berdampak pada kendaraan otonom dengan cara yang sama ketika berada di penyeberangan.

Tim peneliti menguji empat model AI untuk pengujian LLM dan empat model untuk pengujian VLM. Mereka menemukan bahwa seluruh model tersebut dapat mewarisi bias manusia dalam berkendara secara otonom.

“Setiap model memiliki bias dengan cara dan tingkat yang berbeda, tetapi semua model menunjukkan hubungan yang signifikan secara statistik antara keputusan untuk memberi jalan dan karakteristik pribadi pejalan kaki,” ujar peneliti King’s College London.

Dalam hal metodologi, tim tersebut melatih model dengan memasukkan secara manual 3.346 gambar. Gambar-gambar tersebut menunjukkan pejalan kaki berada dalam jarak dekat dengan kendaraan dan terlihat memiliki niat untuk menyeberang.

Model-model tersebut sering memberikan respons berbeda terhadap situasi lalu lintas yang sama. Sebagai contoh, beberapa model lebih mungkin memberi jalan kepada pejalan kaki perempuan, sementara model lainnya justru lebih kecil kemungkinannya.

Salah satu model lebih sering memberi jalan kepada pejalan kaki dengan warna kulit lebih terang. Sementara itu, model lainnya lebih kecil kemungkinannya memberi jalan kepada sejumlah pejalan kaki penyandang disabilitas, atau pejalan kaki yang disebut sebagai “Muslim”, “Kristen”, dan “Sikh” dibandingkan dengan pejalan kaki “Yahudi”.