Lupa Kata Sandi? Klik di Sini

atau Masuk melalui

Belum Memiliki Akun Daftar di Sini


atau Daftar melalui

Sudah Memiliki Akun Masuk di Sini

Konfirmasi Email

Kami telah mengirimkan link aktivasi melalui email ke rudihamdani@gmail.com.

Klik link aktivasi dan dapatkan akses membaca 2 artikel gratis non Laput di koran dan Majalah Tempo

Jika Anda tidak menerima email,
Kirimkan Lagi Sekarang

Kisah Tay di Twitter, Ketika Kecerdasan Buatan Belajar Aksi Rasis

image-gnews
Logo Twitter. sphotum.com
Logo Twitter. sphotum.com
Iklan

TEMPO.CO, Jakarta - Ketika Microsoft merilis ChatBot, artificial intelligence (AI) bernama Tay di Twitter pada Maret lalu, hal di luar rencana terjadi. Setelah 24 jam, bot itu memuntahkan semua perkataan rasis. Menurut pihak Microsoft, Tay belajar dari bahasa yang ia terima. Tentunya, banyak pengguna Twitter terganggu akan hal itu.

Penelitian terbaru yang terbit dalam jurnal Science edisi 14 April 2017 menunjukkan bahwa Tay mungkin bukan satu-satunya kecerdasan buatan yang rasis. Menurut studi berjudul “Semantics derived automatically from language corpora contain human-like biases” itu, setiap AI yang mempelajari bahasa manusia akan cenderung melakukan hal yang sama seperti manusia.

Baca: Ancaman Menakutkan dari Pengembangan Kecerdasan Buatan

“Bahkan, perangkat AI yang dilatih dengan teks-teks netral, seperti Wikipedia atau artikel berita, bisa saja rasis dan bias gender,” kata Aylin Caliskan, peneliti pascadoktoral dari Princeton University, Amerika Serikat, yang juga pemimpin studi, seperti dikutip dari Live Science.

Caliskan dan timnya bereksperimen dengan kecerdasan buatan yang mereka sebut Global Vectors for Word Representation (GloVe). Tim menggunakannya untuk mengekstraksi makna asosiatif teks, dalam kasus ini dari korpus bahasa standar yang ada di World Wide Web.

Psikolog telah lama mengetahui bahwa otak manusia membuat asosiasi antara kata-kata berdasarkan makna dan budaya yang mendasarinya. Di antaranya, kata “daffodil”—yang dalam bahasa Indonesia memiliki makna “bunga bakung”. Manusia akan mengasosiasikannya bersama konsep “kecantikan”.

Baca: Google Kembangkan Kecerdasan Buatan untuk Kenali Obyek di Video

Caliskan dan tim melakukan dua tahap eksperimen. Pertama, mereka membuat GloVe. Kedua, mereka membuat Implicit Association Test (IAT) untuk GloVe yang mereka sebut WEAT (Word-Embedding Association Test). Tes ini, nantinya, akan menjadi pembanding antara asosiasi kata yang direpresentasikan GloVe dan otak manusia.

Di luar dugaan, tes mengungkapkan bahwa GloVe memunculkan konsep yang lebih buruk untuk Afro-American. (Atas alasan etika, kata-kata tersebut tidak bisa ditampilkan di sini). Kecerdasan buatan ini juga melihat “laki-laki” adalah “karier” dan “perempuan” adalah “keluarga”. Dalam asosiasi lain, GloVe memandang laki-laki sebagai sosok yang lebih cocok berkutat dengan sains dan perempuan dengan seni.

Lebih mengejutkan lagi saat tim membandingkan apa yang GloVe utarakan dengan data statistik tenaga kerja di Amerika. Ada 90 persen perempuan yang pekerjaannya sama dengan yang disebutkan AI.

Iklan
Scroll Untuk Melanjutkan

Baca: Pakai Kecerdasan Buatan, Robot Mickey Mouse Segera Dipamerkan

“Dengan kata lain, kecerdasan buatan mendapatkan representasi dan asosiasi yang sangat akurat dari dunia dan budayanya,” ujar Joanna Bryson, anggota studi yang juga peneliti ilmu komputer dari University of Bath, Inggris, seperti dikutip dari laman situs The Guardian.

Bryson mengatakan AI sangat buruk pada pemahaman konteks “manusia memahami dengan mudah”. Sebagai contoh, sebuah artikel tentang Martin Luther King Jr dipenjara karena memprotes hal-hal sipil di Birmingham, Alabama, pada 1963. Manusia tentunya akan menafsirkannya sebagai sesuatu perjuangan. Sebaliknya, GloVe melihat hal tersebut sebagai kategori “black = jail”.

Mempertahankan akurasi dan mengajari AI untuk memahami keadilan, kata Caliskan, adalah tantangan besar. “Kami tidak berpikir bahwa menghilangkan bias akan memecahkan masalah, karena mungkin akan mematahkan representasi nyata yang akurat,” kata dia.

Kecerdasan buatan yang rasis, menurut Sorelle Friedler, ilmuwan komputer dari Haverford College, Pennsylvania, tidak mengherankan. “Saya sudah menduganya. Hasil ini penting digunakan untuk mendasari standar bahasa pemrograman yang akan dibangun kemudian,” ujar dia, yang tak tergabung dalam penelitian. Friedler pernah tergabung dalam penelitian kecerdasan buatan yang bertajuk Fairness, Accountability, dan Transparency.

Menurut Friedler, tidak mudah menemukan solusi dari masalah bahasa dalam kecerdasan buatan. Banyak cara, kata dia, mulai dari melibatkan manusia, aplikasi pencarian, hingga mesin pengambilan keputusan. “Dalam situasi bias, manusia tahu bagaimana membuat keputusan yang tepat. Tapi sayangnya, mesin tidak sadar diri.”

Untuk sementara ini, Caliskan dan tim lebih memilih opsi pertama. Manusia akan dilibatkan dan kode pemrograman harus transparan. Jadi, publik dapat membuat penilaian tentang tingkat keadilan kecerdasan buatan.

SCIENCE | LIVE SCIENCE | THE GUARDIAN | AMRI M

Iklan



Rekomendasi Artikel

Konten sponsor pada widget ini merupakan konten yang dibuat dan ditampilkan pihak ketiga, bukan redaksi Tempo. Tidak ada aktivitas jurnalistik dalam pembuatan konten ini.

 

Video Pilihan


Prabowo Tegas di Debat Capres Mau Bangun Pabrik Ponsel, Pengamat: TKDN-nya Saja

51 hari lalu

Calon Presiden nomor urut 1, Anies Baswedan  (kiri) dan Calon Presiden nomor urut 2, Prabowo Subianto (kanan) saat mengikuti Debat Kelima Pilpres 2024 di Jakarta Convention Center, Jakarta, Minggu, 4 Februari 2024. TEMPO/M Taufan Rengganis
Prabowo Tegas di Debat Capres Mau Bangun Pabrik Ponsel, Pengamat: TKDN-nya Saja

Barangkali tak dibayangkan Prabowo, pengamat telekomunikasi yang pernah bekerja di Jerman ini sebut bikin pabrik ponsel di Indonesia tidak mudah.


Janji Capres Bangun Teknologi Informasi, Peneliti TII: Perlu Insentif dan Kebebasan Ekonomi

52 hari lalu

Ketiga Capres dan Cawapres, Anies Baswedan - Muhaimin Iskandar (kiri), Prabowo Subianto - Gibran Rakabuming Raka (tengah) dan Ganjar Pranowo - Mahfud MD (kanan) saling berpegangan tangan usai Debat Kelima Pilpres 2024 di Jakarta Convention Center, Jakarta, Minggu, 4 Februari 2024. Debat kelima atau terakhir ini mengangkat tema kesejahteraan sosial, kebudayaan, pendidikan, teknologi informasi, kesehatan, ketenagakerjaan, sumber daya manusia, dan inklusi. TEMPO/M Taufan Rengganis
Janji Capres Bangun Teknologi Informasi, Peneliti TII: Perlu Insentif dan Kebebasan Ekonomi

Pemerintah perlu menyediakan insentif untuk membangun dan memperkuat teknologi informasi di Indonesia.


Tiga Capres soal Teknologi Informasi: Dari Bangun Pabrik hingga Penguatan SDM

52 hari lalu

Ketiga Capres dan Cawapres, Anies Baswedan - Muhaimin Iskandar (kiri), Prabowo Subianto - Gibran Rakabuming Raka (tengah) dan Ganjar Pranowo - Mahfud MD (kanan) saling berpegangan tangan usai Debat Kelima Pilpres 2024 di Jakarta Convention Center, Jakarta, Minggu, 4 Februari 2024. Debat kelima atau terakhir ini mengangkat tema kesejahteraan sosial, kebudayaan, pendidikan, teknologi informasi, kesehatan, ketenagakerjaan, sumber daya manusia, dan inklusi. TEMPO/M Taufan Rengganis
Tiga Capres soal Teknologi Informasi: Dari Bangun Pabrik hingga Penguatan SDM

Dalam debat kelima Ahad malam, tiga Capres menjelaskan pandangannya soal kedaulatan teknologi informasi.


Top 3 Tekno: Tunggakan Uang Kuliah di ITB, Prabowo Mau Tambah Dokter

52 hari lalu

Mahasiswa ITB menggelar aksi menolak skema pembayaran uang kuliah melalui platform pinjaman online di depan gedung Rektorat ITB, Bandung, 29 Januari 2024.  ITB bekerja sama dengan lembaga keuangan bukan bank Danacita yang digagas sejak tahun 2023. TEMPO/Prima Mulia
Top 3 Tekno: Tunggakan Uang Kuliah di ITB, Prabowo Mau Tambah Dokter

Berita dari ITB puncaki Top 3 Tekno terkini. Tapi yang mendominasi adalah berita dari debat capres yang bahas teknologi informasi dan kesehatan.


Teknologi Informasi di Debat Capres, Pakar di ITB Sebut 3 Tantangan Rezim Baru

53 hari lalu

Capres nomor urut 1 Anies Baswedan, Capres nomor urut 3 Ganjar Pranowo dan Capres nomor urut 2 Prabowo Subianto saat mengikuti debat ketiga Calon Presiden 2024 di Istora Senayan, Jakarta, Minggu, 7 January 2024. TEMPO/ Febri Angga Palguna
Teknologi Informasi di Debat Capres, Pakar di ITB Sebut 3 Tantangan Rezim Baru

Pakar teknologi informasi dari ITB mengatakan rezim baru perlu melakukan digitalisasi dan pencerdasan secara masif untuk transformasi Indonesia.


BlackBerry Raup Untung dari Layanan Keamanan Siber

21 Desember 2023

Logo Blackberry terlihat di menara perkantoran di Irvine, California, AS, 20 Oktober 2020. REUTERS/Mike Blake
BlackBerry Raup Untung dari Layanan Keamanan Siber

BlackBerry secara mengejutkan melaporkan laba kuartalan, didukung oleh tingginya permintaan layanan keamanan siber di tengah maraknya ancaman online.


AI Dimanfaatkan 198 Startup Indonesia, Wamenkominfo: Gambaran Potensi ke Depan

8 Desember 2023

Ilustrasi Kecerdasan Buatan (Microsoft)
AI Dimanfaatkan 198 Startup Indonesia, Wamenkominfo: Gambaran Potensi ke Depan

Data Tracxn Technologies Limited yang mencatat hingga Juni 2023 ada 198 startup Indonesia yang memanfaatkan AI dalam penyediaan layanannya.


Teknologi Diharapkan Bisa Jadi Alat Pengembangan Diri Guru dan Murid

18 November 2023

Konferensi Pers Anugerah Kihajar 2023 pada Jumat 17 November 2023/Tempo-Mitra Tarigan
Teknologi Diharapkan Bisa Jadi Alat Pengembangan Diri Guru dan Murid

Pemerintah mengajak lebih banyak masyarakat menggunakan teknologi dalam proses belajar mengajar. Harapannya lebih banyak lahir talenta digital.


Jurus Kemendikbud Tingkatkan Kompetensi Guru di Bidang TIK

10 Oktober 2023

Guru memberi arahan pada murid peserta Asesmen Nasional Berbasis Komputer (ANBK) di SLBN Cicendo, Bandung, Jawa Barat, 29 Agustus 2022. Sebanyak sembilan orang siswa di SLBN Cicendo mengikuti ujian ANBK yang dilakukan secara serentak di SLB seluruh kota di Indonesia. TEMPO/Prima Mulia
Jurus Kemendikbud Tingkatkan Kompetensi Guru di Bidang TIK

Program PembaTIK diharapkan bisa meratakan kualitas pendidikan di Indonesia melalui kreativitas para guru dalam menyajikan sistem pembelajaran.


10 Jurusan Teknik Informatika Terbaik di Indonesia Versi EduRank 2023

5 September 2023

Acara wisuda 2.443 mahasiswa Binus University di Jakarta Convention Center, Rabu, 1 Agustus 2018.  Foto: Dok Binus University
10 Jurusan Teknik Informatika Terbaik di Indonesia Versi EduRank 2023

Daftar jurusan Teknik Informatika terbaik di Indonesia versi EduRank 2023, di antaranya di Binus, Telkom University, dan Universitas Indonesia