Google Memecat Peneliti Etika Kecerdasan Buatan Kedua Setelah Penyelidikan Internal

Google telah memecat Margaret Mitchell, salah satu pimpinan tim etik AI (Artificial Intelligence) atau kecerdasan buatan, setelah dia menggunakan skrip otomatis untuk memeriksa emailnya guna menemukan bukti diskriminasi terhadap rekan kerjanya, Timnit Gebru.

Menurut sebuah entri blog yang diposting oleh Google, Pemecatan Mitchell terjadi satu hari setelah Google mengumumkan reorganisasi ke tim AI-nya yang bekerja pada etika dan keadilan. Marian Croak, wakil presiden di organisasi teknik, sekarang memimpin “pusat keahlian baru tentang AI yang bertanggung jawab dalam Google Research”.

Mitchell bergabung dengan Google pada 2016 sebagai ilmuwan riset senior, menurut LinkedIn-nya. Dua tahun kemudian, dia membantu memulai tim AI etis bersama Gebru, seorang peneliti terkenal yang terkenal karena karyanya tentang bias dalam teknologi pengenalan wajah.

Pada Desember 2020, Mitchell dan Gebru sedang mengerjakan makalah tentang bahaya model pemrosesan bahasa berskala besar ketika Megan Kacholia, wakil presiden Google Brain, meminta artikel itu dicabut. Gebru menolak, mengatakan perusahaan harus lebih terbuka tentang mengapa penelitian itu tidak dapat diterima. Tak lama kemudian, dia dipecat, meskipun Google menganggap kepergiannya sebagai pengunduran diri.

Setelah pemecatan Gebru, Mitchell secara terbuka mengkritik eksekutif Google, termasuk kepala divisi AI Google Jeff Dean dan CEO Google Sundar Pichai. Pada bulan Januari, dia kehilangan akses email perusahaannya setelah Google mulai menyelidiki aktivitasnya.

“Setelah melakukan peninjauan terhadap perilaku manajer ini, kami mengonfirmasi bahwa terdapat beberapa pelanggaran kode etik, serta kebijakan keamanan kami, yang termasuk eksfiltrasi dokumen rahasia bisnis yang sensitif dan data pribadi karyawan lain,” Google mengatakan dalam sebuah pernyataan kepada Axios tentang pemecatan Mitchell.

Google kemudian mengumumkan bahwa mereka membuat perubahan pada penelitian dan kebijakan keanekaragamannya, menyusul penyelidikan atas penghentian Gebru. Dalam email internal, Jeff Dean meminta maaf kepada staf tentang penanganan kepergian Gebru. “Saya mendengar dan mengakui apa yang ditunjukkan oleh keluarnya Dr. Gebru, bagi mereka yang berada di komunitas Kulit Hitam dan kelompok yang kurang terwakili lainnya yang mengejar karir di bidang teknologi, dan bagi banyak orang yang sangat peduli tentang penggunaan AI yang bertanggung jawab oleh Google. Itu membuat beberapa orang mempertanyakan tempat mereka di sini, yang saya sesalkan.” katanya.

Tim AI etis telah berada dalam krisis sejak pemecatan Gebru pada bulan Desember. Setelah pengumuman reorganisasi kemarin, peneliti senior Alex Hanna menulis bahwa tim tidak mengetahui penunjukan Croak sampai berita itu tersebar ke publik. “Kami diberitahu untuk mempercayai proses, percaya pada pembuat keputusan seperti Marian Croak untuk menjaga kepentingan terbaik kami,” katanya di Twitter. “Tapi keputusan ini dibuat di belakang kami.”

Sumber berita :https://www.theverge.com/2021/2/19/22292011/google-second-ethical-ai-researcher-fired