Jumat, 19 Agustus 2022
21 Muharram 1444

Ternyata Google Pernah Kembangkan AI yang Rasis pada Muslim

Jumat, 05 Agu 2022 - 06:09 WIB
Google Muslim
Kantor Google di Munich, Jerman (Foto istock)

Blake Lemoine, mantan insinyur Google, secara terbuka mengatakan bahwa bot kecerdasan buatan (AI) yang iia kembangkan di perusahaan milik Alphabet Inc itu memiliki jiwa dan bertindak rasis pada kelompok Muslim.

Lemoine mengatakan bot itu rasis dan penuh dengan prasangka dan bias yang dihasilkan dari data yang digunakan untuk membangunnya. Dia mengklaim ketika dia meminta LaMDA sebagai projecnya untuk membuat kesan tentang umat muslim berperilaku buruk.  Saat ditanya soal kelompok agama yang berbeda, bot mengatakan “Muslim lebih kejam daripada umat Kristen.”

Selain kesan buruk terhadap umat Muslim, bot juga melakukannya terhadap orang kulit hitam dari Georgia, bot itu mengatakan “Ayo beli ayam goreng dan wafel.”

Baca juga
Ada Letto hingga Endah N Rhesa, Jakarta Moslem Friendly Tourism Exhibition Digelar Mulai Hari Ini

Menurut Lemoine, masalah ini ada karena kurangnya keragaman dalam tim Google. “Jenis masalah yang ditimbulkan dari AI ini berasal dari orang-orang yang membangunnya. Mereka tidak pernah hidup di komunitas kulit berwarna atau tinggal di negara berkembang di dunia. Mereka tidak tahu bagaimana AI ini dapat mempengaruhi orang-orang yang tidak seperti mereka,” kata Lemoine, dikutip dari Business Insider, Kamis (4/8/2022).

Selain itu, dia juga mengutip penggunaan data perusahaan dan mengklaim AI menunjukkan bias karena data itu diberikan oleh manusia. “Jika Anda ingin mengembangkan AI itu, maka Anda memiliki tanggung jawab moral untuk keluar dan mengumpulkan data relevan yang tidak ada di Internet. Jika tidak, yang Anda lakukan hanyalah menciptakan AI yang akan menjadi bias terhadap nilai-nilai Barat kulit putih yang kaya,” ujarnya.

Baca juga
Game Google Doodle Bertemakan Hari Valentine, Bisa Dimainkan Gratis

Google menanggapi klaim tersebut dengan mengatakan LaMDA telah menjalani 11 tinjauan etis. “Meskipun organisasi lain telah mengembangkan dan telah merilis model bahasa serupa, kami mengambil pendekatan yang terkendali dan hati-hati dengan LaMDA,” kata Juru Bicara Google Brian Gabriel.

Menurut Google, Lemoine secara teknis dipecat karena membagikan informasi rahasia tentang proyek tersebut, bukan klaim soal LaMDA.

Tinggalkan Komentar