KOMPAS.com – Google memperbarui algoritma di mesin pencarinya, Google Search, untuk memberantas konten gambar palsu alias deepfake eksplisit yang diproses oleh kecerdasan buatan.
Deepfake merupakan kecerdasan buatan (AI) yang digunakan untuk membuat foto, video, atau audio palsu yang menyerupai aslinya dan terlihat cukup meyakinkan.
Deepfake disebut eksplisit jika menampilkan foto, video, atau audio seseorang dalam konteks seksual, yang didistribusikan di web tanpa persetujuan orang sebenarnya. Konten seperti ini bisa meresahkan korban deepfake.
Ada beberapa perubahan yang diumumkan Google dalam situs resminya, yakni menyederhanakan proses pelaporan dan permintaan penghapusan, serta sistem rating konten.
Untuk permintaan penghapusan konten, Google sebenarnya sudah memiliki fitur yang memungkinkan pengguna melaporkan konten seksual palsu yang berbahaya, melalui tautan berikut. Kini, sistem pelaporan sudah dipermudah.
Setelah konten deepfake AI yang dilaporkan teridentifikasi, sistem Google Penelusuran akan memfilter semua hasil penelusuran yang sama. Bukan hanya itu, sistem Google akan memindai dan juga menghapus duplikat gambar seksual tersebut.
“Upaya ini dirancang agar bisa memberikan ketenangan pikiran kepada masyarakat. Terutama jika mereka khawatir konten serupa tentang mereka yang akan muncul di masa mendatang,” jelasnya.
Selain memperbarui proses pelaporan dan menghapus konten deepfake, Google juga memperbarui sistem peringkat kueri di Google Penelusuran. Kini, Google akan menurunkan peringkat situs di mesin pencarinya jika situs tersebut berulang kali memuat konten deepfake AI non-konsensual.
Deepfake AI Bersifat Non-konsensual Membawa Masalah
Pengguna juga tidak bisa dengan sengaja mencari konten AI deepfake yang berkaitan dengan orang atau selebriti tertentu. Sebab, Google berusaha menampilkan konten non-seksual berkualitas tinggi, seperti artikel berita yang relevan dengan selebritis tersebut.
Mesin pencari Google berupaya membedakan antara konten seksual yang dibuat dengan persetujuan. Seperti video pornografi, dan konten seksual yang diproses oleh AI dan bersifat non-konsensual.
Google mengatakan upaya diferensiasi ini menimbulkan tantangan teknis bagi mesin pencari. Yang berarti upaya tersebut mungkin tidak sepenuhnya akurat atau efektif dalam memberantas konten AI non-konsensual.
Selain itu, Google mengklaim pembaruan Google Search yang dilakukan tahun ini telah mengurangi paparan konten AI deepfake lebih dari 70 persen.
Sekadar informasi, AI deepfake non-konsensual membawa masalah bagi perusahaan teknologi yang membuat atau mempromosikan peralatan AI generatif.
Tahun ini, Meta (induk Facebook, WhatsApp, Instagram) diselidiki oleh Dewan Pengawas, yaitu dewan pemantau konten independen Facebook dan Instagram. Karena penanganannya terhadap dua video depfake seksual yang menggambarkan wanita asli.
Satu video depfake menggambarkan seorang wanita India, dan video lainnya menggambarkan seorang wanita Amerika.
Pasalnya, video deepfake wanita AS ini langsung dihapus oleh Meta, sedangkan video wanita India ini tidak ditandai oleh Meta, dan baru dihapus setelah Dewan Pengawas melakukan penyelidikan.
Dewan Pengawas juga mengatakan bahwa Meta seharusnya menghapus kedua video tersebut, dan seharusnya lebih proaktif, daripada mengandalkan pemberitaan media mengenai deepfake yang menyebar secara online.