Bacaini.ID, KEDIRI – Dewan Pengawas Meta meminta perusahaan untuk lebih memperketat peraturan tentang pornografi yang dihasilkan oleh AI yang akhir-akhir ini mulai marak.
Dewan Pengawas Meta diketahui merupakan bagian dari perusahaan raksasa Meta yang memiliki tugas pengawasan independen pada semua produk perusahaan.
Dilansir oleh Reuters pada Kamis (26/7/2024), Dewan Pengawas Meta menilai peraturan perusahaan “tidak cukup jelas” dalam melarang penggambaran seseorang yang dibuat secara seksual eksplisit oleh AI.
Dewan Pengawas Meta juga menyerukan adanya perubahan aturan agar postingan seperti yang beredar di platform media sosial mereka, untuk dihentikan.
Keputusan dikeluarkan setelah meninjau dua kasus pornografi palsu dari dua orang perempuan public figure terkenal yang dibuat dengan AI dan diposting di Facebook dan Instagram Meta.
Meta merespon seruan dengan meninjau rekomendasi dewan pengawas mereka dan memberikan pembaruan mengenai setiap perubahan yang diadopsi.
Dalam laporannya, dewan pengawas mengidentifikasi kedua perempuan korban pornografi AI merupakan tokoh masyarakat perempuan India dan Amerika Serikat, yang telah jadi korban pelanggaran masalah privasi.
Mereka menemukan kedua gambar dari dua korban terbukti melanggar aturan Meta yang melarang “pengeditan photoshop yang menghina secara seksual”. Perbuatan itu diklasifikasikan sebagai bentuk intimidasi dan pelecehan.
Kasus yang terjadi menurut Dewan Pengawas Meta jelas bentuk pelanggaran aturan dan Meta wajib menghentikan penyebaran gambar-gambar korban di platform media sosialnya.
Tetapi pada kenyataannya, dua kasus ini menghasilkan dua keputusan yang berbeda. Keputusan cukup menganggu Dewan Pengawas dan menganggap Meta tidak memberikan aturan yang jelas.
Dalam kasus yang melibatkan public figure perempuan India -salah satu korban-, Meta gagal meninjau laporan pengguna dalam waktu 48 jam. Akibatnya laporan ditutup secara otomatis tanpa ada tindakan yang diambil.
Pengguna yang juga korban mengajukan banding, tetapi perusahaan kembali menolak untuk bertindak, dan akhirnya bersedia merespon setelah dewan pengawas turun tangan.
Sementara dalam kasus selebriti Amerika, sistem Meta secara otomatis menghapus gambar tersebut.
Dewan Pengawas merekomendasikan Meta untuk memperbarui aturannya sehingga bisa memperjelas cakupannya.
Penggunaan kata “photoshop” dinilai terlalu sempit dan larangan tersebut harus mencakup berbagai teknik pengeditan, termasuk AI generatif.
Dewan juga mengecam Meta karena menolak menambahkan gambar perempuan India ke database mereka yang memungkinkan penghapusan otomatis seperti yang terjadi dalam kasus perempuan Amerika.
Dalam laporan, Meta mengatakan kepada dewan pengawas bahwa mereka bergantung pada liputan media guna menentukan kapan menambahkan gambar ke database, yang oleh dewan pengawas dinilai sebagai praktik yang “mengkhawatirkan.”
Dewan Pengawas Meta membeberkan banyak korban gambar porno palsu yang dialami oleh masyarakat biasa dan bukan public figure.
Mereka terpaksa menerima penyebaran gambar non-konsensual mereka atau mencari dan melaporkan setiap kejadian tanpa bantuan Meta, karena gambar mereka tidak secara otomatis terhapus.
Dalam kasus yang akhir-akhir ini mulai marak itu, Meta dianggap lepas tanggungjawab.
Penulis: Bromo Liem
Editor: Solichan Arif
