Meta Gugat Aplikasi Nudify CrushAI Langgar Kebijakan Iklan

Game Seru – Meta, perusahaan induk dari Facebook dan Instagram, resmi mengajukan gugatan terhadap Joy Timeline HK Limited, perusahaan asal Hong Kong yang berada di balik aplikasi nudify bernama CrushAI. Aplikasi tersebut memungkinkan pengguna membuat gambar telanjang palsu dari siapa pun hanya dengan mengunggah foto mereka, tanpa memerlukan persetujuan dari orang dalam foto tersebut.

Langkah hukum ini diambil Meta setelah laporan yang di lansir dari 404 Media mengungkap bahwa CrushAI—juga dikenal sebagai Crushmate dan beberapa nama lain—telah membeli lebih dari 5.000 iklan di platform milik Meta. Hal ini menunjukkan adanya penyalahgunaan besar-besaran terhadap sistem iklan Meta untuk mempromosikan konten berbasis pelanggaran privasi.

“Langkah hukum ini menunjukkan keseriusan kami dalam menangani penyalahgunaan ini serta komitmen kami untuk melindungi komunitas dari ancaman tersebut,” ujar Meta melalui pernyataan resmi di situsnya. Gugatan tersebut telah diajukan di Hong Kong, tempat Joy Timeline HK Limited beroperasi, dengan tujuan utama mencegah aplikasi seperti CrushAI beriklan di platform Meta di masa mendatang.

Iklan Melanggar dan Efektivitasnya

Laporan dari 404 Media juga mencatat bahwa 90% lalu lintas pengguna ke CrushAI berasal dari iklan di platform Meta, membuktikan bahwa iklan-iklan tersebut sangat efektif dalam mengarahkan pengguna ke layanan yang menghasilkan gambar non-konsensual. Alexios Mantzarlis dari Indicator adalah orang pertama yang melaporkan hal ini.

Meta sendiri mengakui bahwa mereka menghadapi pertempuran yang kompleks dan terus berkembang dalam mengatasi aktor-aktor jahat yang menggunakan taktik licik untuk menghindari pelarangan.

“Ini adalah ruang yang sangat penuh perlawanan, dan pelaku kejahatan digital terus mengembangkan taktik baru untuk menghindari deteksi. Oleh karena itu, kami terus berinvestasi dalam teknologi dan alat terbaik untuk mengidentifikasi serta menghapus konten yang melanggar,” terang Meta.

Aplikasi Serupa Masih Bermunculan

CrushAI bukan satu-satunya aplikasi nudify yang memanfaatkan platform Meta untuk beriklan. Bahkan setelah banyak laporan media dan tindakan dari Apple serta Google yang telah menghapus aplikasi-aplikasi serupa dari App Store dan Play Store, muncul kembali versi baru dari aplikasi tersebut dengan iklan yang terus bermunculan.

Meta kini memperluas upaya mereka dengan bekerja sama dalam inisiatif Tech Coalition Lantern, sebuah program yang memungkinkan perusahaan teknologi berbagi informasi terkait URL dan aplikasi berbahaya untuk tindakan bersama. Mitra dari aliansi ini mencakup perusahaan besar seperti Google, Discord, Roblox, Snap, dan Twitch.

Selain itu, Meta mengumumkan bahwa mereka tengah “memperkuat” langkah penegakan terhadap pengiklan-pengiklan bermasalah yang secara terang-terangan menyalahi kebijakan.

Teknologi Baru untuk Deteksi Iklan

Meta menyebut bahwa pengembang aplikasi nudify menggunakan beragam cara untuk menghindari deteksi, termasuk menyisipkan gambar-gambar tidak mencolok dalam iklan mereka, hingga dengan cepat mengganti domain situs web saat domain lama diblokir.

Menanggapi ini, Meta telah mengembangkan teknologi baru yang dirancang khusus untuk mengidentifikasi jenis iklan seperti ini—bahkan jika kontennya tidak secara eksplisit menampilkan ketelanjangan. Mereka juga menggunakan teknologi pencocokan untuk menemukan serta menghapus iklan serupa secara lebih cepat.

Tim internal Meta, bersama dengan para ahli eksternal, telah memperluas daftar istilah, frasa, dan emoji yang dianggap berisiko dan dilatih dalam sistem pendeteksi iklan mereka.

Moderasi Konten Iklan vs. Konten Pengguna

Temuan dari AI Forensics, sebuah organisasi nirlaba Eropa yang menginvestigasi algoritma digital, menunjukkan bahwa sistem moderasi Meta ternyata lebih longgar terhadap iklan berbayar dibandingkan dengan unggahan reguler dari pengguna.

Sebagai contoh, gambar yang mengandung ketelanjangan akan dihapus jika diunggah sebagai postingan biasa, namun dibiarkan jika muncul dalam format iklan berbayar. Hal ini mengundang pertanyaan serius mengenai prioritas dan keefektifan sistem moderasi Meta.

Tekanan Hukum dan Kebijakan

Laporan 404 Media dan tekanan dari anggota Kongres Amerika Serikat juga turut mendorong perhatian terhadap isu ini. Meskipun Meta menyebut bahwa keputusan mereka untuk menggugat Joy Timeline HK Limited tidak berkaitan langsung dengan hal ini, mereka mencatat bahwa pemerintah AS telah mengesahkan Take It Down Act, undang-undang federal yang memungkinkan platform dikenai tanggung jawab hukum atas konten semacam ini.

Meskipun begitu, langkah hukum kali ini lebih diklaim sebagai bagian dari upaya jangka panjang mereka untuk melindungi pengguna dari eksploitasi berbasis AI dan penyalahgunaan teknologi yang merusak privasi individu.