Apple hapus 3 aplikasi dari App Store yang klaim mampu membuat pornografi dari AI
Aplikasi ini telah tersedia di App Store sejak tahun 2022 dan tampak tidak mencurigakan, namun pengembang aplikasi ternyata telah mempromosikan kemampuan pornografinya di situs dewasa.
Apple telah mengambil langkah tegas dengan menghapus tiga aplikasi dari App Store yang terbukti mengiklankan kemampuan untuk menghasilkan konten pornografi menggunakan kecerdasan buatan. Menurut laporan yang dirilis oleh 404 Media via AppleInsider (30/4), aplikasi-aplikasi tersebut mengklaim dapat "membuka pakaian perempuan secara gratis" dalam iklan mereka di Instagram dan situs-situs dewasa.
1. Konteks dan latar belakang kasus
Aplikasi yang terdaftar sebagai "pembuat seni" di App Store ternyata menyembunyikan fungsi yang jauh lebih kontroversial: penciptaan gambar telanjang tanpa persetujuan melalui kecerdasan buatan (AI). Fungsi ini memanfaatkan AI untuk merekonstruksi gambar tubuh telanjang di bawah pakaian, yang sangat berpotensi digunakan untuk tindakan pemerasan atau pelecehan terhadap perempuan.
2. Temuan dan tanggapan dari AppleInsider
Dilaporkan oleh AppleInsider, aplikasi ini telah tersedia di App Store sejak tahun 2022 dan tampak tidak mencurigakan, namun pengembang aplikasi ternyata telah mempromosikan kemampuan pornografinya di situs dewasa, tanpa sepengetahuan Apple dan Google. Meskipun Apple dan Google sempat mengizinkan keberadaan aplikasi ini di toko aplikasi mereka dengan syarat menghentikan iklan di situs dewasa, Google baru-baru ini mencabut salah satu aplikasi tersebut dari Play Store setelah aplikasi itu terus menerus menayangkan iklan di situs dewasa.