Apple hapus 3 aplikasi dari App Store yang klaim mampu membuat pornografi dari AI
Aplikasi ini telah tersedia di App Store sejak tahun 2022 dan tampak tidak mencurigakan, namun pengembang aplikasi ternyata telah mempromosikan kemampuan pornografinya di situs dewasa.
Apple telah mengambil langkah tegas dengan menghapus tiga aplikasi dari App Store yang terbukti mengiklankan kemampuan untuk menghasilkan konten pornografi menggunakan kecerdasan buatan. Menurut laporan yang dirilis oleh 404 Media via AppleInsider (30/4), aplikasi-aplikasi tersebut mengklaim dapat "membuka pakaian perempuan secara gratis" dalam iklan mereka di Instagram dan situs-situs dewasa.
1. Konteks dan latar belakang kasus
Aplikasi yang terdaftar sebagai "pembuat seni" di App Store ternyata menyembunyikan fungsi yang jauh lebih kontroversial: penciptaan gambar telanjang tanpa persetujuan melalui kecerdasan buatan (AI). Fungsi ini memanfaatkan AI untuk merekonstruksi gambar tubuh telanjang di bawah pakaian, yang sangat berpotensi digunakan untuk tindakan pemerasan atau pelecehan terhadap perempuan.
2. Temuan dan tanggapan dari AppleInsider
Dilaporkan oleh AppleInsider, aplikasi ini telah tersedia di App Store sejak tahun 2022 dan tampak tidak mencurigakan, namun pengembang aplikasi ternyata telah mempromosikan kemampuan pornografinya di situs dewasa, tanpa sepengetahuan Apple dan Google. Meskipun Apple dan Google sempat mengizinkan keberadaan aplikasi ini di toko aplikasi mereka dengan syarat menghentikan iklan di situs dewasa, Google baru-baru ini mencabut salah satu aplikasi tersebut dari Play Store setelah aplikasi itu terus menerus menayangkan iklan di situs dewasa.
3. Dampak dan kontroversi
Keputusan pencabutan ini berlangsung mendekati konferensi WWDC yang akan diadakan pada bulan Juni 2024, di mana Apple diantisipasi akan membuat pengumuman besar terkait pengembangan AI pada iOS 18 dan Siri. Langkah ini diambil sebagai bagian dari upaya Apple untuk mempertahankan citra positif, terutama pasca keputusan mereka untuk melisensikan artikel dari penerbit guna melatih AI generatif mereka. Insiden ini juga menyeret nama Google dan OpenAI, yang sebelumnya telah diperiksa oleh The New York Times atas penggunaan artikel tanpa izin untuk pelatihan AI.
4. Pertimbangan etika dan regulasi
Kasus ini menggarisbawahi urgensi akan regulasi yang lebih ketat dalam penggunaan AI, khususnya terkait dengan pembuatan dan distribusi konten yang dinilai tidak etis atau yang dapat membahayakan privasi individu. Perlu adanya diskusi mendalam tentang batas-batas etis penggunaan AI untuk mencegah penyalahgunaan teknologi ini di masa mendatang.
Peristiwa ini tidak hanya berdampak pada reputasi Apple dan Google sebagai pelindung data pengguna, tetapi juga memicu diskusi lebih luas mengenai implementasi AI dalam masyarakat. Di tengah pesatnya perkembangan teknologi AI, sangat penting bagi perusahaan-perusahaan teknologi besar untuk proaktif mengaudit dan memonitor aplikasi yang diizinkan di platform mereka, guna memastikan kepatuhan terhadap norma etika dan hukum yang berlaku.
