Poin Penting:
- Apple secara resmi memperketat pengawasan di ekosistem App Store dan menghapus aplikasi manipulasi gambar berbasis AI (nudify) yang menghasilkan foto intim tanpa persetujuan korban.
- Langkah tegas ini dipicu oleh desakan hukum dan surat peringatan dari otoritas peradilan di Amerika Serikat terkait potensi celah monetisasi pembelian dalam aplikasi (in-app purchase).
- Apple menegaskan bahwa pembuatan konten vulgar non-konsensual telah melanggar App Store Review Guidelines dan akun pengembang yang melanggar akan dihapus permanen.
- Investigasi independen sebelumnya menemukan celah pada kata kunci pencarian dan penempatan promosi yang sempat disalahgunakan aplikasi bermasalah tersebut.
- Kebijakan pengetatan ini menandai komitmen industri teknologi dalam menekan ancaman kejahatan siber dan pelecehan digital berbasis deepfake.
Maraknya penyalahgunaan teknologi kecerdasan buatan untuk menciptakan manipulasi visual tanpa izin mendorong industri teknologi mengambil sikap tanpa kompromi. Menanggapi lonjakan kasus pelecehan digital, Apple resmi memperketat pengawasan pada gerai aplikasi App Store dengan menyapu bersih seluruh aplikasi pembuat foto intim palsu (nudify AI).
Desakan Hukum dan Surat Peringatan Otoritas
Sebagaimana dirangkum dalam laporan Telset.id, langkah penertiban berskala besar ini mengemuka setelah adanya surat peringatan hukum keras (cease-and-desist) dari Jaksa Kota San Francisco, David Chiu, yang ditujukan kepada para pengelola platform distribusi aplikasi utama.
Platform dituding perlu bertanggung jawab secara lebih proaktif agar sistem pembayaran digital dan katalog aplikasi mereka tidak dimanfaatkan oleh pihak ketiga untuk meraup keuntungan komersial dari peredaran materi visual yang merusak reputasi dan martabat korban.
Pelanggaran Nyata Terhadap Pedoman Review App Store
Pihak Apple menegaskan bahwa aplikasi yang memfasilitasi pembuatan konten pornografi, ketidaksenonohan, maupun manipulasi tubuh tanpa izin sejatinya telah melanggar App Store Review Guidelines secara mutlak. Aturan platform melarang keras segala bentuk materi yang bersifat melecehkan, merugikan secara psikologis, atau melanggar hak privasi individu.
Meskipun demikian, laporan investigasi dari lembaga pengawas teknologi seperti Tech Transparency Project (TTP) sebelumnya sempat menemukan beberapa aplikasi tak bertanggung jawab yang menyamarkan fungsi aslinya melalui algoritma pencarian kata kunci dan iklan promosi berbayar.
Sanksi Pencabutan Akun Pengembang dan Pengetatan Algoritma
Guna menutup celah tersebut, tim kurasi dan moderasi keamanan Apple kini memperbarui sistem deteksi otomatis guna menyisir aplikasi yang mengiklankan kemampuan manipulasi pakaian atau deepfake intim. Tidak hanya mencabut aplikasi dari peredaran, Apple juga memberlakukan sanksi pemblokiran permanen terhadap akun pengembang yang terbukti melanggar.
Para pengembang lain yang mengintegrasikan fitur AI generatif kini diwajibkan menyertakan pembatasan keamanan ketat (content guardrails) agar sistem mereka tidak dapat dimanipulasi pengguna untuk menghasilkan konten berbahaya.
Perlindungan Ruang Digital dari Ancaman Pelecehan AI
Langkah proaktif Apple ini menjadi preseden penting dalam tata kelola etika teknologi masa kini. Seiring dengan kemudahan model AI generatif dalam mengolah gambar beresolusi tinggi, penegakan regulasi platform yang tegas menjadi garda terdepan untuk memastikan ekosistem digital tetap aman, bermartabat, dan bebas dari ancaman pelecehan siber.
