Suaranusantara.com- Aplikasi TikTok kini tengah kecolongan lantaran muncul konten AI di mana menampilkam adegan yang menjurus arah pornografi dengan membidik anak-anak jadi target.
Pada konten AI itu terlihat jelas di mana seorang anak perempuan di bawah umur dengan memakai pakaian yang tidak sewajarnya anak-anak.
Bahkan peneliti dari organisasi keamanan online, berujar ada lusinan akun dengan konten AI yang di mana memperlihatkan anak-anak di bawah umur mengenakan pakaian yang super ketat, lalu pakaian dalam saja hingga berpose sugestif.
Bahkan akun-akun yang menampilkan konten AI itu itu diikuti oleh ratusan ribu pengikut mirisnya mayoritas adalah anak-anak.
Tak hanya itu, di dalam komen-komen yang tertera pada konten juga memuat tautan ke obrolan di Telegram, yang menawarkan transaksi pornografi.
Sebelumnya, ada tiga belas akun masih aktif setelah 15 di antaranya dilaporkan melalui fitur pelaporan TikTok pekan lalu.
Carlos Hernandez-Echevarria selaku pemimpin penelitian tersebut sebagai kepala kebijakan publik di Maldita.es. Organisasi nirlaba di Spanyol ini mengkaji disinformasi dan mempromosikan transparansi media.
Adanya laporan ini, maka memunculkan pertanyaan tentang bagaimana kemampuan TikTok menegakkan kebijakannya terkait konten AI, bahkan saat konten menampilkan gambar tak pantas anak-anak.
Platform teknologi, termasuk TikTok, menghadapi tekanan untuk melindungi pengguna muda seiring makin banyaknya area yang mengesahkan UU keamanan online, termasuk larangan medsos bagi anak di bawah 16 tahun di Australia yang berlaku minggu ini.
“Ini sama sekali bukan hal samar. Tidak ada manusia sungguhan yang tidak menganggap ini menjijikkan dan ingin konten ini dihapus,” kata Hernandez, Senin 15 Desember 2025.
TikTok memiliki kebijakan tanpa toleransi terhadap konten yang memperlihatkan, mempromosikan, atau terlibat pelecehan atau eksploitasi seksual anak muda.
Panduan komunitasnya secara khusus melarang akun yang berfokus pada gambar AI anak muda dengan pakaian yang ditujukan untuk orang dewasa, atau pose maupun ekspresi wajah yang diseksualisasi.
Bagian lain dari kebijakannya menyatakan bahwa TikTok tidak mengizinkan konten seksual yang melibatkan anak muda, termasuk apa pun yang memperlihatkan atau mengisyaratkan pelecehan atau aktivitas seksual, yang mencakup “gambar yang dihasilkan AI dan apapun yang menseksualisasi atau memfetisisasi tubuh anak muda.
Perusahaan mengatakan pihaknya menggunakan kombinasi tool berbasis visual, audio, dan teks, serta tim manusia, untuk memoderasi konten. Antara April dan Juni 2025, TikTok menghapus lebih dari 189 juta video dan memblokir lebih dari 108 juta akun.
Mereka mengklaim 99% konten yang melanggar kebijakan tentang ketelanjangan dan paparan tubuh, termasuk yang melibatkan anak muda, dihapus secara proaktif, dan 97% konten yang melanggar kebijakan tentang konten buatan AI dihapus secara proaktif. Juru bicara TikTok tidak memberikan komentar spesifik terkait laporan tersebut.
Maldita.es menemukan video TikTok tersebut melalui akun uji coba untuk memantau potensi disinformasi atau konten berbahaya lainnya.
“Salah satu anggota tim kami mulai melihat adanya tren video AI yang menampilkan anak-anak yang masih sangat kecil berpakaian layaknya orang dewasa dan, terutama ketika Anda melihat kolom komentar, Anda bisa melihat adanya motif uang di sana,” kata Hernandez.
Discussion about this post