Mails-World – Platform media sosial TikTok sedang menghadapi badai kritik keras. Kanalnya kini dibanjiri oleh konten video AI yang sarat dengan stereotip rasisme dan ujaran kebencian. Kecurigaan mengarah kuat bahwa video-video berbasis kecerdasan buatan ini diproduksi menggunakan teknologi AI canggih milik Google, yakni Veo 3.
Fenomena meresahkan ini pertama kali disoroti secara mendalam oleh Media Matters for America, sebuah organisasi nirlaba pengawas media terkemuka dari AS, dalam laporan terbarunya.
Beberapa dari video rasisme yang viral di TikTok bahkan berhasil meraih puluhan juta penayangan sebelum akhirnya berhasil dihapus. Misteri seputar bagaimana video-video bermasalah ini diproduksi awalnya masih belum terpecahkan.
Namun, deretan video tersebut menunjukkan kesamaan teknis yang mencolok, semuanya mengarah pada satu kesimpulan: kemungkinan besar konten tersebut dihasilkan menggunakan Google Veo 3. Model AI video generatif (text-to-video) ini sendiri baru dirilis pada Mei 2025 lalu.
Baca juga: AI Google Veo 3 Kini Tersedia di Indonesia, Bisa Diakses Tanpa VPN
Menurut penyelidikan Media Matters, hampir semua video AI rasis yang menyebar luas di TikTok memiliki durasi sekitar 8 detik. Durasi ini kebetulan merupakan batas maksimal video yang saat ini dapat dihasilkan melalui Veo 3. Selain itu, sejumlah video juga menampilkan watermark “Veo” yang jelas di sudut layar, sementara yang lainnya menyertakan tagar atau keterangan terkait #Veo3 dalam deskripsi unggahan atau nama pengguna akun. “Bukti yang ditemukan mencakup panjang video, watermark, serta tagar dan username yang menyebut langsung Veo 3, mengindikasikan bahwa teknologi inilah yang digunakan untuk memproduksi konten tersebut,” demikian pernyataan resmi dari Media Matters.
Konten-konten yang ditemukan sangat memprihatinkan, umumnya menampilkan stereotip rasis yang merendahkan komunitas kulit hitam. Mereka digambarkan secara melecehkan sebagai kriminal, orangtua yang tidak bertanggung jawab, atau bahkan disamakan dengan hewan. Tidak hanya itu, Media Matters juga menemukan video yang menyebarkan stereotip antisemit (negatif terhadap orang Yahudi), konten yang menyerang imigran, hingga klip yang merujuk pada peristiwa traumatis sejarah seperti Holocaust (pembantaian jutaan Yahudi oleh Nazi Jerman) atau kekerasan Ku Klux Klan terhadap warga kulit hitam di AS.
Beberapa dari video provokatif ini sengaja dibuat dengan gaya “sarkastik” atau satir, dirancang untuk memicu reaksi ekstrem dari pengguna TikTok. Ironisnya, Media Matters menemukan bahwa banyak komentar pada unggahan asli justru mengulang atau mendukung stereotip rasis yang ditampilkan, memperparah dampak konten tersebut. Inilah yang diyakini menjadi pemicu video AI rasis tersebut menjadi viral. Mengingat cara kerja algoritma TikTok, semakin tinggi respons pengguna (baik berupa komentar, like, atau share), semakin besar peluang video tersebut muncul di lebih banyak timeline pengguna (For You Page/FYP).
Baca juga: Adu Foto AI Buatan ChatGPT dan Google Gemini, Mana Lebih Realistis?
Sudah Dihapus, Akun Diblokir
Pihak TikTok sendiri telah mengklaim mengambil tindakan tegas. Mereka menyatakan telah menghapus sejumlah akun dan video yang teridentifikasi dalam laporan Media Matters, bahkan sebagian besar akun tersebut disebut sudah diblokir sebelum laporan itu diterbitkan. “Kami secara proaktif menegakkan aturan ketat terhadap ujaran kebencian dan perilaku berbahaya,” jelas Ariane de Selliers, juru bicara TikTok, dalam pernyataan resminya kepada The Verge. “Akun-akun yang disebutkan telah kami tangani, banyak di antaranya sudah diblokir sebelum laporan ini dipublikasikan,” tambahnya.
TikTok memang memiliki kebijakan yang sangat ketat terhadap konten diskriminatif. Dalam pedoman komunitasnya, platform ini secara eksplisit menyatakan “tidak merekomendasikan konten yang memuat stereotip negatif terhadap individu atau kelompok dengan atribut yang dilindungi”.
Baca juga: Pernyataan Mengejutkan Bos OpenAI, Jangan Terlalu Percaya ChatGPT
Namun, kemunculan konten AI rasis dalam skala ini menimbulkan pertanyaan besar mengenai efektivitas sistem moderasi konten otomatis, terutama ketika konten dibuat oleh AI dan disebarkan secara masif oleh akun-akun anonim atau bot. Menurut laporan ArsTechnica, dalam kebijakan penggunaan layanannya (Prohibited Use Policy), Google sebenarnya melarang penggunaan layanannya untuk mempromosikan ujaran kebencian, pelecehan, perundungan, intimidasi, dan penyalahgunaan. Secara teoretis, Veo 3 seharusnya menolak untuk membuat video terlarang semacam itu. Namun, tampaknya masih ada celah lebar, terutama ketika AI gagal mengenali makna simbolik atau sindiran dalam perintahnya. Contohnya adalah penggunaan citra monyet sebagai pengganti manusia, atau simbol buah/makanan seperti semangka dan ayam goreng untuk menghina atau merendahkan komunitas kulit hitam, khususnya di AS.
Hingga berita ini ditulis, Google sendiri belum memberikan pernyataan resmi terkait dugaan bahwa Veo 3 digunakan untuk memproduksi konten AI rasis tersebut, sebagaimana dihimpun KompasTekno dari PCMag pada Senin (7/7/2025).
Pengamatan lebih lanjut menunjukkan bahwa video AI rasis serupa juga muncul, meskipun dalam skala lebih kecil, di platform lain seperti YouTube dan Instagram. Hal ini mengindikasikan bahwa penyalahgunaan teknologi AI generatif untuk konten bermasalah bukan hanya tantangan eksklusif bagi TikTok, melainkan isu global yang dihadapi oleh industri media sosial secara keseluruhan.
Baca juga: Cara Pakai Google Veo 3 Tanpa VPN, Sudah Tersedia di Indonesia
Meskipun sebagian besar video tersebut telah dihapus, Media Matters telah mengompilasi bukti-bukti video AI rasis yang sempat viral di TikTok ke dalam satu rekaman berdurasi sekitar 2 menit 22 detik. Perlu diingat, video kompilasi tersebut berisi konten rasis dan antisemit yang sangat sensitif. Watch it at your own risk!
