Fenomena Konten AI Rasis di TikTok

Pernah nggak sih kamu ngerasa kayak lagi asik scrolling TikTok, terus tiba-tiba muncul video yang bikin kamu langsung kesel? Nah, itu yang lagi dirasain banyak orang sekarang. TikTok emang udah jadi tempat buat banyak konten viral, dari yang bermanfaat sampe yang… ya, you know lah. Tapi belakangan ini, kok kayaknya makin banyak aja video AI yang lewat di FYP (For You Page) yang isinya rasis dan nggak ngenakin banget.

Jujur aja, aku juga sempat mikir, “Kok bisa ya ada konten kayak gini lolos?” Padahal kan, TikTok punya aturan yang jelas soal ujaran kebencian dan diskriminasi. Tapi ya gitu deh, namanya juga media sosial, pasti ada aja celahnya buat orang-orang yang niatnya nggak bener. Video-video ini, sayangnya, sempet viral dan ditonton jutaan kali sebelum akhirnya dihapus. Parah kan?

Dugaan Keterlibatan Google Veo 3

Nah, ini nih yang bikin geger. Katanya, video-video rasis ini dibikin pake teknologi AI video canggih dari Google, namanya Veo 3. Seriusan? Google? Kok bisa sih? Aku juga awalnya nggak percaya. Tapi, setelah ditelusuri lebih lanjut, kok kayaknya ada benarnya juga.

Kesamaan Teknis Video Rasis

Gini lho, menurut laporan dari Media Matters for America, sebuah organisasi nirlaba yang fokus ngawasin media, video-video AI rasis ini punya beberapa kesamaan yang mencurigakan. Pertama, hampir semua video itu durasinya 8 detik. Kedua, beberapa video bahkan ada watermark “Veo” di sudut layarnya. Ketiga, banyak juga yang nyantumin tagar atau keterangan #Veo3 di deskripsi atau username mereka. Kebetulan? Kayaknya enggak deh…

Bukti dari Media Matters for America

Media Matters ini bukan kaleng-kaleng, mereka udah ngelakuin investigasi mendalam. Mereka nemuin bukti-bukti yang cukup kuat buat nunjukkin kalau Veo 3 kemungkinan besar terlibat dalam pembuatan konten rasis ini. “Bukti yang ditemukan mencakup panjang video, watermark, serta tagar dan username yang menyebut langsung Veo 3, mengindikasikan bahwa teknologi inilah yang digunakan untuk memproduksi konten tersebut,” gitu kata mereka dalam laporan resminya. Ya, walaupun kadang bikin tambah bingung juga sih, kenapa ada orang yang tega bikin konten kayak gitu.

Jenis Konten Rasis yang Ditemukan

Terus, konten rasisnya kayak gimana aja sih? Duh, ini yang paling bikin nyesek. Video-video itu umumnya menampilkan stereotip rasis terhadap komunitas kulit hitam. Digambarin sebagai kriminal, orang tua yang nggak bertanggung jawab, bahkan disamain kayak hewan. Nggak cuma itu, ada juga konten yang nyebarin stereotip antisemit (stereotip negatif terhadap orang Yahudi), nyerang imigran, sampe ngerujuk ke peristiwa traumatis sejarah kayak Holocaust. Ya ampun, kok bisa ya sekejam itu?

Beberapa video bahkan sengaja dibikin dengan gaya “sarkastik” atau satir, tujuannya buat mancing reaksi dari pengguna TikTok. Bikin emosi, terus ujung-ujungnya malah memperkeruh suasana.

Dampak Algoritma TikTok

Yang lebih parah lagi, algoritma TikTok kayaknya malah “mendukung” penyebaran video-video rasis ini. Kok bisa? Gini lho, semakin banyak respons pengguna (komen, like, share), semakin besar peluang video itu muncul di FYP. Nah, banyak komentar di unggahan asli yang malah ngulang atau mendukung stereotip rasis yang ditampilkan dalam video. Jadi, nggak cuma videonya yang bermasalah, tapi komentar-komentarnya juga. Gila nggak tuh?

Rasanya kayak nungguin mie instan mateng padahal cuma 3 menit, tapi ini nungguin konten rasis viral di TikTok, rasanya pengen uninstall aja deh! Seriusan, ini bahaya banget.

Tindakan TikTok

Untungnya, pihak TikTok nggak tinggal diam. Mereka ngeklaim udah ngehapus sejumlah akun dan video yang teridentifikasi dalam laporan Media Matters. Bahkan, sebagian besar akun itu udah diblokir sebelum laporan diterbitkan. Ya, walaupun agak telat sih, tapi at least ada tindakan.

Tapi, ini jadi PR besar buat TikTok dan platform media sosial lainnya. Gimana caranya mereka bisa lebih efektif ngawasin dan ngeberantas konten-konten kayak gini? Gimana caranya mereka bisa mastiin kalau algoritma mereka nggak malah “membantu” penyebaran ujaran kebencian? PR banget kan?

Intinya sih, ya gitu… kita semua punya tanggung jawab buat bikin internet jadi tempat yang lebih positif. Jangan ikutan nyebarin konten negatif, jangan ikut-ikutan ngasih komentar yang rasis atau diskriminatif. Jadilah netizen yang bijak, okay?

Nah, lo udah tau kan gimana TikTok bisa kebanjiran konten AI rasis dan apa hubungannya sama Google Veo 3? Ini emang masalah serius yang butuh perhatian kita semua. Jangan cuma jadi penonton, yuk ikut berkontribusi buat bikin TikTok (dan internet secara umum) jadi tempat yang lebih baik! Gimana menurutmu? Share dong pendapatmu di kolom komentar! ***