TikTok tingkatkan kemampuan deteksi konten 'tepi jurang'

Selama beberapa bulan terakhir, TikTok diketahui sedang mengerjakan cara baru untuk membatasi usia untuk jenis konten tertentu. Hal ini dilakukan sebagai bagian dari dorongan yang lebih luas untuk meningkatkan fitur keamanan bagi pengguna yang lebih muda.

Awal tahun 2022, aplikasi berbagi video pendek itu meluncurkan sistem peringkat baru yang disebut Content Level. Fitur ini memungkinkan untuk membantu mengindetifikasi lebih banyak konten "dewasa".

Sekarang, perusahaan memiliki pembaruan lain atas upaya yang sama, yang disebut sebagai versi baru dari "borderline suggestive model". Dilansir dari Engadget (2/1), model ini digunakan perusahaan untuk secara otomatis mengidentifikasi "konten seksual eksplisit, sugestif, atau borderline."

Menurut juru bicara TikTok, model baru juga lebih mampu mendeteksi apa yang disebut konten borderline. Ini adalah jenis konten yang tidak secara eksplisit melanggar aturan aplikasi, tetapi mungkin tidak cocok untuk pengguna yang lebih muda. 

TikTok bukan satu-satunya platform yang menyaring jenis konten borderline atau sebut saja konten 'tepi jurang' dari rekomendasi. Instagram juga telah lama berusaha untuk menyingkirkan konten tersebut dari rekomendasinya. 

Selama ini, konten tepi jurang lebih sulit untuk dideteksi secara otomatis oleh sistem. TikTok tidak menawarkan secara spesifik seberapa akurat sistem baru itu, tetapi mengklaim dalam 30 hari terakhir perusahaan telah "mencegah akun remaja melihat lebih dari 1 juta video yang menjurus ke arah seksual."

Di samping itu, aplikasi juga meluncurkan kemampuan bagi kreator untuk membatasi video mereka hanya untuk pemirsa dewasa. Fitur ini sebelumnya hanya tersedia untuk video siaran langsung, tetapi sekarang juga akan diaktifkan untuk klip bentuk pendek.