OAtekno.com – TikTok secara tidak sengaja mengunggah tautan ke versi internal dari tool avatar digital AI terbaru mereka, tanpa batasan akses. Hal ini memungkinkan pengguna secara bebas membuat video dengan kata-kata terkenal dari tokoh-tokoh tertentu.
Kesalahan ini pertama kali ditemukan oleh CNN. Media tersebut kemudian membuat video berisi kutipan dari Hitler dengan pesan yang menyuruh orang untuk minum pemutih, di antara frasa lainnya.
Sejak itu, TikTok telah menghapus versi internal dari alat avatar digital ini. Adapun versi yang memang direncanakan untuk dirilis oleh TikTok tetap tersedia.
Tool AI yang dimaksud adalah Symphony Digital Avatar. Alat ini memungkinkan pelaku bisnis untuk menghasilkan iklan dengan menggunakan suara aktor berbayar yang mirip dengan tokoh tertentu.
Alat ini menggunakan pengubah suara yang didukung AI, memungkinkan pengiklan untuk memasukkan skrip guna membuat avatar mengatakan apa yang diinginkan.
Baca juga: Tecno Gandeng ACRC di NTU Singapura
Meski hanya pengguna dengan akun TikTok Ads Manager yang bisa mengakses alat ini, versi yang ditemukan oleh CNN memungkinkan siapa pun, termasuk pemilik akun pribadi, untuk mencobanya.
Dalam sebuah pernyataan kepada The Verge, juru bicara TikTok Laura Perez mengatakan, TikTok telah menyelesaikan kesalahan teknis yang “memungkinkan sejumlah kecil pengguna untuk membuat konten menggunakan versi uji internal alat tersebut selama beberapa hari.”
Konten Akan Ditolak Karena Langgar Pedoman Komunitas TikTok
Dari Tool avatar digital AI TikTok juga CNN berhasil menghasilkan video yang membacakan “Letter to America” dari Osama bin Laden, hingga video yang menyuruh orang untuk memilih di hari yang bukan hari Pemilu.
Laura Perez menyangkal hal tersebut dengan berkata, jika konten tersebut diunggah di TikTok, konten akan ditolak karena dianggap melanggar kebijakan komunitas.
Meskipun TikTok telah menghapus versi internal alat ini, timbul pertanyaan apakah orang-orang akan menemukan cara lain untuk menyalahgunakan alat pembuat avatar digital itu dan apakah TikTok siap untuk menghadapinya?
Dengan kejadian ini, TikTok harus lebih waspada dalam mengembangkan dan menguji alat-alat baru berbasis AI untuk memastikan tidak ada celah yang dapat disalahgunakan oleh pihak yang tidak bertanggung jawab.
