“Video ini dibuat menggunakan teknologi AI untuk mengingatkan kita betapa pentingnya suara kita dalam pemilihan umum yang akan menentukan masa depan agar harapan rakyat Indonesia terwujud dan sejahtera.” tambahnya, dikutip Minggu (14/1).
Selain itu, video yang dibuat dengan menggunakan teknologi deepfake itu disebutnya berdasarkan atas ide dari dirinya sendiri.
“Dari saya sendiri, ide penggunaan deepfake. Banyak orang-orang hebat Indonesia,” sebutnya.
Baca Juga:Petisi 100 Pemakzulan Jokowi Inkonstitusional, Ini Kata Pakar Hukum Tata NegaraRamalan Bank Dunia, Ekonomi Indonesia 2024 Waspada
“Dalam Pemilu seluruh dunia, deepfake banyak digunakan. Saya ingin menyampaikan, kita harus hati-hati, deepfake bisa menyebarkan berita hoaks,” ungkap Erwin.
Teknologi deepfake telah mampu menciptakan gambaran orang dan suara mereka yang realistis, tetapi salah. Kini, dengan maraknya model teknologi kecerdasan buatan generatif dan chatbot konsumen, seperti ChatGPT, teknologi deepfake menjadi lebih meyakinkan dan lebih mudah tersedia dalam skala besar.
Mengutip The Financial Times, penyedia teknologi ExpressVPN menyatakan bahwa saat ini terdapat jutaan deepfake daring, naik dari sekitar 15.000 deepfake pada 2019. Dilihat dari sisi bisnis, survei yang dilakukan oleh perusahaan perangkat lunak Regula menyatakan, sekitar 80 persen perusahaan menyebut deepfake suara atau video merupakan ancaman nyata terhadap operasional mereka.
Melalui artikel How Can We Combat the Worrying Rise in the Use of Deepfakes in Cybercrime yang diunggah oleh Forum Ekonomi Dunia (WEF) di blognya, 19 Mei 2023, WEF menyatakan bahwa deepfake berpotensi merusak hasil pemilu, stabilitas sosial, dan bahkan keamanan nasional, khususnya dalam konteks kampanye disinformasi. Dalam beberapa kasus, deepfake digunakan untuk memanipulasi opini publik atau menyebarkan berita palsu yang menimbulkan ketidakpercayaan dan kebingungan di kalangan masyarakat. Deepfake juga menimbulkan kerugian bagi bisnis. Pada tahun lalu, 26 persen perusahaan kecil dan 38 persen perusahaan besar di Amerika Serikat mengalami penipuan deepfake yang mengakibatkan kerugian hingga 480.000 dollar AS.
Untuk mengatasi ancaman yang muncul ini, WEF menyarankan pentingnya terus mengembangkan dan meningkatkan teknologi deteksi deepfake. Solusi potensial lainnya adalah dengan meningkatkan literasi media dan pemikiran kritis. Setiap perusahaan platform media sosial memiliki kebijakan sendiri dalam menyikapi dan menangani fenomena itu.
Tidak semua konten deepfake buruk. Ada pula konten deepfake bernuansa hiburan. Apabila ada konten video yang diproduksi memakai teknologi kecerdasan buatan, lalu dikasih label, tetapi ternyata informasi yang terkandung di dalam video itu hoaks atau disinformasi, perusahaan segera mempertimbangkan agar konten itu diturunkan (take down).