New York Times baru-baru ini melaporkan tentang rasa sakit yang ditimbulkan oleh video YouTube yang dibuat oleh AI ini terhadap keluarga yang sedang berduka. Setelah seorang mahasiswa meninggal karena tidak sengaja terjatuh ke rel kereta bawah tanah New York, video YouTube dan artikel yang dibuat oleh AI dengan cepat muncul.
Obituari ini merupakan respons dari para penipu yang melihat lonjakan minat pencarian di sekitar nama pemuda tersebut dan kata “kereta bawah tanah.” Para penipu dengan cepat memasukkan istilah-istilah kunci tersebut, menyuruh AI untuk menulis berita kematian dengan nada percakapan, dan kemudian menamparnya di sebuah situs web, demikian yang dilaporkan Times. (Sebagian besar detailnya salah, tetapi itu tidak menghentikan situs tersebut untuk muncul di pencarian Google).
Ketiga contoh tersebut – peniru 404 Media, penghuni liar The Hairpin, dan pembajak berita kematian – memiliki detail yang berbeda. Tetapi mereka memiliki satu kesamaan: Pelaku kejahatan, penipu, dan pengirim spam mencoba menghasilkan uang dengan menggunakan AI untuk memompa konten dalam jumlah besar untuk mencapai bagian atas hasil pencarian Google.
Google Terancam Jadi Tempat Sampah
Baca Juga:Tips Dekorasi Rumah Rayakan Imlek di Tahun Naga Kayu10 Februari, 3 Paslon Capres-Cawapres Pilpres 2024 Siap Hadir di Deklarasi Kemerdekaan Pers
Pada akhirnya, ini bukan hanya masalah bagi para jurnalis yang kontennya dicuri atau keluarga yang sedang berduka yang merasa kecewa dengan perampokan kuburan digital. Ini adalah masalah besar bagi Google. Pada akhirnya Google menyajikan hasil pencarian sampah kepada pengguna.
Google mengatakan kepada The New York Times bahwa mereka menyadari adanya berita duka yang bersifat spam ini dan sedang berusaha mengatasinya (dan menghapus beberapa berita duka karena melanggar kebijakannya).
Namun, para pelaku kejahatan sering kali selangkah lebih maju daripada platform – seperti gambar-gambar cabul Taylor Swift yang dibuat oleh AI yang menyebar di X minggu lalu.
AI akan mengubah internet secara radikal, baik atau buruk. Tergantung pada Google dan perusahaan-perusahaan yang membuat perangkat AI ini untuk meminimalisir bahaya yang sebenarnya. (*)