Kebimbangan mengenai penyalahgunaan deepfake mula menjadi jelas. Seorang ibu di Pennsylvania, AS, memanfaatkan teknologi ini untuk menyingkirkan pesaing anak perempuannya dalam kumpulan pemandu sorak sekolah.
Deepfakes adalah video kejuruteraan atau bahan digital yang dibuat oleh kecerdasan buatan canggih (AI) untuk menghasilkan gambar dan suara yang kelihatan dan terdengar seperti yang sebenar.
Teknik inilah yang diduga dilakukan oleh Raffaela Spone, dalam usaha mengusir saingan anak perempuannya dari kumpulan pemandu sorak. Menurut penguatkuasa yang menyiasat kes itu, Spone mengirim foto dan video remaja yang diubah menggunakan AI kepada pelatih pemandu sorak untuk memfitnah mangsa.
Dalam video tersebut, mangsa digambarkan sebagai gadis nakal yang meminum minuman beralkohol, merokok dan berbogel. Spone berharap jurulatih mengusir mangsa dari keahlian pemandu sorak agar anak perempuannya dapat pergi tanpa saingan.
Dikutip dari CBS, polis pertama kali menerima berita tersebut pada bulan Julai, ketika salah seorang mangsa menerima pesanan dari nombor yang tidak diketahui. Mesej ini mendorong mangsa lain untuk menceritakan kisah serupa.
Pegawai polis kemudian mengesannya sehingga menemui nombor yang berkaitan dengan laman web berorientasikan telemarketer. Dari sini, penjejakan menuju ke alamat IP yang digunakan di rumah Spone. Hasil carian di telefon pintar wanita itu menemui bukti yang mengaitkannya ke laman web.
Atas tindakannya, Spone telah menghadapi tuduhan penderaan dalam talian terhadap seorang kanak-kanak dan sejumlah kesalahan lain yang berkaitan. Polis tidak mengambil tindakan terhadap anak perempuan itu, kerana tidak ada bukti bahawa dia menyedari tindakan ibunya.
Sehingga kini, rangkaian sosial seperti Facebook, TikTok dan Twitter telah melarang penggunaan deepfakes, jadi kemungkinan menyebarkannya sangat tipis. Namun, kejadian ini menggarisbawahi kemudahan di mana imej seseorang dapat dipalsukan.
Tidak memerlukan kemahiran khas, deepfakes dapat digunakan dengan mudah oleh sesiapa sahaja. Walaupun beberapa hasil rekayasa deepfake masih terlihat palsu, di masa depan ada kekhawatiran bahawa teknologi ini akan menjadi semakin canggih dan dapat membuat kejuruteraan video yang kelihatan semula jadi sehingga dapat menjadi lebih berbahaya.
