Waspada, Modus Penipuan Tiru Suara Orang Terdekat Dengan AI Voice Generator

Dengan tujuan yang merugikan pengguna, seperti menyebar informasi palsu, menyebar ujaran kebencian, menipu, menjatuhkan nama seseorang, dan sebagainya.

Pada Januari 2023, program AI Voice Generator buatan ElevenLabs pernah disalahgunakan oleh sekelompok orang.

Untuk membuat suara beberapa tokoh publik seperti David Attenborough dan Emma Watson.

Sebagai informasi, AI Voice Generator dari ElevenLabs punya fitur yang dapat meniru karakter suara dari data audio yang diunggah pengguna untuk menghasilkan audio baru.

• Penipuan Modus QRIS Palsu, Kepala BI Kalbar Minta Pemilik Rutin Lakukan Pengecekan

Dengan fitur tersebut, sekelompok orang itu membuat seolah para tokoh publik yang disebutkan di atas sedang berbicara keji dan penuh kebencian.

Penyalahgunaan AI Voice Generator juga tercatat pernah terjadi pada Maret 2023.

Terdapat video viral di TikTok yang berisi percakapan antara podcaster terkenal Joe Rogan dan Dr Andrew Huberman.

Keduanya terdengar sedang membicarakan tentang produk minuman kafein yang dapat meningkatkan gairah seksual.

Percakapan dibuat seolah mereka berdua mendukung produk itu. Padahal, percakapan tersebut adalah fiktif dan suaranya diproduksi dengan AI.

AI Voice Generator tidak hanya disalahgunakan untuk meniru suara para tokoh publik.

AI Voice Generator pernah juga tercatat dipakai untuk meniru suara orang biasa dengan tujuan melancarkan aksi penipuan.

Dikutip dari ZDNet, di Amerika Serikat, marak terjadi modus penipuan dengan membuat suara tiruan orang terdekat pengguna seperti teman atau keluarga.

Modus ini dikenal sebagai “vishing” atau “voice phising” dan sudah ribuan orang yang jadi korban.

Penipu menyalahgunakan AI untuk membuat suara fiktif. Lewat suara tiruan itu, penipu menghubungi korban dan mengaku sebagai orang terdekat.

Lalu, mereka meminta sejumlah uang pada korban untuk membantunya dari masalah yang dibuat-buat seperti sedang ditangkap polisi.