- James Kelly, Laura Jones
- berita BBC
3 jam yang lalu
keterangan video,
Tonton: Contoh video deepfake
Selebriti termasuk Piers Morgan, Nigella Lawson dan Oprah Winfrey telah dikritik karena menggunakan iklan online AI deepfake untuk memberikan kesan yang salah bahwa mereka mendukung kursus swadaya influencer Amerika yang kontroversial itu.
Iklan tersebut mempromosikan apa yang disebut “Genie Script”, inti dari kursus “pencerahan” yang dijual oleh Wesley “Billion Dollar” Virgin seharga $37 (£29) per pop.
Dia menggambarkan dirinya sebagai pelatih motivasi dengan 1,1 juta pengikut di Instagram dan mengklaim kekayaannya $40 juta.
Video yang digunakan untuk menarik pembeli agar membeli produk tersebut mengklaim bahwa Genie Script adalah ayat Alkitab Ibrani yang “hilang” yang hanya terdiri dari 20 kata dan mungkin dapat mengubah hidup Anda.
Perpaduan antara pseudosains, teori konspirasi, dan manipulasi kemiripan selebriti dalam promosi ini menarik pelanggan yang sangat membutuhkan kesempatan untuk mengendalikan nasib mereka sendiri.
Salah satu iklan menggunakan cuplikan Nigella Lawson yang berbicara tentang resep dan pekerjaannya sebagai koki TV.
“Saya sedang berlibur dan bertemu orang ini di sebuah pesta yang sangat istimewa. Namanya Wesley dan dia memberi saya halaman Alkitab tersembunyi yang dikunci di kamar seseorang,” kata suara itu.
Tapi itu bukan milik Lawson, itu adalah tiruan generator suara AI yang hampir tidak bisa dibedakan.
Video sebenarnya dilapisi dengan deepfake yang meniru suara penulis makanan, membuatnya terdengar seperti dia mengaitkan kesuksesannya langsung dengan bimbingan Wesley Virgin.
Suara AI menyarankan agar skrip yang dirilis oleh Virgin membuka rahasia perwujudan: praktik memikirkan atau menuliskan aspirasi Anda untuk mewujudkannya.
“Dia berkata: 'Ulangi mantra ini setiap hari selama sisa hidup Anda. Sejak saat itu, saya sendiri menjadi miliarder.”
Juru bicara Lawson mencap iklan tersebut sebagai “penipuan” dan “kekhawatiran besar”.
Iklan lain tampaknya diambil dari acara TV Piers Morgan Uncensored dan menggunakan teknik serupa.
Suara tersebut menggambarkan “kitab suci kuno yang hilang yang digunakan para raja untuk mendapatkan kekayaan yang tak terhitung, penyembuhan ajaib, dan cinta yang tak tertandingi,” dan tampaknya memanipulasi mulut agar sesuai dengan kata-kata.
Faktanya, Piers Morgan mengatakan kepada BBC bahwa iklan tersebut adalah “contoh lain dari tren yang sangat mengkhawatirkan mengenai penyalahgunaan figur publik demi keuntungan finansial oleh manipulator AI palsu.”
“Korban sebenarnya adalah masyarakat yang tanpa sadar membeli produk tersebut dan percaya bahwa iklan selebriti itu nyata,” ujarnya.
“Ulasan” naskah tersebut telah muncul secara online, dengan pengguna memuji Virgin dan mengatakan mereka berharap naskah tersebut akan membantu mereka keluar dari kemiskinan atau menghabiskan lebih banyak waktu dengan anak atau cucu mereka.
Kedua iklan yang muncul di YouTube kini telah dihapus.
“Kami telah lama melarang penggunaan media yang dimanipulasi, termasuk deepfake dan bentuk konten yang dimanipulasi lainnya, untuk menipu atau menyesatkan pengguna,” kata juru bicara YouTube.
Profesor Hany Farid, pakar forensik digital di Universitas California, Berkeley, meninjau video tersebut dan mengatakan bahwa video tersebut “jelas merupakan kesalahan yang mendalam”.
“Tentu saja, seiring dengan kemajuan teknologi untuk membuat audio dan video palsu ini, pendeteksian palsu ini akan menjadi semakin sulit. Dan teknologi ini meningkat dengan kecepatan yang luar biasa,” tambahnya.
Iklan lainnya, kali ini menampilkan Oprah Winfrey, telah terlihat di perpustakaan iklan platform meta Facebook dan Instagram. Rekaman asli dilapis lagi dengan AI yang memberikan dialog palsu yang terdengar seperti ratu acara bincang-bincang Amerika.
“Saya ingin memberi Anda naskah 20 kata. Anggap saja seperti memasang sistem operasi baru di pikiran Anda, yang diprogram untuk membuat Anda kaya,” kata AI Oprah.
Bahkan, juru bicara Oprah Winfrey mengatakan kepada BBC bahwa dia tidak ada hubungannya dengan produk Virgin.
“Kami berkomitmen untuk melindungi konsumen dari asosiasi palsu Winfrey dan penyalahgunaan AI untuk membuat iklan palsu tersebut,” kata mereka.
Meta mengatakan pihaknya mengambil tindakan terhadap iklan yang ditemukan melanggar kebijakannya.
Ketika BBC menghubungi Wesley Virgin, dia mengatakan bahwa iklan tersebut adalah “hasil karya afiliasi” – orang-orang yang menghasilkan uang dengan membantu mereka menjual – dan bahwa dia “dalam proses melarang semua iklan”.
Namun video yang masih menonjol di saluran YouTube pria berusia 44 tahun ini menunjukkan upaya luar biasa yang telah ia lakukan untuk membimbing tim relawan daring yang berharap dapat membagikan kekayaannya dan meningkatkan rekening banknya.
Sumber gambar: @wesleybilliondollarv
keterangan gambar,
Wesley Virgin telah membangun banyak pengikut di media sosial.
Dengan judul seperti “Dapatkan $800+ Online Sehari dengan Menyalin dan Menempel Tautan Gratis!”, Virgin mendorong pemirsa untuk menyebarkan berita tentang produk mereka, seperti Genie Script, di media sosial.
Menjanjikan keuntungan cepat dan tingkat komisi yang tinggi, ia mendorong calon rekrutan untuk menempelkan tautan web ke platform penjualan Digistore24 ke beberapa grup meditasi dengan pesan yang menjanjikan “meditasi gratis” bagi mereka yang mengkliknya.
Namun, tautan tersebut mengarahkan pengguna ke pembayaran online tentang proses representasi Virgin setelah mereka menonton video promosi penjualan yang berisi klaim aneh dan deskripsi sejarah teologis yang tidak akurat.
Narasi video tersebut berpusat pada halaman yang dianggap “hilang” dari Alkitab yang berisi doa yang penuh kuasa. Orang kaya dan terkenal mengetahui naskah rahasianya dan, dia memperingatkan, “mereka akan bersedia menembak kepala siapa pun yang mengungkap rahasianya.”
Klaim tersebut juga disertai dengan klaim yang tampaknya anti-Semit bahwa orang-orang Yahudi memiliki kekayaan yang tidak proporsional karena mereka “menggunakan rahasia wahyu” yang diambil dari Alkitab Ibrani kuno “tanpa sensor” yang berusia 1.100 tahun, yang berisi halaman-halaman yang “hilang” dari Alkitab biasa.
Nathan McDonald, seorang profesor teologi di Universitas Cambridge, mengatakan bahwa video tersebut merujuk pada Codex Sassoon, sebuah Alkitab Ibrani awal yang baru-baru ini menarik perhatian ketika terjual seharga $38 juta di lelang.
“Tidak ada halaman tambahan dengan 'naskah 20 kata',” katanya. “Sebaliknya, sayangnya… rusak dan ada beberapa halaman yang hilang.”
Dia menambahkan bahwa video promosi Genie Script tampaknya didasarkan pada keyakinan agama 'neo-thinking' yang berakar pada akhir abad ke-19 di Amerika dan telah mempengaruhi beberapa bagian agama Kristen melalui apa yang disebut Injil kemakmuran. Hal ini menunjukkan bahwa kesembuhan dan kemakmuran mungkin terjadi jika umat Kristen mempunyai iman yang cukup.
YouTuber yang mengklik iklan palsu Piers Morgan dan Nigella Lawson diarahkan ke video serupa, tetapi versi ini dihiasi dengan apa yang tampak seperti dukungan selebriti.
Selebriti lain yang tampil tanpa izin adalah bintang TV dan pengusaha Kanada Kevin O'Leary. Juru bicaranya mengatakan rekaman pengusaha tersebut telah dibeli dan disalahgunakan melalui situs web yang menjual pesan pribadi dari selebriti.
“Kevin akan segera mengambil tindakan yang tepat untuk menghapus ini. Kevin tidak mengenal Wesley dan tidak memiliki afiliasi dengan Wesley atau bisnisnya apa pun,” ujarnya.
Iklan Oprah ditautkan ke video dan outlet produk serupa lainnya.
Platform penjualan Digistore24 juga menjauhkan diri dari Virgin. Dia menyatakan bahwa penggunaan tautan web afiliasi melanggar persyaratan dan pedomannya dan dia akan mengakhiri hubungan bisnisnya dengannya.
Wesley Virgin tidak menanggapi permintaan lebih lanjut dari BBC untuk menjelaskan praktik bisnisnya.
Meski mendapat kritik dari para selebriti, dia tidak pernah putus asa. Menurut postingan media sosial baru-baru ini, dia masih aktif menjual “impiannya”, dengan mengklaim bahwa dia bisa mengajari orang cara menjadi jutawan.
]
SourceLarose.VIP