Cara Mendeteksi Video Deepfake untuk Mencegah Disinformasi Online

Dengan deepfake yang semakin canggih, semakin sulit untuk membedakan antara yang nyata dan yang tidak. Hari ini, kita akan memberi tahu Anda tentang beberapa tanda yang akan membantu Anda mendeteksi video deepfake. Dengan alat ini di tangan, kita harap Anda tidak menjadi korban berita palsu dan teori konspirasi tanpa disadari . Kita juga akan memberi Anda gambaran tentang teknologi deepfake, cara kerjanya, dan bagaimana hal itu digunakan oleh propagandis dan ahli teori konspirasi untuk menyebarkan disinformasi dan memengaruhi netizen untuk mempercayai kebohongan.

Deteksi Video Deepfake untuk Mencegah Disinformasi dan Teori Konspirasi

Saat ini, deepfake sebagian besar digunakan oleh penghobi amatir untuk mengubah wajah selebriti dalam video dewasa, dan oleh unsur politik yang tidak baik untuk menyebarkan berita palsu. Namun, para ahli khawatir tentang penggunaan teknologi yang lebih berbahaya dalam waktu yang tidak terlalu lama. Jadi di sini, kita mencantumkan beberapa cara untuk membantu Anda mendeteksi video deepfake untuk mencegah Anda menjadi korban disinformasi yang berbahaya .

Daftar isi

Apa itu Video Deepfake?

Gabungan dari istilah ‘pembelajaran mendalam’ dan ‘palsu’, deepfake mengacu pada media yang dimanipulasi yang menggunakan kecerdasan buatan atau teknik pembelajaran mendalam untuk membuat audio atau video yang mendistorsi kenyataan . Teknologi ini menggunakan jaringan saraf tiruan untuk membuat video hiper-realistis yang tampaknya menunjukkan orang-orang mengatakan atau melakukan sesuatu yang tidak mereka lakukan dalam kehidupan nyata. Contoh paling ganas termasuk video yang diubah dengan bantuan pembelajaran mesin untuk memasukkan kata-kata ke mulut politisi. Ini digunakan untuk membuat kebingungan tentang kebijakan mereka dan mempengaruhi pemilihan.

Penggunaan racun deepfake lainnya adalah mengubah wajah selebritas dalam video dewasa dalam pelanggaran besar-besaran terhadap privasi dan martabat. Deepfake telah menjadi masalah besar selama beberapa tahun terakhir dan semakin memburuk dengan ketersediaan perangkat keras yang lebih cepat dan perangkat lunak yang lebih tajam. Teknologi ini telah mendapatkan ketenaran akhir-akhir ini karena penggunaannya yang ekstensif dalam video porno , berita palsu, dan tipuan yang rumit.

Namun, tidak semua penggunaan deepfake itu curang, terbukti dari video berikut yang dibuat oleh cendekiawan MIT, Alexander Amini, untuk menertawakan murid-muridnya. Tampak mantan Presiden AS Barack Obama mengajak mahasiswa mengikuti kuliah Amini tentang deep learning di universitas tersebut. Namun, ini adalah deepfake terus menerus, seperti yang diungkapkan peneliti dengan jelas di saluran YouTube-nya.

Bagaimana Deepfake Bekerja?

Deepfake mengandalkan jaringan saraf tiruan yang disebut ‘autoencoder’, yang digunakan untuk mempelajari pengkodean data yang efisien tanpa pengawasan. Ini biasanya digunakan untuk pengenalan wajah , serta untuk menemukan arti semantik dari kata-kata , dll. Dalam kasus video deepfake, teknologi pertama-tama menggunakan encoder untuk melatih jaringan saraf pada beberapa jam rekaman video nyata dari individu target. . Kemudian, dekoder merekonstruksi gambar baru menggunakan informasi penting tentang fitur wajah dan postur tubuh mereka. Ini membantu algoritme menempatkan fitur wajah dan fisik target pada orang di video asli.

Teknologi terkenal dalam hal ini adalah kelas khusus dari algoritma pembelajaran mendalam yang disebut jaringan permusuhan generatif. GAN sering ditambahkan ke dekoder untuk hasil yang lebih akurat. GAN melatih dekoder dan diskriminator sedemikian rupa sehingga yang pertama membuat gambar baru dari bahan sumber, sedangkan yang terakhir menentukan apakah gambar yang baru dibuat cocok dengan rekaman asli atau tidak. Ini menyebabkan generator membuat gambar yang meniru kenyataan dengan sangat baik, karena algoritme permusuhan menangkap kekurangan apa pun.

Ini membuat deepfake sangat sulit untuk dilawan karena terus berkembang. Setiap kali cacat muncul, itu dapat diperbaiki secara otomatis melalui pembelajaran mesin. Karena tidak memerlukan input manusia, GAN telah menjadi pilihan utama bagi sebagian besar kreator deepfake. Namun, teknologinya rumit dan membutuhkan lebih banyak waktu dan data untuk membuat komposisi yang realistis. Selain itu, meskipun GAN bagus untuk mensintesis gambar, mereka kesulitan mempertahankan konsistensi temporal, yang berarti mereka memerlukan intervensi manusia untuk mempertahankan keselarasan gambar dari satu bingkai ke bingkai berikutnya.

Apa Itu Video Palsu Dangkal?

Video palsu yang dangkal adalah versi yang diubah dari video asli yang ada, dibuat untuk memproyeksikan realitas yang terdistorsi. Ini sering kali mencakup pengeditan selektif, memanipulasi kecepatan pidato atau percakapan orang, dan bahkan mengubah nada suara agar terdengar seperti seseorang sedang marah, mabuk, atau mengolok-olok masalah serius, padahal tidak ada yang benar.

Satu kasus penting baru-baru ini termasuk video tweak terkenal dari pembicara DPR AS, Nancy Pelosi, yang video palsunya yang dangkal memperlambat pidatonya untuk membuat suaranya mabuk. Video-video ini berbeda dari deepfake sejauh ini adalah video nyata yang dimanipulasi menggunakan alat pengeditan video tradisional alih-alih algoritme AI.

Deepfakes: Sejarah dan Aplikasi

Teknik manipulasi foto awalnya ditemukan pada akhir abad ke-19. Teknologi ini terus meningkat sepanjang abad kedua puluh sebelum ledakan teknologi AI dan pembelajaran mesin menjadikannya masalah besar bagi netizen di seluruh dunia. Teknik manipulasi video yang diresapi AI telah dipelajari secara luas oleh para peneliti sejak tahun 1990-an, dan banyak dari metode tersebut telah diadopsi oleh pembuat film di seluruh dunia.

Salah satu contoh deepfake paling terkenal yang digunakan dalam industri hiburan arus utama adalah kebangkitan mendiang aktor, Paul Walker, untuk Fast and Furious 7 pada tahun 2015. Namun, sementara puluhan ahli membutuhkan beberapa minggu untuk rekreasi yang dapat dipercaya. dari Walker, sekarang dibutuhkan sebagian besar penghobi dengan pengetahuan pengkodean yang sangat sedikit hanya beberapa jam (atau kadang-kadang bahkan kurang) untuk membuat video deepfake baru menggunakan teknik dan algoritme baru. Fenomena ini pertama kali memasuki kesadaran publik pada tahun 2017 ketika seorang Redditor menggunakan deepfake untuk membuat dan memposting video porno palsu dari selebriti.

Bahaya Video Deepfake

Video deepfake berbahaya bagi pengguna yang tidak curiga yang mungkin dibombardir dengan gambar-gambar peristiwa yang dianggap tidak stabil, seperti perang atau serangan teroris yang tidak pernah terjadi. Hal ini dapat menyebabkan kebencian dan ketidakpuasan dalam masyarakat, yang mengarah pada peningkatan serangan bermotif politik berdasarkan identitas ras, agama, dan etnis orang. Teknologi tersebut juga dapat digunakan untuk menyebarkan FUD (takut, ragu-ragu, dan ragu-ragu) tentang bencana alam, sehingga menimbulkan kepanikan yang meluas. Para ahli juga memperkirakan bahwa jika dibiarkan, video semacam itu dapat memicu krisis politik yang mendalam dan bahkan mengganggu hubungan internasional.

Masalah besar lain yang telah diasumsikan proporsi pandemi adalah ancaman terhadap perempuan yang tidak menaruh curiga. Sering disebut sebagai pornografi non-konsensual, video dewasa deepfake dilaporkan menyumbang lebih dari 90% dari semua deepfake di internet pada tahun 2019. Meskipun dimulai dengan video bermetamorfosis yang menggambarkan selebritas seperti Gal Gadot dan Alexandra Daddario, sejak itu diperluas ke target reguler wanita sebagai bagian dari kampanye porno balas dendam palsu.

Bagaimana Cara Mendeteksi Video Deepfake?

Mendeteksi video deepfake adalah pekerjaan yang bahkan seringkali sulit dilakukan oleh para ahli tanpa alat yang tepat. Namun, para peneliti di Massachusetts Institute of Technology (MIT) telah menemukan beberapa saran yang dapat membantu orang biasa membedakan antara video asli dan deepfake. Menurut mereka,
seseorang perlu memperhatikan wajah dengan cermat saat mencoba memeriksa apakah video subjek manusia itu asli atau palsu. Itu karena manipulasi deepfake kelas atas hampir selalu merupakan transformasi wajah.

area wajah salah satu kebutuhan untuk membayar perhatian yang paling dekat dengan adalah pipi dan dahi. Apakah kulit tampak terlalu halus atau terlalu keriput? Apakah usia kulit sama dengan usia rambut dan mata? “DeepFakes sering tidak sesuai pada beberapa dimensi” , kata para peneliti. Demikian pula, mata dan alis juga bisa menjadi tanda bagi pengadu deepfake berpengalaman. Itu karena menurut para peneliti, bayangan dalam video deepfake tidak selalu muncul di tempat yang Anda harapkan . “DeepFakes sering gagal untuk sepenuhnya mewakili fisika alami dari sebuah adegan” , kata mereka.

Fitur lain yang merupakan giveaway mati adalah rambut wajah. Deepfake mungkin menambah atau menghilangkan kumis, cambang, atau janggut, tetapi sering kali gagal membuat transformasi rambut wajah terlihat sepenuhnya alami. Sama halnya dengan tahi lalat di wajah yang seringkali tidak terlihat cukup alami di deepfake. Ukuran dan warna bibir juga bisa memberi petunjuk tentang validitas sebuah video. Laju dan kecepatan kedipan juga dapat berbicara banyak tentang apakah video itu asli atau palsu. Sering atau jarang berkedip secara tidak wajar dapat menunjukkan kepalsuan video yang dalam.

Menurut peneliti MIT, deepfake berkualitas tinggi tidak mudah dideteksi, tetapi “dengan latihan, orang dapat membangun intuisi untuk mengidentifikasi mana yang palsu dan mana yang nyata” . Para peneliti juga membuat halaman web lengkap di mana orang-orang dapat mengunggah video dan mencoba menebak apakah itu asli atau palsu. Anda dapat mencoba keterampilan deteksi deepfake Anda di situs web Detect Fakes MIT .

Deepfakes: Pencegahan dan Tindakan Legislatif

Berbagai negara dari seluruh dunia sudah mencoba untuk mengatasi bahaya yang jelas dan saat ini yang ditimbulkan oleh deepfake yang diresapi AI. Sementara China melarang video deepfake pada tahun 2019, negara bagian California di AS juga memperkenalkan undang-undang serupa pada awal tahun yang sama untuk membuat deepfake politik ilegal, melarang pembuatan atau distribusi video, gambar, atau audio yang dipalsukan dari politisi dalam waktu 60 hari setelah pemilihan. . Sejak itu, negara bagian AS lainnya, termasuk Texas dan Virginia, juga mengkriminalisasi pornografi deepfake. Pada Desember 2019, Presiden Trump menandatangani undang-undang federal pertama negara itu untuk memerangi deepfake sebagai bagian dari Undang-Undang Otorisasi Pertahanan Nasional, 2020.

Sementara di India, tidak ada undang-undang khusus tentang media deepfake. Faktanya, undang-undang yang terkait dengan algoritma kecerdasan buatan sangat samar. Salah satu penggunaan deepfake yang paling luar biasa di negara ini terlihat selama Pemilu Delhi 2020, ketika IT Cell BJP merilis video kampanye resmi yang dimaksudkan untuk menunjukkan kandidat kepala menteri mereka, Manoj Tiwari, menarik bagi pemilih dalam bahasa Hindi, Haryanvi, dan Inggris. . Masalahnya, hanya video Hindi yang nyata, sedangkan dua lainnya adalah klip deepfake yang dibuat menggunakan video asli untuk menjangkau lebih banyak pemilih.

Cegah Penyebaran Disinformasi dengan Melihat Video Deepfake

Setelah melestarikan produksi multi-juta dolar Hollywood dan lembaga dan organisasi yang disponsori negara, deepfake menjadi semakin terdemokratisasi belakangan ini. Ini memungkinkan pengguna internet biasa untuk membuat deepfake menggunakan aplikasi dan situs web deepfake . Dengan peningkatan astronomis deepfake dalam beberapa tahun terakhir, kemampuan untuk mendeteksinya menjadi lebih penting daripada sebelumnya.

Kita berharap informasi di sini membantu memberi Anda ide yang lebih holistik tentang teknologi, ancaman yang ditimbulkannya, dan tanda-tanda yang harus diwaspadai untuk mendeteksi video deepfake dengan lebih baik di masa mendatang. Jadi, apakah Anda pernah menjadi korban deepfake dari kelompok aksi politik atau teori konspirasi yang buruk? Beri tahu kita di komentar di bawah.