The Post Millennial Live/Rumble

'Penggunaan deepfakes yang sah': Video Biden yang dijana AI yang mengisytiharkan Perang Dunia 3, mengembalikan draf perpecahan pakar

'Pratonton ringkas tentang perkara yang akan datang.'

Pengulas sayap kanan Jack Posobiec menyiarkan video palsu Presiden Joe Biden minggu ini mengumumkan pemulangan draf tentera dan permulaan perang dunia ketiga.

Pakar berpecah tentang sama ada ia adalah penyalahgunaan teknologi yang berbahaya atau contoh sebenar bagaimana medium itu boleh dikendalikan secara bertanggungjawab.

Video itu, yang diramalkan oleh Posobiec sebagai 'pratonton menyelinap' tentang perkara yang akan datang, telah dikongsi dengan lebih 2 juta pengikutnya di Twitter.

Rakaman itu memaparkan chyron yang merujuk 'realiti perang nuklear' dan menggambarkan Biden menggunakan Akta Perkhidmatan Terpilih kerana ketegangan yang semakin meningkat dengan Rusia dan China.

“Serangan haram Rusia adalah pantas, tidak berperasaan, dan kejam. Ia biadab,” kata Biden yang dijana AI. 'Pendudukan haram Putin di Kyiv dan sekatan China yang akan berlaku di Taiwan telah mewujudkan krisis keselamatan negara dua hadapan yang memerlukan lebih banyak tentera daripada yang boleh dibekalkan oleh tentera sukarela.'

Setelah klip selesai, Posobiec muncul pada skrin untuk menawarkan ulasan tentang senario yang dijana AI.

'Apa yang baru kami mainkan untuk anda ialah pratonton menyelinap, tarikan yang akan datang, pandangan ke dunia seterusnya,' katanya. “Sekarang itu adalah AI, saya tidak mahu mengatakan rekreasi tetapi mungkin pra-penciptaan… pra-penciptaan Presiden Biden yang direka dan diskrip oleh penerbit kami di sini untuk menunjukkan apa yang boleh berlaku jika Presiden Biden mengisytiharkan dan aktifkan Akta Perkhidmatan Terpilih dan mula merangka kanak-kanak berumur 20 tahun di sini di Amerika Syarikat.”

Segmen itu terbukti kontroversi dalam talian, dengan beberapa merujuk kepada paparan sebagai 'tidak bertanggungjawab yang memualkan.'

'Mencipta sesuatu seperti ini sangat memualkan tidak bertanggungjawab, dengan niat jahat, dan pembaziran sumber yang sedemikian, saya tidak boleh terkejut sepenuhnya,' tweet seorang pengkritik.

Kebimbangan juga dibangkitkan mengenai keupayaan orang yang menonton untuk membezakan antara media yang sah dan dimanipulasi.

Walaupun kedua-dua tweet dan Posobiec menyatakan bahawa video itu sebenarnya dicipta dengan AI, salah seorang pengulas pertama pada video itu tetap bertanya sama ada apa yang mereka lihat adalah benar.

'Adakah ini sah, atau sejenis klip palsu AI?' seorang pengguna bertanya.

Bercakap dengan Daily Dot, pengarang dan pakar AI generatif Nina Schick berhujah bahawa kemajuan teknologi berkaitan AI akan membawa kepada kemerosotan lagi kepercayaan dalam kandungan yang dilihat dalam talian walaupun ia dinyatakan sebagai dimanipulasi.

'Kami akan melihat lebih banyak kandungan yang dijana AI yang akan berada dalam konteks di mana ia ditandakan sebagai dijana AI tetapi orang ramai masih tertipu,' katanya.

Twitter pada mulanya membalas video tersebut dengan meletakkan notis semakan fakta pada tweet tersebut. Notis itu telah dialih keluar tidak lama kemudian, mungkin memandangkan rakaman itu jelas menyatakan bahawa ia telah dicipta oleh AI.

'Mereka telah mengambil tindakan menyemak fakta tweet ini dan BlueAnon tidak berpuas hati dengan mengatakan saya kini cuba mencipta pemberontakan domestik,' Posobiec tweet. “Tetap marah, orang aneh!”

The Daily Dot menghubungi Posobiec melalui borang hubungan di laman web medianya Human Events tetapi tidak menerima jawapan pada masa akhbar.

Sebaliknya, Sam Gregory, pakar deepfake dan pengarah program di organisasi hak asasi manusia WITNESS, berkata bahawa video itu adalah contoh 'penggunaan deepfakes yang sah.'

'Video itu adalah visualisasi hipotesis atau masa depan yang berpotensi untuk meneruskan perbincangan, dan yang penting ia dikonteks seperti itu,' kata Gregory kepada Daily Dot. “Kami telah melihat imejan yang dijana AI yang digunakan untuk mempersembahkan masa hadapan iklim yang berpotensi, menawarkan suara satira yang tidak dijangka ahli politik dan ‘mempermalukannya sehingga mereka melakukannya’ serta menawarkan perspektif tentang peristiwa dan realiti semasa daripada orang yang telah meninggal dunia dengan pemalsuan dalam kebangkitan. ”

Gregory juga berkata dia menghargai bahawa Posobiec tidak menggunakan video itu untuk memberi amaran tentang bahaya deepfakes, yang disifatkannya sebagai 'teknik yang terlalu digunakan' yang 'nampaknya menyumbang kepada menjejaskan kepercayaan terhadap media sebenar,' tetapi untuk memberi tumpuan kepada hipotesis politik.

'Ketika kami mendekati peraturan dan norma media sintetik dan palsu, adalah penting kami melindungi ucapan ekspresif, ucapan politik dan sindiran,' tambahnya. “Walau bagaimanapun, saya berpendapat bahawa adalah penting untuk kita juga memikirkan bagaimana—khususnya sekarang apabila orang tidak jelas perkara yang boleh dan tidak boleh dipalsukan—bahawa kita juga menekankan pendedahan dan pelabelan yang boleh dilihat di tempat seperti TV dan penggunaan web 'berita- seperti 'deepfakes.'

Walaupun perasaan terhadap video Posobiec sebahagian besarnya mengikut garis politik di seluruh media sosial, pakar terus berhujah bahawa isu sedemikian adalah lebih kompleks.

Pakar media sintetik Henry Ajder juga menyatakan bahawa walaupun video itu jelas melabelkan dirinya sebagai dijana AI, malah deepfake yang jujur ​​boleh menghasilkan isu yang sama seperti yang dibuat secara menipu.

'Deepfake ini jelas direka untuk menarik perhatian penonton sebelum didedahkan dengan jelas sebagai palsu, tetapi jika diambil di luar konteks dalam ekosistem maklumat kami yang pecah-pecah, respons penonton mungkin sangat berbeza,' kata Ajder dalam satu kenyataan kepada Daily Dot. “Dalam hal ini, kandungan artistik atau deepfake yang bermaksud baik masih boleh menjadi mangsa bentuk kasar manipulasi media yang lebih menonjol dalam talian. Pencipta perlu mempertimbangkan bukan sahaja cara mereka ingin kandungan generatif diterima, tetapi bagaimana ia boleh disalahgambarkan apabila dikeluarkan 'ke alam liar.'

Kandungan sedemikian sudah pasti akan menjadi lebih biasa secara eksponen kerana halangan untuk masuk terus menurun untuk teknologi berkaitan AI. Ia benar-benar tidak jelas sama ada orang ramai benar-benar bersedia.