Bayangkan anda melihat diri anda dalam video lucah. Telanjang. Dilanggar. Kecuali anda tidak mengingati perbuatan, bilik yang anda gunakan, pasangan anda, atau penggambaran kamera. Itu kerana ia tidak benar-benar berlaku, sekurang-kurangnya bukan untuk anda.
optad_b
Atau bayangkan melihat diri anda dalam video yang mengatakan perkara yang tidak pernah anda katakan sebelumnya, perkara kontroversial, jenis perkara yang boleh menyebabkan pekerjaan anda atau mengasingkan anda dari keluarga dan rakan. Suara yang anda dengar pasti menjadi suara anda, dan begitu juga pergantian frasa, tetapi anda tidak ingat apa yang diperkatakan, dan anda merasa ngeri mendengar apa yang anda dengar.
Itulah kemungkinan yang dilancarkan oleh program terkenal seperti FakeApp, yang telah membolehkan pelakon jahat menampakkan wajah mangsa yang tidak curiga ke badan orang lain, mengundang kemunculan pornografi selebriti palsu yang dapat diramalkan. Video tersebut disebut sebagai deepfakes, dan walaupun banyak yang telah diperkatakan mengenai bahaya yang ditimbulkannya, masalah sebenarnya jauh lebih luas daripada yang anda sedar.
Deepfakes hanyalah langkah pertama dalam rangkaian perkembangan teknologi yang akan mempunyai satu tujuan yang berbeza: penciptaan klon AI yang kelihatan, bercakap, dan bertindak seperti templatnya. Dengan menggunakan rangkaian neural dan program pembelajaran mendalam, klon ini pertama kali wujud dalam video dan di dunia maya. Sama ada anda secara tidak sengaja terlibat atau tidak, mereka akan memberikan gambaran semula ekspresi wajah, aksen, tingkah laku pertuturan, bahasa badan, gerak tubuh, dan pergerakan anda yang tepat, melampaui pemindahan wajah yang mudah untuk menawarkan tiruan multidimensi yang komprehensif.
Di masa depan yang lebih jauh, kemajuan dalam pembelajaran mesin ini akan disatukan dengan kemajuan dalam robotik, yang memungkinkan robot fizikal untuk sepenuhnya mengambil bentuk dan tingkah laku manusia tertentu, baik yang masih hidup maupun yang mati. Dalam prosesnya, sifat keperibadian dan keperibadian akan diubah, ketika kita mendapati diri kita tinggal bersama klon dan proksi kita sendiri, yang akan bertindak bagi pihak kita sebagai versi alternatif dari diri kita sendiri.
Ini tidakDunia Baratfiksyen sains. Ia sudah mula berlaku.
Satu pakej
Dari segi meniru orang tertentu pada tahap bukan kognitif, teknologi AI hampir dapat menghasilkan klon maya yang meyakinkan. 'Ekspresi wajah, suara, dan pergerakan tubuh adalah tiga contoh apa yang dapat dilakukan oleh AI hari ini, dengan anggapan bahawa kita mempunyai jenis dan jumlah data yang tepat,' jelas Hussein Abbass, seorang profesor di University of New South Wales, yang penyelidikannya meliputi bidang seperti AI dan pemprosesan imej, robotik pintar, dan interaksi manusia-komputer. 'Teknologi ini memerlukan beberapa peningkatan, tetapi kelayakan prinsip telah ditunjukkan.'
Sebagai contoh bagaimana rangkaian saraf dan pembelajaran mendalam sudah dapat melakukan lebih daripada sekadar menyalin wajah seseorang, penyelidik di University of California, Berkeley baru-baru ini maju program yang dapat mempelajari gerakan tarian satu orang dan menyalinnya sebentar. Walaupun para penyelidik harus memodelkan tubuh kedua-dua individu tersebut sebagai gambar tongkat dalam video yang mereka hasilkan, karya mereka menggambarkan bagaimana AI sudah dapat belajar dan menghasilkan semula pergerakan manusia yang rumit.
Seperti yang ditunjukkan oleh Abbass, pembiakan seperti itu 'berbeza dengan meniru kognisi, yang mewakili proses mental yang menghasilkan tingkah laku.' Namun, Abbass yakin kemampuan untuk meniru tingkah laku dalaman dan luaran yang dihasilkan oleh orang tertentu sedekat satu dekad lagi. 'Kami mempunyai beberapa kisah kejayaan dalam konteks terhad ke arah ini hari ini, tetapi saya meramalkan mungkin memerlukan 10-20 tahun lagi sebelum kita mencapai titik tolak yang diperlukan agar teknologi AI dapat berkumpul ke keadaan di mana AI yang diedarkan secara besar-besaran nampaknya tidak dapat dibezakan dari manusia dengan cara ia bertindak dan berkelakuan. '
AI juga dapat meniru suara manusia secara individu dengan tahap ketepatan yang tinggi. Pada bulan Februari, firma teknologi Cina Baidu diumumkan bahawa ia telah mengembangkan program pembelajaran mendalam yang dapat menghasilkan semula suara orang tertentu setelah mendengarkannya hanya selama satu minit, sementara startup yang berpusat di Montreal bernama Lyrebird didedahkan kepada umum dengan prestasi serupa pada April 2017. Dan sama mengagumkan, Luka yang berpangkalan di San Francisco melancarkan chatbot yang dipanggil Replika tahun lalu yang belajar dari corak ucapan (atau lebih tepatnya, teks) pengguna untuk menghasilkan percakapan berganda.
Persoalannya, dapatkah semua kemajuan dalam pembelajaran mesin digabungkan menjadi satu program AI yang, baik dalam video atau dunia maya, bertindak sebagai klon pengguna atau subjek yang tidak disengajakan?
'Sukar untuk diramalkan,' kata Bryan Fendley, pakar AI pendidikan dan pengarah teknologi pengajaran dan perkhidmatan web di University of Arkansas di Monticello. “AI sangat sesuai untuk meniru tingkah laku manusia seperti ucapan, tulisan tangan, dan suara. Suatu hari nanti kita mungkin menyatukannya dalam satu bungkusan yang boleh digunakan sebagai jenis klon. …
'Saya melihat banyak pakar membuang ramalan AI yang sudah 20 tahun berjalan. Saya rasa bergerak lebih pantas dari itu. '
Salinan karbon
Dalam dua dekad akan datang, teknologi AI akan maju ke tahap di mana sebilangan besar perkara dapat dilakukan. Di satu pihak, orang mungkin akan mempunyai akses kepada produk dan perkhidmatan yang membolehkan mereka membina klon diri mereka dan rakan dan keluarga mereka untuk hiburan mereka sendiri (atau terapi ). Klon seperti itu akan dapat diakses melalui antara muka digital atau dunia permainan maya sehingga mereka dapat berinteraksi seolah-olah mereka adalah perkara sebenar.
'Ya, dalam 10 tahun atau lebih, percampuran teknologi jenis chatbot, dan teknologi gaya deepfake akan dapat menghasilkan interaksi audiovisual yang masuk akal melalui teknologi gaya Skype yang akan dipercayai seseorang adalah orang yang sebenar, sekurang-kurangnya untuk tempoh yang singkat, ”kata Nell Watson, ahli AI dan ahli fakulti di jabatan AI & Robotik Singularity University.
Watson mengakui bahawa kemajuan yang besar masih diperlukan sebelum benar-benar meyakinkan klon AI orang menjadi ciri biasa lanskap teknologi. Walaupun begitu, dia berpendapat akan lebih mudah untuk menghasilkan reproduksi selebriti berasaskan AI.
'Satu aspek penting adalah perlunya memiliki data latihan yang baik untuk digunakan,' katanya. 'Bagi seorang selebriti, ini cukup mudah, memandangkan berbagai penampilan filem dan TV, wawancara dll ... Dalam permainan videoPerang Devis Ex Exvisible, ada watak, NG Resonance, yang dapat dimainkan oleh pemain di berbagai kios di kelab malam, dan lain-lain. Karakter ini dikuasakan oleh AI tetapi didasarkan pada bintang manusia sejati ... Kita mungkin akan melihat interaksi serupa dengan AI semu-nyata -karakter berkuasa, versi maya dari pahlawan sejarah dan penjahat yang dapat mengisi tempat bertema (misalnya, Hard Rock Café, atau restoran bertema Americana, mungkin). '
Sebaliknya, Watson memperingatkan bahawa mengklon individu yang tidak terkenal akan jauh lebih sukar — tetapi tidak mustahil. 'Menggandakan individu persendirian akan menjadi hal yang sukar dibandingkan, kecuali dengan kerjasama mereka yang disengajakan. Terdapat teknologi hari ini yang dapat menangkap model 3D dengan mudah dari gambar atau video 2D, dan meniru aksen dan prosodi, jadi meniru keperibadian dan 'percikan hidup' yang masuk akal akan menjadi cabaran terbesar. '
Walaupun begitu, jelas bahawa video dan simulasi seperti itu dapat dilakukan dengan cukup data, dan di zaman data besar dan media sosial di mana-mana, adalah naif untuk menolaknya sepenuhnya. Dan dengan mengandaikan bahawa data peribadi yang cukup dapat dikumpulkan secara sembunyi-sembunyi, klon kemudian dapat digunakan dengan cara yang sama seperti video porno deepfake digunakan untuk mengaibkan pelbagai orang sekarang, walaupun dengan kemampuan meniru yang lebih meyakinkan dan luas.
Hantar klon
David Levy tidak hanya percaya bahawa klon AI akan tiba dalam dua dekad akan datang tetapi akan ada pasaran pengguna yang cukup besar untuk mereka juga.
'Dalam 20 tahun akan ada koleksi teknologi yang tersedia yang akan membolehkan syarikat menghasilkan robot yang serupa dengan mana-mana manusia,' kata Levy, master catur antarabangsa yang menggabungkan cintanya catur dengan minat pada komputer untuk menjalin yang terakhir -hari kerjaya sebagai pengarang dan pakar AI.
Dalam iklim yang didefinisikan oleh video deepfake pornografi, ramalan seperti itu boleh menjadi perhatian banyak orang, memandangkan potensi penyalahgunaan yang sangat besar. Tetapi, Levy, pengarang Cinta dan Seks dengan Robot , percaya bahawa klon robot akan mempunyai sejumlah kegunaan yang sah.
'Satu idea adalah mungkin untuk membuat robot seperti orang tersayang yang telah meninggal dunia. Oleh itu, jika anda berkahwin dengan seseorang selama 50 tahun dan mereka mati, anda boleh mempunyai replika mereka, ”katanya. (Ini mungkin sebahagiannya merujuk kepada Bina48 , robot yang dibina oleh David Hanson dari Hanson Robotics and Sophia kemasyhuran pada tahun 2010 dan berdasarkan 'mind clone', iaitu rakaman audio, dari Bina Rothblatt, pengasas bersama Gerakan Terasem transhumanis.)
Fungsi lain untuk klon robot berasaskan AI adalah proxy atau stand-in (terutamanya) untuk selebriti. Sebagai contoh, Levy memetik Hiroshi Ishiguro, yang terkenal diprogramkan versi android dirinya untuk memberi kuliah bagi pihaknya. 'Sudah ada satu kesepakatan perniagaan yang berlaku di mana Stormy Daniels telah menyerupai dirinya menjadi robot seks oleh sebuah syarikat dalam perniagaan itu,' katanya, merujuk kepada perjanjian pelesenan ditandatangani pada bulan Jun antara pelakon pornografi dan pengeluar robot seks seks di California, Realdoll.
Levy mengakui bahawa perjanjian pelesenan seperti itu pasti tidak akan menjadi cawan teh setiap selebriti. 'Tetapi sama dalam dunia perniagaan dan orang yang berusaha menjana wang, saya fikir beberapa orang terkenal akan berfikir,' Itu idea yang bagus. 'Ini seperti versi 3D untuk menghantar gambar seseorang. Saya fikir itu akan menjadi penggunaan penting teknologi ini. '
Keperluan untuk garis panduan etika yang jelas
Sudah tentu, sebilangan pakar percaya bahawa kita harus menunggu lebih lama untuk doppelganger yang benar-benar meyakinkan.
'Peniruan sederhana akan memakan masa beberapa tahun lagi,' kata Toby Walsh, seorang profesor sains komputer dan kejuruteraan di University of New South Wales. 'Tetapi untuk menjadi manusia, ini adalah Ujian Turing. Ini akan menjadi 50, 100, atau lebih tahun lagi sebelum komputer dapat menandingi semua kemampuan kita. '
Hussein Abbass lebih konservatif dalam perkiraannya tentang kapan AI yang tidak dapat dibezakan akan muncul, walaupun dia setuju bahawa klon AI maya yang relatif hanya tinggal satu atau dua dekad lagi. '[T] dia mencabar bukan AI sahaja. Kadang-kadang cabarannya adalah kekangan mekanikal pada tubuh robot, dan kadang-kadang itu adalah bahan yang digunakan untuk menghasilkan, misalnya, wajah robot, di mana bahan-bahan ini tidak mempunyai tekstur semula jadi atau keanjalan untuk melakukan peniruan yang tepat, ”katanya. 'Mungkin memerlukan kita berabad-abad sebelum kita dapat memiliki AI yang sama ini pada robot berukuran manusia tanpa bergantung pada sambungan luaran melalui internet.'
Penyelidik tidak tahu bila anda akan dapat berjalan dengan jalan dengan klon anda, tetapi masa untuk memutuskan bagaimana menangani dan melindungi diri kita daripada media seperti itu ada sekarang.
'Kecuali jika masyarakat terus mendorong garis panduan dan batasan etika yang jelas untuk penggunaan AI, tidak dapat dielakkan untuk melihat senario masa depan di mana orang muncul dalam video melakukan perkara yang tidak mereka lakukan dalam kenyataan,' Abbass memberi amaran. 'Kemungkinan ini akan dimulakan sebagai aplikasi yang menyeronokkan, tetapi kemudian keadaan dapat terbalik dengan sangat cepat.'
Pakar lain bersetuju bahawa akibat peniru AI yang direalisasikan sepenuhnya akan bercampur-campur, dengan beberapa hasilnya adalah novel dan menghiburkan, dan yang lain terbukti lebih mengganggu. 'Kita akan mempunyai pelakon yang mati dalam filem Hollywood,' kata Toby Walsh. 'Dan politik akan sangat terganggu oleh video palsu ahli politik yang mengatakan perkara yang tidak pernah mereka katakan.'
Memandangkan banyaknya berita palsu yang telah beredar, ada kemungkinan adanya deepfake yang meyakinkan, klon maya, dan bahkan klon robot hanya dapat memperburuk keadaan. Sebenarnya, jika tidak disertai dengan perubahan laut dalam cara kita menilai media secara kritis, itu hanya dapat memperkuat kecenderungan hari ini terhadap polarisasi politik, di mana kita semakin menghuni gelembung penapis yang mengesahkan bias dan prasangka kita.
'Garis antara apa yang nyata dan tidak nyata sedang berubah,' menyimpulkan Fendley. 'Ketabahan mental kita untuk menolak meletakkan sifat manusia pada robot, dan tidak berada di bawah pengaruh perkara yang kita tahu tidak nyata, akhirnya akan gagal. Kami akan menjadi lebih selesa hidup dalam realiti yang berubah bersama robot dan AI yang kuat. '
