Jangan percaya sesiapa pun: Apa yang mengancam rangkaian saraf, membuat porno
Dmitry Kurkin
Video porno palsudi mana bintang filem "Wonder Woman" Gal Gadot didakwa melakukan hubungan seks dengan kakak ibadatnya, yang muncul di Web minggu ini, ternyata tidak hanya palsu, tetapi palsu yang dihasilkan oleh kecerdasan buatan.
Penulis video itu, pengguna tanpa nama reddit dengan nama samaran yang bernama, dalam wawancara dengan Naib, mengesahkan bahawa dia menggunakan rangkaian saraf untuk "mengambil gambar" wajah Gadot kepada badan pelakon lucah itu. Secara palsu, secara amnya, ketara, dan keterlaluan tidak merancang untuk membuat apa-apa wang di atasnya - katanya, dia hanya mahu memeriksa betapa mudahnya ia menggunakan AI. Dan dia mempunyai berita buruk untuk kami: sangat mudah membuat porno palsu di rumah.
Masalahnya, secara umum, tidak dalam pornofeaks sendiri: permintaan untuk gambar dan video, di mana pelakon-pelakon dan pelakon-pelakon seperti yang sedang bersetubuh, adalah dan akan bersama para fetishists dan pencinta sensasi. Dengan persamaan luaran dengan bintang-bintang dalam industri lucah, seluruh kerjaya sedang dibuat - fenomena ini bahkan menimbulkan tajuk utama akhbar kuning: "Kerdil kerdil-kerdil Gordon Ramsay ditemui mati dalam lubang badak".
Tetapi jika sebelum pengeluaran memerlukan masa, sumber dan beberapa kemahiran, maka rangkaian saraf, yang dilatih untuk mengasah wajah ke imej, sangat memudahkan tugasnya. Robot melekat, bukan seorang lelaki, dan robot lebih pintar dari semasa ke semasa, yang bermaksud palsu akan kelihatan lebih dan lebih dipercayai. Pengguna deepfakes menjelaskan bahawa dia telah mengumpul perisian AI dari unsur-unsur sekerap yang terdapat di perpustakaan sumber terbuka, dan mengambil gambar dan video di saluran awam dan hosting seperti YouTube. Ringkasnya, semua alat untuk menghasilkan pornofeikov terletak di bawah hidungnya, bukan hanya dengan dia, tetapi di kalangan berjuta-juta orang di seluruh dunia.
Dan ini, dengan tegas, tidak ada berita. Kembali pada tahun 2003, pakar dari University of Oregon Health and Science memberi amaran bahawa penipuan audio "mudah dibuat dan sukar ditentukan." Menjelang 2017, ramalan itu menjadi kenyataan, dan terdapat rakaman suara palsu yang dijana oleh rangkaian saraf, yang sangat sukar dibezakan daripada yang sebenar. Mengikuti audio, video itu ditarik. Pengembangan staf University of Washington menyegerakkan ekspresi muka wajah seseorang dengan ucapannya: dalam klip video dengan Barack Obama yang dibentangkan sebagai contoh, hanya audio yang hadir, gambaran itu dijana oleh program. Sambungkan satu dengan yang lain - dan sekarang ada video palsu yang siap di mana, katakan, seorang ahli politik liberal yang terkenal "mengaku" simpati untuk Hitler.
Ia mengambil sedikit imaginasi untuk membayangkan bagaimana kecurangan kecerdasan buatan sedemikian boleh membawa kepada - chatbots dari Microsoft, yang troll Twitter telah bertukar menjadi rasis dalam masa kurang dari satu hari, akan kelihatan seperti gatal cantik terhadap mereka. Dan tentu saja, teknologi Porno tidak diancam oleh Gal Gadot, Taylor Swift atau Jennifer Lawrence. Mereka cukup dijamin untuk menyewa tentera pakar IT yang mengiktiraf palsu, dan armada peguam yang akan menuntut sesiapa yang cuba menggunakan palsu ini untuk keuntungan peribadi.
Tidak, manusia mudah akan menjadi mangsa algoritma yang tidak berbahaya. Pesanan digital boleh digunakan untuk pornografi, siber-stalking, gangguan rangkaian, pemerasan dan manipulasi oleh orang-orang yang mudah dicadangkan dan tidak terutamanya mengikuti berita dari bidang teknologi canggih ("Anak perempuan anda direkodkan, memindahkan wang dengan segera, jika tidak, SEGALANYA akan dilihat"). Dan kita tidak semestinya bercakap mengenai lucah: palsu juga boleh dilancarkan ke dalam Rangkaian untuk propaganda politik dan hasutan terhadap kebencian.
"Tapi ini hebat!" Ya, mengerikan, dan itu bukan pengkaliman deepfakes yang harus dipersalahkan. Sebagai penggodam kadang-kadang memecah masuk ke sistem perbankan untuk tidak mencuri wang, tetapi untuk menunjuk jabatan pertahanan siber ke jurang keselamatan, maka ia dicipta oleh programmer AI yang tidak dikenali yang meletakkan kita di depan fakta: era pemalsuan digital bukan cerita seram anti utopia "Cermin Hitam", dan realiti yang akan datang. Dia belum lagi dipahami oleh etika moden (boleh pornophiles dianggap sebagai pencerobohan privasi orang lain?), Atau oleh undang-undang yang berkuat kuasa. Tetapi ada padanya bahawa kita sepatutnya hidup dalam tahun-tahun akan datang. Oleh itu, adalah perlu untuk membangunkan penawar terhadap pemadat tersebut.
Collins kamus kurator menggelar istilah "berita palsu" ungkapan 2017, dengan itu menekankan bahawa pengguna rata-rata kecanduan untuk mengklik dan menyuarakan tajuk utama sensasi tanpa membuang masa untuk mengesahkan kesahihan maklumat. Sementara itu, berita palsu boleh mempengaruhi keputusan pilihan raya dan referendum. Dan ini juga merupakan sebahagian dari realiti baru di mana kita sudah wujud dan di mana kita perlu belajar untuk menjadi kurang remeh.
Rangkaian sosial telah menjadikan Internet sebuah rumah berdinding kaca di mana berjuta-juta orang dapat menonton hidup anda setiap hari - walaupun anda tidak menginginkannya. Kini jelas bahawa tidak ada pintu di rumah ini sama ada: sesiapa sahaja boleh cuba menyerang ruang peribadi anda, menggunakan AI untuk mengetuk wajah anda pada pornorol atau filem "Lord of the Rings." Privasi telah mati, tetapi bukan sahaja Big Brother bersalah ini dalam bentuk perkhidmatan khas dan syarikat global, tetapi juga diri kita sendiri.
Dunia palsu digital akan datang, tetapi ini bukan sebab panik, paranoia, keengganan untuk menggunakan Internet atau keperluan untuk mengharamkan rangkaian saraf. Inilah sebabnya untuk berfikir tentang kebersihan rangkaian dan etika baru, yang akan membaiki sekali dan untuk semua yang menggunakan imej orang lain untuk mencipta palsu digital adalah haram dan menyalahi undang-undang. Masa apabila orang tanpa syarat mempercayai segala yang mereka katakan di TV (walaupun mereka mengatakan bahawa "Lenin adalah cendawan") telah pudar. Dengan cara yang sama, kita secara beransur-ansur membiasakan diri kita untuk tidak mempercayai segala yang ditulis di Internet.
Perlindungan:Rekod meledingkan