Lažni porno video posnetki so zdaj stvar, Gal Gadot pa prva žrtev
Kot da obtožbe v resničnem življenju nad spolnim nadlegovanjem niso dovolj, je nekdo našel način, da naredi tudi lažne, nekako.
Potem ko je Gal Gadot zaslužil široko oceno za upodobitev filma 'Čudovita ženska', Gal Gadot znova pušča naslove, vendar iz napačnih razlogov. In tudi ona sploh ni kriva.
Lažni porno video, ki očitno prikazuje, da se igralka seksa s svojim 'bratom in sestrico'. Ampak to ni njeno telo in komaj celo njen obraz. Zaradi zamenjave obraza se zdi, da je del te pornografske pornografije o incestu.
Napredek v tehnologiji je velik in vseeno, vendar ima vse svoje pomanjkljivosti, ki pa so precej grozljive. Po navedbah Matična plošča, ta specifični video je nastal z uporabo algoritma strojnega učenja, skupaj z lahko dostopnimi gradivi in odprtokodno kodo, ki bi jih lahko sestavil vsak, ki dobro pozna algoritme globokega učenja. Sliši se res strašljivo, kajne?
Poročali so, da je video ustvaril uporabnik Deepfakes, ki je očitno uporabljal odprtokodna orodja za strojno učenje, kot je TensorFlow, ki je v Googlu brezplačno na voljo raziskovalcem, podiplomskim študentom in vsem, ki jih zanima strojno učenje. Čeprav ni popoln, kot če pogledate od blizu, lahko vidite, da obraz ne sledi pravilno, vendar bi na prvi pogled koga zavedel.
Ta algoritem lahko zamenja posneti videoposnetek s sledenjem obraza v realnem času in zdi se, da je ta video šele začetek te nočne more AI. Ta amaterski video ima zaskrbljujoče posledice in že kmalu bomo živeli v svetu, kjer je izredno enostavno izdelovati videoposnetke ljudi, ki govorijo in delajo stvari, ki jih v resnici niso storili.
Pravzaprav, praska, to ni le začetek uporabe te tehnologije za zamenjavo obrazov, uporabnik Deepfakes je že objavil hardcore porno video posnetke z obrazi Scarlett Johansson, Maisie Williams, Taylor Swift in Aubrey Plaza.
Res je, da je umetna inteligenca (AI) prihodnost, vendar lahko gre narobe, oh tako narobe in ti ponarejeni porno video posnetki so odličen primer.
Raziskovalec umetne inteligence Alex Champandard je za Motherboard povedal: Vsakdo mora vedeti, kako enostavno je ponarejati slike in videoposnetke, do te mere, da v nekaj mesecih ne bomo mogli več ločevati ponaredkov. Seveda je bilo to mogoče že dolgo, vendar bi za to potrebovali veliko sredstev in strokovnjakov za vizualne učinke. Zdaj lahko to stori en programer z najnovejšo računalniško strojno opremo.
Dodal je, da to ni več raketna znanost.
Deepfakes je le programer, ki se zanima za strojno učenje, in ko je razložil, kako mu je to uspelo, sem ravno našel pameten način za zamenjavo obraza. S stotinami slik obrazov lahko zlahka ustvarim milijone popačenih slik za urjenje omrežja. Potem, če omrežje nahranim z obrazom nekoga drugega, bo omrežje mislilo, da gre le za še eno popačeno sliko, in poskušalo izgledati kot obraz za trening.
S pornografijo ni težav, vendar ti ponarejeni videoposnetki odvzamejo eno bistveno stvar celotnemu konceptu - privolitev. Ustvarjanje takšnih videoposnetkov z nikomer - ne le z zvezdniki - tako enostavno odvzame soglasje, še posebej, če živimo v dobi družabnih omrežij in vsi radi vse delimo in kot da ni nihče več na varnem.
Kaj si misliš o tem?
Začnite pogovor, ne ognja. Objavi z dobroto.
Objavi komentar
