Med de nye AI-verktøyene for datamaskiner er falske videoer og falske nyheter allerede mulig, og det vi ser i dag er bare en første forsmak på hva som vil være mulig i fremtiden. Her har vi den første konkrete brukssaken, fordi noen brukte en algoritme til å sette inn «Wonder Woman»-stjernen Gal Gadots ansikt i en pornovideo - og resultatene er skremmende overbevisende.
Reddit-bruker Deepfakes trener nevrale nettverk på ansiktene til kjendiser, og setter deretter de bevegelige ansiktsanimasjonene inn i ekte porno ved hjelp av ansiktsgjenkjenning - så lenge jeg tolker videoene riktig, jeg ikke kobler dem her, kan du finne ut selv. Resultatet er autentisk porno med favorittskuespillerinnen din. Falsk porno via Photoshop er omtrent like gammel som Internett og, realistisk sett, sannsynligvis like gammel som Photoshop selv, men prosessen er automatisert her og vil fungere som forventet i fremtiden. AI-kodere vil sannsynligvis installere sikkerhetsmekanismer som forhindrer AI fra "identitetstyveri", men det vil også være hacks og cracks for dette. Konseptet forsvinner ikke, og det vil nok ikke stoppe med skuespillerinner heller. Velkommen til fremtiden.
Så langt har deepfakes lagt ut hardcore-pornovideoer med ansiktene til Scarlett Johansson, Maisie Williams, Taylor Swift, Aubrey Plaza og Gal Gadot på Reddit. Jeg har kontaktet forvaltningsselskapene og / eller publisister som representerer hver av disse aktørene og informerer dem om de falske videoene, og vil oppdatere hvis jeg hører tilbake. [...]
I følge deepfakes - som nektet å gi meg sin identitet for å unngå offentlig gransking - er programvaren basert på flere open source-biblioteker, som Keras med TensorFlow-backend. For å kompilere kjendisens ansikter sa deepfakes at han brukte Googles bildesøk, arkivbilder og YouTube-videoer. Deep learning består av nettverk av sammenkoblede noder som autonomt kjører beregninger på inngangsdata. I dette tilfellet trente han algoritmen på pornovideoer og Gal Gadots ansikt. Etter nok av denne "opplæringen" ordner nodene seg for å fullføre en bestemt oppgave, som å overbevise manipulering av video på farten. Artificiell intelligensforsker Alex Champandard fortalte meg i en e-post at et anstendig grafikkort av forbrukerkvalitet kunne behandle denne effekten i løpet av timer, men en CPU ville fungere like bra, bare saktere, over dager. [...]
"Jeg fant nettopp en smart måte å gjøre ansiktsbytte på," sa han og refererte til algoritmen hans. "Med hundrevis av ansiktsbilder kan jeg enkelt generere millioner av forvrengte bilder for å trene nettverket," sa han. "Etter det, hvis jeg mater nettverket til andres ansikt, vil nettverket tro det bare er et forvrengt bilde og prøve å få det til å se ut som treningsansiktet."
I en kommentartråd på Reddit nevnte deepfakes at han bruker en algoritme som ligner på en utviklet av Nvidia-forskere som bruker dyp læring for å for eksempel umiddelbart gjøre en video av en sommerscene om til en vinter. Nvidia-forskerne som utviklet algoritmen nektet å kommentere denne mulige applikasjonen.