Hvernig eru deepfakes búin til?

Ímyndum okkur málara sem vill búa til fullkominn portrett af stjórnmálamanni. Í stað þess að horfa einfaldlega á hann rannsakar málari þúsundir ljósmynda og myndbanda þar sem hann kemur fram. Hann lærir utanbókar hvernig hrukkurnar í kringum augun hans myndast þegar hann hlær, hvernig hann þrengir augun og hvernig varir hans hreyfast þegar hann framkvæmir ákveðnar hljóðmyndanir.

Tölva gerir nákvæmlega það sama – hún „skoðar“ efni sem sýnir tiltekinn einstakling þar til hún hefur lært alla smæstu andlitsdrætti og hreyfingar.

Til þess að tölva geti hins vegar ‘lært’ um einhvern á þennan hátt þarf hún ljósmyndir og myndbönd. Í dag eru samfélagsmiðlar eins og Facebook og Instagram stærstu gagnageymslur slíkra gagna. Sérhver frímynd sem deilt er opinberlega, myndband af barnabörnum eða prófílmynd er verðmætt efni fyrir svikara. Opinberlega aðgengilegt efni er eins og opin bók sem gervigreind getur frjálslega dregið úr þekkingu um hvernig við lítum út og hvernig rödd okkar hljómar.

Af hverju er þetta svo mikilvægt núna?

Fyrir aðeins tólf árum eða svo var mjög erfitt og kostnaðarsamt að búa til sannfærandi deepfake. Í dag er tæknin sem þarf til að framleiða falsað efni auðveldlega aðgengileg á fingurgómunum okkar – jafnvel í snjallsímunum okkar. Svikari þarf ekki að vera snjall tölvunarfræðingur. Allt sem hann þarf er smá útsjónarsemi og opinberar ljósmyndir af okkur.