Püüdsime luua Mark Zuckerbergi ja Alex Jonesi võltsimist – ja see ebaõnnestus. Siin on, mis juhtus.

Jätta mulje, nagu keegi tegi või ütles midagi, mida pole kunagi juhtunud, on raskem, kui välja paistab.

Seda õppis Poynter viimaste nädalate jooksul, püüdes luua 'sügavvõltsitud' videot Alex Jonesist, Infowarsi saatejuhist ja sagedasest vandenõuteoreetikust, esitades märkusi, mille tegi tegelikult Facebooki tegevjuht Mark Zuckerberg. Sügavad võltsingud, nime saanud Redditi kasutaja järgi kes selle meetodi välja mõtlesid, luuakse sisuliselt ühest videost suure hulga kaadreid eraldades ja üksteise peale asetades.

Eesmärk: jätta mulje, et keegi teeb või ütleb midagi, mida ta ei ole. Ja seda püüdis Poynter teha, et näha, kui lihtne seda tehnoloogiat tegelikult kasutada on.

Kasutades FakeApp , mis on tasuta veebitööriist, mis võimaldab kasutajatel ise süvavõltsinguid luua, püüdsime luua algelise video Zuckerbergist, kes pajatab Jonesi alusetuid vandenõuteooriaid. Allpool on video, mis on loodud Poynteri osalise tööajaga veebiarendaja Warren Fridy abiga.

On selge, et see pole hea versioon millestki amatöörporno , inimesed ääresaitidel ja isegi erakonnad on selles valdkonnas murettekitavalt vilunud. Kuigi Zuckerbergi nägu on tõepoolest kaetud Jonesi omaga, hõlmas FakeApp kogu tema nägu, muutes ta välja nagu mingi udune deemon, millel pole märgatavaid silmi. Siis on tõsiasi, et heli ei transponeeritud.

Lühidalt: me peaksime säilitama oma igapäevased töökohad.

Nalja kõrvale jättes kulus meil nädalaid, enne kui tulime välja midagi, mis pole kaugeltki isegi rahuldav sügavvõltsitud video. Ja seda seetõttu, et vaatamata sagedasele viimsepäeva meediakajastusele sügavvõltsitud tehnoloogia kohta see on tegelikult väga raske ühe loomiseks.

'Deepfake nõuab üsna palju käsitsi pingutust,' ütles Matthias Niessner , Müncheni tehnikaülikooli professor, kelle labor uuringud deepfakes, e-kirjas Poynterile. 'Mõnes mõttes võiksite seda näha Photoshopiga sarnasena. See on lihtsalt veidi liialdatud.

Süvavõltsingute levik, mida arutati täna Roomas toimunud ülemaailmse faktide kontrollimise tippkohtumise paneelil, muutus jubedast Interneti-asjast tõeliseks ohuks demokraatiale. Veerev kivi . Vox kirjutas et manipuleeritud videod võivad muuta meie mälestusi, The Verge ütles Deepfake porno videote loomine on peagi ülilihtne ja Juhtmega isegi kaetud plokiahela idufirma, mis on pühendunud vormingu vastu võitlemisele.

Samal ajal, mõned on teatanud et üldised sügavvõltsingud on juba möödas ja 'sügavad videoportreed' on see, mille pärast peaksime kõik muretsema.

Vahepeal, pärast enam kui kuu aega kestnud proovimist, suutsime vaevalt toota midagi, mis tundus isegi pisut realistlik. Muidugi, seda võib (õigustatult) seostada meie endi teadmatusega masinõppe mudelite suhtes - muud ajakirjanikud on olnud edukamad, kuid siin on mõte selles, et oluliselt muudetud video loomine pole veel nii lihtne kui võltsitud uudiste postitamine Facebooki (ja tõenäoliselt ka mitte nii tulus).

'Ma ei usu, et inimesed, kellel pole sügava õppimise kogemust, suudavad veebis saadaoleva deepfake-rakenduse abil luua veenva sügavvõltsitud video,' ütles ta. Annalisa Verdoliva , Napoli ülikooli Federico II dotsent, e-kirjas Poynterile. 'Isegi asjatundlike inimeste jaoks on see üsna raske.'

Verdoliva üritas koos uurimisrühmaga luua oma sügavvõltsitud videot ja ütles, et see osutus halvasti, kuna nad ei saanud piltidel piisavalt varieeruvust, et sügavat võltsimist loovat mudelit täpselt välja õpetada. See on peamine väljakutse ka potentsiaalsetele petturitele nagu Poynter.

Siin on meie sammud.

1. Laadisime alla FakeAppi ja installisime selle Windowsi kaugtöölauale (Poynter kasutab peaaegu eranditult Mace, millega FakeApp ei ühildu.)
2. Laadisime alla kaks videoklippi — üks Zuckerbergist rääkides uurimisest Venemaa sekkumise kohta USA 2016. aasta valimistesse, ja teine ​​Jones rääkides 'sügavast riigist' ja president Donald Trumpi poliitilisest tegevuskavast. See annab FakeAppile palju näopilte, mille vahel valida.
3. Lasime FakeAppi volitatud tehisintellektil leida ja kärpida igas videos olevaid nägusid, et luua masinõppemudel, mis ühendaks Jonesi ja Zuckerbergi nii, et jääks mulje, nagu esimene räägiks nagu teine. Selleks kulus terve nädalavahetus ehk umbes kolm päeva.
4. Lõpuks genereeris FakeApp video. Fridy ütles, et ta oleks võinud modelli pikemalt koolitada ja teha rohkem fotosid Zuckerbergi näost, et see oleks täpsem, kuid see oleks võtnud kauem aega.

Nüüd lõbusast osast. Siin on mõned probleemid, millega FakeAppi kasutamisel kokku puutusime:

1. FakeAppi ei saa Apple'i macOS-is käivitada – see töötas meie jaoks ainult Windowsis.
2. Teil peab olema NVIDIA-põhine graafikakaart , mis on sisuliselt riistvara, mis võimaldab teil kõiki pilte töödelda ja neid koos muuta.
3. Teie arvutis peab olema palju mälu - umbes 10 GB või nii.
4. Meil tekkisid ühilduvusprobleemid TensorFlow erinevate versioonidega. Tarkvarateegi, mis võimaldab FakeAppil luua oma masinõppemudeli.
5. Tõmbasime algsest videost heli, et proovida seda sügavvõltsimisse lisada, kuid FakeApp ei teinud sellega midagi.

'FakeApp kõlab hästi, kuid kui istud seda proovima, ei tööta see 100 protsenti,' ütles Fridy. 'See pole karbist välja võetud tööriist.'

FakeApp on väidetavalt olnud alla laaditud rohkem kui 100 000 korda. Süvavõltsingute loomisele on pühendatud terved 4chani ja Redditi kanalid. Kuid praegu on tehnoloogia parimal juhul algeline - isegi neile, kes teavad, kuidas seda õigesti kasutada.

(Ekraanipildid FakeAppist)

Fridy ütles, et tehnoloogia meeldib Adobe After Effects ja Lyrelind , sama hästi kui Nägu2Nägu ja Pixel2Pixel , oleks ilmselt paremad panused sügavvõltsitud video loomiseks. S.pa, Belgia erakond, mis lõi Trumpi sügava võltsimise eelmisel kuul, kasutasin After Effectsi.

Vaatamata tööriista komplikatsioonidele on sügavvõltsitud videod endiselt murettekitavad – lihtsalt mitte lähitulevikus ja mõne hoiatusega.

'Oleme selle tehnoloogia alles alguses ja arvan, et see paraneb peagi ja muutub kõigile hõlpsasti kasutatavaks,' ütles Verdoliva. 'Praegu on eraldusvõime veel liiga madal, kuid see on lähitulevikus probleem, sest kvaliteetsete sünteetiliste nägude genereerimisel on tehtud hämmastavaid edusamme.'

Samal ajal võib süvavõltsingute mõju ja võimalikkuse vääriti mõistmine ja liialdamine kujutada endast lühiajaliselt suuremat ohtu.

'Minu suurim mure hetkel on paljude nende lähenemisviiside väärarusaam,' ütles Niessner. „Filmitööstus on viimase 30 aasta jooksul teinud üsna realistlikke „võltspilte“. Kuid nüüd, kui lisada AI moesõnaks, on see järsku probleemiks – kuigi see isegi ei tööta nii hästi.

Sügav võlts videoid arutatakse täna Global Fact 5 paneelil. Reaalajas värskenduste saamiseks jälgige @factchecknet ja #GlobalFactV.