Jedna z najpopulárnejších platforiem sociálnych médií na svete, TikTok, je v súčasnosti ideálnou platformou pre prakticky nekontrolované šírenie deepfake videí.

Čo je to deepfake?

Deepfake sú videá, v ktorých bola tvár alebo telo subjektu digitálne zmenené, aby vyzerali ako niekto iný – zvyčajne verejne známa osoba.

Jedným z pozoruhodných príkladov je účet @deeptomcriuse na TikToku, ktorý už zverejnil desiatky deepfake videí napodobňujúcich Toma Cruisa a prilákal tak približne 3,6 milióna sledovateľov. Tieto videá sa stali virálnymi a medializovanými pre svoju vysokú mieru autentickosti. Autor týchto videí však verejne tieto videá označuje ako deepfake, aby uviedol vec na pravú mieru.

INZERCIA

Nedávno sa objavilo aj množstvo pomerne hlúpych videí s hercami ako Robert Pattinson a Keanu Reeves – hlúpych preto, že osoby vo videách robia nezmyselné činnosti. Cieľom nie je diskreditovať, ale poukázať na silu takejto technológie.

@deeptomcruiseStill got it.♬ origineel geluid – Tom

Hoci sa deepfakes často používajú kreatívne alebo pre zábavu, čoraz častejšie sa využívajú aj v dezinformačných kampaniach, na podvody s identitou a na diskreditáciu verejných činiteľov a celebrít.

A aj keď je technológia potrebná na ich výrobu náročná, stáva sa čoraz dostupnejšou, takže detekčný softvér a regulácia zaostávajú.

Jedna vec je istá – deepfakes sú tu a internetová verejnosť sa s nimi musí vysporiadať. Čo s nimi teda môžeme urobiť?

Technológia pripravená na zneužitie

Napriek tomu, že evidentne existuje aj zábavné využitie technológie deepfake (napríklad aplikácia Reface), zároveň podnecuje vznik vážnejších problémov, napríklad:

• používajú sa ako „dôkaz“ pre ďalšie falošné správy a dezinformácie;
• používajú sa na diskreditáciu celebrít a iných ľudí, ktorých živobytie závisí od zdieľania obsahu pri zachovaní reputácie;
• spôsobujú ťažkosti pri poskytovaní overiteľných záznamov pre politickú komunikáciu, zdravotné správy a predvolebné kampane.
• zneužívanie deepfake technológie v pornografii.

Najmä posledný bod vzbudzuje špeciálne obavy. V roku 2019 softvérová firma Deeptrace na detekciu deepfake zistila, že až 96 % zo 14 000 deepfake videí malo pornografický charakter. Bezplatné aplikácie, ako napríklad dnes už neexistujúca DeepNude 2.0, boli použité na to, aby sa oblečené ženy na záberoch javili ako nahé, často na pomstu a na vydieranie. V podstate išlo o softvér schopný graficky odstrániť plavky tak, že nahota vyzerala autenticky.

V Austrálii aplikácie na deepfake dokonca umožnili páchateľom obchádzať zákony o „revenge porn“ – problém, o ktorom sa očakáva, že sa čoskoro stane závažnejším. Ide o také videá, ktoré boli zverejnené nespokojnými bývalými partnermi bez súhlasu druhej strany. Keď takýto človek nemá vlastné video, vie si jedno také skrátka vyrobiť.

Okrem toho sa deepfakes používajú aj pri podvodoch s identitou a podvodoch, najmä vo forme video správ od dôveryhodného „kolegu“ alebo „príbuzného“ požadujúceho prevod peňazí. Jedna štúdia zistila, že podvody s identitou pomocou digitálnej manipulácie stáli americké finančné inštitúcie v roku 2020 až 20 miliárd amerických dolárov.

Rastúce obavy

Tvorcovia deepfake zdôrazňujú množstvo času a úsilia, ktoré si vyžadujú, aby tieto videá vyzerali realisticky. Vezmite Chrisa Umeho, umelca vizuálnych efektov a umelej inteligencie, ktorý stojí za účtom @deeptomcruise TikTok. Keď sa tento účet minulý rok dostal na titulky, Ume povedal pre The Verge „nemôžete to urobiť jednoduchým stlačením tlačidla“.

Ale existujú dobré dôkazy, že deepfake je čoraz jednoduchšie zhotoviť aj bez špeciálnych zručností a techniky. Výskumníci z iniciatívy Organizácie Spojených národov Global Pulse ukázali, ako možno prejavy realisticky sfalšovať už za 13 minút.

Čím viac sa deepfake vyvíja, môžeme očakávať, že menej zruční ľudia budú čoraz častejšie produkovať autenticky vyzerajúci obsah. Len sa zamyslite nad tým, aký veľký rozmach zaznamenala úprava fotografií za posledné desaťročie – prakticky ktokoľvek s mobilom si dnes môže virtuálne vylepšiť postavu, pleť, vlasy či sa dosadiť do prostredia, v ktorom reálne nikdy nebol. Toto isté sa očakáva aj v súvislosti s deepfake videami.

Legislatíva sa snaží držať krok, ale…

V roku 2019 bol Facebook kritizovaný za to, že neodstránil sfalšované video americkej političky Nancy Pelosiovej po tom, čo nesplnilo jeho definíciu deepfake. Facebook však deepfake videá ako také zakázal, takže by sa viac nemali šíriť. Či ich ale vie riadne detegovať, je otázkou. Ak aj áno, bude to mať čoraz náročnejšie.

V roku 2020 Twitter zakázal zdieľanie „syntetických médií“ a obsahov, ktoré môžu ľudí klamať, zmiasť alebo ublížiť (okrem prípadov, keď sa používa označenie). TikTok urobil to isté. A YouTube zakázal deepfakes súvisiace s federálnymi voľbami v USA v roku 2020.

Ale aj keď sú to dobre mienené zásady, je nepravdepodobné, že moderátori platforiem budú schopní reagovať na hlásenia a odstraňovať deepfake falošné správy dostatočne rýchlo.

A hoci sa v zámorí začali pokusy o vypracovanie zákonov, tieto sú zamerané na politickú komunikáciu. Kalifornia napríklad zakázala uverejňovanie alebo distribúciu digitálne manipulovaného obsahu kandidáta počas volieb – ale nemá žiadnu ochranu pre nepolitikov alebo celebrity.

No a potom si predstavte, akú ochranu majú bežní smrteľníci, ktorí môžu byť diskreditovaní tiež? Dnes fakticky žiadnu. Nezáleží na tom, či je falošná diskreditácia celoštátna alebo iba v malej komunite, ujmu spôsobuje vždy.

Ako odhaliť deepfake?

Jedným z najlepších prostriedkov proti škodlivým deepfakes je, aby sa používatelia vybavili čo najväčším počtom detekčných zručností.

Prvým znakom deepfaku je zvyčajne to, že sa niečo bude cítiť „neporiadne“. Ak áno, pozrite sa pozornejšie na tvár objektu a opýtajte sa sami seba:

• Je tvár príliš hladká alebo sú na nej nezvyčajné tiene na lícnych kostiach?
• Zdajú sa vám pohyby očných viečok a úst neprirodzené, nútené alebo inak skreslené?
• Vyzerajú vlasy realisticky? Súčasná technológia deepfake sa snaží zachovať pôvodný vzhľad vlasov (najmä na tvári), dôsledkom čoho vyzerajú v pohybe nerealisticky.

Dôležitý je aj kontext:

• Opýtajte sa sami seba, čo postava hovorí alebo robí. Dištancujú sa od vakcín alebo účinkujú v porno klipe? Všetko, čo sa zdá byť neprirodzené alebo v rozpore s verejnými znalosťami, môže byť relevantné.
• Hľadajte online kľúčové slová o videu alebo osobe v ňom, pretože mnoho podozrivých deepfake už bolo odhalených.
• Skúste posúdiť spoľahlivosť zdroja – zdá sa pravý, korektný? Ak ste na platforme sociálnych médií, je účet autora overený? Zdieľa takéto video niekto, kto je známy senzáciami, údajnými odhaleniami či „odhaľovaním skrytej pravdy“? Ak áno, je veľká pravdepodobnosť, že obsah je sfalšovaný.

Nakoniec, ak sa vám podarí odhaliť deepfake, nenechávajte si to pre seba.
Vždy stlačte tlačidlo nahlásiť falošný/nevhodný obsah a nešírte tieto obsahy ďalej na sociálnych sieťach.