TOP články redakcie Veda a technika

Deepfake zažíva obrovský rozmach nielen na TikToku. Ako ich rozpoznať a nestať sa obeťou podvodu?

  • 28 júla, 2022
  • 7 min read
Deepfake zažíva obrovský rozmach nielen na TikToku. Ako ich rozpoznať a nestať sa obeťou podvodu?

Jedna z najpopulárnejších platforiem sociálnych médií na svete, TikTok, je v súčasnosti ideálnou platformou pre prakticky nekontrolované šírenie deepfake videí.

 

Čo je to deepfake?

Deepfake sú videá, v ktorých bola tvár alebo telo subjektu digitálne zmenené, aby vyzerali ako niekto iný – zvyčajne verejne známa osoba.

Jedným z pozoruhodných príkladov je účet @deeptomcriuse na TikToku, ktorý už zverejnil desiatky deepfake videí napodobňujúcich Toma Cruisa a prilákal tak približne 3,6 milióna sledovateľov. Tieto videá sa stali virálnymi a medializovanými pre svoju vysokú mieru autentickosti. Autor týchto videí však verejne tieto videá označuje ako deepfake, aby uviedol vec na pravú mieru.

INZERCIA

Nedávno sa objavilo aj množstvo pomerne hlúpych videí s hercami ako Robert Pattinson a Keanu Reeves – hlúpych preto, že osoby vo videách robia nezmyselné činnosti. Cieľom nie je diskreditovať, ale poukázať na silu takejto technológie.

@deeptomcruiseStill got it.♬ origineel geluid – Tom

INZERCIA

Hoci sa deepfakes často používajú kreatívne alebo pre zábavu, čoraz častejšie sa využívajú aj v dezinformačných kampaniach, na podvody s identitou a na diskreditáciu verejných činiteľov a celebrít.

Inzercia

A aj keď je technológia potrebná na ich výrobu náročná, stáva sa čoraz dostupnejšou, takže detekčný softvér a regulácia zaostávajú.

Jedna vec je istá – deepfakes sú tu a internetová verejnosť sa s nimi musí vysporiadať. Čo s nimi teda môžeme urobiť?

Technológia pripravená na zneužitie

Napriek tomu, že evidentne existuje aj zábavné využitie technológie deepfake (napríklad aplikácia Reface), zároveň podnecuje vznik vážnejších problémov, napríklad:

  • používajú sa ako „dôkaz“ pre ďalšie falošné správy a dezinformácie;
  • používajú sa na diskreditáciu celebrít a iných ľudí, ktorých živobytie závisí od zdieľania obsahu pri zachovaní reputácie;
  • spôsobujú ťažkosti pri poskytovaní overiteľných záznamov pre politickú komunikáciu, zdravotné správy a predvolebné kampane.
  • zneužívanie deepfake technológie v pornografii.

Najmä posledný bod vzbudzuje špeciálne obavy. V roku 2019 softvérová firma Deeptrace na detekciu deepfake zistila, že až 96 % zo 14 000 deepfake videí malo pornografický charakter. Bezplatné aplikácie, ako napríklad dnes už neexistujúca DeepNude 2.0, boli použité na to, aby sa oblečené ženy na záberoch javili ako nahé, často na pomstu a na vydieranie. V podstate išlo o softvér schopný graficky odstrániť plavky tak, že nahota vyzerala autenticky.

V Austrálii aplikácie na deepfake dokonca umožnili páchateľom obchádzať zákony o „revenge porn“ – problém, o ktorom sa očakáva, že sa čoskoro stane závažnejším. Ide o také videá, ktoré boli zverejnené nespokojnými bývalými partnermi bez súhlasu druhej strany. Keď takýto človek nemá vlastné video, vie si jedno také skrátka vyrobiť.

Okrem toho sa deepfakes používajú aj pri podvodoch s identitou a podvodoch, najmä vo forme video správ od dôveryhodného „kolegu“ alebo „príbuzného“ požadujúceho prevod peňazí. Jedna štúdia zistila, že podvody s identitou pomocou digitálnej manipulácie stáli americké finančné inštitúcie v roku 2020 až 20 miliárd amerických dolárov.

Rastúce obavy

Tvorcovia deepfake zdôrazňujú množstvo času a úsilia, ktoré si vyžadujú, aby tieto videá vyzerali realisticky. Vezmite Chrisa Umeho, umelca vizuálnych efektov a umelej inteligencie, ktorý stojí za účtom @deeptomcruise TikTok. Keď sa tento účet minulý rok dostal na titulky, Ume povedal pre The Verge „nemôžete to urobiť jednoduchým stlačením tlačidla“.

Ale existujú dobré dôkazy, že deepfake je čoraz jednoduchšie zhotoviť aj bez špeciálnych zručností a techniky. Výskumníci z iniciatívy Organizácie Spojených národov Global Pulse ukázali, ako možno prejavy realisticky sfalšovať už za 13 minút.

Čím viac sa deepfake vyvíja, môžeme očakávať, že menej zruční ľudia budú čoraz častejšie produkovať autenticky vyzerajúci obsah. Len sa zamyslite nad tým, aký veľký rozmach zaznamenala úprava fotografií za posledné desaťročie – prakticky ktokoľvek s mobilom si dnes môže virtuálne vylepšiť postavu, pleť, vlasy či sa dosadiť do prostredia, v ktorom reálne nikdy nebol. Toto isté sa očakáva aj v súvislosti s deepfake videami.

Legislatíva sa snaží držať krok, ale…

V roku 2019 bol Facebook kritizovaný za to, že neodstránil sfalšované video americkej političky Nancy Pelosiovej po tom, čo nesplnilo jeho definíciu deepfake. Facebook však deepfake videá ako také zakázal, takže by sa viac nemali šíriť. Či ich ale vie riadne detegovať, je otázkou. Ak aj áno, bude to mať čoraz náročnejšie.

V roku 2020 Twitter zakázal zdieľanie „syntetických médií“ a obsahov, ktoré môžu ľudí klamať, zmiasť alebo ublížiť (okrem prípadov, keď sa používa označenie). TikTok urobil to isté. A YouTube zakázal deepfakes súvisiace s federálnymi voľbami v USA v roku 2020.

Ale aj keď sú to dobre mienené zásady, je nepravdepodobné, že moderátori platforiem budú schopní reagovať na hlásenia a odstraňovať deepfake falošné správy dostatočne rýchlo.

A hoci sa v zámorí začali pokusy o vypracovanie zákonov, tieto sú zamerané na politickú komunikáciu. Kalifornia napríklad zakázala uverejňovanie alebo distribúciu digitálne manipulovaného obsahu kandidáta počas volieb – ale nemá žiadnu ochranu pre nepolitikov alebo celebrity.

No a potom si predstavte, akú ochranu majú bežní smrteľníci, ktorí môžu byť diskreditovaní tiež? Dnes fakticky žiadnu. Nezáleží na tom, či je falošná diskreditácia celoštátna alebo iba v malej komunite, ujmu spôsobuje vždy.

Ako odhaliť deepfake?

Jedným z najlepších prostriedkov proti škodlivým deepfakes je, aby sa používatelia vybavili čo najväčším počtom detekčných zručností.

Prvým znakom deepfaku je zvyčajne to, že sa niečo bude cítiť „neporiadne“. Ak áno, pozrite sa pozornejšie na tvár objektu a opýtajte sa sami seba:

  • Je tvár príliš hladká alebo sú na nej nezvyčajné tiene na lícnych kostiach?
  • Zdajú sa vám pohyby očných viečok a úst neprirodzené, nútené alebo inak skreslené?
  • Vyzerajú vlasy realisticky? Súčasná technológia deepfake sa snaží zachovať pôvodný vzhľad vlasov (najmä na tvári), dôsledkom čoho vyzerajú v pohybe nerealisticky.

Dôležitý je aj kontext:

  • Opýtajte sa sami seba, čo postava hovorí alebo robí. Dištancujú sa od vakcín alebo účinkujú v porno klipe? Všetko, čo sa zdá byť neprirodzené alebo v rozpore s verejnými znalosťami, môže byť relevantné.
  • Hľadajte online kľúčové slová o videu alebo osobe v ňom, pretože mnoho podozrivých deepfake už bolo odhalených.
  • Skúste posúdiť spoľahlivosť zdroja – zdá sa pravý, korektný? Ak ste na platforme sociálnych médií, je účet autora overený? Zdieľa takéto video niekto, kto je známy senzáciami, údajnými odhaleniami či „odhaľovaním skrytej pravdy“? Ak áno, je veľká pravdepodobnosť, že obsah je sfalšovaný.

 

Nakoniec, ak sa vám podarí odhaliť deepfake, nenechávajte si to pre seba.
Vždy stlačte tlačidlo nahlásiť falošný/nevhodný obsah a nešírte tieto obsahy ďalej na sociálnych sieťach.

 

Tento článok je znovu publikovaný z The Conversation pod licenciou Creative Commons a redakčne upravený. Prečítajte si pôvodný článok.

About Author

Redakcia UnitedLife

Táto stránka používa bezpečnostný certifikát SSL, zabezpečené pripojenie HTTPS, technológiu cookies, monitoruje návštevnosť a cieli reklamu. Informácie o ochrane osobných údajov nájdete na podstránke Kontakt a GDPR. Súhlasíte s používaním cookies a monitoringu vo vašom prehliadači? (exspirácia po 30 dňoch) Kontakt a GDPR
Nastavenia Cookies
Áno
Nie
GDPR a Cookies
GDPR a Cookies
Cookie name Active
United Life "Životný štýl s hodnotami" Lifestyle magazín spoločnosti Multibrand, s.r.o., člena skupiny United Group ISSN 1339-4304 Vydavateľ: MULTIBRAND, s.r.o. Ivánska cesta 43 821 04 Bratislava IČO: 35863846 www.unitedlife.us www.unitedlife.sk  

GDPR / VPOU (všeobecné pravidlá ochrany údajov)

Platné od 24. 5. 2018

Úvodné ustanovenia

Tento dokument (ďalej iba „Poriadok“) určuje pravidlá používania webových stránok unitedlife.sk. Webové stránky www.unitedlife.sk (ďalej iba „webových stránok“ alebo „webstránky“) sprístupňuje: MULTIBRAND, s.r.o. Ivánska cesta 43 821 04 Bratislava IČO: 35863846 (ďalej iba „vydavateľ“) Zodpovedná osoba: Martin Viktory, Erik Stríž Kontaktné údaje: tel.: +421 944 306 271 e-mail: redakcia@unitedlife.sk www.unitedlife.us www.unitedlife.sk Prevádzkovateľom osobných údajov používateľov – jednotlivcov poskytnutých v súvislosti s používaním webstránky je vydavateľ. Vydavateľ spracováva zhromažďované osobné údaje v súlade s ustanoveniami Nariadenia Európskeho parlamentu a Rady (EÚ) č. 2016/679 z 27. apríla 2016 o ochrane fyzických osôb pri spracúvaní osobných údajov a o voľnom pohybe takýchto údajov, ktorým sa zrušuje smernica č. 95/46/ES (všeobecné nariadenie o ochrane údajov) a ďalšími záväznými právnymi predpismi v oblasti ochrany osobných údajov. Vydavateľ neposkytuje nadobudnuté údaje žiadnym iným spoločnostiam či osobám; zároveň týmto informujeme, že na základe platných právnych predpisov nás môžu oprávnené štátne orgány požiadať o sprístupnenie údajov, vrátane IP adresy používateľa webových stránok. Vydavateľ si vyhradzuje právo zmeniť poriadok. Obsah zmien poriadku bude oznámený používateľom prostredníctvom zverejnenia správy o zmene poriadku na hlavnej stránke predmetnej webstránky, kde bude ponechaný najmenej 14 dní od zverejnenia.  

Ako a na čo používame údaje používateľov webových stránok

Vydavateľ využíva nasledovné webové technológie, ktoré sú nevyhnutné pre bezpečné a plnohodnotné využívanie webových stránok; a ktoré ďalším používaním webstránok akceptujete v plnom rozsahu: 1) Analytické nástroje pre monitoring návštevnosti 2) Cookies 3) Reklamné systémy 4) Facebook 5) Newsletter (momentálne sa nepoužíva)  

1) Analytické nástroje pre monitoring návštevnosti

Na analytiku sledovanosti našich webstránok využívame analytický nástroj Google Analytics. Prevádzkovateľom tejto služby je spoločnosť Google Inc., ktorá aj zhromažďuje všetky údaje spojené s funkčnosťou služby. Informácie sa zhromažďujú automaticky a používajú sa na riadenie konkrétnych webových technológií, identifikáciu prípadných bezpečnostných rizík, skúmanie pohybu používateľov v rámci webstránky a na štatistické účely, vrátane použitia nástroja Google Analytics, napr. o regióne, z ktorého došlo k pripojeniu, IP čísle, dátume a čase pripojenia, o zdroji a počte pripojení, počte otváraných odkazov newslettera. Tieto informácie sa nijakým spôsobom nespájajú s osobnými údajmi používateľa a nepoužívajú sa na identifikáciu totožnosti používateľa. Rozsah automaticky zhromažďovaných informácií závisí od nastavenia internetového prehliadača používateľa. Používateľ by si mal skontrolovať nastavenia svojho prehliadača, aby zistil, aké informácie prehliadač sprístupňuje automaticky, alebo aby zmenil tieto nastavenia. V tejto súvislosti odporúčame prečítať si obsah v sekcii „Pomocník“ v internetovom prehliadači.

2) Cookies

Cookies sú súbory, ktoré do internetového termínálu posielajú a ukladajú webové stránky, ktoré navštevujete. Tieto súbory zaberajú minimum pamäte a sú celkom neškodné. Ak webovú stránku navštívite opakovane, internetový prehliadač znovu načíta uložené súbory cookies a odošle ich späť webovej stránke alebo prvku, ktorý pôvodný súbor cookie vytvoril. Vďaka tomu nemusíte vždy zadávať rovnaké nastavenia alebo opäť načítavať celý obsah webstránok, ktorý sa už raz načítal predtým. Naše webové stránky používajú súbory cookies pre účel zabezpečenia ich funkčnosti (tzv. Essential cookies), súbory cookies pre analytické funkcie pre monitoring sledovanosti a ďalej súbory cookies pre účel zobrazovania relevantnej reklamy. Dáta, ktoré spracovávame na základe súborov cookies, sú anonymné, v žiadnom prípade neodhaľujú totožnosť návštevníka. K týmto súborom nemáme žiadny prístup, pretože pri reklamách a analýze návštevnosti ich automatickými procesmi využívajú spoločnosti Google a Facebook. Súbory cookie môže užívateľ spravovať vo vlastnom internetovom prehliadači. Návody na zakázanie alebo povolenie súborov cookies nájdete v menu Možnosti alebo Nástroje. V internetovom prehliadači máte možnosť spravovať súbory cookies týkajúce sa základných funkcií, zlepšovania webovej stránky, prispôsobovania a reklamy. Zakázanie súborov cookies spôsobí, že nebudete môcť používať určité základné funkcie webových stránok. Platnosť súborov typu "session cookies" vyprší okamžite po zatvorení internetového prehliadača. Trvalé súbory cookie, vrátane lokálnej prístupných objektov ("Flash cookies"), majú platnosť niekoľko dní, týždňov a mesiacov podľa ich účelu.  

3) Reklamné systémy

Na zobrazovanie relevantných reklám našich webstránok využívame reklamný online systém Google Ads. Prevádzkovateľom tejto služby je spoločnosť Google Inc., ktorá aj zhromažďuje všetky údaje spojené s funkčnosťou služby. Informácie sa zhromažďujú automaticky a používajú sa na relevantné zobrazovanie reklám v rámci reklamnej siete Google Ads, respektíve ďalších, ktoré v rámci služby prevádzkuje spoločnosť Google Inc. Za princípy funkčnosti relevantného zobrazovania reklám zodpovedá výhradne a jedine spoločnosť Google Inc. bez akejkoľvek možnosti nahliadania či iného spracovania údajov prevádzkovateľom tejto webovej stránky. Tieto informácie sa nijakým spôsobom nespájajú s osobnými údajmi používateľa a nepoužívajú sa na identifikáciu totožnosti používateľa. Rozsah automaticky zhromažďovaných informácií závisí od nastavenia internetového prehliadača používateľa. Používateľ by si mal skontrolovať nastavenia svojho prehliadača, aby zistil, aké informácie prehliadač sprístupňuje automaticky, alebo aby zmenil tieto nastavenia. V tejto súvislosti odporúčame prečítať si obsah v sekcii „Pomocník“ v internetovom prehliadači.  

4) Integrácia Facebooku na webových stránkach

Na webových stránkach využívame technológie spoločnosti Facebook, konkrétne: Facebook likebox - okno, prostredníctvom ktorého je možné stať sa odberateľom príslušnej stránky na sociálnej sieti Facebook. Pre riadne používanie tejto technológie nezhromažďujeme žiadna dáta o používateľoch, tieto údaje spracováva v rámci vlastných obchodných podmienok spoločnosť Facebook Facebook komentáre - pod každým článkom webového portálu je umiestnený plugin pre komentovanie. Pre riadne používanie tejto technológie nezhromažďujeme žiadna dáta o používateľoch, tieto údaje spracováva v rámci vlastných obchodných podmienok spoločnosť Facebook; používateľom zverejnený komentár, meno používateľa, profilová fotografia používateľa a odkaz jeho online profil na sociálnej sieti je však viditeľný pre každého iného návštevníka webového portálu. Tlačidlo Facebook like - tlačidlo pri článkoch, prostredníctvom ktorého je možné označiť v rámci pravidiel sociálnej siete Facebook obsah webového portálu titulom „páči sa mi“. Pre riadne používanie tejto technológie nezhromažďujeme žiadna dáta o používateľoch, tieto údaje spracováva v rámci vlastných obchodných podmienok spoločnosť Facebook.  

5) Newsletter

Súčasťou komunikačného kanála webových stránok je aj služba Newsletter, ktorá je zriaďovaná spoločnosťou The Rocket Science Group prostredníctvom jej služby Mailchimp. V rámci služby Newsletter zasiela vydavateľ prostredníctvom elektronickej pošty na adresu uvedenú používateľom (e-mailová adresa) informáciu vo forme elektronického listu (e-mail), ďalej iba „newsletter“. Služba Newsletter sa poskytuje bezplatne a je časovo neobmedzená. Podmienkou používania služby Newsletter je, aby používateľ vlastnil počítač alebo iné multimediálne zariadenie s internetovým pripojením a mal aktívny účet elektronickej pošty (e-mail). Prevádzkovateľom osobných údajov používateľov – jednotlivcov poskytnutých v súvislosti s používaním služby Newsletter je spoločnosť The Rocket Science Group prostredníctvom jej služby Mailchimp. Prevádzkovateľ webových stránok nie je vlastníkom a ani držiteľom e-mailových adries a ani ich neposkytuje ďalším spoločnostiam či osobám. Používateľ môže kedykoľvek, bez uvedenia dôvodu a bez toho, aby mu vznikli akékoľvek náklady, zmeniť predchádzajúcu adresu elektronickej pošty (e-mailová adresa), na ktorú sa zasiela newsletter alebo zrušiť službu Newsletter kliknutím na odkaz „Zrušiť odber“, ktorý sa nachádza v päte každého newsletteru a následne zrušenie tohto odberu po otvorení webstránky služby Mailchimp tento odber zrušiť.  

Platné od 24. 5. 2018, verzia 1.0.1


 
Save settings
Cookies settings