Čtyři způsoby, kterými můžeme čelit deepfakes

Začátkem tohoto roku vydala FBI varování, ve kterém uvádí, že škodliví aktéři „budou v příštích 12 až 18 měsících téměř jistě využívat syntetický obsah pro kybernetické a zahraniční vlivové operace.“ Většina z nás zná takový syntetický obsah pod pojmem deepfake, což je složenina slov deep learning (hluboké učení) a fake (podvrh). Jedná se o formu umělých médií, která se poprvé objevila na internetových fórech koncem roku 2017 a od té doby našla své místo převážně v zábavě.

V současné době se většinou setkáte s deepfakes vytvořenými a sdílenými pro komediální účely. Miliony lidí si stáhly některou z mnoha aplikací, které dokáží prohodit jejich obličeje s tvářemi oblíbených filmových hvězd nebo superhrdinů. A přestože mohou být výsledky někdy až děsivě realistické, sdílí je s přáteli pro pobavení.

Uživatelé jsou v dnes spíše oklamáváni takzvanými fake news neboli informacemi, jejichž kontext byl pouze pozměněn, než informacemi, které byly falešně syntetizovány, uvádí se ve zprávě FBI. To se však jistě změní s pokroky v umělé inteligenci a strojovém učením, jež budou stále sofistikovanější a dostupnější. Tato technologie se nakonec vyvíjí tak rychle, že některé deepfakes už nelze pouhým okem rozeznat od autentických videí.

Čtyři problematické hlavy

Deepfakes jsou v podstatě novým typem falešných zpráv, tedy obsahem vytvořeným s cílem dezinformovat nebo záměrně klamat. Falešné zprávy nejsou ničím novým. Hlavní rozdíl spočívá v tom, že nyní se díky rychlosti, s jakou mohou nástroje založené na AI usnadňovat sdílení informací online, mohou falešné zprávy šířit rychleji a ve větším měřítku, a tak způsobovat větší škody.

Manipulace s obrazovým materiálem existuje již desítky let – například Stalin nechával notoricky mazat své politické nepřátele z fotografií. A podobné postupy, staré i sto let, najdeme i v kinematografii: už v roce 1898 použil Georges Méliès ve svém slavném němém filmu Čtyři problematické hlavy několikanásobnou expozici předmětů na černém pozadí, aby vytvořil dojem oddělených hlav.

Jenže dnes nosíme nástroje k vytváření deepfakes v kapse. Na trhu je k dispozici široká škála bezplatných aplikací, které uživatelům dovolují napodobovat celebrity a filmové postavy. Ačkoli většina z nás by speciální efekty z roku 1898 dokázala rozpoznat stejně snadno jako kamaráda převlečeného do kostýmu Sněhurky, profesionální deepfakes jsou dnes vytvářeny tak, aby byly co nejpřesvědčivější – a často jsou velmi vydařené. Na internetu se letos například objevila řada videí, kde se figurant vydává za amerického herce Toma Cruise, a výsledky jsou až neuvěřitelně bezchybné.

Rostoucí svět deepfakes

Jaká technologie za tímto fenoménem vlastně stojí? Společnosti pracující s deepfakes využívají různé metody strojového učení, mezi něž patří generativní adverzní síť neboli GAN. Tato metoda proti sobě staví dvě neuronové sítě, kde jedna je generátorem a druhá diskriminátorem. Jinými slovy, jedna neuronová síť se učí generovat deepfakes, zatímco její protějšek se učí rozeznávat, zda je obrázek pravý, nebo falešný – jako hra na policisty a zloděje, kde se obě sady neustále zlepšují proti té druhé.

„Po milionech pokusů se diskriminátor stává stále lepším a lepším v rozpoznávání deepfakes a je schopen dosáhnout nečekaných výsledků,“ říká Martin Černý, vedoucí globální partnerské sítě české společnosti Cogniware, která pro národní bezpečnostní složky vyvíjí specializovaný software Insights, který pomáhá při vyšetřování falešných zpráv. Zaměřují se na textové dezinformace, ale nedávno pracovali na zakázkovém projektu, jehož cílem bylo vyvinout řešení pro identifikaci deepfake videí.