Počet bezpečnostních incidentů spojených s deepfake technologií se loni ve světě meziročně zvýšil desetinásobně. Jen v Evropě byl zaznamenán nárůst o 780 procent.

Nejde už jen o problém velkých korporací, ale stává se vážnou hrozbou pro řadu menších firem včetně českých. Uvedla to Česká asociace umělé inteligence v manuálu Deepfake 2024: Obranná strategie pro české firmy.

Důvodem je především velký pokrok ve využití nástrojů umělé inteligence, které tvorbu podvržených videí, fotek nebo zvuků výrazně usnadňují.
Pokrok v oblasti hlubokého učení usnadňuje tvorbu falešných multimédií, ale také činí jejich hromadnou výrobu méně nákladnou. Generativní AI umožňuje vytvářet vysoce realistická syntetická multimédia na základě mnohem větších datových sad.

Trh je zaplaven volně dostupnými nástroji, které činí tvorbu nebo manipulaci s multimédii otázkou několika minut. Demokratizace AI nástrojů pro tvorbu deepfakes se tak dostala na seznam největších rizik pro rok 2024, informuje manuál.

Ohrozí celou firmu a vytáhne citlivá data i peníze
Největší hrozby zneužití zahrnují techniky, které ohrožují značku organizace, napodobují vedoucí pracovníky a používají podvodnou komunikaci k získání přístupu k sítím, komunikaci a citlivým informacím organizace. Phishing, tedy typ kybernetického útoku zneužívající techniky sociálního inženýrství, bude s rozvojem AI ještě větší výzvou než kdykoliv dřív.

Nový manuál k boji proti deepfake poskytuje zaměstnancům českých firem a organizací přehled o současných i nadcházejících trendech v oblasti deepfakes, metodách jejich detekce a autentizace a strategiích k obraně proti těmto hrozbám.

„Je alarmující, že s minimálními náklady a úsilím může být vytvořen deepfake, který je prakticky nerozeznatelný od skutečnosti, což otevírá v roce 2024 dveře jak pro sofistikované podvody, tak pro šíření dezinformací a manipulaci s veřejným míněním. V tomto kontextu musí být české firmy nejen na pozoru, ale především aktivně podporovat vzdělávání a trénink svých zaměstnanců,“ uvedl ředitel České asociace umělé inteligence Lukáš Benzl.

Od manipulace s obsahem ke kompletně uměle vytvořenému videu a audiu
Mezi nejběžnější praktiky dosud patřily tzv. shallowfakes. Je to manipulace s obrazem prostřednictvím editace nebo záměrným vytržením z kontextu. Jde například o zpomalení videa přidáním opakujících se snímků, aby to vypadalo, jako by byl jedinec na videu intoxikován. Další metodou je kombinace zvukových klipů z jiného zdroje a nahrazení zvuku ve videu, aby se změnil příběh.

Na druhou stranu multimédia, která byla vytvořena nebo upravena pomocí umělé inteligence, se označují jako deepfakes. Mezi klasické příklady patří napodobení hlasu nadřízeného v telefonu, deepfakes v online schůzkách a pohovorech, zveřejnění falešného firemního prohlášení, nebo třeba vydírání zaměstnanců deepfake nahotou, popisuje manuál České asociace umělé inteligence, který je ke stažení zdarma na webu.

„Do budoucna se vyplatí začít používat AI rozšíření do webových prohlížečů. Ta budou schopna takový obsah detekovat a upozornit nás na něj. Velikost trhu s deepfake softwarem byla v roce 2023 oceněna na částku 72,41 milionu USD a očekává se, že do roku 2028 dosáhne velikosti 348,9 milionu USD,“ říká Lukáš Benzl.

Hlavní trendy ve vývoji médií zahrnují zlepšení a rozšíření využívání multimediálních modelů, schopnost převádět 2D obrázek na 3D pro realistickou generaci videa z jediného snímku, rychlejší a přizpůsobitelné metody pro tvorbu upraveného videa v reálném čase a modely, které potřebují méně vstupních dat pro přizpůsobení výsledků, jako je například syntetické audio. Tyto trendy směřují k dalšímu rozvoji v oblasti deepfake útoků.

(tz)