Firma a podniky napříč všemi odvětvími se snaží co nejrychleji implementovat AI nástroje ke snížení nákladů, automatizaci časově náročných úkolů a zrychlení služeb zákazníkům nebo ke kreativním činnostem. Při všech těchto pozitivních způsobech využití AI, je tu ale vždy přítomná druhá „temná“ strana uživatelů, kteří hledají cesty, jak ublížit vašemu podnikání.
Každý může být terčem – Firemní boj s deepfake
Na začátku a v průběhu roku 2024 (detail) někdo záměrně využil i moji značku k propagaci nějakého náborového řešení a k získání dat uživatelů, v té době probíhal útok napříč více firmami v mém oboru, a to prakticky napříč celou Evropou. Sice se nakonec nikomu nic nestalo a ke ztrátám snad nedošlo, ale první vlaštovka dorazila. I moji klienti dnes čelí nejrůznějším útokům na jejich databáze a IT prostředí. Není to vůbec lehké období, které se navíc propisuje do daleko vyšších investic do obrany a vzdělávání proti kyberkriminalitě.
Deepfake ve firemní praxi
Nyní je tu další obdoba útoků, kterým je deepfake. Deepfakes jsou videa, zvukové klipy, fotografie, ale i textové zprávy a další média generovaná UI – umělou inteligencí, jejichž cílem je klamat kohokoliv. Dnes jsou nástroje pro vytváření deepfakes dostupné komukoli s přístupem k internetu, takže možnost a variací útoku je obrovská.
„Podle zprávy společnosti Sumsub vzrostl počet deepfakes po celém světě v letech 2022 až 2023 desetkrát. Podle zpravodajské stanice CNN vyplatil pracovník finančního úřadu 25 milionů dolarů po videohovoru s deepfake finančním ředitelem.“
Podoba útoku na vaši firmu
Podoba kyberútoku může být na vaši firmu prakticky jakákoli. Představte si třeba, že konkurence vytvoří deepfake video, které vypadá, že ukazuje školitele vaší společnosti, jak zaškoluje zaměstnance, jak podvádět zákazníky. Co když někdo vytvoří deepfake video, který ukazuje vedoucího nebo spolupracovníka firmy, jak dělá něco nezákonného nebo zcela nevhodného? Představte si, že by se těsně před uskutečněním velké zakázky někdo rozšířil video, na kterém váš ředitel společnosti říká, že věděl, že projekt má problém s bezpečností apod. Kreativitě útoku se meze prakticky nekladou.
Jako další oblast, kde musí manažeři ihned zafungovat, je to, aby jejich zaměstnanci byli proškolení v tom, jak se bránit proti deepfakes, ale i dalším kyberúrtokům a jak reagovat, pokud se jejich firma stane terčem útoku. Deepfake útok může zničit pověst vaší firmy a důvěru v dlouho budovanou značku, protože informace se díky sociálním médiím šíří exponenciální rychlostí.
Být napřed před útočníkem
Jak píšu v úvodu mého článku, tyto informace se mohou rychle šířit. Je tak nezbytné zajistit podstatné důkazy od třetí strany, že video, audio nebo obrázek je falešný a byl vytvořen s úmyslem poškodit společnost nebo jednotlivce. Pro tyto účely by vaše firma měl mít platformu, která informuje (sbírá signály) o tom, že je její jméno již zneužíváno.
Případně by IT autorita měla potvrdit, že se jedná o deepfake. Firma by měla o tomto zjištění informovat zákazníky na osvědčeném místě pro komunikaci. Každá hodina, která uplyne, aniž by byl deepfake vyvrácen, bude mít dopad na pověst vaší firmy.
Jednejte rychle
Pokud se už tento obsah zaměřený na vaši firmu rozšířil, musíte být doslova všichni připraveni jednat co nejrychleji. K tomu si manažeři musí předem připravit klíčové body jejich sdělení. Tyto body by měly být jasné a měly by sdělovat, jak firma krizi řeší a co plánuje dělat, až krize skončí.
Kromě toho by měl být vybrán jeden mluvčí, který bude společnost reprezentovat a zajistí konzistentnost sdělení. Tento mluvčí bude mít na starosti rychlé potvrzení otázek v případě, že se novináři nebo klienti začnou hromadně ptát. Tím se také zajistí konzistentnost reakcí, když všechny informace pochází od jedné osoby – jedna linka sdělení.
Buďte transparentní
Během krize mají prakticky všichni zaměstnanci často největší strach – nejen o firmu, ale i o vlastní živobytí a o to, jak krize ovlivní jejich vlastní práci, jejich životy. Začněte tím, že si promluvíte s vlastními týmy a sdělíte jim, jak mají reagovat. Pomozte jim, aby jako vaši lidé, kteří reagují v první linii, věděli, co mají říkat a jak se chovat, když musí komunikovat s nejistými zákazníky.
Jak uklidnit jejich obavy a vyřešit jejich problémy. Manažeři by měli pořádat schůzky a dávat pokyny, jak by měli zaměstnanci v krizi postupovat, to platí pro každý krizový scénář. Nezapomeňte naslouchat, uznávat je a odpovídat na jejich otázky. Manažeři by si navíc měli stanovit čas na kontrolu a podporu zaměstnanců, aby se ujistili, že cítí podporu, a byli jim k dispozici v případě, že budou mít dotazy nebo obavy.
V závislosti na závažnosti deepfake mohou manažeři osobně zvážit, zda o tom neřeknou také partnerům, dodavatelům – odběratelům a klientům. Problém přiznejte, i kdyby to mělo být jen sdělení, že jej společnost prošetřuje nebo že je pod nějakým aktuálním útokem. Poskytněte očekávání a pokyny, co mají lidé dělat, a důsledně je aktualizujte, dokud nebude problém vyřešen. Důkazy, jejich množství s identifikací zdroje a místa výskytu předejte na pověřená místa.
Monitorujte a sledujte média
V krizové situaci je pro vyvrácení falešných informací a snížení jejich dopadu rozhodující rychlost vaší reakce. Klíčové je důsledné monitorování digitálních informací o vaší firmě. Deepfake si pravděpodobně všimne více zaměstnanec, někdo z okolí než vedení vaší vlastní firmy. Zaškolte proto zaměstnance, aby vyhledávali tyto falešné informace a hlásili vše podezřelé, budou působit jako preventisti. Stejně tak má většina firem, které školí zaměstnance, aby neodpovídali na phishingové e-maily, neklikali na neznámé odkazy apod. Tým IT by měl také zaměstnance školit o strategiích, které lze použít k odhalení deepfake médií.
„Zpráva „Cybersecurity Information Sheet“ předpovídá rychlý vývoj technologií deepfakes a syntetických médií s odhadovaným 35% ročním růstem trhu. Do roku 2030 má jejich celková tržní hodnota přesáhnout 100 miliard dolarů, což vytvoří příznivé podmínky, které přispějí ke snížení nákladů na tyto technologie.“
Ochrana firemního obsahu
V závěru mého článku bych také rád napsal o opačné straně zneužívání obsahu pro účely deepfake a to zneužívání firemního obsahu nebo know-how firmy, která tvoří nějaký kreativní obsah, protože zneužívání obsahu je také velkým tématem.
Firmy, které dnes vytvářejí hodnotný digitální obsah, nechtějí riskovat jeho zneužití nebo manipulaci třetími stranami. Nedávno jsem se dočetl o mé oblíbené společnosti Adobe, která představila svůj nástroj Content Authenticity Initiative (ACA), která tak firmám nabízí sadu nástrojů na ochranu obsahu pomocí ověřování jeho pravosti.
Díky tomuto systému mohou společnosti sledovat původ a úpravy svých digitálních souborů a zabránit tak šíření falešných nebo pozměněných verzí. Tento nástroj je klíčový pro ochranu firemní reputace a zajištění, že jejich díla zůstanou nedotčena a nebudou zneužita ke škodlivým účelům.
Závěrem
UI – Umělá inteligence jen tak nezmizí. Firma, jako je ta vaše by měly využívat nástroje umělé inteligence správně tak, aby jim třeba pomohly zlepšit procesy a rozvíjet své podnikání. Manažeři by se však měli připravit i na tyto hrozby a aktualizovat svůj současný manuál krizové komunikace tak, aby bylo možné implementovat krizovou komunikaci směrem k těmto hrozbám. S nárůstem deepfake hrozeb bude aktualizace strategických dokumentů klíčem k udržení podnikání. Bez dobrého manuál krizové komunikace vaší firmy se vám nevyhne ani tato hrozba.
