Hitra širitev umetne inteligence (UI) je v zadnjih letih korenito spremenila digitalno krajino, vendar s seboj prinaša tudi temno plat, ki neposredno ogroža varnost običajnih državljanov. Danes nismo več le priča klasičnim metodam spletnega ribarjenja, temveč vstopamo v obdobje, kjer so deepfake prevare postale orodje za sistemsko izkoriščanje najranljivejših skupin družbe. Tehnologija, ki temelji na globokem učenju, omogoča ustvarjanje izjemno realističnih, a popolnoma lažnih video in avdio posnetkov, s katerimi lahko napadalci manipulirajo z našimi čustvi, zaupanjem in finančnimi sredstvi. Kot družba se soočamo z novim obrazom digitalne neenakosti, kjer tisti z manj tehničnega znanja postajajo lahke tarče sofisticiranih algoritmov.
Tehnologija v rokah manipulatorjev
Izraz deepfake izvira iz kombinacije angleških besed “deep learning” (globoko učenje) in “fake” (ponaredek). Gre za proces, pri katerem umetna inteligenca analizira na tisoče fotografij ali ur zvočnih posnetkov določene osebe, da se nauči poustvariti njene kretnje, obrazno mimiko in specifičen barvni odtenek glasu. Medtem ko so bili takšni postopki nekoč domena drage filmske produkcije, so danes orodja za ustvarjanje teh vsebin dostopna skoraj vsakomur z dostopom do interneta. To odpira vrata za nevarne deepfake prevare, ki ciljajo na posameznike v njihovih najbolj intimnih in ranljivih trenutkih.
Napadalci pogosto uporabljajo t.i. kloniranje glasu. V praksi to pomeni, da lahko nekdo prejme telefonski klic, v katerem sliši glas svojega otroka ali vnuka, ki prosi za nujno finančno pomoč zaradi nesreče. Zaradi čustvenega šoka in neverjetne podobnosti glasu žrtve pogosto ne podvomijo v pristnost klica. Strokovnjaki na nacionalnem odzivnem centru za kibernetsko varnost SI-CERT opozarjajo, da se število tovrstnih incidentov povečuje, saj napadalci izkoriščajo dejstvo, da ljudje še vedno verjamemo lastnim ušesom in očem bolj kot varnostnim opozorilom.
Socialna razsežnost in izkoriščanje ranljivih
Z vidika socialne pravičnosti te prevare najbolj prizadenejo tiste, ki so že sedaj na robu digitalne družbe. Upokojenci in tehnološko manj vešči posamezniki so primarna tarča, saj pogosto nimajo dostopa do informacij o tem, kako delujejo sodobni algoritmi. To ni le tehnična težava, ampak vprašanje družbene moči. Tisti, ki si lahko privoščijo napredno kibernetsko zaščito, so varnejši, medtem ko so delavski razred in starejši prepuščeni milosti in nemilosti neurejenega digitalnega trga, kjer profit pogosto prevlada nad varnostjo uporabnikov.
Mehanizmi finančnega izkoriščanja
Poleg osebnih klicov so izjemno razširjene tudi prevare z znanimi osebnostmi. Na družbenih omrežjih se pogosto pojavljajo videoposnetki politikov ali znanih podjetnikov, ki promovirajo “čudežne” naložbene priložnosti ali kriptovalute. Ti videoposnetki so narejeni s pomočjo UI, ki sinhronizira ustnice govornika z lažnim besedilom. Ker ljudje naravno zaupajo znanim obrazom, se hitro ujamejo v past in nakažejo prihranke na račune prevarantov. Takšne deepfake prevare izkoriščajo sistemsko pomanjkanje nadzora nad velikimi tehnološkimi platformami, ki se le počasi odzivajo na odstranjevanje škodljivih vsebin.
Kako prepoznati digitalno laž?
Kljub temu da tehnologija postaja vse boljša, še vedno obstajajo določeni znaki, ki lahko razkrijejo ponaredek. Pri video posnetkih bodite pozorni na nenavadno utripanje oči ali popolno odsotnost le-tega, neprirodne sence okoli ust in oči ter zamegljene robove tam, kjer se obraz stika z lasmi ali ozadjem. Pri zvočnih posnetkih pa so sumljivi robotski ritmi govora, nenavadni premori med besedami ali kovinski zvok glasu, ki se pojavi ob določenih frekvencah.
Eden najučinkovitejših načinov zaščite v družinskem krogu je uvedba “varne besede” ali dogovorjenega gesla. Če prejmete klic s prošnjo za denar, sogovornika prosite za to geslo. Prav tako je ključno, da ob sumljivem klicu takoj prekinete povezavo in osebo pokličete nazaj na njeno uradno številko, ki jo imate shranjeno v imeniku. Ne nasedajte pritisku in nujnosti, ki jo ustvarjajo prevaranti, saj je prav ustvarjanje panike njihovo najmočnejše orožje za onemogočanje racionalne presoje.
Potrebujemo kolektivni odgovor
Problem, ki ga prinašajo deepfake prevare, ne bo rešen le z boljšimi filtri na naših pametnih telefonih. Potrebna je širša družbena akcija in strožja regulacija področja umetne inteligence. Agencija Europol v svojih poročilih redno poudarja, da kriminalne združbe hitro posvajajo UI za svoje operacije, medtem ko zakonodaja na državnih ravneh pogosto zaostaja za več let. Kot družba moramo zahtevati, da tehnološka podjetja prevzamejo polno odgovornost za vsebine, ki jih njihovi algoritmi širijo in promovirajo.
Digitalna pismenost mora postati osnovna pravica, ne le privilegij tistih, ki se šolajo na tehničnih fakultetah. Dokler ne bomo vzpostavili sistema, ki ščiti najšibkejše člane naše skupnosti pred digitalno manipulacijo, bodo deepfake prevare ostale močno orodje v rokah tistih, ki želijo profitirati na račun tuje nesreče. Bodite kritični do informacij, ki jih prejmete po digitalnih kanalih, in ne pozabite: v digitalni dobi verjeti lastnim očem in ušesom žal ni več dovolj za zagotavljanje varnosti.
