::: IN MEDIA RES :::

Quis custodiet ipsos custodes?

Nazaj v Platonovo votlino: deepfake, globinsko ponarejanje in življenje v laži

Ni več posebnega dvoma, s hitrimi koraki prihaja čas, v katerem bo razprava o pasteh fake news, ki v svojem bistvu, če jo uzremo širše, ni posebna medijska inovacija zadnjega desetletja, postala nedolžna preteklost. Če kje, potem se utegne pokazati, da bodo prave pasti za široko javnost in množične medije, sploh takrat, ko so ti neposredno v rokah politične propagande in strankarskih interesov, povezane z oblikami brutalnejšega manipuliranja z resničnostjo.

Propagandizem, dezinformiranje, načrtno širjenje laži, konspiracizmi in paranoja so že zdaj zelo uspešne psihopolitične tehnike delovanja v rokah strankarskih in oblastniških klik. Njihove nove inačice, šele v prihodu, imajo bolj smele cilje: medijske konstrukcije realnosti izpopolniti do perfekcije na način, da resničnosti ne bomo več razlikovali od zmanipulirane realnosti. Povedano malce patetično: vsega še nismo videli, sedanje laži utegnejo postati otročje v primerjavi s tistimi, ki prihajajo.

Deepfake in tehnike ponarejanja

Postavil bom drzno hipotezo: fenomen lažnih novic nas ni dohitel kot nekaj novega, kar nas je zares presenetilo, je bila njihova uspešnost. Za to pa so odgovorni drugačni družbeni in politični časi, pripravljenost ljudi, da jim prisluhnejo in jih vzamejo za svoje. Mar ni paradigmatski uspeh Donalda Trumpa srhljiv ravno zaradi takega momenta, naveličanosti ljudi, da bi jih morala zanimati resnica, ker so laži vendar bolj simpatične?

Lep zgled strašljivih posledic hitrega tehnološkega in predvsem računalniškega razvoja je deepfake, »globinsko ponarejanje« s pomočjo video editiranja. Svetovne medije so letos preplavila svarila, skorajda na meji moralne panike – dramatično nam rišejo neustavljivo nevarnost, pred katero se morda že kmalu ne bo mogoče ubraniti.

Predstavljajmo si video posnetke, sploh ne nujno oglasne narave, temveč spretno lansirane in z veščinami umetne inteligence zmanipulirane do te mere, da ponujajo napačen vtis, informacijo ali slutnjo tega, kar se je res dejansko zgodilo. Deepfake s pomočjo fiktivne sinhronizacije, za katero stoji napredna programska oprema za ti. globinsko učenje, ustvarja zvok in sliko, kjer lahko osebi in dogajanju poljubno dodamo povsem izmišljene besede in zmanipulirano podobo, s tem pa prepričljivo in realistično ustvarjamo povsem novo, drugačno resničnost, kjer je zlaganost in lažnost posnetka mogoče odkriti zgolj s posebnim programskimi orodji vrhunskega strokovnjaka.

Toda ko so podatki enkrat spuščeni v javnost, bodo, četudi potvorjeni, v povprečju že dosegli večino svojega želenega učinka, navzlic hitremu razkritju o njihovi izmišljeni naravi, ki bi sledilo. In velikokrat ne bo.

Črna prihodnost lažnih novic

Spopad z globinskim ponarejanjem bistveno presega dosedanje nivoje boja proti lažnim novicam, za katere se je že pokazalo, da so precej jalovi; v številnih svarilnih komentarjih ga opisujejo kot »prihodnost lažnih novic«, njihovo progresivno stopnjo. Če nam že upiranje slednjim ne gre najbolje od rok, si težko predstavljamo, da bomo z deepfake opravili kaj bolje. Prav nič nas ne potolaži okoliščina, da je ta nastal znotraj zabavne industrije, deloma v porno industriji z dodajanjem obrazov znanih osebnosti, ali z bistveno bolj nedolžno poanto iskanja pozornosti med uporabniki, ki si želijo razvedrila in čudenja.

Znameniti posnetek z začetka lanskega leta, v katerem bivši ameriški predsednik Barack Obama svojega naslednika označi za idiota (»total and complete dipshit«), je zgled omenjenega posnetka. V dobesednem smislu, kajti nastal je s pedagoškim namenom opozorila, kam nas lahko tovrstna tehnologija ponarejanja realnosti pripelje. Čeprav je trenutno izdelava ponaredkov še v rokah izbrancev, bo opisana spretnost že kaj kmalu morda postala dostopna širokim množicam, s čimer se bo možnost dostopa do manipulacije drastično povečala.

Zlahka si lahko predstavljamo zaporedje reakcij javnosti na tovrstne ponaredbe: po tistem, ko bo žrtev (ali kdo drug) ugotovila in razkrila zmanipuliranost v tehniki deepfake, npr. da ji nekdo položil v usta besede, ki jih ni izrekla, v trenutku, ko sicer ni ničesar dejala, ampak je v posnetku storila dejanje, ki ga ni bilo (npr. izpeljala določeno zanjo neprijetno ali nerodno gesto z rokami in telesom), bo posnetek s pomočjo medijev že dosegel javnost in splet, zato noben demanti ne bo povsem ustavil povzročene škode. Razen tega bo po inerciji velik del uporabnikov navzlic zanikanju še vedno pripravljen verjeti, da se je zgodilo tisto, čemur pač želi verjeti. In ker sumničava javnost po definiciji ne zaupa nikomur, najbrž niti mukotrpno zbrana dokazila, da gre za ponaredek, ne bodo zalegla. Če bo temu sledil še niz političnih ali drugih reakcij, se bo v kompleksni medijski naraciji tega, kar se je pripetilo, začetna ponaredba relativizirala še hitreje.

Odločanje na volitvah

Predstavljajmo si za hip posnetek, v katerem Marjan Šarec izreka sovražne besede o Janezu Janši, ki so bolj grozljive tistih, ki jih zna na tviterju spisati njegov svetovalec Damir Črnčec. Ali opazke o naši sosedi v mejnem sporu, ki lahko pripeljejo do resnega mednarodnega škandala. Temu bi sledile vse vrste ogorčenih reakcij, politični in medijski spini, pozivi k odstopu in vse ostalo, kar je del običajne folklore. Potem bi na sceno stopili računalniški in drugi forenziki in s pomočjo zapletene programske opreme (trenutno jih ponujata podjetji Faculty in Amber) ugotovili, ali so posnetki pristni. Javna razprava, ki bi jo intonirali mediji, bi se verjetno le v enem delu osredotočala na vprašanja pristnosti, resničnosti in lažnosti, naročniki in avtorji manipulacije pa bi se v tišini najbrž na široko hihitali in merili obseg pričakovanih učinkov in posledic.

Težko si predstavljamo, da škoda ne bi bila povzročena in da bi bila majhna. Še huje, ob nedavnem razkritju videa, na katerem je ameriška političarka Nancy Pelosi, predsednica predstavniškega doma kongresa in članica demokratske stranke, videti pijana, je že sprožil številna ugibanja o prihodnjih ameriških predsedniških volitvah 2020 in možnosti, da utegnejo tehnike globinskega ponarejanja v tej kampanji odigrati vidno vlogo. Povedano drugače: deepfake utegne odločati na volitvah ali celo odločiti. Če upoštevamo res enormne količine dokazanih laži, ki jih je v času prvega mandata izustil Donald Trump, in popolno ravnodušnost, ki ga do njih kaže volilno telo, ni prav verjetno, da bi se tisti, ki jim je tehnika ponarejanja namenjena, odzvali z ustrezno veliko in intenzivno zaskrbljenostjo. In prav v tem je morda tudi največja past vseh sedanjih in prihodnjih tehnologij laži: ne v njihovi učinkovitosti, ampak še prej v popolni indolenci in pasivnosti ljudi, ki so jih pripravljeni brez zadržkov sprejeti.

Osrednja vloga medijev

Ni si zapleteno predstavljati, kako pomembna in osrednja postaja vloga množičnih medijev v časih, ko prihajajo v ospredje velikanske propagandne vojne, ne nujno le na političnih tleh. Nič manjša ne bi smela biti niti naloga humanistov in družboslovcev, da postrežejo z analizo ustroja družbenih mehanizmov dovzetnosti za laži in posameznikovega kognitivnega sistema prepričanj, ujetega v samoprevaro na poti prostovoljno izbranega izgubljenega stika z realnostjo in resnico.

Nepričakovano in celo pohvalno se je dosedanja razprava o deepfake velikokrat sprožila predvsem iz potrebe po vnaprejšnjih opozorilih glede krute politične in medijske prihodnosti, ki trkata na naša vrata. Pred časom je belgijska socialistična stranka objavila lažen videoposnetek, v katerem Donald Trump poziva Belgijce, da se odpovejo pariškemu podnebnemu sporazumu. Dejanje sicer ni imelo neposredne pedagoške poante, stranka je z njim želela dvigniti stopnjo ozaveščenosti državljanov in apelirati k podpisu peticije o podnebnih politikah.

Opozorila so več kot na mestu in odpirajo dileme medijske pismenosti, deloma tudi digitalne in tehnološke razvitosti okolja. Domnevamo lahko, da bodo v okoljih z nizko stopnjo pismenosti in razvitosti pojavi globinskega ponarejanja delovali močneje in prepričljivejše. Učinki bodo odvisni tudi od stopenj demokratizacije družbe.

V državah z več nadzora in manjšo medijsko svobodo si lahko obetamo njihovo večjo uspešnost – in morda tudi večje stopnje njenih rab in zlorab. Končno bo boj proti razmahu globinskega ponarejanja odvisen tudi od razvitosti programske opreme, ki je sposobna razlikovati pristne video in zvokovne vsebine od nepristnih, izvedbe izobraževalnih programov in tudi volje oblasti, da zaustavlja trende, ki v svojem temelju rušijo osnovne prvine demokracije in omogočajo vladavino manipulantov. Toda če bodo na vrhu oblastniške piramide takšni, ki so ravnokar zaužili vse prednosti in blagodati propagandizmov, njihova navdušenost nad pregonom ni zelo verjetna.

Demokracija v Platonovi votlini

Življenje v dobi ponaredkov, izboljšanih tehnoloških zmožnosti in vedno večje vere v laži, alternativne resnice in poresničnost, lahko najbolj trivialno ponazorimo s ponarejanjem denarja: predstavljajmo si, kaj bi za svetovno ekonomijo in gospodarstvo pomenilo, če bi se tehnike goljufov izpopolnile do te mere, da bi ponarejevalci postali uspešni v tiskanju navidezno povsem pristnih bankovcev, ki jih ni mogoče ločiti od originala, pri tem pa bi njihov končni izdelek bil imun za vse potencialne sisteme zaščite in varovanja?

Na epistemološki ravni nas takšna doba globinskega ponarejanja spomni na Platonovo prispodobo o življenju v votlini: sence na stenah, ki jih že po sebi jemljemo za edinole resnične, bi zaradi še večje zmožnosti imitacije in občutka avtentičnosti še manj dopuščale, da se uzremo k izhodu iz votline, k izvoru svetlobe in resnice, kamor nas že itak posebej ne vleče. Grški filozof je že nakazal vse težave, ki iz tega izvirajo: zgrešenost in slepoto življenja v mnenju in prepričanju, namesto da bi sledili resnici, dejstvom in resničnemu znanju. K temu prištejmo še smrtonosno medijsko dimenzijo, tendenco k tabloidnosti, senzaciji in varanju, posledično pa tudi izgubljeno zaupanje ljudi v medije ali politiko. V seštevku vseh negativnih dejavnikov zato res ni pričakovati, ob vseh navedenih zadržkih glede neupravičene moralne panike, da bi se lahko korenito spopadli z različnimi oblikami vedno bolj izpopolnjenih goljufivih vsebin, ki prepričljivo posnemajo realnost.

Lepe duše v globokem dreku

In potem je tukaj še neozdravljiva brezbrižnost ljudi, ki jih resnica ne zanima ali jih vedno manj, njihovo lepodušništvo in kompenzirajoča prepričanja, da imajo vedno prav in so nezmotljivi, deintelektualizacija javnega prostora, kjer refleksija ni dovoljena, kultura selfijev in nečimrnosti, ki jo nadomešča, zavestne odločitve urednikov medijev, da zmanjšujejo prostor argumentirani razpravi in medse vabijo le še populiste, lobiste in bleferje. Le od kod optimisti med nami črpajo svoje upanje, da bo naš boj proti manipulacijam na koncu uspešen in da bodo ob tem novinarji viteško opravili z njimi?

V mentalnem dispozitivu, ki ga je kot kulturni fenomen že pred desetletji filozof Harry Frankfurt opisal kot dobo bulšitanja, produkcije nenehnega sranja, ki je v končni fazi nič drugega kot načrtna odpoved temu, da bi nas resnica sploh kakorkoli zanimala, smo lahko glede uspešnosti deepfake in podobnih manipulativnih tehnik prejkone res zgolj črnogledi.

V tem smislu se je avtor zgoraj omenjenega ponaredka z Obamo motil: Trump je bil v manipulaciji ozmerjan z izrazom »dipshit«, ampak deepfake nas prej popelje v bližino »deep shit« in neverjetne radosti lepih ljudskih duš, ki se v njem rade svaljkajo.

Obama deepfake

Dipshit in deep shit: Obama v ponarejenem posnetku

Psihopolitika manipulantov

Posebno poglavje in začarani krog predstavljata konspiracizem in gojenje občutkov paranoje. Politični akterji, ki se propagandnih tehnik že zdaj brez zadržkov radi poslužujejo, jih radi kombinirajo s svojimi orodji psihopolitike, utemeljenih na popularnih teorijah zarot in konspiracizmu kot dominantnem miselnem dispozitivu kot takšnemu. Izgubljeno vero v karkoli, v družbo, državo, politiko, medije ali znanost, že zdaj uspešno instrumentalizirajo za doseganje svojih ozkih ciljev. Nezanimanje za dejstva in resničnost sta njihova aduta, brezvoljni državljan je pravo testo, ki ga najraje gnetejo in upodabljajo po svoji meri.

Ob naraščajoči apatiji, pasivnosti in indolenci javnosti so vsakič navdušeni, ker se zavedajo, da so voda, v bistvu že kar hudournik, na njihov mlin. Bolj se ljudje čutijo prevarane, in dejansko se najbolj tedaj, ko so res prevarani, bolj so nezaupljivi, paranoidni, prestrašeni in zmedeni, s tem pa imenitno manipulativni in natančno takšni, kot si jih novodobni ponarejevalci želijo. Manipulantski akterji, sploh politični, bodo s tem v vsakem primeru dosegli svoj cilj zase, tudi ob razkritju svojih nečednih namer, generalna politična izguba pa bo velika: po volitvah nas bo čakalo življenje v laži po izbiri avtokratov, ob izgubi osnovnih demokratičnih vrednot pa se bomo vrnili v nekakšno krizno predpolitično družbeno stanje brez prave rešitve.

Zato je utopično pričakovati, da nas bo vsega rešila večja medijska pismenost in izboljšani programi, s katerimi bomo razkrinkali nove oblike ponarejanja resničnosti. Dokler si ne bo večina želela živeti v resnici, bo vse zaman.

%d bloggers like this: