Prejšnjo zimo, ko so se po Evropi odprli božični sejmi, so družbena omrežja preplavili zaskrbljujoči videoposnetki. Objave so trdile, da radikalni islamisti "vdirajo" na božične sejme.
En posnetek je prikazoval ljudi, ki so "motili" odprtje bruseljskega božičnega sejma, druga fotografija pa je prikazovala tržnico, obdano z močnimi varnostniki. Sporočilo je bilo jasno: krščanske tradicije naj bi bile ogrožene.
Toda resničnost je bila drugačna. Videoposnetki so bili z mirnih demonstracij, fotografija pa je bila ustvarjena z umetno inteligenco. Kar se je na prvi pogled zdelo prepričljivo, je bilo zavajajoče – ali pa povsem lažno.
To je nova informacijska krajina.
Po nedavni oceni Evropske komisije RaziskavaSkoraj dve tretjini anketirancev je povedalo, da so se v preteklem tednu srečali z dezinformacijami ali lažnimi novicami. Ker orodja umetne inteligence zdaj lahko ustvarjajo zelo realistične slike, videoposnetke in besedilo, je postalo težje kot kdaj koli prej ločiti med tem, kaj je resnično in kaj ne.
V odgovor se je večnacionalna ekipa raziskovalcev in medijskih strokovnjakov, ki jo podpirajo sredstva EU, odločila, da se bo proti ognju borila z ognjem.
Prva obrambna linija
Leta 2020 so se strokovnjaki z univerz, medijskih hiš in tehnoloških podjetij združili v štiriletni pobudi, imenovani AI4Media, ki jo financira EU. Cilj je bil ustvariti orodja umetne inteligence, ki bi novinarjem in preverjevalcem dejstev pomagala hitro in zanesljivo preverjati digitalne vsebine.
»Nujno je treba razviti tehnike umetne inteligence za medijski sektor,« je dejal Yiannis Kompatsiaris, direktor raziskav v Centru za raziskave in tehnologijo Hellas (CERTH), ki je koordiniral pobudo.
Umetna inteligenca je dramatično znižala oviro za ustvarjanje prepričljivih lažnih vsebin. Vsakdo z dostopom do generativne umetne inteligence lahko zdaj ustvari izmišljene slike, klonirane glasove ali realistične novice. Platforme družbenih medijev to vsebino hitro širijo.
"Nenehno poskušamo razumeti in dohiteti najnovejšo tehnologijo.
»Ko lažno zgodbo podkrepijo realistične slike, ji je veliko lažje verjeti – in bolj mamljivo jo je deliti, saj vsebina ustvari več ogledov,« je dodal Kompatsiaris.
Ekipa AI4Media je razvila orodja za preverjanje, ki so zasnovana tako, da se neposredno prilegajo delovnim procesom v redakcijah. Medijske organizacije, kot sta Deutsche Welle v Nemčiji in VRT v Belgiji, so jih preizkusile v resničnih okoljih.
»Preverjevalci dejstev in novinarji se vsak dan soočajo s sumljivimi slikami,« je dejal Akis Papadopoulos, raziskovalec pri CERTH, ki je sodeloval pri projektu. Tehnologijo je opisal kot »prvo obrambno linijo«, ne kot nadomestilo za človeško presojo, temveč kot način za hitro označevanje potencialno manipuliranih vsebin.
»Pomembno je, da novinarje po vsej Evropi – in po vsem svetu – opremimo z orodji, ki jim bodo pomagala hitro prepoznati sumljivo gradivo,« je dejal.
Po podatkih Evropskega observatorija za digitalne medije, neodvisnega središča, ki ga financira EU in spremlja dezinformacijske kampanje v vseh državah EU, se je število dezinformacij, ki jih ustvarja umetna inteligenca, v zadnjih mesecih stalno povečevalo.
In to daleč presega osamljene prevare. Usklajene kampanje lahko vplivajo na volitve, izkrivljajo javno razpravo in spodkopavajo zaupanje v institucije.
Odkrivanje vzorcev dezinformacij
Prepoznavanje manipuliranih vsebin je le del izziva. Razumevanje, kako se dezinformacije širijo – kdo jih širi, kako se razvijajo narative in ali so kampanje usklajene – je prav tako pomembno.
»Nenehno poskušamo razumeti in dohiteti najnovejšo tehnologijo,« je dejal Riccardo Gallotti, vodja enote za kompleksno vedenje pri Fondazione Bruno Kessler (FBK).
FBK s sedežem v Trentu v Italiji je raziskovalni center, znan po svojem delu na področju digitalnih inovacij, umetne inteligence in preučevanja kompleksnih družbenih sistemov. V vzporednem projektu AI4Trust, ki ga financira EU in je namenjen AI4Media, je FBK sodeloval z univerzami in medijskimi organizacijami po vsej Evropi, da bi analiziral širšo dinamiko spletnih dezinformacij.
Med partnerji so bili Euractiv v Belgiji, Sky Italia ter storitve za preverjanje dejstev Maldita.es v Španiji, Ellenika Hoaxes v Grčiji in Demagog na Poljskem.
Medtem ko se je AI4Media osredotočal na odkrivanje manipuliranih medijev in integracijo orodij za preverjanje v redakcije, je AI4Trust zgradil hibridni sistem človek-stroj za spremljanje in analizo dezinformacij v velikem obsegu.
Njegova platforma spremlja več družbenih medijev in spletnih mest z novicami v skoraj realnem času, pri čemer uporablja napredne algoritme umetne inteligence za obdelavo večjezičnih in multimodalnih vsebin – besedila, zvoka in slik.
Ker količina spletnega gradiva daleč presega človeške zmožnosti, sistem filtrira in označuje objave, ki predstavljajo veliko tveganje za lažnost. Profesionalni preverjevalci dejstev nato pregledajo to gradivo, njihove preverjene ocene pa se vnesejo v sistem za izboljšanje delovanja.
Projekta se dopolnjujeta. Eden se osredotoča na odkrivanje manipuliranih vsebin, drugi pa preučuje, kako se širijo. Skupaj ponujata tako mikroskop kot širokokotni objektiv, ki sta potrebna za razumevanje in boj proti dezinformacijam, ki jih poganja umetna inteligenca.
Oboroževalna tekma
Uporaba umetne inteligence za odkrivanje umetne inteligence se morda sliši ironično, vendar gre za resen posel.
»Res je smešno, ampak je kot oboroževalna tekma,« je dejal Kompatsiaris.
"
Ni ene same rešitve. Če želimo biti učinkovitejši v boju proti dezinformacijam, potrebujemo kombinacijo orodij umetne inteligence, preglednosti, regulacije in ozaveščenosti.
Generativni modeli umetne inteligence se razvijajo z izjemno hitrostjo. Ko se je AI4Media začel, so bila orodja, kot je ChatGPT, še v povojih. Od takrat sta se kakovost in realizem vsebin, ustvarjenih z umetno inteligenco, močno izboljšala.
»Vstopili smo v novo dobo, kjer človeški um težko sledi pospeševanju,« je dejal Papadopoulos. »Da bi sledili umetni inteligenci, jo morate uporabljati.«
Ker generativni modeli postajajo močnejši, se morajo sistemi za zaznavanje nenehno prilagajati. To je bil eden največjih izzivov, s katerimi so se soočali raziskovalci.
»Tehnologija je tako hitro napredovala, da ji je celo nam raziskovalcem težko slediti,« je pojasnil Papadopoulos. »Morali smo nenehno posodabljati svoje modele, da bi zaznali novo ustvarjene slike.«
Ekipa je avtomatizirala dele postopka preverjanja in redno izpopolnjevala svoje sisteme. Vendar pa ohranjanje prednosti zahteva stalne naložbe – tako v raziskave kot v medijski sektor, ki je odvisen od teh tehnologij.
Prihodnost AI
Vendar pa sama tehnologija ni dovolj.
»Potrebujemo orodja, a potrebujemo tudi politike in pravila,« je dejal Kompatsiaris.
V skladu z zakonom EU o digitalnih storitvah morajo zelo velike spletne platforme oceniti in ublažiti sistemska tveganja, vključno s širjenjem dezinformacij, ter povečati preglednost delovanja svojih sistemov. Zakon o umetni inteligenci uvaja obveznosti glede preglednosti za nekatere generativne sisteme umetne inteligence, vključno z zahtevami za označevanje vsebin, ki jih ustvari umetna inteligenca.
Hkrati je cilj osnutka kodeksa ravnanja o preglednosti vsebin, ustvarjenih z umetno inteligenco, spodbujanje jasnejših standardov razkritja in vodnega žiga.
Zaščita neodvisnega novinarstva je še ena prednostna naloga. Evropski zakon o svobodi medijev določa zaščitne ukrepe za zagotovitev, da so profesionalne medijske vsebine prepoznane in zaščitene na večjih spletnih platformah.
Velike platforme morajo pred odstranitvijo novinarske vsebine obvestiti priznane medije in pojasniti svojo odločitev, s čimer organizacijam dajo čas za odziv. Cilj je preprečiti, da bi bilo legitimno poročanje umaknjeno brez utemeljitve.
Ti ukrepi in sistemi skupaj tvorijo širši ščit: tehnologijo za odkrivanje manipulacij, regulacijo za izboljšanje preglednosti in odgovornosti ter zaščitne ukrepe za zaščito odgovornega novinarstva.
Ozaveščanje javnosti ostaja prav tako ključnega pomena.
»Ni ene same rešitve,« je dejal Kompatsiaris. »Potrebujemo kombinacijo orodij umetne inteligence, preglednosti, regulacije in ozaveščenosti, če želimo biti učinkovitejši v boju proti dezinformacijam.«
Raziskavo v tem članku je financiral program EU Obzorje. Mnenja anketirancev ne odražajo nujno mnenj Evropske komisije. Če vam je bil članek všeč, ga delite na družbenih omrežjih.
