Pericolul realității paralele: Manipularea emoțională creată de TikTok, explicată de un profesor de la Oxford. ,,Algoritmi opaci unde emoția bate faptele”

Rețelele sociale devin un teren fertil pentru manipularea percepțiilor și polarizarea societății într-o eră a dezinformării algoritmice. Profesorul Corneliu Bjola, expert în diplomație digitală la Universitatea Oxford, explică, într-un interviu acordat site-ului Antena3.ro, de ce TikTok este o amenințare fără precedent la adresa democrațiilor moderne și ce ar trebui să facă România în fața acestui fenomen exploziv.

„Este un risc foarte mare ca aceste platforme să distorsioneze procesul electoral”

Reporter: După alegerile recente din România și din alte state europene, rețelele sociale – în special TikTok – sunt acuzate că propagă manipularea în masă. Cât de mare este, din punctul dumneavoastră de vedere, pericolul real al acestor platforme asupra democrației?

Corneliu Bjola: Având în vedere ce s-a întâmplat în România și suntem, oarecum, vulnerabilizați, în acest moment, cred că da, putem spune că pericolul este destul de mare.

Vorbim de o situație care a afectat România, dar am văzut-o și în alte alegeri din acest an – de exemplu, în Germania. Este o problemă destul de serioasă. Unde intervine reticența, este în a stabili care ar fi soluția cea mai bună pentru a adresa aceste probleme.

Fără îndoială, există un risc mare ca aceste platforme să influențeze – nu neapărat votul final, fiindcă e mai greu de demonstrat legătura directă –, dar cu siguranță pot promova teme false și pot distorsiona procesul electoral, afectând modul în care cetățenii își formează opinia de vot.

Aici vorbim de o situație care este fără precedent. În trecut, am văzut cazul Cambridge Analitica, care influența alegerile în mod insidios și atunci a fost o anchetă foarte serioasă. Mă aștept ca și în acest caz cu Tiktokul, să începem să să luăm problema cât mai în serios și măsurile respective să fie aplicate.

Pe scurt: eu cred că este un risc foarte mare ceea ce am observat în momentul de față, ca aceste platforme să influențeze procesul electoral.

Algoritmii TikTok sunt opaci. Creează realități paralele în care emoția bate faptele

Reporter: Dar de ce credeți că suntem atât de vulnerabili?

Corneliu Bjola: Comparând situația TikTok-ului cu cea a Facebook-ului de care vorbeam mai devreme – Facebook-ul și Cambridge Analitica mergeau pe această idee de micro-targeting; adică înțelegeau foarte bine profilul utilizatorului și serveau anumite mesaje care rezonau foarte bine cu persoana respectivă. Asta s-a întâmplat cu Cambridge Analitica.

Deci mergi cu mesaje care nu se adresează unui grup demografic, neapărat, se adresează la nivel individual. Și atunci tu poți să-l influențezi foarte mult în momentul respectiv. Asta se întâmpla cu Facebook-ul și de aici a plecat tot acel scandal, pentru că s-a dovedit că e industrie foarte mare, lucrau pe scară mare de influențat alegeri.

Bun, acuma unde ne aflăm cu situația cu TikTok este că, în momentul de față, acest algoritm procedează diferit. Sunt două probleme pe care spune că sunt relevante în cadrul TikTok. Unu este că nu înțelege foarte bine acești algoritmi, cum funcționează.

Sunt destul de opaci. Nu este o platformă vestică, este o platformă chinezească, algoritmii sunt mai greu de descifrat, sunt destul de netransparenți, știm doar efectul lor – nu neapărat, încercăm să îl ghicim, oarecum – dar asta este o problemă. Deci nu sunt foarte transparenți și, din cauza asta, este foarte greu de anticipat exact când vor promova anumite elemente, cât de tare vor amplifica.

Iar a doua problemă cu actualul sistem, pe care-l văd în cadrul TikTok-ului comparativ cu Facebook, este că a devenit mult mai performant decât Cambridge Analitica. Cambridge Analitica înțelegea anumite preferințe și servea mesaje în acest sens.

Nu contează ce e adevărat. Contează dacă pare real. Asta face TikTok

TikTok acționează puțin diferit, acționează printr-o tehnică, să spunem, foarte amplificată, de creare a unor realități paralele.

Asta este problema foarte mare, în momentul de față, în care te atrage: e un concept care a început să se dezvolte în literatura de specialitate, realitatea paralelă. Vorbim de realitatea paralelă care nu nu este bazată pe fapte. Deci nu contează cât de adevărat, câtă corespondență are în realitatea fizică.

Realitatea paralelă e greu de destrămat. Georgescu este un exemplu

Ce contează foarte mult în aceste realități paralele: dacă se simte, e vorba de legătura, să spunem, o anumită legătură cognitivă, emoțională, dacă simte că e real. Asta este problema: că acest algoritm reușește să o facă mult mai performant decât Facebook-ul în „echo chamber-urile” lor.

(„Echo chamber” desemnează un spațiu – de regulă digital – în care utilizatorii sunt expuși aproape exclusiv la opinii care le confirmă convingerile existente, fără confruntare cu puncte de vedere opuse. Acest fenomen contribuie la polarizare, radicalizare și distorsionarea percepției asupra realității. – n.r.)

„Echo chamber-urile” lor se derulează foarte rapid, îți ghicesc preferințele mult mai bine. Nu mai contează să apeși pe butonul LIKE, cum era la Facebook.

În momentul de față, ei folosesc alți indicatori. De exemplu, cât timp stai pe un clip când scrollezi. Și înțeleg că deja încearcă să dezvolte niște metode de face screening și face recognition ca să-ți ghicească oarecum reacțiile faciale.

Iarăși, știm puțin despre acest lucru, se vorbește spre el, dar iarăși pentru că TikTok nu este foarte deschis în a expune public exact cum lucrează.

Ei invocă ideea de proprietate intelectuală, dar cred că e mai mult decât atât. Deci ce vreau să spun cu TikTok? Este mult mai performant față de Facebook-ul de acum 10 ani și creează, în momentul de față, aceste realități paralele, care sunt foarte greu – odată ce ai intrat în ele, cum am văzut și în momentul de față, sunt foarte greu de destrămat. Oamenii intră în aceste idei, nu pentru că au găsit un mare adevăr actual. Vedem, de exemplu, situația aceasta cu „Pământul este plat”.

Nu e vorba de fapte, ci e furtunul care se simt cognitiv atașați. Asta s-a întâmplat, cred că și cu Georgescu.

Au fost destul elemente care să confirme că CV-ul lui Georgescu era, de fapt, mult înfrumusețat, iar în toate intervențiile sale trecute erau foarte multe elemente care te îndemnau să fii foarte rezervat cu privire la această persoană.

Dimpotrivă, cu cât le prezentai mai mult, cu atât acești oameni le rejectau și mai puternic.

Deci aici este o problemă de înțeles: ideea de realitate paralelă și cum este ea frame-uită emoțional-cognitiv.

La aceasta se adaugă ce s-a observat în cazul lui Georgescu: acest astroturfing, care exista, a fost folosită înainte, dar acum e ceva fără paralel.

Astroturfingul dă iluzia că o opinie marginală e majoritară

Reporter: Ce este astroturfingul?

Corneliu Bjola: Astroturfingul este când creezi impresia unei mișcări de masă, adică algoritmul lasă userului impresia că o opinie care ar putea fi împărtășită de câțiva, – să zicem cinci-șase – este, de fapt, împărtășită de milioane.

Și atunci se creează acest efect cognitiv, că pur și simplu ți se pare că vrei să fii parte din această mișcare.

Astroturfingul aplică o opinie marginală și o face să fie percepută ca fiind o opinie de masă. Tiktokul este foarte eficient în astroturfing: așa se explică modul în care brusc mișcări – POT, de exemplu, care intră în Parlament sau Georgescu, saltă foarte puternic în spațiul public.

TikTok poate fi interzis într-o democrație? Răspunsul e complicat

Reporter: Se discută, inclusiv în spațiul românesc, despre interzicerea TikTok-ului. O astfel de măsură este justificabilă într-o democrație liberală? Se creează un precedent dacă va fi interzis?

Corneliu Bjola: Aceasta este o dezbatere bună, pentru că trebuie gândit cum să reacționăm la astfel de ingerințe. Ne gândim, de obicei, la ingerințe externe – în cazul Rusiei. Dar e posibil să asistăm, în viitor, și la altfel de actori statali.

Dar este la fel de adevărat că și actori interni au început să învețe cum să lucreze cu cu TikTok-ul și să amplifice anumite dezinformări.

Și aici se află linia care e, uneori, foarte greu de identificat: unde vorbim de libertate de expresie și unde vorbim de protecție împotriva unor influențe externe. Linia internă și linia externă devine mult mai cețoasă, mult mai dificil de identificat.

Legea serviciilor digitale există. Problema este implementarea lentă

În momentul de față, România, ca membru al Uniunii Europene, a adaptat și s implementează acea lege a serviciilor digitale, adoptată în 2022, care este singurul instrument care îl avem în momentul de față: să permită anumite reacții în caz de dezinformări, mai ales în timpul campaniei electorale.

Deci ce face acel act e să ceară marilor platforme, cum este cazul și TikTok-ului cu peste 45 de milioane de useri, să producă un raport anual în care să explice foarte clar cum adresează probleme legate de cele pe care le-am văzut noi în decembrie. Bun, actul e act, implementarea și testarea lui sunt alte probleme.

Ei prevăd anumite măsuri care pot fi luate de către Uniune, în cazul în care se inter se observă un atentat la securitatea publică, fără a-l defini foarte explicit.

Deci ce vreau să spun prin acest lucru? Că există o anumită reglementare la Uniunea Europeană care, în principiu, ar trebui să adreseze anumite preocupări legate de riscul pe care aceste platforme, mai ales TikTok, le-ar crea în general pentru situații electorale și numai în Europa.

Este un act reglementat de curând, care n-a fost testat. De fapt, testul a fost România. Și ce am văzut în noiembrie: s-a cerut TikTok-ului să facă un raport, TikTok-ul a început să se adapteze, dar totuși vedem în continuare situații.

Mai este un caz interesant pe care l-aș semnala, pentru că este legat de această definire a securității publice. Unde este linia?

Și un caz interesant îl avem de la Franța. În Franța, în mai 2024, în Noua Caledonie au fost mișcări violente de protest și ăsta este singurul caz pe care îl avem, în care o țară europeană a suspendat temporar TikTok-ul. În cazul lor, a funcționat.

În cazul respectiv, când vorbim de Noua Caledonie, a fost o campanie activată pe TikTok – la momentul respectiv se vorbea de Azerbaidjan și Rusia, care voiau să creeze dificultăți Franței. Dar Franța a reacționat. Nu a reacționat în baza actului de care vorbeam adineauri, a actului de servicii digitale, ci a acționat în baza unei legislații pe care o avea oarecum din 1955, invocând o stare de urgență care permitea restricții ale libertăților civile; și asta a condus la blocarea temporară a rețelelor sociale, inclusiv TikTok, pe motiv că era folosit pentru coordonarea revoltelor, incitare la violență și răspândirea dezinformării. Bun, deci ăsta este singurul precedent mai interesant. Acesta este singurul precedent pe care îl avem când o țară poate, la limită, să suspende.

Ce poate fi făcut este că, probabil și autoritățile române, de aici încolo, trebuie să pună presiune pe Comisie ca testul pe care l-am văzut în cazul României să conducă la o mai bună implementare a acestui act.

Problema nu este că nu se iau măsuri: problema este că se iau măsuri într-un ritm mult prea lent.

Deci în momentul în care o astfel de dezinformare, o astfel de ingerință are loc, până când se descoperă ce s-a descoperit, este prea târziu, efectul deja s-a făcut. Poți să asiști la un moment dat cu o situație în care s-a schimbat ceva radical în societatea respectivă și degeaba vii cu măsuri ulterior, că nu mai pot să schimbi nimic.

Aici cred că trebuie lucrat mai aplicat. Nu este o situație bună, dar tocmai pentru că am trecut prin ce am trecut, ar trebui să înțelegem foarte bine că o astfel de situație poate deveni foarte, foarte periculoasă. Mai ales că, de acum înainte, trebuie să ne așteptăm mult mai bine ca și alte instrumente de inteligență artificială să devină mult mai performante.

Educația digitală e vitală, dar nu suficientă. Ne trebuie o strategie ofensivă

Reporter: Ce rol joacă educația digitală în această ecuație? Poate fi o soluție pe termen lung sau credeți că e deja prea târziu pentru generațiile vulnerabile de azi?

Corneliu Bjola: E o întrebare complexă, pe care într-adevăr mulți o discută. Evident, fiecare element ajută, inclusiv o educare digitală.

De exemplu, finlandezii au introdus chiar de la școala primară niște ore de educație digitală, în care ei învață să identifice fake news. Cred că ajută acest lucru. Suntem într-o nouă epocă, nu mai suntem în 1800-1900. Trebuie să învățăm mai bine cum navigăm, cum ne mișcăm și cred că educația poate ajuta.

Dar acesta este un efort pe termen lung. Trebuie început și trebuie făcut serios, pentru că dacă iar se face cum se face de obicei, doar de formă, înscriem în curriculum și nu se aplică, avem bani aruncați degeaba.

Dar trebuie să înțelegem că vorbim de un cadru tehnologic care este foarte dinamic. Acum 10 ani ne temeam de Facebook. Facebook n-a mai fost o problemă majoră anul ăsta. Anul ăsta am avut Telegram prin noiembrie, pentru că Telegram era folosit ca platformă de coordonare pentru acei influenceri, care pe urmă foloseau tot felul de materiale pe care le mutau pe TikTok.

Putem începe cursuri de educație digitală care să-i informeze pe oameni spre aceste probleme.

Să fiți sigură că în 2028 vor fi alte instrumente. Și aici este foarte important să ne uităm, nu numai să reacționăm la ceea ce se întâmplă, dar și să fim puțin mai proactivi, să înțelegem care este orizontul, unde se mișcă, de fapt, care este traiectoria și să ne pregătim pentru acel lucru.

Asta înseamnă, cum spuneam, poate o parte reglementare și pe de altă parte – mai ales în cadrul războiului hibrid – de treabă profesionistă, care există în alte state și ar trebui să existe și în România.

Mă refer la capacitate foarte bine făcută, de a vedea care sunt aceste ecosisteme de dezinformare, deja încastrate în spațiul tău informațional.

Vorbim, de exemplu, în cazul din noiembrie, de 25.000 de rețele de conturi false. Deci tu, în principiu, ar trebui să știi din timp și te pregătești pentru acest lucru.

Vorbim de narațiuni care sunt rostogolite. Când s-a vorbit de cazul României, în multe cazuri se vorbește despre țara noastră ca despre un fel de laborator, în care se testează tot felul de narative, care pe urmă sunt exportate către alte țări europene.

Deci tu trebuie să fii pregătit super profesionist pentru a contracara un război hibrid. Și mai este nevoie de doctrină, de strategie, pentru că un război hibrid nu prea poți să-l câștigi numai de pe poziție de apărare. Trebuie să fii și mult mai activ, să fii mult mai pe ofensive, adică se preîntâmpini anumite situații care te afectează. Și asta trebuie să o faci într-un cadru democratic.

Noi suntem o democrație și vom rămâne o democrație. Nu suntem China, nu suntem Rusia, nu suntem Iran. Dar pe de altă parte trebuie să înțelegem că România are o poziție geopolitică foarte importantă și genul de acțiuni pe care le-am văzut din partea Rusiei vor continua multă vreme.

Da: totul pentru educație digitală, dar asta este o soluție pe termen lung. Pe lângă acest lucru, trebuie să fim mult, mult, mult mai performanți în a dezvolta capacitate, strategie, doctrină de a confrunta războiul hibrid direct, pe față, fără fără niciun fel de reținere.

Secțiune Știri sub articolul principal

Urmăriți Ziarul Unirea și pe  GOOGLE ȘTIRI