Radicalizarea algoritmică este conceptul conform căruia algoritmii de recomandare de pe platformele populare de socializare, precum YouTube și Facebook, orientează utilizatorii, în timp, către conținut tot mai extrem, conducând la formarea unor opinii politice extremiste și radicale. Algoritmii înregistrează cu meticulozitate interacțiunile utilizatorilor – inclusiv aprecierile, reacțiile negative și durata de vizionare a conținutului – cu scopul de a genera un flux continuu de materiale media menite să mențină implicarea acestora. S-a demonstrat că fenomenul canalelor de tip „bulă informațională” (echo chamber) amplifică polarizarea consumatorilor, în special prin consolidarea preferințelor media și validarea convingerilor deja existente ale acestora.

Radicalizarea prin intermediul algoritmilor rămâne un fenomen controversat, întrucât eliminarea canalelor care creează „bule informaționale” nu servește adesea intereselor companiilor de social media. Măsura în care algoritmii de recomandare sunt efectiv responsabili pentru radicalizare rămâne un subiect disputat. Studiile au indicat rezultate contradictorii cu privire la promovarea conținutului extremist de către acești algoritmi.

Bulele informaționale și bulele de filtru de pe rețelele sociale Platformele de socializare învață care sunt interesele și preferințele utilizatorilor pentru a le modifica experiențele din fluxul de știri (feed) astfel încât să-i mențină implicați și să-i determine să continue derularea conținutului – fenomen cunoscut sub numele de „bulă de filtru”. O „bulă informațională” se formează atunci când utilizatorii întâlnesc opinii care le amplifică sau le consolidează propriile convingeri și constituie un grup de persoane cu viziuni similare în cadrul unui sistem închis. Bulele informaționale propagă informații în absența unor puncte de vedere divergente, ceea ce poate favoriza apariția „erorii de confirmare”. Conform teoriei polarizării de grup, o bulă informațională poate împinge utilizatorii și grupurile către poziții mai extreme sau radicalizate. Potrivit Bibliotecii Naționale de Medicină (National Library of Medicine), „utilizatorii din mediul online tind să prefere informațiile care concordă cu viziunea lor asupra lumii, să ignore informațiile contrare și să formeze grupuri polarizate în jurul unor narațiuni comune. Mai mult, atunci când gradul de polarizare este ridicat, dezinformarea se propagă rapid.”

Pe site

Facebook Algoritmul Facebook se concentrează pe recomandarea de conținut care stimulează dorința utilizatorului de a interacționa. Acesta ierarhizează conținutul acordând prioritate postărilor populare ale prietenilor, conținutului viral și, uneori, conținutului care generează dezbinare. Fiecare flux de știri este personalizat în funcție de interesele specifice ale utilizatorului, ceea ce poate conduce uneori la crearea unei „bule informaționale” populate cu conținut problematic. Utilizatorii pot consulta lista de interese utilizată de algoritm accesând pagina „Preferințe privind anunțurile” (Your ad Preferences). Conform unui studiu realizat de Pew Research, 74% dintre utilizatorii Facebook nu știau de existența acestei liste până când nu au fost direcționați către pagina respectivă în cadrul studiului. De asemenea, este o practică relativ obișnuită ca Facebook să atribuie etichete politice utilizatorilor săi. În ultimii ani, Facebook a început să utilizeze inteligența artificială pentru a modifica conținutul afișat în fluxul utilizatorilor și recomandările primite de aceștia. Un document cunoscut sub numele de „The Facebook Files” a dezvăluit că sistemul lor de inteligență artificială prioritizează interacțiunea utilizatorilor mai presus de orice alt aspect. „The Facebook Files” a demonstrat, totodată, că gestionarea acestor sisteme de inteligență artificială s-a dovedit a fi dificilă.

Într-o notă internă din august 2019, făcută publică în 2021, Facebook a recunoscut că „mecanismele platformelor noastre nu sunt neutre”, concluzionând că, pentru a maximiza profiturile, este necesară optimizarea în funcție de gradul de implicare a utilizatorilor (engagement). Pentru a stimula această implicare, algoritmii au identificat faptul că discursul instigator la ură, dezinformarea și subiectele politice joacă un rol esențial în activitatea pe platformă. După cum se menționează în document: „Cu cât un material este mai incendiar, cu atât menține utilizatorii mai implicați și este mai intens promovat de algoritm.” Conform unui studiu din 2018, „zvonurile false se răspândesc mai rapid și mai amplu decât informațiile veridice... S-a constatat că informațiile false au o probabilitate cu 70% mai mare de a fi redistribuite pe Twitter decât cele adevărate și ajung la primii 1.500 de oameni de șase ori mai repede. Acest fenomen este mai pronunțat în cazul știrilor politice decât în ​​cel al altor categorii.”

YouTube YouTube există din 2005 și are peste 2,5 miliarde de utilizatori lunar. Sistemele YouTube de descoperire a conținutului se bazează pe activitatea personală a utilizatorului (vizionări, videoclipuri favorite, aprecieri) pentru a-l direcționa către conținut recomandat. Algoritmul YouTube este responsabil pentru aproximativ 70% din videoclipurile recomandate utilizatorilor și reprezintă factorul care îi determină pe oameni să vizioneze un anumit conținut. Conform unui studiu realizat în 2022 de Mozilla Foundation, utilizatorii au o capacitate limitată de a împiedica apariția videoclipurilor nedorite în secțiunea de recomandări. Această categorie include videoclipuri care conțin discursuri instigatoare la ură, transmisiuni în direct etc.

YouTube a fost identificat drept o platformă influentă pentru diseminarea de conținut radicalizator. Al-Qaida și grupări extremiste similare au fost asociate cu utilizarea YouTube pentru materiale video de recrutare și pentru interacțiunea cu instituții media internaționale. Într-un studiu publicat în revista *American Behavioral Scientist*, cercetătorii au analizat „dacă este posibil să se identifice un set de atribute care ar putea contribui la explicarea unei părți din procesul decizional al algoritmului YouTube”. Rezultatele studiului au indicat faptul că recomandările algoritmului YouTube privind conținutul extremist țin cont de prezența unor cuvinte-cheie cu conotație radicală în titlul videoclipurilor. În februarie 2023, în cazul Gonzalez v. Google, s-a pus problema dacă Google – compania-mamă a YouTube – beneficiază de protecție juridică împotriva proceselor în care se susține că algoritmii platformei au facilitat activitățile teroriștilor prin recomandarea videoclipurilor ISIS către utilizatori. Este cunoscut faptul că Secțiunea 230 protejează, în general, platformele online de răspunderea civilă pentru conținutul postat de utilizatori.

Numeroase studii au găsit dovezi puține sau inexistente care să sugereze că algoritmii YouTube direcționează atenția către conținut de extremă dreapta în cazul persoanelor care nu interacționau deja cu acesta.

TikTok TikTok este o platformă care recomandă videoclipuri în secțiunea „For You Page” (FYP) a utilizatorilor, personalizând astfel pagina fiecăruia. Având în vedere natura algoritmului din spatele aplicației, s-a constatat că secțiunea FYP tinde să afișeze, în timp, videoclipuri cu un caracter mai explicit sau radical, pe baza interacțiunilor anterioare ale utilizatorilor în cadrul aplicației. Încă de la lansare, TikTok a fost criticată pentru propagarea dezinformării și a discursului instigator la ură, întrucât acest tip de conținut generează, de regulă, un nivel mai ridicat de interacțiune în cadrul algoritmului.

În 2022, responsabilul cu securitatea TikTok pentru SUA a anunțat că „81.518.334 de videoclipuri au fost eliminate la nivel mondial în perioada aprilie–iunie pentru încălcarea Regulilor comunității sau a Termenilor și condițiilor”, în scopul reducerii discursului instigator la ură, a hărțuirii și a dezinformării.

Studiile au semnalat cazuri în care indivizi au fost radicalizați prin intermediul conținutului întâlnit pe TikTok. De exemplu, la începutul anului 2023, autoritățile austriece au dejucat un complot vizând o paradă LGBTQ+; în acesta erau implicați doi adolescenți și un tânăr de 20 de ani, inspirați de conținut jihadist de pe TikTok. Cel mai tânăr suspect, în vârstă de 14 ani, fusese expus unor videoclipuri create de influenceri islamiști care glorificau jihadul. Aceste materiale l-au determinat să acceseze și alte conținuturi similare, ceea ce a dus, în cele din urmă, la implicarea sa în planificarea unui atac.

Un alt caz a vizat arestarea, în 2024, la Viena, a unor adolescenți care plănuiau să comită un atac terorist în timpul unui concert Taylor Swift. Ancheta a dezvăluit că unii dintre suspecți fuseseră radicalizați în mediul online, TikTok fiind una dintre platformele utilizate pentru diseminarea de conținut extremist care le-a influențat convingerile și acțiunile.

Autoradicalizare

Departamentul de Justiție al SUA definește terorismul de tip „lup singuratic” drept acțiunea unei persoane care comite un atac terorist pe cont propriu, fără sprijinul sau încurajarea unui guvern ori a unei organizații teroriste. Fenomenul terorismului de tip „lup singuratic” a luat amploare prin intermediul rețelelor de socializare, fiind asociat cu radicalizarea generată de algoritmi. În cadrul „bulelor informaționale” (sau echo chambers) din mediul online, puncte de vedere considerate în mod obișnuit radicale au fost acceptate și rapid adoptate de alți extremiști. Aceste perspective sunt promovate pe forumuri, în grupuri de discuții și pe rețelele de socializare, contribuind la consolidarea convingerilor respective.

Exemple din media Dilema Socială

Dilema Socială (The Social Dilemma) este o docudramă din 2020 despre modul în care algoritmii din spatele rețelelor de socializare favorizează dependența, având totodată capacitatea de a manipula opiniile, emoțiile și comportamentul oamenilor pentru a răspândi teorii ale conspirației și dezinformare. Filmul utilizează în mod repetat termeni precum „bule informaționale” (echo chambers) și „știri false” (fake news) pentru a demonstra existența manipulării psihologice pe rețelele de socializare, fenomen care duce, implicit, la manipulare politică. În film, Ben devine tot mai dependent de rețelele de socializare, pe măsură ce algoritmul identifică o probabilitate de 62,3% ca acesta să mențină o interacțiune pe termen lung cu platforma. Acest lucru generează o serie de recomandări video suplimentare pentru Ben; el ajunge astfel tot mai captivat de propagandă și de teorii ale conspirației, devenind tot mai radicalizat cu fiecare videoclip vizionat.

Referințe

Categorie:Radicalism Categorie:Rețele de socializare Categorie:Terminologie politică Categorie:Concepte politice Categorie:Concepte sociale Categorie:Bias media Categorie:Algocrație Categorie:Influență socială