Pe scurt

O analiză detaliată realizată de The Guardian evidențiază modul în care grupările extremiste și teroriste, de la neo-naziști până la organizații jihadiste precum ISIS, exploatează tot mai frecvent tehnologiile avansate de inteligență artificială, în special clonarea vocală și traducerea automată, pentru a-și amplifica propaganda și a-și extinde influența pe plan global. Aceste instrumente AI permit crearea de mesaje audio convingătoare, care reproduc fidel vocile unor lideri extremiști, păstrând tonul și emoția originală, ceea ce sporește impactul emoțional și persuasiunea asupra audienței. Spre deosebire de metodele tradiționale, bazate pe traducători umani sau sisteme rudimentare, noile tehnologii generative redau nuanțe și subtilități lingvistice esențiale, facilitând depășirea barierelor lingvistice și adaptarea mesajelor în mai multe limbi, inclusiv în cele dificil de tradus. Astfel, discursurile istorice cu conținut extremist, precum cele ale lui Adolf Hitler, au fost regenerate cu AI și difuzate în limba engleză, acumulând zeci de milioane de vizualizări pe rețelele sociale, iar creatori de conținut radical utilizează servicii comerciale de clonare vocală pentru a transforma manifeste ale unor figuri centrale precum James Mason în audiobook-uri accesibile și atractive, consolidând astfel propagarea ideologiilor violente. În plus, grupările jihadiste folosesc inteligența artificială pentru a produce materiale audio-video captivante, difuzate pe platforme criptate, iar traducerile automate facilitează adaptarea rapidă și expresivă a conținutului din arabă în diverse limbi. Pe lângă aceste metode, unele organizații extremist folosesc aplicații gratuite de AI, cum ar fi ChatGPT, pentru generarea de texte și imagini, precum și pentru optimizarea strategiilor și cercetării lor. Experții în combaterea terorismului atrag atenția că această intersecție între AI și extremism reprezintă o provocare majoră pentru securitatea globală și ridică dificultăți semnificative în limitarea răspândirii propagandei violente în mediul online, subliniind necesitatea unor noi măsuri eficiente în lupta împotriva amenințărilor cibernetice generate de utilizarea abuzivă a tehnologiei AI.

Grupări extremiste folosesc clonarea vocală și traducerea automată AI pentru propagandă globală în mai multe limbi

Grupările extremiste folosesc clonarea vocală și traducerea automată AI pentru propagandă globală

Tehnologiile AI – noi instrumente în mâinile extremiștilor

O analiză recentă realizată de The Guardian scoate în evidență o tendință alarmantă: grupările extremiste, de la neo-naziști până la organizații jihadiste, utilizează tot mai des inteligența artificială pentru a-și amplifica mesajele și a-și extinde audiența la nivel global. Tehnologiile de clonare vocală și traducerea automată permit crearea de conținut audio extrem de convingător, care reproduce vocile liderilor sau figurilor centrale ale mișcărilor respective, păstrând tonul și emoțiile autentice.

Propaganda digitală – noile strategii ale terorismului

Conform unui reprezentant al organizației Tech Against Terrorism, aceasta reprezintă o evoluție majoră în modul în care violenții își promovează ideologiile în mediul online. Spre deosebire de vechile metode bazate pe traducători umani sau sisteme simple de traducere, noile tehnologii AI pot reda subtilități, sentimente și nuanțe contextuale care cresc impactul ideologic al mesajelor, în mai multe limbi simultan.

Clonarea vocală – un instrument deja popular

Utilizarea software-urilor de clonare vocală pentru a reproduce discursuri extremiste devine o practică răspândită. Mai multe versiuni generate cu ajutorul AI ale discursurilor lui Adolf Hitler în limba engleză au fost vizionate de zeci de milioane de ori pe rețelele de socializare. Raportul Global Network on Extremism and Technology arată că astfel de tehnologii sunt folosite și de creatori de conținut extremist, care integrează în mesajele lor discursuri istorice din epoca interbelică.

Exemple de propagandă AI în mediul extremist

Un caz relevant este transformarea manifestului “Siege”, scris de James Mason – o figură centrală în ideologia unor grupuri precum The Base sau Atomwaffen Division – în audiobook-uri accesibile larg, prin clonarea vocală a vocii autorului, adaptată la stiluri moderne și mai ușor de ascultat. Acest tip de inovație facilitează răspândirea unor idei violente și destabilizatoare în societățile occidentale.

Grupările jihadiste și inteligența artificială

Și rețelele teroriste asociate ISIS valorifică intensiv AI pentru a converti materiale scrise în formate audio și video captivante, care ajung mai ușor la public prin intermediul unor platforme criptate. Traducearea automată permite propagandei să depășească barierele lingvistice și să se adapteze rapid în multiple limbi, păstrând în același timp sensul și expresivitatea originală.

ChatGPT și alte aplicații gratuite – în sprijinul extremismului

Extremiștii folosesc de asemenea instrumente gratuite de AI, precum ChatGPT, pentru a genera conținut textual, imagini sau pentru a optimiza metodele de propagandă, precum și cercetarea ideologică. Autoritățile de securitate atrag atenția că, deși AI evoluează rapid, grupările teroriste sunt printre primele care profită la maximum de aceste tehnologii.

Provocări pentru securitatea globală

Experții în combaterea terorismului consideră că această combinație între AI și extremism reprezintă o provocare serioasă pentru siguranța mondială. Este esențială dezvoltarea unor răspunsuri eficiente pentru a contracara și limita răspândirea mesajelor violente și a propagandei periculoase în mediul digital.

Pentru ieșeni, această evoluție digitală subliniază importanța vigilenței și a educației media în fața mesajelor manipulative care pot destabiliza societatea sub aparența unor instrumente tehnologice avansate.

Foto: Yaroslaf | Dreamstime

Transparență AI: acest conținut poate fi redactat sau structurat cu ajutorul unor instrumente AI și este verificat editorial înainte de publicare. Imaginile generate sau modificate cu AI sunt folosite cu rol ilustrativ.