Documentul relevă că asemenea acțiuni sunt realizate de „actori rău intenționați” și își au originea în Rusia, China, Iran și Israel. În linii mari, se poate spune că aceștia folosesc aplicațiile de inteligență artificială generativă ale companiei pentru a crea și posta conținut de propagandă pe toate rețelele sociale, precum și pentru a traduce acest conținut în limbi diferite, scrie The Guardian.
OpenAI notează însă că în ciuda acestui fapt, campaniile de dezinformare rezultate nu au avut un impact asupra audiențelor largi.
Raportul de 39 de pagini reprezintă una dintre cele mai detaliate relatări ale unei companii de inteligență artificială cu privire la utilizarea aplicațiilor sale pentru propagandă. OpenAI a afirmat că cercetătorii săi au găsit și interzis conturi asociate cu cinci operațiuni de influență sub acoperire în ultimele trei luni, care proveneau de la un amestec de „actori” statali și privați.
Pe fondul apelurilor politice la reglementarea domeniului AI, compania americană a declarat că intenționează să publice periodic asemenea rapoarte, precum și să elimine conturile care îi încalcă politicile.
(Ro)boții de pe Telegram, creați cu ajutorul ChatGPT
În Rusia, au fost identificate două operațiuni de creare și răspândire a conținutului critic la adresa SUA, a Ucrainei și țărilor baltice. Într-una dintre operațiuni, a fost folosit un model OpenAI pentru a crea un robot de postări pe Telegram. În cazul Chinei, acesta a fost folosit pentru a genera texte în engleză, chineză, japoneză și coreeană, care ulterior au fost postate pe rețele sociale precum Twitter (acum X) sau Medium.
Analiza OpenAI subliniază, de asemenea, modul în care inteligența artificială generativă este încorporată în campaniile de dezinformare ca mijloc de îmbunătățire a anumitor aspecte ale generării de conținut, cum ar fi realizarea unor postări mai convingătoare în limbi străine.
În ultimul an, persoane și entități rău intenționate au folosit inteligența artificială generativă în țări din întreaga lume, în încercarea de a influența politica și opinia publică, mai ales în condițiile anului superelectoral 2024.
Conținutul a variat de la campanii bazate pe text până la deepfake-uri audio și video sau imagini generate de AI, ceea ce a dus la creșterea presiunii asupra unor companii precum OpenAI, pentru a restricționa utilizarea instrumentelor lor.
- Te-ar putea interesa: Vocea lui Biden, utilizată într-un „deepfake” pentru a descuraja alegătorii
Deși în cazurile documentate de OpenAI, niciuna din campaniile de dezinformare nu a avut un impact notabil, utilizarea acestei tehnologii relevă că „actorii rău intenționați” se familiarizează cu modul în care inteligența artificială generativă le permite să mărească producția de propagandă. Redactarea, traducerea și postarea de conținut pot fi realizate mult mai eficient prin intermediul IA, ceea ce reduce resursele necesare pentru crearea unor astfel de campanii.
Cazul Moldovei și Ucrainei
Raportul descrie o rețea din Rusia, denumită generic „Bad Grammar” (Gramatică rea - n.r.) care activa preponderent pe Telegram și țintea audiența din Ucraina, Moldova, țările baltice și SUA. OpenAI spune că a interzis mai multe conturi care utilizau modelele sale AI pentru a crea comentarii false postate apoi pe Telegram, spunând că acestea erau utilizate de persoane din Rusia.
Conținutul publicat de aceste conturi era în limbile rusă și engleză, fiind axat pe mai multe teme politice cum ar fi războiul din Ucraina, situația politică din Moldova și țările baltice, precum și cea din SUA.
Comentariile de limbă rusă de pe Telegram acuzau președinții R. Moldova și Ucrainei de corupție, lipsă de sprijin popular și de „trădare” a propriului popor în fața Occidentului. Comentariile de limbă engleză se axau, în schimb, pe subiecte precum imigrația, dificultățile economice și actualitatea zilei, pentru a argumenta de multe ori, de ce SUA nu ar trebui să mai sprijine Ucraina.
📰 Europa Liberă este și pe Google News. Abonează-te
