Studiu: Chatbot-urile AI afectate de dezinformarea rusă
Update cu 5 luni în urmă
Timp de citire: 3 minute
Articol scris de: Maria Simionescu
Studiu: Chatbot-urile AI afectate de dezinformarea rusă
Conform unui studiu publicat joi, cele mai folosite chatbot-uri de inteligență artificială din lume sunt infectate cu dezinformare propusă de o rețea din Rusia. Cercetarea, realizată de NewsGuard, arată că rețeaua cunoscută sub numele de Pravda, care înseamnă "adevăr" în limba rusă, a răspândit minciuni pe internet, cu scopul de a influența răspunsurile chatbot-urilor AI către utilizatori, notează Digi24.
NewsGuard a descoperit că, în 33% din cazuri, chatbot-urile AI au reproduc rezultatele false promovate de rețeaua Pravda. În cadrul auditului său, organizatia a testat zece chatbot-uri importante, printre care ChatGPT-4 de la OpenAI, Copilot de la Microsoft și Gemini de la Google. Prin intermediul unei selecții de 15 relatări false, studiul a analizat conținutul dintr-o rețea de 150 de site-uri Pravda active din aprilie 2022 până în luna trecută.
Raportul detaliază cum rețeaua Pravda distorsionează rezultatele căutărilor și modul în care modelele lingvistice procesează informațiile. Potrivit estimărilor, în 2024, vor fi integrate aproximativ 3.600.000 de articole care conțin propaganda rusă în sistemele AI din vest, afectând calitatea informațiilor furnizate utilizatorilor. "Riscurile pe termen lung - politice, sociale și tehnologice - sunt ridicate", afirmă proiectul American Sunlight, care a avertizat despre pericolele asociate cu dezinformarea.
Pravda nu produce conținut original, ci preia informații de la agenții guvernamentale, persoane influente și mass-media de stat din Rusia, folosing un număr mare de site-uri care par independente. NewsGuard a identificat un total de 207 afirmații false, demonstrând că Pravda funcționează ca un hub central pentru distribui dezinformarea.
De asemenea, raportul subliniază că, din 450 de răspunsuri formulate de chatbot-uri, 56 au conținut linkuri către articole ce răspândesc informații false. Aceasta rețea a fost identificată pentru prima dată în februarie 2022 de către Viginum, agenția guvernamentală franceză care urmărește influențele externe asupra ecosistemului informațional. De la fondarea sa, Pravda a vizat 49 de țări folosind 150 de domenii, având un impact larg asupra diverselor limbi.
