Mistral AI, startup-ul francez considerat rivalul european al giganților americani OpenAI și Anthropic, se află în centrul unui scandal de securitate informațională. Un studiu recent realizat în Estonia arată că modelele companiei sunt extrem de vulnerabile la narațiunile Kremlinului, redirecționând utilizatorii către surse rusești aflate sub sancțiuni internaționale.
Chestionat în trei limbi: Cum a fost testat algoritmul
Cercetătorii de la Institutul pentru Limba Estonă au testat 60 de modele de chatbot-uri populare, inclusiv patru versiuni ale Mistral AI, formulând un set de 75 de întrebări în trei limbi diferite. Testul a acoperit 14 blocuri tematice sensibile, bazate pe dezinformările frecvente ale Moscovei – de la extinderea NATO în estul Europei, până la justificarile ilegale privind relocarea copiilor ucraineni din zonele de conflict.
Răspunsurile au fost evaluate pe o scală de la 1 la 5 (unde 5 reprezintă un răspuns echidistant, iar 1 indică amplificarea știrilor false). Rezultatele au fost alarmante pentru proiectul european:
- Scor sub 40%: Toate cele patru versiuni Mistral testate au obținut un punctaj extrem de scăzut în capacitatea de a detecta și filtra propaganda rusă.
- Surse interzise: În cel puțin 12 rânduri, AI-ul francez a oferit ca surse de documentare canale media controlate de Kremlin și sancționate în Occident, precum Russia Today (RT) și Sputnik News.
Rețeaua „Portal Kombat” și eșecurile anterioare
Aceasta nu este o eroare izolată pentru Mistral. Un raport separat, publicat în luna aprilie de organizația americană NewsGuard, arăta că asistentul virtual al companiei, Le Chat, a preluat și repetat fake news-uri pro-ruse în 50% din cazuri în limba engleză și în 56,6% din cazuri în limba franceză.
Experții avertizează că dezinformarea este alimentată masiv de o rețea rusească de propagandă numită „Portal Kombat” (sau rețeaua Pravda). Aceasta controlează sute de site-uri active concepute special pentru a „inunda” motoarele de căutare și boții AI cu narațiuni false, o tactică la care algoritmul Mistral pare să fi cedat.
Miza geopolitică: AI-ul francez, integrat deja în Armată
Situația este cu atât mai delicată cu cât Mistral AI beneficiază de o susținere politică puternică la Paris. La începutul acestui an, guvernul francez a semnat un acord pentru integrarea tehnologiei Mistral în structurile forțelor armate, în agențiile guvernamentale și în instituțiile de stat, cu scopul de a asigura suveranitatea tehnologică a țării.
În timp ce companii americane ca OpenAI (ChatGPT) sau Anthropic (Claude) par să aibă filtre mai solide împotriva manipulării politice, „campionul Europei” riscă să devină o breșă de securitate majoră chiar în inima continentului.
Până la momentul publicării, reprezentanții Mistral AI nu au oferit o reacție oficială la acuzațiile aduse de cercetătorii estonieni.
Sursa foto> pexels.com
Ți-a fost util acest articol?
Abonează-te la newsletterul Lumea AI și primești săptămânal cele mai importante știri și ghiduri despre inteligența artificială.
Abonează-te gratuit pe Substack