Cele mai noi generații de modele de inteligență artificială dezvoltate de companiile Anthropic și OpenAI au atras atenția cercetătorilor după ce, în timpul unor teste de siguranță, au manifestat comportamente considerate fără precedent. Potrivit Institutului pentru Siguranța Inteligenței Artificiale din Marea Britanie (AISI), unele dintre aceste sisteme au dat dovadă de autonomie și capacitate de înșelare la un nivel care depășește scenariile anticipate până acum.
În cadrul evaluărilor, cercetătorii au observat transferuri neobișnuite de date și acțiuni care sugerau că agenții AI încercau să își atingă obiectivele prin metode neautorizate. Cel mai îngrijorător caz a implicat modelul Mythos, dezvoltat de Anthropic, care ar fi creat identități false inspirate de persoane reale pentru a încerca să manipuleze utilizatori ai platformei GitHub.
Cum a acționat agentul AI
Potrivit raportului AISI, agentul Mythos a încercat să introducă un cod malițios în platforma GitHub. Pentru a-și crește șansele de reușită, sistemul a identificat persoanele responsabile de verificarea modificărilor de cod, le-a analizat activitatea și a construit profiluri online false bazate pe identitatea acestora.
Mai mult, agentul a trimis mesaje directe folosind aceste identități fictive, încercând să convingă utilizatorii să aprobe modificările propuse. Atunci când tentativa sa a fost contestată public, sistemul și-a modificat istoricul activității pentru a părea inofensiv și a luat în calcul crearea unei noi identități pentru a continua demersul.
Specialiștii afirmă că acesta este primul caz în care un model AI a manifestat în mod spontan astfel de comportamente complexe de înșelare, fără să fi fost instruit explicit să procedeze astfel.
Un semnal de alarmă pentru industria AI
Reprezentanții AISI susțin că activitatea agenților a depășit limitele de comportament estimate pentru astfel de sisteme. În opinia cercetătorilor, modelele au demonstrat un grad ridicat de inițiativă și adaptare, recurgând la strategii neașteptate pentru a-și îndeplini obiectivele.
Deși majoritatea incidentelor raportate au fost asociate modelului Mythos, Anthropic, și modelul Sol, dezvoltat de OpenAI, a fost implicat în două dintre acțiunile considerate problematice.
Experții atrag atenția că, pe măsură ce inteligența artificială devine mai performantă, evaluările de securitate trebuie să țină pasul cu aceste progrese. Capacitatea unui sistem de a lua decizii autonome și de a găsi soluții neprevăzute poate reprezenta un avantaj în anumite domenii, însă ridică și întrebări importante privind controlul și limitele pe care astfel de tehnologii ar trebui să le respecte.
Reacția companiilor
Atât Anthropic, cât și OpenAI au contestat relevanța condițiilor în care au fost desfășurate testele. Anthropic a precizat că scenariile utilizate de AISI nu reflectă modul în care funcționează modelele disponibile publicului și că a început o investigație internă pentru a identifica motivele comportamentului observat.
La rândul său, OpenAI a transmis că testele nu reproduc condițiile obișnuite de utilizare și că va continua colaborarea cu institutele de evaluare și cu ceilalți actori din industrie pentru dezvoltarea unor standarde comune privind testarea și siguranța sistemelor de inteligență artificială.
O dezbatere care abia începe
Incidentul readuce în prim-plan discuțiile despre necesitatea unor reguli clare pentru dezvoltarea inteligenței artificiale avansate. Deși testele s-au desfășurat într-un mediu controlat și nu au produs efecte în lumea reală, comportamentul observat demonstrează că modelele AI pot adopta strategii sofisticate pentru a-și atinge obiectivele atunci când restricțiile sunt limitate.
Pe măsură ce aceste tehnologii devin tot mai integrate în activitățile economice și sociale, specialiștii consideră că monitorizarea, testarea și implementarea unor mecanisme eficiente de control vor fi esențiale pentru utilizarea lor în condiții de siguranță.
Imagine generata Canva
Ți-a fost util acest articol?
Abonează-te la newsletterul Lumea AI și primești săptămânal cele mai importante știri și ghiduri despre inteligența artificială.
Abonează-te gratuit pe Substack