Sursă: Mediafax.ro
O echipă de cercetători a analizat răspunsurile sistemelor de inteligență artificială, precum ChatGPT, pentru a identificat prejudecăți sociale legate de vârstă. Studiul a evidențiat stereotipuri și percepții negative încorporate în răspunsurile generate automat.
Citește și: Laptopul ASUS ROG Strix G16 cu cip Blackwell, ideal pentru studenți și gameri
Cercetarea a fost realizată pe un set de 900 de eșantioane de text, obținute de la GPT-4, solicitând modelului să descrie caracteristicile diferitelor grupe de vârstă, de la 10 la 90 de ani. Analiza a fost făcută folosind modelul conținutului stereotipic, o teorie din psihologia socială care explică percepțiile asupra persoanelor pe două dimensiuni: căldură și competență.
Ce prejudecăți sociale ascunde inteligența artificială?
Studiul a arătat că persoanele în vârstă, peste 60 de ani, sunt percepute ca fiind mai calde, adică mai prietenoase și de încredere, dar cu scoruri mai scăzute la competență, adică la abilități și eficiență. Răspunsurile au reflectat o tendință de a descrie vârsta înaintată ca fiind asociată cu înțelepciune, dar și cu lipsă de performanță în anumite domenii.
- Analiza a evidențiat percepții negative asupra adulților în vârstă, ca fiind mai puțin competenți
- Persoanele tinere, între 10 și 29 de ani, au fost descrise ca fiind mai dinamice și eficiente
- Grupurile de vârstă medie, între 30 și 49 de ani, au fost percepute ca fiind echilibrate între căldură și competență
- Studiul a relevat că răspunsurile AI reflectă stereotipuri sociale existente în datele de antrenament
- Discriminarea pe criteriul vârstei, deși subtilă, poate influența percepțiile utilizatorilor
Impactul prejudecăților în sistemele de inteligență artificială
Rezultatele studiului evidențiază faptul că răspunsurile AI pot reproduce și amplifica prejudecățile sociale, în special cele legate de vârstă. Acest lucru poate avea consecințe asupra modului în care utilizatorii percep și interacționează cu tehnologia.
Specialiștii recomandă o ajustare a datelor de antrenament și o monitorizare constantă pentru reducerea stereotipurilor în sistemele AI. În plus, conștientizarea acestor prejudecăți poate ajuta dezvoltatorii să creeze modele mai echitabile și mai neutre din punct de vedere social.
Pe măsură ce inteligența artificială devine tot mai prezentă în viața cotidiană, combaterea prejudecăților în răspunsurile automate devine o prioritate pentru asigurarea unui impact social pozitiv.