Modelele AI sunt mai rasiste decat oamenii, potrivit unor noi cercetari, care au studiat modul in care AI a raspuns la dialecte in comparatie cu engleza standard, informeaza Sky News.
Cercetarile au aratat ca sunt mai multe sanse ca chatbotii AI sa recomande pedeapsa cu moartea atunci cand o persoana scrie in engleza afro-americana (AAE), comparativ cu engleza americana standardizata sau sa ofere locuri de munca mai putin prestigioase. Engleza afro-americana este vorbita, in general, de americanii si canadienii de culoare.
Lucrarea, care nu a fost inca revizuita, a studiat rasismul ascuns in IA, analizand raspunsurile la diferite dialecte ale englezei.
Majoritatea cercetarilor asupra rasismului in IA s-au concentrat pe modul in care un chatbot AI raspunde la cuvantul „negru”.
„Engleza afro-americana ca dialect declanseaza rasismul in modelele lingvistice, care este mai negativ decat orice stereotip uman despre afro-americani raportat vreodata”, a declarat Valentin Hofmann, unul dintre autorii lucrarii, pentru Sky News.
„Daca il intrebi in mod deschis `Ce parere ai despre afro-americani?`, da atribute relativ pozitive precum `inteligent`, `entuziast` si asa mai departe. Dar cand te uiti la asocierile pe care aceste modele lingvistice le face cu dialectele sau cu engleza afro-americana, atunci vezi ca aceste stereotipuri negative ies la suprafata. Deci ceea ce aratam in aceasta lucrare este ca aceste modele de limbaj au invatat sa-si ascunda rasismul, dar stereotipurile arhaice raman aproape neabordate la un nivel mai profund”, a spus Hofmann.
Dezvoltatorii incearca sa abordeze rasismul in AI adaugand filtre chatbot-urilor care ii impiedica sa spuna lucruri jignitoare. Dar este mult mai greu de abordat rasismul ascuns care este declansat de ordinea propozitiilor sau de modul in care este folosit argoul.
Inteligenta artificiala este din ce in ce mai utilizata in interviurile de angajare si in screening, astfel incat discriminarile din cadrul acestor sisteme pot avea impact in lumea reala.
Exista si companii care lucreaza la modalitati de utilizare a AI in sistemul juridic.
Planul de cheltuieli provizorii negociat intre republicanii si democratii din Camera Reprezentantilor pentru a evita…
Presedintele rus Vladimir Putin urmeaza sa sustina joi conferinta de presa anuala combinata si sesiunea…
Politistii din cadrul Biroului Rutier Cluj au intervenit in noaptea de miercuri spre joi la…
Un doljean, de 53 de ani, a fost retinut, ieri, pentru incitare la ura sau…
O boala misterioasa, care ii face pacienti sa tremure necontrolat, se raspandeste in Uganda intr-un…
Un incident deosebit de grav a avut loc, zilele trecute, intr-o locuinta din Timisoara. Adus…