Un experiment facut de o organizatie daneza arata ca Instagram nu reuseste sa elimine imaginile care raspandesc autovatamarea in randul adolescentilor

Meta ajuta in mod activ continutul care promoveaza autovatamarea sa infloreasca pe Instagram, esuand in eliminarea imaginilor explicite si incurajandu-i pe cei care urmaresc un astfel de continut sa se imprieteneasca unul cu celalalt, potrivit unui nou studiu care a gasit moderarea companiei „extrem de inadecvata”, informeaza The Guardian.

Cercetatorii danezi au creat o retea privata de persoane interesate de autovatamare pe platforma de socializare, incluzand profiluri false ale unor persoane de pana la 13 ani, unde au distribuit 85 de continuturi legate de autovatamare, care au crescut treptat in severitate, inclusiv sange, lame de ras si incurajarea autovatamarii.

Scopul studiului a fost de a testa afirmatia Meta ca si-a imbunatatit semnificativ procesele de eliminare a continutului daunator, despre care spune ca acum foloseste inteligenta artificiala (AI). Compania de tehnologie sustine ca inlatura aproximativ 99% din continutul daunator inainte de a fi raportat.

Dar Digitalt Ansvar, o organizatie care promoveaza dezvoltarea digitala responsabila, a constatat ca in experimentul de o luna nu a fost eliminata nicio imagine.

Cand si-a creat propriul instrument AI pentru analiza continutului, acesta a reusit sa identifice automat 38% dintre imaginile de autovatamare si 88% dintre cele mai grave. Acest lucru, a spus organizatia, a aratat ca Instagram a avut acces la tehnologie capabila sa rezolve problema, dar „a ales sa nu o implementeze eficient”.

Moderarea necorespunzatoare a platformei, a spus Digitalt Ansvar, a sugerat ca nu respecta legislatia UE.

Legea privind serviciile digitale (DSA) impune intermediarilor si platformelor online sa identifica riscurile sistemice, inclusiv consecintele negative previzibile asupra bunastarii fizice si mentale.

„Continutul care incurajeaza autoranirea este impotriva politicilor noastre si il eliminam atunci cand il detectam. In prima jumatate a anului 2024, am eliminat peste 12 milioane de postari legate de sinucidere si autovatamare de pe Instagram, 99% dintre acestea fiind eliminate in mod proactiv.

La inceputul acestui an, am lansat Conturile Instagram pentru adolescenti, care ii vor plasa in cea mai stricta setare de control al continutului sensibil, astfel incat este si mai putin probabil sa li se recomande continut sensibil si, in multe cazuri, ascundem acest continut cu totul”, a declarat un purtator de cuvant al Meta.

Totusi, studiul danez a constatat ca, in loc sa incerce sa inchida reteaua de auto-vatamare, algoritmul Instagram a ajutat-o in mod activ sa se extinda. Cercetarea a sugerat ca adolescentii de 13 ani s-au imprietenit cu toti membrii grupului de autovatamare dupa ce au fost conectati cu unul dintre membrii acestuia.

Acest lucru, spune studiul, „sugereaza ca algoritmul Instagram contribuie in mod activ la formarea si raspandirea retelelor de auto-vatamare”.

Vorbind cu The Observer, Ask Hesby Holm, directorul executiv al Digitalt Ansvar, a declarat ca organizatia a fost socata de rezultate, crezand ca, pe masura ce imaginile pe care le-a distribuit cresc in gravitate, acestea vor declansa alarma pe platforma. „Ne-am gandit ca facand acest lucru treptat, vom atinge pragul in care AI sau alte instrumente vor recunoaste sau identifica aceste imagini. Dar, surpriza – nu au facut-o. A fost ingrijorator pentru ca ne-am gandit ca au un fel de mecanism care incearca sa descopere si sa identifice acest continut”, a spus el.

Faptul ca nu reuseste sa elimine imaginile cu autovatamare poate duce la „consecinte grave”, a spus el. „Acest lucru este asociat cu sinuciderea. Asa ca, daca nimeni nu semnaleaza sau face nimic in legatura cu aceste grupuri, ele raman necunoscute parintilor, autoritatilor, celor care pot ajuta”, a spus Holm.

Meta, crede el, nu modereaza grupurile private mici, precum cel creat de organizatia sa, pentru a mentine un trafic si un angajament ridicat. „Nu stim daca modereaza grupuri mai mari, dar problema este ca grupurile de auto-vatamare sunt mici”, a spus el.

Lotte Rubaek, un psiholog care a parasit in martie grupul global de experti Meta in prevenirea sinuciderii, dupa ce a acuzat compania ca „inchide ochii” la continutul daunator de pe Instagram, a spus ca, desi nu a fost surprinsa de constatarile generale, a fost socata sa vada ca platforma nu a eliminat continutul cel mai explicit.

„N-as fi crezut ca va fi zero din 85 de postari pe care le-au eliminat. Am sperat ca va fi mai bine. Au spus in repetate randuri in mass-media ca tot timpul isi imbunatatesc tehnologia si ca au cei mai buni ingineri din lume. Acest lucru demonstreaza, chiar daca la scara mica, ca acest lucru nu este adevarat”, a spus ea.

Rubaek a spus ca esecul Meta de a elimina imaginile de autovatamare de pe platformele sale „activeaza” tinerele si fetele vulnerabile sa isi faca mai mult rau si a contribuit la cresterea cifrelor de sinucidere.

De cand a parasit grupul global de experti, ea a spus ca situatia de pe platforma s-a inrautatit, impactul fiind vizibil la pacientii ei.

Problema autovatamarii pe Instagram, a spus ea, este o chestiune de viata si de moarte pentru copiii mici si adolescenti. „Si, cumva, acestea sunt doar daune colaterale pentru ei in goana spre profit.”