Els adolescents veuen els algorismes de les xarxes socials com a reflexos precisos de si mateixos, segons un estudi

Nora McDonald, George Mason University

Font: The conversation

Les aplicacions de xarxes socials presenten regularment als adolescents contingut seleccionat algorítmicament i que sovint es descriu com “per a tu”, la qual cosa suggereix, per implicació, que el contingut seleccionat no és només “per a tu” sinó també “sobre tu”: un mirall que reflecteix senyals importants sobre la persona que és.

Tots els usuaris de les xarxes socials estan exposats a aquests senyals, però els investigadors entenen que els adolescents es troben en una etapa especialment mal·leable en la formació de la seva identitat personal. Els acadèmics han començat a demostrar que la tecnologia està tenint efectes generacionals, no només en la forma en què influeix en les perspectives culturals, el comportament i la privacitat, sinó també en la forma en què pot modelar la personalitat entre aquells que creixen amb les xarxes socials.

La prevalença del missatge “per a tu” planteja preguntes importants sobre l’impacte d’aquests algorismes en com els adolescents es perceben a si mateixos i veuen el món, i la subtil erosió de la seva privacitat, que accepten a canvi d’aquesta visió.

Als adolescents els agrada el seu reflex algorítmic

Inspirats per aquestes preguntes, els meus col·legues John Seberger i Afsaneh Razi  de la Universitat de Drexel i jo preguntem: Com naveguen els adolescents en aquest entorn generat algorítmicament i com es reconeixen a si mateixos en el mirall que presenta?

En el nostre estudi d’entrevista qualitativa amb adolescents de 13 a 17 anys, descobrim que el contingut algorítmic personalitzat sembla presentar el que els adolescents interpreten com una imatge reflectida de confiança de si mateixos , i que els agrada molt l’experiència de veure aquest reflex en les xarxes socials.

Els adolescents amb els quals parlem diuen que prefereixen una xarxa social completament personalitzada per a ells, que mostri amb què estan d’acord, què volen veure i, per tant, qui són.

Si busco alguna cosa que sigui important per a mi, apareixerà com una de les publicacions principals [i] mostrarà persones [com jo] que mantenen una bona discussió

Resulta que els adolescents que entrevistem creuen que els algorismes de les xarxes socials com els de TikTok s’han tornat tan bons que veuen els seus reflexos en les xarxes socials com força precisos. Tant és així que els adolescents s’afanyen a atribuir les inconsistències del contingut amb la seva pròpia imatge com a anomalies; per exemple, el resultat d’una interacció involuntària amb contingut anterior o simplement un problema tècnic.

En algun moment vaig veure alguna cosa sobre aquest programa, tal vegada a TikTok, i vaig interactuar amb ell sense adonar-me

Quan el contingut personalitzat no és agradable o coherent amb la seva pròpia imatge, els adolescents que entrevistem diuen que el passen per alt amb l’esperança de no tornar a veure’l mai més. Fins i tot quan aquestes anomalies percebudes prenen la forma de contingut extremadament hipermasculí o “desagradable”, els adolescents no ho atribueixen a res específic sobre ells mateixos, ni afirmen cercar una explicació en els seus propis comportaments. Segons els adolescents en les nostres entrevistes, el mirall de les xarxes socials no els fa més autorreflexius ni desafia el seu sentit d’identitat.

Un fet que ens va sorprendre va ser que, si bé els adolescents eren conscients que el que veuen en el seu feed “per a tu” és producte dels seus hàbits de desplaçament en les plataformes de xarxes socials, en gran manera no són conscients o no els preocupa que les dades capturades en les aplicacions contribueixin a aquest jo. De totes maneres, no veuen la seva alimentació “per a tu” com un desafiament al seu sentit d’identitat, i molt menys com un risc per a la seva pròpia identitat, ni, de fet, com un motiu de preocupació en absolut.

El cervell humà continua desenvolupant-se durant l’adolescència.

Donar forma a la identitat

La recerca sobre la identitat ha avançat molt des que el sociòleg Erving Goffman va proposar la “presentació del jo” el 1959. Va postular que les persones gestionen les seves identitats a través de l’acompliment social per a mantenir l’equilibri entre qui creuen que són i com els perceben els altres.

Quan Goffman va proposar per primera vegada la seva teoria, no hi havia cap interfície de xarxes socials disponible per a sostenir un mirall pràctic d’un mateix tal com l’experimenten els altres. Les persones es van veure obligades a crear la seva pròpia imatge en mosaic, derivada de múltiples fonts, trobades i impressions. En els últims anys, els algorismes de recomanació de xarxes socials s’han inserit en el que ara és una negociació tripartida entre un mateix, el públic i l’algorisme de les xarxes socials.

Les ofertes “Per a tu” creen un espai públic-privat a través del qual els adolescents poden accedir al que consideren una prova en gran mesura precisa de la seva pròpia imatge. Alhora diuen que poden ignorar-ho fàcilment si sembla no encaixar amb aquesta autoimatge.

El pacte que els adolescents fan amb les xarxes socials, intercanviant dades personals i renunciant a la privacitat per a assegurar l’accés a aquest mirall algorítmic, els sembla un bon negoci. Es presenten a si mateixos com a persones amb confiança amb capacitat de desconnectar-se o passar per alt el contingut recomanat que sembla contradir el seu sentit d’identitat, però les recerques mostren el contrari .

De fet, han demostrat ser molt vulnerables a la distorsió de l’autoimatge i altres problemes de salut mental basats ​​en algorismes de les xarxes socials dissenyats explícitament per a crear i recompensar hipersensibilitats, fixacions i dismorfia, un trastorn de salut mental en el qual les persones s’obsessionen amb la seva aparença.

Tenint en compte el que els investigadors saben sobre el cervell adolescent i aquesta etapa de desenvolupament social (i tenint en compte el que es pot suposar raonablement sobre la mal·leabilitat de l’autoimatge basada en la retroalimentació social), els adolescents s’equivoquen en creure que poden superar els riscos de la seva pròpia identitat.

El cirurgià general dels EUA, Vivek Murthy, analitza els perjudicis que enfronten els adolescents en les xarxes socials.

Intervencions

Part del remei podria ser crear noves eines que utilitzin intel·ligència artificial per a detectar interaccions insegures i alhora protegir la privacitat. Un altre enfocament passa per ajudar els adolescents a reflexionar sobre aquestes “dades dobles” que han construït.

Els meus col·legues i jo ara estem explorant més profundament com els adolescents experimenten el contingut algorítmic i quin tipus d’intervencions poden ajudar-los a reflexionar sobre això. Encoratgem als investigadors del nostre camp a dissenyar maneres de desafiar la precisió dels algorismes i exposar-los com un reflex del comportament i del no ser. Una altra part del remei pot implicar dotar als adolescents d’eines per a restringir l’accés a les seves dades, incloent limitar les cookies, tenir diferents perfils de cerca i desactivar la ubicació quan fan servir determinades aplicacions.

Creiem que tots aquests són passos que probablement redueixen la precisió dels algorismes, creant una fricció molt necessària entre l’algorisme i un mateix, fins i tot si els adolescents no estan necessàriament contents amb els resultats.

Involucrar als nens

Recentment, els meus col·legues i jo duem a terme un taller sobre la Generació Z amb joves de Encode Justice, una organització global d’estudiants de secundària i universitaris que advoquen per una IA segura i equitativa. L’objectiu era comprendre millor com pensen sobre les seves vides sota algorismes i intel·ligència artificial. Els membres de la Generació Z diuen que estan preocupats, però també ansiosos per participar en la configuració del seu futur, inclosa la mitigació dels danys als algorismes. Part de l’objectiu del nostre taller va ser cridar l’atenció i fomentar la necessitat de recerques sobre algorismes i els seus efectes impulsades per adolescents.

El que els investigadors també enfronten és que en realitat no sabem el que significa negociar constantment la identitat amb un algorisme. Molts dels quals estudiem als adolescents som massa grans per a haver crescut en un món moderat algorítmicament. Per als adolescents que estudiem, no existeix un “abans de la IA“.

Crec que és perillós ignorar el que fan els algorismes. El futur dels adolescents pot ser un en el qual la societat reconegui la relació única entre els adolescents i les xarxes socials. Això significa involucrar-los en les solucions, sense deixar de brindar-los orientació.

Nora McDonald, Assistant Professor of Information Technology, George Mason University

Aquest article va ser originalment publicat a The Conversation sota llicència Creative Commons. Llegir l’article original.