Les mentides visuals de la IA

Federico Kukso / SINC

A mesura que s’expandeix la intel·ligència artificial a cada racó de les nostres vides, un clixé es consolida: el de representar visualment aquests sistemes com a robots humanoides blancs, cervells llampants o amb referències a la ciència-ficció. Un grup cada vegada més gran d’especialistes s’oposa a aquesta iconografia carregada de biaixos històrics sobre gènere, ètnia i religió que genera expectatives poc realistes i emmascara els efectes socials d’aquestes tecnologies.

El 25 d’abril de 2018, la Comissió Europea va publicar un document que va marcar l’inici del seu camí cap a la primera llei reguladora de la intel·ligència artificial del món. En ell, es detallaven les recomanacions presentades per un grup d’experts, s’enumeraven els passos a seguir i es proposaven directrius ètiques per a una IA de confiança. Sense cridar molt l’atenció, una atractiva imatge acompanyava al text: una mà humana i una mà robòtica –lluent i metàl·lica– s’estenien davant d’un fons blau i gris, gairebé tocant-se amb les gemmes dels dits.

Inspirada en La creació d’Adán de Miguel Ángel, fresc que des del segle XVI  embelleix el sostre de la Capella Sixtina al Vaticà, aquesta composició que presenta a la IA com una força creativa divina o com una espurna, una connexió entre l’humà i el diví, s’ha convertit en un dels pòsters oficials de la intel·ligència artificial.

Es pot veure una vegada i una altra en llocs de notícies i revistes, en publicitats, en portades de llibres, en comunicats d’empreses, en cartells de cursos i conferències, alhora de retrats pintorescos de robots humanoides sempre blancs, cervells blaus brillants, plaques de circuits, codi binari i trillades referències a personatges de ciència-ficció com ‘Terminator’.

Conformen la iconografia actual de la IA, la seva traducció visual, cada vegada més criticada per especialistes que adverteixen sobre els seus perills i les suposicions estereotipades i potencialment discriminatòries que arrosseguen sobre gènere, ètnia i religió.

La iconografia actual de la IA amb robots humanoides blancs és cada vegada és més criticada pels especialistes, que adverteixen sobre les idees estereotipades i discriminatòries

“Aquestes imatges tergiversen completament les realitats de la IA”, adverteix a SINC la investigadora en ètica Tania Duarte, fundadora de ‘We and AI’, una organització sense finalitats de lucre del Regne Unit que busca millorar l’alfabetització en intel·ligència artificial per a la inclusió social i impulsar el pensament crític. “Reforcen mites sobre la IA –subratlla–, idees falses sobre la infal·libilitat, la sensibilitat i el misticisme religiós que embolica a aquestes tecnologies i no ajuden el públic a desenvolupar una comprensió del que està en joc”.

El poder de la imatge

Com fa temps va explicar l’escriptora Susan Sontag, les imatges són elements poderosos. Emmarquen la nostra percepció del món, confirmen, reforcen o dissipen estereotips. Influeixen en la forma en què la societat pensa i comprèn temes que retraten. En el cas de la IA, unes certes il·lustracions exageren les capacitats d’aquests sistemes informàtics cada cop més ubics.

Unes altres, en canvi, sembren por, augmenten la desconfiança pública, emmascaren la responsabilitat dels humans i perpetuen un enteniment massa limitat i temorós de la IA però també misteriós, al no mostrar el seu context real, ni els seus processos i ni les seves aplicacions o limitacions. I desvien el debat sobre les conseqüències potencialment significatives per a la recerca, el finançament, la regulació i la recepció d’aquests sistemes cada vegada més ubics.

Per a combatre clixés i distorsions sobre la IA, més de cent enginyers, artistes, sociòlegs i especialistes en ètica impulsen el programa ‘Better Images of AI’

Per a combatre aquests clixés i distorsions, Duarte i un equip de més de cent enginyers, artistes, sociòlegs i especialistes en ètica impulsen un programa conegut com Better Images of AI.

Amb el suport de l’Alan Turing Institute, el Centre Leverhulme per al Futur de la Intel·ligència i del departament de recerca i desenvolupament de la BBC, exposen com aquestes representacions dominants reforcen conceptes erronis i limiten la comprensió pública de l’ús i funcionament dels sistemes de IA.

“Necessitem imatges que retratin de manera més realista la tecnologia i les persones darrere d’ella i que assenyalin les seves fortaleses, febleses, contextos i aplicacions”, indiquen els seus promotors, que ofereixen un repositori gratuït de millors imatges de IA i una guia de consells per a un ús responsable.

Fàbriques d’imatges

Una part important de les fotografies i il·lustracions que es fan servir en publicitats, màrqueting corporatiu, disseny de llocs web i també en llocs de notícies provenen de “fàbriques d’imatges”: el negoci de les fotografies d’arxiu o d’estoc, una indústria global de milers de milions de dòlars, dominada per un grapat de corporacions transnacionals –Getty Images, Corbis, Alamy, Shutterstock, Adobe Estoc, Science Photo Library (SPL), entre altres–, amb una força poderosa en la cultura visual contemporània.

Com indiquen els investigadors Gaudenz Urs Metzger i Tina Braun de l’Escola Superior de les Arts de Zuric (Suïssa) en un estudi publicat en el Journal of Death and Dying, aquestes imatges influeixen en com s’imagina un tema, així com en el que es pot dir i no dir en una societat.

A mesura que les empreses periodístiques inverteixen cada vegada menys en fotògrafs i dissenyadors d’infografies, les imatges d’estoc expandeixen la seva presència.

A mesura que les empreses periodístiques inverteixen cada vegada menys en fotògrafs i dissenyadors d’infografies, les imatges d’estoc expandeixen la seva presència

En general, es tracta de muntatges, gràfics o il·lustracions genèriques, amb un estil realista, encara que més simbòlic que documental, que busquen atreure l’atenció del lector en representar visualment temes complexos com les tisores moleculars de la tècnica CRISPR d’edició genètica, el món subatòmic, l’interior del cos humà, la computació quàntica, el blockchain (cadena de blocs) o la computació en el núvol.

En el cas de la IA, el robot humanoide blanc ha estat elevat en l’últim temps al rol d’ambaixador visual d’aquestes tecnologies complexes per directa influència de la cultura popular. Com va registrar ‘l’AI  Narratives Project’ de la Royal Society de Londres, existeix una forta tendència a concebre les màquines intel·ligents amb forma humana.

Una IA amb formes hipersexualizadas

“Quan les persones imaginen a altres éssers intel·ligents, aquestes imaginacions tendeixen a prendre forma humanoide”, destaca el document principal d’aquesta iniciativa. “Una conseqüència d’aquest antropomorfisme és que els sistemes de IA són amb freqüència representats amb gènere: les seves formes físiques sovint no són andrògines, sinó que tenen les característiques sexuals secundàries estereotipades d’homes o dones. De fet, sovint estan hipersexualitzats: tenen cossos masculins exageradament musculosos i tendències agressives, com ‘Terminator’, o formes femenines convencionalment belles com ‘Ava’ a la pel·lícula Ex Machina”.

La IA i les seves branques, com l’aprenentatge automàtic, no són temes senzills d’explicar ni d’il·lustrar. Però imaginar aquestes tecnologies com androides és problemàtic: desinforma, planteja expectatives massa altes, suggereix que la seva fi última és la de reemplaçar als humans i dificulta que es considerin els seus beneficis reals. A més, com més humans veuen aquestes representacions, més ètnicament blanques són les seves característiques.

Imaginar aquestes tecnologies com androides desinforma, planteja altes expectatives, suggereix que la seva fi és reemplaçar als humans i dificulta considerar els seus beneficis reals

D’aquí ve que Stephen Cave i Kanta Dihal, investigadors de la Universitat de Cambridge (el Regne Unit), assenyalin en el seu assaig The Whiteness of AI que la representació de la IA pateix d’un problema racial. “Imaginar màquines que siguin intel·ligents, professionals o poderoses és imaginar màquines blanques perquè el marc racial blanc atribueix aquests atributs predominantment a la blancor”, diuen els també autors d’ Imagining AI: How the World Sees Intelligent Machines.

“En les societats europees i nord-americanes, la blancor està normalitzada fins a tal punt que la torna en gran manera invisible. En centrar la blancor com el color predeterminat del futur, aquestes imatges contribueixen a imaginar un futur tecnològic que exclou a les persones de color de la mateixa manera que ho fan les grans empreses tecnològiques en l’actualitat”, apunten.

Clixés i confusió sobre la IA

Els clixés visuals són diversos: plaques de circuits, codi binari descendent, lluents cervells situats en un espai fosc i buit, aïllats de les necessitats d’un cos, és a dir, una clara al·lusió a la intel·ligència, si bé gran part de la IA i l’aprenentatge automàtic que fan servir avui dia estan molt allunyats de la intel·ligència humana. “Les persones que no entenen què és la IA no poden defensar les formes en què la tecnologia hauria o no d’impactar a la societat”, assenyala Duarte.

A més de la prevalença de robots blancs, el color preferit de les empreses de tecnologia per a representar els seus sistemes és el blau, usualment associat amb intel·ligència, confiança, serietat, eficiència però també amb masculinitat, com destaca la historiadora Alexandra Grieser a Blue Brains: Aesthetic Ideologies and the Formation of Knowledge Between Religion and Science.

“Existeix una gran bretxa entre la realitat de la IA i la percepció que té el públic general, que és alimentada per representacions en els mitjans i pel·lícules que sovint presenten la IA com a robots autònoms amb capacitats gairebé humanes”, indica la desenvolupadora de programari mexicana Yadira Sánchez, assessora de Better Images of AI.

“Aquesta distorsió és preocupant perquè impedeix que el públic comprengui i participi efectivament en debats crucials sobre com la IA està remodelant àrees essencials com l’atenció mèdica, l’agricultura i la vigilància estatal. A més –afegeix–, aquestes imatges inexactes creen pensaments futuristes molt optimistes o molt pessimistes sobre la IA i això és perillós perquè generen expectatives i pors en la societat”.

Altres imatges per a minimitzar la confusió

Per a minimitzar la confusió, sostenen els investigadors de Better Images of AI, és important utilitzar imatges que representin honestament la realitat de la IA, com els recursos naturals i materials que es consumeixen en el seu desenvolupament. Per exemple, l’extracció de liti a Amèrica Llatina, o l’aigua  i els rius que es fan servir per a mantenir centres de dades en funcionament.

“Hauríem de mostrar com la IA s’integra i afecta els nostres entorns naturals i socials”, afegeix Sánchez, “i com la seva infraestructura impacta directament en l’ecosistema i la vida quotidiana de les persones”.

“Hauríem de mostrar com la IA s’integra i afecta els nostres entorns naturals i socials, i com la seva infraestructura impacta en l’ecosistema i la nostra vida quotidiana”

Yadira Sánchez (Better Images of AI)

“La malaltia de la fotografia d’estoc de la IA ha aconseguit l’estat epidèmic”, va assenyalar fa uns anys l’investigador Adam Geitgey, especialista en aprenentatge automàtic i reconeixement facial. Encara que la IA no és l’única branca científica que pateix aquestes tergiversacions visuals. Més aviat, totes les disciplines, en algun grau o un altre, les pateixen quan són representades en periòdics, avisos publicitaris, campanyes públiques o en webs d’institucions.

“Els mitjans opten per la solució més senzilla: fer servir imatges que la gent reconegui i associï ràpidament amb la ciència”, apunta la sociòloga portuguesa Ana Delicado, qui va estudiar les representacions visuals de la ciència durant la pandèmia de la COVID-19 en llocs web d’institucions polítiques i mitjans de comunicació a Portugal i Espanya.

“Les imatges d’estoc sempre es basen en estereotips. Són productes comercials: el seu objectiu és vendre, no reflexionar sobre els temes que comercialitzen. Les imatges estereotipades en els mitjans de comunicació contribueixen a perpetuar representacions estereotipades en l’opinió pública”, recalca.

Durant la pandèmia de COVID-19 es va detectar que les representacions de la ciència continuen basant-se en gran manera en imatges estereotipades de laboratoris i bates blanques

En la seva anàlisi, publicada a la revista Frontiers in Communication, aquesta investigadora de l’Institut de Ciències Socials dona Universitat de Lisboa va registrar l’abús d’il·lustracions del coronavirus SARS-CoV-2 amb les seves pues i pintat de vermell, fent-ho semblar més amenaçador.

També va detectar una gran llista d’elements visuals que al·ludeixen a l’activitat científica: hèlixs d’ADN, cèl·lules, molècules, radiografies, equips de laboratori com a microscopis, tubs, plaques de Petri i pipetes, sovint sostinguts per mans incorpòries amb guans, així com la presència de persones amb bates blanques, ulleres protectores i màscares, però sense diversitat ètnica, la qual cosa reflecteix la subrepresentació de les minories en la comunitat científica.

“L’elecció d’imatges per a il·lustrar la ciència de la COVID-19 tendeix a reproduir nocions estereotipades de la recerca científica com una activitat centrada en el laboratori”, indica Delicat.

Nous generadors d’imatges

Ara, amb l’augment dels sistemes de IA generadors d’imatges, com Stable Diffusion, Midjourney i DALL·E, es tem que empitjorin les distorsions sobre la realitat de la IA i l’activitat científica en general. Com ja han demostrat algunes recerques, aquestes eines que produeixen imatges a partir d’indicacions de text acostumen a donar resultats racistes i sexistes.

És a dir, reprodueixen i amplifiquen biaixos racials i de gènere, perquè són entrenades amb imatges fetes servir per mitjans de comunicació, organitzacions mundials de salut i bases de dades d’internet. “Aquestes imatges són utilitzades sense crítica, sense reflexió”, adverteix la sociòloga portuguesa, “i la IA continuarà perpetuant els estereotips sobre la ciència i les tecnologies”.