![\"\"](\"http:\/\/educationalevidence.com\/wp-content\/uploads\/2023\/11\/Los-sesgos-de-la-inteligencia-artificial-pueden-pasar-a-las-personas-1.jpg\")
\u00c9s conegut que els algorismes sovint reflecteixen els errors i prejudicis dels seus creadors, per\u00f2 tamb\u00e9 pot passar el contrari: que persones aconsellades per una IA esbiaixada adaptin les seves decisions al que recomana l’agent artificial, fins i tot quan ja no compten amb la seva assist\u00e8ncia. Aix\u00ed ho revelen experiments realitzats a la Universitat de Deusto.<\/strong><\/p>\n <\/p>\n Enrique Sacrist\u00e1n\u00a0<\/a>\/\u00a0SINC<\/a><\/p>\n Una recerca duta a terme per les psic\u00f2logues Luc\u00eda Vicente<\/strong> i Helena\u00a0Matute<\/strong>\u00a0de la Universitat de Deusto, a Bilbao, evid\u00e8ncia que les persones podem heretar biaixos de la intel\u00b7lig\u00e8ncia artificial<\/strong> (IA). L’estudi es publica en la revista d’acc\u00e9s obert\u00a0Scientific\u00a0Reports<\/em>.<\/p>\n Els impressionants resultats reeixits per aquesta nova tecnologies reflecteixen la seva alta fiabilitat i s’han fet molt populars. Malgrat aix\u00f2, els algorismes de la IA tamb\u00e9 poden estar esbiaixats<\/strong>, cometre errors sistem\u00e0tics.<\/p>\n Aquests programes s\u00f3n entrenats amb dades que s\u00f3n producte de decisions humanes, i si contenen biaixos, els models d’intel\u00b7lig\u00e8ncia artificial poden aprendre’ls i reproduir-los. De fet, existeixen ja nombroses proves que, efectivament, aquesta hereta i amplifica els biaixos humans.<\/p>\n Aquesta situaci\u00f3 era coneguda, per\u00f2 ara el nou estudi mostra que tamb\u00e9 pot passar l’efecte contrari: les persones podr\u00edem heretar biaixos de la IA, amb el que correm el risc d’entrar en un bucle for\u00e7a perill\u00f3s.<\/p>\n Per a realitzar la seva recerca, les autores van plantejar una s\u00e8rie d’experiments on els voluntaris havien de fer una tasca de diagn\u00f2stic m\u00e8dic<\/strong> mitjan\u00e7ant una matriu amb cel\u00b7les de dos colors, fosc i clar, amb la qual se simulaven mostres de teixits humans<\/strong> extretes a pacients afectats per una s\u00edndrome fict\u00edcia.<\/p>\n <\/p>\n Aix\u00ed van crear un criteri de classificaci\u00f3, de manera que, a m\u00e9s gran proporci\u00f3 de cel\u00b7les fosques, significava que la mostra de teixit estava afectada per la malaltia, era un positiu; mentre que, si hi havia una proporci\u00f3 m\u00e9s gran de c\u00e8l\u00b7lules clares, era un negatiu. Els participants havien de triar entre aquestes dues opcions.<\/p>\n <\/p>\n La meitat dels voluntaris van constituir un grup de control<\/strong> que no va comptar amb cap assist\u00e8ncia de la\u00a0IA. Per part seva, l’altra meitat va fer la tasca amb les recomanacions d’una intel\u00b7lig\u00e8ncia artificial amb un error sistem\u00e0tic<\/strong>. Sempre s’equivocava per a una mostra de teixit amb una configuraci\u00f3 de colors particular: 40% de c\u00e8l\u00b7lules fosques i 60% de c\u00e8l\u00b7lules clares.<\/p>\n Per a aquestes imatges, la recomanaci\u00f3 de l’agent artificial contradeia el criteri de classificaci\u00f3, indicant que era positiu quan, ateses les proporcions dels dos colors, seria classificada com a negatiu.<\/p>\n \u201cEls participants van reproduir aquest error sistem\u00e0tic de la\u00a0IA, encara que era molt senzill discriminar les imatges, com va demostrar el grup control, que no tenia assist\u00e8ncia d’aquesta intel\u00b7lig\u00e8ncia artificial esbiaixada i a penes cometia errors en la tasca\u201d, expliquen a\u00a0SINC\u00a0Luc\u00eda Vicente i Helena\u00a0Matute.<\/p>\n <\/p>\n A m\u00e9s, el resultat m\u00e9s rellevant va ser que, en una segona fase en la qual la\u00a0IA\u00a0ja no era present, els voluntaris van continuar cometent el seu mateix error sistem\u00e0tic quan van passar a fer la tasca de diagn\u00f2stic sense la seva assist\u00e8ncia.<\/p>\n Aquestes persones van reproduir el biaix en un context en el qual ja no era present la intel\u00b7lig\u00e8ncia artificial, evidenciant aix\u00ed un biaix heretat. Aix\u00f2 no passava en els participants del grup de control, que havien realitzat des del primer moment la tasca sense ajuda.<\/p>\n Les autores conclouen: \u201cHem trobat que \u00e9s possible que persones aconsellades per una\u00a0IA\u00a0esbiaixada acabin adaptant les seves decisions als resultats d’aquest agent artificial, i encara m\u00e9s important, que aquesta influ\u00e8ncia pot perdurar fins i tot quan les persones passen a un context en el qual ja no tenen aquesta assist\u00e8ncia\u201d.<\/p>\n Veiem que \u00e9s possible que persones aconsellades per una\u00a0IA\u00a0esbiaixada acabin adaptant les seves decisions als resultats d’aquest agent artificial, i encara m\u00e9s important, que aquesta influ\u00e8ncia pot perdurar quan ja no tenen aquesta assist\u00e8ncia<\/p>\n Luc\u00eda Vicente i Helena\u00a0Matute\u00a0(Un. de Deusto)<\/p><\/blockquote>\nPositiu o negatiu a la malaltia<\/h2>\n
![\"\"](\"http:\/\/educationalevidence.com\/wp-content\/uploads\/2023\/11\/grafico.jpg\")
Mateix error sense la IA<\/h2>\n