Intel·ligència artificial per a docents segons la UNESCO

Llicència Creative Commons

Antoni Hernández-Fernández

El marc de competències sobre intel·ligència artificial (IA) per a docents que va publicar la UNESCO l’agost del 2024 aborda els avenços tecnològics a IA i el seu impacte en l’ensenyament. Què han de saber els docents de la IA i com aplicar-la a l’aula?

La UNESCO ha publicat una interessant guia  AI competency framework for teachers  per al professorat, en allò que anomenen “marc de competència sobre IA”, que es resumirà i comentarà aquí. Val la pena llegir-la i reflexionar-hi. A què es refereixen en aquest marc i com canvia la docència la IA? Què aporta sobre el (molt) que s’ha escrit aquests darrers anys?

A diferència de tecnologies anteriors, alerta la UNESCO, la IA pot reemplaçar ben aviat la presa de decisions educatives basada en patrons de dades. Això planteja el risc que els docents perdin competències clau si depenen en excés de la IA, per això s’emfatitza la importància de mantenir l’agència humana i una mentalitat centrada en les persones, perquè la IA sigui una eina de suport i no la substitució del docent en les seves funcions o en la presa de decisions: val la pena recordar que ja teníem la declaració de Barcelona  (2017) sobre l’ús responsable de la IA, i els seus sis principis:

1. Prudència: És crucial reconèixer les limitacions de la IA i els seus riscos, abans de fer-la servir. La primera al front, el primer principi que ens hem saltat a la brava.

2. Fiabilitat: Els sistemes d’IA s’han de sotmetre a proves rigoroses de seguretat, fiabilitat i confiança, especialment en àrees com la medicina, l’educació o la robòtica autònoma.

3. Responsabilitat: Els sistemes d’IA han de ser capaços d’explicar les vostres decisions de manera comprensible. Les persones afectades per les decisions de la IA tenen el dret de qüestionar-les i obtenir explicacions clares, amb persones responsables darrere d’aquestes eines.

4. Rendició de comptes: En aquest sentit, és essencial poder rastrejar i responsabilitzar els responsables darrere de sistemes d’IA. No val rentar-se les mans i donar-li la culpa a la màquina.

5. Autonomia restringida: Els sistemes d’IA que actuen al món real han d’estar subjectes a regles clares que limitin les seves accions i efectes, i assegurin que s’alineïn amb els valors humans. Això és fonamental en sectors tan perillosos com ara el desenvolupament d’armes autònomes.

6. Rol humà: La intel·ligència humana continua sent crucial, especialment en situacions no previstes pels sistemes de IA. Cal supervisar la IA: la sinergia entre la IA i l’humà és clau.

L’ús de IA planteja molts desafiaments ètics, com la privadesa de les dades personals, els biaixos i el potencial de desigualtats socials que es poden generar. És d’alt risc el seu ús en educació, segons la normativa europea. Els docents han de ser conscients d’aquests riscos i capacitar-se en el seu ús responsable. A diferència d’eines digitals anteriors, amb un simple prompt la IA generativa ofereix resultats (textos, imatges, vídeos…) de manera estocàstica, i de vegades erra, per la qual cosa s’ha de supervisar. Els docents necessiten entendre com funciona la IA per a supervisar-la i avaluar críticament aquests resultats, per tal de decidir si aplicar-los o no a la seva tasca, i valorar si les activitats de classe que planteja als seus alumnes són adequades: es poden resoldre a cop de clic?

L’informe de la UNESCO (2024) proposa una aproximació centrada e les persones, guiada per principis ètics com el desenvolupament humà, l’equitat, la inclusió i la rendició de comptes en l’ús de la IA. Es complementa, per cert, amb un altre informe dedicat específicament als estudiants, més extens, que val la pena rellegir i creuar amb el dels docents.

Els docents han d’estar capacitats per entendre mínimament la IA, integrar-la a les seves especialitats didàctiques i promoure valors socials i culturals, així com el seu ús ètic i crític, en un context social on la IA no hauria de reemplaçar la interacció humana. L’explicabilitat serà un dels reptes dels propers anys.

L’ús de la IA en educació hauria d’haver estat validat en termes de confiança, seguretat i sostenibilitat abans de la seva implementació a gran escala. Els docents han de rebre suport continu per adaptar-se a aquests canvis tecnològics al llarg de la carrera professional, no ser abandonats a la seva sort. Per això, és essencial una formació continuada i polítiques que fomentin l’aprenentatge professional permanent, adaptant currículums i mètodes d’avaluació a les noves possibilitats que ofereix la IA, amb molta cautela, tot recordant que és d’alt risc en educació.

L’estructura del marc de competències a IA per a docents proposada per la UNESCO es presenta en una matriu bidimensional que inclou cinc aspectes que evolucionen a través de tres nivells de progressió (adquisició, aprofundiment i creació), formant quinze blocs diferenciats de competències (Taula 1 ). En creuar aquests tres nivells de progressió amb els cinc aspectes de competència, el marc defineix quinze blocs dissenyats per donar suport a tots els docents, des d’aquells sense coneixements previs a IA fins a aquells amb més experiència en el seu ús.

Taula 1. Estructura d’alt nivell plantejada per la UNESCO (2024) seguint el marc de competències a IA: aspectes i nivells de progressió

Font: Traduïda de Miao & Cukurova (2024).

https://unesdoc.unesco.org/ark:/48223/pf0000391104

Primera Dimensió: Els cinc aspectes de competència

Els aspectes de competència representen els elements clau de coneixement, habilitats, valors i actituds que els docents han de desenvolupar per integrar de manera efectiva i ètica la IA a l’aula. Aquests aspectes segons la UNESCO són ​​complementaris, interdependents i sinèrgics. Els cinc aspectes són:

1. Mentalitat centrada en les persones: Defineix els valors i les actituds crítiques necessàries per a les interaccions entre humans i sistemes basats en IA que els docents han de fomentar.
2. Ètica de la IA: estableix els principis ètics essencials, així com les normatives, lleis institucionals i regles que els docents han de comprendre, aplicar i adaptar.
3. Fonaments i aplicacions de la IA: Especifica els coneixements i les habilitats transferibles que els docents necessiten per seleccionar, aplicar i personalitzar les eines d’IA per a entorns d’ensenyament i aprenentatge, fomentant la creativitat.
4. Pedagogia de la IA: implica integrar la IA de manera eficaç en les metodologies i estratègies pedagògiques, des de la preparació del curs fins a l’avaluació.
5. IA per al desenvolupament professional: Detalla les competències que els docents han de desenvolupar per utilitzar la IA en el seu aprenentatge professional continu.

Potser val la pena recordar aquí la distinció entre allò legal i allò ètic. L’informe de la UNESCO tendeix a barrejar tots dos elements en alguns moments: l’educació obligatòria hauria de formar ciutadans que coneguin les lleis de la IA i la protecció de dades, així com els seus drets però també els seus deures, allò que és legal i allò que no. Després hi ha l’ètica. Per exemple, una cosa és que sigui legal fer servir ChatGPT i una altra que sigui més ètic fer servir altres grans models de llenguatge, com HuggingChat, més transparents i que no es queden les teves dades per la cara.

Segona Dimensió: Els nivells de progressió

El marc de la UNESCO reconeix que el desenvolupament professional relacionat amb la IA és un procés complex i que depèn del context, no necessàriament lineal o jeràrquic. Els interessos i les necessitats dels docents poden variar, segons els nivells educatius que imparteixin i les seves especialitats. Tot i així, estableix tres nivells de progressió generals per orientar el creixement dels docents:

1. Adquirir: Estableix el conjunt essencial de competències en IA que tots els docents necessiten per avaluar, seleccionar i fer servir adequadament les eines d’IA.
2. Aprofundir: Defineix competències intermèdies necessàries per dissenyar estratègies pedagògiques i materials didàctics que integrin la IA a classe.
3. Crear: Estableix competències avançades per configurar de manera creativa els sistemes d’IA i el seu ús innovador a l’educació.

Està bé que es reconegui la complexitat del desenvolupament professional docent, però caldria afegir que no serveixen les receptes universals a la formació del professorat. Tot i això, l’esforç del document de la UNESCO és notable, per la qual cosa els recomano la lectura de les seves cinquanta pàgines, encara que potser s’hi discrepi en alguns enfocaments.

Al meu entendre, l’èxit en la integració de la IA a l’educació depèn de factors tan bàsics com els plantejats a la declaració de Barcelona, ​​l’accés a la infraestructura digital, regulacions més estrictes sobre privadesa i seguretat de dades (que ja són urgents si pensem en les plataformes educatives que tenen les dades dels nostres alumnes…), així com polítiques educatives de suport real i de foment del desenvolupament professional, amb oportunitats de formació constant i adaptada a la realitat de l’aula, acompanyades d’incentius laborals.

A més, hi ha aspectes socials, com la confiança diversa dels equips directius dels centres a les múltiples eines d’IA existents o el seu impacte en una potencial càrrega laboral desigual dels docents, que influiran en la implementació als centres educatius: s’acabarà demanant més en menys temps als que sàpiguen, i el mateix als que no? No passa ja amb altres tecnologies?

El proper desembre es compliran 50 anys de la cèlebre conferència de Haifa en què Mario Bunge va encunyar el terme ‘tecnoètica’. Així ens alertava Mario Bunge al seu manifest “Per una tecnoètica” (Bunge, 2019:133): “Els instruments són moralment inerts i socialment irresponsables. Per tant, quan actuen com a instruments, el científic, l’enginyer o l’administrador defugen assumir responsabilitats”.

El mateix es podria aplicar als docents. No ens convertim en mers instruments, assumim responsabilitats, siguem actius i mostrem esperit crític davant del que ja tenim a sobre.

Referències:

– Bunge, M. (2019). Filosofia de la tecnologia. Barcelona: Edicions IEC-UPC. Disponible a: https://upcommons.upc.edu/handle/2117/169030

Font: educational EVIDENCE

Drets: Creative Commons