Intel·ligència Artificial en els Plans d’Igualtat
El passat mes d’abril vam publicar en el nostre bloc que els 27 estats de la Unió Europea van donar llum verda a primera llei d’INTEL·LIGÈNCIA ARTIFICIAL (IA). Això ja s’ha materialitzat, doncs el dia 13 de juny de 2024 es va aprovar el Reglament (UE) 2024/1689, una nova normativa europea que és molt rellevant per al futur de l’IA, publicat el 12 de juliol al Diari Oficial de la Unió Europea.
Aquest reglament busca establir regles clares i uniformes per al desenvolupament i ús de la IA a tota la Unió Europea. El seu objectiu és garantir que la IA sigui segura, fiable i respecti els nostres drets fonamentals, tot mentre facilita el comerç i la innovació en el mercat europeu.
A partir de l‘1 d’agost de 2024, aquest reglament entrarà en vigor, tot i que les seves disposicions es començaran a aplicar a partir del 2 d’agost de 2026.
Algunes de les mesures clau inclouen:
- Normes per a la comercialització i ús de sistemes d’IA, amb especial atenció a aquells considerats d’alt risc.
- Prohibicions sobre certes pràctiques d’IA que poden ser perjudicials.
- Requisits de transparència perquè els usuaris sàpiguen quan estan interactuant amb un sistema d’IA.
- Sancions significatives per incompliment, que poden arribar fins a 35 milions d’euros o el 7% del volum de negocis mundial de l’empresa infractora.
- Suport a la innovació, amb un enfocament especial en les pimes i els startups.
Volem ressaltar les mesures que les empreses hauran d’implantar per assegurar que els seus PLANS D’IGUALTAT compleixen amb els requisits de la normativa d’IA:
- AVALUACIÓ DE BIAIXOS I DISCRIMANCIÓ
Mesura: Realitzar auditories i avaluacions regulars dels sistemes d’IA per identificar i corregir possibles biaixos i pràctiques discriminatòries.
Exemple: En els processos de contractació automatitzats, verificar que els algoritmes no afavoreixin injustament certs grups sobre altres basant-se en gènere, raça, edat, etc.
- TRANSPARÈNCIA EN LA PRESA DE DECISIONS
Mesura: Cal assegurar que els empleats comprenguin com les decisions automatitzades que els afecten (per exemple, avaluacions d’acompliment, promocions) són preses i a partir de quins criteris.
Exemple: Proveir explicacions clares i accessibles sobre els factors que els sistemes d’IA consideren per prendre decisions laborals i permetre als empleats qüestionar i demanar revisions d’aquestes decisions.
- CAPACITACIÓ EN DIVERSITAT I INCLUSIÓ
Mesura: Implementar programes de formació contínua per a tots els empleats, inclosos els desenvolupadors i usuaris de sistemes d’IA, sobre temes de diversitat, inclusió i equitat.
Exemple: Oferir cursos i tallers que ensenyin com dissenyar i utilitzar tecnologies d’IA de manera que promoguin la igualtat i evitin perpetuar estereotips i discriminacions.
- POLÍTIQUES DE PRIVACITAT I PROTECCIÓ DE DADES
Mesura: Desenvolupar i aplicar polítiques estrictes de privacitat i protecció de dades per assegurar que la informació personal dels empleats és manejada de manera segura i ètica.
Exemple: Obtenir el consentiment explícit dels empleats abans d’utilitzar les seves dades personals en sistemes d’IA i assegurar que aquestes dades no siguin usades per discriminar-les o perjudicar-les de cap manera.
- INCLUSIÓ D’INDICADORS D’IGUALTAT A LA IA
Mesura: Incorporar indicadors d’igualtat de gènere i altres aspectes de diversitat en el disseny i l’avaluació dels sistemes d’IA.
Exemple: Dissenyar algoritmes que mesuren i promoguin la igualtat d’oportunitats dins de l’empresa, assegurant que els sistemes d’IA contribueixin a l’eliminació de bretxes de gènere i altres desigualtats.
- CREACIÓ DE COMITÈS D’ÈTICA I COMPLIMENT
Mesura: Establir comitès interns dedicats a l’ètica i el compliment normatiu que supervisin l’ús d’IA i assegurin que s’alinea amb els principis d’igualtat.
Exemple: Formar un comitè d’ètica que avaluï regularment els impactes de la IA en la igualtat de gènere i altres aspectes de diversitat, i que tingui l’autoritat per implementar canvis quan s’identifiquin problemes.
- TRANSPARÈNCIA EN REPORTS I COMUNICACIÓ
Mesura: Publicar informes regulars sobre l‘impacte dels sistemes d’IA en la igualtat dins de l’empresa i comunicar aquestes informacions de manera transparent a tots els empleats.
Exemple: Incloure seccions en els informes anuals de l’empresa que detallin com s’estan utilitzant els sistemes d’IA, quines mesures s’estan prenent per garantir la igualtat, i quins han estat els resultats d’aquestes mesures.
Haurem d’estar atents a l’evolució de la IA, ja que la ràpida evolució de la tecnologia d’IA pot superar la capacitat de la legislació per mantenir-se actualitzada. Això podria portar a situacions en què les noves tecnologies no estiguin completament cobertes per la llei, creant oportunitats per escapolir-se.
Sempre assessorem amb la toga posada
Continuarem sent diferents
Bonastre-Carreres Advocats laboralistes
