Inteligencia Artificial en los Planes de Igualdad
El pasado de abril publicamos en nuestro bloc que los 27 estados de la Unión Europea dieron luz verde a primera ley de IA. Esto ya se ha materializado pues el día 13 de junio de 2024 se aprobó el Reglamento (UE) 2024/1689, una nueva normativa europea que es muy relevante para el futuro de la INTELIGENCIA ARTIFICIAL (IA), publicado el 12 de julio en el Diario Oficial de la Unión Europea.
Este reglamento busca establecer reglas claras y uniformes para el desarrollo y uso de la IA en toda la Unión Europea. Su objetivo es garantizar que la IA sea segura, fiable y respete nuestros derechos fundamentales, todo mientras facilita el comercio y la innovación en el mercado europeo.
A partir del 1 de agosto de 2024, este reglamento entrará en vigor, aunque sus disposiciones se empezarán a aplicar a partir del 2 de agosto de 2026.
Algunas de las medidas clave incluyen:
- Normas para la comercialización y uso de sistemas de IA, con especial atención a aquellos considerados de alto riesgo.
- Prohibiciones sobre ciertas prácticas de IA que pueden ser perjudiciales.
- Requisitos de transparencia para que los usuarios sepan cuándo están interactuando con un sistema de IA.
- Sanciones significativas por incumplimiento, que pueden llegar hasta 35 millones de euros o el 7% del volumen de negocios mundial de la empresa infractora.
- Apoyo a la innovación, con un enfoque especial en las pymes y los startups.
Queremos resaltar las medidas que las empresas deberán implantar para asegurar que sus PLANES DE IGUALDAD cumplen con los requisitos de la normativa de IA:
- EVALUACIÓN DE SESGOS Y DISCRIMINACIÓN
Medida: Realizar auditorías y evaluaciones regulares de los sistemas de IA para identificar y corregir posibles sesgos y prácticas discriminatorias.
Ejemplo: En los procesos de contratación automatizados, verificar que los algoritmos no favorezcan injustamente a ciertos grupos sobre otros basándose en género, raza, edad, etc.
- TRANSPARENCIA EN LA TOMA DE DECISIONES
Medida: Asegurar que los empleados comprendan cómo las decisiones automatizadas que les afectan (por ejemplo, evaluaciones de desempeño, promociones) son tomadas y en base a qué criterios.
Ejemplo: Proveer explicaciones claras y accesibles sobre los factores que los sistemas de IA consideran para tomar decisiones laborales y permitir a los empleados cuestionar y solicitar revisiones de estas decisiones.
- CAPACITACIÓN EN DIVERSIDAD E INCLUSIÓN
Medida: Implementar programas de formación continua para todos los empleados, incluidos los desarrolladores y usuarios de sistemas de IA, sobre temas de diversidad, inclusión y equidad.
Ejemplo: Ofrecer cursos y talleres que enseñen cómo diseñar y utilizar tecnologías de IA de manera que promuevan la igualdad y eviten perpetuar estereotipos y discriminaciones.
- POLÍTICAS DE PRIVACIDAD Y PROTECCIÓN DE DATOS
Medida: Desarrollar y aplicar políticas estrictas de privacidad y protección de datos para asegurar que la información personal de los empleados es manejada de manera segura y ética.
Ejemplo: Obtener el consentimiento explícito de los empleados antes de utilizar sus datos personales en sistemas de IA y asegurar que estos datos no sean usados para discriminarlos o perjudicarlos de ninguna manera.
- INCLUSIÓN DE INDICADORES DE IGUALDAD EN LA IA
Medida: Incorporar indicadores de igualdad de género y otros aspectos de diversidad en el diseño y la evaluación de los sistemas de IA.
Ejemplo: Diseñar algoritmos que midan y promuevan la igualdad de oportunidades dentro de la empresa, asegurando que los sistemas de IA contribuyan a la eliminación de brechas de género y otras desigualdades.
- CREACIÓN DE COMITÉS DE ÉTICA Y CUMPLIMIENTO
Medida: Establecer comités internos dedicados a la ética y el cumplimiento normativo que supervisen el uso de IA y aseguren que se alinea con los principios de igualdad.
Ejemplo: Formar un comité de ética que evalúe regularmente los impactos de la IA en la igualdad de género y otros aspectos de diversidad, y que tenga la autoridad para implementar cambios cuando se identifiquen problemas.
- TRANSPARENCIA EN REPORTES Y COMUNICACIÓN
Medida: Publicar informes regulares sobre el impacto de los sistemas de IA en la igualdad dentro de la empresa y comunicar estas informaciones de manera transparente a todos los empleados.
Ejemplo: Incluir secciones en los informes anuales de la empresa que detallen cómo se están utilizando los sistemas de IA, qué medidas se están tomando para garantizar la igualdad, y cuáles han sido los resultados de estas medidas.
Deberemos estar atentos a la evolución de la IA, pues la rápida evolución de la tecnología de IA puede superar la capacidad de la legislación para mantenerse actualizada. Esto podría llevar a situaciones donde las nuevas tecnologías no estén completamente cubiertas por la ley, creando oportunidades para escabullirse.
Siempre asesoramos con la toga puesta
Seguiremos siendo diferentes
Bonastre-Carreres Advogados laboralistas
