Skip to main content

Propuesta de Ley de Inteligencia Artificial de la Unión Europea

La normativa, actualmente en fase de debate y modificación, se basa en los distintos niveles de riesgo que entraña el uso de la inteligencia artificial (IA).

Abstract blue image

La normativa, actualmente en fase de debate y modificación, se basa en los distintos niveles de riesgo que entraña el uso de la inteligencia artificial (IA).

Las normas siguen un planteamiento basado en el riesgo y establecen obligaciones para proveedores y usuarios en función del nivel de riesgo que pueda generar la IA. La clasificación de las áreas de alto riesgo se ha ampliado para incluir los daños a la salud, la seguridad, los derechos fundamentales y el medio ambiente. También se han añadido a la lista de alto riesgo los sistemas de inteligencia artificial para influir en los votantes en las campañas políticas y los sistemas de recomendación utilizados por plataformas como las redes sociales. Esta propuesta legislativa está aún en fase de desarrollo y evolución a través de consultas.

Los modelos de base generativa deben cumplir requisitos adicionales de transparencia, entre otros, revelar que el contenido ha sido generado por un algoritmo de IA, diseñar el modelo para evitar que genere contenido ilegal y publicar resúmenes de los datos protegidos por derechos de autor que hayan podido ser utilizados.

La nueva ley propuesta promueve la creación de "sandboxes" regulatorios (entornos controlados) por parte de las autoridades públicas para probar la IA antes de su despliegue, así como exenciones para actividades de investigación y componentes de IA proporcionados bajo licencias de código abierto.

Las propuestas incluyen reforzar el derecho de los ciudadanos a presentar quejas sobre los sistemas de IA y a recibir explicaciones sobre las decisiones basadas en sistemas de IA de alto riesgo que tengan un impacto significativo en sus derechos.

¿Cómo deben responder las organizaciones a la Ley de la UE sobre inteligencia artificial?

Las organizaciones tendrán que evaluar el impacto de la propuesta de Ley sobre Inteligencia Artificial en su negocio y modelo empresarial, identificando dónde se necesitan cambios y dónde hay que prestar más atención a los procesos actuales.

Los asesores pueden ayudar a las organizaciones a comprender cómo puede aplicarse esta ley dentro de su marco actual:

  1. Ayudando a las organizaciones a identificar y evaluar los riesgos potenciales asociados con sus aplicaciones de IA, diferenciando entre riesgos inaceptables, altos y bajos o mínimos para crear estrategias de mitigación.
  2. Definiendo cómo cumplir las normas y requisitos específicos para los sistemas de IA, como las obligaciones de transparencia para los sistemas que (i) interactúan con seres humanos, (ii) se utilizan para detectar emociones o determinar la asociación con categorías sociales basándose en datos biométricos, o (iii) generan o manipulan contenidos ("deep fakes").
  3. Identificando su cadena de valor de IA (incluidos importadores, distribuidores, representantes autorizados) y sus obligaciones.

Un plan exhaustivo que abarque toda la legislación nueva y futura cubierta por la estrategia digital de la UE puede crear oportunidades, así como mitigar los riesgos. Más información sobre el impacto de la Ley de Gobernanza de Datos de la UE.

Suscríbete a la serie para mantenerte informado

Este es sólo el primer episodio de nuestra serie “Preparados para lo inesperado: anticiparse a los riesgos en constante evolución”. Si quieres recibir más información sobre los próximos episodios haz click aquí.

El uso del Contenido será estrictamente informativo. Se trata de información facilitada por diferentes fuentes sin haber podido ser contrastada por Marsh, y, por lo tanto, sin que esta última sea responsable de su integridad, veracidad o exactitud, de modo que no asume responsabilidad alguna por los eventuales errores existentes, ni por las discrepancias que pudieran encontrarse entre distintas versiones del Contenido. Debe ser considerada únicamente como información general, no garantizando Marsh, expresa o implícitamente la misma. Marsh no pretende que la información contenida en el presente documento sea interpretada como asesoramiento a una situación concreta, ni aplicable a la misma, no pudiéndose tomar como tal. Si el destinatario pretende que Marsh amplíe la información, deberá autorizar a esta para poder dirigirse a las diferentes entidades participantes.

Las manifestaciones en materia fiscal, contable o jurídica deben entenderse como observaciones generales basadas únicamente en nuestra experiencia en riesgos y seguros y no pueden considerarse asesoramiento fiscal, contable o jurídico, el cual no estamos autorizados a prestar. Todas estas materias deben examinarse con asesores adecuadamente cualificados en el correspondiente campo. Por dicho motivo, Marsh no asumirá la responsabilidad que pueda existir, bien por el contenido de dichas observaciones generales que pudieran haberse incluido, bien por la falta de análisis de las implicaciones legales, comerciales o técnicas de los documentos e información puestos a nuestra disposición.