Actualidad Jurídica en IA

info@josefelgueroso.com

2025-06-26

Directrices de la Ley de IA de la UE: Nuevas Prohibiciones y Requisitos de Cumplimiento

La Ley de IA (Reglamento (UE) 2024/1689) entró en vigor el 1 de agosto de 2024, estableciendo el marco legal fundamental, aunque con obligaciones inmediatas limitadas. En febrero de 2025, comenzaron a aplicarse los primeros requisitos regulatorios sustantivos, en particular la prohibición de sistemas de IA con riesgos inaceptables y las obligaciones de alfabetización en IA para proveedores e implementadores de sistemas de IA.

La Comisión Europea ha publicado directrices que aclaran el alcance y la aplicación de la Ley de IA. Estas directrices detallan las prácticas de inteligencia artificial prohibidas y proporcionan una guía integral sobre las definiciones de sistemas de IA.

Prácticas de IA Prohibidas

La Ley de IA adopta un enfoque basado en el riesgo, clasificando los sistemas de IA según su potencial de daño a los derechos fundamentales. Los sistemas que presentan "riesgos inaceptables" están completamente prohibidos, incluyendo:

Sistemas Manipulativos: IA que utiliza técnicas subliminales o explota vulnerabilidades de grupos específicos (por ejemplo, edad o discapacidad) de manera que pueda causar daños significativos.
Puntuación Social: El uso de IA para evaluar o clasificar a personas según su comportamiento o características personales está prohibido cuando resulta en un trato injustificado o perjudicial en contextos no relacionados, ya sea por entidades públicas o privadas.
Rastreo Facial No Dirigido: IA que crea bases de datos de reconocimiento facial extrayendo imágenes de internet o CCTV sin dirigirse a individuos específicos.
Clasificación Biométrica: IA que categoriza a personas por datos biométricos para inferir características sensibles como raza, creencias u orientación sexual (excepto el etiquetado legal de conjuntos de datos para fuerzas del orden).
Identificación Biométrica en Tiempo Real en Espacios Públicos: Identificación biométrica remota en tiempo real en espacios públicos para la aplicación de la ley, salvo en casos autorizados y definidos de manera estricta.
Reconocimiento de Emociones: Sistemas en lugares de trabajo e instituciones educativas, salvo aplicaciones médicas o de seguridad limitadas.
Policía Predictiva: Evaluación individual del riesgo criminal basada únicamente en perfiles o rasgos de personalidad.

Requisitos de Cumplimiento

Obligaciones Inmediatas

Los proveedores e implementadores de IA deben garantizar el cumplimiento desde el desarrollo hasta el despliegue. Esto requiere:

Evaluación caso por caso de cada sistema de IA frente a las prácticas prohibidas.
Evaluación de Impacto en Derechos Fundamentales (FRIA) para sistemas de alto riesgo, complementando las evaluaciones de impacto de protección de datos existentes.
Autorización previa para cualquier uso permitido de sistemas de identificación biométrica en tiempo real.

Integración con el Marco Legal

La Ley de IA complementa la legislación existente de la UE, incluyendo el Reglamento General de Protección de Datos, la protección al consumidor y las leyes contra la discriminación. El cumplimiento de la Ley de IA no exime de otras obligaciones legales: las organizaciones deben mantener la conformidad legal integral con todas las normativas aplicables.

Aplicación y Sanciones

El incumplimiento de las prácticas prohibidas puede conllevar sanciones severas: multas de hasta 35.000.000 EUR o el 7% del volumen de negocios anual mundial. Las prohibiciones se aplican de inmediato, pero los mecanismos completos de aplicación serán efectivos a partir del 2 de agosto de 2025.

Puntos Clave

Prohibiciones Explícitas: Ciertos sistemas de IA están prohibidos de forma absoluta por riesgos inaceptables para los derechos fundamentales.
Controles Estrictos: La identificación biométrica y el reconocimiento de emociones son restringidas significativamente, con excepciones limitadas que requieren autorización previa.
Diligencia Debida Obligatoria: Proveedores e implementadores asumen responsabilidad legal por el cumplimiento durante todo el ciclo de vida de la IA.
Cumplimiento en Capas: La Ley de IA se suma, y no sustituye, a las obligaciones legales existentes en la UE.

Marco de Derechos de Autor de la UE para IA Generativa: Derechos y Obligaciones

La Oficina de Propiedad Intelectual de la Unión Europea (EUIPO) publicó en mayo de 2025 un estudio exhaustivo que analiza la intersección entre la inteligencia artificial generativa (GenAI) y los derechos de autor. El informe, "Desarrollo de la Inteligencia Artificial Generativa desde la Perspectiva de los Derechos de Autor", aborda cómo los marcos actuales de derechos de autor deben adaptarse para regular el uso de datos en el entrenamiento de IA y la generación de resultados.

Resumen del Marco Legal

El estudio identifica dos normativas clave de la UE que regulan la interacción entre IA y derechos de autor:

Directiva sobre Derechos de Autor en el Mercado Único Digital (CDSM): Establece excepciones para minería de texto y datos (TDM) con mecanismos de exclusión voluntaria (opt-out).
Ley de IA de la UE: Impone obligaciones a los desarrolladores de IA para identificar y respetar las reservas de derechos.

Estos marcos crean un sistema dual donde los titulares de derechos pueden reservar su contenido del entrenamiento comercial de IA, mientras que los desarrolladores de IA tienen obligaciones legales para respetar estas reservas.

Protección para Titulares de Derechos

Mecanismos de Exclusión (Opt-Out)

Los creadores de contenido pueden proteger sus obras mediante diversos métodos de exclusión:

Medidas legales: Declaraciones unilaterales, restricciones en licencias, términos y condiciones en sitios web.
Soluciones técnicas: Archivos robots.txt, protocolos TDMRep, estándares C2PA, herramientas especializadas de Spawning.ai, TDM.ai de Liccium y ORDE de Valunode.

Estos mecanismos permiten oportunidades de licenciamiento directo y generan nuevas fuentes de ingresos provenientes de desarrolladores de IA que buscan datos de entrenamiento legalmente autorizados.

Obligaciones para Desarrolladores de IA

Requisitos de Cumplimiento

Los desarrolladores e implementadores de IA deben cumplir con obligaciones legales específicas:

Reconocimiento de derechos: Identificar y respetar las declaraciones de exclusión utilizando tecnologías de última generación.
Transparencia: Divulgar públicamente resúmenes jurisprudenciales detallados del contenido utilizado para entrenar modelos de IA de propósito general.
Cumplimiento legal: El incumplimiento puede acarrear responsabilidades significativas, incentivando la demanda de datos de entrenamiento licenciados.

Implicaciones para el Mercado

El marco regulatorio está fomentando un mercado emergente de licencias para datos de entrenamiento de IA. Los titulares de derechos pueden monetizar su contenido mediante acuerdos de licencia directa, mientras que los desarrolladores de IA buscan cada vez más conjuntos de datos de alta calidad y legalmente autorizados para garantizar el cumplimiento.

No obstante, la ausencia de un sistema de exclusión estandarizado genera complejidad tanto para los titulares de derechos como para los desarrolladores de IA, quienes deben navegar por diversas soluciones legales y técnicas.

Puntos Clave

Gestión Proactiva de Derechos: Los creadores de contenido deben implementar activamente mecanismos de exclusión para proteger y monetizar sus obras.
Cumplimiento para Desarrolladores: Las empresas de IA tienen obligaciones legales para respetar las reservas de derechos y mantener la transparencia sobre los datos de entrenamiento.
Mercados Emergentes: Surgen nuevas oportunidades de licenciamiento para conjuntos de datos de IA con autorización legal.
Necesidad de Estandarización: La falta de estándares unificados de exclusión obliga a los actores a adoptar múltiples enfoques técnicos y legales.

Tribunal Federal de EE. UU. Determina que el Uso de Datos para Entrenamiento de IA Constituye Infracción de Derechos de Autor

El 11 de febrero de 2025, el Tribunal de Distrito de EE. UU. para el Distrito de Delaware, en el caso Thomson Reuters Enterprise Centre GmbH y West Publishing Corp. v. Ross Intelligence Inc., sentó un precedente relevante para la protección de derechos de autor en datos de entrenamiento de IA. El tribunal concedió sentencia sumaria a favor de Thomson Reuters, declarando a Ross Intelligence responsable por infracción directa de derechos de autor sobre los resúmenes jurisprudenciales de Westlaw y rechazando la defensa de uso legítimo (fair use) de Ross.

Antecedentes del Caso

Thomson Reuters, propietaria de la plataforma de investigación legal Westlaw, demandó a Ross Intelligence tras el uso por parte de Ross de los resúmenes jurisprudenciales protegidos de Westlaw para entrenar su herramienta de búsqueda legal basada en IA. El tribunal determinó que Ross infringió 2.243 resúmenes jurisprudenciales y que tanto los resúmenes jurisprudenciales como el sistema de clasificación Key Number de Westlaw son obras originales protegidas por derechos de autor, a pesar de resumir opiniones judiciales de dominio público.

El tribunal estableció que existió copia real por parte de LegalEase (proveedor de datos de Ross) y que el contenido copiado era sustancialmente similar al material protegido de Westlaw.

Análisis Jurídico

Rechazo del Uso Legítimo

El tribunal rechazó la defensa de uso legítimo de Ross, destacando varios factores clave:

Competencia Comercial: La IA de Ross competía directamente con Westlaw en el mercado de investigación legal.
Uso No Transformador: Convertir texto protegido en datos numéricos para entrenamiento de IA no constituye automáticamente un uso transformador.
Impacto en el Mercado: El uso afectó mercados potenciales para la concesión de licencias de datos de entrenamiento para IA.

El tribunal distinguió este caso de precedentes que permitían la copia intermedia de código informático, señalando que la IA de Ross, al “escupir opiniones judiciales relevantes”, cumplía la misma función de mercado que la obra original.

Protección de Contenido Editorial

La sentencia refuerza que el juicio editorial y la creatividad en la selección, organización y síntesis de información de fuentes de dominio público pueden generar obras protegidas por derechos de autor. Los resúmenes jurisprudenciales de Westlaw reciben protección por el “grado mínimo de creatividad” involucrado en su creación.

Implicaciones Prácticas

Para Desarrolladores de IA

Esta decisión genera obligaciones inmediatas de cumplimiento para las empresas de IA:

Revisión de Datos de Entrenamiento: Los desarrolladores deben evaluar cuidadosamente el material protegido utilizado para entrenar IA, especialmente si proviene de competidores.
Licenciamiento: Considerar la obtención de licencias para datos de entrenamiento protegidos para evitar reclamaciones por infracción.
Limitaciones al Uso Legítimo: La copia intermedia para entrenamiento de IA no constituye automáticamente uso legítimo.

Para Creadores de Contenido

Protección de Trabajo Editorial: El contenido curado a partir de fuentes de dominio público mantiene protección por derechos de autor.
Mercado de IA: Se abren oportunidades de licenciamiento para datos de entrenamiento de IA.
Derechos de Ejecución: Posición fortalecida para emprender acciones legales contra el uso no autorizado en entrenamiento de IA.

Puntos Clave

Protección de la Creatividad Editorial: El contenido sintetizado de fuentes públicas puede estar protegido por derechos de autor si incorpora una mínima expresión creativa.
Importancia del Uso Competitivo: Los sistemas de IA que compiten directamente con la obra original reciben mayor escrutinio bajo la doctrina de uso legítimo.
Licenciamiento de Datos: Los desarrolladores de IA deben buscar licencias para materiales protegidos y así evitar responsabilidades por infracción.
Uso Legítimo Limitado: Los precedentes sobre código informático no se extienden automáticamente a otros tipos de contenido usado para entrenar IA.

Ley TAKE IT DOWN: EE. UU. Criminaliza Imágenes Íntimas Generadas por IA

La Ley TAKE IT DOWN (Ley Pública N.º 119-12) se promulgó el 19 de mayo de 2025, estableciendo protecciones federales integrales contra la publicación no consentida de imágenes íntimas, incluidas las generadas por inteligencia artificial (“falsificaciones digitales”). La ley introduce nuevos delitos penales y exige a las plataformas en línea procesos obligatorios de retirada de contenido.

Marco Legal

La ley modifica la Sección 223 de la Communications Act de 1934 para prohibir penalmente la publicación deliberada de imágenes íntimas no consentidas, incluyendo:

Falsificaciones digitales: Imágenes íntimas generadas por IA, software o técnicas de aprendizaje automático, indistinguibles de contenido real.
Imágenes auténticas: Publicación de imágenes íntimas reales sin consentimiento.
Amenazas: Responsabilidad penal por amenazar con publicar este tipo de contenido.

La responsabilidad penal se aplica cuando la publicación no responde a un interés público y tiene la intención de causar, o causa efectivamente, daño psicológico, financiero o reputacional a la persona afectada.

Obligaciones para Plataformas

Requisitos de Aviso y Retirada

Antes del 19 de mayo de 2026, las “plataformas cubiertas” deben implementar procesos de retirada eficaces:

Canales accesibles: Proceso claro y visible para que los usuarios reporten imágenes íntimas no consentidas.
Retirada en 48 horas: El contenido debe eliminarse “lo antes posible, y en ningún caso después de 48 horas” tras recibir un aviso válido.
Detección de duplicados: Esfuerzos razonables para eliminar copias idénticas conocidas.

Mecanismos de Ejecución

El incumplimiento de estas obligaciones constituye una práctica comercial desleal o engañosa, sancionable por la Comisión Federal de Comercio (FTC). La ley amplía la jurisdicción de la FTC para incluir organizaciones sin ánimo de lucro en estos casos.

Implicaciones Prácticas

Para Individuos

La ley ofrece remedios legales inmediatos a las víctimas:

Protección penal: Procesamiento federal contra los responsables.
Derecho de retirada: Vía directa para solicitar la eliminación de contenido en plataformas.
Protección ante amenazas: La responsabilidad penal se extiende a las amenazas de publicación.

Para Plataformas en Línea

Revisión de políticas: Evaluación integral de las políticas de moderación de contenido.
Capacidades técnicas: Sistemas capaces de cumplir con plazos estrictos de retirada en 48 horas.
Incertidumbre legal: Posibles conflictos con la inmunidad de la Sección 230 requieren atención jurídica especializada.

Desafíos de Implementación

La ley deja varios términos clave abiertos a interpretación judicial, como la definición de “publicar” y su interacción con marcos legales existentes. Las plataformas deben prepararse para desafíos legales sobre:

Alcance de la inmunidad de la Sección 230.
Coordinación con derechos civiles existentes bajo la Ley de Violencia Contra la Mujer.
Viabilidad técnica de los requisitos de retirada en 48 horas.

Puntos Clave

Cobertura integral: La criminalización federal se extiende tanto a imágenes auténticas como generadas por IA sin consentimiento.
Plazos estrictos: Las plataformas deben establecer procesos de aviso y retirada en 48 horas antes de mayo de 2026.
Aplicación por la FTC: El incumplimiento activa sanciones federales por prácticas comerciales desleales.
Ambigüedades legales: Términos clave y su interacción con otras leyes pueden requerir aclaración judicial.