InicioCiencia y TecnologíaEuropa saca la escopeta: prohibidas todas las IA que no cumplan con...

Europa saca la escopeta: prohibidas todas las IA que no cumplan con estos 8 requisitos

Por Hipertextual
La Ley de Inteligencia Artificial que la Unión Europea aprobó en marzo de 2024 está empezando a tener sus consecuencias. Durante el último año, el organismo ha estado debatiendo cómo aplicarla y ha fijado una serie de fechas límite para cumplir con sus requisitos. El domingo 2 de febrero de 2025 era el último día para adaptarse a las regulaciones del artículo 5, el encargado de englobar todo lo relacionado con la IA y los niveles de riesgo que suponen para la población.

Ahora que el plazo de cumplimiento ha expirado, la Unión Europea tiene vía libre para prohibir las herramientas de inteligencia artificial que considere dentro del nivel de riesgo más avanzado. La Ley de Inteligencia Artificial está diseñada para cubrir una gran variedad ámbitos relacionados con la IA, y uno de los puntos más importantes es qué límites tiene herramienta IA.

En este sentido, la UE ha elaborado una lista de 4 niveles de riesgo en los que situar las diferentes herramientas que tienen cabida entre las empresas y los usuarios bajo su legislación.

Nivel 4. Riesgo Inaceptable. Son aquellas que rompen de pleno con los requisitos impuestos por la UE. No serán supervisadas, pues la intención con las herramientas de este nivel es prohibir su uso y hacer que usuarios y empresas se enfrenten a multas por utilizarlas.

Nivel 1. Riesgo Mínimo. Son herramientas que no estarán bajo ninguna supervisión regulatoria, como por ejemplo, los filtros de spam para el correo basados en IA.

Nivel 2. Riesgo Limitado. Un buen ejemplo son los chatbots de atención al cliente que utilizan la IA para atender a los usuarios y solucionar ciertos problemas. Todas las herramientas de este nivel tendrían una legislación ligera.

Nivel 3. Riesgo Alto. Aquí entran inteligencias artificiales que pueden tomar decisiones más importantes, como las recomendaciones médicas. Toda herramienta que esté en este nivel será supervisada de forma exhaustiva.

¿Cuáles son los requisitos de Europa en relación a lo que puede hacer una IA?

A partir de este momento, los reguladores de la Ley de Inteligencia Artificial pueden prohibir el uso de herramientas completas si estás pasan al nivel 4 y su uso se establece como un riesgo inaceptable. ¿Qué criterio se sigue en este sentido? El artículo 5 de la ley ofrece algunas explicaciones a los requisitos que una IA no puede saltarse.

Como vas a poder comprobar, muchos de estos requisitos son verdaderamente amplios y ambiguos, por lo que la interpretación de los regulares será clave en cada caso que se estudie. Aquí tienes la lista de actividades que incluiría a una IA directamente en el nivel 4.

  1. Una IA no podrá elaborar una lista con puntuaciones sociales basadas en el comportamiento de los usuarios que la utilicen.
  2. No podrá manipular la toma de decisiones de una persona de forma subliminal o engañosa.
  3. Una herramienta IA no podrá explotar situaciones vulnerables como la pobreza, la edad o las discapacidades.
  4. Las IA que intenten predecir qué personas comentarán delitos basándose en su apariencia.
  5. Todas las herramientas que utilicen algún tipo de reconocimiento biométrico para determinar la orientación sexual.
  6. Aquellas herramientas IA que utilicen el reconocimiento facial en tiempo real en lugares públicos.
  7. Las IA que intenten determinar las emociones de una persona en el trabajo o la escuela.
  8. Todas las herramientas que utilicen IA para extraer información personal de Internet o cámaras de seguridad y crear bases de datos.

Todavía no se ha determinado ningún caso explícito de herramientas dentro del nivel 4, ni tampoco cómo se llevará a cabo la prohibición de dicho servicio. Lo que sí ha dejado claro la UE es, que si una empresa utiliza una IA que ha sido catalogada en el nivel 4 y prohibida en el territorio europeo, se enfrentará a multas de hasta 35 millones de euros o el 7% de sus ingresos anuales.